최근 포스트

OpenAI 에이전트 도커 워크삽 (1)

3 분 소요

이 블로그는 윈도우11 운영체제 환경에서 Powershell을 포함한 Visual Studio Code를 이용해 OpenAI Agents SDK 앱을 개발하고, 최종 결과물을 리눅스 도커 이미지(Linux Docker image)로 빌드하여 Windows용 Docker Deskto...

사람보다 빠르게 늘어나는 AI Agent의 토큰 소비

6 분 소요

최근 AI 인프라에 대한 투자가 왜 이렇게 빠르게 증가하고 있을까. GPU와 HBM뿐 아니라 데이터센터, 네트워크, 전력, 냉각 설비까지 AI를 둘러싼 거의 모든 인프라 영역에서 대규모 투자가 이어지고 있다.

[실습] OpenAI용 Tech Blog Writer 플러그인(1)-개발

1 분 소요

OpenAI Skills-only Plugin 프로젝트용으로 Skill 정의와 Plugin 메타데이터를 편집하고 Git으로 관리하며 ChatGPT/Codex에서 설치해 테스트하는 실습에 대해 초보자들도 쉽게 할 수 있도록 가이드를 작성해 보도록 하겠다.

[실습] OpenAI용 Hello Plugins 플러그인 개발

6 분 소요

오픈AI용 플러그인 첫 프로젝트인 Hello Plugins 플러그인 아키텍처를 분석하고 파이썬으로 개발하고 오픈AI Sites 에 배포해서 실행하도록 하는 실습을 해보도록 하겠다. 따라서 “ChatGPT/Codex가 호출할 수 있는 Python MCP 도구”를 구현한 최소 Open...

모델 서빙 시스템 설계 (2)

2 분 소요

첫번째 블로그에 이어서 Hands-On LLM Serving and Optimization 책에서 모델 서빙 시스템 설계 두번째 블로그 내용은 vLLM 과 멀티 모델 서빙에 대한 핵심 질문과 답변을 작성해 보았다.

모델 서빙 시스템 설계 (1)

2 분 소요

매주 일요일 저녁 약 50명 이상의 AI 인프라 담당자와 엔지니어들과 함께 온라인 스터디로 Hands-On LLM Serving and Optimization 책을 스터디 하는 데, 제 3 장 LLM 서빙 시스템 디자인의 내용을 읽고 궁금한 질문 사항을 답변과 함께 정리해보겠다.

메타 로컬 AI 에이전트를 위한 30B 모델 ‘Muse Glimmer’ 공개

4 분 소요

메타는 작년 봄 쯤에 Llama 4 Scout와 Maverick을 발표한 이후 새롭게 조직과 모델을 재구성해서 메타 수퍼인텔리전스 랩스(Meta Superintelligence Labs)ㅇ서 새로운 Muse family의 첫 모델인 Muse Spark를 올 초에 발표했다. 현재 M...

MCP Plugin과 Agent Plugin의 차이점

1 분 소요

비슷한 개념들이 많이 나와서 MCP 플러그인과 Agent 플러그인이 어떤 점이 다른지 한번 비교 분석해 보도록 하겠다. 최근 ChatGPT, Claude, Codex와 같은 AI 개발 도구가 발전하면서 MCP(Model Context Protocol) 와 Agent Plugin이라...