서진호

최근 포스트

엔터프라이즈 기업들이 GPU가 활용률이 5% 밖에 안되는 이유

4 분 소요

지난 2년 동안 엔터프라이즈 기업들은 “GPU 확보 경쟁”이라는 명분 아래 과도한 데이터센터 투자와 비대한 IT 예산을 정당화해 왔습니다. (미국 기업 기준). H100 같은 GPU는 사실상 새로운 석유처럼 취급됐고, 지금 용량을 확보하지 않으면 AI 경쟁에서 뒤처질 것이라는 분위...

NVIDIA Triton Inference Server 주요 컴포넌트

1 분 소요

NVIDIA Triton Inference Server 에서 가장 핵심적인 Model Store, Model Analyzer, Model Performance Analyzer 등의 주요 컴포넌트 및 도구에 대해 정리해 보도록 하겠습니다.

NAND 스토리지 수요가 급증한 SanDisk 실적

1 분 소요

샌디스크가 AI 붐으로 NAND 스토리지 수요가 급증했고, 장기 공급계약과 60억 달러 자사주 매입을 발표했다고 로이터가 보도했습니다. 특히, 샌디스크가 1~5년짜리 장기 공급계약 5건을 체결했고, 그중 3건은 총 420억 달러 규모라고 합니다. 이러한 결과는 샌디스크가 단순한 소...

OpenAI Agents SDK로 시작하는 에이전틱 AI 애플리케이션 개발

4 분 소요

ChatGPT 등장 이후 대규모 언어 모델(LLM)은 자연어 이해와 생성 능력에서 놀라운 발전을 보여주었다. 하지만 실제 업무 환경에서는 단순히 질문에 답하는 모델을 넘어, 스스로 목표를 이해하고 필요한 도구를 호출하며 여러 작업을 조합하는 에이전틱(Agentic) AI가 요구되고...

[실습] OpenAI Agents SDK 로그 설치부터 트레이싱

10 분 소요

이번 블로그에는 agents sdk 상에서 어떻게 로깅하고 트레이싱하는 지 보여주는 예제이다. agents-sdk-trace-demo 프로젝트는 주문 상담과 답변 검토 과정을 OpenAI Agents SDK의 워크플로 trace로 기록하는 Python 실습 프로젝트다.

[실습] OpenAI Agents API 로그를 활용한 디버깅

5 분 소요

이번 블로그는 기본적이지만 OpenAI 개발자들에게는 많이 사용하는 OpenAI Agents API 로그를 활용한 디버깅이다. 사용하는 하는 언어는 언제나 Python 언어(Python 3.10 이상 권장)이다. 따라서, 이 예제는 Python 가상환경에서 Responses API...

메모리 6배 절약, 속도는 8배 키운 구글 터보퀀트

2 분 소요

어제 SK하이닉스와 삼성전자 주식이 엄청나게 빠졌다. 바로 구글 터보퀀트(TurboQuant) 기술 때문이라는 이야기가 나왔다. 도대체 어떤 기술인지 궁금해서 논문을 찾아 읽어 보고 정리해 보았다.

AWS·구글·AMD가 설계한 ‘포스트 GPU’ 시대

1 분 소요

지난 1월호가 NVIDIA GPU 중심의 AI 팩토리 였다면, 이번 MIT 테크 리뷰 저널 코리아 2월호는, NVIDIA GPU와 경쟁하고 있는 구글 TPU, AWS 트레니엄, 그리고 AMD 최신 칩 전략에 대해 살펴 보는 글을 기고했다.