[OpenAI] 컨텍스트 엔지니어링-세션을 이용한 단기 기억 관리
AI 에이전트는 장시간 이어지는 멀티턴 대화에서 적절한 컨텍스트를 유지해야 한다. 너무 많은 기록을 전달하면 모델이 불필요한 정보에 흔들리고 비용과 지연 시간이 증가한다. 반대로 기록을 지나치게 줄이면 이전 결정과 사용자 요구를 잊어버린다.
최근 포스트
쿠버네티스 환경에서 LLM 운영 시작.md
매주 일요일마다 온라인으로 “Generative AI on Kubernetes” 라는 책을 읽으면서 현업에서 일하는 분들과 스터디를 하고 있으며, 저도 관련해서 발표를 맡아서 진행했다. 오늘은 1장의 내용을 요약해서 정리하도록 하겠다.
DeepSeek의 mHC 논문을 읽고
오늘 아침 페이스북에 하정우 AI미래기획수석이 DeepSeek에서 나온 mHC 논문을 올려서 나도 한번 논문을 읽어 보고 분석해 보았다. 올린 포스팅의 댓글 중에 우스개 소리로 이 논문을 분석하는 것이 공직자의 언어가 아니다(?)라는 댓글도 재미있었다. 안 그래도 이 논문은 중국 ...
OpenAI Agents 패턴(7)-RAG 기반 엔터프라이즈 지식 에이전트
이 예제는 OpenAI Agents SDK를 사용하여 회사 문서를 검색하고 답변하는 지식 기반 AI Agent(RAG Agent)를 만드는 기본 예제를 만들어 보았다. RAG(Retrieval Augmented Generation)는 LLM이 외부 지식을 검색하여 답변 생성에 활용...
OpenAI Agents 패턴(6)-도구들로서의 멀티 에이전트
에이전트를 실행하는 것은 함수를 호출하는 것과 같이 도구(tool)를 호출하는 것이다. 그렇다면 왜 에이전트를 지능적인 도구처럼 사용하지 않는 걸까? 전체 제어권을 새로운 에이전트에게 넘기는 대신, 우리는 그것을 정보를 전달하고 결과를 받는 함수처럼 사용할 수 있다. 도구들로서의 ...
OpenAI Agents 패턴(5)-멀티 에이전트로 핸드오프
멀티 에이진트로 핸드오프 방식은 세 가지 대상층, 즉 성인, 청소년, 어린이를 위한 텍스트를 생성하는 것이다. Research Agent는 정보를 수집한 다음 세 개의 에이전트 중 하나에게 이를 넘긴다. 각 에이전트는 LLM과 통신하지만, 이는 에이전트의 내부 기능으로 간주할 수 ...
OpenAI Agents 패턴(4)-에이전트 기반 핸드오프
에이전트는 이전에 어떤 일이 있었는지를 알아야 할 필요가 있다. 이럴 때 OpenAI의 에이전트 기반 핸드오프(Agentic Handoff)를 사용하는 데, 에이전트 기반 핸드오프(Agentic Handoff)는 프로그래밍 방식의 핸드오프(Programmatic Handoff)와...
OpenAI Agents 패턴(3)-프로그래밍 방식의 핸드오프
많은 에이전트 애플리케이션은 단일 에이전트만 필요하며, 이러한 것들만으로도 ChatGPT와 같은 LLM 채팅 인터페이스에서 제공되는 단순한 채팅 응답 생성보다 한 단계 발전한 것이다. 에이전트는 루프를 돌며 실행되고 도구를 사용할 수 있어서, 단일 에이전트만으로도 상당히 강력하다....
OpenAI Agents 패턴(2)-Tool Use Agent
에이전트는 도구를 사용할 수 있으며, 에이전트는 LLM과 협력해 어떤 도구를 사용할지(또는 사용할 필요가 없는지)를 결정한다. 이번 노트에서는 단일 도구를 사용한 단일 에이전트 패턴에 대해 알아보자!
OpenAI Agents 패턴(1)-간단한 에이전트 호출
OpenAI의 에이전트는 다른 프레임워크과는 확연히 다른 방식으로 접근한다. OpenAI의 오픈소스 SDK를 사용해 간단한 단일 에이전트 앱을 구성하는 방법을 살펴보겠다.