엔터프라이즈 기업들이 GPU가 활용률이 5% 밖에 안되는 이유
지난 2년 동안 엔터프라이즈 기업들은 “GPU 확보 경쟁”이라는 명분 아래 과도한 데이터센터 투자와 비대한 IT 예산을 정당화해 왔습니다. (미국 기업 기준). H100 같은 GPU는 사실상 새로운 석유처럼 취급됐고, 지금 용량을 확보하지 않으면 AI 경쟁에서 뒤처질 것이라는 분위...
최근 포스트
NVIDIA Triton Inference Server 주요 컴포넌트
NVIDIA Triton Inference Server 에서 가장 핵심적인 Model Store, Model Analyzer, Model Performance Analyzer 등의 주요 컴포넌트 및 도구에 대해 정리해 보도록 하겠습니다.
NAND 스토리지 수요가 급증한 SanDisk 실적
샌디스크가 AI 붐으로 NAND 스토리지 수요가 급증했고, 장기 공급계약과 60억 달러 자사주 매입을 발표했다고 로이터가 보도했습니다. 특히, 샌디스크가 1~5년짜리 장기 공급계약 5건을 체결했고, 그중 3건은 총 420억 달러 규모라고 합니다. 이러한 결과는 샌디스크가 단순한 소...
NVIDIA, 차세대 GPU Rubin CPX 공개
미국 캘리포니아주 산타 클라라에서 개최되고 있는 AI Infra Summit 2025에서 발표된 엔비디아(NVIDIA)사의 차세대 GPU 루빈(Rubin) CPX 공개에 대해 노트를 정리해보도록 하겠습니다.
[AX] 회계와 재무 분야의 에이전틱 AI로 구현한 인튜이트
에이전틱 AI는 1세대처럼 콘텐츠를 생성하는 단순한 생성형 AI에서 진화하여, 사용자의 명시적 요청 없이 목표를 인식하고 작업을 수행하는 자율적 에이전트 시스템을 말한다. 인튜이트(Intuit)는 국내에서는 잘 모르겠지만 미국에서는 회계와 재무 관리 관련 소프트웨어 회사로 크게 알...
Azure AI Foundry Agent Service(5)-[실습] 에이전트 비동기화 호출
지난 실습에서 윈도우11 운영체제에서 Visual Studio Code 개발 도구를 이용해서 직접 코딩을 통해 에이전트 개발하는 방법에 대해 정리해보았다. 이번 노트는 Azure AI Foundry에서 Azure AI Projects 에이전트 프로젝트와 연결된 비동기 AgentsC...
Azure AI Foundry Agent Service(4)-[실습] Visual Studio Code 에서 새 에이전트 개발
지난 실습에서 Azure AI Foundry Agent Service 의 Foundry Portal 을 이용하여 새 에이전트 생성할 수 있도록 환경 설정과 Agents Playground 에서 테스트를 했다. 그렇다면, 이번 노트는 윈도우11 운영체제에서 Visual Studio ...
Azure AI Foundry Agent Service(3)-[실습] Foundry portal 에서 새 에이전트 생성
Azure AI Foundry Agent Service는 사용자 요구에 맞게 맞춤형 지침을 설정하고, 코드 인터프리터나 사용자 정의 함수와 같은 고급 도구를 활용하여 AI 에이전트를 구성할 수 있도록 지원한다. 이번 실습은 Azure AI Foundry Agent Service의 ...
Azure AI Foundry Agent Service(2)-지능형 에이전트 구축 환경 설정
Azure AI Foundry Agent Service로 첫 번째 에이전트를 생성하는 과정은 에이전트 환경 설정과 여러분이 선택하는 언어별 SDK 또는 Azure Foundry 포털을 사용하여 에이전트를 생성하고 구성 등 두 단계로 이루어진다. 이번 노트에서는 Azure AI Fo...
Azure AI Foundry Agent Service(1)-지능형 에이전트 구축을 위한 통합 플랫폼 개요
대부분의 기업은 단순한 챗봇이 아닌 더 빠르고 오류가 적은 자동화를 원한다. 문서 요약, 인보이스 처리, 고객 지원 티켓 관리, 블로그 게시물 발행 등 다양한 업무에서 이러한 자동화가 활용된다. 궁극적인 목표는 반복적이고 예측 가능한 작업을 자동화함으로써 사람과 자원을 더 가치 있...