[실습] 제2장 하드웨어 가속
PyTorch는 CUDA(NVIDIA), MPS(Apple Silicon), ROCm(AMD)을 통해 GPU 가속을 지원한다. 핵심 사용 방식은 장치 변수를 만든 다음, 학습을 시작하기 전에 모델과 데이터를 해당 장치로 이동하는 것이다.
PyTorch는 CUDA(NVIDIA), MPS(Apple Silicon), ROCm(AMD)을 통해 GPU 가속을 지원한다. 핵심 사용 방식은 장치 변수를 만든 다음, 학습을 시작하기 전에 모델과 데이터를 해당 장치로 이동하는 것이다.
PyTorch는 실행 시 정의되는 계산 그래프를 기반으로 만든 동적·명령형 딥러닝 프레임워크다. 이것이 기존 정적 그래프 프레임워크와 구별되는 가장 근본적인 차이다. PyTorch에서는 Python 코드가 실행되는 동안 그래프가 생성되므로 Python의 디버깅 기능과 유연성을 그대...
기본적인 PyTorch 개념들을 예제와 함께 정리하고자 한다. 학습 가이드는 설계, 학습, 실제 환경 배포에 필요한 PyTorch 숙련도를 검증하기 위해 총 9개 모듈로 다음과 같이 구성했다.
에이전틱 AI는 1세대처럼 콘텐츠를 생성하는 단순한 생성형 AI에서 진화하여, 사용자의 명시적 요청 없이 목표를 인식하고 작업을 수행하는 자율적 에이전트 시스템을 말한다. 인튜이트(Intuit)는 국내에서는 잘 모르겠지만 미국에서는 회계와 재무 관리 관련 소프트웨어 회사로 크게 알...
지난 실습에서 윈도우11 운영체제에서 Visual Studio Code 개발 도구를 이용해서 직접 코딩을 통해 에이전트 개발하는 방법에 대해 정리해보았다. 이번 노트는 Azure AI Foundry에서 Azure AI Projects 에이전트 프로젝트와 연결된 비동기 AgentsC...
지난 실습에서 Azure AI Foundry Agent Service 의 Foundry Portal 을 이용하여 새 에이전트 생성할 수 있도록 환경 설정과 Agents Playground 에서 테스트를 했다. 그렇다면, 이번 노트는 윈도우11 운영체제에서 Visual Studio ...
Azure AI Foundry Agent Service는 사용자 요구에 맞게 맞춤형 지침을 설정하고, 코드 인터프리터나 사용자 정의 함수와 같은 고급 도구를 활용하여 AI 에이전트를 구성할 수 있도록 지원한다. 이번 실습은 Azure AI Foundry Agent Service의 ...
Azure AI Foundry Agent Service로 첫 번째 에이전트를 생성하는 과정은 에이전트 환경 설정과 여러분이 선택하는 언어별 SDK 또는 Azure Foundry 포털을 사용하여 에이전트를 생성하고 구성 등 두 단계로 이루어진다. 이번 노트에서는 Azure AI Fo...
대부분의 기업은 단순한 챗봇이 아닌 더 빠르고 오류가 적은 자동화를 원한다. 문서 요약, 인보이스 처리, 고객 지원 티켓 관리, 블로그 게시물 발행 등 다양한 업무에서 이러한 자동화가 활용된다. 궁극적인 목표는 반복적이고 예측 가능한 작업을 자동화함으로써 사람과 자원을 더 가치 있...
해마다 7월은 장마로 많은 비가 전국 쏟아지고 있습니다. 모두들 비 피해 없으시기를! 그래서 이번 주 주말은 집에서 최근에 인공지능 회사로 가장 핫 한 ‘오픈AI CEO’인 샘 올트먼 대한 책을 읽고 아래와 같이 저의 생각들을 한 번 정리해 보았습니다.