서진호

2 분 소요

NVIDIA GTC(GPU Technology Conference)는 NVIDIA가 매년 주최하는 세계 최대 규모의 AI 및 GPU 기술 컨퍼런스이다. 최신 GPU 아키텍처, 생성형 AI, 자율주행, 로보틱스, HPC, 디지털 트윈 등 GPU 기반의 첨단 기술을 소개하고 논의하는 자리로 자리매김하고 있다.

특히, GTC에는 개발자, 연구자, 데이터 과학자, 기업 CTO, 산업 전문가 등 다양한 기술 분야의 리더들이 참가하며, NVIDIA CEO 젠슨 황(Jensen Huang)의 키노트 발표가 매년 큰 주목을 받고 있다. 왜냐하면, GTC에서는 최신 하드웨어(GPU, Grace Hopper 등)와 플랫폼(NIM, Omniverse, CUDA, TensorRT 등)이 공개되며, 각 산업 분야에서 GPU를 활용하는 실제 사례도 공유되기 떄문이다.

이처럼 GTC는 단순한 기술 발표를 넘어, NVIDIA 생태계의 미래 방향과 업계 트렌드를 엿볼 수 있는 자리로, AI 시대를 준비하는 모든 개발자와 기업에게 매우 중요한 행사로 자리잡고 있다. 그렇다면, 이번 GTC 2025에는 어떠한 내용들이 밝혀 졌는 지 다음과 같이 요점을 정리해보았다.

1. AI의 새로운 시대: 에이전틱 AI와 물리적 AI

  • 젠슨 황 CEO는 AI 분야의 중요한 진전을 “에이전틱 AI”와 “물리적 AI”라는 두 가지 주요 트렌드로 정의하며 키노트를 시작함.
  • 에이전틱 AI (Agentic AI): AI가 주체성을 가지고 상황을 이해하고, 추론하며, 계획을 세우고 실행하고, 도구를 사용할 수 있는 능력. 이를 가능하게 하는 핵심은 리즈닝 (Reasoning) 능력이며, AI는 사고 사슬(CoT), 일관성 검사, 다양한 경로 탐색 등의 기술을 활용하여 단계별로 추론하고 문제를 분석할 수 있게 되었음.
  • 에이전틱 AI의 발전을 위해서는 데이터 문제 해결과 인간 개입 없는 훈련 방법이 중요하며, 강화 학습과 합성 데이터 생성이 핵심적인 역할을 함.
  • 물리적 AI (Physical AI): AI가 물리적 세계, 3차원 공간을 이해하고 상호 작용하는 능력임. 마찰, 관성, 인과관계, 물질의 영속성 등을 이해하며, 이는 로보틱스 분야의 혁신을 이끌 것.

2. AI 팩토리: 생성형 컴퓨팅 모델로의 전환과 새로운 인프라

  • AI의 발전은 컴퓨팅 수행 방식을 검색 기반에서 생성 기반 컴퓨팅으로 근본적으로 변화시키고 있다.

  • AI는 맥락을 이해하고 요청의 의미를 파악하여 필요한 정보를 검색하는 대신 답변을 생성하는 컴퓨팅과 같은 새로운 인프라를 AI 팩토리 (AI Factory)라고 명명함.

  • AI 팩토리는 막대한 양의 토큰을 생성하고 이를 다양한 형태의 정보 (음악, 단어, 영상, 과학 데이터 등)로 재구성하는 역할.

  • AI 팩토리 구축은 데이터 센터 설계 및 구축 방식의 혁신을 요구하며, NVIDIA Omniverse Blueprints를 활용한 디지털 트윈 기반 설계 및 최적화가 중요함.

3. NVIDIA 블랙웰(Blackwell) 아키텍처와 압도적인 성능 향상

  • 새로운 블랙웰(Blackwell) 아키텍처는 이전 세대인 호퍼(Hopper) 대비 압도적인 성능 향상을 제공함. 특히, AI 추론 워크로드에서 40배에 달하는 성능 향상을 보임.
  • 블랙웰은 더 작아진 폼팩터와 향상된 에너지 효율성을 제공하며, 새로운 4비트 부동 소수점 (FP4) 정밀도를 통해 더 적은 전원 에너지로 더 많은 작업을 수행할 수 있음.
  • 블랙웰 기반의 AI 팩토리는 Hopper 기반 대비 훨씬 높은 토큰 생성 능력과 에너지 효율성을 제공함. (100MW 팩토리 기준, 호퍼: 3억 토큰/초, Blackwell: 비공개지만 압도적인 차이 강조)
  • 스케일 업 (Scale-Up)의 중요성을 강조하며, 블랙웰 NVLink 72 랙은 단일 랙에서 엑사플롭스 컴퓨팅 성능을 제공하는 극단적인 스케일 업을 가능하게 함.

4. 출처

  • GTC 2025 키노트: https://www.youtube.com/watch?v=_waPvOwL9Z8
  • NVIDIA 테크 블로그: https://blogs.nvidia.co.kr/blog/nvidia-keynote-at-gtc-2025-ai-news-live-updates-2/

댓글남기기