서진호

10 분 소요

이번주 ALL-IN 서밋에서 엔비디아의 젠슨황 스피치 중에 도널드 트럼프 대통령이 난데없이 전화(?)가 와서 화제가 되었던 인터뷰 내용을 전체 올라와 한번 정리해 보겠다. (물론 트럼프 대통령이 전화온 것은 100% 연출이지 않을까 한다.) 또한, 사회자가 첫 젠슨황이 무대로 오르자 “GPU 구세주”라고 칭찬하는 것도 웃겼다.

그림 1. ALL-IN Summit

참고로 올인 서밋(ALL-IN Summit)은 미국의 유명 기술·투자 팟캐스트인「올인 팟캐스트」가 매년 개최하는 비즈니스·기술·투자·정책 중심의 리더십 서밋이다. 올인 팟캐스트는 차마트 팔리하피티야, 제이슨 칼라카니스, 데이비드 색스, 데이비드 프리드버그가 진행하며 기술, 시장, 경제, 사회와 공공정책을 폭넓게 다룬다.

  • 차마트 팔리하피티야(Chamath Palihapitiya): 페이스북 초기 고위 임원을 거쳐 투자사 소셜 캐피털(Social Capital)을 설립한 실리콘밸리 벤처투자자이자 기업가다.
  • 제이슨 칼라카니스(Jason Calacanis): 우버 등에 초기 투자한 것으로 유명하며, 스타트업 투자사·액셀러레이터 론치(LAUNCH)를 설립한 엔젤투자자이자 팟캐스터다.
  • 데이비드 색스(David Sacks): 페이팔 최고운영책임자와 야머(Yammer) 창업자를 거친 크래프트 벤처스(Craft Ventures) 투자자로, 트럼프 행정부에서 AI·암호화폐 정책 관련 역할도 맡고 있다.
  • 데이비드 프리드버그(David Friedberg): 농업기술 기업인 클라이밋 코퍼레이션(The Climate Corporation)을 창업해 몬산토에 매각한 뒤, 과학·농업·바이오 분야 투자사인 더 프로덕션 보드(TPB)를 이끄는 기업가다.

1. 핵심 요약

  • AI 안전과 AI 리더십은 양자택일이 아니며, 종말론적 공포나 포괄적 규제보다 실제 문제의 원인을 찾아 기술·평가·감사 시스템으로 해결하는 엔지니어링 접근이 중요하다는 주장함
  • AI 경쟁의 핵심은 누가 기술을 먼저 발명했느냐보다 누가 경제·산업·사회에 가장 잘 활용하느냐이며, 중국의 실용적 AI 전략과 엔비디아의 인프라·공급망 생태계 전략 중요하다.
  • 클로즈드 모델과 오픈 모델은 함께 필요하며, RSI·AGI·오픈소스 논쟁 역시 공포보다는 실제 활용·통제·검증 체계를 중심으로 바라봐야 한다.

질문 1: 다리오 아모데이의 주말 에세이를 어떻게 해석하는가?

  • AI 안전과 리더십의 양자택일 프레임 비판: 안전 자체는 매우 중요하고 진지하게 다뤄야 하지만, 혁신·실행 속도를 늦추거나 리더십을 포기하는 것을 전제로 삼는 것은 잘못된 선택지(false choice)라고 보았다. 미국은 빠르게 혁신하고 실행하면서도 동시에 안전하게 AI 경쟁을 주도할 수 있다는 입장이다
  • 내부고발과 종말론적 예측의 분리: 앤스로픽 내부고발자 제이콥 콕슨이 문제의식을 제기한 것은 용기 있는 행동이며 심각하게 조사해야 할 사안이라고 평가했다. 다만 내부적인 통제 문제 제기와 과학적 근거가 부족한 문명 종말·파국 예측을 하나로 엮는 것에는 명확히 선을 그었다.
  • 연구 조직에서 엔지니어링 조직으로의 전환 과정: 랩들이 연구(Research) 중심에서 엔지니어링(Engineering) 중심으로 체질을 바꾸는 과정에서 일시적으로 관리나 통제가 서툴거나 혼란스러울 수 있다고 설명했다. 만약 특정 기업이 스스로 통제하기 어렵다고 판단한다면 자발적으로 속도를 조절하거나 멈출 수는 있으나, 이를 외부 규제 이슈나 전체 생태계의 문제로 확대하는 것은 바람직하지 않다고 짚었다

질문 2: 왜 이런 종말론적 예측들이 계속 틀리는가, 그리고 프론티의 랩들의 동기는 무엇인가?

  • 종말론적 예측의 허구성: 10% 인류 멸종 확률 같은 종말론적 예측은 과학적 근거 없이 꾸며낸 이야기에 불과하다고 강하게 비판했다. 고학력 연구자들의 입에서 나오다 보니 대중에게 경고처럼 들릴 뿐, 실제 과학에 기반한 주장이 아니며 매우 무책임한 발언이라고 지적했다.

  • 과거 AI 예측들의 완벽한 실패: 5년 안에 방사선과 의사가 AI로 전면 대체될 것이라는 예측은 완전히 빗나가 오히려 의사가 더 많이 필요해졌음을 짚었다. 또한 6~12개월 내에 코드의 90%를 AI가 작성할 것이라는 예측, 단기간에 신입 일자리 50%가 사라질 것이라는 예측, 특정 모델이 배포하기엔 너무 위험하다는 예측 등 지금까지의 극단적 예측들이 모두 틀렸음을 상기시켰다.

  • 프론티어 랩들의 공개적 행보에 대한 아쉬움: 이들 랩이 역사상 가장 중요한 기술을 만드는 훌륭한 기업임은 인정하지만, 과거의 훌륭한 기업들이 그랬던 것처럼 ‘조용히(in silence)’ 회사를 키우고 기술을 개발해야 한다고 꼬집었다. 대중 앞에서 공포를 조장하는 논쟁을 벌이는 현 상황이 매우 불행한 일이라고 평가했다.

  • 엔비디아의 문화와 대조: 엔비디아는 직원이 개인의 기분이나 화에 휩싸여 회사를 대표해 발언하는 것을 금지한다고 밝혔다. 정치, 인종, 종교 등 외부 논쟁은 철저히 회사 밖에서 하도록 분리하며, ‘조용히(as quietly as we can)’ 의미 있는 본업에 집중하는 것이 직원들에게 안정감을 주는 엔비디아의 핵심 문화라고 설명했다.

질문 3: AI 규제의 올바른 방향은 무엇인가?

  • AI 규제 배경: 마이크로소프트의 사티아 나델라는 측정과 표준화부터 갖추자는 입장이고, 구글 딥마인드의 데미스 하사비스는 FINRA식 감독기구를, 앤트로픽의 다리오 아모데이는 초국가적 감독기구를 이미 제안해둔 상태임

  • 실제 문제 해결에 집중: 규제는 가상의 종말론이 아니라 ‘실제 발생하는 문제(actual problems)’를 해결하는 데 초점을 맞춰야 한다. 지금까지의 사고들은 막대한 컴퓨팅 파워를 가진 소수의 프론티어 랩에서만 발생했으며, 개인이나 일반 스타트업은 컴퓨팅 자원의 한계상 이런 거대한 문제를 일으킬 수조차 없다고 선을 그었다.

  • 엔지니어링 관점의 근본 원인 파악: 문제가 발생했을 때 섣부른 규제나 두려움에 앞서, 엔지니어링 관점에서 근본 원인(root cause)을 파악하는 것이 우선이다. 프론티어 랩들은 뛰어난 엔지니어들을 보유하고 있으므로 이미 샌드박스, 런타임 모니터링 등의 기술적 도구를 통해 문제를 자체적으로 해결하고 통제력을 갖춰나가고 있을 것이라고 신뢰를 보였다.

  • 독립적인 제3자 복수 감사 제도: 기업 스스로의 통제와 더불어, 금융권의 재무 감사와 유사하게 ‘독립적인 제3자 평가(third-party evaluators)’ 제도를 두는 방식을 긍정적으로 평가했다. 특히 평가자를 단일 기관이 아닌 복수로 두어 특정 조직이 한 방향으로 치우치거나 잘못된 영향을 받는 것을 막는 장치가 필요하다고 강조했다.

질문 4: 재귀적 자기개선(RSI)은 통제 불능 위협인가?

  • 재귀적 자기개선(RSI): AI가 인컨텍스트 학습, 강화학습, 합성 데이터 생성 등 다양한 기술을 결합해 스스로 성능을 향상시키고, 그 결과를 다시 다음 학습에 반영하여 지속적으로 발전해 나가는 과정을 말한다.

  • 새로운 개념이 아닌 기존 기술의 조합: 젠슨 황은 RSI(Recursive Self-Improvement)가 완전히 새로운 위협적 기술이 아니라 인컨텍스트 학습(in-context learning), 스킬, 리플렉션(reflection), 강화학습(reinforcement learning), 합성 데이터 생성(synthetic data generation) 등 이미 사용되고 있는 매우 합리적이고 상식적인 기술들의 조합일 뿐이라고 설명했다. 모델의 가중치를 직접 건드리지 않고 개선하는 LoRA 기법 등을 활용해 생산성을 높이는 논리적인 과정이라는 것이다.

  • 통제 불능 서사의 허구성과 무기화: 젠슨 황은 RSI라는 용어가 최근 기술을 무기화하거나 통제 불능 상태로 빠질 것처럼 대중에게 인상을 주기 위해 의도적으로 사용되고 있다고 비판하며, 통제 불능 위협이라는 주장은 전혀 사실이 아니라고 일축했다.

  • 내부 통제 프로세스의 존재: 기업 내부에서 아무리 RSI를 반복 수행하더라도, 최종 제품을 출시하기 전에는 반드시 평가, 재테스트, 회귀 테스트(regression testing) 등을 거쳐야 한다고 강조했다. 프론티어 랩들이 엔지니어링 조직으로 성숙해감에 따라 지식, 실무, 도구, 기술 등을 기반으로 한 통제력은 점점 더 강력해질 것이며, 이를 통해 회사 내부에서 안전하게 RSI를 수행하고 우수한 제품을 외부에 출시할 수 있다고 설명했다.

질문 5: 오픈소스, 클로즈드소스, 오픈웨이트 생태계는 어떻게 정리되는가?

  • 클로즈드 모델과 오픈 모델의 공존: 세상에는 두 가지 모델이 모두 필요하다. 젠슨 황은 클로즈드 모델(소스 및 가중치둘다 공개하지 않는 모델)을 ‘병에 담긴 물’에 비유하며, 물 자체는 무료라도 상황과 필요에 맞는 제품화된 물을 적절히 소비하듯 모델들도 그렇게 사용될 것이라고 설명했다.

  • 오픈 모델의 필요성과 역할: 국가나 기업의 주권(sovereignty), 프라이버시, 독자적 기술 확보를 위해 오픈 모델이 필수적이라고 강조했다. 최근 6개월간 AI 네이티브 기업에 유입된 4,000억 달러의 벤처 투자금 중 80%가 오픈 모델을 사용하고 있음을 근거로 들며, 수많은 기업이 각자의 비전을 구축하려면 오픈 모델이 있어야 한다고 짚었다.

  • 중국의 오픈소스 주도에 대한 실용적 시각: 현재 전 세계 오픈소스 기여의 대다수가 중국(수많은 과학/수학 인재 풀을 보유)에서 나오고 있는 것은 사실이나 이를 위협으로만 보지 않았다. 과거의 기업과 개발자들이 리눅스 소스 코드를 다운로드하고 포크(fork)하여 자사만의 안전하고 독립적인 시스템을 구축했던 것처럼, 오늘날의 기업들도 외부에 데이터가 유출될 걱정 없이 공개된 AI 모델의 가중치(Weights)를 내부망에 다운로드하고 미세조정(Fine-tuning)하여 완전히 자사만의 고유한 AI로 만들어 쓸 수 있다는 동일한 가치와 원리를 강조했다.

질문 6: AI 경쟁의 진짜 본질은 무엇이고, 왜 중국의 서사가 더 잘 먹히는가?

  • 경쟁의 본질은 발명이 아닌 ‘활용’: AI 경쟁의 진정한 핵심은 ‘누가 기술을 개발했느냐’가 아니라 ‘누가 그 기술을 가장 잘 활용(exploit)하느냐’에 달려있다고 역설했다. 과거 전기 기반의 산업혁명 당시 맥스웰, 볼타, 앙페르 등 핵심 발명가는 모두 유럽인이었지만, 그 기술을 사회적으로 가장 잘 수용하고 활용해 큰 번영을 누린 것은 미국이었음을 상기시키며 다음 세대도 마찬가지일 것이라고 강조했다.

  • 중국의 서사가 설득력을 얻는 이유(실용주의): 중국의 접근 방식이 훨씬 더 실용적(practical, pragmatic)이기 때문이라고 평가했다. 중국에는 AI가 문명을 끝장낼 것이라는 식의 종말론을 퍼뜨리는 그룹이 없으며, AI를 단순히 ‘경제와 사회를 발전시킬 기술’로만 바라본다는 것이다.

  • 종말론적 공포의 원인과 대응: 사람들은 인간이 한 번도 가본 적 없는 미지의 영역(frontier)에 대해 본능적인 두려움을 느끼기 때문에 쉽게 공포에 전염된다고 보았다. 또한 이는 세대적 경험의 차이일 수도 있다며, 자신이 젊은 엔지니어였던 시절(소프트웨어 대중화 이전)에는 하루 종일 타이핑을 하지 않았음을 예로 들었다. 타이핑(코딩) 이전에도 훌륭한 엔지니어링이 존재했던 것처럼, AI가 코딩을 대체하더라도 여전히 위대한 엔지니어링은 계속될 것이라는 낙관적인 시각을 보였다.

질문 7: 트럼프 대통령의 깜짝 전화(아래는 트럼프 의견)

  • 젠슨황이 폰의 스피커커는 법을 모르자: 무대 위에서 깜짝 전화를 받은 젠슨 황과 진행자들이 트럼프의 목소리를 관객에게 들려주기 위해 휴대전화를 스피커폰으로 전환하고 마이크에 대는 과정에서 잠시 우왕좌왕했다. 마침내 연결이 되자 트럼프는 “인생의 참 재미있는 점은, 젠슨이 향후 10년간 아무도 복제할 수 없는 세상에서 가장 복잡한 컴퓨터 칩은 만들어내면서 정작 나를 스피커폰으로 연결하는 방법은 모른다는 것”이라고 농담을 던져 청중의 웃음을 자아냈다. (저도 웃겼음)

  • AI 데이터센터의 가치와 반대 여론 비판: AI 데이터센터 건립을 반대하는 여론은 사기(스캠)라고 비판했다. 데이터센터는 향후 20~25년간 지역사회와 주를 부유하게 만들 ‘석유’와 같으며, 그 파급력은 인터넷보다 훨씬 크다고 평가했다.

  • AI 종말론 일축: 로봇이 세계를 지배할 것이라는 두려움 역시 사기라고 규정했다. AI 기술에 대해 신중하게 접근해야 하는 것은 맞지만, 그러한 두려움 때문에 산업의 발전 자체를 멈추게 하지는 않을 것이라고 강조했다.

  • 미국의 AI 경쟁 승리를 최우선 과제로 설정: 미국이 AI 경쟁에서 승리하는 것을 국가적 최우선 순위로 꼽았다. 쇠락하던 지역이 데이터센터 유치 후 부유해진 실제 사례를 근거로 들며, 미국의 모든 산업, 기업, 주, 국민이 AI 경쟁에서 승리할 수 있도록 만드는 것이 목표라고 밝혔다.

  • 투자 유치 성과 과시: 바이든 행정부 4년 동안 이루어진 투자가 1조 달러 미만이었던 것에 비해, 자신의 임기 1년 만에 20조 달러 규모의 투자가 이루어졌다며 경제적 성과를 비교해 강조했다.

질문 8: 트럼프가 종말론 서사를 ‘사기’라 부르며 지지율 손해를 감수하는 이유를 어떻게 해석하는가?

  • AI 반대 논리의 모순 지적: 젠슨 황은 많은 사람들이 종말론에 속아 넘어가는 상황에서 트럼프가 이를 어떻게 간파했는지 자신도 정확히는 모르겠다면서도, AI 반대 서사가 어떻게 변화해 왔는지 짚었다. 처음에는 ‘국가 안보(National Security)’를 명분으로 삼았으나 그 논리가 깨지자, 이제는 ‘안전(Safety)’으로 구실을 바꿔가며 반대를 이어가고 있다고 지적했다.

  • 통제와 평가 시스템을 통한 실질적 안전 확보: 만약 ‘안전’이 진정한 목적이라면 공포를 조장해 산업을 막을 것이 아니라 실용적인 해결책을 마련해야 한다고 주장했다. 구체적으로는 AI 랩들이 스스로를 잘 통제하고 있는지 증명할 수 있는 좋은 테스트 환경을 만들고, 금융권의 회계 감사처럼 ‘독립적인 제3자 평가자(third-party evaluators)’를 복수로 두어 안전성을 객관적으로 검증하는 방식이 타당하다고 설명했다.

질문 9: 밸류체인 상단인 모델과 애플리케이션 레이어까지 직접 올라갈 계획은 없는가?

  • ‘필요한 만큼 위로, 가능한 한 낮게’: 엔비디아의 기본 전략은 생태계 확장을 위해 ‘필요한 만큼 위로 올라가되, 가능한 한 가장 낮은 레이어에 머무는 것’이라고 밝혔다.

  • 기반 기술 발명과 생태계 만개 유도: 만약 엔비디아가 cuDNN이나 메가트론(Megatron) 코어 같은 기반 기술을 직접 만들지 않았다면 현재의 프레임워크나 대규모 AI 학습 자체가 불가능했을 것이라고 설명했다. 따라서 산업에 꼭 필요한 기술을 선제적으로 발명한 뒤, 생태계 내에서 ‘천 개의 꽃이 피어나도록(let a thousand flowers bloom)’ 돕는 역할을 한다고 강조했다.

  • 경쟁이 아닌 모두의 성공 도모: 모델과 애플리케이션 영역에서 남의 파이를 뺏으며 경쟁하기보다는, 모든 기업이 엔비디아 위에서 성공하도록 돕는 것이 낫다는 철학을 짚었다. 그 결과 1년 반 전만 해도 엔비디아 플랫폼에서 구동되는 프론티어 모델은 OpenAI뿐이었으나, 현재는 메타, 그록(Grok), 제미나이, 앤스로픽 등 세계 최고 수준의 모델들이 모두 엔비디아 플랫폼 위에서 돌아가게 되었다고 덧붙였다.

질문 10: 하이퍼스케일러 대신 다수의 네오클라우드를 지원하는 이유는?

  • 하이퍼스케일러의 느린 계획 주기와 시장의 높은 변동성: 빅테크 하이퍼스케일러들은 통상 1년 단위로 장기 인프라 계획을 수립한다. 그러나 현재 AI 시장의 역학 관계는 매우 변동성이 크기 때문에 이들의 계획은 빗나가기 쉽다. 실제로 초기 네오클라우드의 핵심 고객 중 상당수가 바로 이 하이퍼스케일러들이었다.

  • 지역 네오클라우드의 기민성과 현지 자원 확보력: 특정 지역이나 국가에 기반을 둔 네오클라우드들은 매우 민첩하게 움직인다. 미국 본사(시애틀이나 팔로알토)에 앉아 있는 글로벌 빅테크 기업들이 전 세계 곳곳을 세밀하게 파악하기 어려운 반면, 현지 네오클라우드들은 각 지역의 토지(land), 전력(power), 건물 외관(shell)을 훨씬 유리하고 빠르게 확보할 수 있다.

  • ‘소버린(Sovereign) AI’ 트렌드와 분산 인프라 네트워크: 전력과 데이터가 전략적 자산으로 부상하면서, 많은 국가들이 자국의 전력을 자국 기업에만 우선 배분하려는 흐름이 강화되고 있다. 엔비디아는 호주(Fermas), 동남아(IOH) 등 각국의 민첩한 네오클라우드들과 협력함으로써 기가와트(GW) 규모의 분산형 글로벌 인프라 네트워크를 확장해 나가고 있다.

질문 11: 오픈소스 프론티어 모델에서 금메달을 노리는가?

  • 5개 핵심 도메인에서의 선도적 위치: 언어 모델(네모트론, Nemotron), 자율주행(알파모, Alpamo), 생물학/단백질 모델군 등 이미 5개 주요 영역에서 프론티어 수준의 모델을 직접 구축하고 입지를 확보했다고 밝혔다.

  • 고객의 실질적 필요(Need)에 기반한 개발: 시장을 파괴(disrupt)하려는 목적이 아니라, 엔비디아의 기술 역량과 ‘고객이 실제로 필요로 하는 요구’에 부응하기 위해 만든다고 설명했다.

  • 추론 기반 자율주행 모델(Alpamo)의 당위성: 알파모는 방대한 도로 주행 데이터를 무작정 학습하는 대신 추론(reasoning)을 통해 문제를 분해하여 작동한다. 일반 자동차 제조사, 트럭, 농기계(AgTech) 기업들은 자율주행 풀스택을 자체 개발할 만한 규모가 되지 않기 때문에, 엔비디아가 기반 스택을 제공하고 각 기업이 최종 미세조정을 할 수 있도록 돕는 역할을 한다고 설명했다.

  • 바이오 및 신약 개발 모델 생태계 기여: ESM2, ESMFold, AlphaFold 2 가속 및 단백질 복합체 합성 모델 등은 일라이 릴리(Eli Lilly)나 머크(Merck) 같은 제약사들이 연구 개발에 꼭 필요로 하지만 직접 구축하기 어려운 기술들이었기에 선제적으로 개발해 생태계에 기여한 것이라고 덧붙였다.

질문 12: 일론 머스크의 테라팹과 중국의 리소그래피 추격을 어떻게 보는가?

  • 일론 머스크의 실행력 존중: 일론 머스크는 한 번 무언가를 하겠다고 결심하면 멈추기 힘든 엄청난 실행력(superpower)을 가진 인물이라고 평가했다.

  • 중국의 첨단 리소그래피 확보 시점: 중국이 첨단 리소그래피 기술을 국산화하여 자체 확보하는 시점을 2030년경으로 내다보았다. 중국은 대규모 양산(high volume production)에 매우 강한 국가이므로 기술 확보는 결국 시간문제일 뿐이라고 짚었다.

  • 시간을 바라보는 관점 (‘이미 도달했다’는 가정): 젠슨 황 본인은 기업을 운영할 때 수십 년 단위(decades)의 장기적인 시각으로 생각하기 때문에, 2030년까지 남은 몇 년의 시간은 찰나(just a click)에 불과하다고 말했다. 따라서 비즈니스와 전략을 구상할 때 중국은 ‘이미 그 기술에 도달했다(they’re already there)’고 가정하고 대비하는 것이 맞다는 관점을 제시했다.

질문 13: AGI와 초지능은 이미 도달했는가?

  • 범용 인공지능(AGI) 도달에 대한 동의: ‘인간만큼 똑똑한 수준’이라는 기준에서 볼 때, 우리는 이미 AGI의 순간에 도달해 있다(we’re already there)는 의견에 깊이 공감했다.

  • 좁은 영역(Narrow Segment)에서의 초지능 도달: 젠슨 황은 AGI를 넘어선 ‘초지능(Superintelligence)’ 역시 이미 도달했다고 평가했다. 다만 모든 것을 다 잘하는 전지전능한 형태가 아니라, 특정 ‘좁은 영역’에 한정했을 때 그렇다는 의미다.

  • 초지능의 실제 사례: 자율주행차를 예로 들며, “자율주행차더러 오믈렛을 만들라고 할 필요는 없으며 인간보다 운전만 잘하면 된다”고 설명했다. 실제로 인간 사고율의 10분의 1 수준으로 운전하는 자율주행차는 그 자체로 초지능이며, 가상 스크리닝이나 단백질 합성 분야 역시 이미 초지능의 수준에 이르렀다고 덧붙였다.

14. 참고 자료

댓글남기기