본문으로 건너뛰기

칩 전쟁부터 우주 데이터센터까지:AI 산업의 다음 10년

AI 보조

칩 전쟁부터 우주 데이터센터까지, SaaS의 생사 선택부터 투자의 본질까지——깊이 있는 인터뷰 정선 해설

GPUs, TPUs, & The Economics of AI Explained
Invest Like the Best 팟캐스트 · Patrick O'Shaughnessy 진행YouTube
Gavin Baker
Gavin Baker· 이번 회 게스트
Managing Partner & CIO, Atreides Management

전 Fidelity 포트폴리오 매니저, 18년 투자 경력, 2019년 Atreides Management 설립

투자는 진실을 추구하는 행위입니다. 진실을 먼저 발견하고 올바르게 판단한다면, 그것이 바로 알파를 창출하는 방법입니다. 그리고 그것은 반드시 다른 사람들이 아직 보지 못한 진실이어야 합니다.

이 말은 Atreides Management 창립자 Gavin Baker가 Patrick O'Shaughnessy의 팟캐스트 "Invest Like the Best"에서 한 인터뷰에서 나온 것입니다. Gavin은 테크 투자 분야에서 가장 열정적이고 통찰력 있는 투자자 중 한 명으로 꼽힙니다. 거의 두 시간에 걸친 이 대화는 GPU, TPU, AI 경제학, 우주 데이터센터, SaaS의 미래, 그리고 스키 강사에서 투자자로의 그의 인생 전환점까지 폭넓게 다루고 있습니다.

이 인터뷰는 정보 밀도가 매우 높아서 "잠깐, 한번 생각해봐야겠다"는 순간이 너무나 많았습니다. 다음은 가장 깊이 생각해볼 만한 몇 가지 관점입니다.


AI 발전을 어떻게 추적할까요?먼저 200달러를 쓰세요

인터뷰 초반에 Patrick은 매우 실질적인 질문을 던졌습니다. Gemini 3 같은 새 모델이 출시되면 그 정보를 어떻게 처리하느냐는 것이었습니다.

Gavin의 대답은 직접적이었습니다. 직접 써봐야 한다는 것이었습니다.

하지만 핵심은 "사용"이 아니라 어떤 버전을 사용하느냐에 있습니다. 그는 무료 버전 AI를 써보고 "AI가 별것 아니다"라는 결론을 내리는 투자자들에게 놀라움을 표했습니다.

무료 버전은 10살짜리 아이를 상대하는 것과 같습니다. 그 10살짜리의 모습을 보고 35살이 됐을 때 어떨지를 예측하는 거죠. 유료로 사용할 수 있습니다——실제로 최고 등급 멤버십을 이용하려면 반드시 유료여야 하는데, 월 200달러입니다. 그쪽이야말로 진짜 30~35세 성인입니다.

이 비유는 매우 정확합니다. 국내외 대형 모델의 격차도 비슷한 이치입니다. 많은 사람들이 무료 모델을 잠깐 써보고 "AI가 별것 아니다"라고 생각하지만, Claude 4.5 Opus, Gemini 3 Pro, GPT-5.2 Reasoning 같은 최고급 모델을 사용해본다면 느낌이 완전히 달라집니다.

유료 구독에 관해 말하자면, 저는 매달 다양한 AI 제품 구독에 약 2,000위안 정도를 씁니다. 그 중 큰 부분은 250달러짜리 Claude Code Max 플랜입니다. 개발자로서 코딩 수요가 많다면, 각종 미러 사이트를 이용하지 말고 공식 Claude Code(125달러부터)를 직접 구독하시길 강력히 권합니다. 미러 사이트 뒤에서 실제로 어떤 모델을 사용하는지 알 수 없을 뿐만 아니라, Max 플랜의 가성비는 실제로 매우 높아서 종량제보다 훨씬 저렴하게 계산됩니다.

정보를 얻는 채널로는 Gavin의 답변이 많은 분들에게 의외일 수 있습니다. 바로 **X (Twitter)**입니다.

그는 AI의 발전이 상당 부분 "X 플랫폼에서 실시간으로 일어나고 있다"고 말했습니다. 지구상에서 AI 최전선을 진정으로 이해하는 사람은 약 500~1,000명 정도이며, 상당수가 중국에 있고, 그 사람들을 면밀히 주시해야 한다고 했습니다. 특히 Andrej Karpathy를 언급했습니다.

안드레이 카르파시가 쓴 모든 글은 최소 세 번씩 읽어야 합니다. 최소한.

Andrej Karpathy
Andrej Karpathy· Vibe Coding 제안자
Founder, Eureka Labs

Stanford PhD, OpenAI 창립 멤버, 전 Tesla AI 디렉터, 2024년 AI 교육 회사 Eureka Labs 설립

AI 동향을 주시하는 사람으로서, 저도 이에 깊이 공감합니다. Twitter의 AI 토론은 어떤 뉴스 미디어보다 더 실시간으로, 더 깊이 있게 이루어집니다. 연구소 연구원들이 최신 진전을 직접 포스팅해서 논의하고, 심지어 서로 "논쟁"을 벌이기도 합니다. Gavin은 Meta의 PyTorch 팀과 Google의 Jax 팀이 X에서 공개적인 논쟁을 벌인 적이 있었고, 결국 두 연구소의 책임자들이 나서서 "우리 연구소 사람들은 상대 연구소 험담을 하면 안 된다"고 밝혀야 했다고 언급했습니다.


Scaling Laws:우리의 "고대 이집트의 순간"

Gemini 3가 출시된 후, 많은 사람들이 주목한 것은 이것이 scaling laws(규모의 법칙)에 대해 무엇을 말해주는가였습니다. Gavin은 제가 이전에 들어본 적 없는 시각을 제시했습니다.

사전 학습 scaling laws에 대한 우리의 이해는 고대 이집트인들이 태양을 이해하는 방식과 비슷할지도 모릅니다. 그들은 매우 정밀하게 측정할 수 있었습니다. 대피라미드의 동서 축이 춘분과 추분에 완벽하게 정렬될 만큼, 스톤헨지도 마찬가지로. 완벽한 측정이었습니다. 하지만 그들은 궤도 역학을 몰랐습니다. 왜 태양이 동쪽에서 떠서 서쪽으로 지는지 몰랐습니다.

이 비유는 저를 한참 멈춰서 생각하게 만들었습니다. 우리는 실제로 매우 정밀하게 예측할 수 있습니다. 모델에 컴퓨팅 파워를 10배 늘리면 성능이 얼마나 향상될지를요. 하지만 우리는 왜 그런지 모릅니다. 이것은 "법칙"이 아니라 "경험적 관찰"입니다. 극히 정밀하게 측정하지만 원리는 이해하지 못하는 경험적 관찰인 것입니다.

그렇다면 Gemini 3가 왜 중요할까요?그것이 이 "경험적 관찰"이 여전히 유효함을 증명했기 때문입니다. Blackwell 칩의 지연과 모든 사람들이 "scaling laws가 이미 실패한 것이 아닌가"를 걱정하던 시기에, Gemini 3는 명확한 답을 주었습니다. 실패하지 않았다는 것입니다.

하지만 더 흥미로운 것은 Gavin이 이어서 한 말입니다. "추론 모델(reasoning models)"의 등장이 없었다면, 2024년부터 2025년까지의 AI 발전은 원래 정체되었을 것이라고 했습니다.

왜일까요?XAI가 20만 장의 Hopper GPU 협업 작동을 해결한 이후, 다음 단계는 Blackwell 칩을 기다려야 했기 때문입니다. 20만 장 이상의 Hopper를 "일관성(coherent)"있게——쉽게 말해 하나의 통합체처럼 작동하게——유지할 수 없었습니다. 그런데 Blackwell이 지연된 것입니다.

추론 모델이 없었다면, 2024년 중반부터 지금까지 AI에는 아무런 진전도 없었을 것입니다. 모든 것이 정체되었을 것입니다. 이것이 시장에 무엇을 의미하는지 상상할 수 있나요?우리는 완전히 다른 환경에서 살고 있었을 것입니다. 추론 모델은 어떤 의미에서 AI를 구했습니다. Blackwell 없이도 AI가 계속 발전할 수 있게 해줬으니까요.

이것은 제가 이전에 인식하지 못했던 시각입니다. 추론 모델(예: o1)은 단순히 새로운 기능이 아니라, 실제로 AI 산업 전체의 발전 리듬을 "구했"습니다.


칩 전쟁:Google이 "산소를 빨아들이고 있다"

GPU와 TPU의 경쟁에 관해 이야기하면서, Gavin은 인상 깊은 말을 했습니다.

Google은 현재 토큰의 최저 비용 생산자입니다. 그들이 계속해온 일은 제가 "AI 생태계의 경제적 산소를 빨아들이는 것"이라고 표현하겠습니다——이는 그들에게 극도로 합리적인 전략입니다.

최저 비용 생산자로서, Google은 저가(심지어 손실을 감수하면서)로 AI 서비스를 제공하며 경쟁자들을 힘들게 만들고 있습니다. 이는 테크 업계의 전형적인 전략이지만, Gavin은 흥미로운 변화를 지적했습니다.

AI는 제 커리어에서 처음으로 "최저 비용 생산자"라는 것이 테크 분야에서 진정으로 중요해진 사례입니다. Apple은 저비용으로 스마트폰을 만들어서 수조 달러 시가총액이 된 것이 아닙니다. Microsoft는 저비용으로 소프트웨어를 만들어서 수조 달러 시가총액이 된 것이 아닙니다. NVIDIA도 저비용으로 AI 가속기를 만들어서 수조 달러 시가총액이 된 것이 아닙니다. 이것은 한 번도 중요한 적이 없었습니다.

하지만 AI 시대에 전력이 제한 요소가 되면서, 와트당 얼마나 많은 토큰을 생산할 수 있는가가 결정적으로 중요해졌습니다. 와트당 35배의 토큰을 생산할 수 있다면, 그것은 35배의 수익입니다. 컴퓨팅 가격은 무관해지는데, 병목은 전력이기 때문입니다.

이 구도는 곧 바뀔 것입니다. Blackwell 칩이 드디어 배포되기 시작했고, Gavin은 첫 번째 Blackwell 모델이 XAI에서 나올 것이라고 예측했습니다.

Blackwell

NVIDIA가 2024년에 발표한 차세대 GPU 아키텍처로, Hopper의 후속작입니다. Blackwell은 TSMC 4nm 공정을 채택하여 단일 칩에 2,080억 개의 트랜지스터를 집적하고, FP4 정밀도를 지원하며, AI 추론 성능이 Hopper 대비 약 5배, 에너지 효율은 25배 향상되었습니다. 첫 번째 제품인 B200은 2024년 말부터 양산에 들어갔습니다.

출처: NVIDIA이동

Jensen에 따르면, Elon보다 데이터센터를 더 빠르게 짓는 사람은 없다고 합니다. Jensen이 공개적으로 한 말입니다.

Blackwell과 이후의 Ruben 칩이 대규모로 배포되면, 최저 비용 생산자로서 Google의 우위는 사라질 것입니다. 그때가 되면 그들이 여전히 -30%의 마진으로 AI 비즈니스를 계속 운영하려 할까요?이 셈법은 완전히 달라질 것입니다.


우주 데이터센터:미치광이 같지만 제1원칙으로 보면 맞는 말

Patrick이 "잘 논의되지 않는 황당한 아이디어가 있느냐"고 물었을 때, Gavin은 우주 데이터센터 이야기를 시작했습니다. 처음에는 농담인 줄 알았지만, 그의 분석을 다 듣고 나서 이것이 인터뷰 전체에서 가장 선견지명 있는 부분일 수 있다는 것을 깨달았습니다.

제1원칙의 관점에서 보면, 우주 데이터센터는 모든 차원에서 지구상의 데이터센터보다 우수합니다.

그의 논거는 다음과 같습니다.

1. 에너지:우주에서 위성은 24시간 햇빛에 노출될 수 있으며, 태양 복사 강도는 지상보다 6배 높습니다. 게다가 항상 햇빛이 있으므로 배터리가 필요 없습니다. 배터리는 비용의 상당 부분을 차지합니다. 따라서 태양계에서 가장 저렴한 에너지원은 "우주 태양광"입니다.

2. 냉각:지구상의 데이터센터는 비용과 무게의 상당 부분이 냉각에 사용됩니다. 하지만 우주에서는 어떨까요?냉각이 무료입니다. 방열판을 위성의 음영 면에 설치하면, 그곳은 절대영도에 가깝습니다.

3. 네트워크:데이터센터 내부에서 랙 사이는 광섬유로 연결됩니다. 본질적으로 레이저가 케이블을 통해 전달되는 것입니다. 이보다 더 빠른 것은 무엇일까요?레이저가 진공을 통과하는 것입니다. 따라서 우주의 위성들을 레이저로 연결하면, 네트워크가 실제로 지상 데이터센터보다 더 빠릅니다.

4. 사용자 경험:지금 AI에게 질문하면, 신호가 휴대폰에서 기지국을 거쳐, 광섬유를 통해, 어떤 데이터센터로 가서 계산한 후 다시 돌아옵니다. 하지만 위성이 휴대폰과 직접 통신할 수 있다면(Starlink는 이미 휴대폰 직접 연결 기능을 증명했습니다), 전체 경로가 훨씬 짧아집니다.

물론 이를 위해서는 Starship의 대규모 발사가 필요하고, 아마 5~6년은 더 걸릴 것입니다. 하지만 Gavin은 흥미로운 수렴을 지적했습니다. Tesla, SpaceX, XAI가 합류하고 있습니다. XAI는 Optimus 로봇의 "지능 모듈"이 되고, SpaceX는 우주에 데이터센터를 구축해 AI에 컴퓨팅 파워를 제공하며, 이 세 회사는 서로 경쟁 우위를 강화하는 선순환 구조를 형성하고 있습니다.


SaaS의 "불타는 플랫폼"

앞의 내용이 AI의 미래에 대해 흥분감을 느끼게 했다면, 이 부분은 많은 기존 기업의 미래에 대해 우려를 갖게 할 수 있습니다.

Gavin은 직접적으로 말했습니다. 애플리케이션 SaaS 기업들은 오프라인 소매업체들이 전자상거래에 맞섰을 때 저질렀던 것과 완전히 동일한 실수를 범하고 있다고 말입니다.

오프라인 소매업체들은 당시 아마존을 보며 "전자상거래는 저마진 사업인데, 어떻게 우리보다 효율적일 수 있겠느냐?지금 고객들이 스스로 돈 내고 매장에 와서 물건을 직접 들고 간다"고 생각했습니다. 그들은 고객의 니즈를 분명히 보면서도, 전자상거래의 마진 구조가 마음에 들지 않아 투자를 거부했습니다. 결과는 어떻게 됐을까요?아마존의 북미 소매 비즈니스 마진은 현재 많은 전통 소매업체보다 높습니다.

SaaS 기업들은 지금 같은 상황에 처해 있습니다. 전통적인 소프트웨어는 한 번 만들면 무한정 복사 배포할 수 있어 매출총이익률이 80~90%에 달할 수 있습니다. 하지만 AI는 다릅니다. 매번 사용할 때마다 새로 계산해야 하므로, 좋은 AI 기업의 매출총이익률은 40%에 불과할 수 있습니다.

AI 에이전트를 만들고 싶은데 35% 이하의 마진으로 운영하기 싫다면, 절대 성공하지 못할 것입니다. AI 네이티브 기업들은 바로 그 마진으로 운영하고 있으니까요. 80%의 마진을 지키고 싶다면, AI 분야에서 성공하지 못한다는 것을 스스로 보장하는 겁니다. 절대적인 보장입니다.

Gavin은 이것이 "생사를 가르는 결정"이라고 말하며, Microsoft를 제외하고 거의 모든 기업이 실패하고 있다고 했습니다.

그는 Nokia의 유명한 "불타는 플랫폼" 메모를 인용했습니다. 당신의 플랫폼이 불타고 있습니다. 하지만 옆에 아주 좋은 새 플랫폼이 있고, 그쪽으로 뛰어넘어간 다음 돌아와서 원래 플랫폼의 불을 끌 수 있습니다. 그러면 이제 두 개의 플랫폼이 생기는 것입니다.

Salesforce, ServiceNow, HubSpot, GitLab, Atlassian——그는 이 모든 기업들이 다음 전략을 실행할 수 있고 또 해야 한다고 봅니다. AI 수익을 공개하고, AI 매출총이익률을 공개하며(낮은 마진이야말로 "진정한 AI"임을 증명합니다), 그런 다음 아직 적자인 벤처캐피털 지원 경쟁자들을 가리키며 "나는 그들이 없는 것을 갖고 있다: 현금흐름을 창출하는 사업"이라고 말하는 것입니다.


한 투자자의 성장 이야기

인터뷰 마지막에 Patrick은 좀 더 개인적인 질문을 했습니다. 젊은 사람들에게 자신이 하는 일을 어떻게 소개하겠느냐는 것이었습니다.

Gavin의 대답은 "투자는 진실을 추구하는 행위"에서 시작했지만, 진정으로 흥미로운 것은 그의 인생 이야기였습니다.

원래 그의 계획은 이랬습니다. 겨울에는 스키 강사, 여름에는 래프팅 가이드, 비수기에는 암벽등반을 하며 소설 쓰기와 야생동물 사진을 시도하는 것이었습니다. 이것이 대학 시절 그의 "인생 계획"이었고, 부모님도 많이 지지해주셨습니다.

하지만 부모님은 한 가지 작은 부탁을 했습니다. 전문직 인턴십을 딱 하나만, 무엇이든 상관없으니 해볼 수 없겠느냐고요.

그가 찾을 수 있는 유일한 인턴십은 한 증권사의 프라이빗 웰스 매니지먼트 부서였습니다. 일은 간단했습니다. 회사가 리서치 보고서를 발행할 때마다, 어떤 고객들이 해당 주식을 보유하고 있는지 확인한 다음 보고서를 발송하는 것이었습니다.

그러다가 그는 그 보고서들을 읽기 시작했습니다.

제 생각에 "세상에, 이게 내가 상상할 수 있는 가장 흥미로운 일이구나"라는 생각이 들었습니다.

그는 투자를 "기술과 운이 공존하는 게임"으로 이해했습니다. 포커와 비슷합니다. 운이 나빠서 질 수도 있습니다——예를 들어 투자한 회사 본사에 운석이 떨어진다든지——하지만 대부분의 경우 기술이 중요합니다. 우위를 얻는 방법은 가장 철저한 역사적 지식과 현재 세계에 대한 가장 정확한 이해를 결합하여, "다음에 무슨 일이 일어날 것인가"에 대한 차별화된 판단을 형성하는 것입니다.

그것은 인턴십 3일째 되던 날이었습니다. 그는 서점에 가서 Peter Lynch의 책을 사서 이틀 만에 다 읽었습니다. 그런 다음 Warren Buffett을 읽고, 『Market Wizards』를 읽고, 버핏이 주주들에게 보낸 편지를 읽었습니다——두 번씩이나요. 그리고 회계를 독학했습니다. 학교로 돌아간 후 전공을 영어와 역사에서 역사와 경제학으로 바꿨습니다.

그는 또한 청소부로 일했던 경험을 언급했습니다. Alta 스키장에서 아르바이트를 할 때 객실 청소를 했습니다. 한번은 방을 청소하던 중 투숙객이 읽고 있는 책이 자신이 읽고 있는 책과 같은 것을 보고, "좋은 책이네요, 저도 마침 비슷한 부분을 읽고 있었어요"라고 말했습니다. 상대방은 그를 외계인 보듯이 바라보다가 더욱 놀란 표정으로 물었습니다. "청소하는 사람이 책도 읽어요?"

이 일은 다른 사람들을 대하는 방식에 영구적인 영향을 미쳤습니다.


에필로그:AI가 무엇을 필요로 하든 얻게 됩니다

인터뷰가 거의 끝날 무렵, Gavin은 제가 가장 흥미롭다고 느낀 말을 했습니다.

지난 2년간, AI가 계속 발전하기 위해 무엇이 필요하든 그것을 얻었습니다. 미국 대중의 여론이 원자력 문제에 대해 이렇게 빠르게 바뀐 것을 본 적 있나요?그냥 그렇게 됐습니다. 그것도 정확히 AI가 그것을 필요로 할 때. 이제 지구상의 전력 한계에 부딪히자, 갑자기 우주 데이터센터에 관한 논의가 등장했습니다. AI 발전을 늦출 수 있는 병목이 생길 때마다, 모든 것이 오히려 가속화되었습니다.

이것은 Kevin Kelly가 『기술은 무엇을 원하는가(What Technology Wants)』에서 제시한 "technium"(기술권) 개념을 떠올리게 합니다. 기술은 하나의 전체로서 점점 더 강력해지려는 나름의 의지를 가진 것처럼 보입니다.

이것이 우연일 수도 있습니다. 단지 많은 똑똑한 사람들이 문제를 해결하는 것일 수도 있습니다. 하지만 Gavin이 관찰한 이 패턴——AI가 장애물에 부딪힐 때마다 그 장애물이 어떤 방식으로든 제거된다——은 분명 깊이 생각해볼 만한 가치가 있습니다.

댓글

목차