Inference Will Be $10TRN Market: What No One Sees

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론

Inference Will Be $10TRN Market: What No One Sees를 중심으로, 추론 시장의 성장과 공급자의 수익성은 별개다. 라오는 노동과 가치 창출의 일부가 기술 지출로 이동해 거대한 시장이 열리지만, 토큰를 핵심 판단 포인트로 압축 정리한다.

📌 핵심 요점

1. 추론 시장의 성장과 공급자의 수익성은 별개다. 라오는 노동과 가치 창출의 일부가 기술 지출로 이동해 거대한 시장이 열리지만, 토큰 가격 하락으로 추론 서비스의 마진은 압박받을 수 있다고 본다.
2. 전력 공급이 AI 확장의 제약이 될 수 있다. 기존 설비의 여유 용량을 활용하는 단계가 끝나면, 추가 연산 공급은 신규 전력 인프라의 건설 속도와 비용에 영향을 받는다.
3. 효율 개선의 핵심은 모델·컴퓨터 구조·물리 장치의 공동 설계다. 낮은 비트 수, 데이터 이동 감소, 희소성에 맞춘 구조를 통해 같은 에너지로 더 많은 지능을 제공하는 것이 경쟁 기준이 된다는 주장이다.
4. 전통적 SaaS와 독립적인 코딩 도구의 투자 매력에는 회의적이다. 반면 AI와 인간을 결합해 고객이 원하는 결과를 빠르고 저렴하게 제공하는 사업에는 기회가 있다고 보며, Harvey를 사례로 든다.
5. 생성이 빨라질수록 검증과 판단의 가치가 커진다. 에이전트의 장기 의사결정에는 오류 위험이 남아 있고, 전문가는 요구사항과 결과의 품질을 판단해야 한다. 추론 효율이 개선되면 이러한 지능의 활용 범위가 로보틱스와 물리적 작업으로 넓어질 수 있다는 전망이다.

🧩 배경과 문제 정의

• AI 수요가 늘어도 발전·전력 인프라를 같은 속도로 확충하기는 어렵다. 기존 설비의 여유 용량이 소진되면 전력 공급이 AI 성장의 제약이 될 수 있다.
• 반도체의 물리적 효율 개선이 둔화하면서, 모델·컴퓨터 구조·물리 장치를 함께 설계해 에너지 사용을 줄이는 접근이 중요해지고 있다.
• AI는 연구와 개발의 속도를 높이지만, 생성한 결과물의 정확성과 유용성을 검증하는 부담도 키운다. 자동화를 확대하려면 요구사항 정의와 판단 능력까지 해결해야 한다.

🕒 시간순 섹션별 상세정리

1. 하드웨어 투자와 추론 시장에 대한 성장 전망

• 라오는 향후 10년 동안 하드웨어가 유망한 투자처가 되고, 순수 소프트웨어 투자자는 어려움을 겪을 것이라고 본다 [00:39]
• 추론 시장이 10년 안에 10조 달러 규모에 이를 것이라고 전망한다 [00:44]

2. 데이터센터 전력 증가는 기존 설비의 여유 용량에 의존한다

• 라오가 접한 업계 수치로는 1GW 규모의 전력 인프라를 구축하는 데 약 500억 달러가 필요하다. 반도체 공장 건설비로 제시한 200억~300억 달러와 비교해도 비용과 복잡성이 크다 [01:44]
• 최근 데이터센터에 공급한 추가 전력은 주로 기존 설비의 가동률을 높여 확보했다. 미국 전력망은 평균 출력이 약 900GW이고 최대 출력은 약 1.2~1.3TW라는 추정 아래, 이 차이에 해당하는 여유 용량을 활용해 왔다 [02:17]

3. 중국의 인프라 확충과 미국의 혁신 역량은 강점이 다르다

• 라오는 중국이 약 20년 동안 미국보다 여섯 배 빠르게 전력 인프라를 건설해 2023년쯤 총용량에서 앞섰다고 보여준다. 석탄 등 오염을 유발하는 방식도 사용했지만, 미국의 투자 부족 역시 향후 부담이 될 것으로 본다 [03:11]
• 중앙집중적 계획은 대규모 인프라 확충에 유리하고, 미국의 체제는 새로운 기술 영역을 여는 혁신에 강점이 있다는 판단이다. 중국에서도 단순한 모델 증류를 넘어 실질적인 혁신이 일어나고 있음을 인정한다 [04:00]

4. 여유 전력이 소진되면 AI 성장도 건설 속도에 묶인다

• 보수적인 AI 성장률을 적용해도 수년 안에 기존 전력 여유 용량이 부족해질 수 있다고 전망한다. 그 이후에는 추가 전력을 확보하는 속도가 신규 인프라 건설 속도에 수렴하게 된다 [04:59]
• 현재 조건에서 연간 40GW를 건설한다는 계획은 실현하기 어렵다고 본다. 연간 10GW만 건설해도 대단한 성과이며, 앞서 제시한 비용 기준으로 약 5,000억 달러가 필요하다. 새로운 발명이 향후 건설 여력을 바꿀 가능성은 열어 둔다 [05:25]

5. AI 인프라 시장의 흔들림은 수요 붕괴보다 일시적 조정에 가깝다

• GPU와 신규 전력 인프라에 대한 수요는 결국 AI 서비스 수요에 달려 있다. 라오는 아직 수요의 표면만 건드렸으며, 향후 몇 년간 기술 문제가 해결되면 지금은 알지 못하는 새로운 수요도 생길 것으로 예상한다 [06:11]
• 이런 관점에서 최근 시장의 불안은 거품 붕괴보다 일시적인 흔들림에 가깝다고 본다. 암 치료처럼 구현은 어렵더라도 성공하면 사람들이 원하는 기술을 예로 들어, 기술적 난도와 도입 수요를 구분한다 [06:43]

6. 데이터센터는 더 비싼 전력을 감당할 수 있다

• 개별 계약의 구체적인 수치는 확보하지 못했지만, 전력망을 직접 거치지 않는 별도 전력 공급 계약에서는 일반 전력망보다 높은 요금을 지불하는 사례를 접했다고 한다. 데이터센터용 전력과 일반 용도 전력 사이에 가격 차등이 나타나고 있다는 판단이다 [07:28]
• 애리조나에서 몇 GW 규모를 구축하려는 Bloom Energy 계약 같은 시도는 추가 공급의 돌파구가 될 수 있다. 다만 실제 성과는 아직 충분히 입증되지 않았고, 경제성도 기존 전력망과 다르다고 지적한다 [08:05]

7. 물리적 미세화 대신 낮은 비트 수가 효율 개선을 이끌었다

• 라오는 컴퓨터 효율을 물리 장치, 컴퓨터 구조, 모델의 세 층으로 나눈다. 소자를 작게 만들어 에너지 사용과 밀도를 개선하던 물리적 발전은 대체로 멈췄으며, 최근 GPU와 다른 칩에서도 이 층의 효율 향상이 크지 않다고 본다 [09:16]
• 최근 여러 세대의 주요 개선은 32비트에서 16비트·8비트·4비트로 자료형을 줄이는 방식에서 나왔다. 이동하고 계산하는 비트 수를 줄여 컴퓨터 구조 차원에서 효율을 높인 것이다 [10:15]

8. 모델까지 바꾸는 에너지 우선 공동 설계

• 모델 수준에서 데이터의 지역성을 높이고 이동량을 줄이는 영역에는 아직 개선 여지가 크다. 컴퓨터를 지능을 제공하는 물리 장치로 보면 모델부터 컴퓨터 구조와 물리 장치까지 함께 설계할 수 있다 [10:34]
• 에너지 우선 설계에서는 모델 자체도 변경 대상으로 삼으며, 모든 설계 선택이 에너지 이점을 만들어야 한다. ENIAC의 탄도 계산부터 GPU의 렌더링까지 이어진 속도 중심의 발전과 달리, 물리적 개선이 둔화한 지금은 모델과 구조의 효율을 직접 겨냥해야 한다는 주장이다 [11:36]

9. 희소성의 잠재력을 실현하려면 하드웨어도 함께 바뀌어야 한다

• 모델 효율은 한계에 가까워진 상태가 아니라고 본다. 표준 GPU에서 소프트웨어 아이디어로 가령 5%의 효율 개선을 얻더라도, 기존 물리 구조 때문에 그 아이디어를 더 깊게 활용하지 못할 수 있다 [15:14]
• 계산 단위 사이의 연결을 줄이는 희소성도 GPU에서 일부 이점을 제공하지만, 일반적인 칩 외부 메모리 구조에서는 효과가 제한된다. 뇌에서 지능과 물리 구조가 함께 진화한 것처럼, 희소성을 활용하도록 장치를 설계하면 훨씬 큰 개선이 가능하다는 주장이다 [15:41]

10. 지능에 특화된 하드웨어가 범용적인 능력을 제공할 수 있다

• 라오는 연산이 작업별로 특화되는 방향을 확신한다. 컴퓨터는 다양한 생산성 도구로 발전해 왔지만, 이제는 지능을 물리적으로 구현한다는 목적에 맞춰 다시 최적화할 단계라고 본다 [16:48]
• 특정 작업에 맞춘 하드웨어도 뇌처럼 폭넓은 지능을 구현할 수 있다는 관점이다. GPU 역시 이미 작업에 맞춘 구조이며, 앞으로 지능을 제공하는 데 더욱 강하게 최적화될 것으로 예상한다 [17:41]

11. 엔비디아의 성공 이후 경쟁 기준은 신경망의 효율과 확장성이다

• 칩 특화가 확대돼도 전체 시장은 매우 커질 것으로 본다. 엔비디아는 AI의 중요성을 일찍 인식하고 투자했으며, 라오는 2014년 GTC에서 그래픽 분야의 반발에도 AI를 강조했던 젠슨 황의 판단과 실행을 높이 평가한다 [18:41]
• 과거 용도에서 AI 중심으로 컴퓨터 구조가 전환된 지금, 새로운 설계의 핵심 평가 기준은 신경망을 얼마나 효율적으로, 큰 규모로 실행하느냐가 된다는 판단이다 [19:39]

12. 하드웨어의 가치는 에너지를 지능으로 바꾸는 능력에서 나온다

• 라오는 칩이 곧 범용 상품으로 평준화될 것이라는 전망에 동의하지 않는다. 생물과 인간 집단 사이의 경쟁처럼 더 나은 판단과 적응이 필요한 경쟁이 계속되므로, 지능 수요에는 한계가 없다는 관점을 제시한다 [20:41]
• 지능을 만들려면 에너지가 필요하며, 그 에너지를 지능으로 변환하는 수단이 하드웨어다. 여기에는 칩뿐 아니라 시스템·클라우드·네트워크 전체가 포함된다 [22:00]

13. AI는 연구 질문을 검토하는 시간을 줄여 탐색 범위를 넓힌다

• 집중은 여전히 중요하지만, AI 덕분에 기업이 탐색할 수 있는 범위는 넓어졌다고 본다. 첫 칩의 결합 발진기 설계에서는 연결 구조에 따라 잡음이 여러 단계를 거치며 정보를 얼마나 훼손하는지 파악할 필요가 있었다 [23:04]
• 과거에는 연구팀의 일정과 코드 작성·확인 때문에 대략적인 답을 얻는 데 약 2주가 걸릴 수 있었다. 이제는 모델이 만든 코드를 직접 살펴보고 반복해서 질문해 약 한 시간 안에 답을 얻을 수 있어, 같은 시간에 더 많은 가능성을 검토할 수 있다 [23:58]

14. 생성보다 검증이 병목이며, 검증에는 요구사항이 필요하다

• 모델은 많은 결과물을 빠르게 만들지만 품질이 뒤섞여 있고 정확성을 확인하기 어렵다. 생성량이 늘어난 만큼 검증을 대규모로 수행하는 문제가 남는다 [24:34]
• AI 생성 이미지를 실제 장면으로 받아들이는 사례처럼, 결과를 직관적으로 걸러내는 능력에는 차이가 있다. 기업에서도 코드와 모델 등 각 결과물이 정확한지 확인해야 하므로, 병목이 생산에서 검증으로 이동하고 있다는 진단이다 [25:49]

15. 에이전트 신뢰의 핵심은 답 생성보다 판단 능력이다

• 현재 많은 상황에서 에이전트의 결정을 인간만큼 신뢰해서는 안 된다고 본다. 신경외과 의사가 의대 이후에도 7년간 훈련하는 이유는 봉합 같은 동작뿐 아니라, 여러 사례와 결과를 경험하며 판단력을 쌓아야 하기 때문이다 [28:27]
• 확률적인 모델에 여러 번 질문하면 서로 다른 답이 나오며, 이는 가능한 해결책의 분포를 탐색하는 과정이다. 그중 좋은 해답을 고르는 단계가 별도로 필요하고, 라오는 생성된 답 가운데 상당수가 좋지 않다고 지적한다 [29:06]

16. 에이전트의 신뢰성 한계와 학습된 전문성의 가치

• 의사결정 사슬이 길어질수록 AI가 잘못된 방향으로 갈 가능성이 커지고, 견고해 보이지만 완전히 틀린 결과도 나올 수 있다. 이 한계를 넘으려면 추가적인 돌파구가 필요하다는 판단이다. [30:14]
• 에이전트를 자신보다 더 신뢰하는 미래는 가능하다고 보지만, 현재는 그 단계에 이르지 못했다. 전문성은 사라지기보다 다른 형태로 이어질 것으로 본다. [30:55]

17. 데이터의 방어력은 규모보다 전문화와 학습 과정에서 나온다

• 데이터 시장은 전문화될 것으로 예상한다. 중요한 문제를 해결하는 기술과 데이터에 집중하면, 기술별 가치가 크게 갈리는 멱법칙적 구조 속에서 크고 방어력 있는 시장을 만들 수 있다는 논리다. [33:15]
• 대량의 관측값을 모으는 초기 데이터 사업은 범용재에 가까웠지만, 코딩이나 사고 과정에 적합한 고품질 데이터셋을 구성할수록 가치가 커진다. 모델이 학습 내용의 구현체라는 점에서 데이터 계층의 중요성이 지속될 것으로 본다. [33:56]

18. 강화학습의 중요성과 계산 효율은 별개의 문제다

• 강화학습은 계산량이나 비용당 모델 개선 정도로 보면 오히려 비효율적일 수 있다. 그럼에도 중요한 과제의 성능을 계속 높일 수 있어 향후 몇 년간 중요한 역할을 할 것으로 예상한다. [35:25]
• 전문화는 중간 학습 단계뿐 아니라 사전학습에도 들어갈 수 있다. 다만 업계가 당장의 다음 문제를 풀기 위해 학습 방식을 계속 덧붙이는 만큼, 미래의 지배적 패러다임을 단정하기는 어렵다. [35:53]

19. 선두 경쟁의 속도가 대형 연구소의 장기 혁신을 제약한다

• 주요 모델 기업은 출시가 한 달만 늦어져도 큰 타격을 받을 만큼 경쟁이 빠르다. 이 때문에 새로운 AI 패러다임에 장기적으로 투자하는 큰 위험을 감수하기 어렵다는 진단이다. [36:29]
• xAI가 자원과 인력을 확보해 빠르게 선두권에 도달한 사례는, 기존 패러다임 안에서는 알려진 구성요소를 결합하고 신속하게 실행하는 능력이 크게 작용했음을 보여준다고 해석한다. [36:51]

20. 강화학습은 검증 가능한 보상으로 데이터의 한계를 보완한다

• 테니스 서브를 배울 때 좋은 동작의 내부 기준을 만들고 자신의 수행을 반복 평가하듯, 강화학습은 행동과 피드백을 연결한다. 모든 과제를 해결할 만큼 데이터를 모으는 것은 불가능하고, 모델의 데이터 활용 효율도 충분하지 않다는 것이 그 필요성의 근거다. [38:24]
• 중요한 과제를 정하고 속도나 성공 여부처럼 검증 가능한 보상을 마련하면, 어떤 행동이 좋은 결과를 만들었는지 평가할 수 있다. 이러한 구조가 다양한 과제를 해결하는 학습 수단이 된다는 점에서 강화학습에 기대를 건다. [39:02]

21. 트랜스포머 이후에는 더 효율적인 추론 방식이 등장할 수 있다

• 지능의 핵심은 이미 가진 정보를 재현하는 것보다, 정보가 부족할 때 원리와 작동 방식에 대한 이해를 바탕으로 문제를 푸는 능력이라고 본다. 현재 트랜스포머의 추론은 여러 경로를 생성하고 비교해 더 나은 경로를 선택하는 방식에 크게 의존한다는 설명이다. [40:00]
• 긴 추론 기록을 다시 다른 모델의 입력으로 넣는 방식은 매우 비효율적이라고 평가한다. 뇌가 이런 방식으로 작동하지 않는다는 점을 들어, 알고리즘적으로 더 효율적이고 성능이 높은 방식이 트랜스포머를 넘어설 것으로 예상한다. [40:42]

22. AI 시대 창업자에게는 실행력과 함께 미래에 대한 관점이 필요하다

• 창업의 기본 원칙은 유지되지만, 미래에 대한 관점과 비전의 중요성은 더 커졌다고 본다. 과거에는 느린 대기업보다 잘 실행하는 것만으로도 회사를 만들 수 있었지만, 이제 실행력만으로는 멀리 가기 어렵다는 판단이다. [41:25]
• 일부 지능은 이미 범용재가 되고 있다고 본다. 출시된 지 6개월 된 중국의 공개 모델도 충분히 유용하며, 일부 문제에서는 최첨단 성능이 중요하더라도 그 수준이 이후 공개 모델로 확산될 것으로 예상한다. [42:10]

23. 추론 서비스의 마진 압박과 하드웨어 효율의 기회

• 추론 서비스 기업의 가치는 기존 공개 모델을 물리적 하드웨어에 잘 배치해 안정적인 가동과 비용 효율을 제공하는 데 있다. 이 역할은 남겠지만, 고객이 토큰에 지불하려는 가격은 내려갈 것으로 예상한다. [43:54]
• 토큰 가격이 하락하면 서비스 사업자는 같은 하드웨어에서 더 많은 효율을 끌어내야 한다. 이 계층에서 추가로 확보할 수 있는 이익의 여지가 줄면서 마진도 낮아질 수 있다는 전망이다. [44:10]

24. 전통적 SaaS에서 AI와 인간이 결과를 제공하는 사업으로 이동한다

• 클라우드로 제품을 빠르게 만들고 시장을 시험해 1억~2억 달러 규모의 시장을 공략하던 전통적 SaaS 방식은 더 이상 높은 마진의 중심이 되기 어렵다고 본다. 애플리케이션의 중심이 지능 계층으로 이동하면서, 기존 의미의 소프트웨어 시장에 대해서는 장기적으로 비관적인 전망을 제시한다. [45:50]
• 다만 소프트웨어와 서비스를 결합해 고객이 원하는 결과를 제공하는 기업에는 기회가 있다고 본다. 정확성이 필요한 기존 엔지니어링 업무를 AI와 인간의 조합으로 더 빠르고 저렴하게 수행하는 기업들이 그 사례다. [46:47]

25. 법률 AI는 기존 로펌의 유통 경로를 넘어설 가능성이 있다

• AI를 활용한 법률 서비스에 투자하는 것이 사실상 더 효율적인 로펌에 투자하는 것인지에 대해서는 투자자 간 선호가 갈린다. 기존 로펌들도 AI에 직접 투자하고 있어, 도구 공급자와 서비스 제공자의 관계가 고정돼 있다고 보기는 어렵다. [48:13]
• Harvey가 로펌에 판매하는 이유 중 하나는 로펌이 고객 접점을 갖고 있기 때문이다. 그 경로가 계속 유지될지는 불확실하며, Rao는 NDA와 계약 검토의 신뢰성이 확보된다면 자신의 법률 업무 80%를 직접 맡길 의향이 있다고 드러낸다. [48:48]

26. 자체 지능 구축은 기업 규모와 경쟁 압력에 따라 갈린다

• 모든 기업이 자기 데이터로 모델을 개선하고 지능을 소유할 것이라는 전망은 다소 기술 낙관적이라고 평가한다. 대형 로펌은 투자 규모를 감당할 수 있지만, 소규모 업체는 자체 구축보다 외부 서비스를 활용할 가능성이 높다. [49:46]
• 소규모 기업에는 자체 모델을 관리하는 일이 너무 어렵고 즉시 사용할 수 있는 해법이 더 필요하다. 따라서 완제품 형태의 AI 솔루션을 판매하는 시장이 존재하며, 대기업은 규모가 맞을 때 맞춤화를 추진할 것으로 본다. [50:14]

27. 개발 도구 지출은 검증 인력과 함께 유지되면서 산출량을 늘릴 수 있다

• 개발자 급여 예산 60억 달러 가운데 코딩 도구에 3억 달러를 쓴다는 베니오프의 발언을 근거로, 현재 5% 수준의 도구 지출 비중이 얼마나 바뀔지가 쟁점이 된다. Rao는 결과 검증의 어려움 때문에 그 비중이 대체로 안정적으로 유지될 수 있다고 본다. [51:33]
• 개발자의 가치는 코드 줄 수보다 품질을 판단하는 능력에 있다. 숙련자는 무엇이 좋은 결과인지 아는 감각을 바탕으로 모델 출력을 검증할 수 있어, 인간과 AI에 쓰는 총비용이 크게 달라지지 않아도 산출량은 늘어날 수 있다. [52:23]

28. 비용 하락은 작업 감소보다 수요 확대를 부를 수 있다

• AI와 인간의 조합으로 같은 일을 싸게 할 수 있다는 사실만으로 일자리 감소를 결론 내릴 수는 없다고 본다. 공급 비용이 내려가면 고객의 요구도 바뀌어, 더 많은 배포와 수정 작업을 수행하게 될 수 있다는 논리다. [53:39]
• 가령 로봇이 건설 작업의 80%를 맡아 공사 기간이 2년에서 8개월로 줄어든다면, 같은 수의 건물만 빨리 짓는 데 그치지 않고 건설 프로젝트 자체가 늘어날 수 있다. 단기적인 육체노동의 혼란은 있을 수 있지만, 전체 지출은 비슷한 채 인간과 로봇의 조합으로 더 많은 건물을 짓는 상황을 가정한다. [54:42]

29. 로봇 상용화 시점과 휴머노이드의 실현 가능성에는 이견이 있다

• 진행자는 로봇 데이터와 기반 기술에는 관심이 있지만, 청소·건설 로봇 같은 응용 제품은 필요한 수준에 도달하려면 5년 이상 걸린다고 보고 투자 시점의 위험을 우려한다. Rao는 일부 과제의 작동 가능한 시제품이 2~3년 안에 나오고 시장은 5~7년 안에 형성될 것으로 예상한다. [55:53]
• 진행자는 비휴머노이드의 경로는 더 분명하지만 휴머노이드는 훨씬 멀리 있다고 본다. Rao는 발전이 지수적으로 진행되면 기존의 시간 예측 방식이 잘 맞지 않아, 멀어 보이는 기술도 예상보다 빨리 도달할 수 있다고 반박한다. [56:35]

30. 추론 효율 향상이 거대한 신규 수요를 열 수 있다는 전망

• Rao는 AI 모델 자체가 향후 몇 년 안에 1조 달러 시장이 되고, 추론 시장은 10년 안에 10조 달러 규모에 이를 것으로 전망한다. 노동시장과 가치 창출 과정의 일부가 기술 지출로 이동하는 것이 이처럼 큰 시장을 예상하는 근거다. [57:26]
• 토큰 제공 효율을 한 자릿수 규모, 즉 10배 개선하면 기존에 경제성이 없던 용도가 가능해져 시장이 크게 확장될 수 있다고 본다. 잠재적 활용처가 10배 이상 늘어날 수 있다는 주장을 제번스의 역설과 연결한다. [57:52]

31. 로보틱스의 잠재력은 물리적 문제를 동적으로 해결하는 데 있다

• 현재 산업용 로봇은 인간이 정한 작업을 반복하는 성격이 강하며, 새로운 문제를 스스로 해결하는 지능과는 차이가 있다고 본다. 앞으로는 고장이나 청소 필요성을 인식하고 상황에 맞게 대응하는 물리적 문제 해결이 가능해질 것으로 예상한다. [58:53]
• 청소, 건설, 수리 같은 물리적 작업의 비용이 0이 된다고 보지는 않는다. 다만 비용이 크게 낮아지면 거대한 시장이 형성돼, 현재 가상 세계에서 보이는 지능 활용 시장보다 커질 수 있다는 판단이다. [59:13]

32. 로봇 모델 기업의 가치는 완성된 기기와 결합될 수 있다

• 현재 로보틱스 투자는 응용 제품보다 기술 계층에 집중한다. 모델을 개발하는 기업들도 최종적인 사업 형태를 아직 확정하지 못했으며, 모델 자체에 가치가 머물 것으로 보지는 않는다. [59:42]
• 모델 기업은 결국 특정 작업을 매우 잘하는 모델과 로봇을 함께 개발해 완성된 기기로 판매할 수 있다고 예상한다. 로보틱스에서는 모델과 기기가 분리되기보다 하나의 제품으로 결합될 것이라는 견해다. [59:57]

33. 투자와 소비에서 가치가 있다고 보는 대상에 자원을 집중한다

• 라오는 조 달러 이상의 잠재 시장에서는 투자 가격의 중요성이 크게 낮아진다고 본다. 반면 진행자는 펀드 출자자들이 여전히 지분율과 가격을 중시해, 투자 단가 상승과 확보 지분 감소를 받아들이기 어렵다는 현실적 제약을 짚어 본다. [1:00:57]
• 자기 회사 외에 투자할 대상으로는 Physical Intelligence를 꼽는다. 과제를 정의하고 이를 운동 출력으로 변환하는 기술이 물리 세계에서 풀어야 할 핵심 문제이며, 새로운 컴퓨터 개발에 이어 중요한 기회라고 본다. [1:01:34]

34. 딥테크의 진척은 시장 검증보다 기술 문제 해결로 판단한다

• 시장 검증을 핵심 지표로 삼는 방식은 기술적 난제보다 제품의 용도와 수요가 중요한 SaaS에서 비롯됐다는 관점이다. 암 치료처럼 수요가 명백한 목표에서는 시장의 존재보다 기술적 해결에 얼마나 가까워졌는지를 검증해야 한다고 본다. [1:03:20]
• 투자자들은 높은 기업가치를 감수하고 투자하는 진영과 시장 검증 부족을 투자 규율의 문제로 보는 진영으로 갈린다. 라오는 로봇·컴퓨팅·생물학의 깊은 기술 문제에서는 해결책에 대한 수요가 이미 분명하므로, 투자 위험을 판단하는 기준도 기술적 진척에 맞춰야 한다고 본다. [1:04:09]

35. 제조 내재화로 공급 제약을 줄이고 컴퓨터를 목적에 맞게 최적화한다

• 자원 제약이 없다면 자체 제조 시설과 반도체 팹을 구축하고 원재료 단계에 더 가까이 접근하겠다는 구상이다. 하드웨어 공급 제약을 줄이고, 여러 용도로 만든 범용 부품을 끼워 맞추는 대신 필요한 제품을 직접 설계·제조하려는 목적이다. [1:04:57]
• 컴퓨터의 가치는 지능을 제공하는 데서 나온다는 전제 아래, 최적화 범위를 소프트웨어나 칩 설계에 한정하지 않는다. 실리콘 잉곳의 가공과 절단 방식까지 목적에 맞춰 개선할 수 있다면 그렇게 하겠다는 입장이다. [1:05:13]

36. 단순 업무 자동화와 코딩 도구의 독립적 투자 가치를 낮게 본다

• 진행자는 고객 지원 AI가 과도하게 늘어 차별성이 부족하다고 지적한다. 라오 역시 사람이 하던 정형 업무를 그대로 자동화하는 단기적 접근을 현재 과대평가된 투자 영역으로 본다. [1:05:40]
• 에이전트 코딩에서는 가치 대부분이 모델 제공자에게 귀속될 것으로 예상한다. 자사 직원들이 도구 사이를 쉽게 이동하는 모습을 근거로 하네스와 IDE의 이용자 고착성이 낮다고 판단하며, 모델 제공자를 제외한 코딩 도구 시장에는 투자하지 않겠다는 입장이다. [1:06:20]

37. 오픈 모델이 토큰 사용량을 차지해도 지출은 양분될 수 있다

• 라오는 3년 뒤 토큰 트래픽의 약 80%가 오픈 모델을 통할 것으로 예상한다. [1:06:30]
• 사용량과 수익성은 다르게 분포할 수 있다. 아이폰이 휴대전화 시장의 약 20%를 차지하면서 이익의 약 80%를 가져간다는 비유를 들어, 소수의 중요한 문제에 필요한 프런티어 모델에는 더 높은 가격을 지불할 것으로 전망한다. [1:06:55]

38. 기술을 깊이 이해하고 통념에서 벗어나는 투자자가 큰 기회를 포착한다

• 스티브 저벳슨과의 만남에서는 수치 표현 방식을 함께 파고들고, 논문에 주석과 질문을 주고받는 기술적 교류가 가능했다. 라오는 당시 생소했던 하드웨어 창업의 방향을 투자자가 이미 고민하고 있었다는 점을 높게 평가한다. [1:08:29]
• 큰 수익을 내는 투자에는 기존 합의와 다른 판단이 필요하다는 입장이다. 이미 널리 받아들여진 생각은 낡았을 수 있으므로, 통념에서 벗어날 수 있어야 큰 베팅이 가능하다고 본다. [1:08:49]

39. 초기 기술 투자는 계획의 정확성보다 팀의 수정 능력에 건다

• 진행자는 잘 모르는 우주 분야의 시리즈 A 기업에 투자하는 어려움을 제기한다. 팀이 훌륭해도 4억 달러 펀드에서 2,000만 달러를 투자하면 펀드의 5%가 걸리므로, 기술을 이해하지 못한 채 위험을 감수하기 어렵다는 문제다. [1:10:09]
• 라오는 기술 주기 초기에 제시하는 사업 서사는 결국 틀릴 수밖에 없다고 본다. 이 단계에서는 최초 계획 자체보다, 옳은 방향을 향해 필요한 전환과 기술적 결정을 내릴 팀의 역량에 투자해야 한다는 입장이다. [1:10:54]

40. AI의 장기적 가치는 과학이 다룰 수 있는 질문의 범위를 넓히는 데 있다

• AI는 인간 연구자의 수와 역량 때문에 접근하기 어려웠던 과학 문제를 다룰 수 있게 하는 도구라는 관점이다. 해결을 시도할 수 있는 문제의 범위가 넓어진다는 점이 라오의 낙관론을 뒷받침한다. [1:11:47]
• 라오는 AI가 인류를 멸망시킬 것이라는 관점을 거부하고, 더 깊은 물리학적 이해와 우주 탐구의 가능성에 주목한다. 웜홀 같은 이론적 개념도 실제 현상인지, 이를 활용하는 무언가를 만들 수 있는지 탐구할 대상으로 제시하며 실현 여부는 열어 둔다. [1:12:26]

🧾 결론

• 라오의 핵심 논리는 추론 수요 확대와 에너지 제약이 함께 작용하면서, 에너지를 지능으로 더 효율적으로 바꾸는 공급자의 가치가 커진다는 것이다.
• 소프트웨어에 대한 비관론에도 예외는 있다. 인간의 검증을 포함해 고객이 원하는 결과를 제공하는 서비스는 새로운 사업 형태로 제시된다.
• 전문성은 자동화 이후에도 중요하다. 무엇을 해결할지 정의하고, 생성된 답을 평가하며, 실제로 작동하는 결과에 도달시키는 능력이 남는다.
• 비용 하락은 지출이나 일자리의 감소로 곧바로 이어진다고 단정할 수 없다. 더 많은 수정·배포·건설과 새로운 활용처가 생겨 수요가 확대될 수 있다는 것이 라오의 관점이다.

📈 투자·시사 포인트

• 하드웨어 기업을 평가할 때 칩 성능뿐 아니라 시스템 전체의 에너지 효율과 실제 운영 비용을 살펴볼 필요가 있다. 라오가 말하는 하드웨어의 범위에는 시스템·클라우드·네트워크도 포함된다.
• 추론 서비스는 사용량 증가와 마진 개선을 구분해 봐야 한다. 토큰 가격이 내려갈 때 효율 개선으로 수익성을 얼마나 유지할 수 있는지가 쟁점이다.
• 소프트웨어 기업은 고객 결과의 품질, 검증 비용, 유통 경로와 이용자 고착성을 함께 평가해야 한다. 라오는 코딩 도구 간 이동이 쉽다는 점을 독립적인 투자 가치에 대한 우려로 제시한다.
• 로보틱스와 딥테크는 기술적 진척과 상용화 시점, 투자 가격을 함께 검토해야 한다. 큰 잠재 시장에 대한 라오의 낙관론과 가격·확보 지분을 중시하는 진행자의 제약이 함께 제시된다.

⚠️ 불확실하거나 확인이 필요한 부분

• 추론 시장 10조 달러, AI 모델 시장 1조 달러, 로보틱스 시장이 에이전트 코딩보다 100배 커질 수 있다는 수치는 라오의 전망이다. 제공 자료만으로는 시장의 정의와 산출 방법을 확인하기 어렵다.
• 전력 인프라 1GW당 약 500억 달러, 미국 전력망의 평균·최대 출력과 여유 용량은 인터뷰에서 인용된 수치나 추정이다. 적용 범위와 산정 조건을 확인해야 한다.
• 데이터센터가 더 비싼 전력을 감당할 수 있다는 설명에는 구체적인 계약 수치가 없는 사례와 가정적 매출 예시가 포함된다. Bloom Energy 관련 시도 역시 실제 성과가 충분히 입증됐다고 제시되지 않는다.
• 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
• 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
• 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.

✅ 액션 아이템

• 추론 시장 전망의 범위가 무엇인지 확인하고, 모델 매출·추론 서비스 매출·노동 지출의 기술 지출 전환을 어떻게 구분하는지 정리한다.
• 전력 인프라 비용과 여유 용량 수치의 원출처, 포함 설비, 건설 기간과 적용 지역을 확인한다.
• 관심 있는 하드웨어·추론 서비스 기업의 에너지 효율, 토큰 가격, 가동률과 마진을 함께 비교한다.
• AI 서비스의 요구사항 정의, 결과 검증 절차, 인간 검토 비용과 실제 품질을 확인한다.

❓ 열린 질문

• 추론 효율 개선으로 늘어나는 수요가 토큰 가격 하락과 전력 제약을 어느 정도 상쇄할 수 있을까?
• 모델·하드웨어 공동 설계의 효율 이익은 칩 기업, 클라우드, 모델 제공자와 서비스 기업 사이에 어떻게 배분될까?
• 검증과 인간의 판단이 필요한 결과 중심 서비스는 규모가 커져도 품질과 마진을 유지할 수 있을까?