David Silver and Lasse Espeholt of Ineffable Intelligence: A Superlearner for the Age of Experience

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론

데이비드 실버와 라세 에스페홀트의 Ineffable Intelligence는 경험에서 스스로 지식을 발견하는 ‘슈퍼러너’를 목표로, 대규모 강화학습과 시뮬레이션을 통해 초지능의 가능성을 검증하려 한다.

📌 핵심 요점

1. 핵심 가설은 경험을 통한 자율 발견이다. 인간 지식과 언어를 학습하는 데서 더 나아가, 시스템이 환경과 상호작용하며 새로운 지식을 계속 발견하도록 만들겠다는 구상이다. LLM 제품을 중간 목표로 요구하지 않는 연구에 집중하기 위해 독립 연구소를 세웠다.
2. 슈퍼러너의 기준은 발견의 깊이와 학습의 폭이다. 깊이는 인간이 아는 범위를 넘어서는 지식의 발견이고, 폭은 시뮬레이션·디지털 세계·물리 세계 등 다양한 경험에서 계속 배우는 능력이다. 두 능력 모두 연구 목표이며, 이미 달성한 성과로 제시된 것은 아니다.
3. ‘크루서블’은 단순한 목표에서 복잡한 능력이 출현하는지 시험하는 환경이다. 정답으로 유도하는 과제열보다 객체와 에이전트의 상호작용에서 복잡성이 생기는 환경을 지향한다. 언어·도구·과학이 목표 달성에 유용해 스스로 발견되기를 기대하지만, 보상 설계와 최초의 발견은 아직 확정하지 않았다.
4. 연구의 실행력은 강화학습 스택과 실험 속도에 달려 있다. GCP의 NVIDIA GPU 클러스터에서 학습·추론·시뮬레이션을 수행하고, 높은 연결 대역폭과 경험 재사용 등을 활용하려 한다. 강화학습은 학습 중 데이터 분포가 변하므로, 연산량 확대가 실제 발견 능력 향상으로 이어지는지 별도로 검증해야 한다.
5. 현실 적용과 안전성도 미완의 연구 과제다. 시뮬레이션에서 얻은 개별 지식의 직접 전이보다 학습 알고리즘의 현실 적용을 기대하며, 공존 조건과 행동 감시를 연구하려 한다. 인터뷰에서는 1년 내 접근법의 강한 유효성 증거와 3년 내 초지능을 전망했지만, 시점의 불확실성과 성공이 보장되지 않는다는 전제를 함께 밝혔다.

🧩 배경과 문제 정의

• 인류는 언어·과학·수학·기술을 집단적으로 발견해 왔다. Ineffable Intelligence의 출발점은 AI도 주어진 지식을 학습하는 데서 나아가 경험을 통해 지식을 계속 발견할 수 있어야 한다는 것이다.
• 데이비드 실버는 경험 기반 강화학습을 초지능으로 향하는 경로로 본다. 인간 데이터와 LLM 제품을 중심에 두지 않는 이 접근에 집중하기 위해 별도의 연구소를 설립했다.
• 목표인 ‘슈퍼러너’는 인간 지식을 넘어서는 발견의 깊이와 다양한 환경에서 학습하는 폭을 함께 갖춘 시스템이다. 이를 구현하려면 대규모 강화학습 기반과 지속적인 발견이 가능한 환경이 필요하다.
• 단순한 목표와 복잡한 상호작용만으로 언어·과학·기술 같은 능력이 출현할 수 있는지가 핵심 연구 문제다. 구체적으로 어떤 발견이 먼저 나올지, 어떤 보상 설계가 적합할지는 아직 정해지지 않았다.

🕒 시간순 섹션별 상세정리

1. 경험에서 배우는 강화학습과 규모가 바꾸는 학습 속도

• 실버는 박사과정에서 바둑을 연구할 때부터 시스템이 경험을 통해 스스로 발견하고 개선하는 과정에서 지능과 초지능이 출현할 수 있다고 믿었다. 바둑에서 확인한 이 가능성을 더 넓은 지능으로 확장하는 것이 현재 연구의 방향이다. [02:05]
• 대규모 데이터로 학습한 시스템이 소량의 추가 데이터만으로 행동을 빠르게 바꾸는 LLM의 특성은 예상 밖이었다. 충분한 규모의 학습을 거치면 원래 느리고 어려워 보이던 적응도 빨라질 수 있다는 교훈을 얻었다. [02:48]

2. LLM 제품을 중간 목표로 삼지 않는 독립 연구소

• 실버가 믿는 초지능 경로는 LLM 기반 제품을 중간 단계로 요구하지 않는다. 이 접근을 제품 중심 조직의 일부로 두기보다 연구소 전체가 전념할 방향으로 삼을 필요가 있다고 판단했다. [04:12]
• 이미 많은 연구자가 LLM 사전학습·후속학습·코딩 능력 개선에 집중하는 상황에서, 상대적으로 탐색이 적은 경험 기반 학습에 자신의 역량을 투입하는 편이 더 큰 영향을 낼 수 있다는 선택이다. 성공한다면 AI 분야 전체를 바꿀 수 있다는 기대가 그 배경에 있다. [04:58]

3. 인간 언어로 표현하기 어려운 지식을 지향하는 이름

• ‘Ineffable’이라는 이름에는 초지능이 발견할 지식이 인간 언어로 표현하기 어려울 만큼 심오할 수 있다는 전망이 담겨 있다. 인간 언어 중심의 경로 대신 시스템 자체의 발견을 추구한다는 연구 방향과 연결된다. [06:00]

4. 대규모 강화학습 연구 경험을 바탕으로 한 공동 창업

• 라세 에스페홀트는 DeepMind에서 강화학습 확장 연구를 하며 실버와 협업했다. 이후 Google Brain으로 옮겼다가 조직 통합으로 다시 DeepMind에 속했으며, 실버보다 먼저 퇴사한 뒤 투자자를 통해 새 연구소의 구상을 접했다. [07:26]
• 에스페홀트에게는 함께 일할 연구진에 대한 신뢰와 유럽에서 이런 연구를 추진할 기회가 합류의 이유였다. 실버는 에스페홀트의 초기 연구가 강화학습 병렬화와 확장 가능한 아키텍처의 토대를 마련했다고 평가한다. [08:20]

5. 슈퍼러너의 두 축인 발견의 깊이와 학습의 폭

• 슈퍼러너의 ‘깊이’는 아무것도 모르는 상태에서 출발해 인간이 아는 범위를 넘어서는 지식까지 발견하는 능력이다. 인류가 완성된 설계도나 정답 데이터셋 없이 지식을 축적했듯, 시스템도 지속적으로 새로운 지식을 발견해야 한다. [09:54]
• ‘폭’은 시뮬레이션·디지털 세계·물리 세계 등 어떤 경험의 흐름에 놓여도 계속 학습하는 능력이다. 이러한 깊이와 폭을 실현하는 것이 연구의 목표이며, 이미 달성한 능력은 아니다. [11:05]

6. 현재 LLM의 성과와 완전한 자율 발견의 차이

• 실버가 구분하는 기준은 발견의 완전한 자율성이다. 현재의 성과에는 여전히 상당한 인간 개입이 필요하며, 실제 물리적 경험에서 배우는 체화된 영역까지 포괄하는 슈퍼러너와는 거리가 있다는 판단이다. [12:57]
• 언어 기반 접근이 물리적 경험의 지식을 얻는 데 적합한 수단인지는 불분명하다. 인간 데이터가 오히려 학습을 제약할 가능성도 있으며, 현재의 진전이 모든 것을 스스로 발견하는 능력에 도달했다는 뜻은 아니다. [13:30]

7. 강화학습 기반과 발견 환경을 함께 구축하는 연구

• 일상적인 연구의 한 축은 대규모 실행과 효율적인 데이터 처리를 지원하고, 시스템이 계속 학습할 수 있게 하는 강화학습 스택을 만드는 일이다. [14:27]
• 다른 축은 ‘크루서블’이라 부르는 시뮬레이션 환경이다. 에이전트가 지능의 다양한 측면을 배우고 새로운 행동을 만들어낼 수 있도록 환경을 구축하며, 학습 알고리즘과 엔지니어링을 함께 개선한다. [14:52]

8. 정답으로 유도하는 과제열 대신 열린 발견을 허용하는 목표

• 에이전트에게 특정 문제들을 순서대로 풀게 해 원하는 결과로 유도하는 방식은 택하지 않는다. 단순한 목표를 주고 어떤 발견이 나올지 열어 두기 때문에, 최초의 성과가 무엇일지도 미리 확정하지 않는다. [16:22]
• 언어나 계산기 같은 도구를 직접 만들라고 지시하는 대신, 다른 목표를 달성하는 데 유용해서 그러한 도구를 발견하는 경로를 기대할 수 있다. 다만 이는 가능한 작동 방식이며, 구체적인 발견 순서를 약속하는 것은 아니다. [17:18]

9. 단순한 최적화 목표에서 복잡한 능력이 출현할 가능성

• 과학이나 흥미로운 수학을 보상 함수로 정확히 정의하는 대신, 배울 것이 많은 복잡한 환경에서 단순한 양을 최적화하게 할 수 있다. 진화에서 적합도의 추구가 생명의 복잡성을 낳았다는 점이 이 접근의 비유다. [17:42]
• 인간도 비교적 단순한 목표를 추구하면서 협력과 의사소통, 거래와 산술, 도구와 과학, 더 복잡한 기술과 수학을 발전시켰다고 볼 수 있다. 이러한 발견의 연쇄를 제대로 구현한다면 초기 목표보다 훨씬 복잡한 능력이 나타날 수 있다는 기대다. [18:49]

10. 보상 설계를 확정하지 않고 미지의 지식에 열어 두기

• 연구진은 여러 보상을 실험하고 있으며 하나의 정답을 정해 두지 않았다. 과학·기술·언어가 무엇인지 정확히 규정한 보상을 만드는 대신, 에이전트가 그것들을 발견하기를 기대한다. [20:18]
• 인간이 이미 아는 분야만 목표로 지정해서는 아직 존재 가능성조차 모르는 지식 분야의 발견을 이끌기 어렵다는 문제의식이다. 뉴턴 역학 시대에는 양자역학이나 상대성이론을 알지 못했던 것처럼, 에이전트에도 열린 탐색의 여지가 필요하다는 주장이다. [20:38]

11. 크루서블의 핵심은 수작업 퍼즐보다 창발적 복잡성

• 크루서블은 사람이 정교하게 만든 퍼즐을 모아 놓은 환경보다, 상호작용 자체에서 복잡성이 생기는 환경을 지향한다. 물리 엔진 속 수많은 객체의 상호작용이나 수많은 에이전트의 상호작용이 그 원천이 될 수 있다. [21:34]
• 이런 환경에서는 다른 에이전트들의 복잡성까지 학습 대상에 포함된다. 설계가 적절하다면 운동 제어와 협응부터 언어·수학·과학·기술까지 폭넓은 발견이 가능하다는 구상이다. [22:08]

12. 현실성의 계산 비용과 빠른 실험 사이의 균형

• 바둑은 표현과 시뮬레이션이 단순해도 복잡한 행동을 만들어낸다. 반면 완전히 사실적인 물리는 계산 비용이 크기 때문에, 연구진은 빠르게 실행하고 반복 실험할 수 있으면서도 복잡한 행동이 나타나는 여러 수준의 크루서블을 만들려 한다. [23:02]
• 최종 목표는 현실 세계에 기반을 둔 시스템이다. 현재의 환경들은 그 목표로 가는 디딤돌이라는 위치를 갖는다. [24:14]

13. 다른 에이전트의 존재가 만드는 지속적인 학습 과제

• 실버의 바둑 비유에서 혼자 돌을 놓아 영역을 채우는 과제는 전략적 복잡성이 작다. 상대가 추가되면 그 상대의 가능한 행동까지 고려해야 하므로, 단순한 규칙 안에서도 복잡성이 크게 증가한다. [24:21]
• 바둑 연구에 투입했던 계산량의 범위에서는 새로운 발견이 계속되는 학습 곡선을 관찰했다. 바둑 자체는 좁은 영역이지만, 단순한 환경 규칙이 가용 계산 능력으로 쉽게 소진하기 어려운 복잡성을 만들 수 있다는 사례다. [25:08]

14. 인간 언어를 넘어서는 추론과 편향 문제

• 실버는 인간 언어가 추론의 최종 형태나 최선의 방식이라고 보지 않는다. 병렬 처리가 가능한 풍부한 신경망 기반 추론 등이 언어 기반 접근보다 더 표현력이 높고 강력해질 수 있다고 예상한다. [25:50]
• 인간 언어를 추론의 출발점으로 삼으면 인간의 사고방식과 편향도 함께 들어온다는 우려가 있다. 과거의 언어와 지식만 사용했다면 평평한 지구나 체액설 같은 믿음까지 받아들일 수 있다는 가정은, 현재의 지식에도 제약이 있을 수 있음을 드러낸다. [26:30]

15. 인간 데이터의 단기 이점을 포기하고 더 넓은 발견을 추구하는 선택

• 인간의 사전지식을 제거하면 더 강한 지능이 나올지에 대해, 실버는 당시 확신하지 못했고 가능성을 대략 반반으로 봤다. 답이 분명하지 않은 연구 질문을 택했고, 실제 결과가 더 흥미로웠다는 경험이다. [27:54]
• Ineffable은 인터넷을 비롯한 인간 데이터에 기대지 않는 편이 더 멀리 갈 수 있다는 가설에 베팅한다. 당장의 성능 일부를 포기하더라도, 인간 지식을 크게 넘어 새로운 분야를 발견할 알고리즘을 찾는 것이 ‘깊이’ 측면의 이유다. [28:34]

16. 인간 데이터에서 벗어난 학습이 발견의 속도를 바꾼다

• AlphaGo는 인간 데이터와 연구자의 세대별 개선을 결합해 약 2년간 개발됐다. 반면 스스로 발견하는 알고리즘을 제대로 구현한 뒤에는 몇 시간 만에 그동안의 성과를 넘어설 수 있었다는 경험이 인간 데이터 의존을 줄이는 근거가 된다 [31:05]
• AlphaZero는 체스에서 4시간 만에 당시 최강의 AI를 넘어섰다. 바둑에서는 며칠 정도 걸렸던 것으로 회상하며, 정확한 기간에는 불확실성을 남긴다 [31:17]

17. 인간의 사전 가정은 없애기보다 강도를 제한한다

• 환경과 보상 함수의 설계에는 인간의 편향이 들어간다. 다만 특정 컴퓨터 구조 같은 해법을 미리 정해 주기보다, 기계가 유용한 문제를 주고 어떤 기계를 스스로 만들어 내는지 탐색하려 한다 [32:50]
• 인간의 사전 가정을 전면 금지하는 것은 아니다. 여러 환경에 적용되는 약한 가정은 허용하되, 특정 세계와 문제에 관한 인간 지식을 대규모 데이터로 강하게 주입하는 의존은 피하는 실용적 선택이다 [33:46]

18. 슈퍼러너의 실현 가능성과 지금의 성공 가능성은 구분된다

• 인간의 뇌는 신체를 가진 세계에서 다양한 일을 배우는 범용 지능의 존재 사례다. 이를 근거로 경험을 통한 지능 획득이 언젠가는 가능하다고 강하게 믿는다 [34:39]
• 실제 연구와 창업의 성공은 시점에 달려 있다. 너무 이르면 분야의 성숙도나 연산 자원이 부족하고, 너무 늦으면 이미 많은 경쟁자가 같은 성과에 도달한다 [35:18]

19. 대규모 연산 자원이 자기 발견 강화학습을 다시 시험할 기회를 만든다

• 확보한 연산 자원은 과거의 자기 발견 강화학습보다 훨씬 정교한 접근을 시험할 기회를 준다. OpenAI의 숨바꼭질 실험과 비교하면 약 10만 배의 연산량을 사용하는 실험도 가능할 것으로 추정한다 [37:24]
• 숨바꼭질에서 나타난 기초적인 도구 사용은 최종 목표가 아니라 가능성을 보여 주는 초기 사례다. 연산량은 발전을 좌우하는 큰 요인이지만 유일한 요인은 아니다 [37:44]

20. 물리 시뮬레이션의 한계가 지능 실험 전체의 한계는 아니다

• 단기 기상 예측 모델 MetNet은 물리 기반 시뮬레이션보다 좋은 예측 성능을 냈던 사례다. 물리 시뮬레이션에서는 시간이 흐르며 오차가 누적되므로, 현실의 물리를 모사하는 방식에도 한계가 있다 [39:35]
• 기술 같은 복잡한 행동이 출현하는지 살피는 데 반드시 정확한 물리가 필요한 것은 아니다. 양자물리 등에서는 모사의 한계가 있을 수 있지만, 비교적 단순한 환경에서도 흥미로운 현상을 연구할 수 있다 [40:14]

21. 시뮬레이션 안에서도 계산·경제·언어의 복잡성을 구현할 수 있다

• 시뮬레이션에서 초지능을 만들 수 있다면, 병렬화와 재현성 덕분에 현실보다 10배 또는 100배 빠르게 진행될 수 있다고 예상한다. 안전하게 연구할 수 있다는 점도 시뮬레이션을 택하는 이유다 [40:43]
• 튜링 완전한 환경은 계산을 표현할 수 있고, 화폐를 나타내는 수단이 있으면 경제를, 에이전트 사이에 통신 채널이 있으면 언어를 구현할 수 있다는 논리다. 복잡한 활동의 구현 가능성을 현실과 동일한 물리 법칙에만 묶지 않는다 [41:59]

22. 현실로 옮길 핵심은 개별 지식보다 학습 알고리즘이다

• 현실은 훨씬 복잡하고 모사하기 어려운 특성이 있으므로, 시뮬레이션에서 배운 내용이 그대로 현실에 전이될 것으로 기대해서는 안 된다는 지적에 동의한다 [43:20]
• 시뮬레이션에서 슈퍼러너를 만드는 원리를 발견하면, 같은 학습 알고리즘을 현실에도 적용할 수 있을 것으로 기대한다. 현실과의 충실도를 점차 높인 환경에서도 작동하는지 확인한 뒤 실제 세계에 적용하려 한다 [43:43]

23. 언어와 인간 데이터에 의존한 정렬은 한계에 부딪힐 수 있다

• 현재의 정렬은 에이전트가 사용하는 언어와 인간 데이터에서 얻은 사전 성향에 크게 의존한다. 지금까지는 효과가 있었지만, 그것만으로 더 강력한 에이전트를 통제하기는 어려워질 수 있다는 판단이다 [44:57]
• 학습이 진행되면 기존의 사전 성향이 약해지고, 말과 행동이 달라질 가능성이 있다. 인간이 원하는 행동을 확보하려면 기존 정렬 방식에 추가적인 접근이 필요하다 [45:25]

24. 초지능의 평화적 공존 조건을 현실 적용의 근거로 삼는다

• 시뮬레이션에서 초지능을 구현해, 여러 초지능이 서로 평화롭게 상호작용하고 더 낮은 지능을 가진 존재와도 공존하는 데 필요한 조건과 구조를 연구하려 한다 [46:18]
• 현실에서도 여러 초지능이 상호작용하는 상황이 다가오지만, 그 결과는 아직 충분히 알려져 있지 않다. 시뮬레이션에서 답을 찾고 공개적으로 공유할수록 대응에 유리하다는 입장이다 [46:46]

25. 언어 밖의 행동 감시와 상호 견제가 필요하다

• 에이전트가 방대한 추론을 생성하거나 내부 판단과 다른 행동을 하면, 인간 언어를 읽는 감시만으로는 충분하지 않다. 감시 자체는 유용하지만 다른 수단도 함께 필요하다 [49:06]
• 실제 실행을 허용하지 않은 채 어떤 행동을 택할지 확인하는 ‘섀도 액션’, 다른 초지능이 행동의 영향 규모를 감시하고 제한하는 방식 등을 후보로 제시한다. 아직 해결책이 완성된 상태는 아니며 추가 연구가 필요하다 [49:59]

26. 시뮬레이션 연구는 가속하고 현실의 진전은 조절한다

• 현실에서 최첨단 AI의 진전 속도를 조절하는 데 찬성하면서도, 시뮬레이션 연구는 최대한 빠르게 진행해야 한다고 본다. 초지능에 관한 과학적 이해를 먼저 확보하면 현실에서 좋은 결과가 날 가능성을 높일 수 있기 때문이다 [51:47]
• 초지능이 인류에 좋은 미래를 가져올 것으로 기대하지만, 현재의 변화 속도는 사회의 적응 능력을 넘어설 수 있다. 속도를 일부 조절하면 정부·조직·사람들이 적응하고, 시뮬레이션에서 안전한 접근을 연구할 시간을 확보할 수 있다 [53:03]

27. GPU 클러스터의 연결 구조가 강화학습의 반복 속도를 좌우한다

• GCP의 대규모 NVIDIA GPU 클러스터를 확보했으며, GPU의 범용성을 활용해 시뮬레이션·학습·추론을 수행하려 한다. 연산 자원을 새로 구하는 스타트업에는 확보 여건이 점점 어려워지고 있다는 평가다 [54:19]
• 랙 내부의 높은 노드 간 대역폭은 랙 전체를 하나의 기계처럼 활용하게 해 준다. 이는 상대적으로 반복 주기가 빠른 강화학습에 중요한 특성이다 [54:42]

28. 학습·추론·시뮬레이션의 자원 효율은 서로 다르다

• 연산 작업은 학습·추론·시뮬레이션으로 나뉘며, 같은 하드웨어가 세 작업에 똑같이 적합하지는 않다. GPU는 주로 학습에, 최근에는 추론에도 맞춰 발전했지만 시뮬레이션에 대한 최적화는 상대적으로 덜 이뤄졌다 [56:07]
• 모델 기반 강화학습으로 시뮬레이션 대비 모델 연산의 비중을 높이거나, 리플레이 버퍼로 경험을 여러 번 재사용하는 방법이 대안이 된다. 시뮬레이션 자체도 GPU를 최대한 활용하도록 빠르게 구현하는 데 공을 들인다 [56:59]

29. 강화학습의 스케일링은 변하는 데이터 분포를 다뤄야 한다

• 일반적인 스케일링은 연산량·데이터량·모델 크기의 관계를 다루지만, 강화학습에서는 학습이 진행되면서 데이터 분포도 달라진다. 이 비정상성 때문에 스케일링 관계의 형태와 연구 과제가 달라진다 [57:31]
• 연산량 확대가 목표에 가까워지는 성과로 이어지도록 적극적으로 연구하고 있다. 작은 클러스터에서 더 큰 클러스터로 전환할 때 그 확장을 활용할 수 있도록 준비하는 단계다 [57:51]

30. IMPALA와 SEED RL의 경험을 현재 환경에 맞게 활용한다

• 초기 DeepMind의 강화학습은 단일 머신의 CPU를 사용하는 작은 규모가 많았다. IMPALA 관련 작업은 GPU 활용과 확장성을 높이고 수정하기 쉬운 구조를 제공했으며, 사내 여러 강화학습 팀이 원형이나 파생형을 사용하게 됐다 [59:05]
• 이후 Google Brain의 SEED RL은 TPU 랙 규모로 확장하면서 추론과 학습에 TPU를 효율적으로 활용하는 데 초점을 맞췄다. 바둑부터 비용이 큰 물리 시뮬레이션까지 다양한 환경을 지원하는 유연성도 유지하려 했다 [59:42]

31. LLM 강화학습에서 재발견되는 초기 대규모 RL의 아이디어

• 빠르고 단순하게 시뮬레이션할 수 있는 환경과 비용이 더 큰 환경이 공존한다. 오늘날 대규모 강화학습 아키텍처에서 쓰이는 여러 아이디어는 라세의 초기 연구로 거슬러 올라가므로, 당시 논문을 살펴볼 가치가 있다 [1:00:03]
• 최근 2년간 강화학습을 활용해 온 LLM 커뮤니티는 과거 강화학습 연구에서 사용했던 접근을 재발견하고 있으며, 그 위에 새로운 아이디어도 더하고 있다 [1:00:35]

32. 소규모 팀과 높은 인당 연산 자원을 유지하는 채용 전략

• 팀은 총 20명을 채용했으며, 거대한 조직으로 빠르게 확대하기보다 소수의 뛰어난 인재로 성과를 내는 방식을 택한다. 재능뿐 아니라 친절함과 협업 성향, 사명에 대한 공감, 필요한 기술의 조합을 중시한다 [1:01:07]
• 작은 팀을 유지하면 인당 연산 자원을 높게 확보할 수 있다. 한 사람이 많은 실험을 수행할 수 있는 만큼, 초기부터 구성원끼리 자원을 두고 경쟁하지 않도록 하는 것이 목적이다 [1:02:13]

33. 단기 제품 압력보다 연구 돌파구를 우선하는 문화

• 회사는 기존 제품의 다음 버전을 점진적으로 개선하는 일보다 연구자가 자신의 열정을 따라 가능하다고 믿는 돌파구를 추구하는 데 중심을 둔다. 출발부터 연구를 위한 안식처가 되는 조직을 지향한다 [1:04:59]
• 제품 개발 압력을 견제하는 이유는 연구 돌파구가 장기적으로 더 큰 제품과 성공으로 이어질 것이라는 믿음 때문이다. 처음부터 특정 제품을 정해 추진하기보다 연구를 중심에 두는 운영 방식을 택한다 [1:05:30]

34. 1년 내 유효성 확인과 3년 내 초지능 달성이라는 전망

• 달성 시점에는 상당한 불확실성이 있다는 전제 아래, 1년 안에 접근법이 올바른 방향이라는 매우 강한 증거를 확인할 수 있을 것으로 예상한다 [1:06:24]
• 목표로 삼는 초지능은 과학·수학·기술·언어 등 여러 영역에서 인간이 달성할 수 있는 수준을 훨씬 넘어서는 발견을 하는 시스템이다 [1:06:41]

🧾 결론

• 이 연구의 판단 기준은 인간 지식을 얼마나 잘 재현하는지를 넘어, 인간 개입 없이 새로운 발견을 지속할 수 있는지에 있다.
• 인간 데이터 의존을 줄이는 선택은 더 넓은 발견을 위한 가설이다. 환경과 보상에는 인간의 가정이 남으며, 여러 환경에 적용되는 약한 가정은 허용한다.
• 바둑과 체스에서의 자기 학습 성과는 연구 방향의 근거로 제시되지만, 여러 영역에서 작동하는 슈퍼러너의 실현을 입증하지는 않는다.
• 앞으로 확인할 핵심은 열린 환경에서의 지속적인 발견, 다양한 환경에 걸친 학습 능력, 현실 적용을 뒷받침할 안전성 근거다.

📈 투자·시사 포인트

• AI 연구의 평가 축이 넓어질 수 있다. 이 접근이 성과를 낸다면 제품 성능뿐 아니라 자율 발견 능력과 지속적인 학습 능력도 연구 경쟁력을 판단하는 기준이 될 수 있다.
• 연산 자원은 확보량과 활용 구조를 함께 봐야 한다. 인터뷰는 GPU 간 대역폭, 시뮬레이션 처리 속도, 학습·추론 간 자원 배분을 중요하게 다룬다. 클러스터 규모만으로 성과를 예단하기 어렵다는 시사점이 있다.
• 조직의 자원 배분 방식도 관찰 대상이다. 소규모 팀에 높은 인당 연산 자원을 제공하고 단기 제품 압력을 낮추는 전략이 실제 실험과 발견으로 이어지는지 확인필요가 있다.
• 연구 전망과 투자 판단은 구분해야 한다. 제공된 자료에는 매출·수익성·기업가치 정보가 없다. 3년 전망만으로 사업 성과나 특정 기업의 투자 매력을 판단할 근거는 부족하다.

⚠️ 불확실하거나 확인이 필요한 부분

• 일반화 가능성은 검증 중이다. 단순한 목표와 복잡한 상호작용이 언어·과학·기술의 폭넓은 발견으로 이어질지는 핵심 연구 질문으로 남아 있다. 보상 함수와 최초 성과도 확정되지 않았다.
• 일정은 인터뷰 시점의 전망이다. 1년 내 유효성 확인과 3년 내 초지능은 달성 사실이나 확정 일정이 아니다. 제공된 자료에는 인터뷰 날짜가 없어 달력상의 목표 시점을 특정할 수 없다.
• 연산량과 속도 관련 수치는 조건을 확인해야 한다. 숨바꼭질 실험 대비 약 10만 배 연산량과 시뮬레이션의 10배·100배 가속은 추정 또는 조건부 전망이다. 일반적인 성능 향상 배율로 해석해서는 안 된다.
• 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
• 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
• 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.

✅ 액션 아이템

• 후속 발표에서 슈퍼러너의 ‘깊이’와 ‘폭’을 어떤 실험과 성과로 입증하는지 확인한다.
• 자율 발견 사례가 공개되면 인간 데이터, 과제 설계, 보상 설계, 연구자의 개입 범위를 함께 기록한다.
• 클러스터 확대에 따른 성과를 볼 때 연산량뿐 아니라 환경의 복잡성, 실험 속도, 경험 재사용 조건을 함께 비교한다.
• 현실 적용 발표에서는 학습 알고리즘의 전이 검증과 공존·행동 감시 연구가 제공하는 근거를 확인한다.

❓ 열린 질문

• 인간이 원하는 발견을 보상에 직접 명시하지 않으면서, 유용한 탐색을 지속시키는 환경과 목표는 어떻게 설계할 수 있을까?
• 연산량을 늘릴수록 새로운 발견이 이어진다는 것을 여러 환경에서 어떤 기준으로 입증할 수 있을까?
• 시뮬레이션에서 발견한 학습 알고리즘이 실제 세계의 센서와 물리적 제약에서도 작동하려면 무엇이 필요할까?