Koray Kavukcuoglu on frontier models, coding agents, and building AGI

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론

코라이 카부크추오울루는 프런티어 모델 경쟁의 핵심을 코딩 에이전트, 사용자 피드백, 장기 연구를 결합해 신뢰할 수 있는 AGI를 점진적으로 구축하는 데서 찾는다.

📌 핵심 요점

1. 모델을 실제 소프트웨어 엔지니어링 도구와 함께 작동하는 에이전트로 전환한 경험이 최근 모델 개선 속도를 높였다고 설명한다.
2. Google DeepMind의 목표는 명확히 프런티어 복귀이며, Gemini 4의 대규모 사전학습과 여러 모델 계열의 병렬 연구가 이를 뒷받침한다.
3. AGI는 단일 벤치마크 점수로 판정되는 갑작스러운 임계점보다, 사용자가 함께 일하고 신뢰할 수 있는 지능을 지속적으로 축적하는 과정에 가깝다고 본다.
4. DQN에서 시작된 딥러닝과 강화학습의 결합은 더 복잡한 에이전트로 확장됐지만, 현실의 언어 환경은 모호성과 개방성 때문에 훨씬 높은 지능을 요구한다.
5. 연구 혁신, 제품 배포, 사용자 피드백이 하나의 순환 구조를 이뤄야 실제 사용 속에서 AGI의 다음 목표와 해결할 문제를 발견할 수 있다는 주장이다.

🧩 배경과 문제 정의

• 대화는 프런티어 모델, 코딩 에이전트, Gemini 개발, AGI 평가 방식과 Google DeepMind의 연구 역사를 연결해 현재의 경쟁 전략을 설명한다.
• 핵심 문제는 AGI를 하나의 시험으로 판정할 수 있는지, 모델을 실제로 협업 가능한 에이전트로 만드는 데 무엇이 필요한지, 연구와 사용자 배포가 어떻게 결합돼야 하는지다.

🕒 시간순 섹션별 상세정리

1. AGI를 판정할 단일 테스트의 부재

• AGI에 도달했음을 확정할 수 있는 보편적인 테스트나 점수 기준은 없다고 드러낸다. [00:12]
• 유효한 벤치마크가 있다면 직접 모델에 적용해 보고 싶다는 농담으로 평가 문제의 미해결 상태를 강조한다. [00:18]

2. 코딩 모델에서 소프트웨어 에이전트로

• 최근 모델 개발에서 코딩 자체보다 소프트웨어 엔지니어링, 도구와 함수 사용을 이해하는 것이 중요했다고 보여준다. [01:33]
• 핵심 전환은 모델을 사람과 함께 코딩할 수 있는 에이전트로 만드는 것이었으며, 소프트웨어 엔지니어링을 여러 작업의 기반 환경으로 본다. [02:06]
• 여러 연구 트랙의 장기 축적을 구조 개선과 에이전틱 워크플로에 결합하면서 후속 모델 개선 속도와 품질이 높아졌다고 평가한다. [03:05]

3. Gemini 4와 프런티어 복귀 목표

• Gemini 4는 지금까지 가장 야심 찬 사전학습 실행으로 소개되지만, 사용자에게 제공되기 전까지는 신중한 낙관을 유지한다고 드러낸다. [04:05]
• 현재 모델 품질이 프런티어보다 다소 낮다는 평가를 인정하면서도 조직의 목표와 우선순위는 전적으로 프런티어에 맞춰져 있다고 단언한다. [05:05]
• 장기 AI 칩 투자와 양자컴퓨팅·Waymo 같은 사례를 들어 Google의 자원과 장기 기술 투자 성향을 자신감의 근거로 제시한다. [06:37]

4. 연구 조직 통합과 사용자 중심 AGI

• AGI에는 복잡한 실행 역량과 다양한 연구 아이디어를 받아들이는 넓은 탐색 경로가 동시에 필요하다고 보여준다. [07:27]
• 연구와 제품 조직을 연결하되 탐색을 하나로 획일화하지 않고, 혁신을 Gemini로 적절히 전달하는 구조를 강조한다. [08:01]
• 일상 사용자부터 과학자까지 폭넓은 사용 사례가 해결할 문제를 알려 주며, 이 상호작용이 신뢰받는 일반 지능으로 향하는 길이라고 본다. [09:10]

5. 벤치마크보다 진보와 신뢰의 축적

• AI 역사에서는 특정 과제가 지능의 기준으로 제시되고 달성되는 과정이 반복됐으며, 다음 목표를 선택하는 일 자체도 진보의 일부라고 드러낸다. [10:09]
• 과거의 좁은 AI에서 더 일반적인 목표로 이동했지만 AGI에 갑작스러운 임계점이 있다고 보지는 않는다. [10:53]
• 최종적으로 중요한 것은 사람이 함께 일하고 신뢰할 수 있는 지능적 존재를 점진적으로 구축하는 것이라고 정리한다. [10:57]

6. 초기 DeepMind와 DQN의 탄생

• 초기 DeepMind에서는 소수 연구자가 다양한 배경의 아이디어를 탐구했고, 팀 전체가 집중할 야심 찬 과제로 Atari 게임을 선택했다. [13:14]
• 연구자와 엔지니어가 매주 진척을 측정하며 협력한 프로젝트가 DQN으로 이어졌다. [13:42]
• DQN은 딥러닝과 강화학습을 결합해 스스로 과제를 학습하는 에이전트가 가능하다는 확신을 제공했다. [14:29]

7. 더 큰 과제와 변하지 않은 학습 원리

• DQN 이후 Go, 체스, StarCraft와 AlphaFold 등 더 큰 목표로 지식과 에이전트 연구가 확장됐다고 회고한다. [15:07]
• 현재도 유사한 손실함수, 사전학습, 강화학습과 최적화 원리를 사용한다는 점에서 기본 메커니즘은 이어지고 있다고 보여준다. [16:14]
• 달라진 점은 현실 언어 환경의 깊은 모호성, 복잡성, 다중 영역성으로, 사람의 의도를 예상하고 협력하려면 더 높은 지능이 필요하다는 것이다. [17:16]

8. AI의 이례적인 가속과 기반 축적

• AI가 지수적으로 도약하는 기술 영역이 됐다는 사실 자체가 통계적으로도 놀랍다고 평가한다. [17:59]
• 칩, 인터넷, 데이터와 지식의 축적이 지금의 발전을 가능하게 했으며, 이 시대를 직접 경험하는 것을 행운으로 느낀다고 드러낸다. [18:23]
• 과거 학생들이 탐구하던 주제가 세계적으로 큰 실용적 영향을 갖게 된 변화에 놀라움을 표한다. [18:46]

9. 누적 개선과 도약이 반복되는 여정

• 기술 진보는 발견으로 급성장한 뒤 점진적 개선이 이해를 쌓고 다시 새로운 발견을 낳는 중첩된 시그모이드 형태로 진행된다고 보여준다. [19:45]
• 과거에는 AGI를 연구하고 논문으로 다뤘지만, 이제 사람들이 실제로 사용하므로 책임감을 갖고 직접 구축해야 하는 단계라고 드러낸다. [20:13]
• 동시에 연구와 혁신의 넓은 퍼널을 유지하고, 긍정적 영향을 주는 AGI라는 북극성을 놓치지 않아야 한다고 강조한다. [21:03]

10. Google 제품과 피드백의 전략적 의미

• Google은 장기 기술 투자뿐 아니라 수십억 명 규모의 제품과 사용자 가치 제공 경험을 보유한 조직이라고 보여준다. [21:46]
• Gemini를 더 많은 사용자 접점에 배치해 상호작용을 이해하고 피드백을 얻을수록 AGI 개발도 개선된다고 주장한다. [22:18]

11. Pro·Flash·Gemini 4의 병렬 개발

• 모델 연구는 Pro, Flash 등 여러 규모와 시간축에서 병렬로 진행되며 Gemini 3.5 Pro도 계속 개발 중이라고 드러낸다. [22:53]
• Flash 계열은 빠른 반복을 통해 지속적으로 개선되고 프런티어에 가까워지는 경로로 평가된다. [23:20]
• 동시에 Gemini 4에서도 흥미로운 진전이 진행 중이라고 덧붙인다. [23:33]

12. 이동하는 프런티어와 에이전틱 워크플로

• 경쟁이 치열한 환경에서는 가장 뛰어난 모델을 내놓는 연구소가 바뀌며 프런티어도 계속 이동한다고 보여준다. [24:21]
• Gemini 3.5 개발 과정에서 에이전틱 행동과 워크플로를 모델에 구현하는 방법을 많이 학습했다고 드러낸다. [24:36]
• 현재는 사용자가 다양한 에이전틱 작업에서 협력 파트너에게 요구하는 바를 이해하는 역량에 자신감을 보인다. [24:55]

13. 가장 원하는 능력은 더 높은 지능

• 특정 기능 하나를 선택하기보다 모델을 전반적으로 더 지능적으로 만들고 싶다고 답한다. [25:20]
• 지능이 높아지면 모든 작업을 더 잘하고 더 직관적으로 수행할 수 있다는 단순한 우선순위를 제시한다. [25:29]

14. 인간적 책임과 프런티어 리더십

• 진행자는 프런티어를 향한 기술적 집중과 인간적인 온기를 함께 느낀다며 새로운 리더십에 기대를 표한다. [26:17]
• 대화는 향후 추가 진전을 다시 다루기를 기대한다는 인사와 함께 마무리된다. [26:38]

🧾 결론

• 코딩 에이전트는 단순한 코드 생성 기능이 아니라 모델이 도구를 사용하고 사람과 협업하는 능력을 검증하는 핵심 환경으로 제시된다.
• AGI 개발은 연구 성과만으로 완결되지 않으며, 실제 사용자에게 배포하고 신뢰와 유용성을 반복적으로 확인하는 실행 과정까지 포함한다.
• 장기적인 기술 축적과 단계적 개선이 새로운 도약을 낳는다는 관점에서, 프런티어 경쟁은 단일 출시보다 연구·제품·인프라 전체의 지속적인 결합 능력에 달려 있다.

📈 투자·시사 포인트

• 에이전틱 코딩 성능은 모델의 추론뿐 아니라 도구 사용과 장기 작업 수행 능력까지 드러내므로 프런티어 경쟁력을 판단하는 주요 관찰 지점이 될 수 있다.
• Google이 보유한 AI 칩, 연구 조직, 대규모 사용자 제품의 풀스택은 잠재적 강점이지만, 실제 모델 품질과 사용자 가치로 전환되는지는 별도로 확인해야 한다.
• 빠르게 개선되는 Flash 계열은 최고 성능 모델만큼이나 반복 속도와 배포 효율이 경쟁 구도를 좌우할 수 있음을 시사한다.
• AGI를 단일 벤치마크로 판단하기 어렵다면 신뢰성, 실제 업무 완수율, 사용자 재사용, 피드백 반영 속도 같은 복합 지표의 중요성이 커진다.

⚠️ 불확실하거나 확인이 필요한 부분

• AGI를 판정할 단일 테스트가 없다는 설명은 인터뷰이의 판단이며, AGI의 정의나 평가 기준에 관한 합의가 확립됐다는 의미는 아니다.
• Gemini 4의 학습 진행, Gemini 3.5 Pro의 개발 상태, Flash 계열의 프런티어 접근은 정량 지표 없이 내부 평가 중심으로 언급됐다.
• 제공된 전사에는 인명과 모델 번호, DQN 표기 일부가 불명확하게 기록돼 있어 정확한 고유명사와 버전 체계는 원본 영상에서 확인필요가 있다.
• 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
• 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
• 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.

✅ 액션 아이템

• 코딩 에이전트를 평가할 때 코드 생성 점수뿐 아니라 도구 호출, 저장소 탐색, 수정 검증, 장기 작업 완수 여부를 함께 측정한다.
• 모델 출시를 비교할 때 최고 벤치마크와 함께 배포 속도, 비용 효율, 사용자 피드백 반영 주기를 추적한다.
• AGI 관련 주장을 검토할 수 있도록 신뢰성, 일반성, 협업 능력, 실제 사용자 가치에 관한 복수의 평가 기준을 정의한다.
• Gemini 4와 Pro·Flash 계열에 관한 후속 공개 자료에서 정량 성능과 에이전틱 워크플로 개선 근거를 확인한다.

❓ 열린 질문

• 사용자 피드백이 모델의 일반 지능을 높이는 신호와 특정 제품 경험을 최적화하는 신호로 어떻게 구분될 수 있을까?
• 코딩 에이전트에서 얻은 도구 사용과 협업 능력이 과학 연구나 다른 개방형 업무로 얼마나 일반화될까?
• 프런티어가 계속 이동하는 환경에서 모델 성능, 배포 효율, 신뢰성 중 무엇을 우선순위로 삼아야 할까?