💡 한 줄 결론

지속 학습, 장기 추론, 기억의 일부 측면은 아직 해결되지 않았고, 이런 능력들은 AGI에 필수적인 구성 요소로 남아 있다

📌 핵심 요점

1. 지속 학습, 장기 추론, 기억의 일부 측면은 아직 해결되지 않았고, 이런 능력들은 AGI에 필수적인 구성 요소로 남아 있다
2. Demis Hassabis의 경력은 체스, 게임 개발, 인지신경과학, DeepMind 창업으로 이어지며, 초기부터 지능 자체를 풀어야 할 문제로 다뤘다
3. 대규모 사전학습, RLHF, 체인오브소트 같은 현재 패러다임은 AGI 최종 아키텍처의 일부가 될 가능성이 높고, 완전한 막다른 길일 가능성은 낮다
4. 현재 에이전트 시스템은 같은 가중치를 반복적으로 사용하는 구조에 가깝고, 새로운 경험을 모델 내부에 지속적으로 통합하는 능력은 제한적이다
5. 백만 token context window는 대부분의 사용 목적에는 충분히 크지만, 인간의 working memory와 비교하면 단순 용량만으로 기억 문제를 해결하지 못한다

🧩 배경과 문제 정의

• AGI에는 지속 학습, 장기 추론, 기억, 일관성 같은 미해결 능력이 필요하며, 현재의 대규모 사전학습·RLHF·체인오브소트만으로 충분한지는 아직 확정되지 않았다.
• AGI가 2030년 전후에 등장할 가능성을 가정하면, 지금 시작하는 딥테크 여정은 중간에 AGI가 도착하는 세계를 전제로 설계돼야 한다.
• DeepMind의 AlphaGo와 AlphaFold 성과는 지능 문제 해결의 가능성을 보여주는 사례지만, AGI로 가기 위해서는 능동적으로 문제를 해결하는 에이전트 시스템이 핵심 경로가 된다.
• 현재 에이전트 시스템은 같은 가중치를 반복적으로 활용하는 구조에 머물러 있으며, 지속 학습과 기억 통합을 어떻게 구현할지가 중요한 병목이다.

🕒 시간순 섹션별 상세정리

1. AGI에 필요한 미해결 능력과 에이전트 경로 [00:00]

• 지속 학습, 장기 추론, 기억의 일부 측면은 아직 해결되지 않았고, 이런 능력들은 AGI에 필수적인 구성 요소로 남아 있다.
• 2030년 전후의 AGI 타임라인을 가정하면, 오늘 시작하는 딥테크 프로젝트는 개발 도중 AGI가 등장할 수 있다는 조건을 반영해야 한다.
• AGI 등장은 반드시 부정적인 변수만은 아니지만, 기술·사업 전략이 그 가능성을 능동적으로 계산하지 않으면 중간 경로가 흔들릴 수 있다.
• AGI에 도달하려면 문제를 직접 해결하는 능동적 시스템이 필요하며, 에이전트는 그 방향으로 가는 초기 경로로 작동한다.
• Demis Hassabis의 경력은 체스, 게임 개발, 인지신경과학, DeepMind 창업으로 이어지며, 초기부터 지능 자체를 풀어야 할 문제로 다뤘다.
• DeepMind는 AlphaGo로 바둑 세계 챔피언을 이겼고, AlphaFold로 단백질 구조 예측이라는 생물학의 50년 난제를 해결한 사례를 만들었다.
• AlphaFold 결과는 전 세계 과학자에게 무료로 제공됐고, 이 성과는 화학 분야 노벨상 수상으로 연결됐다.
• Google DeepMind의 Gemini 개발은 청소년기부터 이어진 인공 일반 지능 목표와 연결되며, 기존 성과 이후에도 같은 장기 목표를 계속 밀어붙이는 흐름이다.

2. 현재 AGI 아키텍처의 강점과 남은 결핍 [01:53]

• 대규모 사전학습, RLHF, 체인오브소트 같은 현재 패러다임은 AGI 최종 아키텍처의 일부가 될 가능성이 높고, 완전한 막다른 길일 가능성은 낮다.
• 현재 기법들은 많은 능력을 이미 입증했지만, 그 위에 한두 가지 핵심 요소가 더 필요할 수 있다.
• 지속 학습, 장기 추론, 기억, 전반적 일관성은 AGI에 필요한 핵심 미해결 과제로 남아 있다.
• 기존 기술의 스케일업과 점진적 혁신만으로 해결될 가능성과, 아직 큰 아이디어 한두 개가 더 필요할 가능성은 대략 50대 50으로 갈린다.
• 현재 에이전트 시스템은 같은 가중치를 반복적으로 사용하는 구조에 가깝고, 새로운 경험을 모델 내부에 지속적으로 통합하는 능력은 제한적이다.
• 지속 학습은 임시방편적 조합이나 야간의 dream cycle 같은 방식으로 보완되고 있지만, 안정적이고 근본적인 해결책은 아직 부족하다.
• 에피소드 기억과 consolidation 문제는 해마가 새로운 지식을 기존 지식 안에 자연스럽게 통합하는 방식과 연결된다.
• AGI 수준의 시스템에는 새로운 지식을 기존 지식 체계에 무리 없이 흡수하는 기억 통합 능력이 필요하며, 이 지점이 현재 구조의 중요한 병목으로 남아 있다.

3. 경험 replay와 AI 기억 구조의 한계 [04:01]

• 뇌는 수면, 특히 REM 수면에서 중요한 에피소드를 다시 재생하며 학습에 필요한 경험을 강화한다.
• 초기 Atari DQN은 neuroscience에서 빌린 experience replay를 통해 성공적인 trajectory를 여러 번 재사용했고, 이 방식이 Atari 게임 숙달에 중요한 역할을 했다.
• 현재 AI는 많은 정보를 context window에 밀어 넣는 방식에 의존하며, 이는 임시방편에 가깝고 장기적으로 만족스러운 기억 구조가 아니다.
• 저장 용량이 수백만·수천만 context window 수준까지 커져도, 특정 의사결정에 정말 relevant한 정보를 찾아내는 검색 비용은 여전히 크다.
• 백만 token context window는 대부분의 사용 목적에는 충분히 크지만, 인간의 working memory와 비교하면 단순 용량만으로 기억 문제를 해결하지 못한다.
• 현재 방식은 중요하지 않은 정보와 틀린 정보까지 함께 저장하는 brute force 구조에 가깝고, 무엇을 남기고 버릴지에 대한 선별이 약하다.
• live video를 순진하게 token으로 모두 기록하면 백만 token은 약 20분 정도에 불과해, 긴 시간의 생활 맥락을 이해하기에는 빠르게 부족해진다.
• 한 달이나 두 달에 걸친 개인의 상황을 이해하는 시스템에는 단순 context 확장보다 효율적인 기억 압축·검색·선별 구조가 필요하다.

4. DeepMind의 에이전트 철학과 강화학습의 재부상 [06:07]

• DeepMind는 초기부터 목표를 스스로 달성하고, 능동적으로 결정하며, 계획을 세우는 agent system을 핵심 연구 방향으로 삼았다.
• Atari와 AlphaGo는 tractable한 게임 환경에서 목표 달성형 에이전트를 실험한 사례였고, 이후 StarCraft와 AlphaStar처럼 더 복잡한 게임으로 확장됐다.
• 핵심 질문은 게임 모델을 넘어 world model이나 language model로 일반화할 수 있는지였고, 최근 몇 년의 foundation model 발전은 그 방향으로 이어졌다.
• RL은 유행의 파도를 타지만 여전히 저평가될 가능성이 있으며, 오늘날의 agent와 reasoning model에 깊게 연결된다.
• thinking mode와 chain-of-thought reasoning을 갖춘 최신 모델들은 AlphaGo에서 개척된 탐색·계획적 사고의 일부를 더 일반적인 형태로 다시 활용한다.
• AlphaGo와 AlphaZero 시기의 오래된 아이디어들은 오늘날 대규모 foundation model 환경에서 재검토할 가치가 크다.
• Monte Carlo search 같은 탐색 기법은 현재의 강화학습 위에 추가적인 추론 능력을 얹는 방식으로 다시 중요해진다.
• 향후 몇 년의 발전은 AlphaGo·AlphaZero에서 나온 원리와 현대 foundation model의 scale이 결합되는 방향에서 나타날 가능성이 크다.

5. distillation은 프런티어 성능을 작은 모델로 압축하는 핵심 역량이다 [08:02]

• 더 똑똑한 모델을 만들려면 여전히 큰 프런티어 모델이 필요하지만, distillation을 통해 그 성능을 더 작고 빠른 모델에 빠르게 담을 수 있다.
• Flash 계열 모델은 프런티어 모델에 가까운 성능을 훨씬 낮은 비용으로 제공하며, 작은 모델의 실용성을 크게 높인다.
• Google은 검색의 AI Overviews와 AI mode, Gemini 앱, 지도, YouTube 등 수십억 사용자 제품에 AI를 넣어야 하므로 빠르고 저렴한 서빙 압력이 크다.
• 대규모 제품 표면에서 낮은 지연시간과 효율성을 맞춰야 하는 필요가 Flash 및 더 작은 Flashlight 모델의 최적화를 강하게 밀어붙인다.
• distillation에 정보 밀도 한계가 있을 수는 있지만, 현재 단계에서는 그 한계에 도달했는지 아무도 확정하지 못한다.
• 프런티어 모델의 능력은 반년에서 1년 정도 뒤 더 작은 모델이나 거의 엣지급 모델로 내려올 수 있다는 가정이 작동한다.
• Gemma 모델은 작은 크기에서도 강한 성능을 보이며, distillation과 효율화 기술이 작은 모델의 성능을 계속 끌어올린다.
• 이론적 한계가 보이지 않는 한, 작은 모델은 앞으로도 비용·속도·배포 범위에서 더 큰 역할을 맡을 가능성이 크다.

6. 빠른 작은 모델은 개발자의 반복 속도와 생산성을 바꾼다 [10:39]

• 일부 엔지니어는 AI 도구로 과거보다 수백 배에서 천 배에 가까운 작업량을 처리하는 생산성 변화를 경험하고 있다.
• 작은 모델은 비용뿐 아니라 속도에서 강점을 가지며, 코딩처럼 반복이 많은 작업에서는 빠른 응답이 협업 품질을 직접 바꾼다.
• 90~95% 수준의 성능만으로도 충분한 작업에서는 프런티어급 정확도보다 빠른 반복 속도가 더 큰 이득을 만든다.
• 잃는 성능보다 반복 속도로 되찾는 효용이 더 크면, 작은 모델은 실무 워크플로에서 더 나은 선택지가 된다.
• 작은 모델은 서버 비용을 줄이는 것뿐 아니라 기기 내부에서 AI를 실행하는 엣지 활용에 적합하다.
• 개인 기기에서 민감한 정보를 처리할 때 로컬 모델은 개인정보 보호와 보안 측면에서 중요한 장점을 갖는다.
• 가정용 로봇처럼 개인 공간에서 작동하는 시스템에는 강력하면서도 효율적인 로컬 모델이 필요하다.
• 로컬 모델이 더 큰 시스템과 조율되는 구조가 가능해지면, 속도·비용·프라이버시를 모두 고려한 AI 사용 방식이 확장된다.

7. 로컬 처리와 클라우드 위임을 결합한 최종 형태 [12:01]

• 오디오와 시각 피드는 로컬에서 처리되고, 특정 상황에서만 더 큰 클라우드 기반 프런티어 모델에 작업이 위임되는 구성이 가능하다.
• 민감한 입력이 로컬에 머무르면 사용자 데이터 노출 위험이 줄고, 동시에 복잡한 판단에는 대형 모델의 성능을 활용할 수 있다.
• 이 구조는 온디바이스 AI와 클라우드 AI가 경쟁 관계가 아니라 역할을 나누는 하이브리드 상태를 목표로 한다.
• 현재 모델은 대체로 stateless에 가깝고, 개발자가 지속 학습 모델을 어떻게 조정할지에 대한 경험도 아직 명확하지 않다.
• 지속 학습이 없으면 에이전트가 사용자의 구체적 맥락에 적응하지 못하고, 여러 기능을 이어 붙여도 전체 작업을 맡기는 수준에는 도달하기 어렵다.
• 완전한 일반지능에 가까워지려면 에이전트가 배치된 특정 환경과 작업 맥락을 스스로 학습하는 능력이 필요하다.

8. 추론 시스템의 과잉 사고와 사고 과정 감시 필요성 [13:26]

• 현재 추론 패러다임은 아직 단순하고 brute force 성격이 강해, 사고 과정을 중간에 감시하거나 개입하는 방식의 혁신 여지가 크다.
• 체스 사례에서는 모델이 어떤 수가 실수라는 점을 인식하고도 더 나은 대안을 찾지 못해 다시 그 수로 돌아가는 문제가 나타난다.
• 정밀한 추론 시스템이라면 잘못된 선택을 식별한 뒤 같은 선택으로 되돌아가는 루프가 줄어야 하며, 사고 과정 자체를 점검하는 메커니즘이 중요해진다.
• 모델은 IMO 금메달급 문제처럼 매우 어려운 과제는 해결할 수 있지만, 질문 방식에 따라 초등 수준의 수학·추론 오류도 낼 수 있다.
• 이런 격차는 지능이 균일하게 상승한 상태가 아니라 영역과 표현 방식에 따라 성능이 크게 흔들리는 jagged intelligence 상태임을 보여준다.
• AGI에 도달하려면 문제를 능동적으로 해결하는 시스템이 필요하고, 에이전트는 그 경로의 핵심 축이다.
• 현재 에이전트 활용은 초기 단계이며, 사용자와 개발자가 어떤 방식으로 에이전트와 가장 잘 협업할지 실험하는 단계에 가깝다.

9. AI 도구의 실질적 가치 검증 단계 [16:01]

• 최근 몇 달 사이에야 AI 도구가 업무 흐름 안에서 단순한 보조 기능이 아니라 근본적인 작업을 맡을 가능성이 드러나기 시작했다.
• 기술 수준이 좋아지면서 시간 절약과 효율 향상에 실제 가치를 더하는 영역이 생기고 있지만, 전체적으로는 여전히 실험 단계에 가깝다.
• 수십 개의 에이전트를 40시간씩 실행하는 방식은 흥미롭지만, 현재 산출물이 그만한 입력 비용을 충분히 정당화하는지는 불확실하다.
• 바이브 코딩으로 만든 작은 프로토타입은 빠르게 가능해졌지만, 앱스토어 차트를 장악하는 AAA급 게임 같은 강력한 결과물은 아직 나오지 않았다.
• 예전에는 몇 달 걸렸을 테마파크형 프로토타입을 짧은 시간 안에 만들 수 있을 만큼 제작 속도는 크게 빨라졌다.
• 완성도 높은 창작물에는 여전히 인간의 craft, taste, soul이 필요하며, 도구만으로는 히트 게임처럼 대중성과 품질을 동시에 확보한 사례가 부족하다.
• AI 도구의 완전한 가치는 향후 6~12개월 안에 더 뚜렷해질 가능성이 있지만, 현재는 과정의 문제인지 도구의 한계인지가 명확하지 않다.
• 먼저 나타날 변화는 완전 자율 시스템보다 인간이 AI를 활용해 1000배 생산성으로 움직이는 형태이며, 이후 베스트셀러 앱이나 게임 제작의 일부가 점점 자동화될 가능성이 크다.

10. 창의성의 기준: Move 37과 ‘바둑을 발명하는 시스템’ [18:31]

• AlphaGo의 Move 37은 기존 규칙 안에서 매우 창의적이고 유용한 한 수였지만, 그것만으로 창의성의 최종 기준을 충족하지는 않는다.
• 더 높은 기준은 바둑의 규칙 안에서 뛰어난 수를 찾는 것이 아니라, 짧은 시간에 규칙을 배울 수 있고 평생에 걸쳐 숙달해야 하는 아름다운 게임 자체를 발명하는 능력이다.
• AlphaFold 같은 과학 프로젝트는 AlphaGo 이후의 성과와 연결되지만, 현재 시스템이 “바둑 같은 게임을 새로 만들어내는 수준”에 도달했는지는 회의적이다.
• 오늘날 시스템에는 창의성의 어떤 요소가 아직 빠져 있을 수 있으며, 그 결핍이 모델 능력의 문제인지 사용 방식의 문제인지는 확정하기 어렵다.

11. 결핍이 도구가 아니라 사용 방식일 가능성 [19:42]

• 누군가 현재의 시스템으로 바둑에 준하는 창작물을 만들어낸다면, 결핍은 시스템 자체가 아니라 사용 방식에 있었던 셈이 된다.
• 뛰어난 창의적 사용자가 충분한 추진력과 프로젝트의 soul을 부여하면, 오늘날 시스템도 기대 이상의 창작 능력을 발휘할 가능성이 있다.
• 핵심 변수는 자동화 수준만이 아니라 인간이 어떤 방향성과 감각을 넣어 시스템을 움직이느냐에 달려 있다.
• AI 도구를 하루 종일 실험하며 익숙해진 사용자는 도구와 거의 일체화된 수준의 활용 능력을 갖출 수 있다.
• 단순한 사용 빈도를 넘어 깊은 창의성이 함께 작동하면, 기존보다 훨씬 인상적인 결과물이 나올 가능성이 커진다.
• 이 흐름은 AI 활용의 성과가 모델 성능만이 아니라 사용자의 실험량, 숙련도, 창의적 결합 능력에도 좌우된다는 점을 드러낸다.

12. Gemma와 오픈 모델 전략 [20:19]

• Gemma는 높은 성능의 공개 접근 가능 모델을 로컬에서도 실행할 수 있게 하려는 흐름 속에 놓여 있다.
• AlphaFold처럼 과학 성과를 무료로 공개해온 경험이 오픈소스와 오픈사이언스에 대한 지지와 연결된다.
• Gemma는 출시 후 약 2주 반 만에 4천만 다운로드를 기록했고, 이는 공개 모델 생태계에서 사용자 실험과 개발 수요가 크다는 근거가 된다.
• 중국 오픈소스 모델들이 강세를 보이는 상황에서, 서구권 기반의 경쟁력 있는 오픈 모델 스택도 중요하다는 판단이 깔려 있다.
• 프런티어급 최대 모델을 서로 다른 속성으로 두 개 이상 만드는 데에는 인재, 자원, 컴퓨트가 모두 부족하다는 현실적 제약이 있다.
• Android, 안경, 로보틱스에 쓰일 엣지 모델은 기기 표면에 배포되는 순간 취약성이 생기므로, 차라리 공개 모델로 운영하는 전략이 성립한다.
• nano 크기 수준의 모델을 공개 모델 방향으로 통합하면 제품 전략과 생태계 확장이 동시에 맞물린다.
• 더 많은 개발자가 Gemma 위에서 실험하고 구축할수록, 사용자 중심 AI와 구글의 자체 제품 활용이 함께 확장된다.

13. Gemini의 멀티모달 기반과 현실 세계 활용 [22:19]

• Gemini는 처음부터 멀티모달 모델로 설계되었고, 초기 개발 난도는 텍스트 중심 접근보다 높았지만 장기적 이점이 더 크다는 판단이 있었다.
• Genie 같은 월드 모델 구축, Gemini Robotics, 로봇공학 모델은 멀티모달 기반 모델 위에서 중요성이 커진다.
• 휴대폰, 안경, 기타 기기 형태의 디지털 어시스턴트가 현실 세계로 들어오려면 주변 물리 환경, 직관적 물리, 사용자의 물리적 맥락을 이해해야 한다.
• Gemini의 강점은 음성, 도구 사용, 긴 맥락, 물리 세계 이해가 결합되는 영역에서 두드러지며, 로보틱스와 현실 기반 어시스턴트에서 경쟁 우위로 이어진다.

14. 추론 비용 하락과 자원 사용의 역설 [24:01]

• 추론 비용이 빠르게 낮아져도 제본스 역설처럼 사용량이 함께 늘어나며, 절감된 비용이 곧바로 여유 자원으로 남지 않는다.
• 수백만 개의 에이전트가 무리처럼 협업하거나 소규모 에이전트 그룹이 여러 방향으로 사고를 확장하면, 사용 가능한 추론 자원 대부분이 다시 소비된다.
• 에너지 비용은 핵융합, 초전도체, 최적 배터리, 소재과학 발전으로 거의 0에 가까워질 가능성이 있지만, 칩의 물리적 생산은 여전히 병목으로 남는다.
• 향후 수십 년 동안은 추론 자원에 대한 배분과 제한이 계속 존재하며, 비용 하락 이후에도 효율적 사용이 핵심 조건이 된다.

15. AlphaFold 이후 약물 발견과 가상 세포의 목표 [25:17]

• 더 작은 모델이 점점 똑똑해지는 흐름 속에서 생명공학 영역의 관심은 AlphaFold 3 이후 단백질을 넘어 다양한 생체분자와 세포 시스템으로 확장된다.
• Isomorphic Labs는 AlphaFold 2 이후 DeepMind에서 분리된 조직으로, AlphaFold를 약물 발견 과정의 한 조각으로 두고 인접한 생화학·화학 문제까지 다룬다.
• 목표는 적절한 성질을 가진 화합물을 설계하는 방향으로 확장되며, 관련 진전은 곧 큰 발표가 있을 정도로 진행 중인 것으로 언급된다.
• 장기적으로는 세포를 교란했을 때 실험에 충분히 가까운 출력을 내는 완전한 가상 세포가 필요하며, 이는 탐색 단계를 줄이고 다른 모델 학습용 합성 데이터를 만드는 기반이 된다.

16. 가상 세포 구현을 위한 범위 축소와 복잡도 관리 [26:34]

• 완전한 가상 세포는 약 10년 정도 떨어진 목표로 추정되며, 현재는 상대적으로 자기완결성이 있는 세포핵부터 모델링하는 접근이 우선된다.
• 세포, 나아가 인간 신체 전체를 모델링하려면 모든 복잡도를 한 번에 다루기보다 적절한 세부 수준과 독립적인 부분 시스템을 골라야 한다.
• 자기완결적인 시스템은 입력과 출력을 근사할 수 있어 모델링 범위를 제한하기 쉽고, 세포핵은 이런 관점에서 유망한 첫 대상이 된다.
• 핵심 과제는 복잡한 생물학 시스템을 얼마나 작은 단위로 나누면서도 실제 현상을 설명할 만큼 충분한 구조를 유지할 수 있는가에 있다.

17. 살아 있는 세포 데이터와 고해상도 이미징 병목 [27:16]

• 가상 세포 개발에는 아직 데이터가 부족하며, 특히 살아 있는 세포 내부의 동적 상호작용을 충분한 해상도로 관찰할 수 있는 데이터가 필요하다.
• 살아 있는 세포를 죽이지 않고 이미징할 수 있다면 세포 모델링은 시각 문제로 전환되고, 기존 AI 접근으로 해결 가능한 영역이 크게 넓어진다.
• 현재로서는 나노미터 수준 해상도와 살아 있는 동적 세포 관찰을 동시에 만족하는 기술이 알려져 있지 않거나 제한적이다.
• 정적인 고해상도 이미지는 이미 매우 정교해졌지만, 세포 내부 상호작용을 시간에 따라 포착하지 못하면 완전한 가상 세포를 만들기에는 충분하지 않다.
• 복잡한 비전 문제와 동역학 시스템은 하드웨어·데이터 중심 접근 또는 더 나은 학습 기반 시뮬레이터를 통해 풀릴 수 있다.
• AI의 장기 목표는 단순한 자동화가 아니라 과학적 이해와 발견, 의학, 우주에 대한 이해를 확장하는 도구가 되는 데 있다.
• “지능을 해결한 뒤 다른 문제를 해결한다”는 구상은 AGI를 과학의 root node problem에 적용해 새로운 발견 경로를 여는 방향과 연결된다.

18. AlphaFold가 보여준 과학용 AI의 확산 효과 [29:23]

• AlphaFold는 AI가 하나의 과학 난제를 풀어 다른 연구 영역까지 열 수 있다는 원형 사례에 가깝다.
• 전 세계 300만 명 이상의 연구자, 사실상 대부분의 생물학 연구자가 AlphaFold를 활용하는 수준까지 확산됐다.
• 신약 발견 과정에서도 앞으로 거의 모든 약물 개발이 어느 시점에는 AlphaFold를 활용할 것이라는 전망이 나온다.
• 이 사례는 AI가 특정 연구 도구를 넘어 과학 전체의 생산성과 발견 방식에 영향을 줄 수 있다는 근거로 작동한다.

19. 여러 과학 영역의 AlphaFold 1단계 가능성 [29:50]

• 소재 과학, 수학, 의학, 기후 모델링 등은 아직 각 분야의 거대 난제를 완전히 해결하지 못했지만 매우 유망한 초기 결과가 나오고 있다.
• 현재 상태는 각 영역에서 “AlphaFold 1”에 가까운 단계로 볼 수 있으며, 다음 몇 년 안에 더 많은 성과가 나올 가능성이 있다.
• AI의 과학적 활용은 프로메테우스적 능력처럼 강력하지만, 같은 도구가 오용될 위험도 함께 커진다.
• 강력한 과학 도구일수록 무엇에 쓰는지와 어떻게 통제하는지가 기술적 성과만큼 중요해진다.

20. AI for science 스타트업의 방어 가능한 방향 [30:36]

• 과학용 AI 스타트업은 foundation model API를 감싸는 수준을 넘어서야 하며, 실제 frontier를 전진시키는 차별성이 필요하다.
• 핵심은 AI 기술이 향하는 방향을 예측하고, 소재·의학 같은 깊은 과학기술 영역과 결합하는 데 있다.
• 원자 세계와 연결된 interdisciplinary team은 단기간에 foundation model 업데이트만으로 대체되기 어렵기 때문에 더 방어 가능한 영역이 된다.
• 오래 지속되고 가치 있는 딥테크는 쉽지 않지만, 바로 그 어려움 때문에 장기적 차별성과 진입장벽이 생긴다.

21. 실패한 분야처럼 보였던 AI 적용 영역의 재평가 [32:00]

• 과거 AI 적용 분야는 투자자와 학계 모두에서 이미 시도했지만 작동하지 않는 좁은 주제로 취급됐고, 새로운 접근에 대한 신뢰가 낮았다.
• 이번에는 왜 다른지에 대한 확신과 근거가 있어야 하며, 머신러닝과 적용 분야 양쪽에 대한 전문성이 결합될 때 실행 가능성이 커진다.
• 창업팀이 두 영역의 전문성을 함께 갖추면 기존 회의론을 넘어 큰 영향과 가치를 만들 수 있는 여지가 생긴다.
• 성공 이후에는 결과가 당연해 보이지만, 성과가 나오기 전에는 주변의 반대와 불신이 강하게 작동한다.

22. 장기 몰입과 개인적 확신이 돌파구의 기반이 되는 구조 [32:43]

• 아무도 믿지 않는 아이디어일수록 진심으로 열정을 가진 문제를 선택해야 하며, 외부 인정이 없어도 지속할 수 있는 동기가 중요하다.
• AI는 매우 이른 시기부터 가장 중대한 변화 가능성과 가장 큰 지적 흥미를 가진 분야로 여겨졌고, 실제 성공 여부와 무관하게 계속 붙잡을 문제였다.
• 만약 현재의 AI 발전이 50년 이른 시도였더라도, 작은 차고나 학계 안에서 계속 방법을 찾는 형태로 연구가 이어졌을 가능성이 크다.
• AlphaFold는 이런 장기적 확신 속에서 특정 과학 문제를 깊게 파고든 사례이며, 성공한 돌파구는 사후적으로만 명확해지는 경향이 있다.

23. AlphaGo·AlphaFold형 돌파구가 가능한 문제의 조건 [33:35]

• AlphaGo와 AlphaFold에서 반복된 조건은 거대한 조합 탐색 공간이며, Go의 수순과 단백질 구성은 우주의 원자 수를 넘는 수준의 탐색 규모를 가진다.
• 무차별 대입이나 특수 사례 알고리즘으로 풀 수 없는 문제일수록 현대 AI 기법의 탐색 능력이 강점을 발휘한다.
• 목적함수가 명확해야 하며, 단백질에서는 자유에너지 최소화, Go에서는 승리처럼 탐색 방향을 잡고 개선할 기준이 필요하다.
• 충분한 실제 데이터나 분포 안의 합성 데이터를 만들 수 있는 시뮬레이터가 있으면, 오늘날의 방법만으로도 해답에 해당하는 바늘을 건초더미에서 찾는 수준까지 접근할 수 있다.

24. 약물 발견과 과학 추론으로 확장되는 탐색 모델 [34:45]

• 약물 발견도 거대한 탐색 문제로 볼 수 있으며, 특정 질병을 해결하고 부작용이 없는 화합물이 물리 법칙 안에 존재한다면 핵심은 그것을 효율적으로 찾는 것이다.
• AlphaGo는 완벽한 Go 수를 찾는 방식으로 이런 “건초더미 속 바늘” 탐색 가능성을 보여준 초기 사례로 해석된다.
• 인간이 AI를 이용해 AlphaFold 같은 시스템을 만드는 단계를 넘어, AI가 가능한 가설 공간 자체를 탐색하는 메타 단계가 다음 문제로 떠오른다.
• Co-scientist, AlphaEvolve 같은 시스템은 기본 Gemini보다 한 걸음 더 나아간 과학적 탐색을 목표로 하며, 프런티어 연구소들도 유사한 방향의 실험을 진행 중이다.

25. 진정한 발견은 기존 패턴 밖의 가설 생성에서 갈린다 [36:01]

• 거대한 과학적 발견은 단순한 패턴 매칭이나 외삽만으로 충분하지 않으며, 알려진 것의 경계를 넘어서는 창의성과 유추적 추론이 필요하다.
• 현재 시스템은 그런 능력을 갖추지 못했거나, 적어도 그 능력이 드러나는 방식으로 충분히 활용되지 않고 있을 가능성이 있다.
• 과학에서 더 높은 기준은 기존 난제를 푸는 것을 넘어, 흥미롭고 의미 있는 새 가설을 만들어내는 능력이다.
• 리만 가설이나 밀레니엄 문제 해결도 매우 큰 성취지만, 최고 수학자들이 평생 연구할 만하다고 인정할 새 문제군을 만드는 일은 더 높은 난도에 속한다.

26. ‘아인슈타인 테스트’는 새로운 발견 능력의 기준이 된다 [37:10]

• AI가 새 밀레니엄 문제 수준의 문제를 만들어내는 방법은 아직 명확하지 않지만, 그런 능력이 마법적인 영역으로 남지는 않을 가능성이 있다.
• 핵심 결핍은 한두 가지 능력일 수 있으며, 그것이 채워지면 시스템이 진정으로 새로운 것을 발명하는 단계에 가까워질 수 있다.
• 1901년까지의 지식만 학습한 시스템이 1905년의 아인슈타인처럼 특수상대성이론 수준의 발견을 만들어낼 수 있는지가 중요한 시험대가 된다.
• 이 테스트를 반복적으로 실행해 가능성을 확인하면, AI가 진짜 novel discovery에 접근했는지 판단할 수 있다.

27. frontier 구축에서는 깊은 문제에 인생의 에너지를 쓰는 편이 낫다 [37:52]

• 어려운 문제와 얕은 문제는 난이도의 종류가 다를 뿐이며, 깊은 문제가 항상 더 불가능한 길은 아니다.
• 인생의 시간과 에너지는 제한적이기 때문에, 자신이 없었다면 추진되지 않았을 만큼 차이를 만들 수 있는 문제에 투입하는 편이 더 의미 있다.
• frontier에서 오래 남는 성취는 표면적 문제보다 깊은 문제와 연결될 가능성이 크며, 기술적 난도는 장기적 가치와도 맞물린다.
• 딥테크와 학제 간 작업은 여러 분야의 연결을 찾아내는 방식으로 더 중요해지고, AI는 그 연결을 발견하고 활용하는 일을 더 쉽게 만든다.

28. 딥테크 전략은 AGI가 중간에 등장하는 시간축을 고려해야 한다 [39:13]

• AGI 도래 시점을 2030년 전후로 본다면, 지금 시작하는 딥테크 여정은 대체로 10년 단위의 개발 기간 중간에 AGI를 맞이할 수 있다.
• AGI의 등장은 반드시 부정적 변수는 아니지만, 딥테크 프로젝트가 이를 활용할 수 있는지와 AGI가 해당 기술을 어떻게 다룰지가 전략적 고려사항이 된다.
• 범용 시스템인 Gemini나 Claude 같은 AI가 AlphaFold 같은 전문 시스템을 도구로 활용하는 구조가 가능해진다.
• 전문 과학 도구와 범용 AI의 결합은 딥테크의 경쟁 방식과 연구·개발 속도를 바꾸는 핵심 변수로 작용할 수 있다.

29. 범용 모델과 전문 도구의 분리 구조 [40:00]

• 모든 전문 지식을 하나의 거대한 모델에 넣으면 회귀 문제가 커지고, 단백질 접힘 같은 특정 기능이 언어 능력 등 다른 핵심 역량을 나쁘게 흔들 수 있다.
• 단백질 접힘은 Gemini 자체가 직접 담당할 필요가 없으며, 정보 효율성 관점에서는 전문 시스템을 별도로 두는 구조가 더 합리적이다.
• 더 나은 방향은 범용 도구 사용 모델이 강력한 전문 도구를 호출하고, 경우에 따라 그 전문 도구를 훈련시키는 분리형 시스템이다.
• 이 구조가 현실화되면 지금 무엇을 만들지에 대한 판단도 달라지며, 공장·금융 시스템 같은 물리적 인프라와 산업 시스템 설계까지 영향을 받는다.
• AGI에 가까운 변화가 중간에 도착할 가능성을 진지하게 상정하고, 그 세계에서도 유용하게 작동할 것을 미리 구축하는 전략이 중요하다.

🧾 결론

• 지속 학습, 장기 추론, 기억의 일부 측면은 아직 해결되지 않았고, 이런 능력들은 AGI에 필수적인 구성 요소로 남아 있다
• Demis Hassabis의 경력은 체스, 게임 개발, 인지신경과학, DeepMind 창업으로 이어지며, 초기부터 지능 자체를 풀어야 할 문제로 다뤘다
• AGI에 가까운 변화가 중간에 도착할 가능성을 진지하게 상정하고, 그 세계에서도 유용하게 작동할 것을 미리 구축하는 전략이 중요하다

📈 투자·시사 포인트

• 대규모 사전학습, RLHF, 체인오브소트 같은 현재 패러다임은 AGI 최종 아키텍처의 일부가 될 가능성이 높고, 완전한 막다른 길일 가능성은 낮다
• 반복 운영과 예외 대응이 많은 조직일수록 자동화 ROI를 비교적 빠르게 확인할 가능성이 있다.
• 공통 워크스페이스, 메모리 구조, API 연동 기반에 대한 투자 필요성이 커질 수 있다.

⚠️ 불확실하거나 확인이 필요한 부분

• 일부 자막 표현은 자동 추출 특성상 고유명사나 제품명이 부정확할 수 있어 원문 확인이 필요하다.
• 영상 속 수치와 자동화 범위는 발표자 설명 기반이므로 외부 검증 자료와는 구분해서 봐야 한다.

✅ 액션 아이템

• 현재 조직의 반복 운영 업무를 목록화하고 자동화 우선순위를 정리한다.
• 메모리·규칙·툴 사용 문서를 한곳에서 관리할지 역할별로 분리할지 기준을 정한다.
• 민감 데이터와 일반 업무를 같은 에이전트에 둘지 권한을 분리할지 검토한다.

❓ 열린 질문

• 이 구조를 다른 조직에 옮길 때 가장 먼저 막히는 데이터/API 병목은 무엇인가?
• 단일 에이전트와 멀티 에이전트 운영은 어떤 업무 조건에서 각각 더 유리한가?