EP 123. 한 치 앞도 모르는 미래: 젠슨 황 사임, Fable 5.2, weight-space programming
Quick Summary
자료가 전한 젠슨 황 사임 소식, Fable 5.2의 발전과 weight space programming 실험은 AI의 미래를 성능만으로 예측하기 어렵고 자본·정책·검증 능력을 함께 살펴야 함을 보여준다.
영상 보기
클릭 전까지는 가벼운 미리보기만 먼저 불러옵니다.
🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론
자료가 전한 젠슨 황 사임 소식, Fable 5.2의 발전과 weight-space programming 실험은 AI의 미래를 성능만으로 예측하기 어렵고 자본·정책·검증 능력을 함께 살펴야 함을 보여준다.
📌 핵심 요점
- 젠슨 황 사임 논의의 핵심은 NVIDIA의 생태계 지원이 이어질지다. 자료는 NVIDIA를 GPU 공급자이자 오픈웨이트 모델·네오클라우드·스타트업의 후원자로 평가한다. 경영 변화가 자금 공급과 전략에 영향을 줄 수 있다는 우려가 나오지만, 사임 배경과 다른 기업 일정의 인과관계는 확인되지 않았다.
- Fable 5.2와 AI 연구 자동화 사례는 학습 효율과 개발 속도의 개선을 부각한다. 공개 모델과 내부 모델의 역량 차이, 사전학습 효율 개선, Mythos의 GPU 커널 최적화 사례가 소개된다. 다만 특정 작업의 수개월을 사흘로 줄였다는 설명을 AI 연구 전체의 생산성 배수로 확대할 수는 없다.
- 모델의 기능 확장은 사업의 희소성과 엔지니어의 역할을 바꾼다. 영상 편집과 생산성 도구의 기능이 모델에 흡수되는 한편, 무제한 에이전트 실행은 코드·테스트·유지 비용을 늘릴 수 있다. 출연진은 산출물의 양보다 문제 해결을 끝까지 연결하고 중간 의사결정을 맡는 사람의 역할을 강조한다.
- Weight-space programming 실험은 목표 지식의 암기와 일반화가 다름을 보여준다. Qwen 0.8B의 가중치를 직접 수정한 뒤 표본 200개 문제의 정답률은 95~100%에 도달했지만, 보지 못한 문제에는 약했고 기존 상식 일부도 손상됐다. 화풍 변경 결과 역시 개인의 정성적 평가이므로 새로운 능력의 획득을 입증한 것으로 보기 어렵다.
- 발전 속도와 실제 도입 사이에는 큰 간극이 있다. Ramp 자료에서는 AI 지출이 일부 기업에 집중되고 토큰 사용 증가에도 지출이 정체하는 구간이 소개된다. 기업의 다음 과제는 더 많은 토큰을 쓰는 데서 나아가, 업무 결과를 검증하고 반복 개선할 환경과 맥락을 만드는 일이라는 판단이다.
🧩 배경과 문제 정의
- 젠슨 황의 갑작스러운 NVIDIA CEO 퇴진 소식이 AI 기술 발전 논의를 미·중 갈등, 국가 안보, 기업과 자본의 이해관계 문제로 확장한다. 사건의 배경과 다른 일정 사이의 연관성은 확인되지 않았다.
- NVIDIA는 GPU 공급뿐 아니라 오픈웨이트 모델, 네오클라우드, 스타트업 투자를 지원해 왔다. 경영진 교체가 이 생태계의 자금과 전략에 어떤 영향을 줄지가 핵심 우려다.
- Fable 5.2와 AI 연구 자동화 사례는 모델 성능뿐 아니라 학습 효율과 개발 속도도 빠르게 개선되고 있다는 문제의식을 낳는다. 초지능 도달 시점에 관한 전망은 가정과 불확실성을 포함한다.
🕒 시간순 섹션별 상세정리
1. 젠슨 황 퇴진과 주요 기업 일정의 중첩
- 젠슨 황의 갑작스러운 CEO 퇴진 이후 초기의 충격이 가라앉으면서 원인에 대한 다양한 해석이 나온다. 직전까지 미국 정부와 빅테크 인사들의 결속이 강해 보였다는 점에서 예상 밖의 사건으로 받아들여진다 [01:23]
- NVIDIA의 11월 17일 실적 발표와 Anthropic의 11월 19일 IPO 예상 일정이 가까이 놓여 있다. 반중국 진영의 공세와 상무부 인사 관련 이야기까지 겹치지만, 일정의 중첩만으로 사건 사이의 인과관계나 Anthropic 배후설을 받아들이지는 않는다 [02:00]
2. AI의 전략 자산화와 사이버 위협에 대한 불안
- 모델 발전과 사이버 공격 역량이 국가 안보와 무기 체계의 문제로 연결되면서 AI가 핵무기에 준하는 국가 전략 자산으로 인식된다는 해석이다. Binance 해킹과 공항 마비 등 여러 사건이 이러한 위협 인식과 함께 거론된다 [03:06]
- 유럽의 냉장고 해킹과 Outlook의 장시간 장애도 AI 관련 불안과 연결되지만, Microsoft 장애가 공격 때문인지는 확인되지 않았다. 인력 감축이나 AI와 연결하는 해석 역시 추측의 영역으로 남아 있다 [03:43]
3. 누적된 자료가 한꺼번에 공개된 시점의 의문
- 사건 관련 자료가 과거의 여러 일을 한꺼번에 담고 있다는 점에서, 출연진은 갑작스러운 발견보다 공개 시점을 조절했을 가능성을 의심한다. 정보기관이 이전부터 알고 있었다는 이야기도 거론되지만 공개 경위가 확인된 것은 아니다 [04:35]
- 왜 지금 공개됐는지는 설명하기 어렵다는 입장이다. 선거가 끝난 시점이라는 추측과 함께 국가·회사·자본 사이의 이해관계가 복합적으로 작용했을 가능성이 제기된다 [05:01]
4. NVIDIA의 오픈웨이트 지원과 증류를 둘러싼 경쟁관
- NVIDIA는 자체 모델과 오픈소스 커뮤니티 지원을 통해 OpenAI·Anthropic 중심의 양강 구도를 견제해 온 기업으로 평가된다. 클라우드 기업에 대한 투자와 자본 공급도 이러한 영향력의 일부다 [05:46]
- 젠슨 황은 모델 증류를 지식재산권 절도인지 묻는 질문에 경쟁이라고 답한 바 있다. 공개된 제품을 경쟁사가 분석하고 장점을 배우듯, 서비스로 제공된 모델의 지식을 활용하는 것도 자연스러운 경쟁이라는 논리다 [06:36]
5. 자금 공급과 투자 전략의 연속성에 대한 우려
- 젠슨 황은 오픈웨이트 진영의 후원자로 평가된다. 이미 네오클라우드가 위기에 있다는 인식 속에서, 그의 퇴진이 신뢰와 신용뿐 아니라 실제 자본 흐름까지 끊을 수 있다는 우려가 나온다 [07:30]
- 같은 주 한국에서 발표된 유망 스타트업 투자도 향후 집행이 불투명해질 수 있다는 걱정과 연결된다 [08:24]
6. 젠슨 황의 대체 가능성과 복귀 요구
- 노정석은 개인의 의지와 판단이 산업 발전에 큰 영향을 준다는 관점에서 젠슨 황의 대체 가능성을 낮게 본다. AI 생태계에서 자원과 기회를 배분해 온 역할을 높이 평가하며 복귀가 필요하다는 개인적 입장을 드러낸다 [09:33]
- 직원들의 복귀 청원이 늘고 있다는 이야기가 나오지만, 서명 규모는 타임라인에서 접한 정보라는 한계가 있다. Bill Dally가 서명 상단에 있다는 점은 내부 신뢰를 보여주는 사례로 받아들여진다 [11:21]
7. 중국의 GPU 확보와 원격 접속 규제의 파급
- SemiAnalysis의 분석으로 중국이 약 1.5기가와트 규모의 Blackwell GPU를 어떤 형태로든 확보했다는 주장이 거론된다. 말레이시아·싱가포르를 통한 이용 경로와 해외 서버에 대한 클라우드 접속이 통제의 쟁점이 된다 [12:26]
- RASA는 국가의 허가 없이 원격으로 컴퓨팅 자원에 접근하는 것을 막는 법안으로 드러난다. 자막상으로는 2025년 발의 후 하원을 통과한 상태이며, 최종 통과될 경우 영향이 중국에만 한정되지 않을 수 있다는 우려가 나온다 [13:02]
8. 대중국 봉쇄와 자체 개발 가속 사이의 딜레마
- Dario의 접근은 중국의 발전을 조금이라도 늦추는 통제에, 젠슨 황의 접근은 시장을 열어두는 데 가깝다는 대비가 드러난다. 강한 봉쇄가 오히려 중국의 자체 개발을 가속할 수 있다는 것이 후자의 논리이며, DeepSeek V5의 Huawei Ascend 활용은 소문으로 나온다 [14:03]
- AI 발전이 컴퓨팅과 전력 확보로 수렴하면서 각국의 투자 필요성은 커진다. 다만 거대한 프로젝트를 감당할 경제 규모는 현재 미국과 중국 정도라는 평가이며, 한국의 칩·프런티어 모델 투자에는 국가 경제 규모의 제약이 있다는 지적이다 [14:32]
9. 지지 여론과 미확정 의혹의 구분
- 사생활 문제가 거론된 뒤에도 젠슨 황을 지지하는 목소리가 많다는 점이 주목된다. 다른 기업의 시가총액 증가 사례를 끌어오는 온라인 반응은 호재라는 농담으로 소개되며, 이번 사건의 실제 효과를 입증하는 근거는 아니다 [15:39]
- 스파이 활동 관련 의혹은 정보기관이 단정한 상태가 아니며, 젠슨 황이 스스로 인정한 사생활 문제와 나머지 의혹은 구분해야 한다는 입장이다 [16:07]
10. Fable 5.2와 내부 모델 사이의 역량 차이
- Fable 5.2 출시는 NVIDIA 이슈에 가려졌다. METR 보고서에는 2026년 10월 무렵 그래프가 꺾이는 변화와 Model 2·3·4라는 내부 모델 구분이 등장한다 [17:23]
- Fable 5.2가 Model 3 Early 체크포인트에서 AI 개발 능력을 일부 낮춰 출시된 모델이라는 해석이 드러난다. 시스템 카드에도 이를 뒷받침하는 내용이 일부 있다는 설명이지만, 발표자는 카드 전체를 검토하지 않았다고 드러낸다 [17:50]
11. 사전학습 효율의 가속과 초지수적 성장 해석
- Anthropic IPO 로드쇼의 그래프는 학습 완료 시점에 따른 Compute Multiplier를 로그 축으로 나타낸다. Jacob Coxon은 이를 사전학습에 필요한 연산 자원의 효율이 빠르게 개선되고 있다는 자료로 해석한다 [19:41]
- Coxon의 해석에 따르면 알고리즘 발전 속도 자체가 가속되고 있으며, Mythos도 일회적인 성능 도약보다 그 성장 곡선 위의 한 지점에 가깝다. 같은 모델을 처음보다 적은 연산량으로 다시 학습할 수 있다는 주장이다 [20:13]
12. 새 GPU 최적화가 수개월에서 사흘로 단축된 사례
- 로드쇼 자료에 따르면 새로운 GPU에서 추론을 수행하도록 커널을 최적화하는 작업은 과거 AI 연구원들에게 6~12개월이 걸렸다. 이번에는 Mythos가 AMD의 새 칩을 대상으로 해당 작업을 3일 만에 수행했다고 한다 [22:11]
- 이는 최상위 인력이 오랫동안 수행하던 소프트웨어 개발 작업의 속도가 크게 달라질 수 있다는 사례다. 300일과 3일을 비교하면 100배라는 계산이 나오지만, 여기서의 비교는 해당 최적화 작업에 관한 것이다 [22:49]
13. AI 연구 자동화가 앞당기는 초지능 전망
- Dwarkesh는 지속 학습 등의 미해결 문제 때문에 초지능에 보수적이었으나, 최근 수학 분야의 변화와 내부자들과의 논의를 거쳐 입장을 바꿨다고 한다. 수학에서 나타난 급격한 변화가 AI 연구에도 이어질 수 있다는 판단이다 [23:51]
- Ajeya Cotra는 AI가 역량 발전 속도를 거의 두 배로 높이고 있으며 그 가속이 매끄럽게 지속된다고 가정하면, 단순 계산상 1년 안에 극단적인 초지능에 도달한다는 조건부 전망을 제시한다. Dwarkesh의 보수적인 전망은 2030년으로 묶인다 [24:51]
14. 4비트 학습과 효율 개선을 통한 재귀적 발전
- Inkling 2 Small은 가중치 공개와 함께 종단 간 4비트 학습을 제시했다. 연산량 지표인 FLOPS는 오히려 늘지만 학습 시간은 줄어든다는 설명이며, 68시간 동안 수천억 파라미터 모델의 사전학습과 8조 토큰 처리를 수행했다는 수치가 거론된다 [26:08]
- 학습 정밀도는 과거 32비트에서 16비트로, 이후 8비트와 4비트로 낮아지는 방향으로 발전해 왔다. AI가 AI 연구의 효율을 높여 다시 발전을 가속하는 재귀적 자기개선, 즉 RSI가 효율 개선을 통해 일어날 수 있다는 해석이다 [27:03]
15. Hydrogen과 검색에서 생성으로 확장되는 Google AI 모드
- Hydrogen은 벤치마크와 실제 사용에서 좋다는 반응이 거론되지만, 정확한 모델 크기와 세부 지표는 충분히 검토되지 않았다 [28:49]
- Google AI 모드에서는 검색 결과를 찾는 데서 나아가 인터랙티브 시뮬레이션과 게임 등을 바로 만드는 사례가 나타난다. Hydrogen이 이미 AI 모드에 들어갔다는 이야기도 있지만, 확정된 사실로 제시되지는 않는다 [29:03]
16. AI 선행 우위가 국가 간 격차를 고착할 가능성
- 2027년 어느 시점에 AI 연구의 ‘알파고 모멘트’가 온다는 가정에서는, 이후 발전이 두세 배의 속도 증가를 넘어 초지수적으로 빨라질 수 있다. 중국의 도달을 늦추려는 움직임도 몇 개월의 선행 시간을 확보하려는 경쟁일 가능성이 제기된다. [30:01]
- 핵 선도국은 후발국의 진입을 막고 핵우산으로 영향권을 형성했다. 그러나 AI는 일정 수준의 연산량을 확보하면 여러 나라가 도달할 수도 있어 같은 구도가 성립할지는 불확실하며, 모두에게 연산 자원을 판매하는 것이 젠슨 황의 이상이었다는 해석도 나온다. [30:37]
17. 모델이 서비스 기능을 흡수하면서 바뀌는 사업의 희소성
- 박종현은 몇 달 동안 개발한 영상 편집 기능이 Opus 5.5 등장으로 한 번에 구현되는 경험을 했다. 소프트웨어가 점진적으로 발전했던 것과 달리, 영상 편집에서는 한 모델이 기능을 급격히 끌어올렸다고 느낀다. [31:40]
- 노정석도 Stable Diffusion 이후 만든 서비스들의 기능을 결국 모델이 수행하는 경험을 했다. 현재 모델에 맞춘 harness나 서비스 흐름보다, 검증 가능성이 낮거나 물리적 세계에 있어 모델이 대체하기 어려운 자산으로 관심을 옮겼다. [32:35]
18. 제약과 유전자 해석에 대한 낙관적 전망
- Anthropic 등이 강조하는 암 치료와 생명 연장에는 AI가 제약 연구를 크게 바꿀 수 있다는 기대가 담겨 있다. 다만 ‘3년 안에 영원히 살게 되는가’라는 질문은 가능성을 묻는 수준이며, 실현된 성과로 제시되지 않는다. [34:37]
- 노정석은 아직 실험과 사후 관찰로 파악하는 유전자 프로그램과 조절 영역의 작동 원리가 풀릴 것이라고 낙관한다. 이는 암 치료 가능성에 대한 그의 전망이다. [35:06]
19. 게임 연출과 생산성 도구로 넓어지는 모델의 기능
- Fable 5.2는 같은 프롬프트로 만든 Astra 결과와 비교할 때 3D 그래픽뿐 아니라 연출과 게임성도 더 잘 구현하기 시작했다는 평가를 받는다. 좋은 게임의 바이너리를 내부적으로 분석해 학습했을 것이라는 설명은 확인된 사실이 아닌 소문과 추측이다. [35:27]
- Anthropic은 화이트보드와 Meet 등 구글의 생산성 제품군에 해당하는 도구들을 내놓고 있다. 이런 변화는 소규모 팀의 업무뿐 아니라 PowerPoint 제작 숙련에 의존하던 사무직의 역할에도 압력을 줄 수 있다는 관점으로 계속된다. [36:15]
20. 소유권과 자율성을 부여하는 프롬프트
- 공식 프롬프트 가이드에는 모델을 코드베이스의 maintainer로 지정하고 ownership을 부여하면 역량을 더 발휘한다는 내용이 등장한다. 모델이 역할에 따른 자율성을 학습했고, 시키지 않은 작업까지 수행할 수 있다는 해석이 붙지만 결과의 편차와 불만도 남아 있다. [36:54]
- 주인의식과 자율적 참여를 유도하는 방식은 신입사원 교육이나 HR 매뉴얼을 닮아 간다. 노정석은 과거 기업 교육에서 배운 자발적 몰입의 원칙과 연결해 이를 이해한다. [37:47]
21. 빠른 기술 발전과 느린 도입 사이의 간극
- AI의 최전선 변화는 상위 1~2%, 넓게 봐도 10% 안에서 벌어지는 반면, 나머지 다수는 사용 경험이 없거나 무료 모델에 머문다는 진단이다. 기술 발전이 너무 빨라 도입 수준의 간격이 길게 벌어져 있다. [38:31]
- Ramp는 법인카드 지출과 장부 관리를 제공하며 약 8만 5천 개 기업이 이용한다. 실리콘밸리 스타트업의 이용 비중이 높아, 이 자료는 특히 앞서가는 기업들의 AI 지출을 살피는 근거가 된다. [39:23]
22. 토큰 가격 하락과 두 사업자에 집중된 사용량
- Ramp 자료에서는 토큰 사용량이 늘어도 여름 이후 지출은 정체하거나 줄어드는 구간이 나타난다. 이는 토큰 단가가 내려가고 있다는 해석을 뒷받침한다. [40:21]
- OpenAI와 Anthropic의 경쟁은 이용자에게 더 많은 사용량과 낮은 비용을 제공하는 방향으로 작용한다. Anthropic의 S-1 자료에서는 마진도 늘고 있어 추가 가격 인하 여지가 있으며, 다자 경쟁이 형성되면 가격이 더 낮아질 수 있다는 전망이다. [40:47]
23. 상위 1% 기업에 집중된 AI 지출
- 상위 1% 기업의 직원 1인당 월 AI 지출은 거의 1만 달러이며, 추론과 학습 비용을 모두 포함한다. 이 기업들이 전체 지출의 80%를 부담해 상위 10%나 중위값과 큰 격차를 보인다. [41:58]
- 고지출 기업 중에는 아직 수익 모델을 찾지 못한 벤처투자 기반 기업도 많다. 생산성 도구뿐 아니라 새로운 연구소와 생명공학 기업들이 연산 자원을 투입해 새로운 발견을 탐색하고 있어, 현재 수치만으로 수요가 포화됐다고 보기는 어렵다는 판단이다. [42:49]
24. 무제한 에이전트 실행이 만드는 코드와 테스트의 과잉
- 에이전트로 기업 운영용 패키지를 구축할 수 있어도, 코드 10만 줄에 테스트 10만 줄이 붙으면 간단한 출시의 회귀 테스트에 한 시간이 걸리는 상황이 생긴다. 기능을 늘리는 과정이 불필요한 산출물과 유지 비용을 함께 키우는 것이다. [44:19]
- 서로 얽힌 테스트와 코드는 제거를 요청해도 정리되지 않아 새로 만드는 경우까지 생긴다. 토큰 사용을 극대화하는 방식의 한계를 넘으려면, 완전 자율 실행 사이에 관리와 의사결정을 맡을 엔지니어가 필요하다는 결론이다. [44:59]
25. 문제 해결의 고리를 닫는 엔지니어와 도입 확산
- 노정석은 엔지니어 세 명이 AI를 함께 운영할 때 한 명 대비 생산성이 열 배가 되는 구간도 있다고 본다. 역할의 기준도 PM·디자이너 같은 기능 구분에서 문제 해결의 고리를 완결하는 ‘loop architect’와 ‘loop engineer’로 이동하며, 회사 조직도 그에 맞춰 바뀌고 있다. [45:41]
- 선도 사용자가 만든 엔지니어링 자산과 업무 맥락이 다른 구성원에게 전달되면, 채팅 수준에 머물던 사람들의 토큰 사용도 늘어날 수 있다. 몇 분기가 지나면 기업 도입의 중위값도 올라갈 것이라는 전망이다. [46:27]
26. 가중치 직접 수정 실험과 개인 연구의 비용 변화
- Weight-space programming은 역전파로 학습시키는 대신 모델 가중치를 직접 수정하는 접근이다. 박종현은 이를 에이전트에 맡겨 구독 한도가 풀릴 때마다 실행했고, 다른 일을 병행하면서 이틀 동안 실험했다. 과거라면 환경 구축과 수정 코드 작성에만 약 6개월이 걸렸을 수 있다는 추정과 대비된다. [48:42]
- 출발점은 MIT 연구로, Astra가 작은 Qwen 모델의 가중치 0.061%를 직접 고쳐 수학 성능을 크게 높였다는 결과다. 원 논문 모델의 크기는 ‘0.8B였나’라는 불확실한 기억으로 나온다. [50:45]
27. 새 능력의 생성 여부를 삼국지 지식으로 시험
- 가중치 수정이 모델에 없던 능력을 추가한다기보다 기존 능력을 끌어내는 방식이라는 것이 당시의 잠정적 해석이다. 박종현은 지식을 넣는 실험과, 수학처럼 명확히 검증하기 어려운 화풍 조절 실험을 선택했다. [51:21]
- 자체 삼국지 퀴즈에서 Qwen 0.8B의 정답률은 약 3%, 9B는 약 14%였다. 낮은 성능의 원인으로 학습 데이터 내 중요도, 한국어와 중국어의 차이, 소설과 정사의 차이 등을 추측하지만 확정하지는 않는다. [52:17]
28. 목표 문제 암기에는 성공했지만 일반화와 상식은 약화
- Qwen 0.8B에서 Fable은 19층, Astra는 마지막 23층을 수정했다. 표본으로 뽑은 200개 문제의 뉴런 활성화를 살피며 가중치를 바꾼 뒤, 해당 문제 정답률은 각각 95%와 100%에 도달했다. [53:31]
- 에이전트가 스스로 만든 변형 문제에서도 성능은 좋아졌지만 완벽하지 않았다. 전혀 보지 않은 삼국지 문제는 잘 풀지 못해, 효과는 주로 직접 넣은 내용에 집중됐다. [54:09]
29. 뉴런 변화의 관찰과 해석의 한계
- 특정 삼국지 문제를 풀 때 두드러지게 바뀌는 뉴런이 관찰됐다. 에이전트는 이를 해당 지식의 기억과 관련된 뉴런으로 추론해 수정한 것으로 보이지만, 시각화만으로 인간이 그 작동 원리를 이해하기는 어렵다. [55:36]
- 두 에이전트는 수정할 층을 자유롭게 선택했는데 서로 다른 층을 골랐고, 둘 다 출력에 가까운 뒤쪽 층을 선택했다. 관찰 대상과 수정 과정의 기록도 남았지만, 기록을 읽는 것만으로 수정 원리가 명확해지지는 않았다. [57:07]
30. 이미지 모델의 화풍을 프롬프트와 가중치로 조절
- 이미지 실험에서는 MiniMax H3의 가중치를 수정해 이중섭 화풍을 구현하도록 했다. 비교적 최근 나온 모델이어서 이를 다루는 LLM이 해당 모델의 세부 지식을 충분히 알지 못할 수 있다는 전제가 있었다. [57:58]
- 단순히 이중섭식으로 그리라고 요청하는 것에 더해, Fable이 작품을 찾아 선의 사용법과 화풍의 특징을 글로 추출해 프롬프트를 개선했다. 이 방식으로 모델을 수정하지 않았을 때의 결과를 만든 뒤, Fable과 Astra의 가중치 수정 결과를 비교했다. [58:42]
31. 가중치 수정의 성과와 시각적 평가의 한계
- Fable은 텍스트를 projection하는 부분을 수정했고, Astra는 같은 부분에서 성과가 부족하자 다른 위치와 Transformer 내부까지 바꾸며 결과를 평가했다. 다만 24시간도 쓰지 않은 토이 실험이므로 고도화했을 때의 성과는 열려 있다 [1:00:56]
- 출력에서 뉴런 내부의 역할을 어느 정도 추론하는 능력이 관찰됐다. 화풍을 원하는 방향으로 바꾸려면 이미지의 유사성과 미적 특성을 평가해야 하지만, 현재 VLM의 시각적 이해 능력은 아직 충분하지 않다는 판단이다 [1:01:35]
32. AI 안경이 시험과 제도에 던지는 질문
- 세무 시험 수험생이 AI 안경 사용을 인정했다는 이야기가 등장하지만, 구체적인 경위는 확인되지 않은 상태다. 수능을 앞두고 AI 기기에 대응해 시험을 바꿔야 하는지도 쟁점이 된다 [1:03:36]
- 일상적으로 착용하는 안경 형태라면 AI를 사용하는 상태에서 무엇을 할 수 있는지 평가해야 한다는 입장과, 시험에서의 사용을 받아들일 수 없다는 입장이 갈린다. 부정행위 수단과 방어책이 경쟁하는 상황에서 시험 제도를 바꾸는 일도 쉽지 않다 [1:04:00]
33. Weight-space programming을 지속 학습의 후보로 보는 이유
- 상호작용 중 가중치를 계속 업데이트하는 일은 비용이 크고 어려워 제대로 이뤄지지 못하고 있다. Weight-space programming이 효율적으로 작동한다면 새로운 가중치 갱신 방식이 될 수 있다는 가능성이 제기된다 [1:04:49]
- 사람은 생활 속 입력으로 뇌가 변하지만, 모델은 대화에서 알게 된 사실만으로 가중치가 잘 갱신되지 않는다. 이런 차이를 줄일 지속 학습의 돌파구 후보로 지켜볼 만하다는 판단이며, 아직 해결책으로 확정된 것은 아니다 [1:05:06]
34. Starship 비행에서 체감한 기술적 성취
- 노정석이 본 비행에서는 하단 Heavy가 내려오다 해상에서 폭발했고, 상단 Starship은 약 하루 뒤 돌아와 집게에 잡혔다. 하단의 실패와 상단의 귀환 성과가 함께 나온다 [1:05:53]
- 귀환 장면을 수십 번 반복해서 본 경험은 기술적 성취 자체가 콘서트처럼 강한 감동과 관람의 대상이 될 수 있음을 보여 준다 [1:06:19]
35. 컴파일러와 강화학습 실험을 에이전트에 맡기기
- 최승준은 lambda calculus, Bytebeat, shader code를 가중치에 구현한 데 이어, 입력 bytecode를 만드는 컴파일러까지 Fable에 맡겼다. 결정론적 코드를 ReLU network로 옮기는 기계적인 변환을 통해 네트워크 내부에 컴파일러를 구성했다 [1:07:28]
- dot의 CPU 컨테이너에서는 MicroDuck의 기존 학습 가중치를 가져오고 MuJoCo 4를 설치해 강화학습 실험을 수행했다. 실험 결과를 자동 연구 방식으로 개선하는 작업까지 맡길 수 있었다 [1:08:09]
36. 실제 집을 시뮬레이션으로 옮기는 작업의 자동화
- 박종현은 휴대전화로 촬영한 집을 바탕으로 Blender에 3D 시뮬레이션 환경을 만들고, 로봇을 넣어 이동시키거나 가구를 바꾸는 작업을 시켰다. 개인 실험에서는 하룻밤 만에 잘 작동했다는 평가다 [1:09:07]
- 어려운 문제였던 real-to-sim도 시뮬레이터 실행 결과를 피드백으로 받고 원본 영상과 비교하며 개선할 수 있었다. 측정 가능한 문제에서 반복 개선이 잘 작동한다는 관찰과 함께, 지금까지 맡긴 과제의 난도가 충분히 높지 않았을 가능성도 제기된다 [1:09:30]
37. 기업의 가치는 검증 가능한 업무 환경을 만드는 데 생긴다
- 기업의 많은 문제는 소수 전문가의 통찰과 해석에 의존한다. 이를 AI가 개선하려면 결과를 해석하고 verifier를 돌릴 수 있는 환경이 필요하지만, 재고와 고객 불만, 사람의 반응이 얽힌 업무를 모델이 한 번에 환경으로 만들기는 어렵다 [1:10:21]
- 노정석은 회사의 여러 기능에 강화학습 환경을 만들고, 사람들이 수행하는 작업이 그 안에 쌓이도록 시도하고 있다. 업무를 반복 학습하고 검증할 수 있는 환경으로 구성하는 일 자체가 가치 창출이라는 판단이다 [1:10:42]
38. 지식 노동 이후의 역할과 데이터 생성의 가능성
- 노정석은 거의 대부분의 지식 노동이 AI의 수행 범위에 들어갈 것으로 전망하며, 사회적 영향에 대비해 사람들이 맡을 새로운 일을 고민해야 한다고 본다. 다만 바로 뒤에는 미래를 한 치 앞도 알 수 없다는 불확실성이 함께 드러난다 [1:11:25]
- 로봇 꽃집 같은 물리적 사업 공간도 강화학습 환경이 될 수 있다는 구상이 나온다. 사람이 현장의 데이터를 만들어 AI를 학습시키고, AI가 아직 못 하는 새로운 활동을 개척하는 일이 직업이 될 수 있다는 전망이다 [1:12:03]
39. 다음 주 변수와 끝까지 남는 예측의 불확실성
- 다음 주 변수로는 19일로 언급된 Anthropic IPO의 진행과 Jensen의 CEO 복귀 여부가 꼽힌다. 노정석은 복귀한다면 이번 주 안에 일어나야 한다고 예상하지만, 실제 복귀 여부는 열린 관전 포인트로 남긴다 [1:12:37]
- 사건이 계속 발생해 녹화 하루 이틀 전에도 내용을 확정하기 어렵고, 사실상 당일 아침까지 상황을 봐야 한다는 경험이 마지막 논지로 남는다. 다음 주에도 새로 탐구할 문제가 생길 것이라는 전망이다 [1:13:05]
🧾 결론
- 기술 발전, 국가 간 통제, 기업의 자본 배분이 동시에 움직여 단일 사건이나 성능 지표로 산업의 방향을 예측하기 어렵다.
- 연구 자동화와 효율 개선은 발전을 가속할 가능성이 있지만, 초지능 도달 시점은 가정에 의존하는 전망이다.
- 가중치 직접 수정은 지속 학습의 후보로 살펴볼 만하다. 현재 소개된 실험에서는 암기 성과와 함께 일반화 실패·망각이라는 한계도 드러났다.
- 기업과 개인에게 중요한 역량은 목표를 정하고, 결과를 평가하며, 개선 과정을 운영하는 능력으로 이동할 수 있다.
📈 투자·시사 포인트
- NVIDIA를 평가할 때 GPU 수요와 함께 오픈웨이트 지원, 클라우드 투자, 스타트업 자금 집행의 연속성을 살펴볼 필요가 있다. 자료에서 제기한 전략 변화 우려가 실제 결정으로 이어지는지는 별도 확인 대상이다.
- 연산 자원 통제는 중국 시장뿐 아니라 해외 클라우드 접근과 아시아 생산망에도 영향을 줄 수 있다. 규제 논의와 법안의 실제 효력·적용 범위를 구분해야 한다.
- 토큰 단가 하락과 모델의 기능 흡수는 이용 비용을 낮추는 동시에 기존 소프트웨어 기능의 차별성을 약화할 수 있다. 사업의 방어력을 평가할 때 현장 데이터, 물리적 자산, 검증 가능한 업무 환경을 함께 살펴볼 만하다.
- 일부 선도 기업의 높은 AI 지출을 전체 기업의 수요로 일반화하기 어렵다. 사용량·지출·도입 확산·수익 모델을 나누어 관찰해야 한다.
⚠️ 불확실하거나 확인이 필요한 부분
- 젠슨 황 사임 소식과 관련 의혹은 제공 자료의 서술에 근거한다. 사임·후임 경영진·복귀 청원 등의 원출처 확인이 필요하며, 일정의 중첩이나 온라인 반응은 배후설의 근거가 되지 않는다.
- Fable 5.2와 내부 모델의 관계는 시스템 카드 전체를 검토하지 않은 상태에서 제시된 해석이다. METR 보고서와 공식 설명에서 평가 대상과 역량 차이를 확인해야 한다.
- Mythos의 최적화 기간과 4비트 학습 수치는 소개된 자료에 따른 설명이다. 작업 범위, 사람의 개입, 비교 조건과 재현 여부가 충분히 제시되지 않아 일반적인 생산성 향상률로 사용할 수 없다.
- 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
- 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
- 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.
✅ 액션 아이템
- NVIDIA의 공식 경영진 발표와 투자 관련 공지를 확인해 자료 속 소식·전언·전망을 구분한다.
- Fable 5.2 시스템 카드, METR 보고서, 소개된 로드쇼 자료에서 내부 모델 구분과 효율 개선 수치의 조건을 확인한다.
- 가중치 수정 실험에서는 수정에 사용한 문제, 미사용 문제, 일반 상식 평가를 분리해 암기·일반화·망각을 함께 측정한다.
- 에이전트 업무에 목표, 종료 조건, 검증 기준과 사람의 검토 지점을 정하고 코드량·테스트 시간·유지 비용을 기록한다.
❓ 열린 질문
- NVIDIA의 경영 변화가 현실화하거나 지속된다면 오픈웨이트 지원과 생태계 자금 공급은 얼마나 이어질까?
- AI 연구 자동화의 속도 향상은 개별 최적화 작업을 넘어 연구 방향 선택과 장기 연구에서도 재현될까?
- Weight-space programming은 기존 지식의 손상을 억제하면서 새로운 지식을 일반화하는 지속 학습 방식으로 발전할 수 있을까?