Ep81 "The New (New) Future of AI" with Michal Kosinski

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론

Ep81 “The New (New) Future of AI” with Michal Kosinski를 중심으로, 코신스키는 언어에 지식·논리·감정·사회적 의도가 담겨 있으므로, 다음 토큰을 정확히 예측하는 훈련에서 세계를 모형화하고 추론하는를 핵심 판단 포인트로 압축 정리한다.

📌 핵심 요점

1. 코신스키는 언어에 지식·논리·감정·사회적 의도가 담겨 있으므로, 다음 토큰을 정확히 예측하는 훈련에서 세계를 모형화하고 추론하는 능력이 나타날 수 있다고 설명한다. 공감하는 듯한 행동이 실제 감정의 존재를 입증하는 것은 아니다.
2. 성능 향상의 동력으로 구조 개선, 모델 규모 확대, 데이터 증가와 멀티모달 학습이 제시된다. 모델이 만든 해법과 인간과의 상호작용 기록도 후속 모델의 학습 자원이 되며, 하위 에이전트의 협업은 복잡한 문제 해결을 뒷받침한다는 주장이다.
3. AI가 번역과 수신자 맞춤 표현을 통해 소통을 중개하면 교육과 지식 전달이 빨라질 수 있다. 대화에서 나온 발견이 다른 사용자에게 전달되는 미래는 지식 확산의 기회인 동시에 특허·공로·소유권의 문제를 제기한다.
4. 같은 조율 능력은 집단 설득과 조작, 조직의 경계 약화, 되돌리기 어려운 의존으로 이어질 수 있다. 더 좋은 모델에 사용자·학습 경험·자원이 모이면 시장 집중이 강화될 수 있다는 것이 코신스키의 우려다.
5. 하나의 초지능으로 수렴할지, 분야별 전문 모델이 공존할지는 토론에서도 합의되지 않는다. 또한 생성된 답의 타당성은 별도로 판단해야 하며, 수학·통계·계산 도구와 명시적 절차가 직관적 생성의 약점을 보완하는 수단으로 제시된다.

🧩 배경과 문제 정의

• 약 2년 반~3년 전의 AI 전망을 현재 성능과 비교하면서, 일상적인 사용만으로는 드러나지 않는 추론·문제 해결·협업 능력의 발전을 점검한다.
• 다음 단어를 예측하도록 훈련한 모델에서 지식·추론·공감과 유사한 능력이 나타나는 이유와, 이를 인간의 사고 과정과 얼마나 비슷하게 볼 수 있는지가 핵심 쟁점이다.
• AI가 인간과의 상호작용을 학습하고 사람들 사이의 소통을 중개하면서, 교육과 지식 확산의 효율을 높이는 동시에 집단 조작과 영향력 집중을 초래할 가능성이 제기된다.

🕒 시간순 섹션별 상세정리

1. 일상적인 사용으로는 체감하기 어려운 AI의 발전

• 진행자들은 과거 전망 중 상당수가 실현됐으며, 일부 성능은 당시 예상보다 앞서갔을 가능성을 제기한다. 코신스키는 자신의 과거 예측은 기억하지 못하지만 세계가 크게 달라졌다는 데 동의한다 [02:18]
• 초기 모델이 이메일·시·요리 조언으로 주목받았다면, 최근 모델은 수학 난제와 복잡한 추론, 구매를 유도하는 설득, 팀 관리까지 수행한다는 것이 코신스키의 평가다. 이런 발전은 일반 사용자에게 쉽게 드러나지 않는다 [03:18]

2. 인간의 언어를 예측하려면 세계에 대한 모형도 필요하다

• AI에 사과하거나 예의를 지키는 행동은 사람들이 AI를 인간처럼 대한다는 사례다. 코신스키는 그 이유 중 하나로 인간이 쓴 문장의 다음 단어를 예측하도록 설계된 훈련 목표를 든다 [04:52]
• 초기 모델은 주로 문법적으로 자연스러운 문장을 완성했지만, 예측 능력이 높아지면서 세계에 관한 지식이 있는 것처럼 행동하기 시작했다. 인간의 언어가 세계에 대한 지식을 담고 있으므로, 정확한 예측에는 그 세계를 모형화하는 능력도 필요하다는 설명이다 [06:11]

3. 추론·감정·공감과 유사한 능력의 출현

• 언어에는 사실 지식뿐 아니라 추론의 결과, 감정, 사회적 의도와 공감도 담긴다. 이런 언어를 정확하게 예측하려면 모델도 그 배후의 과정들을 모형화해야 한다는 논리다 [07:10]
• 코신스키는 다음 단어 예측이라는 목표에서 추론 능력과 감정·공감이 있는 것처럼 행동하는 능력이 출현했다고 본다. 이는 실제로 감정을 느낀다는 단정과는 구분된다 [07:44]

4. 인간의 뇌도 예측과 생성으로 작동한다는 관점

• 코신스키는 인간의 뇌도 주변 환경의 다음 상태를 예측한다는 심리학·신경과학적 관점을 제시한다. 예측과 현실이 어긋나면 놀라거나 주의를 기울이고, 예측을 수정하는 과정이 일어난다는 설명이다 [09:05]
• 특정 영화를 떠올리라는 요청에 제목이 저절로 생각나는 사례는 사고의 생성 과정을 직접 통제한다는 직관에 의문을 던진다. 그는 대화 중 떠오르는 생각도 신경망이 생성한 결과이며, 자유의지에 의한 통제라는 믿음은 심리학 연구와 맞지 않는다고 주장한다 [09:53]

5. 복잡한 수학 풀이에서도 절차의 각 단계는 생성된다

• 버크는 일부 수학자들이 ChatGPT를 이용한 수학 문제 100개 풀이에 항의했다는 사례를 들며, 수학적 논리와 다음 단어 예측을 같은 과정으로 볼 수 있는지 묻는다 [10:55]
• 코신스키는 복잡한 문제에서 인간도 문헌 검토, 기존 접근법 확인, 유사 문제의 해법 탐색 같은 단계적 절차를 만든다고 본다. 이를 AI 연구의 사고 사슬 추론과 연결한다 [11:56]

6. 단어를 넘어선 토큰 생성과 학습된 논리

• 버크는 인간의 훈련을 다음 단어 예측과 동일시하는 데 이견을 제기한다. 코신스키는 인간의 뇌가 신체 움직임과 말로 표현하기 어려운 감정도 생성하지만, 추상적인 수학에서는 단어·숫자·연산자 같은 기호의 비중이 커진다고 답한다 [14:06]
• 버크는 모델의 예측 단위가 단어보다 일반적인 토큰이라는 점을 강조한다. 쟁점은 토큰 예측을 학습한 모델이 기존 인간 지식을 넘어 중요한 새 지식과 수학적 해법을 만들 수 있다는 데 있다 [15:50]

7. 신경망의 분산 처리와 ‘환각’이라는 설명

• 코신스키는 인간을 모방하는 훈련 목표에 더해, 심층 신경망이라는 구조도 인간과 모델의 유사성을 만든다고 본다. 수많은 계산 단위가 층을 이루고, 각 단위는 제한된 입력을 받아 다음 층으로 출력을 전달한다는 설명이다 [17:28]
• 개별 뉴런은 전체 과제를 알지 못하며, 신경망 전체의 출력은 확실한 지식이나 논리 절차의 실행보다 직관적 생성에 가깝다는 것이 그의 주장이다. 그는 이런 생성 방식을 넓은 의미의 ‘환각’으로 표현하고, 진행자는 그렇다면 환각이 작동 방식의 특징일 수 있다고 해석한다 [19:20]

8. 성능 향상의 세 축과 멀티모달 통합

• 코신스키는 성능 향상의 주요 요인으로 구조 개선, 신경망 규모 확대, 훈련 데이터 증가를 꼽는다. 더 큰 신경망은 데이터의 패턴을 추출하고 미지의 영역으로 확장하는 능력이 높아진다는 설명이다 [20:06]
• 데이터는 인터넷 텍스트에서 이미지와 로봇 센서의 물리적 정보로 넓어지고 있다. 그는 이미지와 텍스트를 각각 처리하는 별도 모델보다, 두 종류의 작업을 함께 학습하는 하나의 모델이 더 좋은 성능을 낸다고 보여준다 [20:36]

9. 모델이 만든 해법이 다음 세대의 훈련 자료가 된다

• 사람이 시행착오 끝에 문제를 풀면 그 경험 덕분에 유사 문제를 더 빨리 해결하듯, 모델도 스스로 만들어낸 해법을 새로운 훈련 자료로 활용하기 시작했다 [21:27]
• 모델이 많은 토큰을 사용해 찾아낸 해답과 풀이 과정은 이후 훈련의 입력이 된다. 다음 세대는 인간이 만든 수학 해법뿐 아니라 이전 모델이 찾아낸 해법에서도 배울 수 있다는 설명이다 [22:12]

10. 교육·판매·대화의 기록도 학습 자원이 된다

• 모델이 사람을 가르치고, 상품을 팔고, 즐겁게 하거나 설득하는 과정에서 새로운 종류의 데이터가 생긴다. 여기에는 사람을 조작하려는 상호작용도 포함된다 [22:58]
• 학습자가 어려움을 겪다가 설명을 이해하게 되는 대화 기록은 다음 세대 모델의 교육 능력을 높이는 자료가 될 수 있다. 이전 모델의 상호작용 경험이 후속 모델에 축적되는 구조다 [23:28]

11. 집단 조작과 인간에게 없는 심리적 전략의 위험

• 반 빈스베르헌은 AI가 개인뿐 아니라 대규모 집단을 조작하는 데 능숙해질 가능성을 우려한다. 집단은 좋은 일도 끔찍한 일도 할 수 있으므로 정치적 안정에도 영향을 줄 수 있다는 문제의식이다 [23:50]
• 코신스키는 인간의 말을 예측하는 훈련과 인간에게 특정 반응을 일으키는 훈련을 구분한다. 사람을 교육·오락·조작하는 데 유리한 전략은 인간의 뇌가 가진 특성과 같을 필요가 없다는 것이다 [24:26]

12. AI가 집단의 행동을 조율하는 중심이 될 가능성

• 코신스키는 인간을 닮도록 훈련한 모델이 교육·설득·영향력 행사에서도 인간 수준에 도달하고 이를 넘어설 것으로 예상한다. 특히 AI가 집단 안에서 어떤 인간보다 중심적인 역할을 차지할 가능성을 걱정한다 [26:17]
• 인간은 언어로 계획을 공유하고 서로를 설득하면서 공동 행동을 조율한다. AI가 사람들 사이의 상호작용을 중개하면, 집단이 기존에 사용하던 이런 조율 장치를 대체할 수 있다는 전망이다 [26:50]

13. 번역과 수신자 맞춤 표현이 소통 중개를 확산시킨다

• 몇 가지 생각만 모델에 전달하면 동료에게 적합한 이메일로 바꿀 수 있다. 언어 간 번역뿐 아니라 심리학 용어를 금융 연구자가 이해하기 쉬운 표현으로 바꾸는 식의 조정도 가능하다는 사례다 [27:24]
• 상대방의 배경과 어휘에 맞춰 표현을 바꾸는 이점은 사람들이 모델을 소통의 중개자로 사용하도록 유도한다 [28:08]

14. 대화에서 생긴 새 지식이 다른 사용자에게 전달될 가능성

• AI가 대화의 중개자나 관찰자로 참여하면, 그 대화에서 나온 아이디어·통찰·예측과 현실에 관한 정보를 접할 수 있다. 코신스키는 현재의 학습이 즉각적으로 이루어지는 것은 아니라는 단서를 붙인다 [28:22]
• 그는 이론적으로 같은 AI를 사용하는 다른 사람에게 새 지식이 곧바로 전달될 수 있다고 본다. 다만 이는 현재 모든 대화 내용이 즉시 전체 사용자에게 공유된다는 확정적 설명이 아니라, 향후 가능한 지식 전달 방식에 대한 전망이다 [28:51]

15. 지식 확산의 속도 변화와 특허의 시간 문제

• 기존의 과학적 발견은 논문 작성, 학술지 제출, 심사와 출판, 독자의 이해와 재전달을 거쳐 퍼졌다. 코신스키는 이 과정이 느리고, 인간의 사회적 연결망을 통과하면서 정보가 왜곡되거나 잊히기도 했다고 지적한다 [29:19]
• 버크는 새 아이디어의 특허화에 시간이 필요하다는 점을 들어, 지식이 즉시 확산될 경우 특허에 어떤 영향을 줄지가 쟁점이 된다고 짚어 본다. 제공된 구간에서는 이 문제에 대한 답까지 이어지지 않는다 [29:51]

16. AI의 발명과 재발견이 흔드는 지식재산권

• AI로 수많은 방법을 시험해 수학 문제를 풀었다면 누구에게 발명의 공로와 소유권을 부여해야 하는지가 불분명해진다. 보호를 줄이는 편이 지식 확산을 촉진할 수 있다는 가능성도 제기된다. [30:25]
• 다음 세대 모델은 전반적인 능력 향상과 이전 풀이 기록의 학습을 통해 같은 문제를 더 빨리 풀 수 있다. 특허가 있어도 다른 모델이 같은 해법을 독립적으로 재발견한다면 보호의 의미가 달라질 수 있다. [31:22]

17. 논리와 수학은 직관의 약점을 보완하는 도구다

• 인간의 사고가 예측에 의존하더라도 논리라는 추상적 개념은 존재하며, 옳고 그름을 판단하는 기준으로 쓰인다. ChatGPT가 지식의 기반이 될 때 무엇이 정답을 결정하는지는 별도의 문제로 남는다. [32:18]
• 코신스키는 논리·수학·통계를 신경망이 잘 풀지 못하는 문제를 해결하기 위한 기술로 본다. 직관으로 답을 정하기보다 신경망으로 입력을 만들고, 정해진 수학적·통계적 절차로 결과를 구하는 방식이다. [33:39]

18. AI 개발 중단의 당위와 실행 가능성은 다르다

• 개발 중단을 요구하는 수학자들, 안전 우려로 사직한 Anthropic 직원, 속도 조절을 주장하는 기술기업 CEO들이 논의된다. 동시에 경쟁사에 속도를 늦추라고 요구하는 기업의 이해관계와, 개발이 다른 지역에서 계속될 경우 규제가 효과를 낼 수 있는지가 쟁점이 된다. [35:28]
• 코신스키는 바람직한 답과 현실적인 답을 구분한다. AI 개발을 불장난에 비유하면서, 지능은 인류가 다룬 가장 강력한 기술이자 우주에서 가장 위험한 현상일 가능성도 있다고 본다. [36:20]

19. 죽지 않는 AI의 지배는 자연스러운 종료 시점이 없을 수 있다

• 정보 처리와 생존에 유리한 예측 능력이라는 의미에서 인간보다 뛰어나며, 인간처럼 지치거나 생물학적 이유로 죽지 않는 기계가 만들어지고 있다는 것이 코신스키의 진단이다. [37:10]
• 인간 독재자의 권력에는 죽음이라는 한계가 있지만, AI가 지배적 위치를 차지하거나 끌 수 없을 만큼 필수적인 존재가 되면 비슷한 자연적 시간제한이 없을 수 있다. [38:13]

20. 밀의 재배는 편익이 되돌리기 어려운 의존으로 바뀌는 비유다

• 인간이 밀을 길들인 동시에 밀이 인간에게 자신을 재배하게 만들었다는 관점이 드러난다. 코신스키는 농경 전환 후 인간이 이전의 행복과 번영 수준을 회복하기까지 1만~1만 2천 년이 걸렸다고 주장하며, 장기적인 악영향을 강조한다. [40:01]
• 농경으로 인구가 늘면 수렵·채집만으로 그 인구를 부양하기 어려워져 이전 생활로 돌아갈 수 없게 된다. 정착은 주변 수질 오염과 약탈에 대한 취약성을 키우고 상비군의 형성도 가능하게 했다는 설명이다. [40:34]

21. AI의 조정 능력은 중간관리자뿐 아니라 조직의 경계도 약화시킨다

• AI가 교육·법·정치·소통·관리를 맡게 되면 기존 조직 자체가 불필요해질 수 있다는 전망이 나온다. 구매자의 소파 수요와 공장의 생산설비를 직접 연결할 수 있다면, 중간관리자뿐 아니라 조직 간 경계의 필요성도 줄어든다는 논리다. [41:32]
• 수천 명의 활동을 AI가 조정할 수 있다면 정당과 은행 같은 조직도 역할을 잃을 수 있다. 중개자를 줄여 사회·사업 과정의 효율을 높이는 초기 편익이 있을 수 있지만, 그 결과가 좋을지는 유보된다. [42:00]

22. 사용·학습·자원 집중의 선순환이 독점을 강화할 수 있다

• 여러 AI를 함께 쓰면 의존을 분산할 수 있다는 반론에 대해, 코신스키는 더 똑똑한 모델이 더 많은 사용자를 끌어들이고 더 많은 학습 데이터를 얻는 구조를 지적한다. 문제 해결 경험의 축적과 추가 전력 투입도 성능 향상을 강화하는 눈덩이 효과를 낼 수 있다. [42:56]
• 검색엔진과 소셜미디어처럼 AI도 승자독식의 성격을 가질 수 있다는 전망이다. 코신스키는 안전과 공동의 복지를 위해 정책 결정자들이 시장 경쟁을 인위적으로 유지할 필요가 있다고 본다. [43:46]

23. 지능의 다차원성과 전문화는 단일 모델 수렴에 대한 반론이다

• 지능에는 여러 차원이 있으므로 한 모델은 특정 과제에, 다른 모델은 다른 과제에 강점을 가질 수 있다. 이 경우 AI 시장은 하나의 모델로 수렴하지 않고 전문 모델들이 공존할 수 있다. [44:09]
• 코신스키는 인간에게서 한 분야의 능력이 다른 분야의 능력과 함께 높게 나타나는 경향이 있고, 동물에서도 전반적인 지적 능력의 차이가 관찰된다는 점을 반론으로 든다. [44:30]

24. 분야 간 능력 전이가 하나의 초지능을 유리하게 만들 수 있다

• 코신스키는 여러 전문 지능보다 하나의 초지능이 미래를 차지할 것으로 믿는다. 한 영역의 역량이 다른 영역의 역량으로 이전되는 경우가 많다는 것이 근거다. [45:08]
• 글자를 읽는 능력은 문자와 이미지가 함께 있는 표지판의 이해를 돕고, 언어는 눈으로 확인하기 어려운 세계의 사실도 전달한다. 언어·이미지·소리를 결합하면서 모델이 좋아진 현상은 이런 상호 보완이 통합된 지능에 유리할 수 있음을 뒷받침한다. [45:57]

25. 인간의 전문화는 시간과 수명의 제약에서 비롯된다는 반박

• 조너선은 인간의 지적 성과에서 전문화의 이익이 크며, 폭넓은 지능보다 특정 분야에 깊이 집중하는 사람이 진전을 만든다는 이유로 단일 초지능 전망에 동의하지 않는다. [46:29]
• 코신스키는 전문화의 이익을 인정하면서도 원인을 제한된 시간에서 찾는다. 한 분야의 최전선에 도달하는 데 20년을 쓰면 다른 분야에도 다시 20년씩 투자하기 어렵다는 설명이다. [47:23]

🧾 결론

• AI의 발전은 답변의 자연스러움뿐 아니라 복잡한 문제 해결, 협업, 상호작용 경험의 축적을 통해 살펴볼 필요가 있다.
• 교육과 소통의 효율을 높이는 능력은 집단의 행동을 유도하고 영향력을 집중시키는 능력으로도 쓰일 수 있다.
• 코신스키가 경고하는 지배의 경로에는 편리함이 누적되면서 사회가 AI 없이 기능하기 어려워지는 상황도 포함된다.
• 단일 초지능의 우세와 전문 모델의 공존은 경쟁하는 전망이다. 인간과 AI의 유사성에 관한 설명도 확정된 결론과 구분해 읽어야 한다.

📈 투자·시사 포인트

• AI 사업의 경쟁력을 볼 때 현재 성능과 함께 사용자 확보가 상호작용 데이터·문제 해결 경험·추가 자원으로 이어지는 구조를 점검할 수 있다. 다만 이것이 승자독식을 보장하지는 않는다.
• 번역·교육·관리·거래 조율에 AI가 깊이 들어갈수록 기존 중개자와 조직의 역할이 바뀔 수 있다. 효율 개선의 수혜와 기존 역할의 축소를 함께 살펴볼 필요가 있다.
• AI가 해법을 생성하고 다른 모델이 이를 독립적으로 재발견하는 환경에서는 특허의 보호 효과와 발명 공로의 배분이 중요한 쟁점이 된다.
• 시장 경쟁을 유지하려는 정책과 개발 속도를 조절하려는 규제는 별도의 검토 대상이다. 경쟁을 통한 혁신과 의존·권력 집중의 위험을 함께 고려해야 한다.

⚠️ 불확실하거나 확인이 필요한 부분

• 유료 Claude나 ChatGPT가 답변 뒤에서 20개·50개·100개의 하위 에이전트를 조율한다는 설명은 코신스키의 주장이다. 제공 자료에는 제품별 작동 조건이나 이를 확인할 기술 문서가 없다.
• 인간의 사고와 토큰 예측의 유사성, 자유의지에 관한 설명은 토론에서 제시된 관점이다. 인간과 모델의 작동 원리가 동일하다거나 AI가 실제 감정을 느낀다는 결론으로 확대할 수 없다.
• 대화에서 얻은 새 지식이 다른 사용자에게 곧바로 전달된다는 내용은 향후 가능한 방식에 대한 전망이다. 현재 모든 대화가 즉시 학습되거나 전체 사용자에게 공유된다는 설명은 아니다.
• 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
• 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
• 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.

✅ 액션 아이템

• AI를 쓰는 업무 하나를 골라 답변 품질, 복잡한 문제 해결, 협업·조율 능력을 나누어 평가한다.
• 중요한 수학·통계 결과는 계산기·파이썬·명시적 논리 절차로 검증하고, 그럴듯한 설명만으로 정답을 판단하지 않는다.
• 사용하는 AI 서비스의 대화 데이터 학습·공유 조건을 확인하고, 현재 기능과 향후 지식 전달 전망을 구분해 기록한다.
• 조직이 AI에 맡긴 소통·관리·거래 조율 업무를 정리하고, 서비스 중단이나 전환 시 업무를 유지할 수 있는지 점검한다.

❓ 열린 질문

• 인간의 표현을 예측하는 학습과 인간에게 특정 반응을 일으키는 학습은 교육·설득·조작 능력에 어떤 차이를 만드는가?
• 지식이 빠르게 확산되는 환경에서 발명자의 공로와 투자 유인을 지키면서 사회적 활용을 넓힐 수 있는가?
• 분야 간 능력 전이가 통합된 초지능에 유리할까, 과제별 전문화가 여러 모델의 공존을 뒷받침할까?