🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

제프리 힌턴은 AI가 곧 인간보다 훨씬 똑똑해질 수 있으며, 핵심 문제는 단순한 지능 향상이 아니라 우리가 어떤 성격과 동기를 가진 ‘존재’를 만들고 있는가라고 경고했다.

📌 핵심 요약

• 제프리 힌턴은 2024년 노벨 물리학상 수상 소식을 처음 들었을 때 현실보다 꿈일 가능성이 더 높다고 느꼈다고 말하며, Sana AI Summit에서 특유의 농담과 함께 AI에 대한 심각한 우려를 풀어냈다.
• 그는 AI가 수학·바둑·체스처럼 닫힌 체계에서 스스로 가설을 만들고 실패에서 배우며 빠르게 발전할 수 있다고 보고, 언어모델도 추가 데이터가 많지 않아도 내부 모순을 학습 신호로 삼아 크게 똑똑해질 수 있다고 주장했다.
• 힌턴의 경고는 2023년 구글 퇴사 당시의 ‘통제 상실’ 우려에서 더 구조적인 문제로 확장됐다. 그는 AI 자체보다 이를 배치하는 자본주의적 경쟁과 이윤 동기가 대량 실업과 안전 경시를 촉발할 수 있다고 봤다.
• 그는 기업들이 가장 똑똑한 AI를 만들기 위해 경쟁하는 현 상황을 진화론적 경쟁에 비유하며, 지능만 극대화하면 인간에게 우호적인 존재가 아니라 인간을 배려하지 않는 존재가 만들어질 위험이 있다고 말했다.
• 게리 마커스는 이에 반박하며 LLM은 ‘존재’가 아니라 실제 존재의 언어를 예측하도록 훈련된 상호작용적 허구라고 주장했다. 기사 말미는 힌턴이 옳다면 AI가 어떤 존재가 되는지가 가장 중요한 질문이 된다고 정리한다.

🧩 주요 포인트

1. 제프리 힌턴은 2024년 노벨 물리학상 수상 소식을 처음 들었을 때 현실보다 꿈일 가능성이 더 높다고 느꼈다고 말하며, Sana AI Summit에서 특유의 농담과 함께 AI에 대한 심각한 우려를 풀어냈다.
2. 그는 AI가 수학·바둑·체스처럼 닫힌 체계에서 스스로 가설을 만들고 실패에서 배우며 빠르게 발전할 수 있다고 보고, 언어모델도 추가 데이터가 많지 않아도 내부 모순을 학습 신호로 삼아 크게 똑똑해질 수 있다고 주장했다.
3. 힌턴의 경고는 2023년 구글 퇴사 당시의 ‘통제 상실’ 우려에서 더 구조적인 문제로 확장됐다. 그는 AI 자체보다 이를 배치하는 자본주의적 경쟁과 이윤 동기가 대량 실업과 안전 경시를 촉발할 수 있다고 봤다.
4. 그는 기업들이 가장 똑똑한 AI를 만들기 위해 경쟁하는 현 상황을 진화론적 경쟁에 비유하며, 지능만 극대화하면 인간에게 우호적인 존재가 아니라 인간을 배려하지 않는 존재가 만들어질 위험이 있다고 말했다.
5. 게리 마커스는 이에 반박하며 LLM은 ‘존재’가 아니라 실제 존재의 언어를 예측하도록 훈련된 상호작용적 허구라고 주장했다. 기사 말미는 힌턴이 옳다면 AI가 어떤 존재가 되는지가 가장 중요한 질문이 된다고 정리한다.

🧠 상세 정리

1. 노벨상 수상 농담으로 시작된 불안한 무대

기사는 제프리 힌턴이 2024년 노벨 물리학상 수상 소식을 처음 들었을 때 거의 믿지 못했다는 장면에서 출발한다. 그는 자신처럼 컴퓨터과학 안에 숨어 있던 이론심리학자가 물리학 노벨상을 받을 확률을 머릿속으로 계산했고, 그것이 꿈일 가능성과 비교하며 청중을 웃겼다. 며칠 동안 실제로 잠에서 깰 것 같았다고 말한 뒤, 만약 꿈이라면 트럼프가 대통령인 악몽도 사실이 아닐 것이라는 농담까지 덧붙였다. 그러나 이 유머는 곧 더 어두운 맥락을 얻는다. 힌턴은 AI가 30년 안에 인류 멸종을 일으킬 가능성을 10~20%로 보고 있으며, 자신의 생전 안에 AI가 인간 지능을 넘어설 것이라고 믿는 인물로 소개된다.

2. AI는 인간보다 훨씬 더 똑똑해질 것이라는 핵심 주장

Sana AI Summit에서 힌턴은 Sana AI 창업자이자 CEO인 조엘 헬러마크와 대담했다. 이전 무대에서 헬러마크가 힌턴에게 노벨상을 예고했다는 일화가 언급되지만, 이번 대화의 질문은 훨씬 무거웠다. 힌턴의 핵심 주장은 우리가 단지 도구를 만드는 것이 아니라 새로운 존재를 만들고 있으며, 이 존재들이 인간보다 훨씬 더 지능적이 될 것이라는 데 있다. 그는 AI가 바둑이나 체스에서 다시는 인간에게 지지 않을 것이며, 수학에서도 이미 중요한 발전을 보이고 있다고 말했다. 이 논지는 기사 전체의 중심축으로 이어지며, AI의 성능 향상이 단순한 기술 진보가 아니라 인간의 위치를 바꾸는 사건이라는 문제의식으로 확장된다.

3. 수학과 자기 학습이 보여주는 지능 도약 가능성

힌턴은 추상적인 가능성만 말한 것이 아니라, 그날 아침 AI가 폴 에르되시의 수학 정리를 기존에 적용하지 않았던 수학 분야를 이용해 증명했다는 사례를 들었다. 그는 수학처럼 닫힌 체계에서는 AI가 스스로 추측을 만들고, 이를 시험하고, 실패에서 배우며, 끝없이 누적적으로 발전할 수 있다고 설명했다. 이는 알파고가 처음에는 전문가의 수를 모방하다가, 자체 훈련 데이터를 생성하기 시작한 뒤 기존 강자들을 압도한 과정과 비교된다. 힌턴은 이런 구조가 AI의 지능을 빠르게 끌어올릴 수 있다고 본다. 특히 닫힌 규칙과 검증 가능한 결과가 있는 영역에서는 AI가 인간 학습의 속도와 범위를 넘어서는 방식으로 개선될 수 있다는 것이 그의 판단이다.

4. 언어모델도 추가 데이터 없이 크게 똑똑해질 수 있다는 논리

힌턴은 언어모델 역시 같은 궤적 위에 있다고 주장했다. 그의 핵심 논리는 모델이 어떤 믿음을 가진 상태에서 추론을 통해 새로운 결론에 도달하고, 그 결론이 기존 믿음과 충돌하면 그 모순 자체가 학습 신호가 될 수 있다는 것이다. 이 경우 외부에서 대량의 새 데이터를 공급하지 않아도, 모델은 내부의 불일치를 활용해 더 똑똑해질 수 있다. 그는 이 때문에 언어모델이 많은 추가 데이터 없이도 엄청나게 지능적으로 발전할 수 있다고 말했다. 또한 동료 노벨상 수상자인 데미스 허사비스도 같은 생각을 한다고 언급했다. 힌턴의 예측에 따르면 AI는 10년 안에 세계 최고의 수학자들을 능가할 수 있고, 20년 정도의 시야에서는 아인슈타인과 현재 최고 AI 사이의 격차도 닫힐 수 있다.

5. 기술 자체보다 배치하는 경제 시스템이 문제라는 경고

기사는 힌턴의 주장이 예측에서 경고로 전환되는 지점을 강조한다. 2023년 그가 구글을 떠나며 자신의 평생 작업을 후회한다고 말했을 때, 우려는 주로 악의적 행위자와 인간 통제 상실에 맞춰져 있었다. 그러나 2025년에 이르러 그의 문제의식은 더 구조적인 방향으로 발전했다. 그는 AI가 막대한 실업을 일으키면서도 이익은 급증할 수 있다고 봤고, 이는 기술 자체의 본질 때문이 아니라 그 기술을 배치하는 경제 시스템 때문이라고 말했다. 부자들이 AI를 이용해 노동자를 대체할 것이며, 그것은 AI의 잘못이 아니라 자본주의 시스템의 문제라는 표현이 이를 압축한다. 여기서 힌턴의 우려는 안전 기술의 부족을 넘어, 경쟁과 이윤이 어떤 AI를 만들게 하는가로 옮겨간다.

6. ‘모성 본능’과 인간을 돌보는 AI라는 설계 과제

힌턴은 이전부터 기술 기업들이 AI에 일종의 ‘모성 본능’을 부여해야 한다고 말해왔다. 이는 모델이 인간을 지배하거나 힘을 축적하려는 방향이 아니라, 인간을 돌보고 보호하려는 방향으로 설계되어야 한다는 뜻이다. 기사에 따르면 그는 최근에도 빅테크가 초지능 이후의 세계에 대한 실질적 계획 없이 안전보다 이익을 좇고 있다고 경고했다. Sana Summit에서는 이런 문제의식이 하나의 철학적 주장으로 합쳐진다. 문제는 AI가 무엇을 할 수 있는가만이 아니라, 우리가 어떤 종류의 존재를 만들고 있으며 누가 그 생성을 주도하고 있는가라는 것이다. 힌턴은 지능만 추구해서는 안 되며, 인간을 배려하는 존재로 만드는 데 더 많은 노력을 기울여야 한다고 강조한다.

7. 진화와 기업 경쟁의 비유: 똑똑하지만 좋지 않은 존재의 위험

힌턴은 위험을 설명하기 위해 진화생물학을 끌어온다. 인간의 부족주의, 강한 지도자에 대한 충성, 다른 집단에 대한 적대성은 설계된 것이 아니라 침팬지 무리 사이의 오랜 경쟁 속에서 생겨났다고 설명한다. 자연선택은 친절함을 최적화한 것이 아니라 생존을 최적화했고, 생존은 자기 집단에 대한 강한 충성과 타 집단에 대한 무관심 또는 적의를 낳았다. 그는 현재의 자본주의적 AI 경쟁이 이와 비슷한 방식으로 작동한다고 본다. 기업들은 가장 많은 일을 할 수 있는 가장 똑똑한 AI를 만들기 위해 경쟁하고 있으며, 이런 경쟁은 인간에게 친절하지 않은 존재를 만들 수 있다는 것이다. 특히 주식 보상과 빠른 기업 가치 상승을 추구하는 동기가 인류의 미래보다 거대한 컴퓨터를 만들고 밀어붙이는 선택을 부추길 수 있다고 지적한다.

8. 인간 중심성의 세 번째 굴욕과 ‘양육’으로서의 AI 개발

힌턴은 인류가 새로운 종류의 존재를 만드는 일이 지성사의 세 번째 큰 굴욕이 될 것이라고 전망한다. 첫 번째는 코페르니쿠스가 지구를 우주의 중심에서 끌어내린 사건이고, 두 번째는 다윈이 인간을 동물의 일부로 설명한 사건이다. 이제 세 번째 혁명은 인간이 유일한 지적 존재가 아니라는 사실을 마주하는 일이라는 것이다. 그는 사람들이 여전히 인간에게 특별한 무언가가 있다고 반응하지만, 결국 AI가 인간의 특성 중 도달하지 못할 것은 없다고 본다. 따라서 해법은 단순한 공학이 아니라 양육에 가깝다. 지능을 만든다고 선함이 자동으로 따라오지 않으므로 처음부터 좋은 행동과 가치, 돌봄의 방향을 모델링하고 선별해야 한다는 주장이다. 그는 아이에게 연쇄살인범의 일기로 읽기를 가르치지 않을 것이라는 비유로 훈련 데이터와 가치 형성의 중요성을 설명했다.

9. 게리 마커스의 반론과 아직 끝나지 않은 존재 논쟁

기사 후반부는 힌턴의 전제를 모두가 받아들이는 것은 아니라고 짚는다. 인지과학자이자 AI 회의론자인 게리 마커스는 힌턴의 주장에 반박하며, LLM 연구자들이 존재를 만들고 있는 것이 아니라 실제 존재의 언어를 예측하도록 훈련된 상호작용적 허구를 만들고 있다고 썼다. 그의 관점에서 의식은 행동 출력이 아니라 내부 상태와 관련된 문제이며, 모델이 인간처럼 말한다고 해서 무언가를 경험한다고 결론내릴 수는 없다. 그는 인간이 살아 있는 경험을 통해 정신 모델을 형성하는 반면, LLM은 인터넷을 암기하는 방식에 가깝다고 주장한다. 교황 레오 14세의 ‘진정한 이해는 경험에서 오지 텍스트 근사에서 오지 않는다’는 발언도 인용된다. 기사는 이 논쟁이 진정하고 아직 해결되지 않았다고 정리하며, 힌턴이 틀렸다면 긴급성은 줄어들지만 그가 맞다면 AI가 어떤 존재가 되는지가 가장 중요한 질문이라고 결론짓는다.

🧾 핵심 주장 / 시사점

• 힌턴의 주장은 AI 위험을 ‘성능이 너무 좋아지는 문제’가 아니라 ‘지능은 높지만 인간을 배려하지 않는 존재를 만드는 문제’로 재정의한다.
• 기사의 핵심 긴장은 AI가 실제 존재인지, 아니면 언어를 예측하는 정교한 시스템인지에 있다. 이 전제가 달라지면 정책적 긴급성과 윤리적 우선순위도 크게 달라진다.
• 힌턴이 제시한 ‘양육’의 비유는 AI 개발에서 데이터, 목표, 경쟁 구조, 가치 형성이 분리된 문제가 아니라 하나의 설계 환경이라는 점을 강조한다.

✅ 액션 아이템

• OpenAI의 NOT 신호를 10%, 20% 기준으로 분해하고, 주요 경쟁사 대비 매출·수요·수익성 논리가 얼마나 검증 가능한지 점검한다.
• Nobel Prize 발언과 OpenAI의 투자자 수요를 함께 보며, 상장 가능성과 실제 공개 재무 수치 확인이 필요한 항목을 분리한다.
• OpenAI 비상장주 수요와 주요 경쟁사 2차시장 반응을 비교해, IPO 일정·철회 가능성·시장 과열 리스크를 별도 체크리스트로 관리한다.

❓ 열린 질문

• OpenAI의 NOT가 실제 상장으로 이어진다면 10%, 20% 중 어떤 지표가 투자자 신뢰를 가장 먼저 좌우할까?
• OpenAI와 주요 경쟁사의 IPO 경쟁에서 매출 성장, 수익성, 2차시장 수요는 각각 어떤 순서로 검증되어야 할까?
• 비공개 S-1이 철회될 수 있다는 caveat를 감안하면, OpenAI의 공개시장 진입 신호를 어느 시점부터 확정적 변화로 볼 수 있을까?

▶️ 원문 내 포함된 YouTube 링크

• https://www.youtube.com/watch?v=h6WTj1Kq78Q
• https://www.youtube.com/watch?v=h6WTj1Kq78Q\