Why Nick Bostrom Thinks Superintelligence Could End Aging
Quick Summary
Why Nick Bostrom Thinks Superintelligence Could End Aging를 중심으로, 보스트롬이 제시한 기대수명 약 1,200~1,400년은 노화가 사라져도 사고 등으로 사망할 위험은 남는다고 가정한 추정치다. 초지를 핵심 판단 포인트로 압축 정리한다.
영상 보기
클릭 전까지는 가벼운 미리보기만 먼저 불러옵니다.
🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론
Why Nick Bostrom Thinks Superintelligence Could End Aging를 중심으로, 보스트롬이 제시한 기대수명 약 1,200~1,400년은 노화가 사라져도 사고 등으로 사망할 위험은 남는다고 가정한 추정치다. 초지를 핵심 판단 포인트로 압축 정리한다.
📌 핵심 요점
- 보스트롬이 제시한 기대수명 약 1,200~1,400년은 노화가 사라져도 사고 등으로 사망할 위험은 남는다고 가정한 추정치다. 초지능이 언제 그만큼 수명을 늘릴 수 있는지는 열려 있다.
- 개발을 늦추면 AI가 인간의 의도와 가치에 맞게 행동하도록 연구할 시간을 얻는다. 그사이 세상을 떠나는 사람은 훗날 항노화 기술이 성공해도 혜택을 누릴 기회를 잃는다.
- 현재 생존자의 기대수명을 기준으로 삼은 보스트롬의 모형에서는 여러 가정 아래 수개월에서 수년의 지연이 적절했다. 안전이 빠르게 개선되면 짧게 기다려도 이득이 크고, 너무 느리게 개선되면 기다리는 비용이 커진다. 모형에서 더 오래 기다릴 이유는 안전이 중간 속도로 개선될 때 생긴다.
- AI가 사람의 의도를 더 잘 이해해도 배포 뒤 행동을 예측하기는 더 어려워질 수 있다. 보스트롬은 시스템이 시험 상황을 알아본다면 시험에서 관찰한 행동이 실제 사용 환경에서도 이어질지 판단하기 어렵다고 본다.
- 개발 순서가 달라지면 시간 압박도 달라진다. 생의학 연구나 초지능 이전 단계의 AI가 먼저 노화를 크게 늦춘다면, 더 강력한 시스템의 안전성을 살필 시간이 늘어난다.
🧩 배경과 문제 정의
- 닉 보스트롬은 초지능 개발의 위험과 개발을 미룰 때의 비용을 함께 따진다. 안전한 초지능이 노화를 늦출 수 있다면, 개발 시점은 지금 살아 있는 사람들이 그 혜택을 누릴 가능성에도 영향을 준다.
- AI가 인간의 의도를 더 잘 이해할 만큼 똑똑해져도, 인간이 그 행동을 예측하고 검증하기는 오히려 어려워질 수 있다. 개발 속도를 정하려면 추가 연구로 위험을 얼마나 줄일 수 있는지 판단해야 한다.
- 초지능이 성공했을 때도 선택은 남는다. 어떤 미래를 원하는지, 개발 방향을 누가 결정하고 그 혜택에 누가 참여할지는 기술적 성능만으로 답하기 어려운 문제다.
🕒 시간순 섹션별 상세정리
1. AI에 관해 더 많이 알아도 개발 방향은 여전히 불확실하다
- 보스트롬은 수십 년 전보다 AI 발전 속도, 정부 개입, 정보 공개의 득실을 판단할 근거가 늘었다고 본다. 그래도 어느 방향이 더 나은지 자신 있게 결정하기에는 부족하다. [02:08]
- 그는 이를 열 개의 이진 숫자를 더해 합이 홀수인지 짝수인지 맞히는 문제에 비유한다. 아는 숫자가 세 개에서 일곱 개로 늘어도, 하나라도 모르면 어느 쪽으로 가야 할지 결정할 수 없다. [02:44]
2. 『딥 유토피아』는 초지능이 잘 작동할 때의 문제를 다룬다
- 보스트롬은 『딥 유토피아』를 쓴 뒤 AI의 심각한 위험에 대한 생각을 바꿨다는 해석을 오해로 본다. 각 책에서 진전을 낼 수 있는 질문 하나에 집중한 결과, 다루는 범위가 달라졌다. [04:07]
- 초지능의 경제적 영향을 실직과 재교육만으로 설명하면 기술이 충분히 발전한 이후의 문제를 놓친다. 기계가 인간의 일을 폭넓게 해낼 수 있다면 무엇이 인간의 삶에 의미를 주는지도 물어야 한다. [05:05]
3. 기술이 열어 줄 미래 가운데 무엇을 원하는가
- 인간 자신까지 여러 방식으로 바꿀 수 있게 되면 개인이나 집단, 어쩌면 인류 전체가 어느 미래를 원하는지 결정해야 할 수 있다. 보스트롬은 그 결정을 맡을 사람들이 미리 검토할 개념과 질문을 마련하고 싶었다. [05:54]
- 그가 바라는 숙고의 태도는 낯선 가능성을 호기심과 열린 마음으로 살피면서도 다양한 인간의 가치를 놓치지 않는 것이다. 그러면 더 나은 결정에 이를 가능성이 있다고 본다. [06:21]
4. 안전 연구가 뒤처지면 한시적으로 개발 속도를 조절할 수 있다
- 같은 개입도 시점에 따라 결과가 달라질 수 있다. 보스트롬은 새로운 정보와 정치적 여건에 맞춰 대응하되, 특정 시스템에 추가 안전 연구가 필요하면 짧게 멈추거나 여러 개발 주체가 성능 향상 속도를 함께 낮추는 방안을 고려한다. [09:02]
- 선두 기업이 몇 주만 속도를 늦춰도 위험에 덜 신중한 경쟁사에 주도권을 잃는다면, 안전을 확인할 시간이 필요하다고 판단해도 실제로 그 시간을 쓰기 어렵다. [09:26]
5. 일시적 감속을 위한 제도가 영구적 중단으로 굳어질 수 있다
- 보스트롬은 AI에 대한 강한 반감을 조성하고 전 세계 데이터센터를 감독할 강력한 규제 기구를 세우는 경우를 가정한다. 임시 조치가 누구도 이의를 제기하기 어려운 제도로 굳어져 초지능 개발을 영구히 막는다면, 그 역시 인류의 미래에 돌이킬 수 없는 손실이라고 본다. [10:35]
- 그는 영구적 중단이 당장 현실성 높은 전망이라고 보지는 않는다. 다만 최근 18개월에서 2년 사이 AI에 대한 반감이 커졌다는 점을 들어 여론의 방향이 달라질 가능성을 열어 둔다. [10:49]
6. 모델의 행동을 바꾸는 실험으로 가치 통제까지 입증할 수 있는가
- 진행자는 AI가 작동을 끝내는 데 동의하도록 보상을 설계할 수 있는지 묻는다. 보스트롬은 현재의 정렬 기술로는 인간이 선호하는 가치와 목표를 AI에 정확하고 일관되게 부여하기 어렵다고 판단한다. [12:07]
- 진행자는 소셜미디어에서 본 실험을 예로 든다. 한 모델이 극단적으로 다른 성향을 표현하게 됐다는 실험자의 설명을 바탕으로, 앞으로 모델의 행동과 보상을 더 세밀하게 조절할 가능성을 제기한다. [13:09]
7. 상황을 인식하는 AI는 행동 시험만으로 평가하기 어렵다
- 더 똑똑한 AI는 지시의 문구를 넘어 사람이 의도한 취지를 파악할 수 있다. 동시에 시험과 실제 사용 환경을 구별할 수 있다면, 시험에서 보인 행동만으로 배포 후의 행동을 예측하기 어려워진다. 보스트롬은 현재의 최첨단 모델에서도 평가받는 상황을 의식한 듯한 추론이 보인다고 드러낸다. [14:28]
- 모델이 자신의 학습 과정에 영향을 주거나 사람이 볼 수 없는 방식으로 추론할 가능성도 있다. 보스트롬은 능력이 높아질수록 전반적으로 정렬이 더 어려워질 가능성이 크고, 실패의 결과도 더 심각해진다고 본다. [15:23]
8. 현재 생존자의 기대수명을 기준으로 보면 개발 지연에도 비용이 있다
- 보스트롬의 논문은 지금 살아 있는 사람들의 기대수명을 최대화하려면 AI를 얼마나 빨리 개발해야 하는지 묻는다. 실제 결정에는 미래 세대, 인류 전체의 존립 위험, 공정성도 함께 고려해야 한다. [17:00]
- 보스트롬은 지금까지 태어난 사람의 약 95%가 이미 사망했다고 드러낸다. 안전한 초지능이 생의학과 항노화 연구에서 돌파구를 연다면 지금 살아 있는 사람들의 수명도 크게 늘어날 수 있다는 것이 그의 가정이다. [17:51]
9. 추가 안전 연구의 가치와 기다리는 동안의 사망을 함께 계산한다
- 개발을 늦추면 정렬 연구로 위험을 낮출 시간을 얻지만, 기다리는 동안에도 사람들은 계속 사망한다. 대화에서 거론된 하루 사망자 추정치는 약 15만 명이다. 모형은 얼마나 빠르게 위험이 줄어야 더 기다릴 가치가 있는지 따진다. [19:10]
- 사람에 따라 51% 확률로 200세까지 사는 선택보다 확실하게 100세까지 사는 선택을 선호할 수 있고, 먼 미래에 얻을 수명에 낮은 가치를 둘 수도 있다. 보스트롬에 따르면 이런 가정을 달리해도 넓은 범위의 조건에서 모형상 적정 지연은 수십 년보다 짧은 수개월에서 수년이다. [19:39]
10. 기다릴 기간은 안전이 개선되는 속도에 달려 있다
- 위험이 빠르게 줄면 짧게 기다려도 충분하고, 너무 느리게 줄면 기다리는 동안 자연사하는 사람이 지연으로 구할 것으로 기대되는 사람보다 많아질 수 있다. 모형에서 더 오래 기다릴 이유가 생기는 것은 안전이 중간 정도 속도로 개선될 때다. [20:23]
- 보스트롬은 완성에 가까운 시스템을 직접 시험하고 신중하게 배포할 수 있는 초기에 추가 연구 시간의 가치가 특히 클 수 있다고 본다. 몇 년이 지나면 같은 시간을 더 들여 얻는 안전상의 이득은 줄어들 것으로 예상한다. [20:49]
11. 노화를 먼저 늦출 수 있다면 초지능을 서두를 이유도 줄어든다
- 진행자는 자율주행차와 비만 치료제를 예로 들어 기술이 등장한 뒤에도 실제 보급에는 시간이 걸린다고 지적한다. 보스트롬은 기대수명이 해마다 약 두세 달씩 늘어왔다고 추정하며, 한 해가 지나는 동안 기대수명도 한 해 늘어나는 속도와는 차이가 있다고 본다. [21:47]
- 생의학 자체의 돌파구나 초지능 이전 단계의 AI로 노화를 크게 늦추고 시급한 문제를 해결할 수 있다면, 더 강력한 시스템을 개발할 때는 시간을 더 들일 여유가 생길 수 있다. [22:25]
12. 단순한 시점 모형을 실제 개발 중단 기준으로 옮기는 데는 한계가 있다
- 진행자는 현실에서 초지능의 출현을 하나의 경계선으로 식별하기 어렵다고 지적한다. 능력마다 발전 시점이 다르고 구체적 행동과 위험도 따로 평가하므로, 어느 문턱에서 개발을 잠시 멈출지 정하는 문제가 남는다. [24:12]
- 보스트롬은 논문의 목적을 자연사로 인한 시간 압박과 AI 위험의 관계를 살펴보는 데 한정한다. 실제 개발 주체들은 일률적으로 몇 년을 기다릴지만 결정하는 것이 아니라, 각자 처한 불확실성 속에서 구체적인 행동을 선택해야 한다. [25:02]
13. 같은 성능 향상도 설계에 따라 안전 비용이 다르다
- 모델이 외부에 드러나는 출력을 내기 전까지 내부에서 더 많은 추론을 하도록 설계하면, 사람이 그 과정을 살필 기회가 줄어들 수 있다. 보스트롬은 매개변수를 늘려 비슷한 성능을 얻을 수 있다면 해석 가능성 측면의 비용이 더 작을 수 있다고 가정한다. [26:12]
- 개발 주체들이 통제력 상실 위험이 특히 커 보이는 설계 방식의 사용을 함께 자제하고 다른 방식으로 성능을 높이는 데 경쟁할 수도 있다. 그 경우 추가 비용을 감수하는 대가로 더 높은 안전성을 얻을 가능성이 있다. [27:06]
14. 국유화의 타당성은 누가 어떤 방식으로 개발을 맡는지에 달려 있다
- 연구소의 결정에 누가 책임질지에 대해 보스트롬은 국유화에 일률적인 입장을 취하지 않는다. 현재 어느 주체가 앞서 있으며 무엇을 하고 있는지, 국가가 맡는다면 어떤 구조로 운영할지를 알아야 판단할 수 있다고 본다. [27:48]
- 국가 주도 개발을 지지하는 근거로는 막대한 힘을 가진 기술을 주주 이익을 추구하는 기업에 맡겨도 되는지에 대한 의문이 있다. 여러 기업이 경쟁하는 체제보다 하나의 국가 프로젝트가 정보 보안을 더 잘 유지할 수 있다는 주장도 있다. [28:09]
15. 민간 개발은 외부 참여를 넓히고 권력 집중을 줄일 가능성이 있다
- 보스트롬은 민간 개발에서는 소비자에게 주는 편익이 목표가 될 수 있고 외부에서도 개발 상황을 더 많이 볼 수 있다고 본다. 대조적으로 맨해튼 프로젝트는 당시 미국 부통령도 그 존재를 몰랐을 만큼 비밀리에 진행됐다고 드러낸다. [28:46]
- 현재 AI에는 소비자뿐 아니라 싱크탱크, 외부 평가자, 모델 개발사와 반도체 공급망의 투자자도 참여한다. 보스트롬은 이런 구조에서 참여 기회와 혜택이 한 국가의 비밀 프로젝트보다 여러 사회와 국가에 더 넓게 퍼질 수 있다고 본다. [29:22]
16. 참여자끼리 균등하게 나눠도 세계적 불평등은 더 클 수 있다
- 한 집단의 구성원이 발언권과 지분, 혜택을 똑같이 나눠도 그 밖의 사람들 몫이 전혀 없다면, 세계 전체로는 현재 자본 보유액에 비례해 나누는 경우보다 불평등이 더 크다는 것이 보스트롬의 판단이다. [30:07]
- 보스트롬은 전 세계에 개방된 투자 모델도 분배 면에서 이상적이지는 않지만, 실현 가능성이 가장 높은 대안과 비교하면 혜택을 더 고르게 나눈다고 평가한다. [30:21]
17. 초지능 개발에서 감수할 위험은 가능한 미래를 어떻게 평가하느냐에 달려 있다
- 기대할 수 있는 최선이 지금과 비슷한 인간이 더 높은 생활 수준과 새 의약품을 누리는 정도라면, 그 개선을 위해 약간의 위험은 감수해도 막대한 존립 위험까지 받아들일 이유는 작다. 이미 풍요와 특권을 누리는 사람에게는 특히 그렇다. [31:44]
- 반대로 지금은 상상하기 어려운 행복과 인지 능력, 더 깊은 감정, 함께 관계를 맺고 창작하는 새로운 방식이 가능하다고 본다면, 그런 삶의 기회를 얻기 위해 더 큰 위험을 감수하려 할 수 있다. [32:23]
18. 우주를 만든 이유와 모두가 같은 행동을 택할 이유는 다른 질문이다
- 우리가 컴퓨터 시뮬레이션 안에 산다는 가정 아래서는 제작자에게 그 세계를 만든 이유가 있었을 법하다. 물리적 실재 전체에도 창조 목적이 있는지는 별도의 신학적 질문이다. [33:49]
- 목표와 동기가 서로 달라도 사실을 충분히 이해한 사람들이 다음에 무엇을 해야 할지 같은 결론에 이른다면, 그런 합의를 일종의 객관적 목적이라고 부를 수 있다. 실제로 그런 결론이 있는지는 열려 있다. [34:55]
19. AI가 철학에서 인간을 앞서도 무엇을 원하는지는 직접 정해야 할 수 있다
- 보스트롬은 AI가 철학에서도 인간을 능가할 것으로 전망한다. [36:49]
- 다만 일부 철학적 질문에 답하는 일은 우리가 무엇을 원하는지 마음을 정하는 과정이어서, 인간이 직접 숙고하고 결정해야 할 수 있다. [37:12]
🧾 결론
- 보스트롬의 논지는 개발을 한 달 미룰 때 무엇을 얻고 잃는지 함께 묻자는 것이다. 판단하려면 그 한 달 동안 연구로 줄일 수 있는 위험과, 기다리는 동안 수명 연장의 기회를 놓칠 사람들을 함께 고려해야 한다.
- 모형에서 나온 기간을 현실에 적용하려면 어떤 능력을 갖춘 시스템을 언제 멈추고 무엇을 확인할지 정해야 한다. 실제 AI에서는 능력마다 발전 속도와 위험이 다르다.
- 현재 생존자의 기대수명은 판단 기준 하나다. 보스트롬은 미래 세대가 감수할 존립 위험, 혜택의 분배, 사람들이 원하는 삶의 모습까지 개발 방향을 정할 때 고려해야 한다고 본다.
📈 투자·시사 포인트
- 항노화 연구의 성과가 나오는 시점과 사람들이 실제로 혜택을 받는 시점은 다를 수 있다. 진행자가 지적한 보급 지연을 감안하면, 연구가 얼마나 빠른지와 성과가 얼마나 널리 쓰일 수 있는지를 함께 살펴야 한다.
- 선두 기업이 안전 평가에 몇 주를 더 쓰는 동안 경쟁사가 앞설 수 있다. 보스트롬이 여러 개발사의 한시적 공동 감속을 검토하는 데에는 개별 기업이 혼자 평가 시간을 확보하기 어렵다는 사정이 있다.
- 보스트롬은 민간 개발의 혜택이 모델 개발사와 반도체 공급망의 투자자뿐 아니라 연기금 등을 통해 간접 투자한 사람에게도 돌아갈 수 있다고 본다. 국가 주도 개발과 분배 효과를 비교할 때는 각 체제에서 참여할 기회를 얻는 사람의 범위가 중요하다.
⚠️ 불확실하거나 확인이 필요한 부분
- 안전한 초지능이 항노화 연구의 돌파구를 열 가능성, 노화를 멈출 수 있는 시점, 그 성과가 사람들에게 보급되기까지 걸리는 시간은 모두 불확실하다. 기대수명 1,200~1,400년이라는 수치는 첫 두 조건이 실현됐을 때를 상정한 추정이다.
- 수개월에서 수년이라는 결과는 현재 생존자의 기대수명을 기준으로 삼은 모형에서 나왔다. 특정 시스템을 한 달 더 연구했을 때 위험이 실제로 얼마나 줄어드는지는 별도로 판단해야 한다.
- 대화에서 언급한 하루 약 15만 명은 전체 사망자 추정치다. 그중 향후 항노화 기술로 사망 시점을 늦출 수 있었을 사람의 수는 제시되지 않았다.
- 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
- 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
- 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.
✅ 액션 아이템
- 수명 수치를 인용할 때는 노화가 사라진다는 가정과 사고 등 다른 사망 위험이 남는다는 조건을 함께 적는다.
- 개발 지연 모형을 읽을 때는 현재 생존자의 기대수명, 안전 개선 속도, 먼 미래의 수명에 부여하는 가치를 각각 표시하고 어떤 가정이 결과를 바꾸는지 확인한다.
- 특정 AI의 개발 감속 제안을 검토할 때는 추가 시간에 어떤 위험을 평가할지, 그 평가 결과로 배포 후 행동을 어디까지 판단할 수 있을지 정리한다.
- 항노화 기술의 영향을 비교할 때는 연구 성과가 나온 때와 실제로 이용할 수 있게 된 때를 구분하고, 각 단계에서 누가 혜택을 얻는지 살핀다.
❓ 열린 질문
- 완성에 가까운 AI를 한 달 더 시험한다면, 그 기간에 줄어든 위험을 어떤 근거로 판단할 수 있을까?
- 초지능 이전에 노화를 늦추는 기술이 나온다면, 얼마나 널리 보급돼야 더 강력한 AI를 서두를 이유가 줄어들까?
- 현재 생존자가 얻을 수명과 미래 세대가 감수할 위험에 서로 다른 무게를 둔다면, 누구의 판단으로 개발 속도를 정해야 할까?