This Former DeepMind Exec Thinks the AI Arms Race Could End in Disaster

🖼️ 인포그래픽

This Former DeepMind Exec Thinks the AI Arms Race Could End in Disaster 내용을 설명하는 본문 이미지

🖼️ 4컷 인포그래픽

💡 한 줄 요약

전 구글 딥마인드 정책 책임자 베리티 하딩은 AI를 ‘군비 경쟁’으로 보는 언어가 국제 협력을 약화시키고, 기술 안전성과 중견국의 선택권을 위험에 빠뜨릴 수 있다고 경고한다.

📌 핵심 요약

베리티 하딩은 AI를 치명적 무기나 미·중 양강의 경쟁으로 묘사하는 프레임이 정책의 방향과 국가 간 관계를 실제로 바꾼다고 본다.
그는 딥마인드 재직 당시 AI 논의가 국제 협력에 기반했지만, 시간이 지나며 서방 대 중국, 연구소 간 경쟁, 국가주의적 산업 전략으로 이동했다고 설명한다.
AI 군비 경쟁 담론은 기술의 위험성을 민주주의 국가가 통제해야 한다는 주장과, 규제가 중국을 이기게 만든다는 반규제 논리가 결합하며 강화됐다.
하딩은 유럽과 영국의 주권적 역량은 중요하지만, 어떤 나라도 칩·광물·인재·제품을 모두 독자적으로 확보할 수 없기 때문에 완전한 고립주의는 비현실적이라고 말한다.
그는 중견국 연합을 통해 규모와 협상력을 확보하고, 경쟁과 협력이 양립할 수 있는 국제주의적 접근을 회복해야 한다고 주장한다.

🧩 주요 포인트

베리티 하딩은 AI를 치명적 무기나 미·중 양강의 경쟁으로 묘사하는 프레임이 정책의 방향과 국가 간 관계를 실제로 바꾼다고 본다.
그는 딥마인드 재직 당시 AI 논의가 국제 협력에 기반했지만, 시간이 지나며 서방 대 중국, 연구소 간 경쟁, 국가주의적 산업 전략으로 이동했다고 설명한다.
AI 군비 경쟁 담론은 기술의 위험성을 민주주의 국가가 통제해야 한다는 주장과, 규제가 중국을 이기게 만든다는 반규제 논리가 결합하며 강화됐다.
하딩은 유럽과 영국의 주권적 역량은 중요하지만, 어떤 나라도 칩·광물·인재·제품을 모두 독자적으로 확보할 수 없기 때문에 완전한 고립주의는 비현실적이라고 말한다.
그는 중견국 연합을 통해 규모와 협상력을 확보하고, 경쟁과 협력이 양립할 수 있는 국제주의적 접근을 회복해야 한다고 주장한다.

🧠 상세 정리

1. AI ‘군비 경쟁’ 프레임에 대한 문제 제기

기사는 AI 산업과 국제정치에서 ‘군비 경쟁’이라는 표현이 널리 쓰이고 있지만, 이 프레임 자체가 위험할 수 있다는 베리티 하딩의 문제의식에서 출발한다. 하딩은 2016년부터 2020년까지 구글 딥마인드의 글로벌 공공정책 책임자로 일하며 오바마와 마크롱 등 여러 정치 지도자에게 AI 발전과 위험을 설명했다. 당시 그의 업무는 AI가 가진 가능성과 윤리적 쟁점을 국제 협력의 틀 안에서 다루는 데 가까웠다. 그러나 이후 AI 논의는 개별 연구소의 경쟁과 미국·중국이라는 두 초강대국의 대립을 중심으로 재편됐고, ‘AI 군비 경쟁’은 지배적인 은유가 됐다.

2. 언어가 정책과 국제 관계를 만든다는 주장

하딩이 기획한 에세이 선집 『Reframing the AI Arms Race』는 AI를 설명하는 언어가 단순한 표현 문제가 아니라 정책의 방향과 국가 간 행동 방식을 규정한다고 본다. 역사학자 로런스 프리드먼과 일본 정치인 고노 다로 등 정치·학계 인사들도 이 논의에 참여해, AI를 어떤 말로 부르느냐가 각국의 대응 방식을 바꾼다고 주장한다. 하딩은 AI를 치명적 무기처럼 묘사하면, 안전한 개발과 혜택의 공정한 분배를 위해 필요한 국제 협력의 문이 닫힐 수 있다고 우려한다. 특히 기술을 수입하는 작은 국가들은 이 프레임을 받아들이는 순간 한 초강대국 편에 줄을 서야 하는 압박을 받을 수 있다.

3. 전쟁 은유가 매력적인 이유와 사고의 축소

하딩은 사람들이 AI에 전쟁 은유를 끌어오는 이유를 그 표현이 강렬하고 명확해 보이기 때문이라고 설명한다. ‘군비 경쟁’이라는 말은 복잡한 기술·산업·정치 문제를 한눈에 이해시키는 듯하지만, 더 깊이 들어가면 오히려 사고의 범위를 좁힌다. 딥마인드에서 일할 때 그는 AI가 흥미로운 기술이지만 우려할 점도 많고, 그 우려는 협력적이고 국제적인 방식으로 다루는 것이 적절하다고 설명해왔다. 그러나 시간이 지나며 논의는 점차 ‘서방 대 중국’이라는 문명적 대결 구도로 기울었고, AI의 다양한 정책 선택지가 경쟁 논리에 가려지기 시작했다.

4. 군비 경쟁 담론을 키운 두 흐름

하딩은 AI 군비 경쟁 담론이 강화된 배경으로 두 가지 흐름을 짚는다. 하나는 이 기술이 위험하거나 잘못된 손에 들어가면 해로울 수 있으므로 민주주의 국가들이 통제권을 가져야 한다는 진지한 믿음이다. 다른 하나는 규제를 피하려는 흐름으로, 중국을 위협적 상대처럼 제시하면서 ‘우리를 규제하면 중국이 이긴다’는 주장을 펼치는 방식이다. 여기에 2022년 11월 ChatGPT의 등장은 AI에 대한 대중과 정책권의 관심을 급격히 끌어올렸다. 동시에 팬데믹으로 국경 없는 세계가 다시 국경을 의식하게 됐고, 우크라이나 전쟁은 AI와 무기, 지정학을 연결하는 논의를 훨씬 현실적인 문제처럼 만들었다.

5. 정치 문화와 지도자가 기술의 경로를 바꾼다

하딩은 기술이 사회를 바꾼다는 통념만큼이나, 사회와 정치가 기술의 궤적을 바꾼다는 점도 중요하다고 말한다. 특히 AI는 지금 미국의 정치 문화와 지정학적 긴장에 큰 영향을 받고 있으며, 그 결과 AI 정책과 기술의 방향도 함께 변하고 있다고 본다. 그는 현재의 국제 환경이 매우 긴장되고 불안정하다고 진단하며, 그 상당 부분은 미국이 더 고립주의적인 접근을 취하는 데서 비롯된다고 설명한다. 트럼프 행정부의 국가주의적 AI 수사와 자국 모델에 대한 수출 통제 시도는 하딩에게 군비 경쟁 프레임이 낳은 증상이며, 최악의 시나리오가 현실화되는 징후로 보인다.

6. 주권적 역량과 고립주의의 차이

하딩은 유럽과 영국이 AI에서 일정한 주권적 역량을 갖추는 일은 매우 중요하다고 인정한다. 다만 그것이 모든 나라가 안으로만 향해 독자적인 AI 체계를 완전히 구축해야 한다는 고립주의와 같지는 않다고 선을 긋는다. 그는 미국과 중국조차 모든 것을 혼자 개발할 수 없기 때문에, 칩·핵심 광물·과학자·시장 접근 같은 전략적 병목이 생긴다고 설명한다. 한쪽이 ‘우리 칩을 줄 수 없다’고 하면 다른 쪽은 ‘우리 광물이나 과학자, 구매력을 줄 수 없다’고 맞설 수 있다. 그래서 모든 나라가 완전히 독립적인 AI 스택을 갖출 수 있다는 생각은 현실적이지 않으며, 주권과 협력은 서로 배타적인 개념이 아니라고 본다.

7. 중견국 연합이라는 대안

하딩은 미·중 양자 대결로 AI를 이해하는 대신 ‘중견국 연합’을 제안한다. 예를 들어 캐나다, 프랑스, 일본, 한국, 인도, 영국 같은 국가들이 함께 움직이면 각자의 강점을 결합해 더 큰 협상력과 규모를 만들 수 있다는 것이다. 인도는 기술 확산과 규모에서 강점이 있고, 영국은 인재와 스타트업 생태계가 있으며, 캐나다는 핵심 광물처럼 전략 자원을 가진다는 식이다. 그의 핵심 주장은 AI 게임 전체가 두 초강대국만의 이분법적 경쟁이라고 믿지 말라는 데 있다. 그렇게 믿는 순간 그 프레임을 현실로 만들고, 다른 국가는 어느 한 편의 작은 말이 되어 스스로의 이해관계를 충분히 반영하지 못하게 된다.

8. 돈, 연구소의 이해관계, 그리고 가능한 결말

하딩은 AI에 몰려든 막대한 자금의 규모와 속도, 그리고 그 열기가 현재의 경쟁적 분위기에 영향을 미쳤다고 본다. 그러나 돈만으로 지금의 변화가 모두 설명되지는 않으며, 주요 AI 연구소들도 협력에서 경쟁으로 수사를 옮기는 데 일정 부분 공모했다고 말한다. AI를 군비 경쟁으로 말하면 연구소들은 이 기술이 너무 강력하고 새롭고 특별해서 자신들만 해답을 알고, 자신들만 해결책을 맡아야 한다는 권위를 얻을 수 있다. 그는 경쟁과 안전한 개발이 원칙적으로 양립 가능하다고 보지만, ‘경주’라는 언어는 차분하고 동료적인 계획을 어렵게 만든다고 지적한다. 이 길을 계속 가면 정부 통제와 권력 집중이 과도해지고, 보안·식량 안보·질병 종식 같은 공동 과제에서 협력하지 못해 더 덜 안전하고 덜 유익한 시스템이 나올 수 있다고 경고한다.