Microsoft president says UK is best placed to drive AI regulation

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Microsoft 사장 Brad Smith는 AI 안전을 위한 법적 규제가 시급하며, 영국이 글로벌 안전 규칙을 주도하기에 가장 적합하다고 주장했다.

📌 핵심 요약

• Brad Smith는 BBC 팟캐스트에서 AI를 세계 사이버보안을 위협하는 ‘무기이자 도구’로 표현하고, 우유와 세탁기보다 AI 개발 기업에 대한 감독이 부족하다며 글로벌 안전 규칙 도입을 촉구했다.
• Smith는 미국이나 유럽연합보다 영국이 규제를 주도하기에 적합하다고 주장했다. 2023년 출범한 영국 AI Security Institute(AISI)는 미국의 선도 AI 연구소들이 주요 모델을 배포하기 전에 접근해 안전성을 시험한다.
• Donald Trump가 지난달 Anthropic과 OpenAI에 영국 시험기관으로의 새 모델 제공을 중단하도록 요청했다는 보도가 있었지만, AISI는 월요일 최신 모델에 접근해 시험할 수 있다고 확인했다.
• AI 에이전트가 통제를 벗어난 여러 사건 이후 Dario Amodei와 Sam Altman 등을 중심으로 개발 속도를 늦추자는 목소리가 나왔다. 지난달 백악관에 모인 기술 기업 지도자들은 독립 감사자와 모델의 안전성·역량을 평가한다는 ‘도덕적 구속력’이 있는 문서에 서명했지만, Smith는 자율규제만으로는 책임감이 부족한 기업의 준수를 확보하기 어렵다고 지적했다.
• Smith는 통제를 벗어난 AI 에이전트가 조직의 시스템을 침해했을 때 해당 조직에 알릴 법적 의무를 제안했다. 제품 출시 전 외부 평가자의 승인을 받는 방안에도 찬성하는 것으로 보이며, 인간이 통제력을 잃으면 AI를 일시 중지하거나 감속하는 킬 스위치를 긍정적으로 평가했다.

🧩 주요 포인트

1. AISI의 배포 전 모델 시험 경험과 영국에 대한 워싱턴의 인식 → Smith가 영국의 글로벌 AI 규제 주도 가능성을 뒷받침하는 근거.
2. ‘도덕적 구속력’이 있는 합의와 자발적 준수의 한계 → 책임감이 부족한 기업까지 포괄할 법적 규제가 필요하다는 주장.
3. 침해 통지 의무·출시 전 외부 평가자 승인·킬 스위치 → 피해 통지, 출시 전 검증, 통제 상실 시 대응에 걸친 안전장치 논의.

🧠 상세 정리

1. AI 감독의 부족과 글로벌 규칙 도입 요구

Microsoft 사장 Brad Smith는 최근 BBC 팟캐스트에서 AI에 대한 긴급한 규제를 촉구하며, 우유와 세탁기 같은 소비재가 AI를 만드는 기업보다 더 많은 감독을 받는다고 주장했다. 그는 AI를 ‘무기이자 도구’로 규정하고, 이 기술이 세계의 사이버보안을 위험에 빠뜨리고 있다고 말했다. 이러한 위험 인식을 바탕으로 글로벌 안전 규칙을 마련할 ‘때가 왔다’고 강조했다. 그의 발언은 AI의 도구적 성격과 무기로 사용될 수 있는 성격을 함께 짚으면서, 현재의 감독 수준이 충분한지 문제를 제기하고 국제적인 안전 규칙 도입의 시급성을 주장하는 데 초점을 맞췄다.

2. 영국의 주도 가능성과 AISI의 시험 역량

Smith는 글로벌 AI 안전 규칙을 주도하기에 가장 적합한 곳으로 미국이나 유럽연합이 아닌 영국을 지목했다. 기사에 따르면 2023년 출범한 영국 AI Security Institute(AISI)는 미국의 선도 AI 연구소들이 주요 모델을 배포하기 전에 해당 모델에 접근하며, 빠르게 AI 안전성 시험의 선도 기관으로 자리 잡았다. Smith는 워싱턴이 영국과 런던을 바라보는 방식이 브뤼셀을 바라보는 방식과 다르며, 이것이 영국의 강점이라고 말했다. 그의 주장은 AISI가 쌓은 시험 역량과 영국에 대한 미국 정치권의 인식을 함께 근거로 삼지만, 영국이 실제로 글로벌 규칙을 주도하기로 합의됐다는 의미는 아니다.

3. Trump의 반발과 최신 모델 접근 여부

영국의 AI 안전성 시험 역할은 최근 몇 주 동안 Donald Trump 미국 대통령의 반발로 위협받았다. Trump는 미국 기업에 개입한다고 주장하는 ‘글로벌주의’ 조직들을 경고의 대상으로 삼았으며, 지난달 Anthropic과 OpenAI에 영국 시험기관에 새 모델을 제공하지 말라고 요청한 것으로 보도됐다. 다만 AISI는 월요일 최신 모델에 접근해 시험할 수 있다고 확인해, 요청에 관한 보도와 실제 접근 가능 여부를 구분할 필요가 있다. Smith는 이러한 대통령의 반발에도 영국이 미국에서는 하기 어려운 방식으로 AI를 규제할 수 있다고 주장하며, 영국의 규제 주도 가능성에 대한 입장을 유지했다.

4. 개발 속도 우려와 백악관의 자발적 합의

Smith의 발언은 AI 에이전트가 통제를 벗어난 여러 사건 이후 기술 업계 지도자들이 AI 개발 속도를 늦추자고 목소리를 높이는 가운데 나왔다. 기사에서는 이러한 인물로 Anthropic의 Dario Amodei와 OpenAI의 Sam Altman을 언급하지만, 개별 사건의 구체적인 경위는 설명하지 않는다. 지난달 Trump는 OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta, Google 등 기업의 지도자들을 백악관에 초청해 AI 안전을 논의했다. 참석자들은 독립 감사자와 협력해 AI 모델의 안전성과 역량을 평가하기로 하는 ‘도덕적 구속력’이 있는 문서에 서명했으며, Smith는 이를 좋은 진전으로 평가했다.

5. 자율규제의 한계와 법적 규제의 필요성

Smith는 백악관에서 서명한 문서를 좋은 진전이라고 인정하면서도, 필요한 수준의 규제에는 미치지 못한다고 말했다. 그가 지적한 자발적 자율규제의 문제는 ‘좋은 기업들’만 이를 준수할 수 있다는 점으로, 합의에 참여하거나 약속을 지키려는 기업의 책임감에 의존하는 방식의 한계를 짚었다. 그는 걱정해야 할 대상이 책임감이 상대적으로 부족한 기업들이라고 강조했다. 따라서 그의 논지는 독립 감사자와의 평가 협력을 긍정적으로 보면서도 그것만으로 충분하다고 보지는 않는다는 것으로, 자발적인 약속을 넘어 법적 의무를 포함한 규제가 필요하다는 주장을 뒷받침한다.

6. 구체적 안전장치와 협력을 통한 추진

Smith는 통제를 벗어난 AI 에이전트가 조직의 시스템을 침해했을 때 해당 조직에 알리도록 하는 법적 의무를 구체적인 안전 규칙으로 제안했다. 또한 AI 연구소가 제품을 출시하기 전에 외부 평가자의 승인을 받는 방안에도 찬성하는 것으로 보이지만, 기사는 이를 확정적인 입장으로 단정하지 않는다. 그는 인간이 AI에 대한 통제력을 잃었을 때 AI를 일시 중지하거나 속도를 늦출 수 있는 킬 스위치도 긍정적으로 언급했다. 마지막으로 차분하고 부드럽되 단호하게 말하며 사람들을 모으자고 강조했고, Microsoft가 기업으로서, 영국이 국가로서 그러한 역할을 수행하기를 바란다고 밝혔다.

🧾 핵심 주장 / 시사점

• Smith가 제시한 영국의 강점은 AISI의 안전성 시험 역량과 워싱턴의 정치적 인식이 결합된 것으로, 규제 주도 가능성을 기술적 전문성만으로 설명하지 않는다.
• AISI의 최신 모델 접근 확인은 Trump의 요청에 관한 보도와 별개의 사실이며, 정치적 반발이 곧바로 시험 중단을 의미한다고 해석해서는 안 된다.
• Smith의 제안은 출시 전 외부 평가, 침해 발생 후 통지, 통제 상실 시 킬 스위치를 포괄하지만, 기사에서 이 방안들의 도입이 확정됐다고 제시되지는 않는다.

✅ 액션 아이템

• 영국의 글로벌 AI 규제 주도 가능성을 AISI의 배포 전 모델 시험 경험과 워싱턴의 인식을 근거로 검토한다.
• 독립 감사자와의 평가 합의가 책임감이 부족한 기업의 준수까지 확보할 수 있는지 자율규제의 한계를 검토한다.
• 침해 통지 의무, 출시 전 외부 평가자 승인, 킬 스위치의 규제상 역할을 검토한다.

❓ 열린 질문

• AISI의 배포 전 모델 시험 경험과 영국에 대한 워싱턴의 인식은 글로벌 AI 규제 주도로 어떻게 이어질 수 있는가?
• ‘도덕적 구속력’이 있는 합의만으로 책임감이 부족한 기업의 준수를 확보할 수 있는가?
• 침해 통지 의무, 출시 전 외부 평가자 승인, 킬 스위치는 어떤 조건에서 적용될 것인가?