🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

다리오 아모데이는 위험 역량이 없는 오픈웨이트 모델을 공공재로 평가하며 금지에 반대했지만, 권위주의 정부의 군사적 우위와 생물학적 공격에 악용될 수 있는 고성능 모델은 국제적 통제가 필요하다고 주장했다.

📌 핵심 요약

• 앤스로픽 창업자 겸 최고경영자 다리오 아모데이는 자사가 중국산 또는 일반 오픈웨이트 모델의 금지를 지지한다는 업계의 관측을 부인했다.
• 아모데이는 위험한 역량이 없는 오픈웨이트 모델은 실행에 필요한 연산 비용 외에는 별도 비용 없이 기업·개발자·연구자에게 가치를 제공하는 공공재라고 평가했다.
• 그가 우려하는 핵심은 중국을 비롯한 권위주의 정부가 미국보다 강력한 인공지능을 확보해 군사적 우위를 굳히거나 자국민을 억압하는 상황이다.
• 아모데이는 고성능 오픈웨이트 모델이 사이버 공격뿐 아니라 생물학적 공격에도 악용될 수 있고, 공개 후에는 안전장치 적용과 사용 감시 및 회수가 어렵다고 지적했다.
• 대응책으로 중국의 고성능 반도체 접근 제한, 모델 증류를 통한 지식재산 침해 단속, 국가와 공개 여부를 가리지 않는 세계적 안전성 시험 체계를 제안했다.

🧩 주요 포인트

1. 오픈웨이트 자체와 위험 역량을 구분해야 한다는 입장으로, 광범위한 금지보다 모델의 실제 능력을 기준으로 규제 범위를 정해야 한다는 의미다.
2. 중국 기업의 모델 이용보다 권위주의 정부의 최첨단 모델 확보를 더 큰 위협으로 규정해, 논쟁의 초점을 공개 방식에서 군사·억압·생물학적 악용 가능성으로 옮겼다.
3. 반도체와 증류를 제한하면서도 세계 공통 시험에는 중국의 참여까지 요구해, 경쟁 억제와 제한적 국제 안전 협력을 함께 추진해야 한다는 구도를 제시했다.

🧠 상세 정리

1. 오픈웨이트 금지 지지설에 대한 부인

앤스로픽 창업자 겸 최고경영자 다리오 아모데이는 회사가 미국 정부의 중국산 오픈웨이트 모델 금지, 나아가 오픈웨이트 모델 전반의 금지를 지지한다는 업계의 관측에 직접 답했다. 그는 자신의 과거 글을 읽었다면 그러한 금지를 유용한 조치로 보지 않는다는 사실을 알 것이라며, 앤스로픽은 오픈웨이트 모델 금지를 주장한 적이 없다고 명확히 밝혔다. 이 발언은 단순한 표현 수정이 아니라 회사의 정책적 입장을 둘러싼 의혹을 공개적으로 부인한 것이다. 아모데이는 오픈웨이트라는 배포 방식 자체와 중국의 인공지능 역량 확대에서 비롯되는 안보 위협을 서로 다른 문제로 구분해야 한다고 강조했다.

2. 업계 공개서한과 중국 관련 논쟁의 배경

아모데이의 대응에 앞서 엔비디아 창업자 겸 최고경영자 젠슨 황은 엔비디아, 허깅페이스, 메타, 마이크로소프트, 미스트랄 등 여러 인공지능 기업이 참여한 공개서한을 엑스에 공유했다. 이 서한은 정책 입안자들에게 오픈웨이트 인공지능 모델을 대상으로 광범위하고 성급한 제한을 도입하지 말라고 촉구했으며, 중국을 직접 언급하지는 않았다. 그러나 업계의 실제 논쟁은 중국 인공지능 연구소들이 미국 기업의 지식재산을 침해해 역량을 높이고 있다는 의혹과 연결돼 있었다. 기사에서 제시된 대표적 방법은 한 모델에 대량의 질의를 보내 작동 방식을 학습하는 증류이며, 이 문제가 오픈웨이트 규제 논쟁과 중국 견제 논의를 뒤섞는 배경이 됐다.

3. 위험하지 않은 오픈웨이트 모델의 공익성

아모데이는 위험한 역량을 갖지 않은 오픈웨이트 모델을 기업·개발자·연구자에게 실질적인 가치를 제공하는 공공재로 평가했다. 이러한 모델은 가중치를 이용하는 데 별도의 사용료가 들지 않고, 실행에 필요한 연산 자원만 부담하면 된다는 점에서 접근성과 활용 가치가 있다는 설명이다. 그는 중국산 모델을 포함해 기업이 오픈웨이트 모델을 이용하는 행위 자체를 자신의 오랜 인공지능 우려에 포함하지 않았다. 따라서 그의 입장은 모델의 공개 여부나 개발 국가만으로 위험성을 일괄 판단하는 것이 아니라, 해당 모델이 실제로 위험한 능력을 지녔는지를 기준으로 구분해야 한다는 데 초점이 있다.

4. 권위주의 정부와 고성능 모델에 대한 우려

아모데이가 가장 우려하는 상황은 권위주의 정부가 미국보다 더 강력한 인공지능 모델을 개발해 영구적인 군사적 우위를 확보하거나 자국민을 억압하는 데 활용하는 것이다. 그는 중국 공산당만을 유일한 대상으로 지목하지는 않았지만, 권위주의 정부 가운데 가장 높은 역량을 보유한 주체로 평가했다. 또한 인공지능이 사이버 공격을 넘어 생물학적 공격을 가능하게 할 위험도 제기했다. 그의 관점에서 위험 역량을 지닌 오픈웨이트 모델은 사용 과정에 안전장치를 적용하거나 이용자를 감시하기 어렵기 때문에 이러한 상황에서 더 큰 위험이 될 수 있다. 이는 일반적인 오픈웨이트 활용과 최첨단 위험 모델의 무제한 공개를 별도로 다뤄야 한다는 주장의 근거다.

5. 공개 후 회수 불가능성과 오픈소스 진영의 반론

아모데이는 영국 인공지능 보안연구소의 보고서를 인용해 오픈웨이트가 한 번 공개되면 다시 회수할 수 없다는 점을 강조했다. 폐쇄형 모델은 운영 주체가 접근을 제한하거나 안전장치를 변경할 수 있지만, 공개된 가중치는 복제와 재배포를 통제하기 어렵다는 문제의식이다. 그러나 이러한 판단은 강력한 공개 모델에 대한 폭넓은 접근이 특정 기업이나 기관의 통제에 의존하지 않는 방어 역량을 제공한다고 주장하는 오픈소스 옹호자들의 견해와 충돌한다. 기사에서는 공격 악용과 방어 활용 가운데 어느 쪽이 더 큰지를 결론짓기보다, 아모데이의 비가역성 우려와 공개 모델 지지자들의 분산된 방어 논리가 맞서고 있음을 보여준다.

6. 반도체·증류 제한과 세계적 안전성 시험

아모데이는 중국의 역량 확대를 억제하기 위한 조치로 고성능 반도체에 대한 접근 제한을 제시했으며, 이는 이미 미국이 장기간 추진해 온 정책과 맞닿아 있다. 또한 미국 모델의 지식재산을 침해할 수 있는 증류 행위를 공식적으로 단속해야 한다고 주장했고, 미국 정부는 관련 침해가 확인될 경우 중국에 제재를 가할 수 있다고 경고한 바 있다. 동시에 그는 미국 등이 추진하는 모델 안전성 시험 기구를 지지하며, 가장 강력한 모델을 개발 국가나 공개·폐쇄 여부와 관계없이 시험하는 체계를 긍정적으로 평가했다. 다만 신생기업과 학계의 상대적으로 낮은 역량 모델은 시험 대상에서 완전히 제외할 수 있다고 설명했다. 그는 이 체계가 효과를 내려면 중국 공산당까지 참여하는 세계적 합의가 필요하며, 인공지능 생물무기 방지는 중국의 이익에도 부합하므로 제한적 협력이 가능할 수 있다고 밝혔다.

🧾 핵심 주장 / 시사점

• 아모데이의 주장은 오픈웨이트 모델을 일괄적으로 위험하다고 보는 입장이 아니라, 위험 역량의 유무와 공개 후 통제 가능성을 기준으로 차등 대응하자는 입장이다.
• 논쟁의 핵심은 공개 모델의 접근성이 제공하는 공익과 방어 가치, 그리고 복제·재배포 이후 악용을 차단하기 어렵다는 비가역적 위험 사이의 충돌이다.
• 제안된 정책은 고성능 반도체와 불법적 증류에는 제한을 가하되, 최첨단 모델의 안전성 시험은 국적과 공개 방식에 관계없이 적용하고 중국도 참여시키려는 이중 접근이다.

✅ 액션 아이템

• 오픈웨이트 금지 논의를 공개 여부 대신 위험 역량·실제 능력 기준으로 재분류해 규제 범위를 정의한다.
• 고성능 모델의 군사 우위·억압·생물학적 악용 가능성을 우선 위협으로 두고 대응 우선순위를 정한다.
• 반도체 접근 제한·모델 증류 단속과 국가·공개 여부를 가리지 않는 세계 안전성 시험의 병행 조건을 비교한다.

❓ 열린 질문

• 위험 역량이 없는 오픈웨이트와 국제 통제 대상 고성능 모델을 가르는 능력 기준은 무엇인가?
• 권위주의 정부의 최첨단 모델 확보를 중국 기업의 모델 이용보다 더 큰 위협으로 볼 판단 근거는 무엇인가?
• 반도체·증류 제한과 중국 참여형 세계 안전성 시험을 동시에 추진할 때 협력 범위는 어디까지 가능한가?