🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

앤트로픽은 미국 정부의 국가안보 관련 수출통제 지시에 따라 Claude Fable 5와 Mythos 5의 접근을 중단한다고 밝혔다.

📌 핵심 요약

• 앤트로픽은 이번 주 공개한 Claude Fable 5와 Mythos 5를 미국 정부의 수출통제 지시에 맞추기 위해 비활성화한다고 밝혔다.
• 정부 지시는 외국 국적자에게 접근을 중단하라는 취지였지만, 앤트로픽은 준수 위험을 피하기 위해 모든 고객의 접근을 제거했다.
• 이번 사건은 미 국방부가 앞서 앤트로픽을 공급망 위험으로 지정하고, 앤트로픽이 트럼프 행정부를 상대로 소송을 제기한 갈등의 연장선에 있다.
• 앤트로픽은 정부가 Fable 5의 좁은 범위 탈옥 가능성을 문제 삼은 것으로 이해하지만, 해당 시연이 알려진 소수의 경미한 취약점 식별에 그쳤다고 주장했다.
• 앤트로픽은 안전하지 않은 AI 모델의 출시를 막는 공정하고 투명한 절차에는 찬성하지만, 이번 조치가 그런 원칙에 부합하지 않는다고 비판했다.

🧩 주요 포인트

1. 앤트로픽은 이번 주 공개한 Claude Fable 5와 Mythos 5를 미국 정부의 수출통제 지시에 맞추기 위해 비활성화한다고 밝혔다.
2. 정부 지시는 외국 국적자에게 접근을 중단하라는 취지였지만, 앤트로픽은 준수 위험을 피하기 위해 모든 고객의 접근을 제거했다.
3. 이번 사건은 미 국방부가 앞서 앤트로픽을 공급망 위험으로 지정하고, 앤트로픽이 트럼프 행정부를 상대로 소송을 제기한 갈등의 연장선에 있다.
4. 앤트로픽은 정부가 Fable 5의 좁은 범위 탈옥 가능성을 문제 삼은 것으로 이해하지만, 해당 시연이 알려진 소수의 경미한 취약점 식별에 그쳤다고 주장했다.
5. 앤트로픽은 안전하지 않은 AI 모델의 출시를 막는 공정하고 투명한 절차에는 찬성하지만, 이번 조치가 그런 원칙에 부합하지 않는다고 비판했다.

🧠 상세 정리

1. 미국 정부 지시에 따른 모델 비활성화

WIRED 기사에 따르면 앤트로픽은 금요일 오후 미국 정부로부터 국가안보 우려를 근거로 한 수출통제 지시를 받았고, 이에 따라 Claude Fable 5와 Mythos 5를 비활성화한다고 밝혔다. 두 모델은 같은 주 초에 출시된 모델로, 회사는 정부 명령을 준수하기 위한 조치라고 설명했다. 지시는 미국 안팎에 있는 외국 국적자, 그리고 외국 국적의 앤트로픽 직원에게도 접근을 중단하라는 내용을 포함한 것으로 전해졌다. 다만 앤트로픽은 준수 여부를 확실히 하기 위해 특정 대상만이 아니라 모든 고객의 접근을 제거했다.

2. 트럼프 행정부와 앤트로픽의 기존 갈등

이번 비활성화 조치는 앤트로픽과 트럼프 행정부 사이의 갈등이 다시 부각된 사건으로 제시된다. 기사에 따르면 올해 초 트럼프 행정부의 국방부는 앤트로픽을 공급망 위험으로 지정했는데, 이는 앤트로픽이 미국 군대가 자사 기술을 어떻게 사용할 수 있는지에 대해 선을 긋고자 한 뒤 나온 조치였다. 해당 지정은 정부 기관과 계약업체가 앤트로픽 기술을 사용하는 것을 사실상 막는 효과를 냈다. 앤트로픽은 이에 대응해 트럼프 행정부를 상대로 소송을 제기했다.

3. Claude Fable 5와 Mythos 모델의 출시 배경

앤트로픽은 화요일 Claude Fable 5를 공개했으며, 이는 회사의 Mythos AI 모델을 기반으로 하되 사이버보안, 생물학, 화학 관련 질문에 답하지 못하도록 안전장치를 넣은 버전이라고 설명된다. 공개 출시 전에는 Mythos Preview AI 모델이 4월에 제한적으로 배포됐다. 그 목적은 기업과 기관이 강력한 사이버보안 기능을 방어 역량 개선에 활용할 기회를 제공하는 것이었다. 동시에 이 기술이 악의적 행위자에게 강력한 해킹 도구 개발 수단으로 악용될 수 있다는 우려를 줄이려는 의도도 있었다.

4. 정부가 제기한 탈옥 가능성과 앤트로픽의 반박

앤트로픽은 금요일 블로그 글에서 오후 5시 21분 동부시간에 미국 정부의 서한을 받았다고 밝혔다. 회사에 따르면 그 서한은 구체적인 국가안보 우려의 세부 내용을 제공하지 않았다. 앤트로픽은 정부가 Fable 5를 우회하거나 탈옥시키는 방법을 알게 됐다고 보는 것으로 이해한다고 설명했다. 그러나 회사가 검토한 시연은 이미 알려진 소수의 경미한 취약점을 찾아내는 방식이었고, 그 취약점들은 비교적 단순해 보이며 다른 공개 모델들도 우회 없이 발견할 수 있다고 주장했다.

5. 안전장치와 위험 수준에 대한 앤트로픽의 입장

앤트로픽은 Claude Fable 5의 오용 가능성을 낮추기 위해 강한 안전장치를 구현했다고 주장했다. 회사는 정부가 발견한 것으로 보이는 탈옥 방식이 좁고 보편적이지 않으며, 공격자를 다른 AI 모델을 사용할 때보다 의미 있게 더 위험하게 만들지는 않는다고 평가했다. 블로그 글에 따르면 정부가 현재까지 제공한 것은 잠재적인 좁은 범위의 비보편적 탈옥에 대한 구두 증거뿐이었다. 그 방식은 특정 코드베이스를 읽고 소프트웨어 결함을 고치도록 모델에 요청하는 형태로 설명됐다.

6. 절차적 투명성 논쟁과 미확인 정부 입장

기사 말미에서 앤트로픽 CEO 다리오 아모데이는 같은 주 초 정책 에세이에서 안전하지 않은 AI 모델의 출시를 막는 공정하고 구조화되며 투명한 정부 절차를 지지한다고 밝혔다. 하지만 앤트로픽은 금요일 블로그 글에서 이번 조치가 그런 원칙에 부합하지 않는다고 주장했다. 이는 회사가 정부의 AI 안전 개입 자체를 모두 반대한다기보다, 구체적 근거와 절차의 투명성을 문제 삼고 있음을 보여준다. WIRED는 백악관과 미국 상무부에 논평을 요청했지만, 기사 작성 시점에 즉각적인 답변은 없었다.

🧾 핵심 주장 / 시사점

• 이번 사건의 핵심은 AI 모델 안전성 자체뿐 아니라, 정부가 어떤 절차와 근거로 모델 접근을 제한할 수 있는지에 대한 통제 방식의 문제다.
• 앤트로픽이 외국 국적자 제한을 넘어 모든 고객 접근을 차단한 점은 수출통제 지시가 실제 서비스 운영에서 훨씬 넓은 영향으로 번질 수 있음을 보여준다.
• 정부가 문제 삼은 탈옥의 위험성과 앤트로픽이 평가한 위험 수준이 크게 엇갈리면서, AI 안전 규제에서 기술적 증거의 공개성과 검증 기준이 중요한 쟁점으로 떠올랐다.

✅ 액션 아이템

• 정부 지시의 외국 국적자 제한 조건과 실제 전면 차단 조치의 범위를 비교해 규제 리스크 대응 근거를 정리한다.
• 공급망 위험 지정과 소송이라는 과거 맥락을 반영해 향후 유사 조치 발생 시 대외 메시지 원칙을 사전에 정의한다.
• Fable 5 탈옥 시연의 범위를 정부 우려와 대조해 조치의 정당성 판단 지점을 공개 커뮤니케이션 안으로 압축 정리한다.

❓ 열린 질문

• 정부 요청이 외국 국적자 제한인 상황에서 전면 차단 판단을 정당화할 수 있는 임계선은 어디인가?
• 공급망 위험 지정과 행정부 소송 이력만으로 이번 조치 정당성을 충분히 설명할 수 있는가, 아니면 추가 자료가 필요한가?
• 안전하지 않은 모델 출시 방지 원칙을 강조하던 입장과 실제 조치 반응 사이의 기준 불일치는 이해관계자에게 어떻게 설명할 것인가?