🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

앤스로픽은 미국 정부의 수출통제 해제로 클로드 페이블 5와 클로드 미토스 5 접근을 복구하고, 안전장치 보강·재배포 일정·정부 및 업계 협력 방향을 설명했다.

📌 핵심 요약

• 6월 12일 미국 정부가 클로드 페이블 5와 클로드 미토스 5에 수출통제를 적용하면서, 앤스로픽은 실시간 국적 확인이 불가능하다는 이유로 두 모델의 모든 사용자 접근을 일시 중단했다.
• 6월 30일 페이블 5와 미토스 5에 대한 수출통제가 해제되었고, 7월 1일부터 페이블 5는 클로드 플랫폼, 클로드닷에이아이, 클로드 코드, 클로드 코워크에서 전 세계 사용자에게 다시 제공된다.
• 미토스 5는 6월 26일 미국 정부 승인에 따라 일부 미국 조직에 접근이 복구되었으며, 앤스로픽은 글래스윙 프로그램의 국내외 파트너로 접근을 넓히기 위해 정부와 계속 조율 중이다.
• 수출통제의 계기는 아마존 연구자들이 페이블 5의 안전장치를 우회해 소프트웨어 취약점을 식별하게 하는 방법을 발견했다는 보고였지만, 앤스로픽의 시험에서는 여러 덜 강력한 모델도 같은 취약점 식별과 단일 취약점 악용 시연을 수행할 수 있었다.
• 앤스로픽은 해당 우회 기법을 99% 이상 차단하는 개선된 안전 분류기를 학습시켰고, 동시에 업계가 인공지능 모델 탈옥의 심각도를 일관되게 평가하고 대응할 공통 기준이 필요하다고 주장했다.

🧩 주요 포인트

1. 6월 12일 미국 정부가 클로드 페이블 5와 클로드 미토스 5에 수출통제를 적용하면서, 앤스로픽은 실시간 국적 확인이 불가능하다는 이유로 두 모델의 모든 사용자 접근을 일시 중단했다.
2. 6월 30일 페이블 5와 미토스 5에 대한 수출통제가 해제되었고, 7월 1일부터 페이블 5는 클로드 플랫폼, 클로드닷에이아이, 클로드 코드, 클로드 코워크에서 전 세계 사용자에게 다시 제공된다.
3. 미토스 5는 6월 26일 미국 정부 승인에 따라 일부 미국 조직에 접근이 복구되었으며, 앤스로픽은 글래스윙 프로그램의 국내외 파트너로 접근을 넓히기 위해 정부와 계속 조율 중이다.
4. 수출통제의 계기는 아마존 연구자들이 페이블 5의 안전장치를 우회해 소프트웨어 취약점을 식별하게 하는 방법을 발견했다는 보고였지만, 앤스로픽의 시험에서는 여러 덜 강력한 모델도 같은 취약점 식별과 단일 취약점 악용 시연을 수행할 수 있었다.
5. 앤스로픽은 해당 우회 기법을 99% 이상 차단하는 개선된 안전 분류기를 학습시켰고, 동시에 업계가 인공지능 모델 탈옥의 심각도를 일관되게 평가하고 대응할 공통 기준이 필요하다고 주장했다.

🧠 상세 정리

1. 접근 중단과 재배포 발표

글은 클로드 페이블 5와 클로드 미토스 5의 접근이 복구되었다는 업데이트로 시작한다. 6월 12일 미국 정부가 두 최신 모델에 수출통제를 적용했고, 이 조치로 앤스로픽은 미국 안팎의 외국 국적자 접근을 제한해야 했다. 그러나 명령이 즉시 발효되었고 회사가 실시간으로 사용자의 국적을 신뢰성 있게 확인할 방법이 없었기 때문에, 결과적으로 두 모델에 대한 모든 사용자 접근을 중단했다. 6월 30일에는 페이블 5와 미토스 5에 대한 수출통제가 해제되었고, 글은 그에 따른 서비스 재개와 안전장치 보강 내용을 함께 설명한다.

2. 페이블 5와 미토스 5의 복구 범위

페이블 5는 7월 1일 수요일부터 전 세계 사용자에게 다시 제공된다고 안내된다. 제공 경로는 클로드 플랫폼, 클로드닷에이아이, 클로드 코드, 클로드 코워크이며, 프로·맥스·팀·일부 엔터프라이즈 요금제에서는 7월 7일까지 주간 사용 한도의 최대 50%까지 페이블 5가 포함된다. 이후에는 사용 크레딧을 통해 이용할 수 있다고 설명한다. 미토스 5는 더 제한적으로 복구되어, 6월 26일 미국 정부 승인 이후 일부 미국 조직에 먼저 접근이 재개되었다. 앤스로픽은 글래스윙 프로그램의 더 넓은 국내외 파트너에게도 접근을 확장하기 위해 정부와 계속 협력하고 있다고 밝힌다.

3. 글의 네 가지 설명 축

앤스로픽은 재배포 공지에 그치지 않고, 남은 글에서 네 가지 영역을 자세히 설명하겠다고 구조를 제시한다. 첫째는 사건의 시간표와 안전장치 업데이트로, 수출통제 지시가 나오게 된 경위와 새 안전장치로 어떻게 대응했는지를 다룬다. 둘째는 사이버보안 안전장치에 대한 일반적 접근으로, 위험한 사이버 사용을 탐지하기 위해 안전 분류기를 어떻게 활용하는지 설명한다. 셋째는 업계 공통 프레임워크로, 모델 안전장치를 우회하는 탈옥의 심각도를 일관되게 평가할 기준이 필요하다는 주장이다. 넷째는 출시 전 시험, 정보 공유, 연구 협력 등 미국 정부와의 더 깊은 협력이다.

4. 수출통제의 계기와 아마존 보고서

6월 12일의 수출통제 지시는 아마존 연구자들이 페이블 5의 안전장치를 우회하는 방법을 발견했다는 보고가 정부에 알려진 뒤 내려졌다. 보고서에서 연구자들은 특정 방식으로 모델을 유도해 여러 소프트웨어 취약점을 식별하게 했고, 한 사례에서는 해당 취약점을 악용할 수 있음을 보여주는 코드를 생성하게 했다고 설명된다. 앤스로픽은 이후 2주 동안 정부 및 아마존을 포함한 파트너들과 긴밀히 협력하며 보고서와 증거를 검토했다. 이 대목에서 글은 문제를 단순한 접근 재개 이슈가 아니라, 강력한 모델의 사이버보안 능력과 안전장치 우회 가능성을 어떻게 평가할 것인지의 문제로 확장한다.

5. 다른 모델과 비교한 위험성 평가

앤스로픽의 시험에 따르면, 보고서에서 페이블 5가 식별한 것과 같은 취약점은 클로드 오퍼스 4.8, 지피티 5.5, 키미 K2.7 등 더 낮은 능력의 모델들도 식별할 수 있었다. 단일 취약점을 악용하는 시연에 대해서도 회사가 시험한 모든 모델이 페이블 5와 같은 시연을 생성할 수 있었다고 밝힌다. 따라서 보고된 기법은 미토스 수준의 고유한 사이버 능력을 노출한 것이 아니라고 회사는 평가한다. 앤스로픽은 이를 페이블 5 안전장치의 경계선 사례로 설명하며, 실제로는 일상적인 방어적 사이버보안 작업에 가까웠지만 신중한 차단 정책 때문에 원래는 막히는 영역이었다고 말한다.

6. 새 안전 분류기와 차단 방식

앤스로픽은 보고된 우회 방식에 대응하기 위해 정부와 긴밀히 협력하면서 개선된 안전 분류기를 학습시켰다. 이 분류기는 보고서에 설명된 행동을 목표로 삼아 차단하도록 설계되었으며, 사용자의 페이블 5 요청이 차단되면 사용자에게 알림이 가고 요청은 대신 오퍼스 4.8로 전달된다. 회사는 새 분류기가 아마존 보고서에 나온 특정 기법을 99% 이상 차단한다고 설명한다. 다만 극히 일부 경우에는 사이버 공격자에게 도움이 될 만큼 상세하지 않은 정보가 제공될 수 있으며, 안전장치는 모든 저위험 방어 역량을 막는 것이 아니라 잠재적으로 해로운 행동을 막는 데 초점을 둔다고 덧붙인다.

7. 안전 분류기의 원리와 안전 여유

글은 페이블 5가 미토스 5와 달리 고유한 공격적 사이버 능력을 제공하지 않는다고 강조하며, 그 이유로 출시 때 적용한 강한 안전장치를 든다. 앤스로픽은 출시 전 한 달 동안 여러 팀의 인력을 옮겨 이 문제를 다루는 연구자와 엔지니어 수를 두 배로 늘렸다고 설명한다. 페이블 5에는 위험한 요청을 거절하도록 모델을 학습시키는 방식과 오용 패턴을 사후 분석하는 방식 등 여러 방어층이 결합되어 있다. 특히 작은 자동화 인공지능 시스템인 분류기가 대화 중 잠재적으로 해로운 사이버보안 요청이나 출력을 감지해 응답을 막는 역할을 한다. 회사는 위험한 요청을 놓치지 않기 위해 일부 선의의 요청도 차단되는 넓은 안전 여유를 의도적으로 설정했다고 밝힌다.

8. 탈옥의 유형과 업계 공통 기준 필요성

앤스로픽은 어떤 인공지능 모델도 탈옥에 완전히 견고하게 만드는 것은 아마도 불가능하다고 전제한다. 다만 탈옥에도 심각도 차이가 있으며, 일부는 안전 여유 안의 사소한 행동만 열어주는 경미한 탈옥이고, 일부는 특정 해로운 행동을 열어주는 좁은 유해 탈옥이며, 가장 우려되는 것은 광범위한 해로운 행동을 여는 보편 탈옥이라고 설명한다. 회사는 지금까지 보고된 페이블 5 탈옥은 경미한 범주에 속한다고 본다. 동시에 업계에는 탈옥의 심각도를 객관적으로 설명하는 합의된 기준이 없고, 이로 인해 개발자와 정부가 새 기법을 발견했을 때 무엇을 얼마나 긴급하게 다뤄야 하는지 불확실성이 커진다고 지적한다. 그래서 앤스로픽은 아마존, 마이크로소프트, 구글 및 다른 글래스윙 파트너들과 함께 공통 프레임워크 개발을 시작했다고 밝힌다.

🧾 핵심 주장 / 시사점

• 이 글의 핵심은 단순한 모델 재개 공지가 아니라, 고성능 모델 출시에서 정부 규제·안전장치·사용자 접근성이 동시에 충돌할 때 기업이 어떤 기준으로 대응해야 하는지를 보여주는 사례라는 점이다.
• 앤스로픽은 보고된 우회가 고유한 미토스급 위험을 드러낸 것은 아니라고 주장하지만, 그럼에도 즉각적인 분류기 개선과 정부 협력을 강조함으로써 신뢰 회복을 중요한 목표로 삼고 있다.
• 탈옥을 하나의 단일 위험으로 보지 않고 경미한 탈옥, 좁은 유해 탈옥, 보편 탈옥으로 나누려는 접근은 향후 모델 안전 논의가 더 정량적이고 우선순위 중심으로 바뀔 필요가 있음을 시사한다.

✅ 액션 아이템

• 6월 12일 수출통제에서 드러난 실시간 국적 확인 한계를 반영해 접근 차단·복구 조건을 구간별 기준으로 정리하고 다음 조치에 즉시 적용한다.
• 7월 1일 재개된 페이블 5의 채널별 제공 범위(클로드 플랫폼, 클로드닷에이아이, 클로드 코드, 클로드 코워크)를 실제 노출 현황과 대조해 범위 누락을 제거한다.
• 미토스 5의 미국 조직 제한 복구와 글래스윙 협의 병행 상황을 반영해 접근 정책의 국내외 적용 범위를 분리 점검하고 일관성 여부를 확인한다.

❓ 열린 질문

• 실시간 국적 확인이 곤란한 상황에서 사용자 접근 제어를 강화하려면 어떤 대체 승인 절차가 실효성이 있는가?
• 약한 모델에서도 동일 취약점 악용이 가능한데, 업계 공통 기준을 만들기 위한 위험 등급과 임계값은 어떤 방식으로 잡아야 하는가?
• 안전 분류기가 99% 이상 차단 성능을 보일 때, 잔여 1% 취약 구간을 운영에서 허용할지 제한할지 판단할 객관 기준은 무엇인가?