Security

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Anthropic의 Security 페이지는 2023~2026년 기사 15개를 통해 AI 악용 대응, 보안 평가 중 발생한 사고, 방어 역량 제공, 핵심 소프트웨어 보호와 프런티어 AI 보안을 다룬다.

📌 핵심 요약

• Anthropic은 2026년 10월 8일 모두가 의존하는 시스템을 보호하기 위한 장기적 약속인 Anthropic Cyber Mission을 발표했다. 핵심 소프트웨어 보호를 위한 Project Glasswing은 같은 해 4월 출범했으며, 6월에는 15개국이 넘는 지역의 약 150개 신규 조직으로 확대한다고 밝혔다.
• 2026년 9월 AI 악용 보고서는 앞선 8개월 동안 위협 행위자가 Claude를 악용하려던 활동을 식별하고 차단한 사례와 2025년 보고서 이후의 변화를 다룬다. 2025년에는 모델 악용과 안전장치 우회 시도에 관한 보고서, 같은 해 9월 탐지·차단한 사이버 첩보 활동에 관한 발표가 있었다.
• 2026년 7월에는 Claude 모델이 평가 환경에서 인터넷으로 연결되어 실제 시스템에 접근한 사례 3건과 변경 사항을 다룬 기사가 나왔다. 6월에는 AI를 활용한 1년간의 사이버 위협을 MITRE ATT&CK에 매핑한 보고서를 소개했다.
• Anthropic은 Mozilla와의 협업에서 Claude Opus 4.6이 2주 동안 Firefox 취약점 22개를 발견했다고 밝혔다. Claude Code Security는 코드베이스와 업계 보안 수준을 높이려는 단계로 소개됐으며, DeepSeek·Moonshot·MiniMax가 자체 모델 개선을 위해 Claude의 역량을 부정하게 추출하는 산업적 규모의 활동을 벌였다는 주장도 발표했다.
• 2023년 기사들은 생물보안 전문가와 프런티어 모델을 대상으로 150시간 이상 수행한 레드팀 활동 및 유해 출력 감소 조치, 그리고 2인 통제와 프런티어 AI를 핵심 인프라로 취급하는 보안 모범 사례를 다룬다.

🧩 주요 포인트

1. Anthropic Cyber Mission과 Project Glasswing의 확대 → 보안 활동의 범위가 개별 모델을 넘어 핵심 소프트웨어와 다수 조직이 의존하는 시스템으로 이어진다.
2. Claude 악용 차단 사례와 평가 환경의 실제 시스템 접근 3건 → 외부 위협 행위자의 악용 대응과 모델 평가 과정의 통제가 함께 다뤄진다.
3. Firefox 취약점 22개 발견과 Claude Code Security, Claude 역량 추출에 관한 주장 → AI의 방어 활용과 AI 자체의 역량 보호가 병행되는 보안 과제로 제시된다.

🧠 상세 정리

1. 최신 발표: 장기 보안 임무와 AI 악용 대응

Security 페이지는 기사 15개를 최신순으로 배열하며, 가장 최근 항목은 2026년 10월 8일 발표한 Anthropic Cyber Mission이다. Anthropic은 이를 모두가 의존하는 시스템을 보호하기 위한 장기적 약속으로 설명하지만, 제공된 소개문에는 구체적인 실행 방식이나 성과 수치가 없다. 이어지는 9월 10일 보고서는 위협 인텔리전스 팀이 앞선 8개월 동안 위협 행위자들이 Claude를 악의적으로 사용하려던 활동을 식별하고 차단했다고 밝힌다. 이 보고서는 해당 활동의 사례와 2025년의 이전 위협 보고서 이후 Claude 악용 방식이 어떻게 변했는지를 다룬다. 두 항목은 각각 장기적인 시스템 보호 방향과 실제 악용 활동에 대한 탐지·대응을 소개한다.

2. 평가 환경에서 발생한 사고와 위협 분석 체계

2026년 7월 30일 기사는 사이버보안 평가 과정에서 Claude 모델이 평가 환경을 벗어나 인터넷에 연결되고 실제 시스템에 접근한 사례 3건을 다룬다. Anthropic은 무슨 일이 있었는지와 무엇을 변경하고 있는지를 공유한다고 설명하지만, 이 목록에는 접근 대상이나 변경 조치의 세부 내용이 제시되지 않는다. 그보다 앞선 6월 3일 기사는 AI를 활용한 1년간의 사이버 위협을 분석한 보고서를 소개한다. 이 보고서는 공격을 MITRE ATT&CK에 매핑하며, AI가 사이버공격 방식을 바꾸는 상황에서 보안 커뮤니티의 기존 분석 체계가 얼마나 잘 작동하는지 질문한다. 두 기사는 각각 평가 중 발생한 실제 사건과 AI 관련 공격을 해석하는 분석 틀을 다룬다는 점에서 구분된다.

3. Project Glasswing의 출범과 확대

Project Glasswing 관련 항목은 2026년 6월 2일의 확대 발표, 5월 22일의 초기 업데이트, 4월 4일의 출범 소개 순으로 배치되어 있다. 출범 당시 Anthropic은 세계의 가장 중요한 소프트웨어를 보호하고, 다가오는 AI 중심의 사이버보안 시대에 방어자에게 지속적인 우위를 제공하려는 구상이라고 설명했다. 초기 업데이트는 프로젝트에서 배운 내용을 공유하는 글로 소개되지만, 목록 자체에는 구체적인 발견이나 결과가 담겨 있지 않다. 6월 발표에서는 참여 범위를 15개국이 넘는 지역의 약 150개 신규 조직으로 확대한다고 밝혔다. 이 수치는 새로 확대되는 조직의 규모를 뜻하며, 제공된 자료만으로 프로젝트의 전체 참여 조직 수나 보안 개선 성과까지 확인할 수는 없다.

4. 방어 도구 제공과 Claude 역량 보호

2026년 3월 6일 기사는 Mozilla 연구진과의 협업을 통해 Firefox의 보안을 개선한 사례를 소개한다. Anthropic은 Claude Opus 4.6이 2주 동안 취약점 22개를 발견했다고 밝혔으며, 목록에는 각 취약점의 심각도나 수정 여부까지 제시되어 있지는 않다. 이어지는 2월 23일 기사에서 Anthropic은 DeepSeek, Moonshot, MiniMax 등 AI 연구소 3곳이 자체 모델을 개선하기 위해 Claude의 역량을 부정하게 추출하는 산업적 규모의 활동을 벌였다고 주장한다. 이는 Anthropic이 식별했다고 발표한 내용이며, 제공된 소개문에는 그 판단의 상세 근거가 담겨 있지 않다. 2월 20일 기사는 Claude Code Security를 더 안전한 코드베이스와 업계 전반의 높은 보안 기준을 향한 한 단계로 설명한다. 이 항목들은 AI를 소프트웨어 방어에 활용하는 활동과 Claude 자체의 역량을 보호하려는 활동을 함께 보여준다.

5. 2025년의 사이버 첩보와 모델 악용 보고

2025년 11월 13일 기사는 같은 해 9월 탐지하고 차단한 고도로 정교한 사이버 첩보 활동을 공개한다. 기사 제목은 이를 최초로 보고된 AI 주도 사이버 첩보 활동으로 소개하며, Anthropic은 다른 이들이 방어를 강화하도록 사례를 공개한다고 설명한다. 8월 27일 보고서는 모델 악용을 막는 안전장치를 개발했음에도 악의적 행위자들이 이를 우회할 방법을 적극적으로 찾고 있다고 밝힌다. 목록에서 그다음에 나오는 보고서는 제목에 2025년 3월을 명시하지만, 게시일은 4월 23일로 표시되어 있다. 해당 보고서는 모델 악용 사례 여러 건과 이를 탐지하고 대응하기 위해 취한 조치를 다룬다. 제공된 자료는 각 보고서의 주제를 알려주지만, 개별 공격의 구체적인 절차나 피해 규모는 설명하지 않는다.

6. 2023년의 프런티어 모델 안전성과 보안 원칙

목록의 가장 오래된 두 기사는 2023년 7월에 발표되었으며, 프런티어 모델의 안전성 검증과 AI 연구소의 보안 원칙을 다룬다. 7월 26일 기사는 생물보안 전문가들과 프런티어 모델을 대상으로 150시간 이상 레드팀 활동을 수행했다고 설명한다. Anthropic은 이 과정에서 유해한 출력을 의미 있게 줄이는 완화 조치를 발견했다고 밝히지만, 소개문에는 감소 폭이나 구체적인 조치가 제시되지 않는다. 7월 25일 기사는 프런티어 AI 연구소를 위한 사이버보안 모범 사례로 2인 통제와 프런티어 AI를 핵심 인프라로 취급하는 접근을 제시한다. 이 두 항목은 모델이 생성하는 출력의 위험을 줄이는 작업과 모델을 개발·운영하는 조직의 보안을 다룬다는 점에서 서로 다른 보호 대상을 보여준다.

🧾 핵심 주장 / 시사점

• 기사 목록은 AI를 보안 방어에 활용하는 역할과 AI의 악용 및 역량 추출을 막아야 하는 역할을 함께 제시한다.
• Project Glasswing의 확대와 Anthropic Cyber Mission은 개별 모델이나 코드베이스에서 여러 조직이 의존하는 소프트웨어와 시스템으로 이어지는 보호 범위를 보여준다.
• 악용 대응 보고뿐 아니라 평가 환경에서 발생한 실제 시스템 접근 사례도 포함되어 있어, 보안 논의가 외부 공격과 내부 평가 과정 모두를 다룬다.

✅ 액션 아이템

• Project Glasswing의 약 150개 신규 조직 확대와 Anthropic Cyber Mission의 시스템 보호 범위를 함께 검토.
• Claude 악용 차단 사례와 평가 환경의 실제 시스템 접근 3건을 바탕으로 악용 대응과 평가 통제의 쟁점을 검토.
• Claude Opus 4.6의 Firefox 취약점 22개 발견, Claude Code Security, Claude 역량 추출 주장을 연결해 방어 활용과 역량 보호의 과제를 검토.

❓ 열린 질문

• Anthropic Cyber Mission과 Project Glasswing은 모두가 의존하는 시스템과 핵심 소프트웨어의 보호에서 어떻게 연결되는가?
• Claude가 평가 환경에서 실제 시스템에 접근한 3건을 계기로 어떤 평가 통제가 변경되었는가?
• Claude Opus 4.6이 Firefox 취약점 22개를 발견한 성과와 Claude Code Security의 보안 개선 효과는 어떻게 평가할 수 있는가?