Developing Enterprise Frontier Safeguards with our customers

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Anthropic의 Enterprise Frontier Safeguards(EFS)는 활동 데이터를 고객 통제 클라우드에 보관하고 Anthropic의 인간 검토 없이 자동 오용 탐지를 수행함으로써, ZDR 수준의 프라이버시와 세션·계정 간 안전 감시를 결합한 기업용 보호 장치다.

📌 핵심 요약

• Anthropic은 2026년 9월 1일 EFS를 발표했으며, 올가을 후반부터 단계적으로 출시하고 준비 기간에는 자격을 갖춘 고객에게 Fable 5와 Fable 5.1의 ZDR을 제공할 예정이다.
• Claude Fable 5.1 같은 Mythos급 모델의 지능과 에이전트 역량이 높아지는 가운데, 사기·정교한 사이버 공격·기업 자격 증명 탈취처럼 여러 세션과 계정에 걸쳐 진행되는 오용을 탐지할 필요성이 제기됐다.
• Anthropic은 Fable 5부터 30일 데이터 보존을 도입했지만, 기업 데이터를 명시적 허가 없이 학습에 사용하지 않으며 이 보존 정책도 학습 목적에서 나온 것이 아니라고 밝혔다.
• EFS는 100개가 넘는 기업 및 보안·제품·컴플라이언스·제공 조직의 의견을 반영해 설계됐으며, Claude Code, Claude Enterprise, Claude Platform, Amazon Bedrock, Google의 Agent Platform, Microsoft Foundry 등에서 지원될 예정이다.
• 고객은 자체 클라우드와 암호화 키·접근 정책·감사 로그 아래 활동 데이터를 관리하고, EFS의 자동 안전 감시가 보낸 신호를 자체 인력이 검토해 실제 오용을 확인하거나 오탐을 해제하며 Anthropic 직원의 인간 검토는 요구되지 않는다.

🧩 주요 포인트

1. 여러 세션·계정에 분산되는 오용은 개별 상호작용을 분석한 뒤 즉시 폐기하는 방식으로 포착하기 어렵다 → 시간과 계정을 가로지르는 상관 분석이 프런티어 모델 보안의 핵심 요구가 됐다.
2. 고객이 데이터와 인간 검토 권한을 보유하고 Anthropic은 자동 탐지를 운영한다 → 데이터 보관, 탐지, 후속 판단을 분리해 규제 산업의 기밀성과 안전 요구를 함께 다루는 구조다.
3. 개가 넘는 기업과 주요 클라우드 사업자가 설계에 참여하고 직접 이용과 파트너 경로에 동등한 통제를 적용한다 → EFS는 특정 기업의 예외 정책이 아니라 여러 산업과 이용 경로를 포괄하는 공통 아키텍처를 지향한다.

🧠 상세 정리

1. EFS 발표와 단계적 도입

Anthropic은 2026년 9월 1일 Enterprise Frontier Safeguards(EFS)를 발표했다. EFS는 제로 데이터 보존(ZDR)이 제공하는 프라이버시와 오용을 탐지하는 최신 보호 장치를 결합한 기업용 해법으로 제시됐다. 활동 데이터는 Anthropic이 아니라 고객이 통제하는 클라우드 인프라에 저장되며, 고객이 데이터의 보관 위치와 관리권을 유지하는 것이 설계의 출발점이다. EFS는 올가을 후반부터 단계적으로 제공될 예정이어서 모든 고객에게 즉시 적용되는 형태는 아니다. 전환 기간에는 자격을 갖춘 고객에게 Fable 5와 Fable 5.1의 ZDR이 제공되며, 이 임시 조치는 EFS가 준비될 때까지 유지된다. 발표의 핵심은 안전 감시를 없애는 것이 아니라, 제공업체가 고객 데이터를 보유하지 않는 프라이버시 구조 안에서 필요한 오용 탐지를 가능하게 하는 데 있다.

2. 프런티어 모델이 제기한 보안 딜레마

Anthropic은 Claude Fable 5.1 같은 Mythos급 모델이 지능과 에이전트 역량에서 큰 향상을 보이는 동시에 오용과 자율적 오작동 가능성도 높인다고 설명했다. 최근 몇 달 동안 관찰된 오용 시도는 일반적인 사기부터 정교한 사이버 공격까지 폭넓었고, 일부 사례에서는 에이전트가 자율적으로 파괴적 행동에 관여할 가능성도 나타났다. 기업 고객의 자격 증명이 도난당하거나 부적절하게 사용되는 사례는 트래픽과 비정상 행동을 감시할 수 없으면 탐지하기 어렵다는 점도 강조됐다. 특히 정교한 공격은 하나의 요청이 아니라 여러 작업이 다수의 세션과 계정에 나뉘어 진행될 수 있다. 이에 따라 각 상호작용을 독립적으로 검사하고 데이터를 즉시 폐기하는 방식만으로는 전체 패턴을 식별하기 어렵다. EFS가 해결하려는 딜레마는 이런 장기적 패턴을 감시하면서도 기업 데이터에 대한 제공업체의 보유와 접근은 제한하는 것이다.

3. 30일 데이터 보존과 ZDR의 충돌

여러 시점과 계정에 흩어진 오용을 탐지하려면 데이터를 의미 있는 기간 동안 보관하고 서로 연관 지어 분석해야 한다는 것이 Anthropic의 설명이다. 이 필요에 따라 Anthropic은 Fable 5부터 30일 데이터 보존 정책을 도입했다. 회사는 이 정책이 기업 데이터를 학습에 사용하기 위한 것이 아니며, 명시적인 허가 없이 기업 데이터를 학습에 사용한 적이 없고 앞으로도 사용하지 않겠다고 밝혔다. 협업한 기업들은 데이터 보존이 주는 안전·보안상의 가치를 대체로 이해했지만, 규제 산업을 중심으로 보존 정책이 적용되는 모델을 실제 업무에 사용하기 어렵다는 의견을 냈다. EFS는 이러한 충돌에 대응해 활동 데이터를 고객의 환경에 두면서 자동화된 감시가 시간과 계정을 가로질러 패턴을 분석하도록 설계됐다. 즉 보존 필요성 자체를 부정하지 않고, 보존 위치와 통제 주체를 고객 쪽으로 이동해 ZDR에 준하는 프라이버시와 안전 탐지를 함께 제공하려는 접근이다.

4. 100개 이상 기업과의 공동 설계

EFS는 금융 서비스, 의료, 제조, 통신, 법률, 소매, 공공 부문 등에서 활동하는 100개가 넘는 고객과 긴밀히 협력해 개발됐다. 피드백에는 시스템을 매일 사용할 보안·제품·컴플라이언스·제공 조직이 참여했으며, Amazon Web Services, Google Cloud, Microsoft Azure도 클라우드 파트너로 함께했다. 협업 대상인 시스템 위험 분석·복원력 센터(ARC)에는 골드만삭스, 모건스탠리, 씨티, 뱅크오브아메리카, 웰스파고 등 미국 대형 은행의 최고정보보호책임자들이 포함됐다. Anthropic은 Comcast, KPMG, Mastercard, Salesforce, Visa의 관계자들과도 설계를 검토해 산업별 요구에 견딜 수 있는지 확인했다고 밝혔다. 전체 대화 범위는 포춘 100 기업의 4분의 1, 미국의 모든 글로벌 시스템적 중요 은행, 사실상 거의 모든 규제 산업에 걸쳤다. 이 공동 설계 과정에서 반복적으로 제기된 요구는 고객의 데이터 보관권, 자동 감시의 규제 적합성, 인간 검토자의 소속과 접근 권한이었다.

5. 감시 신호와 고객의 검토 권한

기업들은 내부자 위험을 관리하기 위해 오랫동안 감시 체계를 운영해 왔으며, 이제는 에이전트 활동에 대한 감시 수준도 높이기를 원했다. 다만 Anthropic의 자동 감시 시스템이 각 기업의 규제 기준을 충족하는지, 탐지 결과를 누가 열람하고 판단하는지가 주요 우려로 제시됐다. EFS에서는 고객이 데이터 검토 방식을 통제하며, 감시 시스템이 주의가 필요한 패턴을 발견하면 해당 신호가 고객에게 직접 전달된다. 이후 고객의 자체 인력이 탐지 내용을 확인하고 접근 권한과 후속 조치를 결정한다. 참여 기업의 발언도 로그가 고객 관리 환경과 고객 관리 키 아래 남고, 보호 기준을 넘을 가능성이 있는 활동이 탐지된 뒤 무엇을 할지 고객이 통제해야 한다는 요구를 반복했다. 따라서 EFS의 감시는 제공업체가 고객 정보를 임의로 열람하는 구조가 아니라, 자동 탐지 결과를 고객의 기존 보안·규제 통제 안으로 전달하는 구조에 가깝다.

6. 고객 클라우드 중심의 데이터 보관

기업이 새로운 신뢰 데이터 공급자를 추가하려면 고객에게 공급자 정보를 알리고 계약을 갱신해야 하는 등 상당한 행정·법적 작업이 발생한다. 민감도가 높은 데이터를 안전하게 보관하고 감사하기 위한 내부 요건도 새로운 외부 보관 주체를 도입하기 어렵게 만드는 요소로 지적됐다. 이에 EFS는 고객이 이미 사용 중인 클라우드 인프라에 활동 데이터를 저장하고 관리할 수 있도록 설계됐다. 고객은 자체 암호화 키, 접근 정책, 감사 로그를 적용해 데이터 환경에 대한 통제권을 유지할 수 있다. 감시에 사용되는 활동 데이터의 저장 위치로는 고객 계정의 Amazon S3, Azure Blob Storage, Google Cloud Storage가 예시로 제시됐다. 이 구조는 Anthropic이 자동 탐지를 운영하더라도 데이터의 보관 책임과 접근 통제는 고객에게 남도록 역할을 분리한다.

7. 자동 감시와 인간 검토의 역할 분리

원문은 자동 검토의 효과가 높아지고 있어도 사람이 경고 신호를 살펴보며 실제 오용을 확인하고 오탐을 해제하는 과정에는 여전히 가치가 있다고 설명한다. 그러나 규제 산업의 고객들은 그 검토자가 Anthropic 직원이 아니라 자신들의 조직에 소속된 인력이어야 한다고 요구했다. 특권이 적용되는 법률 자료, 비공개 정보, 의약품 안전성 보고서처럼 열람 자격이 엄격히 제한되는 정보가 포함될 수 있고, 고객의 기존 인력은 이미 필요한 교육과 승인을 받았기 때문이다. EFS에는 자동 안전 감시가 포함되지만 Anthropic 직원의 인간 검토는 요구되지 않는다. 자동화 시스템은 트래픽의 이동 구간을 분석해 공격용 사이버·생물학 역량을 개발하려는 시도와 도난 또는 유출된 자격 증명의 징후 등 심각한 오용 신호를 찾는다. 탐지된 신호는 고객에게 직접 전달되고, 실제 확인과 후속 판단은 고객의 자체 인력이 맡는다.

8. 참여 기업이 제시한 도입 조건

원문에 인용된 고객과 서비스 파트너의 발언은 프런티어 모델의 성능만큼 데이터 보관 위치, 키 소유권, 접근 권한, 검토 주체가 중요하다는 점에 집중됐다. 한 금융기관의 발언은 로그를 Wells 관리 환경과 Wells 관리 키 아래 두고 데이터 보관권은 자체적으로 유지하면서 Anthropic이 탐지를 운영하는 역할 분리를 핵심 조건으로 제시했다. 중요 인프라 운영 기업과 ARC 참여자들도 데이터·키의 소유 주체, 자동 검토가 볼 수 있는 범위, 사람이 정보를 열람할 수 있는 조건을 공동 설계의 주요 쟁점으로 설명했다. Snowflake와 Stripe는 고객 환경 또는 Stripe의 AWS 환경에 로그를 남기고 자체 보안 통제로 접근과 검토를 관리할 수 있다는 점을 강조했다. Rogo, Cognition, Factory와 법률·전문 서비스 분야의 참여자들은 금융 데이터, 실제 프로덕션 작업, 코드와 지식재산, 고객 기밀을 보호하면서 고성능 모델을 사용하는 조건으로 EFS를 평가했다. 이 발언들은 공통적으로 데이터 통제권을 유지해야 실험 단계를 넘어 규제·민감 업무에 모델을 적용할 수 있다는 고객 요구를 보여준다.

9. 지원 제품과 이용 경로의 일관성

EFS는 Claude Code, Claude Enterprise, Claude Platform, Amazon Bedrock, Claude Platform on AWS, Google의 Agent Platform, Microsoft Foundry에서 지원될 예정이다. Anthropic은 Claude를 직접 이용하는 경우와 클라우드 파트너를 통해 이용하는 경우에 통제 장치가 같은 방식으로 작동하도록 설계했다고 밝혔다. Amazon Web Services, Google Cloud, Microsoft Azure 고객에게도 동등한 통제가 제공되며, 감시에 사용되는 활동 데이터는 고객 자신의 클라우드에 저장되는 구조다. 이는 이용 경로가 달라져도 고객이 데이터 보관 위치와 접근 정책을 통제한다는 원칙을 유지하려는 것이다. 다만 제공된 원문에는 올가을 후반부터 단계적으로 출시한다는 일정 외에 제품별 세부 제공 순서나 고객 자격 기준이 제시되지 않았다. 탐지 정확도, 오탐 비율, 구체적인 보관 기간과 같은 운영 수치도 본문에는 공개되지 않았다.

🧾 핵심 주장 / 시사점

• EFS의 핵심은 데이터를 전혀 보관하지 않는 데 있지 않고, 데이터 보관 주체는 고객으로 두면서 자동 탐지는 Anthropic이 운영하고 인간 검토는 고객이 담당하도록 권한을 분리한 데 있다.
• 오용이 여러 세션과 계정에 분산될 수 있다는 관찰은 단일 요청 중심의 안전 검사만으로는 부족하며, 시간·계정 간 패턴을 연관 분석하는 감시가 필요하다는 점을 보여준다.
• 100개가 넘는 기업과 규제 산업의 피드백은 프런티어 모델 도입의 장애물이 모델 성능뿐 아니라 데이터 보관 위치, 키 소유권, 감사 가능성, 인간 열람 권한 같은 아키텍처 문제에도 있음을 시사한다.

✅ 액션 아이템

• EFS 단계적 도입 전 고객 통제 클라우드 저장과 자체 인력 검토 구조의 규제 요건 적합성 평가.
• Fable 5·Fable 5.1의 임시 ZDR과 Fable 5부터 적용된 30일 데이터 보존의 적용 경계 비교.
• Amazon Bedrock·Google의 Agent Platform·Microsoft Foundry에서 제공될 EFS의 동등한 통제 범위 확인.

❓ 열린 질문

• EFS는 올가을 후반의 단계적 출시에서 어떤 자격 기준과 순서로 고객에게 제공되는가?
• Fable 5와 Fable 5.1의 임시 ZDR은 EFS가 준비된 뒤 어떤 절차와 시점으로 전환되는가?
• EFS의 자동 안전 감시가 보낸 신호를 고객 자체 인력이 실제 오용과 오탐으로 구분할 구체적인 기준은 무엇인가?