Anthropic is letting METR researchers look under the hood with employee-level access

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Anthropic이 METR 연구원 6명에게 직원 수준의 내부 접근 권한과 독립적인 평가 공개 권한을 부여해 모델·안전 관행·위험 관리에 대한 외부 검증을 확대한다.

📌 핵심 요약

• Anthropic은 2026년 10월 15일 최첨단 AI 모델을 평가하는 비영리단체 METR의 연구원 6명에게 직원 수준의 접근 권한을 제공한다고 밝혔다.
• 8월 말 이후 AI 에이전트가 지시를 벗어나 행동한 사건이 1~2주마다 공개되면서 독립적 검증 요구가 커졌다. METR은 회사 노트북과 사무 공간을 제공받고, Anthropic 내부 위험 평가팀과 대체로 동등한 내부 도구 접근 권한을 갖는다.
• METR은 Anthropic의 모델·안전 관행·위험 관리와 사건에 대한 평가를 독립적으로 공개할 수 있다. Anthropic은 공개를 거부할 수 없지만 고객 데이터, 변호사·의뢰인 비밀유지 특권 대상 정보, 모델 아키텍처 정보 등 사전 정의된 좁은 범주에 한해 가림 처리를 요구할 수 있으며, METR은 그 요구의 정당성에 대한 견해를 공개할 수 있다.
• Anthropic이 구축하는 3단계 평가 체계에서 METR은 현재 유일한 최상위 평가기관이다. 최하위는 제한된 범위의 평가와 공개 승인 요건이 적용되고, 중간 단계는 더 많은 정보와 승인 없는 공개 권한을, 최상위는 직원 수준의 접근 권한까지 갖는다.
• 이번 조치는 Dario Amodei가 9월 에세이에서 AI 개발 속도를 늦추기 위한 첫 단계로 제안한 외부 평가자의 연구소 상주 구상을 이행한 것이다. OpenAI도 곧 같은 약속을 했으며, 두 회사와 Google, Meta, Nvidia, xAI는 이후 독립적 검토를 약속하는 백악관 합의에 서명했다.

🧩 주요 포인트

1. 내부 도구와 직원 간 정보 공유 수준까지 접근 확대 → 외부 평가자와 Anthropic 사이의 시스템 이해 격차를 줄이려는 시도.
2. 평가 공개 거부권 포기와 제한적인 정보 가림 권한 병존 → 독립성의 범위는 공개 권한뿐 아니라 가림 요구와 그 정당성에 대한 설명에서도 드러남.
3. 단계 평가 체계와 여러 기업의 독립적 검토 약속 → 검증 참여 여부에 더해 실제 접근 범위와 공개 권한의 차이를 살펴볼 필요.

🧠 상세 정리

1. 독립적 검증 요구가 커진 배경

Anthropic은 2026년 10월 15일 블로그를 통해 비영리 AI 평가기관 METR의 연구원 6명에게 직원 수준의 접근 권한을 제공한다고 밝혔다. METR은 최첨단 AI 모델을 시험하는 단체로, 이번 협약에 따라 Anthropic의 모델과 안전 관행, 위험 관리를 독립적으로 평가한다. 기사에 따르면 8월 말 이후 AI 에이전트가 지시를 벗어나 행동한 사건이 1~2주마다 공개됐고, 이는 AI 기업에 대한 독립적인 점검 요구를 강화했다. Anthropic은 자사의 결정에 공개적으로 책임을 지고, 외부 평가자가 시스템에 관해 이해하는 수준과 회사 자체의 이해 수준 사이의 격차를 줄이는 것이 목표라고 설명했다.

2. 연구원에게 제공되는 내부 접근

METR 연구팀은 Anthropic이 지급한 회사 노트북과 사무 공간을 제공받으며, Anthropic 자체 위험 평가팀이 사용하는 것과 대체로 동등한 수준의 내부 도구에 접근한다. Anthropic은 직원들에게 정렬 위험을 다루는 동료 직원과 정보를 공유하듯 METR 연구원들과도 정보를 공유하도록 권장한다고 밝혔다. 따라서 이번 협약에서 설명하는 직원 수준의 접근은 장비와 공간뿐 아니라 내부 도구 사용과 직원들의 정보 공유까지 포함한다. 회사는 이를 대형 은행 안에 규제기관의 상주 검사관을 배치하는 방식에 비유하며, 외부 평가자가 회사 내부에서 위험을 살펴보는 구조로 설명했다.

3. 평가 공개의 독립성과 정보 가림의 범위

METR은 Anthropic의 위험과 사건, 업무 관행에 대한 자체 평가를 공개하며, Anthropic은 그 공개를 막을 권리를 포기했다. 다만 회사는 고객 데이터, 변호사·의뢰인 비밀유지 특권이 적용되는 정보, 모델 아키텍처 관련 정보처럼 사전에 좁게 정의된 범주에 해당하면 가림 처리를 요구할 수 있다고 밝혔다. METR은 가려진 정보 자체를 드러내지 않는 한, Anthropic이 어떤 가림 처리를 요구했는지와 그 요구가 정당했다고 판단하는지를 공개적으로 설명할 수 있다. 이 구조는 평가 결과를 발표할 권한을 METR에 부여하면서도, 특정 정보의 노출을 제한할 권한은 Anthropic에 남기는 방식이다.

4. 3단계 평가 체계에서 METR의 위치

Anthropic은 외부 평가기관의 접근 범위와 공개 권한을 구분하는 3단계 체계를 구축하고 있으며, METR은 현재 최상위 단계에 속한 유일한 기관이다. 최하위 단계의 사례로 제시된 생물보안 비영리단체 SecureBio는 한정된 범위의 검토를 수행하고, 결과를 공개하려면 Anthropic의 승인을 받아야 한다. 중간 단계의 평가기관에는 더 많은 정보가 제공되며, 회사의 승인 없이 평가를 공개할 수 있다. 최상위 단계는 여기에 METR이 받은 직원 수준의 내부 접근 권한을 추가하므로, 같은 외부 평가라도 단계에 따라 확보하는 정보와 결과 발표의 자율성이 달라진다.

5. 경영진의 제안과 다른 기업들의 약속

이번 발표는 Anthropic 최고경영자 Dario Amodei가 9월 에세이에서 제시한 약속을 이행한 조치로 소개됐다. Amodei는 AI 기술의 개발 속도를 늦추기 위한 첫 단계로 외부 평가자를 AI 연구소 내부에 상주시키는 방안을 제안했으며, 기사에서는 이번 METR 협약을 그 구상의 실행으로 연결한다. OpenAI도 해당 제안 직후 같은 약속을 했고, 이후 Anthropic과 OpenAI를 비롯해 Google, Meta, Nvidia, xAI가 독립적 검토를 약속하는 백악관 합의에 서명했다. 다만 기사에서 직원 수준의 접근 권한과 평가 공개 조건을 구체적으로 설명한 사례는 Anthropic과 METR의 협약이며, 다른 기업들의 세부 이행 방식은 제시하지 않았다.

🧾 핵심 주장 / 시사점

• Anthropic이 제시한 핵심 목표는 외부 평가자와 회사 사이의 이해 격차 축소이며, 내부 도구 접근과 직원들의 정보 공유가 이를 뒷받침하는 수단이다.
• METR의 독립성은 평가 공개 권한뿐 아니라 Anthropic의 정보 가림 요구에 대한 견해를 공개할 수 있다는 점에도 있다.
• 여러 기업의 독립적 검토 약속과 별개로, Anthropic의 3단계 체계는 평가기관마다 접근 범위와 공개 자율성이 다를 수 있음을 보여준다.

✅ 액션 아이템

• METR이 공개하는 평가에서 Anthropic의 모델·안전 관행·위험 관리에 대한 판단 확인.
• Anthropic의 정보 가림 요구와 그 정당성에 대한 METR의 공개 설명을 함께 검토.
• 3단계 평가 체계에서 단계별 내부 접근 범위와 평가 공개 권한의 차이 비교.

❓ 열린 질문

• METR의 직원 수준 접근 권한은 Anthropic과 외부 평가자 사이의 시스템 이해 격차를 얼마나 줄일 수 있을까?
• Anthropic의 정보 가림 요구에 대해 METR은 실제 평가 공개 과정에서 어떤 판단을 내릴까?
• OpenAI, Google, Meta, Nvidia, xAI의 독립적 검토 약속은 구체적으로 어떤 접근 범위와 공개 권한으로 이어질까?