Responding to the next frontier of critical cyber capabilities

🖼️ 인포그래픽

Responding to the next frontier of critical cyber capabilities 내용을 설명하는 본문 이미지

🖼️ 4컷 인포그래픽

💡 한 줄 요약

차기 모델 아스트라의 예비 평가에서 중대 수준의 사이버 역량을 배제할 수 없는 결과가 나오자, 개발·평가 환경의 보안 통제를 강화하고 외부 기관과의 검증을 확대하고 있다.

📌 핵심 요약

최근 진행된 내부 평가에서 아스트라는 에이전트형 코딩과 사이버보안 능력이 크게 향상된 것으로 나타났으며, 전문가 평가를 종합한 결과 준비 프레임워크상 중대 사이버 역량을 배제할 수 없다는 판단이 내려졌다.
중대 사이버 역량은 사람의 개입 없이 강화된 실제 핵심 시스템에서 다양한 심각도의 작동 가능한 제로데이 공격 수단을 개발하거나, 상위 수준의 목표만으로 강화된 표적에 대한 새로운 공격 전략을 처음부터 끝까지 설계·실행할 수 있는 수준을 뜻한다.
현재 평가는 예비 단계이며 성능 측정과 검증이 계속되고 있으므로 아스트라가 중대 역량에 도달했다는 확정 판정은 아니다. 아스트라는 출시 전 모델이며 허깅페이스 침해에도 관여하지 않았다.
더 높은 역량의 모델을 안전하게 다루기 위해 격리된 시험 환경, 네트워크·도구 접근 제한, 모델 가중치 보호와 암호화, 추가 감시·탐지 기능, 샌드박스 실행이 도입되고 있으며 기준을 충족하지 못한 내부 활동은 중단됐다.
모든 에이전트형 활용 과정에서 위험 행동과 정렬 이탈을 감시하고, 관련 정부 기관·선별된 인공지능 안전 단체·제3자 평가 기관과 협력해 역량과 안전장치를 함께 검증할 계획이다.

🧩 주요 포인트

예비 평가에서 중대 역량의 가능성을 배제할 수 없음 → 최종 판정 전부터 그 수준에 맞는 보안 통제와 시험 체계를 적용
무인 제로데이 개발과 종단 간 공격 수행을 중대 기준으로 설정 → 단순한 보안 지식보다 자율성·실전성·전체 공격 수행 능력을 핵심 위험으로 평가
통제 기준 미충족 활동 중단과 외부 공동 검증 추진 → 모델 개발 속도뿐 아니라 개발·평가·배포 전 과정의 안전 조건을 함께 강화

🧠 상세 정리

1. 아스트라에서 관찰된 사이버 역량의 변화

사이버보안 분야에서는 모델의 역량 향상이 방어를 강화하는 동시에 공격의 속도와 규모를 전례 없이 키울 수 있는 변화가 진행되고 있다. 최근 며칠간 진행된 차기 모델 아스트라의 내부 평가에서는 에이전트형 코딩과 사이버보안 능력이 크게 발전한 것으로 나타났다. 발표 주체는 이 결과와 전문가 평가를 함께 검토한 뒤, 준비 프레임워크상 중대 사이버 역량에 해당할 가능성을 현재로서는 배제할 수 없다고 판단했다. 아직 최종 판정이 아닌 잠재적 역량 전환 단계이지만, 대중과 안전·보안 공동체에 이를 투명하게 알리는 것이 중요하다는 이유로 평가 상황을 공개했다.

2. 중대 사이버 역량의 기준과 현재 평가

준비 프레임워크는 2023년 12월 공개됐으며, 생물학·화학·사이버보안·인공지능 자기 개선과 같은 고위험 역량의 진전을 식별하고 그에 따른 대응을 계획하기 위한 기준으로 마련됐다. 이 프레임워크에서 중대 사이버 역량은 사람의 개입 없이 다수의 강화된 실제 핵심 시스템을 대상으로 모든 심각도 수준의 작동 가능한 제로데이 공격 수단을 찾아 개발할 수 있는 능력을 포함한다. 또한 상위 수준의 목표만 주어져도 강화된 표적에 대한 새로운 사이버공격 전략을 종단 간으로 고안하고 실행할 수 있다면 같은 기준에 해당한다. 기존 모델인 GPT‑5.6‑Sol 등은 중대가 아닌 높음 수준으로 평가됐지만, 아스트라의 예비 성능은 중대 수준을 배제하기 어려울 만큼 강한 것으로 나타났다. 다만 평가와 측정은 계속 진행 중이며, 아스트라는 출시 전 모델이고 허깅페이스 침해에 관여하지 않았다.

3. 개발·평가 환경의 보안 통제 강화

발표 주체는 이러한 역량을 배포할 가능성에 맞춰 안전장치와 보안 통제의 견고성 시험을 확대했다. 높은 역량의 모델과 관련 활동에는 격리된 시험 환경, 제한된 네트워크 및 도구 접근, 강화된 모델 가중치 보호와 암호화, 추가적인 감시·탐지 기능, 샌드박스 실행이 적용되고 있다. 새로 강화된 보안 요구사항을 아직 충족하지 못하는 아스트라 관련 내부 활동은 일시적으로 중단됐다. 이는 모델 자체의 성능만 평가하는 데 그치지 않고, 개발과 시험 과정에서 모델·도구·네트워크에 접근할 수 있는 조건까지 통제 범위에 포함한 조치다.

4. 위험 행동 감시와 외부 공동 검증

훈련과 평가를 포함한 아스트라의 모든 에이전트형 활용에는 위험 행동과 정렬 이탈을 탐지하기 위한 보편적 감시 체계가 적용됐다. 감시 장치는 모델의 사고 과정을 평가하고 고위험 활동이 감지되면 보안 대응을 작동시켜 해당 활동을 검토하거나 중단하도록 한다. 역량 평가는 내부에만 한정하지 않고 관련 정부 기관 및 선별된 인공지능 안전 단체와 공동으로 진행할 예정이다. 더 높은 위험의 평가와 작업을 수행하는 제3자 시험 협력 기관에도 안전한 운영을 위한 권장 보안 통제를 제공함으로써 외부 평가 과정의 위험까지 관리할 계획이다.

5. 기존 대응 원칙과 방어 중심의 활용 목표

준비 프레임워크는 이전의 역량 전환에서도 대응 기준으로 사용됐다. 2025년 6월 모델들이 생물학 분야의 높음 역량 기준에 접근했을 때도 안전장치 강화, 시험 확대, 외부 전문가 협력, 추가 보안 통제 배치가 추진됐으며, 이번 사이버 역량 변화에도 같은 원칙이 적용되고 있다. 발표문은 고도화된 사이버 모델이 공격자보다 먼저 취약점을 찾아 해결할 수 있도록 방어자를 지원해야 한다고 강조한다. 이를 위해 정부, 안전 연구 기관, 시민사회와 협력하고 아스트라 및 후속 모델의 최첨단 역량을 책임 있게 배포해 폭넓은 공익에 활용하겠다는 방향을 제시했다.

🧾 핵심 주장 / 시사점

이번 발표의 핵심은 아스트라가 중대 역량에 도달했다고 확정한 것이 아니라, 예비 평가상 그 가능성을 더 이상 배제할 수 없어 선제적으로 통제를 강화했다는 점이다.
안전 대책은 모델 출력 제한에만 머물지 않고 시험 환경, 네트워크와 도구 접근, 가중치 보호, 실행 격리, 실시간 감시와 대응을 결합한 다층 구조로 구성된다.
고급 사이버 역량의 방어적 활용을 목표로 제시하면서도, 내부 통제 기준 충족과 정부·안전 단체·제3자 평가 기관을 통한 검증을 개발 및 배포의 주요 조건으로 두고 있다.