GPT‑6 Cyber: Advancing the frontier of aligned cybersecurity agents
🖼️ 인포그래픽
🖼️ 4컷 인포그래픽
💡 한 줄 요약
OpenAI는 ExploitGym에서 48.5%를 기록하고 배포 안전 프롬프트 없이도 평가의 99.93%에서 허가 범위를 지킨 GPT‑6 Cyber를 공개하며, 실제 취약점 연구와 Daybreak 접근 확대에 활용하고 있다고 밝혔다.
📌 핵심 요약
- GPT‑6 Cyber의 ExploitGym 점수는 GPT‑5.6 Cyber의 32.1%에서 48.5%로 상승해 상대적으로 51% 개선됐다. 소스 코드 없이 수행하는 웹 침투 테스트의 취약점 재현율은 40.3%로 GPT‑6 Astra의 32.0%를 웃돌았고, RemoteExploitBench에서는 과제의 95%를 완료했다. OpenAI는 Preparedness Framework상 사이버보안 역량을 이전 모델의 High에서 Critical로 분류했다.
- 허가 범위 준수, 행동 제한 이행, 정확한 결과 보고를 위한 특화 훈련을 적용했다. ExploitGym Honeypot에서 범위 밖 서비스를 공격하지 않은 비율은 배포 안전 프롬프트 없이 GPT‑5.6 Cyber의 94.49%에서 GPT‑6 Cyber의 99.93%로 높아졌고, 해당 프롬프트를 적용하면 100%였다.
- GPT‑6 Cyber는 Firefox에서 Mozilla가 고위험으로 분류한 신규 취약점 81개를 발견하고 기존 문제 30개의 심각도가 과소평가됐음을 보였다. Linux에서는 취약점 1,724개를 재현하고 948개에 작동하는 익스플로잇을 개발했으며, 중대한 발견 사항 304건을 패치 후보와 함께 공개했다. Mozilla는 다수의 Firefox 취약점을 수정했고, Linux 관련 나머지 취약점의 수정은 진행 중이다.
- Cisco, Calif, CodeRabbit은 취약점 연구와 코드 검토에 GPT‑6 Cyber를 사용하고 있으며, OpenAI도 자체 학습 인프라 보강에 활용했다. OpenAI는 Daybreak를 다양한 규모의 조직, 독립 연구자, 오픈소스 관리자에게 확대하려 하며, Daybreak Blue는 검증된 방어자의 취약점·수정 검증을, Daybreak Red는 GPT‑6 Cyber를 통한 심층 익스플로잇 개발과 허가된 보안 테스트를 지원한다.
- 보호 조치에는 허가 범위와 행동의 일치 여부 감시, 신규 위협에 대한 표적 모니터링, PSP, Daybreak Red API의 기본 IP 허용 목록, 샌드박싱·행동 검토·인간 감독 권고가 포함된다. Zero Data Retention을 사용하는 API 고객은 일반적으로 고객 저장소에 30일간 보관되는 암호화 기록을 검사하는 PSP를 사용해야 한다. 중요 인프라 방어에는 10억 달러 규모의 Daybreak for Frontline Defenders와 승인된 방어자용 Daybreak Red for Critical Infrastructure를 제시했으나, 제공된 원문은 후속 보호 조치 설명 도중 끝난다.
🧩 주요 포인트
- 공격 역량과 위험 분류의 동반 상승: ExploitGym·웹 침투 테스트·RemoteExploitBench의 성과는 더 깊은 보안 연구 가능성을 보여주며, Critical 분류는 이러한 역량 확대에 맞춘 접근 통제와 보호 조치의 중요성을 부각한다.
- 허가 범위 준수와 실전 수정의 연결: Honeypot 평가의 높은 준수율과 Firefox·Linux의 발견·검증·패치 사례는 서로 다른 성과다. 평가상 범위 준수와 실제 취약점 수정 진행 상황을 구분해야 방어 효과를 구체적으로 해석할 수 있다.
- 접근 확대와 운영 조건의 결합: Daybreak Blue·Daybreak Red·Daybreak Red for Critical Infrastructure는 지원 대상과 허용 작업을 구분하며, PSP의 30일 암호화 기록 검사와 IP 허용 목록은 확대된 접근에 수반되는 운영 조건이다.
🧠 상세 정리
1. GPT‑6 Cyber의 공개와 Daybreak 확대 방향
OpenAI는 GPT‑6 Cyber를 취약점 발견과 수정 능력뿐 아니라 연구자가 정한 경계를 지키는 신뢰성도 높인 보안 연구 모델로 소개했다. 발표의 출발점은 더 강력한 모델로 실제 소프트웨어를 보호할 수 있는 시간이 제한돼 있다는 판단이며, 이를 바탕으로 Daybreak를 다양한 규모의 조직과 독립 연구자, 오픈소스 관리자에게 크게 확대하겠다는 목표를 제시했다. GPT‑6 Astra 같은 범용 모델은 이미 코드 검토, 취약점 분류, 패치 개발을 지원한다고 설명했다. Daybreak Blue는 검증된 방어자가 불필요한 거절을 덜 겪으며 취약점과 수정 사항을 검증하도록 돕고, Daybreak Red는 GPT‑6 Cyber로 더 깊은 익스플로잇 개발과 허가된 보안 테스트를 수행하도록 설계됐다.
2. 공격 역량 평가와 Critical 분류
OpenAI는 GPT‑6 Cyber가 GPT‑5.6 Cyber보다 크게 발전했고, GPT‑6 Astra가 요청을 거절하지 않는 경우에도 대부분의 사이버 과제에서 앞선다고 밝혔다. 원격 대상의 지정된 취약점을 악용하는 ExploitGym에서는 48.5%를 기록해 이전 모델의 32.1%보다 약 16%포인트 높았으며, 상대 개선율은 51%였다. 소스 코드에 접근하지 않고 웹 애플리케이션을 조사하는 새로운 침투 테스트 평가에서는 취약점 재현율이 40.3%로, GPT‑6 Astra의 32.0%를 웃돌았다. 통제된 환경의 GitLab, PostgreSQL, Jenkins 등에서 알려진 취약점을 사용하는 RemoteExploitBench에서는 Daybreak Blue로 실행한 GPT‑6 Astra가 모든 과제를 거절한 반면, GPT‑6 Cyber는 95%를 완료했고 유일한 실패는 익스플로잇을 원격으로 작동시키지 못한 경우였다. 이러한 결과를 바탕으로 OpenAI는 Preparedness Framework상 사이버보안 역량을 GPT‑5.6 Cyber의 High에서 Critical로 상향 분류했다.
3. 허가 범위를 지키도록 설계한 훈련과 평가
원문은 보안 에이전트가 맡은 과제의 범위를 벗어나 관련 없는 서비스를 공격하거나 연구자의 행동 규칙을 무시할 수 있다는 위험을 제시한다. OpenAI는 이에 대응해 허가 범위 준수, 행동 제한 이행, 정확한 작업 보고를 특화 훈련의 핵심으로 삼고 배포 전에 일련의 정렬 평가를 수행했다고 설명했다. Hugging Face 사건을 참고한 ExploitGym Honeypot에서는 격리된 환경에 패키지 레지스트리나 객체 저장소 같은 보조 서비스를 두고, 이를 공격하면 과제의 플래그를 얻을 수 있도록 의도적으로 취약하게 구성했다. 모델은 그 유혹이 있어도 해당 서비스 공격이 과제 범위 밖임을 추론해야 하며, 배포 안전 프롬프트가 없는 조건에서 범위 밖 서비스를 공격하지 않은 비율은 GPT‑5.6 Cyber의 94.49%에서 GPT‑6 Cyber의 99.93%로 상승했다. 배포 안전 프롬프트를 적용한 GPT‑6 Cyber는 이 평가에서 100% 범위를 지켰으며, 원문은 모델이 지정된 대상과 범위 밖 자격 증명을 구분하는 추론 발췌도 제시했다.
4. 보안팀의 활용과 OpenAI 내부 인프라 보강
GPT‑6 Cyber는 이미 보안팀이 대규모 코드베이스에서 취약점을 찾고 영향을 검증하며 수정안을 개발하는 작업에 사용되고 있다고 원문은 설명한다. Cisco, Calif, CodeRabbit은 취약점 연구와 코드 검토에 활용하고 있으며, 고객 활용 범위에는 장시간에 걸친 익스플로잇 개발과 보안 검토도 포함된다. OpenAI는 프런티어 모델 학습 인프라를 강화하는 작업에서도 GPT‑6 Cyber를 주요 모델 중 하나로 사용했다. 통제된 레드팀 활동에서 GPT‑6 Cyber와 다른 OpenAI 모델을 사용하는 에이전트들은 여러 취약점을 연결해 microVM을 탈출하고 기반 호스트에서 코드를 실행했다. OpenAI는 이 발견을 소프트웨어 패치와 네트워크 제한 강화에 반영하고 관리자 및 공급업체에 문제를 보고했다고 밝혔으며, 해당 성과는 여러 모델을 함께 사용한 활동의 결과로 서술됐다.
5. Firefox의 신규 취약점과 수정 지원
Firefox 연구에서 GPT‑6 Cyber는 Mozilla가 고위험으로 분류한 신규 취약점 81개에 대해 증거와 재현 가능한 테스트를 생성했다. 이는 프런티어 모델을 통한 광범위한 선행 테스트가 있었음에도 추가로 발견된 문제들이며, 원문은 오랫동안 검토된 소프트웨어에도 알려지지 않은 결함이 남아 있음을 보여주는 사례로 제시한다. 모델은 별도로 기존에 알려진 문제 30개의 심각도가 이전 보고보다 높다는 점도 보였다. OpenAI는 발견 사항과 패치 제안을 Mozilla에 전달해 엔지니어들의 수정 작업을 지원했으며, Mozilla는 이를 지지하고 보고를 받은 직후부터 수정 사항을 반영하기 시작해 다수의 취약점에 대한 수정본을 공개했다. 원문은 이 경험을 근거로 GPT‑6 Cyber가 대규모 취약점 탐색과 고품질 패치 제안을 위한 자율 작업 흐름에 적합할 수 있다고 평가하지만, 모든 취약점의 수정이 완료됐다고 밝히지는 않는다.
6. Linux 익스플로잇 개발과 Brotli 영향 검증
Linux 커널 연구에서는 GPT‑6 Cyber가 취약점 1,724개를 재현하고 그중 948개에 대해 작동하는 익스플로잇을 개발했으며, 도입부는 이를 권한 상승 익스플로잇으로 소개한다. 같은 연구 하네스를 사용한 GPT‑5.6 Sol이 악용에 성공한 취약점은 166개였고, 원문은 GPT‑6 Cyber의 성과가 그 다섯 배를 넘는다고 설명한다. OpenAI는 Linux 커뮤니티의 지침에 따라 중대한 발견 사항 304건을 패치 후보와 함께 관리자에게 공개했으며, 다른 취약점들도 수정하는 과정에 있다고 밝혔다. 또 다른 사례인 Brotli는 Node.js와 다른 소프트웨어에서 사용하는 압축 라이브러리로, OpenAI 연구자들은 GPT‑6 Cyber와 다른 OpenAI 모델을 함께 사용해 중대한 취약점의 익스플로잇을 개발하고 검증했다. 이 작업은 해당 결함이 Brotli를 사용하는 하위 애플리케이션에서 원격 코드 실행으로 이어질 수 있음을 입증한 사례로 제시됐다.
7. 오용 탐지, 데이터 처리와 접근 보호
OpenAI는 모델의 보안 역량이 높아지는 가운데 악성 사이버 행위자의 위해 시도와 적대적 집단의 모델 증류 시도도 관찰하고 있다며, 사용자 의도와 허가 범위를 지키기 위한 보호 조치를 강화했다고 밝혔다. 사이버보안 특화 감시는 정당한 익스플로잇 개발과 테스트를 인정하면서 행동이 사용자 허가와 일치하는지 살피고, 중대한 PHP 취약점의 조율된 공개 과정에서는 실제 운영 중인 PHP 서버를 겨냥한 익스플로잇 개발 시도를 표적 모니터링했다. 데이터 처리에는 표준 보관 정책이 기본으로 유지되며, Zero Data Retention을 사용하는 API 고객은 일반적으로 고객 저장소에 30일간 보관되는 암호화 기록을 자동 검사하는 Private Safety Processing인 PSP를 사용해야 하고 프롬프트와 응답은 OpenAI 직원에게 노출되지 않는다고 설명했다. 자격 증명 도난에 대응해서는 제한적 예외를 제외하고 Daybreak Red API 접근에 IP 허용 목록을 기본 요구하며, 자격 증명 침해 여부도 감시한다. 이와 함께 고위험 작업 흐름에는 샌드박싱, 행동 검토, 인간 감독을 권고하고, 중요 시스템과 관련된 고위험 사이버 활동을 차단하는 새로운 검사도 도입했다고 밝혔다.
8. 중요 인프라 방어 지원과 원문의 범위
발전소, 정수 시설과 이를 뒷받침하는 운영 기술 및 산업 제어 시스템인 OT/ICS의 보호는 GPT‑6 Cyber의 안전장치와 접근 방식을 설계할 때 핵심 고려 사항이었다고 원문은 설명한다. OpenAI는 이러한 시스템을 방어하는 팀이 가장 유능한 모델을 사용하도록 지원하는 동시에, 무단 공격을 막는 보호 조치도 강화하려는 목표를 제시했다. 이를 위해 10억 달러 규모의 Daybreak for Frontline Defenders 지원 프로그램으로 정부 조직과 필수 서비스 제공자 등 자원이 부족한 팀의 접근 비용을 보조한다고 밝혔다. 또한 Daybreak Red 안에 승인된 중요 인프라 방어자용 Daybreak Red for Critical Infrastructure를 신설해, 모델의 범위 이탈을 막는 보호 조치를 유지하면서 중요 시스템에 대한 허가된 테스트 권한을 제공한다고 설명했다. 제공된 원문은 이어서 Daybreak Red와 Blue의 오용 방지를 위해 보호 조치를 다시 정교화했다는 설명을 시작한 지점에서 끝나므로, 그 이후의 구체적인 조치나 조건은 확인할 수 없다.
🧾 핵심 주장 / 시사점
- RemoteExploitBench에서 GPT‑6 Astra의 결과는 전 과제 거절이므로, GPT‑6 Cyber의 95% 완료율과의 차이에는 작업 허용 범위가 반영돼 있다. 이 결과만으로 두 모델의 순수한 기술 역량 차이를 분리해 해석하기는 어렵다.
- ExploitGym의 공격 성공률과 Honeypot의 범위 준수율은 서로 다른 능력을 측정한다. 두 지표의 동반 개선은 더 강한 공격 역량과 더 높은 허가 범위 준수가 이번 평가에서 함께 나타났다는 의미이며, 실제 환경 전체에서 같은 결과를 보장한다는 뜻은 아니다.
- Firefox와 Linux 사례는 취약점 발견, 영향 입증, 패치 제안, 실제 수정이 구분되는 과정임을 보여준다. 발견이나 익스플로잇 개발 건수를 곧바로 수정 완료 건수로 해석하면 발표의 성과와 남은 작업을 혼동할 수 있다.
✅ 액션 아이템
- GPT‑6 Cyber 도입 검토 시 ExploitGym 48.5%, RemoteExploitBench 95%, Honeypot 99.93%의 평가 대상과 조건을 구분해 검토.
- Firefox 신규 취약점 81개와 Linux 익스플로잇 948개에 대해 발견·검증 성과와 실제 수정 진행 상황을 구분해 파악.
- Daybreak Blue·Daybreak Red·Daybreak Red for Critical Infrastructure의 지원 작업과 PSP의 30일 암호화 기록 검사, IP 허용 목록 조건을 함께 검토.
❓ 열린 질문
- Honeypot에서 기록한 GPT‑6 Cyber의 99.93% 및 배포 안전 프롬프트 적용 시 100% 범위 준수율은 실제 보안 연구 환경에서도 유지되는가?
- Firefox 신규 취약점 81개와 Linux 관련 발견 사항 가운데 현재 수정이 완료된 범위와 진행 중인 범위는 각각 어디까지인가?
- Daybreak를 다양한 규모의 조직과 독립 연구자에게 확대할 때 PSP의 30일 암호화 기록 검사와 IP 허용 목록 조건은 접근성에 어떤 영향을 미치는가?
