🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

OpenAI는 gpt-oss-120b와 gpt-oss-20b를 공개 가중치 추론 모델로 소개하며, 에이전트형 워크플로와 도구 사용을 지원하되 공개 모델 특유의 안전 위험과 평가 결과를 함께 제시했다.

📌 핵심 요약

• gpt-oss-120b와 gpt-oss-20b는 Apache 2.0 라이선스와 OpenAI의 gpt-oss 사용 정책 아래 제공되는 공개 가중치 추론 모델이다.
• 두 모델은 텍스트 전용 모델이며 Responses API와 호환되고, 지시 이행, 웹 검색·Python 코드 실행 같은 도구 사용, 추론 노력 조절, 구조화 출력 등을 지원하도록 설계됐다.
• OpenAI는 공개 모델이 일단 배포되면 접근을 회수하거나 추가 완화책을 직접 적용하기 어렵기 때문에, 독점 모델과 다른 안전 위험 프로필을 가진다고 설명한다.
• 개발자와 기업은 API나 제품을 통해 제공되는 시스템 수준 보호를 재현하기 위해 별도 안전장치를 구현해야 할 수 있으며, 이 문서는 그래서 시스템 카드가 아니라 모델 카드로 제시된다.
• OpenAI의 평가에 따르면 gpt-oss-120b 기본 모델과 적대적 파인튜닝 모델은 생물·화학, 사이버, AI 자기개선 관련 준비성 기준에서 High capability 임계값에 도달하지 않았다.

🧩 주요 포인트

1. gpt-oss-120b와 gpt-oss-20b는 Apache 2.0 라이선스와 OpenAI의 gpt-oss 사용 정책 아래 제공되는 공개 가중치 추론 모델이다.
2. 두 모델은 텍스트 전용 모델이며 Responses API와 호환되고, 지시 이행, 웹 검색·Python 코드 실행 같은 도구 사용, 추론 노력 조절, 구조화 출력 등을 지원하도록 설계됐다.
3. OpenAI는 공개 모델이 일단 배포되면 접근을 회수하거나 추가 완화책을 직접 적용하기 어렵기 때문에, 독점 모델과 다른 안전 위험 프로필을 가진다고 설명한다.
4. 개발자와 기업은 API나 제품을 통해 제공되는 시스템 수준 보호를 재현하기 위해 별도 안전장치를 구현해야 할 수 있으며, 이 문서는 그래서 시스템 카드가 아니라 모델 카드로 제시된다.
5. OpenAI의 평가에 따르면 gpt-oss-120b 기본 모델과 적대적 파인튜닝 모델은 생물·화학, 사이버, AI 자기개선 관련 준비성 기준에서 High capability 임계값에 도달하지 않았다.

🧠 상세 정리

1. 공개 가중치 추론 모델의 공개

본문은 OpenAI가 gpt-oss-120b와 gpt-oss-20b라는 두 공개 가중치 추론 모델을 소개하는 데서 시작한다. 두 모델은 Apache 2.0 라이선스와 OpenAI의 gpt-oss 사용 정책 아래 제공된다고 명시된다. OpenAI는 이 모델들이 오픈소스 커뮤니티의 피드백을 바탕으로 개발되었다고 설명한다. 또한 모델 카드라는 형식으로 공개되는 만큼, 모델 자체의 기능과 한계, 안전 평가 결과를 함께 전달하는 것이 핵심 흐름이다.

2. 기능과 사용 방식

두 모델은 텍스트 전용 모델로 설명되며, OpenAI의 Responses API와 호환된다고 제시된다. 주요 사용 맥락은 에이전트형 워크플로로, 강한 지시 이행 능력과 도구 사용 능력이 강조된다. 본문은 예시로 웹 검색과 Python 코드 실행을 들며, 복잡한 추론이 필요하지 않은 작업에서는 추론 노력을 조절할 수 있다고 말한다. 모델은 커스터마이즈가 가능하고, 전체 chain-of-thought 제공과 Structured Outputs도 지원한다고 소개된다.

3. 공개 모델의 다른 위험 프로필

OpenAI는 공개 모델 접근에서 안전이 기초적인 요소라고 밝히면서, 공개 가중치 모델이 독점 모델과는 다른 위험 구조를 가진다고 설명한다. 일단 모델이 공개되면, 의지가 있는 공격자가 안전 거부를 우회하도록 파인튜닝하거나 직접 위해를 최적화할 가능성이 있다고 본다. 이 경우 OpenAI가 이후 추가 완화책을 적용하거나 접근 권한을 회수하기 어렵다는 점이 핵심 위험으로 제시된다. 따라서 공개 모델의 배포는 단순한 성능 공개가 아니라 통제 가능성의 변화까지 포함하는 문제로 다뤄진다.

4. 개발자와 기업의 추가 안전 책임

본문은 일부 맥락에서 개발자와 기업이 별도의 보호 장치를 구현해야 할 수 있다고 말한다. 이는 OpenAI의 API와 제품을 통해 제공되는 모델에 내장된 시스템 수준 보호를, 공개 모델을 사용하는 각자의 시스템에서도 재현해야 할 수 있다는 의미다. OpenAI는 이 문서를 시스템 카드가 아니라 모델 카드라고 부르는데, gpt-oss 모델이 다양한 이해관계자가 만들고 유지하는 여러 시스템의 일부로 쓰일 것이기 때문이다. 모델은 기본적으로 OpenAI의 안전 정책을 따르도록 설계되었지만, 실제 시스템 안전 결정과 구현은 각 사용 주체에게도 분산된다.

5. 준비성 프레임워크 평가 결과

OpenAI는 gpt-oss-120b에 대해 확장 가능한 능력 평가를 수행했다고 밝힌다. 평가 결과 기본 모델은 Preparedness Framework의 세 가지 추적 범주에서 High capability를 나타내는 지표 임계값에 도달하지 않았다고 설명된다. 세 범주는 생물·화학 능력, 사이버 능력, AI 자기개선이다. 이 대목은 모델 공개와 관련한 위험 판단이 단순한 선언이 아니라 정해진 범주별 평가를 통해 검토되었다는 점을 보여준다.

6. 적대적 파인튜닝과 공개 생물학 역량 영향 검토

OpenAI는 추가로 두 가지 질문을 조사했다고 제시한다. 첫째, 공격자가 gpt-oss-120b를 적대적으로 파인튜닝해 생물·화학 또는 사이버 영역에서 High capability에 도달시킬 수 있는지 검토했다. OpenAI는 공격자의 잠재 행동을 시뮬레이션해 두 범주에서 적대적 파인튜닝을 수행했고, Safety Advisory Group이 이 테스트를 검토했으며, 그 결과 해당 위험 영역에서 High capability에는 도달하지 않았다고 설명한다. 둘째, gpt-oss-120b 공개가 공개 기반 모델의 생물학 역량 최전선을 크게 전진시키는지도 살폈고, 대부분 평가에서 기존 공개 모델 중 하나 이상의 기본 성능이 적대적으로 파인튜닝된 gpt-oss-120b 성능에 근접해 답은 아니라고 결론 내렸다.

🧾 핵심 주장 / 시사점

• 이 모델 카드는 성능 소개와 동시에 공개 가중치 배포가 만드는 사후 통제 한계를 안전 논의의 중심에 둔다.
• OpenAI는 모델 자체가 안전 정책을 따르도록 설계되었다고 말하면서도, 실제 배포 시스템에서는 개발자와 기업의 추가 안전장치가 필요할 수 있음을 분명히 한다.
• 핵심 안전 주장에는 기본 모델 평가뿐 아니라 적대적 파인튜닝 시나리오와 기존 공개 모델 대비 생물학 역량 영향 검토가 함께 포함된다.

✅ 액션 아이템

• gpt-oss-120b와 gpt-oss-20b 공개 배포에서 Apache 2.0 라이선스와 gpt-oss 사용 정책의 적용 범위를 확인해 정리한다.
• 텍스트 전용·Responses API 호환 특성을 반영해 에이전트형 워크플로에서 지시 이행, 검색, 코드 실행 연동 설계를 재점검한다.
• 접근 회수와 추가 완화 적용이 어려운 공개 모델 특성에 맞춰 API/제품 단 안전장치의 구현 범위와 책임 구간을 정의한다.

❓ 열린 질문

• 공개 모델의 위험 프로필을 운영 환경에서 실제로 반영하려면 어느 보호 규칙이 최소로 필요한가?
• 웹 검색·Python 실행·구조화 출력 기능을 제공할 때 허용 범위를 어디까지 열어두어야 과도한 오남용을 막을 수 있는가?
• 생물·화학·사이버·AI 자기개선 평가에서 High 임계값 미달이 정책 판단에 어떤 기준으로 작동할 수 있는가?