🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

OpenAI는 딥 리서치 출시 전 외부 적대적 시험, 프런티어 위험 평가, 거버넌스 검토와 추가 안전장치를 수행하고 그 결과를 시스템 카드에 공개했다.

📌 핵심 요약

• 딥 리서치는 복잡한 과제를 해결하기 위해 인터넷에서 여러 단계의 조사를 수행하는 에이전트형 기능이다.
• 웹 탐색에 최적화된 초기 버전의 OpenAI o3를 기반으로 텍스트, 이미지, PDF를 검색·해석·분석하며 발견한 정보에 따라 조사 방향을 조정한다.
• 사용자가 제공한 파일을 읽을 수 있고, 파이썬 코드를 작성하고 실행해 데이터를 분석할 수도 있다.
• OpenAI는 출시 전 외부 적대적 시험, Preparedness Framework에 따른 평가, 거버넌스 검토와 웹 탐색 능력에서 비롯되는 추가 위험 시험을 진행했다.
• 온라인 개인정보 보호와 악성 지시 저항을 강화했으며, 일부 위험에 대해서는 배포 확대 전에 사람의 심층 점검과 자동화 시험을 추가로 수행했다.

🧩 주요 포인트

1. 딥 리서치는 복잡한 과제를 해결하기 위해 인터넷에서 여러 단계의 조사를 수행하는 에이전트형 기능이다.
2. 웹 탐색에 최적화된 초기 버전의 OpenAI o3를 기반으로 텍스트, 이미지, PDF를 검색·해석·분석하며 발견한 정보에 따라 조사 방향을 조정한다.
3. 사용자가 제공한 파일을 읽을 수 있고, 파이썬 코드를 작성하고 실행해 데이터를 분석할 수도 있다.
4. OpenAI는 출시 전 외부 적대적 시험, Preparedness Framework에 따른 평가, 거버넌스 검토와 웹 탐색 능력에서 비롯되는 추가 위험 시험을 진행했다.
5. 온라인 개인정보 보호와 악성 지시 저항을 강화했으며, 일부 위험에 대해서는 배포 확대 전에 사람의 심층 점검과 자동화 시험을 추가로 수행했다.

🧠 상세 정리

1. 시스템 카드의 목적과 공개 배경

이 시스템 카드는 OpenAI가 딥 리서치를 출시하기 전에 수행한 안전 작업을 설명하는 보고서다. 주요 범위에는 외부 전문가가 참여한 적대적 시험, Preparedness Framework에 따른 프런티어 위험 평가, 핵심 위험을 줄이기 위해 구축한 완화 조치가 포함된다. OpenAI는 딥 리서치를 Pro 사용자에게 제공하기 전에 엄격한 안전 시험과 거버넌스 검토를 거쳤다고 밝힌다. 또한 초기 시험에서 확인된 개선 가능성을 반영하기 위해, 배포 범위를 넓히기 전에 특정 위험을 대상으로 사람의 추가 점검과 자동화 시험을 수행했다.

2. 딥 리서치의 기능과 작동 방식

딥 리서치는 복잡한 과제를 대상으로 인터넷에서 여러 단계의 조사를 수행하는 새로운 에이전트형 기능이다. 웹 탐색에 최적화된 초기 버전의 OpenAI o3가 기반 모델로 사용되며, 추론을 활용해 인터넷상의 방대한 텍스트와 이미지, PDF를 검색하고 해석하며 분석한다. 조사 과정에서 새로 발견한 정보에 반응해 검색 방향이나 접근 방식을 바꿀 수 있다는 점도 핵심 특징이다. 인터넷 자료뿐 아니라 사용자가 제공한 파일을 읽을 수 있고, 필요한 경우 파이썬 코드를 직접 작성하고 실행해 데이터를 분석할 수도 있다.

3. 위험 평가와 배포 기준

OpenAI는 딥 리서치의 일반적인 모델 위험뿐 아니라 웹 탐색 능력으로 인해 추가되는 위험을 별도로 이해하기 위한 안전 시험을 진행했다. 평가 결과는 낮음, 중간, 높음, 치명적의 네 단계 점수로 구분되며, 완화 조치를 적용한 뒤의 점수가 배포와 추가 개발 여부를 결정한다. 사후 완화 점수가 중간 이하인 모델만 배포할 수 있고, 높음 이하인 모델만 추가 개발을 계속할 수 있다는 기준이 제시됐다. 이 평가는 기존 안전 관행과 Preparedness Framework, 거버넌스 검토를 함께 적용해 출시 전 능력과 위험을 파악하는 절차의 일부다.

4. 웹 탐색에 따른 안전장치와 시험 개선

웹을 직접 탐색하는 기능은 공개된 개인정보를 다루거나 인터넷에서 악의적인 지시를 접할 가능성을 수반하므로, OpenAI는 이 두 영역에 새로운 완화 조치를 집중했다. 구체적으로 온라인에 게시된 개인 정보를 둘러싼 개인정보 보호를 강화하고, 검색 중 발견할 수 있는 악성 지시에 모델이 따르지 않도록 훈련했다. 동시에 딥 리서치 시험 과정에서는 기존 시험 방법 자체를 더 개선할 필요가 있다는 점도 드러났다. OpenAI는 배포를 확대하기 전에 일부 위험을 대상으로 사람의 심층적인 탐색과 자동화 시험을 추가해 모델의 능력과 위험을 다시 확인했다.

🧾 핵심 주장 / 시사점

• 딥 리서치의 안전 평가는 기반 모델만이 아니라 웹 탐색, 파일 처리, 코드 실행이 결합되면서 생기는 추가 위험까지 포함한다.
• 배포 가능 여부는 완화 조치 적용 전의 능력이 아니라 조치 적용 후 남아 있는 위험 점수를 기준으로 판단한다.
• 출시 전 시험은 위험을 평가하는 데 그치지 않고 개인정보 보호, 악성 지시 저항, 사람과 자동화를 결합한 시험 방법의 보완으로 이어졌다.

✅ 액션 아이템

• 딥 리서치는 복합 과제를 위해 인터넷 다단계 조사를 수행하므로 텍스트·이미지·PDF 탐색·해석·분석 및 파일 기반 파이썬 분석을 사용 유형별로 분리한다.
• 웹 탐색 최적화 초기 버전의 o3 기반이라는 핵심 특성을 반영해 거버넌스 검토 항목의 단계별 위험 통제 포인트를 정의한다.
• OpenAI가 공개한 온라인 개인정보 보호·악성 지시 저항 강화 조치에 더해 배포 확대 전 사람 심층 점검과 자동화 시험을 추가 수행한다.

❓ 열린 질문

• 복합 과제에서 딥 리서치의 다단계 웹 조사가 어느 질문 유형에서 실제 성과 향상을 가장 크게 만드는가?
• 외부 적대적 시험, 프런티어 위험 평가, Preparedness Framework 적용이 온라인 개인정보 보호·악성 지시 저항 강화로 충분히 수렴되는지 어떤 기준으로 확인할 수 있는가?
• 배포 확대 전 사람의 심층 점검과 자동화 시험은 어떤 조건에서 결합해야 잠재 위험을 최소화하는가?