🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

GPT-5.1은 작업 난도에 따라 추론량을 조절하고, 추론 없는 저지연 모드와 24시간 프롬프트 캐싱, 향상된 코딩 성능, 코드 패치 및 셸 도구를 제공하는 개발자용 모델이다.

📌 핵심 요약

• GPT-5.1은 간단한 작업에서는 추론 토큰을 줄여 빠르게 응답하고, 어려운 작업에서는 더 오래 탐색하고 결과를 점검하도록 훈련된 적응형 추론 모델이다.
• 추론 강도를 none으로 설정하면 지연 시간에 민감한 작업에서 비추론 모델처럼 동작하며, 병렬 도구 호출과 코딩, 지시 준수, 검색 도구 사용 성능도 강화된다.
• 프롬프트 캐시 보존 기간이 최대 24시간으로 늘어나 장시간 대화와 코딩 세션, 지식 검색 작업의 지연 시간과 입력 토큰 비용을 줄일 수 있다.
• 코딩 영역에서는 조정 가능성, 코드 품질, 사용자 대상 진행 알림, 프런트엔드 결과물이 개선됐으며 SWE-bench Verified에서 76.3%를 기록했다.
• Responses API에는 구조화된 코드 변경을 위한 apply_patch와 로컬 명령 실행을 연계하는 shell 도구가 추가됐고, GPT-5.1 계열은 모든 유료 API 등급에서 제공된다.

🧩 주요 포인트

1. GPT-5.1은 간단한 작업에서는 추론 토큰을 줄여 빠르게 응답하고, 어려운 작업에서는 더 오래 탐색하고 결과를 점검하도록 훈련된 적응형 추론 모델이다.
2. 추론 강도를 none으로 설정하면 지연 시간에 민감한 작업에서 비추론 모델처럼 동작하며, 병렬 도구 호출과 코딩, 지시 준수, 검색 도구 사용 성능도 강화된다.
3. 프롬프트 캐시 보존 기간이 최대 24시간으로 늘어나 장시간 대화와 코딩 세션, 지식 검색 작업의 지연 시간과 입력 토큰 비용을 줄일 수 있다.
4. 코딩 영역에서는 조정 가능성, 코드 품질, 사용자 대상 진행 알림, 프런트엔드 결과물이 개선됐으며 SWE-bench Verified에서 76.3%를 기록했다.
5. Responses API에는 구조화된 코드 변경을 위한 apply_patch와 로컬 명령 실행을 연계하는 shell 도구가 추가됐고, GPT-5.1 계열은 모든 유료 API 등급에서 제공된다.

🧠 상세 정리

1. GPT-5.1의 목표와 핵심 변화

GPT-5.1은 다양한 에이전트 및 코딩 작업에서 지능과 속도의 균형을 맞추도록 설계된 GPT-5 계열의 후속 모델이다. 핵심 변화는 모든 요청에 같은 양의 추론을 적용하지 않고, 작업의 복잡도에 따라 생각하는 시간과 토큰 사용량을 동적으로 조절한다는 점이다. 깊은 사고가 필요하지 않은 요청에는 추론 없는 모드를 적용해 빠르게 응답하면서도 GPT-5.1의 전반적인 지능과 도구 호출 능력을 활용할 수 있다. 코딩 측면에서는 모델의 조정 가능성, 코드 품질, 작업 중 사용자에게 전달하는 진행 알림이 개선됐으며, 코드 편집과 명령 실행을 지원하는 새로운 도구도 도입됐다. OpenAI는 이러한 기능을 통해 개발자가 신뢰할 수 있는 에이전트형 작업 흐름을 더 적은 지연과 마찰로 구축하도록 돕는 것을 목표로 제시한다.

2. 작업 난도에 맞춰 달라지는 추론 효율

GPT-5.1은 간단한 작업에 더 적은 추론 토큰을 사용하고, 어려운 작업에는 충분한 시간을 들이도록 사고 방식의 훈련이 개편됐다. 단순한 요청에서는 불필요하게 오래 생각하지 않아 제품 응답이 빨라지고 토큰 비용도 낮아지지만, 복잡한 요청에서는 여러 선택지를 탐색하고 자신의 결과를 점검하는 지속성을 유지한다. 예시로 전역 설치된 패키지를 나열하는 npm 명령을 묻는 요청에서 GPT-5.1은 2초 만에 답해 GPT-5의 10초보다 짧은 응답 시간을 보였다. Balyasny Asset Management는 자체 동적 평가에서 GPT-5.1이 GPT-4.1과 GPT-5를 능가하면서 GPT-5보다 2~3배 빠르게 실행됐다고 밝혔다. 또한 도구 사용이 많은 추론 작업에서 유사하거나 더 높은 품질을 유지하면서 주요 경쟁 모델의 약 절반 수준 토큰을 사용했다고 평가했으며, Pace도 자사 평가에서 GPT-5보다 높은 정확도와 함께 에이전트 실행 속도가 50% 빨라졌다고 전했다.

3. 추론 없는 모드와 지연 시간 제어

개발자는 reasoning_effort를 none으로 지정해 GPT-5.1을 추론 없는 방식으로 사용할 수 있다. 이 설정은 낮은 지연 시간이 중요한 용도에서 비추론 모델처럼 빠르게 동작하게 하면서, GPT-5.1의 지능과 도구 호출 성능을 함께 활용하도록 마련됐다. GPT-5의 minimal 추론과 비교하면 GPT-5.1의 none 모드는 병렬 도구 호출, 코딩, 지시 준수, 검색 도구 사용에서 더 나은 성능을 보이며 API의 웹 검색도 지원한다. Sierra는 실제 환경 평가에서 이 모드의 저지연 도구 호출 성능이 GPT-5의 최소 추론보다 20% 개선됐다고 밝혔다. GPT-5.1의 기본값은 none이며, OpenAI는 더 복잡한 작업에는 low 또는 medium, 속도보다 지능과 신뢰성이 중요한 작업에는 high를 선택하도록 권장한다.

4. 최대 24시간으로 확장된 프롬프트 캐싱

GPT-5.1에는 프롬프트를 캐시에 최대 24시간 유지할 수 있는 확장 캐싱이 도입됐다. 기존의 수분 단위 보존보다 훨씬 긴 시간 동안 문맥을 재사용할 수 있어, 후속 요청이 캐시된 입력을 활용할 가능성이 커진다. 이는 여러 차례 이어지는 대화, 장시간 코딩 세션, 지식 검색 작업처럼 동일한 문맥을 반복해서 참조하는 흐름에서 응답 지연과 비용을 낮추고 실행을 더 매끄럽게 만든다. 캐시된 입력 토큰은 캐시되지 않은 입력보다 90% 저렴하며, 캐시 기록이나 저장에는 별도 요금이 부과되지 않는 기존 가격 정책이 유지된다. Responses API나 Chat Completions API에서 prompt_cache_retention을 24h로 지정하면 이 기능을 사용할 수 있으며, Priority Processing 고객은 GPT-5 대비 더 빨라진 GPT-5.1의 처리 성능도 이용할 수 있다.

5. 코딩 성향과 실제 작업 성능의 개선

GPT-5.1은 GPT-5의 코딩 능력을 바탕으로 개발자의 지시에 더 잘 맞춰지고, 불필요한 과도한 사고를 줄이며, 코드 품질을 높이는 방향으로 개선됐다. 여러 도구를 연속 호출하는 동안 사용자에게 전달하는 사전 설명과 진행 알림이 더 명확해졌고, 특히 낮은 추론 강도에서도 실제로 작동하는 프런트엔드 설계 능력이 강화됐다. 빠른 코드 수정처럼 단순한 작업에서는 짧아진 응답 시간 덕분에 개발자와 모델이 반복적으로 수정하는 과정이 수월해지며, 이러한 속도 향상이 복잡한 작업의 성능 저하로 이어지지는 않았다고 설명한다. 코드 저장소와 문제 설명을 받아 패치를 작성하는 SWE-bench Verified 전체 500문제에서 GPT-5.1의 높은 추론 설정은 76.3%를 기록해 GPT-5의 72.8%를 앞섰다. Cursor, Cognition, Augment Code, Factory, Warp 등과 협력해 코딩 성향과 조정 가능성, 품질을 다듬었으며, JetBrains는 복잡한 지시 준수와 프런트엔드 작업, 기존 코드베이스 적응 능력을 긍정적으로 평가했다.

6. 구조화된 코드 수정을 위한 apply_patch

Responses API에는 GPT-5.1이 코드 변경을 더 안정적으로 수행하도록 돕는 자유 형식의 apply_patch 도구가 추가됐다. 이 도구는 JSON 문자열 이스케이프에 의존하지 않고 구조화된 차이를 사용해 코드베이스의 파일을 생성하거나 수정하고 삭제할 수 있게 한다. 모델이 수정 방법을 문장으로 제안하는 데 그치지 않고 실제 패치 작업을 출력하면, 개발자 애플리케이션이 이를 파일 시스템에 적용한 뒤 결과를 다시 모델에 전달하는 방식이다. 따라서 한 번의 코드 제안보다 적용 결과를 확인하며 다음 수정을 이어가는 반복적이고 다단계인 코드 편집 흐름을 구성할 수 있다. 개발자는 도구 배열에 apply_patch 유형을 포함하고 입력으로 파일 내용을 제공하거나 파일 시스템과 상호작용할 다른 도구를 연결해야 하며, 모델은 생성·수정·삭제용 차이가 담긴 apply_patch_call 항목을 반환한다.

7. 명령 실행을 연결하는 shell 도구

새로운 shell 도구는 모델이 통제된 명령줄 인터페이스를 통해 로컬 컴퓨터와 상호작용할 수 있도록 설계됐다. GPT-5.1이 실행할 셸 명령을 제안하면 개발자의 통합 환경이 해당 명령을 실제로 실행하고, 그 출력 결과를 다시 모델에 전달한다. 이 구조는 모델이 시스템 상태를 살펴보고 필요한 유틸리티를 실행하며 데이터를 수집한 뒤 작업을 끝낼 때까지 이어가는 단순한 계획·실행 반복을 만든다. Responses API의 도구 배열에 shell 유형을 넣으면 API가 실행할 명령이 포함된 shell_call 항목을 생성하고, 개발자는 로컬 환경의 실행 결과를 다음 API 요청에서 shell_call_output 항목으로 돌려준다. 즉 명령을 모델이 직접 임의 실행하는 방식이 아니라, 모델의 제안과 개발자 측 실행 환경 및 결과 반환을 명시적으로 연결하는 통합 구조다.

8. 가격·제공 범위와 평가 결과

GPT-5.1과 gpt-5.1-chat-latest는 API의 모든 유료 등급에서 제공되며, 가격과 사용량 제한은 GPT-5와 동일하다. 함께 공개된 gpt-5.1-codex와 gpt-5.1-codex-mini는 Codex 또는 유사한 실행 환경에서 오래 지속되는 에이전트형 코딩 작업에 최적화된 모델이다. 부록 평가에서 GPT-5.1은 GPQA Diamond 88.1%, FrontierMath 26.7%, MMMU 85.4%, Tau 2-bench Airline 67.0%를 기록해 표에 제시된 GPT-5 결과보다 높았다. 반면 AIME 2025에서는 94.0%로 GPT-5의 94.6%보다 낮았고, Tau 2-bench Telecom과 Retail에서도 각각 95.6%와 77.9%로 GPT-5의 96.7%와 81.1%에 미치지 못했으며, BrowseComp 장문 문맥 128k 평가는 두 모델 모두 90.0%였다. OpenAI는 적응형 추론, 강화된 코딩 능력, 명확한 진행 알림, 새로운 코드 및 명령 도구를 기반으로 실제 에이전트·코딩 업무에 적합한 모델을 지속해서 개선하겠다고 밝혔다.

🧾 핵심 주장 / 시사점

• GPT-5.1의 중심 변화는 모든 요청에 최대 추론을 사용하는 것이 아니라, 기본 none부터 high까지 작업 특성에 맞춰 속도·비용·신뢰성의 균형을 개발자가 선택하게 한 것이다.
• 24시간 프롬프트 캐싱은 모델 자체의 추론 효율 개선과 별개로 반복 문맥의 전송 비용과 지연을 줄여, 장시간 이어지는 대화형·코딩형 작업 흐름의 운영 효율을 높인다.
• apply_patch와 shell은 코드 제안에 머물던 모델 사용 방식을 패치 적용, 명령 실행, 결과 반환, 후속 수정으로 이어지는 반복적 에이전트 실행 구조로 확장한다.

✅ 액션 아이템

• GPT-5.1 적응형 추론을 기준으로 단순 질의와 고난도 질의를 분기해 처리 정책을 정한다.
• 지연 민감 작업에서는 추론 강도 none을 적용하고, 병렬 도구 호출 성능까지 함께 점검한다.
• Responses API의 apply_patch와 shell 연계를 구조화된 코드 패치 실행 경로에 반영하고 개선 지표를 추적한다.

❓ 열린 질문

• 어떤 작업 유형에서 추론 강도 none 전환이 체감 지연 감소로 가장 크게 확인되는가?
• 24시간 프롬프트 캐시 적용 시, 장기 대화·코딩·검색에서 비용 절감이 유의미하게 드러나는 임계 기간은 어디인가?
• SWE-bench Verified 76.3% 성능을 조직 기준으로 채택할 때, 어떤 사용 조건에서 추가 검증이 필요한가?