Build more responsive apps with the Decisions API
🖼️ 인포그래픽
🖼️ 4컷 인포그래픽
💡 한 줄 요약
OpenAI가 GPT‑6 Luna 기반 Decisions API를 정식 출시해, 답변 범위가 정해진 판단을 Responses API의 GPT‑6 Luna보다 최대 10배 빠르게 처리하고 GPT‑Live 연동과 입력 토큰 중심 과금을 제공한다.
📌 핵심 요약
- Decisions API는 입력 분류, 요청 라우팅, 다음 행동 선택처럼 답변 범위가 정해진 판단에 특화된 API다. GPT‑6 Luna를 기반으로 텍스트·이미지·구조화된 입력을 처리하며, Responses API를 통한 GPT‑6 Luna 사용보다 최대 10배 빠른 준실시간 판단을 지원한다고 설명한다.
- 공개 베타 이후 GPT‑Live 네이티브 연동, 재사용 맥락의 프롬프트 캐싱, 미국·EU 추론 레지던시를 추가했다. 네이티브 JSON 입력과 질문 지침 내 이미지를 지원하며, 요청당 질문 한도는 이전의 두 배인 400개로 확대했고 아시아 여러 지역의 처리 용량도 늘렸다.
- 답변 유형은 predicate, choice, score 세 가지다. predicate는 조건이 참일 확률을 0~1로 반환하고, choice는 사전 정의된 선택지 하나와 확률·신뢰도를 제공하며, score는 평가 기준의 순서 있는 수준에 대해 수준 인덱스의 확률 가중평균을 반환한다.
- OpenAI의 dots 팀은 응답 시간과 상호작용 개선에, Personal Finance 팀은 거래 설명 분류에, Communications 팀은 보도의 주제 분류와 핵심 서사 지지·반박 평가에 활용한다. 고객 사례에는 AI 비용 귀속과 언어 학습의 상호작용 개선이 있으며, GPT‑Live 연동은 고객 지원의 추가 질문·라우팅·상위 단계 이관과 아바타 표정 선택에 활용할 수 있다.
- 가격은 입력 토큰 100만 개당 $0.10, 캐시된 입력 토큰 100만 개당 $0.01이며 출력 토큰 요금은 없다. 30분·12시간 캐시 쓰기 요금은 별도 가격 안내에서 확인하도록 한다. 미국·EU 지역 처리를 지원하고, 자격을 갖춘 고객에게 Zero Data Retention을 제공한다.
🧩 주요 포인트
- 제한된 답변과 predicate·choice·score → 반복되는 분류·분기·평가를 애플리케이션의 후속 동작에 연결할 수 있다.
- GPT‑Live 연동과 최대 10배 속도 주장 → 대화 중 추가 질문, 요청 라우팅, 아바타 표정 선택처럼 반응 시간이 중요한 판단에 활용할 여지가 있다.
- 입력 토큰 과금과 프롬프트 캐싱 → 반복 맥락의 비용을 구분해 검토할 수 있다. 도입은 자주 발생하는 판단 하나의 질문·허용 답변·필요 맥락을 정의하고, Decisions Playground에서 실제 사용을 반영한 사례로 평가하는 방식으로 시작한다.
🧠 상세 정리
1. 반복되는 작은 판단을 위한 정식 출시
애플리케이션과 에이전트는 작업 흐름에서 입력을 분류하고, 요청을 전달할 곳을 고르며, 다음 행동을 결정하는 작은 판단을 반복한다. 원문은 각각의 판단은 단순하지만 규모가 커지면 지연 시간과 비용이 누적된다는 문제에서 출발한다. 정식 출시된 Decisions API는 GPT‑6 Luna의 지능을 답변 범위가 정해진 질문에 집중시켜 이런 판단을 처리하도록 설계됐다. 텍스트와 이미지, 구조화된 입력을 바탕으로 준실시간 결정을 지원하며, Responses API를 통한 GPT‑6 Luna 사용보다 최대 10배 빠르다고 설명한다. 이 수치는 원문이 제시한 최대 성능 표현으로, 모든 작업에서 동일한 속도 향상을 보장한다는 의미로 제시되지는 않는다.
2. 공개 베타 이후 확장된 기능과 처리 기반
공개 베타 이후에는 GPT‑Live와의 네이티브 연동, 반복해서 사용하는 맥락을 위한 프롬프트 캐싱, 미국과 EU의 추론 레지던시가 추가됐다. 개발자는 맥락을 네이티브 JSON으로 전달할 수 있고, 질문 지침 안에 이미지를 포함할 수도 있다. 요청 하나에 담을 수 있는 질문은 최대 400개로, 이전 한도의 두 배다. 지연 시간을 줄이기 위한 개선도 이어졌으며, 여기에는 아시아 여러 지역의 추가 처리 용량 확보가 포함된다. 원문은 이러한 변경을 입력 방식, 요청 규모, 실시간 연동, 지역 처리 선택의 확장으로 소개하지만, 각 변경에 따른 개별 성능 수치는 제시하지 않는다.
3. 내부 팀과 고객의 활용 사례
OpenAI 내부에서는 제품과 비즈니스의 여러 작업 흐름에 Decisions API를 적용하고 있다. dots 팀은 응답 시간을 줄이고 상호작용을 개선하는 데 활용하며, Personal Finance 팀은 거래 설명을 분류하는 데 사용한다. Communications 팀은 보도를 주제별로 분류하고 핵심 서사를 강화하는지 또는 반박하는지 평가해, 더 면밀히 검토할 대상을 찾는 데 활용한다. 고객의 적용 분야로는 AI 비용을 정확히 귀속하는 작업과 언어 학습 경험의 상호작용을 높이는 사례가 언급된다. 원문은 이를 빠르고 구조화된 판단이 유입 정보를 유용한 행동으로 연결할 수 있음을 보여주는 초기 사례로 제시하며, 사례별 정량 성과는 제공하지 않는다.
4. 질문에 맞춰 선택하는 세 가지 답변 유형
개발자는 질문과 허용되는 답변을 정의한 뒤 텍스트, 이미지 또는 네이티브 JSON으로 맥락을 제공하며, 애플리케이션은 반환값으로 다음 동작을 결정할 수 있다. predicate는 제품에 눈에 보이는 손상이 있는지처럼 조건의 참 여부를 판단하고, 그 조건이 참일 확률을 0~1 사이의 값으로 반환한다. choice는 에이전트가 계속 진행할지, 재시도할지, 추가 설명을 요청할지처럼 미리 제공한 선택지 중 하나를 고르며, 응답에는 확률과 신뢰도도 포함된다. score는 손상 심각도처럼 순서가 있는 평가 수준에 따라 입력을 평가하고, 수준 인덱스의 확률 가중평균을 반환한다. 세 유형은 각각 조건의 가능성, 선택지 결정, 단계별 평가라는 서로 다른 판단 형식을 지원한다.
5. GPT‑Live 대화 중 판단과 첫 평가 방법
GPT‑Live는 자연스럽고 표현력 있는 음성 대화와 매끄러운 끼어들기 처리를 제공하며, Decisions API의 네이티브 연동은 대화 중 빠르고 집중된 판단을 지원한다. 고객 지원 에이전트는 추가 질문, 요청 라우팅, 상위 단계 이관을 결정할 수 있고, 아바타는 사용자의 말에 따라 윙크나 미소 같은 표정을 선택할 수 있다. 원문의 예시는 기존 GPT‑Live 세션의 session.triggers에 설정을 추가하고, 전사문 갱신을 이용해 표정을 선택하는 흐름이다. Live가 decision.event를 내보내면 애플리케이션이 선택된 reaction을 읽어 캐릭터를 움직인다. 첫 도입은 자주 발생하는 판단 하나를 골라 질문·가능한 답변·필요 맥락을 정의한 뒤, Decisions Playground의 자체 텍스트나 이미지 또는 개발자 가이드의 첫 요청을 통해 실제 사용을 반영한 사례로 평가하도록 권한다.
6. 가격과 지역 처리·데이터 보존 조건
Decisions API는 GPT‑6 Luna와 함께 전용 Decisions 엔드포인트를 통해 정식 제공되며, 입력 토큰에 대해서만 요금을 부과한다. 일반 입력은 토큰 100만 개당 $0.10이고, 캐시된 입력은 토큰 100만 개당 $0.01이며 출력 토큰 요금은 없다. 원문은 30분 및 12시간 캐시 쓰기의 요금을 별도 가격 가이드에서 확인하도록 안내하므로, 캐시된 입력 단가만으로 모든 캐싱 비용을 설명하지는 않는다. 지역 처리는 미국과 EU에서 제공하며, Zero Data Retention은 자격을 갖춘 고객에게 제공된다. 현재 요율과 캐싱 세부 사항, 데이터 통제 조건은 각각의 가격·가용성 안내와 데이터 통제 문서에서 확인하도록 설명한다.
🧾 핵심 주장 / 시사점
- Decisions API의 활용 축은 자유로운 장문 생성보다, 허용 답변이 정해진 반복 판단을 빠르게 후속 동작으로 연결하는 데 있다.
- GPT‑Live 연동은 음성 대화의 내용에 따라 추가 질문이나 표정을 선택하게 하므로, 대화 생성과 애플리케이션의 즉각적인 반응을 연결하는 접점이 된다.
- 일반 입력과 캐시된 입력의 단가는 다르지만 캐시 쓰기 요금은 별도 안내 대상이므로, 반복 맥락의 비용은 캐시된 입력 단가만으로 판단하기 어렵다.
✅ 액션 아이템
- 반복 판단 하나의 질문·허용 답변·필요 맥락을 정의하고, predicate·choice·score 중 적합한 유형을 골라 Decisions Playground에서 실제 사용 사례로 평가.
- GPT‑Live의 추가 질문·요청 라우팅·아바타 표정 선택 중 적용할 판단을 선정하고, 최대 10배 속도 주장이 실제 사용에서 어떤 반응 시간 개선으로 이어지는지 평가.
- 입력 토큰 100만 개당 $0.10과 캐시된 입력 토큰 100만 개당 $0.01을 기준으로 비용을 검토하고, 30분·12시간 캐시 쓰기 요금을 함께 확인.
❓ 열린 질문
- Decisions API의 최대 10배 속도 향상은 실제로 도입하려는 반복 판단에서 어느 정도 재현되는가?
- 요청당 400개 질문을 사용하는 경우에도 GPT‑Live 활용에 필요한 반응 시간을 충족하는가?
- 미국·EU 지역 처리와 Zero Data Retention의 고객 자격 조건은 도입하려는 서비스에 어떻게 적용되는가?
