OpenAI's Decisions API vs Jev: Inside the Decision-Model Architecture

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

OpenAI의 Decisions API는 GPT-6 Luna의 답변을 사전 정의된 선택지로 제한하고, TypeSafe AI의 Jev는 판단 전용 모델로 같은 문제를 해결하지만, OpenAI의 공개 계약과 가격이 없어 성능·비용의 직접 비교는 아직 어렵다.

📌 핵심 요약

• OpenAI는 2026년 9월 29일 Decisions API를 발표했다. 텍스트 또는 이미지를 받아 유한한 사전 정의 답변 중 하나를 선택하며, 현재 일부 고객 대상 제한적 프리뷰이고 광범위한 공개는 수일 내로 계획되어 있다.
• 결정 API는 콘텐츠 분류, 요청 라우팅, 에이전트의 다음 행동 선택처럼 산문이 필요 없는 제어 흐름을 대상으로 한다. 원문은 답변 공간을 추론 전에 제한하면 텍스트 파싱·형식 검증·재시도 부담을 줄일 수 있다고 설명하지만, 형식 보장이 판단의 정확성을 보장하지는 않는다는 반론도 제시한다.
• 2026년 9월 30일 기준 OpenAI는 Decisions API의 엔드포인트, 인증, SDK 메서드, 요청·응답 스키마, 확률 반환 여부, 복수 질문 지원, 컨텍스트 한도와 가격을 공개하지 않았다. 이미지 입력은 확인되었으며, GPT-6 Luna의 기존 요금인 입력 100만 토큰당 $0.10·출력 $0.50을 Decisions API 가격으로 확정할 수는 없다.
• OpenAI는 Decisions API의 지연 시간을 150 ms, 일반 GPT-6 Luna 호출을 1.6 s로 제시하며 10배 속도 향상을 주장했다. Jev의 OpenRouter 운영 측정치는 2026년 10월 1일 기준 P50 0.21 s, P95 0.34 s, P99 0.75 s이며, 측정 조건이 달라 직접적인 우열 판단에는 공동 벤치마크가 필요하다.
• TypeSafe AI가 2026년 9월 15일 출시한 Jev는 일반 공개된 판단 전용 모델로, Choice·Score·Noul을 한 호출에 혼합하고 확률 정보를 반환한다. 텍스트만 입력받으며 입력 100만 토큰당 $0.042, 출력 토큰 요금 $0이다. OpenAI의 진입에 대해 개발자들은 Jev의 경쟁 우위 약화와 결정 모델 시장의 검증이라는 상반된 해석을 내놓았다.

🧩 주요 포인트

1. 생성 모델을 제한하는 GPT-6 Luna와 판단만 수행하는 Jev의 구조 차이 → 텍스트 생성 가능성, 확률 정보와 출력 과금 방식을 구분해 평가해야 한다.
2. OpenAI의 이미지 입력과 Jev의 텍스트 전용 입력 → 화면을 보고 판단하는 에이전트에서는 입력 방식이 선택을 좌우하며, 모델의 판단 이후에도 권한·자원 범위·속도 제한·업무 정책은 코드가 집행해야 한다.
3. OpenAI의 미공개 계약과 서로 다른 지연 시간 측정 조건 → 구현 가능성과 성능·비용 비교에는 불확실성이 남고, 경쟁사의 진입만으로 Jev의 생존이나 시장의 승자를 확정할 수 없다.

🧠 상세 정리

1. 에이전트의 작은 판단과 두 제품의 등장

원문은 에이전트가 셸 명령의 가역성처럼 예 또는 아니오로 답할 수 있는 질문에도 일반 언어 모델 호출 전체를 사용한다는 문제에서 출발한다. 다음 도구 선택, 페이지의 관련성 판단, 행동의 확인 필요 여부, 적절한 모델 등급 선택 역시 산문보다 짧은 판단 결과가 필요한 작업이다. 그러나 채팅 모델을 사용하면 프롬프트를 만들고 텍스트를 생성한 뒤 응답을 파싱하고 형식을 검증하며, 결과가 어긋날 때 재시도하는 부담이 발생한다. OpenAI는 2026년 9월 29일 DevDay에서 이 문제를 겨냥한 Decisions API를 발표했고, 이는 TypeSafe AI가 9월 15일 Jev를 출시한 지 14일 뒤였다. 저자는 에이전트의 반복적인 분기마다 이런 비용이 누적되면 제어 흐름 자체가 실제 작업보다 비싸질 수 있다는 문제의식을 제시한다.

2. Decisions API의 범위와 구조화 출력에 대한 반론

OpenAI의 공개 설명에 따르면 Decisions API는 개발자가 정한 특정 질문과 유한한 사전 정의 답변에 GPT-6 Luna의 판단을 집중시키는 엔드포인트다. 개발자는 텍스트나 이미지로 맥락을 제공하고, 콘텐츠 분류·요청 라우팅·에이전트의 다음 행동 선택에 사용할 답을 받으며, 이 엔드포인트는 초안 작성이나 요약·설명을 수행하지 않는다. 접근은 일부 API 고객의 테스트를 위한 제한적 프리뷰로 제공되며, 발표에서는 수일 내 광범위한 공개를 계획한다고 밝혔다. 저자는 구조화 출력이 생성되는 텍스트의 형태를 제한하는 반면 결정 엔드포인트는 추론 전에 답변 공간을 제한하므로 호출 시간과 형식 처리 부담을 함께 줄인다고 설명한다. 그러나 Hacker News의 alex_sf는 보장되는 것은 정확성이 아니라 특정 형식이며, 어떤 LLM에서도 문법 제약으로 같은 효과를 얻을 수 있다고 반박했다. 따라서 원문은 결정 API의 효용을 소개하면서도 형식의 안정성과 판단의 정확성을 구분해야 한다는 논쟁을 함께 담는다.

3. 상태·질문·선택지·정책 집행으로 나뉘는 설계

공개 스키마가 없는 상태에서 저자는 결정 API의 설계를 상태 수집, 제한된 질문 정의, 답변 공간에서 선택, 코드에 의한 결과 집행이라는 네 단계로 설명한다. 상태에는 티켓, 수집한 페이지, 제안된 도구 호출, 스크린샷처럼 해당 질문에 답하는 데 필요한 증거를 담고, 사람이 같은 판단을 할 때 필요한 범위로 맥락을 제한한다. 질문은 두 엔지니어가 정답의 기준에 동의할 만큼 구체적이어야 하며, 막연히 다음 행동을 묻기보다 승인된 네 경로 중 어디에 해당하는지 묻는 방식이 예시로 제시된다. 모델은 제공된 선택지 중 하나를 고르고, 애플리케이션은 이를 권한·자원 범위·속도 제한·업무 정책을 관리하는 코드의 입력으로 사용한다. 저자는 모델이 의미를 판단할 수 있어도 권한 부여의 주체가 되어서는 안 된다고 강조하며, ‘안전해 보인다’는 판단에 0.97이 붙어도 계정에 없던 권한이 생기는 것은 아니라고 설명한다.

4. 공개되지 않은 OpenAI의 API 계약

저자는 2026년 9월 30일 기준 Decisions API의 공개 계약이 없다고 보고하며, API 가이드와 엔드포인트 참조 색인, 5 MB 통합 문서 내보내기, 공개 OpenAPI 명세, Python·Node·Go SDK에서 관련 항목을 찾지 못했다고 설명한다. DevDay 요약에서도 해당 구역의 다른 발표와 달리 Decisions API에는 추가 설명으로 연결되는 ‘Learn more’ 링크가 없었다고 지적한다. 미공개 항목은 엔드포인트 경로와 인증, SDK 메서드, 요청·응답 스키마, 확률이나 신뢰도 반환, 호출당 복수 질문, 컨텍스트 한도, 가격과 출력 토큰 과금 방식이다. 이미지 입력은 확인되었지만, 출시 파트너인 Vercel도 옵션별 확률·평가 점수·예 또는 아니오의 확률을 반환하는지는 발표에 명시되지 않았다고 밝혔다. 이 때문에 저자는 당시 OpenAI Decisions API의 구체적인 요청 본문을 제시하는 글은 공개 근거가 없는 구성이라고 경고하며, 제품 소개와 실제 구현 계약을 구분한다.

5. 150 ms 주장과 Jev 운영 측정치의 비교 한계

OpenAI의 DevDay 슬라이드는 Decisions API를 150 ms, 일반 GPT-6 Luna API를 1.6 s로 표시하면서 앱과 에이전트가 10배 빠르게 행동하도록 돕는다고 주장한다. 저자는 이것이 OpenAI 자체의 가장 저렴한 모델을 기존 방식으로 호출하는 경우와의 내부 비교이므로 의미는 있지만, 다른 업체와의 경쟁 성능을 직접 설명하지는 못한다고 본다. OpenAI의 제품 책임자 Tibo Sottiaux는 종단 간 시간이 수백 밀리초 미만이라는 보다 느슨한 표현도 사용했다. 한편 원문이 인용한 OpenRouter의 Jev 운영 데이터는 2026년 10월 1일 기준 P50 0.21 s, P95 0.34 s, P99 0.75 s다. OpenAI의 150 ms는 조건이 명시되지 않은 공급업체 주장이고 Jev의 210 ms는 실제 트래픽에서 측정된 중앙값이므로, 저자는 두 제품을 함께 벤치마크하기 전까지 비슷한 지연 시간 범주로 취급하겠다고 밝힌다.

6. Jev의 판단 전용 구조와 공개 기능

Jev는 전 OpenAI 연구원 Diogo Almeida가 설립한 TypeSafe AI의 제품으로, 2026년 9월 15일 출시되어 대기 명단 없이 일반적으로 사용할 수 있다. TypeSafe는 이를 ‘System One’ 모델로 소개하면서 글쓰기를 배우지 않았고 상태를 받아 형식이 정해진 판단을 반환한다고 설명한다. OpenRouter에 문서화된 Choice는 선택된 옵션과 모든 옵션의 확률 및 신뢰도를, Noul은 조건이 성립할 확률을, Score는 순서가 있는 평가 기준에서 확률로 가중한 위치와 전체 분포를 반환하며 세 유형은 한 호출에 혼합할 수 있다. 입력은 문자열·JSON 객체·배열 형태의 텍스트만 지원하고, 컨텍스트 한도는 OpenRouter에서 32K, TypeSafe 문서에서 64K로 각각 제시된다. 공개 스키마와 Python·JS SDK가 있으며, 가격은 입력 100만 토큰당 $0.042이고 출력 토큰 요금은 $0이다. 저자는 Jev가 텍스트를 생성하지 않는 전용 모델이라는 점을 OpenAI가 생성 모델의 역할을 좁히는 접근과 구분한다.

7. 구조·이미지 입력·가격·이름에서 드러나는 차이

원문은 비교에서 중요한 차이로 제한된 생성 모델과 목적에 맞게 만든 모델의 구조, 이미지 입력, 제품 이름의 충돌을 꼽는다. OpenAI는 GPT-6 Luna의 역할을 좁히지만 기반 모델은 글을 생성할 수 있고, Jev는 TypeSafe가 ‘Reinforcement Learning for Calibrated Decisions’라고 부르는 방식으로 학습된 판단 전용 모델이라 구조적으로 텍스트를 생성하지 못한다. GPT-6 Luna의 기존 가격은 입력 100만 토큰당 $0.10과 출력 $0.50이며 Jev는 입력 $0.042와 출력 $0이지만, Decisions API 자체의 요금은 공개되지 않아 Luna의 가격을 그대로 적용할 수 없다. 이미지 입력은 원문이 제시하는 OpenAI의 명확한 강점으로, Sam Altman의 컴퓨터 사용 에이전트 시연과 Romain Huet의 시각 정보를 바탕으로 거의 실시간 행동을 하는 로봇 설명에 연결되며, 텍스트만 받는 Jev는 스크린샷을 직접 볼 수 없다. 또한 OpenRouter는 이미 Jev를 제공하는 POST https://openrouter.ai/api/alpha/decisions 엔드포인트를 Decisions API라는 이름으로 운영하고 있어, OpenAI의 동명 제품과 검색 결과나 문서에서 혼동될 수 있다.

8. 개발자 반응과 Jev의 경쟁력에 대한 상반된 해석

원문에 따르면 Decisions API의 Hacker News 게시물은 6점을 얻었고, 일부 댓글은 2주 전 Jev에 쏠렸던 관심과의 차이를 지적했다. 두 출시 사이 14일 동안 Hacker News 첫 화면에는 Jev의 커뮤니티 재구현 여섯 개가 등장했으며, ‘Jev in 25 Lines of Python’은 691점, 집에서 학습한 Jev 호환 0.8B 모델 묶음인 Jeff는 566점을 기록했다. 저자는 OpenAI의 제품을 이 흐름의 일곱 번째 사례이자 공개 스키마가 없는 첫 사례로 설명하고, 일부 이용자는 빠른 경쟁 제품 등장 때문에 Jev의 지속적인 경쟁 우위가 약하다고 해석했다고 전한다. Jev가 인수를 노린 제품이었다는 추측과 Reddit의 ‘Jev Is Dead’ 글도 소개되지만, 다른 이용자들은 OpenAI의 진입 자체가 Jev가 만든 제품 범주의 실재성을 입증한다고 반대로 평가했다. Diogo Almeida는 기조연설 90분 뒤 반응 게시물을 올려 647개의 좋아요를 받았으며, 원문에는 그 게시물의 구체적인 내용이 제시되지 않는다. Sottiaux의 게시물 아래에서는 경쟁사를 모방한 것이냐는 질문과 작은 업체가 설 자리가 없다는 반응이 각각 200개 이상의 좋아요를 얻어, 논쟁이 제품 기능을 넘어 경쟁 환경으로 확장되었음을 보여준다.

🧾 핵심 주장 / 시사점

• 결정 결과의 형식이 안정되면 에이전트의 파싱과 재시도 부담을 줄일 수 있지만, 그 결과가 정확하거나 실행 권한을 갖는다는 뜻은 아니다.
• 이미지 입력이 필요한 판단에서는 OpenAI의 지원 여부가 실질적인 차이가 되며, 텍스트 판단에서는 Jev의 공개 기능과 가격을 더 구체적으로 검토할 수 있다.
• OpenAI의 진입은 Jev에 경쟁 압력을 주는 동시에 결정 모델 범주에 대한 관심을 확인해 주지만, 공개 계약과 비교 측정이 부족한 상태에서 승패를 단정하기는 어렵다.

✅ 액션 아이템

• OpenAI Decisions API의 요청·응답 스키마, 확률 반환 여부와 가격 공개 상태를 확인해 구현 가능성을 검토한다.
• 150 ms와 Jev의 P50 0.21 s가 서로 다른 측정 조건에서 나온 점을 반영해 공동 벤치마크로 성능을 평가한다.
• 이미지 입력 필요 여부와 Jev의 텍스트 전용 제약을 기준으로 적용 대상을 구분하고, 판단 이후 권한·자원 범위·속도 제한·업무 정책을 코드에서 집행한다.

❓ 열린 질문

• OpenAI Decisions API의 공개 계약에는 어떤 요청·응답 스키마, 확률 정보와 가격이 포함될 것인가?
• 동일한 조건의 공동 벤치마크에서도 OpenAI의 150 ms와 Jev의 P50 0.21 s 사이에 성능 차이가 나타나는가?
• 적용하려는 에이전트의 판단에는 이미지 입력이 필요한가, 아니면 Jev의 텍스트 전용 입력으로 충분한가?