Gemini Decisions API: Fast, calibrated multimodal decisions

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Google은 Gemini Decision 1 기반 Gemini Decisions API를 공개해, 하나의 멀티모달 입력에 대한 최대 1,000개의 제한된 선택형 질문을 단일 순전파로 평가하고 확률과 신뢰도를 반환한다고 밝혔다.

📌 핵심 요약

• 2026년 11월 11일 발표된 Gemini Decisions API는 Google AI Studio의 Gemini API에서 제공되며, Gemini Decision 1(gemini-decision-1)을 사용한다. 텍스트·이미지·오디오·비디오·PDF를 포함한 최대 256K 토큰 입력에 대해 최대 1,000개의 독립 질문을 처리한다.
• Google은 에이전트 라우팅·추론·순위화·멀티모달 이해 벤치마크 전반에서 Gemini Decision 1이 선두 성능과 가장 낮은 보정 오차를 보였다고 주장한다. 최대 16K 토큰 문맥에서 모델 연산 지연 중앙값은 50~100ms, 종단 간 지연은 150~250ms이며, 요청당 질문이 1개에서 100개로 늘어도 지연이 거의 일정하다고 설명한다.
• 가격은 입력 100만 토큰당 0.10달러이고 출력 토큰 요금은 0달러다. 공유 입력은 요청당 한 번 과금하고 질문별 지시문·기준 토큰만 추가하며, 공통 벤치마크 모음에서는 Interactions API의 Gemini 3.5 Flash-Lite보다 비용이 약 5배 저렴하다고 Google은 설명한다.
• 한 요청에서 예/아니요 판단인 noul, 2~255개 후보 중 선택하는 choice, 0부터 시작하는 순서형 평가 기준을 사용하는 score를 혼합할 수 있다. 각 답변은 0~1의 신뢰도를 포함하며, 이를 이용해 모호한 사례를 대체 처리 경로나 사람 검토로 보낼 수 있다.
• Google 내부에서는 Gemini Notebook의 모델 라우팅, Stitch의 빠른 제품 흐름 설계·수정, CC의 200개 이상 후보 중 이모지 선택, Google Search의 MCP 도구 안전 계층에 활용하고 있다. Gemini Notebook은 일상적 질의의 지연을 최대 40% 줄이고 복잡한 작업에는 심층 추론 모델을 배정한다고 설명한다.

🧩 주요 포인트

1. 최대 1,000개 질문이 하나의 멀티모달 입력을 공유하고 입력도 한 번 과금됨 → 동일 자료에 대한 여러 판단을 묶어 처리할 때 비용과 호출 구조를 단순화할 수 있다.
2. 후보별 확률과 0~1 신뢰도를 제공하고 낮은 보정 오차를 주장함 → 모델 라우팅·정책 검사에서 자동 처리와 사람 검토를 나누는 근거로 활용할 수 있다.
3. 최대 입력은 256K 토큰이지만 구체적인 지연 설명은 최대 16K 토큰·질문 1~100개 조건임 → 최대 용량과 공개된 성능 조건을 구분해 적용 가능성을 판단해야 한다.

🧠 상세 정리

1. 제한된 선택을 위한 전용 API

Google DeepMind의 Min Choi와 Felix Yu는 2026년 11월 11일 Gemini Decision 1 모델을 사용하는 Gemini Decisions API를 소개했다. 이 API는 Google AI Studio의 Gemini API를 통해 제공되며, 도구 선택·정책 검사·모델 라우팅·문맥 평가처럼 후보와 판단 범위가 정해진 작업을 겨냥한다. 하나의 입력에 텍스트·이미지·오디오·비디오·PDF를 담을 수 있고, 최대 입력 길이는 256K 토큰이며 최대 1,000개의 독립 질문을 함께 전달할 수 있다. 모델은 답변 문장을 토큰별로 생성하는 대신 단일 순전파로 후보를 평가해 확률과 신뢰도를 반환한다. 원문은 이러한 구조를 질의 분배, 콘텐츠 평가, 정책 규칙 확인에 활용할 수 있는 빠르고 비용 효율적인 판단 수단으로 제시한다.

2. 성능·보정과 지연 수치의 적용 범위

Google은 에이전트 라우팅·추론·순위화·멀티모달 이해를 포괄하는 벤치마크 모음에서 Gemini Decision 1이 선두 성능과 가장 낮은 보정 오차를 기록했다고 주장한다. 다만 본문에는 개별 벤치마크의 점수나 보정 오차의 구체적인 수치가 제시되지 않는다. 토큰별 디코딩 없이 후보를 평가하는 방식으로, 최대 16K 토큰의 멀티모달 입력과 문맥에서 모델 연산 지연 중앙값이 50~100ms이고 종단 간 지연은 150~250ms라고 설명한다. 요청당 질문 수가 1개에서 100개로 증가해도 지연은 거의 일정하다고 덧붙인다. 따라서 최대 256K 토큰·1,000개 질문이라는 지원 한도와, 본문에서 구체적으로 설명한 지연 측정 조건은 구분해 읽어야 한다.

3. 멀티모달 입력과 세 가지 판단 유형

Gemini Decision 1은 Gemini의 네이티브 멀티모달 구조를 바탕으로 여러 입력 형식을 직접 처리하며, 통화 녹음과 계정 메타데이터 또는 스캔한 청구서 PDF와 피해 사진을 하나의 공유 입력으로 결합할 수 있다. 이미지와 비디오는 해상도를 조정해 시각적 세부 정보와 토큰 비용을 제어할 수 있다. 질문 유형 중 noul은 예/아니요 조건이 성립할 확률을 추정하며 참과 거짓의 설명 기준을 선택적으로 지정할 수 있고, choice는 2~255개 후보에서 승자를 선택하면서 모든 후보의 정규화된 확률을 반환한다. score는 0부터 시작하는 순서형 평가 기준에 따라 연속적인 가중 점수와 단계별 확률을 제공한다. 세 유형은 한 요청에 혼합할 수 있으며, 모든 답변에 포함되는 0~1의 신뢰도를 이용해 모호한 사례를 대체 처리 경로나 사람 검토로 보낼 수 있다.

4. 공유 입력을 활용하는 요청 예시

입력 필드는 Interactions API와 동일한 Content 블록 형식을 사용하며, 원문은 Python의 google-genai 클라이언트로 세 가지 판단 유형을 한꺼번에 요청하는 예시를 제시한다. 예시 입력은 휴게 공간 조리대 사진과 오전 9시 고객 회의 전 점검이라는 텍스트 메모로 구성된다. has_spill은 닦지 않은 액체가 있는지 판단하고, next_action은 천으로 닦기·청소 담당자 투입·회의 준비 완료 중 장면에 맞는 행동을 선택한다. severity는 깨끗한 상태, 국소적인 가벼운 유출, 큰 유출 또는 안전 위험이라는 순서형 기준으로 상태를 평가한다. 이 예시는 동일한 사진과 메모를 공유하면서 상태 확인, 행동 선택, 심각도 평가를 한 요청으로 묶는 방식을 보여주며, 실제 응답 결과나 신뢰도 수치는 제시하지 않는다.

5. Google 내부의 활용 사례

Google은 여러 내부 팀이 별도 분류기를 학습하거나 생성형 호출을 기다리는 대신 선택지를 정의하는 방식으로 Decisions API를 지연이 낮은 제어 계층에 활용하고 있다고 설명한다. Gemini Notebook은 질의 의도를 밀리초 단위로 분류해 모델 등급과 추론 수준을 배정하며, 일상적인 질의의 지연을 최대 40% 낮추면서 복잡한 작업에는 심층 추론 모델을 남겨 둔다고 한다. Stitch의 rapid canvas 실험은 수초 안에 조작 가능한 제품 흐름 와이어프레임을 만들고 음성이나 탭으로 요청한 수정을 거의 즉시 반영하며, 이후 전체 Stitch 환경으로 화면을 넘겨 디자인을 다듬는다. Google Labs의 CC는 200개가 넘는 후보에서 이모지 반응을 순식간에 선택하는 데 API를 사용한다. Google Search는 MCP 도구의 안전 계층에서 적대적 행동과 콘텐츠를 탐지하는 데 활용하며, 원문은 적대적 평가에서 지연 제약을 충족하면서 높은 효과를 보였다고 설명하지만 구체적인 성능 수치는 밝히지 않는다.

6. 과금 방식과 개발·통합 현황

Gemini Decision 1의 가격은 입력 100만 토큰당 0.10달러, 출력 토큰당 0달러이며, Google AI Studio에는 시제품 개발에 사용할 수 있는 무료 이용 구간이 있다. 공유 입력은 질문 수와 관계없이 요청당 한 번만 과금되고 각 질문의 지시문과 평가 기준 토큰만 추가되며, 별도의 추론 토큰 변동 요금이나 오디오 전사·OCR 비용은 없다고 설명한다. Google은 공통 벤치마크 모음에서 Decisions API의 Gemini Decision 1이 Interactions API의 Gemini 3.5 Flash-Lite보다 비용이 약 5배 저렴하다고 주장한다. 개발자는 Google AI Studio에서 API 키를 발급받고 Doorstep Parcels, Speed Sketch, Find the Zoo Keeper 데모와 Python·JavaScript·REST 문서를 이용할 수 있다. google-genai SDK와 함께 OpenRouter·LangChain·Vercel·LiteLLM·Pydantic AI·Pipecat·LiveKit·OpenCode 통합이 순차적으로 제공되고 있으며, Google Cloud의 Gemini 지원은 곧 제공될 예정이라고 밝혔다.

🧾 핵심 주장 / 시사점

• 후보가 정해진 판단을 단일 순전파로 처리하는 구조는 모델 라우팅이나 정책 검사처럼 응답 속도가 중요한 작업에 연결된다. 원문은 이를 Google 내부 제품의 실제 활용 사례로 뒷받침한다.
• 확률과 신뢰도를 반환하는 기능은 자동 판단 이후의 처리 경로를 정하는 데 의미가 있다. 다만 낮은 보정 오차라는 주장만으로 모든 업무에서 신뢰도 수치의 적합성이 확인된 것은 아니며, 본문에는 구체적인 보정 수치가 없다.
• 공유 입력을 한 번만 과금하는 방식은 동일 자료에 여러 질문을 적용할 때 비용상 이점을 제공할 수 있다. 질문별 지시문과 평가 기준 토큰은 추가되므로, 질문 수가 늘어도 전체 입력 비용이 완전히 고정되는 구조는 아니다.

✅ 액션 아이템

• Google AI Studio에서 Gemini Decision 1의 멀티모달 입력과 최대 1,000개 독립 질문 처리 방식을 시험한다.
• 모델 라우팅·정책 검사에서 0~1 신뢰도를 활용한 자동 처리와 사람 검토의 분기 기준을 검토한다.
• 최대 256K 토큰 입력과 공개된 최대 16K 토큰·질문 1~100개 지연 조건을 구분해 적용 가능성과 비용을 평가한다.

❓ 열린 질문

• 최대 256K 토큰 입력과 최대 1,000개 질문을 사용할 때도 종단 간 지연 150~250ms가 유지되는가?
• 모델 라우팅·정책 검사에서 0~1 신뢰도의 어느 수준을 사람 검토로 보내는 기준으로 삼을 수 있는가?
• 공유 입력을 한 번 과금하고 질문별 지시문·기준 토큰을 추가하는 구조에서 질문 수에 따라 전체 비용은 어떻게 달라지는가?