🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Baseten이 허깅페이스 Inference Provider로 추가되어 대화·텍스트 생성 모델을 웹 UI, SDK, OpenAI 호환 클라이언트 및 주요 Agent Harness에서 두 가지 인증·결제 방식으로 이용할 수 있게 됐다.

📌 핵심 요약

• 허깅페이스는 2026년 8월 6일 Baseten을 Hub의 공식 Inference Provider로 추가했다고 발표했다.
• 초기 연동은 대화 및 텍스트 생성 작업을 대상으로 하며 Kimi K3, DeepSeek V4 Flash, GLM-5.2 등 오픈 가중치 LLM을 지원한다.
• 사용자는 공급자별 자체 API 키로 Baseten에 직접 요청하거나, 허깅페이스 토큰을 사용해 요청과 요금을 허깅페이스 계정으로 라우팅할 수 있다.
• Baseten은 Python·JavaScript용 허깅페이스 SDK와 OpenAI 호환 API를 통해 호출할 수 있으며 Pi, OpenCode, Hermes Agents, OpenClaw 등의 Agent Harness에도 연결된다.
• 직접 요청은 해당 공급자 계정에 청구되고 허깅페이스 경유 요청에는 별도 가산금이 없으며, PRO 이용자는 매달 공급자 공통 추론 크레딧 2달러를 받는다.

🧩 주요 포인트

1. Baseten의 공급자 합류 → 허깅페이스 모델 페이지와 개발 도구에서 선택할 수 있는 서버리스 추론 경로가 확대됐다.
2. 자체 키와 허깅페이스 라우팅의 병행 지원 → 인증 주체와 청구 계정을 사용자가 이용 방식에 맞게 선택할 수 있다.
3. 초기 지원 범위를 대화·텍스트 생성으로 한정 → Baseten의 전체 모델 유형이 한꺼번에 연동된 것은 아니며 추가 작업은 향후 지원 대상이다.

🧠 상세 정리

1. Baseten의 Inference Provider 합류

허깅페이스는 2026년 8월 6일 Baseten이 Hub의 공식 Inference Provider로 추가됐다고 발표했다. 이번 합류로 모델 페이지에서 이용할 수 있는 서버리스 추론 공급자와 모델 선택지가 넓어졌으며, 공급자 기능은 Python과 JavaScript 클라이언트 SDK에도 연결된다. Baseten은 서버리스 AI와 학습 등을 제공하는 AI 인프라 플랫폼으로, 다양한 프런티어 모델을 최소한의 설정으로 애플리케이션에 통합할 수 있도록 지원한다. 초기 연동 범위는 대화 및 텍스트 생성 작업이며 Kimi K3, DeepSeek V4 Flash, GLM-5.2 같은 오픈 가중치 LLM이 포함된다. 텍스트 음성 변환 등을 포함한 Baseten의 전체 모델 유형이 처음부터 연동되는 것은 아니며, 허깅페이스는 추가 작업 지원을 순차적으로 확대할 예정이라고 밝혔다.

2. 웹 UI의 공급자 설정과 두 가지 호출 방식

웹 UI의 사용자 계정 설정에서는 가입한 추론 공급자의 자체 API 키를 등록하고, 여러 공급자를 원하는 순서대로 배치할 수 있다. 설정한 공급자 우선순위는 모델 페이지의 위젯과 코드 예시에 적용되며, 각 모델 페이지에는 해당 모델과 호환되는 제3자 공급자가 사용자 선호 순서에 따라 표시된다. 자체 키 방식에서는 해당 공급자의 API 키를 사용해 요청이 공급자로 직접 전달된다. 허깅페이스 라우팅 방식에서는 별도의 공급자 토큰 없이 허깅페이스 계정으로 인증하고, 요청과 비용을 허깅페이스 계정에서 처리한다. 따라서 같은 모델 페이지를 사용하더라도 어떤 인증 방식을 선택했는지에 따라 실제 요청 경로와 청구 대상이 달라진다.

3. Python·JavaScript 및 OpenAI 호환 API 사용

Baseten은 Python용 huggingface_hub 1.26.1 이상과 JavaScript용 @huggingface/inference를 통해 이용할 수 있다. 본문은 DeepSeek V4 Flash를 호출하는 예시로 Python과 JavaScript의 OpenAI 클라이언트를 각각 제시한다. 두 예시 모두 기본 URL을 https://router.huggingface.co/v1로 설정하고, 환경 변수의 허깅페이스 토큰으로 인증한다. 모델 식별자는 deepseek-ai/DeepSeek-V4-Flash-0731:baseten처럼 모델 이름 뒤에 Baseten 공급자를 명시하며, 요청은 허깅페이스 라우터를 거쳐 자동으로 Baseten에 전달된다. 예제는 동일한 사용자 메시지를 채팅 완성 API에 보내고 생성된 응답 메시지를 출력하는 흐름을 보여준다.

4. Agent Harness와의 연동

허깅페이스 Inference Providers는 Pi, OpenCode, Hermes Agents, OpenClaw 등을 포함한 다수의 Agent Harness에 통합되어 있다. 따라서 해당 도구에서는 별도의 연결용 코드를 추가하지 않고도 Baseten이 호스팅하는 모델을 사용할 수 있다고 본문은 설명한다. 이는 Baseten 접근 경로가 웹 모델 페이지나 독립적인 SDK 호출에만 한정되지 않고, 기존 에이전트 실행 환경까지 이어진다는 의미다. 허깅페이스는 지원되는 Agent Harness와 기타 연동 대상의 전체 목록을 별도 페이지에서 제공한다. 다만 본문에는 각 Harness의 구체적인 설정 절차, 요구 버전 또는 기능별 차이까지는 제시되어 있지 않다.

5. 요금 청구와 추론 크레딧

공급자의 자체 API 키를 사용한 직접 요청은 해당 공급자가 요금을 청구하며, Baseten 키를 사용하면 Baseten 계정에 비용이 부과된다. 반대로 허깅페이스 Hub를 통해 인증한 라우팅 요청은 허깅페이스 계정에서 비용이 처리된다. 허깅페이스는 라우팅 요청에도 공급자의 표준 API 요율만 적용하고 별도의 가산금을 붙이지 않는다고 설명했으며, 향후 공급자 파트너와 수익 공유 계약을 맺을 가능성은 별도로 언급했다. PRO 이용자는 여러 공급자에서 사용할 수 있는 추론 크레딧 2달러를 매달 받는다. 로그인한 무료 이용자에게도 소규모 무료 추론 할당량이 제공되며, PRO 요금제에는 추론 크레딧 외에 ZeroGPU, Spaces 개발 모드, 더 높은 사용 한도 등의 혜택이 포함된다.

6. 현재 지원 범위와 다음 단계

현재 Baseten이 지원하는 전체 모델 목록은 허깅페이스가 연결한 별도 목록에서 확인할 수 있으며, Baseten의 허깅페이스 프로필은 https://huggingface.co/baseten에서 제공된다. 실제 모델 페이지에는 현재 모델과 호환되는 공급자만 표시되므로, 특정 모델의 이용 가능 여부는 해당 페이지와 지원 목록을 기준으로 확인해야 한다. 이번 발표 시점의 공식 지원 작업은 대화와 텍스트 생성이며, 다른 작업 유형은 이후 추가될 예정이지만 본문에는 구체적인 일정이나 순서가 제시되지 않았다. 허깅페이스는 사용자에게 통합 경험에 관한 의견과 댓글을 요청하고, Hugging Discussions의 전용 토론 페이지를 피드백 창구로 안내했다. 따라서 이번 발표는 초기 LLM 연동의 제공과 함께 지원 모델·작업 범위를 계속 확장하기 위한 의견 수렴 단계도 포함한다.

🧾 핵심 주장 / 시사점

• API 키 선택은 단순한 인증 설정이 아니라 요청 경로와 청구 주체를 결정한다. 자체 키는 Baseten 직접 청구, 허깅페이스 토큰은 허깅페이스 계정 청구로 연결된다.
• 허깅페이스 라우터 주소와 공급자 접미사가 포함된 모델 식별자를 사용하면 OpenAI 호환 클라이언트에서도 Baseten 모델을 지정해 호출할 수 있다.
• Baseten이 다양한 모델 유형을 제공하더라도 이번 초기 허깅페이스 연동의 공식 범위는 대화와 텍스트 생성에 한정되며, 다른 작업 유형은 아직 추가 지원 대상으로 남아 있다.

✅ 액션 아이템

• 대화·텍스트 생성 경로에서 Baseten을 허깅페이스 모델 페이지와 SDK, OpenAI 호환 클라이언트 선택지에 포함해 비교한다.
• 자체 Baseten API 키 직접 청구와 허깅페이스 토큰 라우팅 중 인증 주체·청구 계정을 이용 방식에 맞게 정한다.
• 초기 지원 모델인 Kimi K3, DeepSeek V4 Flash, GLM-5.2 중심으로 연동 범위를 정하고 그 외 작업 유형은 후속 대상으로 구분한다.

❓ 열린 질문

• 자체 키 직접 요청과 허깅페이스 경유 라우팅 중 어떤 조건에서 어느 청구 경로가 유리한가?
• Kimi K3, DeepSeek V4 Flash, GLM-5.2 외에 대화·텍스트 생성으로 곧 확장될 모델 범위는 어디까지인가?
• Pi, OpenCode, Hermes Agents, OpenClaw 연동에서 Baseten 선택 시 기본 인증·결제 방식은 어떻게 맞춰야 하는가?