🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

OVHcloud가 Hugging Face Inference Provider로 추가되어 사용자는 Hub와 Python·JavaScript SDK에서 다양한 오픈 웨이트 모델을 OVHcloud의 서버리스 추론 환경으로 호출할 수 있게 됐다.

📌 핵심 요약

• OVHcloud가 Hugging Face Hub의 공식 Inference Provider로 합류해 gpt-oss, Qwen3, DeepSeek R1, Llama 등 지원 모델에 대한 접근 경로를 제공한다.
• OVHcloud AI Endpoints는 완전 관리형 서버리스 서비스이며, 토큰 100만 개당 €0.04부터 시작하는 종량제 가격과 텍스트 생성·임베딩 모델을 지원한다.
• 유럽 데이터센터 기반 인프라를 통해 데이터 주권과 유럽 사용자를 위한 낮은 지연 시간을 제공하며, 구조화 출력·함수 호출·텍스트 및 이미지 멀티모달 기능도 지원한다.
• 사용자는 자신의 OVHcloud API 키로 직접 호출하거나 Hugging Face 토큰으로 요청을 라우팅할 수 있고, Hub 설정에서 공급자별 키와 우선순위를 관리할 수 있다.
• 직접 요청은 OVHcloud 계정에, Hugging Face 경유 요청은 Hugging Face 계정에 청구되며, 경유 방식에도 공급자 표준 API 요금 외 별도 가산금은 없다.

🧩 주요 포인트

1. OVHcloud가 Hugging Face Hub의 공식 Inference Provider로 합류해 gpt-oss, Qwen3, DeepSeek R1, Llama 등 지원 모델에 대한 접근 경로를 제공한다.
2. OVHcloud AI Endpoints는 완전 관리형 서버리스 서비스이며, 토큰 100만 개당 €0.04부터 시작하는 종량제 가격과 텍스트 생성·임베딩 모델을 지원한다.
3. 유럽 데이터센터 기반 인프라를 통해 데이터 주권과 유럽 사용자를 위한 낮은 지연 시간을 제공하며, 구조화 출력·함수 호출·텍스트 및 이미지 멀티모달 기능도 지원한다.
4. 사용자는 자신의 OVHcloud API 키로 직접 호출하거나 Hugging Face 토큰으로 요청을 라우팅할 수 있고, Hub 설정에서 공급자별 키와 우선순위를 관리할 수 있다.
5. 직접 요청은 OVHcloud 계정에, Hugging Face 경유 요청은 Hugging Face 계정에 청구되며, 경유 방식에도 공급자 표준 API 요금 외 별도 가산금은 없다.

🧠 상세 정리

1. OVHcloud의 Hugging Face Inference Provider 합류

OVHcloud가 Hugging Face Hub에서 지원되는 Inference Provider로 새롭게 합류했다. 이에 따라 사용자는 Hugging Face의 모델 페이지에서 OVHcloud를 선택해 서버리스 추론을 이용할 수 있으며, Python과 JavaScript용 클라이언트 SDK에서도 같은 공급자를 지정할 수 있다. 지원 대상에는 gpt-oss, Qwen3, DeepSeek R1, Llama와 같은 인기 오픈 웨이트 모델이 포함된다. Hugging Face는 OVHcloud 조직 페이지와 공급자 기준으로 정렬된 지원 모델 목록을 제공해, 사용자가 현재 이용할 수 있는 모델을 직접 탐색하고 시험할 수 있도록 했다.

2. 완전 관리형 서버리스 AI Endpoints

OVHcloud AI Endpoints는 주요 연구 조직의 AI 모델을 간단한 API 호출로 사용할 수 있게 하는 완전 관리형 서버리스 서비스다. 사용자는 별도의 추론 인프라를 직접 구성하거나 운영하는 대신 호출량에 따라 서비스를 이용할 수 있으며, 가격은 토큰 100만 개당 €0.04부터 시작한다고 소개됐다. 서비스는 텍스트 생성 모델뿐 아니라 임베딩 모델도 지원하므로 대화형 생성 작업과 의미 기반 검색 등에 필요한 추론을 같은 플랫폼에서 처리할 수 있다. 지원 모델과 플랫폼 인프라에 관한 상세 정보는 OVHcloud AI Endpoints 카탈로그 및 Hugging Face의 전용 공급자 문서에서 확인할 수 있다.

3. 유럽 인프라와 프로덕션 기능

OVHcloud의 추론 서비스는 유럽 데이터센터에 위치한 보안 인프라에서 운영되며, 유럽 사용자를 위한 데이터 주권과 낮은 지연 시간을 주요 특징으로 내세운다. 프로덕션 환경을 고려한 인프라는 첫 토큰 응답 시간을 200밀리초 미만으로 제공한다고 설명되며, 대화형 애플리케이션과 에이전트형 워크플로에 적합한 성능을 지향한다. 기능 측면에서는 구조화 출력과 함수 호출을 지원해 애플리케이션이 정해진 형식의 결과를 받거나 외부 기능을 연동할 수 있다. 또한 텍스트와 이미지 처리를 포괄하는 멀티모달 기능을 제공해 단순한 텍스트 생성 이외의 추론 작업도 수행할 수 있다.

4. Hub 화면에서의 키와 공급자 우선순위 설정

Hugging Face 사용자 계정 설정에서는 가입한 추론 공급자의 API 키를 직접 등록하고, 여러 공급자의 선호 순서를 지정할 수 있다. 이 우선순위는 모델 페이지에 표시되는 추론 위젯과 코드 예시에 적용되며, 현재 모델과 호환되는 제3자 공급자도 사용자가 정한 순서에 따라 노출된다. 호출 방식은 공급자 API 키를 이용해 OVHcloud로 직접 요청하는 방식과, 별도의 공급자 토큰 없이 Hugging Face를 통해 요청을 라우팅하는 방식으로 나뉜다. 사용자 키가 설정되지 않은 경우에는 요청을 Hugging Face 경유 방식으로 처리할 수 있어, 공급자별 계정과 키를 직접 사용하는 경우와 Hugging Face 계정 중심으로 이용하는 경우를 모두 지원한다.

5. Python과 JavaScript SDK 사용 방식

Python에서는 최신 huggingface_hub의 InferenceClient를 사용해 OVHcloud를 추론 공급자로 지정할 수 있으며, 예시에 제시된 최소 요구 버전은 1.1.5다. 모델 식별자에 "openai/gpt-oss-120b:ovhcloud"처럼 공급자 이름을 덧붙이고 대화 메시지를 전달하면, OVHcloud를 통해 해당 모델의 채팅 완성 결과를 받을 수 있다. 인증에는 Hugging Face를 통한 자동 라우팅용 토큰이나 사용자가 보유한 OVHcloud AI Endpoints API 키를 사용할 수 있다. JavaScript에서도 @huggingface/inference의 InferenceClient와 같은 모델 식별자를 이용하며, Python 예시와 동일하게 사용자 메시지를 전달한 뒤 응답의 첫 번째 선택 항목에서 생성된 메시지를 확인한다.

6. 청구 구조와 사용자 크레딧

청구 주체는 어떤 인증 및 라우팅 방식을 선택했는지에 따라 달라진다. OVHcloud API 키를 사용해 직접 요청하면 비용은 OVHcloud 계정에 청구되며, Hugging Face Hub로 인증해 요청을 경유시키면 비용은 Hugging Face 계정에 반영된다. Hugging Face 경유 요청에는 공급자의 표준 API 요금이 적용되고 별도의 가산금은 붙지 않으며, Hugging Face가 공급자 비용을 그대로 전달하는 구조라고 설명한다. PRO 사용자는 여러 공급자에서 사용할 수 있는 월 2달러 상당의 추론 크레딧을 받고, 로그인한 무료 사용자에게도 소규모 무료 추론 한도가 제공된다. 글은 전용 토론 페이지를 통해 이번 연동에 관한 의견과 피드백을 공유해 달라는 요청으로 마무리된다.

🧾 핵심 주장 / 시사점

• 모델 페이지, 공급자 우선순위 설정, Python·JavaScript SDK가 하나의 흐름으로 연결되어 있어 웹에서 탐색한 모델을 코드 호출로 옮기기 쉽다.
• 직접 API 키 방식과 Hugging Face 경유 방식을 모두 지원하므로 사용자는 인증 정보와 비용 청구를 OVHcloud 계정 또는 Hugging Face 계정 중 원하는 방식으로 관리할 수 있다.
• 유럽 데이터센터, 첫 토큰 200밀리초 미만 응답, 구조화 출력·함수 호출·멀티모달 지원은 OVHcloud AI Endpoints가 프로덕션용 대화형 및 에이전트형 작업을 주요 사용 사례로 삼고 있음을 보여준다.

✅ 액션 아이템

• OVHcloud 공식 Inference Provider 통합으로 gpt-oss·Qwen3·DeepSeek R1·Llama 각 모델의 사용 목적을 정의하고 우선순위를 정한다.
• 토큰 100만 개당 €0.04 요금과 텍스트 생성·임베딩 지원 정보를 바탕으로 테스트량 기준 과금 상한을 산정한다.
• 직접 호출과 Hugging Face 경유 호출의 과금 주체 구분을 반영해 공급자 키·우선순위 설정이 의도대로 작동하는지 점검한다.

❓ 열린 질문

• 유럽 데이터센터 기반 OVHcloud 경로에서 데이터 주권 보장과 실제 지연 개선을 동시에 검증할 기준은 무엇인가?
• 구조화 출력·함수 호출·텍스트 및 이미지 멀티모달 기능 중 현재 워크로드에서 필수 조합은 무엇인가?
• 직접 호출 과금(OVHcloud)과 Hub 경유 호출 과금(HF)에서 비용·지연 분기 판단을 어떤 지표로 얼마나 자주 수행할 것인가?