🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

허깅페이스는 팔, 리플리케이트, 삼바노바, 투게더 에이아이의 서버리스 추론을 허브 모델 페이지와 파이썬·자바스크립트 SDK, HTTP 라우터에 통합하고, 자체 제공자 키와 허깅페이스 경유 방식 중 하나를 선택할 수 있게 했다.

📌 핵심 요약

• 2025년 1월 28일 허깅페이스는 네 곳의 서버리스 추론 제공자를 허브에 통합해, 모델 탐색부터 실행까지 하나의 인터페이스로 연결한다고 발표했다.
• 사용자는 모델 페이지에서 현재 모델과 호환되는 제공자를 확인하고 선호 순서를 지정할 수 있으며, 제공자 자체 API 키를 사용하거나 허깅페이스 계정으로 요청을 경유할 수 있다.
• 파이썬의 huggingface_hub와 자바스크립트의 @huggingface/inference가 제공자 선택을 지원하며, 제공자 이름만 바꿔 동일한 호출 구조를 유지할 수 있다.
• 허깅페이스 라우팅 프록시는 OpenAI 호환 API를 포함한 직접 HTTP 호출을 지원하고, 경유 요청에는 제공자의 표준 API 요금만 적용되며 별도 가산 요금은 없다고 설명한다.
• 공식 발표는 접근성과 통합 편의를 강조했지만, 게시물의 이용자 댓글에서는 월간 크레딧 축소, 가격 구조의 불명확성, 권한·할당량 오류에 대한 불만과 질문이 이어졌다.

🧩 주요 포인트

1. 2025년 1월 28일 허깅페이스는 네 곳의 서버리스 추론 제공자를 허브에 통합해, 모델 탐색부터 실행까지 하나의 인터페이스로 연결한다고 발표했다.
2. 사용자는 모델 페이지에서 현재 모델과 호환되는 제공자를 확인하고 선호 순서를 지정할 수 있으며, 제공자 자체 API 키를 사용하거나 허깅페이스 계정으로 요청을 경유할 수 있다.
3. 파이썬의 huggingface_hub와 자바스크립트의 @huggingface/inference가 제공자 선택을 지원하며, 제공자 이름만 바꿔 동일한 호출 구조를 유지할 수 있다.
4. 허깅페이스 라우팅 프록시는 OpenAI 호환 API를 포함한 직접 HTTP 호출을 지원하고, 경유 요청에는 제공자의 표준 API 요금만 적용되며 별도 가산 요금은 없다고 설명한다.
5. 공식 발표는 접근성과 통합 편의를 강조했지만, 게시물의 이용자 댓글에서는 월간 크레딧 축소, 가격 구조의 불명확성, 권한·할당량 오류에 대한 불만과 질문이 이어졌다.

🧠 상세 정리

1. 서버리스 추론 제공자 통합 발표

허깅페이스는 2025년 1월 28일 팔, 리플리케이트, 삼바노바, 투게더 에이아이를 허브의 모델 페이지에 직접 통합한다고 발표했다. 네 제공자는 파이썬과 자바스크립트용 클라이언트 SDK에도 연결되어, 사용자가 여러 모델의 서버리스 추론을 같은 방식으로 탐색하고 호출할 수 있게 됐다. 허깅페이스는 2020년 여름부터 자체 서버리스 추론 API를 운영해 간단한 탐색과 시제품 제작을 지원해 왔다고 설명한다. 그러나 이후 핵심 역할을 대규모 데이터셋과 모델의 협업, 저장, 버전 관리, 배포에 두는 방향으로 다듬었고, 성장한 전문 서버리스 제공자들과 연계해 통합 접근성을 제공하는 방식을 선택했다.

2. 모델 중심의 통합과 제공자 협력

이번 통합의 중심은 사용자가 모델을 먼저 선택한 뒤, 해당 모델을 실행할 수 있는 서버리스 제공자를 이어서 고를 수 있게 하는 데 있다. 글은 최근 널리 알려진 딥시크의 DeepSeek-R1을 사례로 들어, 하나의 모델을 허브에서 찾고 호환 제공자를 통해 곧바로 호출하는 흐름을 보여준다. 삼바노바 측은 다양한 주요 오픈소스 모델에서 더 빠른 추론 속도를 제공할 수 있다고 밝혔고, 리플리케이트 측은 허깅페이스를 오픈소스 모델 가중치의 대표적인 저장소이자 자사가 내부적으로 사용하는 가중치 등록소라고 설명했다. 허깅페이스는 이번 출시가 시작 단계이며, 향후 몇 주 동안 커뮤니티와 함께 기능을 확장하겠다고 밝혔다.

3. 모델 페이지와 사용자 설정의 작동 방식

사용자 계정 설정에서는 가입한 추론 제공자의 API 키를 직접 등록할 수 있고, 여러 제공자의 우선순위를 원하는 순서로 배치할 수 있다. 이 우선순위는 모델 페이지의 추론 위젯과 자동으로 제시되는 코드 예제에 반영된다. 각 모델 페이지에는 현재 선택한 모델과 호환되는 제삼자 추론 제공자만 표시되며, 표시 순서 역시 사용자가 정한 선호도에 따른다. 제공자 키를 등록하지 않은 경우에도 허깅페이스를 경유하는 방식으로 지원되는 서비스를 사용할 수 있으므로, 모델과 제공자를 비교하거나 간단히 시험할 때 별도의 제공자 계정을 반드시 준비해야 하는 구조는 아니다.

4. 직접 호출과 허깅페이스 경유 호출

추론 API 호출은 크게 제공자 자체 키를 사용하는 방식과 허깅페이스가 요청을 중계하는 방식으로 나뉜다. 자체 키 방식에서는 요청이 해당 추론 제공자에게 직접 전달되고, 인증과 사용 요금도 그 제공자의 계정에 연결된다. 경유 방식에서는 사용자가 제공자별 토큰을 준비하지 않아도 되며, 허깅페이스 토큰으로 인증한 뒤 발생한 비용을 허깅페이스 계정에서 처리한다. 두 방식은 인증과 청구 주체가 다르지만, 모델 페이지와 SDK에서 제공자 선택을 통합적으로 다룬다는 점은 같다. 따라서 사용자는 기존 제공자 계정의 키를 유지할 수도 있고, 여러 제공자를 하나의 허깅페이스 계정 아래에서 이용할 수도 있다.

5. 파이썬 SDK를 이용한 채팅 추론

파이썬에서는 0.28.0 이상 버전의 huggingface_hub에 포함된 InferenceClient를 사용한다. 글의 예제는 제공자를 투게더로 지정하고 DeepSeek-R1 모델에 사용자 메시지를 전달한 뒤, 최대 생성 토큰 수를 500으로 설정해 채팅 완성 결과를 받는 과정을 보여준다. 인증 값에는 자동 경유를 위한 허깅페이스 토큰이나 사용자가 보유한 투게더 에이아이 API 키를 넣을 수 있다. 응답은 채팅 완성 결과의 첫 번째 선택 항목에서 메시지를 꺼내 확인하는 구조이며, OpenAI 클라이언트 라이브러리로도 추론 제공자를 호출할 수 있다고 안내한다. 핵심은 모델 호출 형식을 유지하면서 클라이언트 생성 시 사용할 제공자를 명시하는 것이다.

6. 이미지 생성과 제공자 전환

파이썬 예제는 채팅뿐 아니라 텍스트에서 이미지를 생성하는 작업도 같은 클라이언트로 처리할 수 있음을 보여준다. 팔을 제공자로 선택하고 FLUX.1-dev 모델에 베르메르 화풍의 래브라도라는 프롬프트를 전달하면, 결과가 파이썬 이미지 객체로 반환된다. 다른 제공자로 이동할 때는 모델 호출부 전체를 다시 작성하는 대신, 클라이언트의 제공자 이름을 팔에서 리플리케이트로 바꾸는 방식이 제시된다. 즉, 호환되는 제공자와 모델 조합이라는 전제 아래에서는 입력 프롬프트와 주요 호출 구조를 그대로 두고 실행 제공자만 교체할 수 있다. 이는 여러 서버리스 제공자를 시험할 때 코드 변경 범위를 제공자 설정에 집중시키는 통합 방식이다.

7. 자바스크립트 SDK와 HTTP 라우팅 프록시

자바스크립트에서는 @huggingface/inference의 HfInference를 생성하고, 채팅 완성 요청에 모델, 메시지, 제공자, 최대 토큰 수를 지정한다. 글의 예제는 DeepSeek-R1과 투게더를 사용해 프랑스의 수도를 묻고, 반환된 첫 번째 선택 항목의 메시지를 출력한다. SDK를 사용하지 않는 경우에는 huggingface.co 도메인 아래 공개된 라우팅 프록시를 직접 호출할 수 있으며, 기본 주소에 제공자 이름을 붙이는 구조를 사용한다. HTTP 예제는 삼바노바 경로의 채팅 완성 엔드포인트로 Llama-3.3-70B-Instruct 요청을 보내고, 인증 헤더와 JSON 본문에 모델·메시지·생성 조건을 담는다. 이 프록시는 특히 OpenAI 호환 API에서 기본 주소만 교체해 연결할 때 유용하다고 설명된다.

8. 요금, 제공 크레딧과 이용자 반응

제공자 자체 API 키로 직접 요청하면 해당 제공자가 사용료를 청구하며, 예를 들어 투게더 에이아이 키를 사용한 비용은 그 계정에 반영된다. 허깅페이스 인증으로 경유한 요청에는 제공자의 표준 API 요금이 적용되고, 허깅페이스는 별도의 가산 요금을 붙이지 않고 비용을 전달한다고 밝혔다. 프로 사용자는 매달 여러 제공자에 사용할 수 있는 2달러 상당의 추론 크레딧을 받고, 로그인한 무료 사용자에게도 소규모 무료 할당량이 제공된다고 안내한다. 반면 댓글에서는 과거 요청 한도에 비해 2달러 크레딧이 부족하다는 불만, 제공자별 과금과 무료 할당량이 명확하지 않다는 지적, 권한 부족·403 오류·월간 크레딧 초과 메시지에 관한 질문이 반복됐다. 다른 제공자 추가와 외부 도구 연동 가능성을 묻는 의견도 있었으며, 허깅페이스는 별도의 허브 토론 링크를 통해 피드백을 요청했다.

🧾 핵심 주장 / 시사점

• 이번 발표의 핵심은 허깅페이스가 모든 서버리스 추론을 직접 제공하는 데 집중하기보다, 모델 허브를 중심으로 여러 전문 제공자를 동일한 탐색·호출 흐름에 연결한 데 있다.
• 제공자 자체 키와 허깅페이스 경유 인증을 함께 지원하므로 사용 편의성과 기존 제공자 계정 활용을 모두 열어 두었지만, 실제 청구 주체와 크레딧 적용 범위는 호출 방식에 따라 달라진다.
• SDK와 HTTP 호출의 통합성은 분명하게 제시됐으나, 댓글에서는 크레딧 규모와 오류 메시지, 제공자별 비용에 대한 혼란이 집중되어 기술적 접근성뿐 아니라 요금 설명의 명확성도 중요한 과제로 드러났다.

✅ 액션 아이템

• 허브 모델 페이지의 제공자 호환 목록과 사용자가 지정한 우선순위 규칙을 취합해 모델별 기본 추론 경로와 대체 경로를 정한다.
• 파이썬 huggingface_hub, 자바스크립트 @huggingface/inference, HTTP 라우터에서 제공자명만 변경해도 동일한 호출 구조가 유지되는지 샘플 호출로 점검한다.
• 경유 요청의 과금이 표준 API 요금만 적용된다는 전제 하에 댓글에서 제기된 월간 크레딧 축소·가격 불명확성·권한/할당량 오류를 실제 트래픽 데이터로 점검한다.

❓ 열린 질문

• Pal, Replicate, SambaNova, Together AI 네 제공자 중 어떤 조합이 모델 호환성뿐 아니라 실제 우선순위 운영에 가장 적합한가?
• 자체 제공자 키 방식과 허깅페이스 경유 방식은 비용, 지연, 권한 통제 측면에서 어떤 비교 기준으로 선택할 것인가?
• 경유 요청 요금이 표준 요금만 적용된다는 안내가 타당한지, 가격 구조 불명확성 이슈는 어떤 방식으로 실증해 판단할 것인가?