🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

코히어가 허깅페이스 허브의 추론 제공자로 합류하면서 기업용 언어·검색·다국어·멀티모달 모델 9종을 웹 화면과 여러 클라이언트 라이브러리에서 서버리스 방식으로 사용할 수 있게 됐다.

📌 핵심 요약

• 코히어는 모델 제작자가 자신의 모델을 허깅페이스 허브에서 직접 제공하고 서비스하는 첫 번째 사례로 소개됐다.
• 지원 대상은 커맨드 계열과 아야 엑스팬스·아야 비전 계열을 포함한 총 9개 모델이며, 기업용 생성형 인공지능, 검색 증강 생성, 다국어 처리, 도구 사용, 시각·언어 작업 등을 다룬다.
• 커맨드 A는 25만 6천 토큰 문맥과 검증 가능한 인용을 제공하는 검색 증강 생성, 에이전트형 도구 사용, 기업 수준 보안, 23개 언어 지원을 특징으로 한다.
• 사용자는 허깅페이스 웹 화면뿐 아니라 파이썬용 허깅페이스 허브 라이브러리, 자바스크립트용 허깅페이스 추론 라이브러리, 오픈에이아이 호환 클라이언트를 통해 코히어 모델을 호출할 수 있다.
• 코히어 키를 이용한 직접 요청은 코히어 계정에 청구되고 허깅페이스 경유 요청은 별도 가산금 없이 표준 코히어 요금이 적용되며, 허깅페이스 프로 이용자는 매월 2달러의 추론 크레디트를 받는다.

🧩 주요 포인트

1. 코히어는 모델 제작자가 자신의 모델을 허깅페이스 허브에서 직접 제공하고 서비스하는 첫 번째 사례로 소개됐다.
2. 지원 대상은 커맨드 계열과 아야 엑스팬스·아야 비전 계열을 포함한 총 9개 모델이며, 기업용 생성형 인공지능, 검색 증강 생성, 다국어 처리, 도구 사용, 시각·언어 작업 등을 다룬다.
3. 커맨드 A는 25만 6천 토큰 문맥과 검증 가능한 인용을 제공하는 검색 증강 생성, 에이전트형 도구 사용, 기업 수준 보안, 23개 언어 지원을 특징으로 한다.
4. 사용자는 허깅페이스 웹 화면뿐 아니라 파이썬용 허깅페이스 허브 라이브러리, 자바스크립트용 허깅페이스 추론 라이브러리, 오픈에이아이 호환 클라이언트를 통해 코히어 모델을 호출할 수 있다.
5. 코히어 키를 이용한 직접 요청은 코히어 계정에 청구되고 허깅페이스 경유 요청은 별도 가산금 없이 표준 코히어 요금이 적용되며, 허깅페이스 프로 이용자는 매월 2달러의 추론 크레디트를 받는다.

🧠 상세 정리

1. 코히어의 허깅페이스 추론 제공자 합류

허깅페이스는 2025년 4월 16일부터 코히어를 허깅페이스 허브의 공식 추론 제공자로 지원한다고 발표했다. 이번 연동은 모델 제작자가 자신의 모델을 허브에서 직접 공유하는 데 그치지 않고 추론 서비스까지 제공하는 첫 번째 사례로 소개됐다. 코히어는 실제 기업 업무를 겨냥한 생성형 인공지능, 임베딩, 순위화 모델과 보안 중심의 인공지능 솔루션을 개발하고 있으며, 사내 연구 조직인 코히어 랩스는 기초 연구와 연구 환경의 확장을 담당한다. 사용자는 별도의 모델 배포 환경을 직접 구성하지 않고도 허깅페이스의 추론 제공자 기능을 통해 코히어와 코히어 랩스 모델을 서버리스 방식으로 실행할 수 있다.

2. 지원 모델 9종과 기업 업무별 선택지

초기 지원 목록에는 커맨드 R, 커맨드 R 플러스, 커맨드 R 2024년 8월판, 커맨드 R7B 2024년 12월판, 커맨드 A 2025년 3월판이 포함된다. 다국어 중심의 아야 엑스팬스는 80억 및 320억 매개변수 모델로 제공되고, 시각·언어 작업을 위한 아야 비전 역시 80억 및 320억 매개변수 버전이 지원돼 전체 모델 수는 9개다. 이 모델들은 하나의 범용 기능만 강조하기보다 긴 기업 문서 처리, 검색 증강 생성, 저비용·저지연 추론, 다국어 생성, 이미지 이해처럼 서로 다른 업무 요구에 맞춰 구성돼 있다. 사용자는 필요한 문맥 길이와 언어, 응답 속도, 시각 입력 여부에 따라 허브에서 적합한 모델을 선택할 수 있다.

3. 커맨드와 아야 계열의 주요 역량

커맨드 A 2025년 3월판은 빠르고 안전하며 높은 품질의 인공지능이 필요한 기업을 위해 최적화됐고, 25만 6천 토큰의 문맥 길이로 장문의 기업 문서를 처리한다. 또한 검증 가능한 인용을 제공하는 코히어의 검색 증강 생성, 에이전트형 도구 사용, 기업 수준의 보안, 23개 언어 지원을 결합한다. 아야 엑스팬스 320억 매개변수 모델은 최신 다국어 사전학습 연구를 적용해 한국어를 포함한 23개 언어와 12만 8천 토큰 문맥을 지원한다. 커맨드 R7B는 비용 또는 지연 시간을 중시하는 작업을 겨냥하면서 12만 8천 토큰 문맥, 다국어 처리, 인용 검증형 검색 증강 생성, 추론과 도구 사용을 제공한다. 아야 비전 320억 매개변수 모델은 광학 문자 인식, 이미지 설명, 시각적 추론, 요약, 질의응답과 코드 관련 작업을 처리하며, 세계 인구의 절반 이상이 사용하는 23개 언어로 멀티모달 기능을 확장한다.

4. 웹 화면과 여러 클라이언트에서의 호출 방법

허깅페이스 웹 화면에서는 모델 허브의 추론 제공자 필터로 코히어 모델을 검색한 뒤, 모델 카드에서 제공자를 선택해 곧바로 추론을 실행할 수 있다. 파이썬에서는 0.30.0 이상 버전의 허깅페이스 허브 라이브러리와 추론 클라이언트를 사용하고, 제공자 값을 코히어로 지정해 채팅 완성 요청을 보낸다. 인증에는 자동으로 허깅페이스를 경유하는 허깅페이스 토큰이나 사용자가 보유한 코히어 응용 프로그램 인터페이스 키를 사용할 수 있다. 자바스크립트에서는 허깅페이스 추론 라이브러리의 채팅 완성 기능에 모델과 메시지, 제공자, 최대 생성 토큰 수를 전달한다. 오픈에이아이 클라이언트를 이용할 때는 허깅페이스가 제공하는 코히어 호환 주소를 기본 주소로 설정해 커맨드 모델을 호출할 수 있다.

5. 이미지 입력과 에이전트형 도구 사용

아야 비전은 텍스트와 이미지를 함께 받는 다국어 멀티모달 요청을 지원하며, 예제에서는 이미지 파일을 베이스64 형식으로 인코딩해 데이터 주소로 전달한다. 메시지 안에 이미지에 관한 질문과 이미지 주소를 함께 넣고 아야 비전 320억 매개변수 모델을 지정하면 이미지 내용을 분석한 답변을 받을 수 있다. 코히어 모델의 에이전트형 도구 사용 기능은 허깅페이스 허브 클라이언트와 오픈에이아이 클라이언트 양쪽에서 지원된다. 원문은 출발지와 목적지를 받아 최신 항공편 정보를 조회하는 함수를 도구로 정의하고, 함수 이름과 설명, 입력 매개변수, 필수 항목을 모델에 제공하는 과정을 보여준다. 이어 대화 메시지에 도구 호출과 도구 실행 결과를 포함한 뒤 해당 도구 목록을 채팅 완성 요청에 전달해 모델이 필요한 정보를 바탕으로 응답하도록 구성한다.

6. 직접 요청과 경유 요청의 과금 구조

코히어 키로 추론 제공자에게 직접 요청하면 사용 요금은 이용자의 코히어 계정에 직접 청구된다. 반면 허깅페이스 허브 인증으로 요청을 경유하면 코히어의 표준 응용 프로그램 인터페이스 요금만 지불하며, 허깅페이스는 제공자 비용을 그대로 전달하고 별도 가산금을 붙이지 않는다고 설명한다. 다만 향후 제공자 파트너와 수익 공유 계약을 맺을 가능성은 열어 두었다. 허깅페이스 프로 이용자에게는 여러 추론 제공자에서 사용할 수 있는 2달러 상당의 추론 크레디트가 매월 지급된다. 프로 요금제에는 이 크레디트 외에도 제로지피유, 스페이스 개발 모드, 더 높은 사용 한도 등의 혜택이 포함된다.

🧾 핵심 주장 / 시사점

• 이번 연동의 핵심은 모델 파일 공개에 머무르지 않고, 모델 제작자인 코히어가 허깅페이스 허브 안에서 자신의 모델 추론을 직접 제공한다는 점이다.
• 하나의 추론 제공자 설정으로 장문 기업 문서용 커맨드 A, 저비용·저지연용 커맨드 R7B, 다국어용 아야 엑스팬스, 이미지 이해용 아야 비전을 작업 특성에 맞게 선택할 수 있다.
• 웹 화면, 파이썬, 자바스크립트, 오픈에이아이 호환 클라이언트가 함께 지원되므로 동일한 코히어 모델을 대화형 시험부터 프로그램 기반 호출과 도구 연동까지 여러 방식으로 사용할 수 있다.

✅ 액션 아이템

• 코히어의 9개 모델(명령형, Aya 확장·비전 계열 포함) 사용 목적을 생성형 AI, 검색 증강, 다국어, 멀티모달로 구분해 우선순위를 정한다.
• 허깅페이스 웹 화면, 파이썬 허브 라이브러리, JS 추론 라이브러리, OpenAI 호환 클라이언트의 호출 경로를 병행 점검해 통합 운영 방식을 정리한다.
• 코히어 키 직접 청구 방식과 허깅페이스 경유 표준 과금 방식의 차이를 반영해 호출 정책과 비용 관리 기준을 정의한다.

❓ 열린 질문

• 9개 모델 중 어떤 조합이 기업용 생성형 AI, 검색 증강 생성, 다국어 처리 요구에 가장 적합한가?
• 커맨드 A의 25만6천 토큰 문맥과 검증 가능한 인용, 23개 언어 지원은 실제 도입 우선순위 판단에 필요한 핵심 기준이 될 수 있는가?
• 허깅페이스 경유 요청이 별도 가산금 없이 표준 코히어 요금으로만 청구될 때 비용 효율을 장기적으로 유지할 기준은 무엇인가?