Introducing Training Cluster as a Service - a new collaboration with NVIDIA
Quick Summary
Hugging Face와 NVIDIA는 연구기관과 기업이 필요한 시점·규모·기간에 맞춰 대규모 GPU 클러스터를 요청하고 학습 작업에 활용할 수 있는 Training Cluster as a Service를 발표했다.
🖼️ 인포그래픽
🖼️ 4컷 인포그래픽
💡 한 줄 요약
Hugging Face와 NVIDIA는 연구기관과 기업이 필요한 시점·규모·기간에 맞춰 대규모 GPU 클러스터를 요청하고 학습 작업에 활용할 수 있는 Training Cluster as a Service를 발표했다.
📌 핵심 요약
- Hugging Face와 NVIDIA는 GTC Paris에서 전 세계 연구 조직이 대규모 GPU 클러스터에 더 쉽게 접근하도록 돕는 Training Cluster as a Service 협업을 발표했다.
- 이 서비스는 ‘GPU 빈곤층’과 ‘GPU 부유층’ 사이의 격차가 커지는 상황에서, 이미 확장 중인 클라우드 GPU 용량을 연구자·대학·국가 연구소·기업과 연결하는 것을 목표로 한다.
- Hugging Face의 25만 개 조직은 hf.co/training-cluster에서 필요한 클러스터 규모를 요청할 수 있으며, 승인 후 Hugging Face와 NVIDIA가 규모·지역·기간 요구에 맞춰 소싱, 가격 산정, 프로비저닝, 설정을 함께 진행한다.
- 구성 요소로는 NVIDIA Cloud Partners의 최신 NVIDIA 가속 컴퓨팅 용량, NVIDIA DGX Cloud, GTC Paris에서 발표된 DGX Cloud Lepton의 인프라 접근·스케줄링·모니터링 기능, Hugging Face의 개발자 리소스와 오픈소스 라이브러리가 포함된다.
- 본문은 TIGEM의 희귀 유전질환 연구, Numina의 수학 추론 AI, Mirror Physics의 화학·재료과학 모델 개발 사례를 통해 대규모 학습 컴퓨팅 접근성이 다양한 연구 분야에 어떤 의미를 갖는지 보여준다.
🧩 주요 포인트
- Hugging Face와 NVIDIA는 GTC Paris에서 전 세계 연구 조직이 대규모 GPU 클러스터에 더 쉽게 접근하도록 돕는 Training Cluster as a Service 협업을 발표했다.
- 이 서비스는 ‘GPU 빈곤층’과 ‘GPU 부유층’ 사이의 격차가 커지는 상황에서, 이미 확장 중인 클라우드 GPU 용량을 연구자·대학·국가 연구소·기업과 연결하는 것을 목표로 한다.
- Hugging Face의 25만 개 조직은 hf.co/training-cluster에서 필요한 클러스터 규모를 요청할 수 있으며, 승인 후 Hugging Face와 NVIDIA가 규모·지역·기간 요구에 맞춰 소싱, 가격 산정, 프로비저닝, 설정을 함께 진행한다.
- 구성 요소로는 NVIDIA Cloud Partners의 최신 NVIDIA 가속 컴퓨팅 용량, NVIDIA DGX Cloud, GTC Paris에서 발표된 DGX Cloud Lepton의 인프라 접근·스케줄링·모니터링 기능, Hugging Face의 개발자 리소스와 오픈소스 라이브러리가 포함된다.
- 본문은 TIGEM의 희귀 유전질환 연구, Numina의 수학 추론 AI, Mirror Physics의 화학·재료과학 모델 개발 사례를 통해 대규모 학습 컴퓨팅 접근성이 다양한 연구 분야에 어떤 의미를 갖는지 보여준다.
🧠 상세 정리
1. 발표의 핵심: 연구용 GPU 클러스터 접근성 확대
본문은 Hugging Face와 NVIDIA가 2025년 6월 11일 GTC Paris에서 Training Cluster as a Service를 발표했다는 내용으로 시작한다. 이 협업의 목적은 전 세계 연구 조직이 대규모 GPU 클러스터를 더 쉽게 사용할 수 있게 하는 것이다. 특히 다음 세대의 기반 모델을 다양한 도메인에서 학습하려는 연구자들에게 필요한 컴퓨팅 접근성을 제공하는 데 초점이 맞춰져 있다. 서비스는 단순한 하드웨어 소개가 아니라, 필요한 학습 실행 기간 동안만 비용을 지불할 수 있는 방식으로 GPU 클러스터 이용을 유연하게 만드는 것을 강조한다.
2. GPU 격차 문제와 서비스가 겨냥하는 대상
원문은 기가와트 규모의 GPU 슈퍼클러스터 프로젝트들이 차세대 AI 모델 학습을 위해 구축되고 있으며, 이로 인해 ‘GPU poor’와 ‘GPU rich’ 사이의 컴퓨팅 격차가 빠르게 벌어지는 것처럼 보인다고 설명한다. 그러나 동시에 하이퍼스케일러, 지역 클라우드 제공자, AI 네이티브 클라우드 제공자들이 GPU 용량을 빠르게 확장하고 있어 실제 GPU 자원은 존재한다고 본다. 핵심 문제는 이 용량을 필요로 하는 연구자와 어떻게 연결할 것인가이다. 서비스는 대학, 국가 연구소, 기업이 각자의 모델을 만들 수 있도록 필요한 시점에 클러스터를 요청하는 통로를 제공한다.
3. 사용 방식과 기술 구성
사용자는 조직을 대표해 hf.co/training-cluster에서 GPU 클러스터를 요청할 수 있다. Training Cluster as a Service는 NVIDIA와 Hugging Face의 핵심 구성 요소를 하나의 솔루션으로 묶는 방식으로 설명된다. NVIDIA Cloud Partners는 지역 데이터센터에서 NVIDIA Hopper와 NVIDIA GB200 같은 최신 NVIDIA 가속 컴퓨팅 용량을 제공하며, 이 용량은 NVIDIA DGX Cloud 안에서 중앙화된다. 또한 GTC Paris에서 발표된 NVIDIA DGX Cloud Lepton은 연구자에게 프로비저닝된 인프라 접근, 학습 실행 스케줄링, 모니터링을 지원한다.
4. 요청 승인 이후의 조달·설정 절차
원문은 클러스터 요청이 승인된 뒤 Hugging Face와 NVIDIA가 협력해 GPU 클러스터를 소싱하고 가격을 산정하며 프로비저닝과 설정을 진행한다고 설명한다. 이 과정은 사용자가 요청한 클러스터 크기, 지역, 사용 기간 요구 사항에 맞춰 이루어진다. Hugging Face의 개발자 리소스와 오픈소스 라이브러리는 학습 실행을 시작하기 쉽게 만드는 역할을 맡는다. 따라서 서비스의 흐름은 단순히 GPU를 빌려주는 데서 끝나지 않고, 연구자가 익숙한 Hugging Face 도구를 사용해 학습 작업을 시작하고 운영할 수 있도록 연결하는 데 있다.
5. 초기 활용 사례: 질병, 수학, 재료과학
본문은 서비스가 실제로 쓰일 수 있는 분야를 세 가지 사례로 제시한다. TIGEM은 희귀 유전질환의 분자적 메커니즘을 이해하고 새로운 치료법을 개발하는 연구기관으로, 병원성 변이의 영향을 예측하고 약물 재창출을 연구하기 위해 새로운 AI 모델 학습이 필요하다고 설명한다. Numina는 수학 추론을 위한 오픈소스·오픈데이터 AI를 만드는 비영리 조직이며, 컴퓨팅 자원이 현재 병목이라고 말한다. Mirror Physics는 화학과 재료과학을 위한 프런티어 AI 시스템을 만드는 스타트업으로, MACE 팀과 함께 대규모 고충실도 화학 모델을 만들고 있다고 소개된다.
6. 다양한 AI 연구 생태계를 위한 메시지
마지막 부분은 Training Cluster as a Service가 글로벌 AI 연구 커뮤니티에 고성능 컴퓨팅을 더 쉽게 제공하려는 협업이라는 점을 다시 강조한다. Hugging Face의 Clément Delangue는 대규모 고성능 컴퓨팅 접근성이 모든 도메인과 언어에서 다음 세대 AI 모델을 만드는 데 필수적이라고 말한다. NVIDIA의 Alexis Bjorlin은 DGX Cloud Lepton과 Hugging Face 서비스의 통합이 여러 클라우드 제공자 네트워크에 걸쳐 NVIDIA GPU에 접근하는 방식을 더 매끄럽게 만든다고 설명한다. 글은 Hugging Face 조직이 바로 서비스를 시작할 수 있다는 안내와 함께, NVIDIA가 Hugging Face 사용자에게 발표한 다른 관련 소식들도 덧붙이며 마무리된다.
🧾 핵심 주장 / 시사점
- 본문의 중심 논점은 GPU 자체의 존재 여부가 아니라, 이미 확장 중인 GPU 용량을 연구자들이 필요한 시점과 조건에 맞춰 사용할 수 있게 연결하는 접근성 문제다.
- 서비스의 차별점은 클러스터 규모·지역·기간을 요청 기반으로 맞추고, 학습 실행 기간 동안만 비용을 지불하는 유연성을 강조한다는 데 있다.
- TIGEM, Numina, Mirror Physics 사례는 대규모 학습 컴퓨팅 수요가 범용 AI 모델에만 국한되지 않고 희귀질환, 수학 추론, 화학·재료과학처럼 전문 연구 분야에도 직접 연결되어 있음을 보여준다.
✅ 액션 아이템
- Hugging Face의 hf.co/training-cluster 신청 흐름을 통해 25만 개 조직 대상 조건, 승인 절차, 지역·규모·기간 반영 방식을 정리한다.
- Training Cluster as a Service 운영 모델에서 HF와 NVIDIA의 소싱·가격 산정·프로비저닝·설정 협업을 단계별 책임으로 정리한다.
- NVIDIA Cloud Partners, DGX Cloud, DGX Cloud Lepton의 구성 요소를 본문 사례(TIGEM·Numina·Mirror Physics)와 연결해 적용 범위를 정의한다.
❓ 열린 질문
- 클러스터 신청 후 실제 배정에서 규모·지역·기간 요구가 가격 산정에 어떤 규칙으로 반영되는가?
- ‘GPU 빈곤층’과 ‘GPU 부유층’ 격차 완화가 제시된 목표에 비추어 가격 접근성은 어느 수준에서 달성 가능한가?
- DGX Cloud Lepton의 접근·스케줄링·모니터링 기능이 TIGEM·Numina·Mirror Physics 유형의 작업부하에 얼마나 안정적으로 유지되는가?