NVIDIA Cloud Partners Scale Across Europe — Sovereign, Open and Built for Safe AI Agents

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

NVIDIA Cloud Partners는 유럽을 중심으로 지역 AI 인프라와 개방형 모델 서비스를 확장하고, 에이전트의 접근·행동 범위를 통제하는 보안 체계를 함께 추진하고 있다.

📌 핵심 요약

• NVIDIA Cloud Partners는 유럽·북유럽·아프리카·중앙아시아에서 학습·추론 용량을 확대하며, 개발자가 데이터 가까이에서 AI를 개발·배포하고 워크로드와 데이터의 위치를 선택하도록 지원하고 있다.
• Nscale은 NVIDIA GB300 NVL72 시스템 테스트에서 NVIDIA DSX MaxLPS를 사용해 동일한 공급 전력 예산으로 GPU 수를 37%, 총 추론 처리량을 거의 50% 늘렸다고 밝혔다. NVIDIA Vera Rubin 도입과 유럽 5개 시장 확장도 계획하고 있다.
• Nebius는 NVIDIA Groq 3 LPX와 Vera Rubin NVL72를 결합한 추론 서비스 및 Physical AI Workbench를 추진한다. Baseten이 개발한 Nemotron 3.5 Lightning 기반 코드 리뷰 라우팅 모델을 사용하는 CodeRabbit은 평가 대상 워크로드에서 라우팅 일치율을 75.8%에서 80.7%로 높이고 추정 추론 비용을 50% 줄였다.
• Mistral Large 4는 Mistral이 운영하는 유럽 데이터센터의 NVIDIA Grace Blackwell GPU 3,800개로 학습됐으며, Mistral은 2027년 인도 예정인 NVIDIA Vera Rubin을 포함해 인프라를 확장한다. Verda도 Vera Rubin 도입을 계획하고 있으며 NVIDIA Nemotron·NVIDIA Cosmos를 운영하고 NVIDIA Dynamo로 추론을 최적화하고 있다.
• GTC Berlin에서 발표된 NVIDIA OpenShell Reference Architecture는 모델 추론용 NVIDIA Vera Rubin NVL72, OpenShell을 사용하는 NVIDIA Vera CPU, NVIDIA Sentry를 실행하는 NVIDIA BlueField-4 DPU를 결합해 에이전트의 접근·행동 경계를 통제하도록 설계됐다.

🧩 주요 포인트

1. 지역별 용량 확대와 Nscale의 전력 효율 테스트 → AI 인프라의 확장에서는 데이터 위치 선택권과 제한된 전력 안에서의 처리량이 함께 중요해진다.
2. CodeRabbit의 작업별 모델 조정 성과와 Mistral·Verda의 인프라 확장 → 개방형 모델 생태계는 학습·맞춤화·추론을 연결하며, 효과는 개별 작업과 평가 범위에 따라 해석해야 한다.
3. NVIDIA OpenShell Reference Architecture의 실리콘·소프트웨어 역할 분담 → 에이전트의 운영 환경 도입에는 추론 성능뿐 아니라 도구 사용과 접근 권한의 경계 설정도 필요하다.

🧠 상세 정리

1. 지역 AI 클라우드 수요와 전력 제약

원문은 AI 중심 기업들의 수요가 유럽 AI 클라우드 생태계의 확장을 이끌고 있다고 설명한다. 개발자에게는 데이터 가까이의 컴퓨팅 자원, 맞춤화해 대규모로 제공할 수 있는 개방형 모델, 설계 단계부터 보안을 고려한 전체 기술 스택이 필요하다는 것이다. 지역 AI 클라우드는 유럽의 연구·엔지니어링·산업 전문성과 데이터를 모델 및 애플리케이션 개발로 연결하는 기반으로 제시된다. 다만 AI 팩토리가 커질수록 전력이 제약이 되므로, Nscale은 NVIDIA DSX Platform으로 전력 배분과 워크로드 요구를 조정하고 있다. NVIDIA GB300 NVL72를 사용한 테스트에서 NVIDIA DSX MaxLPS는 동일한 공급 전력 예산 안에서 GPU 수를 37%, 총 추론 처리량을 거의 50% 늘렸으며, 이는 해당 테스트 조건에서 보고된 결과다.

2. Vera Rubin 중심의 지역 인프라 확장

Nscale은 선도 모델의 학습과 운영 워크로드를 지원하기 위해 NVIDIA Vera Rubin 인프라를 도입하고, 수직 통합된 전체 스택 플랫폼을 유럽 5개 시장으로 확장할 계획이다. Crusoe는 Vera Rubin 플랫폼에 맞춘 액체 냉각 방식의 모듈형 AI 팩토리 Spark를 개발해 사용자 가까이에서 지연시간이 짧은 추론 용량을 제공하려 한다. Crusoe Cloud는 유럽·중동·아프리카 지역에서 Base44, Gradium, LTX, Wonderful 등의 모델·애플리케이션 개발사를 지원한다. Aleria, Cassava Technologies, Firebird, G42, Radiant, SWI Compute, Vultr도 유럽·북유럽·아프리카·중앙아시아에서 NVIDIA 기반 인프라를 개발하거나 확장하고 있다. 원문은 Vera Rubin, NVIDIA BlueField, NVIDIA Spectrum-X Ethernet 등을 포함하는 NVIDIA DSX AI Factory 플랫폼이 워크로드와 데이터의 위치에 관한 선택권을 넓히고 주권형 컴퓨팅 서비스를 뒷받침한다고 설명한다.

3. Nebius의 추론·로보틱스·소매 AI 서비스

개방형 모델과 라이브러리를 활용하는 서비스 확장은 모델 학습, 전문 작업을 위한 미세조정, 엣지를 포함한 대규모 추론을 지원하는 방향으로 진행되고 있다. Nebius는 운영 환경의 추론을 위해 NVIDIA Groq 3 LPX를 채택하고, Spectrum-X Ethernet으로 이를 Nebius Token Factory의 Vera Rubin NVL72와 통합하고 있다. 이 조합은 관리형 서버리스·전용 엔드포인트와 익숙한 API를 통해 지연시간에 민감한 애플리케이션과 에이전트 시스템의 토큰 생성을 가속할 것으로 제시된다. 로보틱스와 피지컬 AI 분야에서는 Physical AI Workbench를 포함한 전용 클라우드를 제공하며, Rhoda AI, RoboForce, Sereact가 이를 활용하고 있다. 또한 재고·매장 운영·미세조정을 다루는 NVIDIA 소매 에이전트 블루프린트 3종을 조기 접근 형태로 출시했고, Physical AI Living Lab 및 독일 연방 혁신기관 SPRIND의 Next Frontier Challenge에 대한 컴퓨팅 공급을 통해 활동을 넓히고 있다.

4. 작업별 모델 맞춤화와 기업용 개방형 모델

Baseten은 CodeRabbit이 사용하는 코드 리뷰 라우팅용 특화 모델을 Nemotron 3.5 Lightning 기반으로 개발했다. CodeRabbit은 지도 미세조정과 강화학습을 통해 라우팅 일치율을 75.8%에서 80.7%로 높였고, 평가 대상 워크로드의 추정 추론 비용을 50% 줄였다. 원문은 이를 NVIDIA 개방형 모델을 전문 작업에 맞게 조정하면서 정확성과 추론 효율을 개선할 수 있음을 보여주는 사례로 제시하지만, 수치는 해당 평가 범위에 한정된다. 한편 Fireworks와 Era4는 영국과 유럽 기업에 개방형 모델을 제공하기 위해 협력하고 있다. 이 협력은 Fireworks의 모델 학습·추론 플랫폼과 Era4의 Chesterfield 시설에 있는 NVIDIA Blackwell Ultra GPU 기반 직접 액체 냉각 용량을 결합하며, 금융 서비스·보험·생명과학 분야의 기업용 AI 솔루션 계획을 지원한다.

5. Mistral과 Verda의 모델·인프라 전략

Mistral은 모델 학습·맞춤화·추론을 지원하기 위해 NVIDIA 가속 컴퓨팅 인프라를 확대하고 있으며, 여기에는 2027년 인도 예정인 NVIDIA Vera Rubin 인프라가 포함된다. 회사의 최신 프런티어 멀티모달 모델로 소개된 Mistral Large 4는 Mistral이 운영하는 유럽 데이터센터에서 NVIDIA Grace Blackwell GPU 3,800개로 학습됐다. 원문은 이 모델이 코딩, 에이전트 워크플로, 멀티모달 이해 능력을 진전시킨다고 설명한다. Verda 역시 NVIDIA Vera Rubin 도입을 계획하면서 가중치가 공개된 모델의 활용을 계속 추진하고 있다. Verda는 이미 NVIDIA Nemotron과 NVIDIA Cosmos를 운영 환경에서 사용하고 있으며, 오픈소스 프레임워크 NVIDIA Dynamo로 추론을 최적화하고 있어 현재 운영 중인 기술과 향후 도입 계획이 함께 제시된다.

6. 에이전트의 접근·행동 경계를 통제하는 보안 구조

모델이 도구와 업무 시스템에 연결될수록 개발자에게는 에이전트가 무엇에 접근하고 어떤 행동을 할 수 있는지 통제할 수단이 필요해진다. GTC Berlin에서 발표된 NVIDIA OpenShell Reference Architecture는 OpenShell 보안 런타임을 바탕으로 조직이 전체 기술 스택에 걸쳐 명확한 경계를 설정하도록 설계됐다. NVIDIA Vera Rubin NVL72는 모델 추론을, OpenShell을 사용하는 NVIDIA Vera CPU는 에이전트 하네스와 도구 사용을, NVIDIA Sentry를 실행하는 NVIDIA BlueField-4 DPU는 실리콘 수준의 통제 집행을 맡는다. 원문은 이 역할 분담을 통해 에이전트가 사람이 설정한 범위를 넘지 않으면서 목적을 수행하도록 한다고 설명한다. CoreWeave, DigitalOcean, Baseten, Crusoe, Fireworks, Nebius, Nscale, Verda, Vultr 등을 포함한 파트너들이 이 아키텍처를 지원한다. 글의 결론은 지역 인프라 투자가 실행 장소를 늘리고, 모델·추론 서비스가 그 용량을 활용하게 하며, 에이전트 통제가 운영 환경에서 허용되는 행동을 규정한다는 연결 구조다.

🧾 핵심 주장 / 시사점

• 지역 AI 인프라의 경쟁력은 설비 용량뿐 아니라 전력 효율과 데이터 위치 통제에도 걸려 있다. Nscale의 테스트는 전력 예산을 유지하면서 처리량을 높이는 접근의 가능성을 보여준다.
• CodeRabbit 사례는 전문 작업에 맞춘 모델 조정이 품질 지표와 추론 비용을 함께 개선할 수 있음을 시사한다. 다만 라우팅 일치율과 추정 비용의 변화가 다른 워크로드에서도 재현되는지는 제시되지 않았다.
• 에이전트 확산은 클라우드의 역할을 연산 제공에서 실행 권한 통제로 넓힌다. OpenShell Reference Architecture는 추론·도구 사용·통제 집행을 서로 다른 구성요소에 배분하는 방향을 제시한다.

✅ 액션 아이템

• 전력 제약이 있는 AI 인프라 확장 검토에 Nscale의 동일 전력 예산 내 GPU 수 37%·총 추론 처리량 거의 50% 증가 사례를 참고하되, 테스트 조건의 적용 가능성 확인.
• CodeRabbit의 라우팅 일치율 75.8%→80.7%와 추정 추론 비용 50% 감소를 기준으로, 작업별 모델 맞춤화의 품질·비용 효과 검토.
• 에이전트의 운영 환경 도입 시 NVIDIA OpenShell Reference Architecture의 도구 사용·접근 권한 통제 구조와 필요한 경계 설정 검토.

❓ 열린 질문

• Nscale이 보고한 GPU 수 37%와 총 추론 처리량 거의 50% 증가는 다른 워크로드와 전력 제약에서도 재현될 수 있는가?
• CodeRabbit의 라우팅 일치율 80.7%와 추정 추론 비용 50% 감소는 평가 대상 밖의 코드 리뷰 워크로드에서도 유지되는가?
• NVIDIA OpenShell Reference Architecture는 에이전트의 도구 사용과 접근 권한에 대해 어떤 경계를 설정하고 집행할 수 있는가?