NVIDIA Confidential Computing Expands, Enabling Frontier Model Builders to Securely Scale Across Global Infrastructure

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

NVIDIA는 Confidential Bare Metal을 추가하고 NVIDIA Confidential Computing의 시스템·파트너 지원을 확대해, 모델 개발사가 모델과 데이터의 통제권을 유지하며 전 세계 제3자 인프라에서 학습과 추론을 확장하도록 지원한다.

📌 핵심 요약

• NVIDIA는 전용 제3자 인프라에서 민감한 워크로드를 실행하면서 모델과 데이터의 통제권을 유지할 수 있는 Confidential Bare Metal을 발표했다. 새로운 보안 제어는 전송 중 데이터 보호, 플랫폼 무결성 측정, 하드웨어 수준의 접근 제한을 제공한다.
• NVIDIA Confidential Computing은 베어메탈용 Confidential Bare Metal, Kubernetes용 Confidential Containers, 가상화 환경용 Confidential Virtual Machines의 세 가지 배포 옵션을 제공하며, 조직은 신뢰 경계와 운영 요구에 맞춰 선택할 수 있다.
• Cohere는 Confidential Bare Metal을 Cohere Model Vault에 통합할 계획이다. Google Cloud는 NVIDIA GB300 NVL72 기반 A4X Max 인스턴스로 지원을 확대하며, 비가상화 컴퓨팅과 학습 데이터·모델 지식재산의 암호학적 보호를 결합한다.
• NVIDIA Confidential Computing 지원 범위는 NVIDIA Grace Blackwell NVL72와 x86 기반 NVIDIA HGX Rubin NVL8 및 NVIDIA DGX Rubin NVL8로 확대된다. 실행 중 모델과 데이터 보호에는 하드웨어 기반 격리와 암호학적 증명이 사용된다.
• CoreWeave, Google Cloud, Microsoft Azure Infrastructure 등을 포함한 인프라 제공업체들이 NVIDIA Confidential Computing 배포를 지원한다. NVIDIA DSX OS는 모든 배포 모드를 지원해 기밀 워크로드를 처리하는 AI 팩토리의 구축·운영 기반을 제공할 예정이다.

🧩 주요 포인트

1. 전용 제3자 인프라와 소프트웨어 스택 통제권의 결합 → 모델 개발사가 호스트·플랫폼 소프트웨어까지 직접 운영하면서 글로벌 학습·추론 용량을 활용할 선택지가 확대된다.
2. 세 가지 배포 옵션과 서로 다른 신뢰 경계 → 보안 아키텍처를 공유하면서 베어메탈·Kubernetes·가상화 환경의 운영 요구에 맞춰 배포 방식을 선택할 수 있다.
3. Grace Blackwell·Rubin 지원 확대와 NVIDIA DSX OS 연계 → 기밀 워크로드 지원 범위가 랙 규모 시스템에서 AI 팩토리 운영 기반으로 넓어지며, Cohere의 통합 계획과 Google Cloud의 지원 확대가 활용 사례로 제시된다.

🧠 상세 정리

1. 에이전트 보안을 뒷받침하는 실행 인프라

NVIDIA는 에이전트를 대규모로 안전하게 배포하기 위한 기술 포트폴리오의 일부로 NVIDIA OpenShell Reference Architecture를 발표했다. NVIDIA Confidential Computing은 그중 에이전트가 의존하는 모델과 데이터를 실행 중 보호하는 인프라 계층이다. 새로 추가된 Confidential Bare Metal은 프런티어 모델 개발사가 전용 제3자 인프라에서 민감한 워크로드를 실행하면서 모델과 데이터의 통제권을 유지하도록 지원한다. 이번 확장은 외부 인프라의 컴퓨팅 자원을 활용하면서도 개발사가 필요한 보안과 운영 통제권을 확보하도록 하는 데 초점을 둔다.

2. 새 보안 제어와 세 가지 배포 선택지

NVIDIA가 도입하는 플랫폼 보안 제어는 전송 중 데이터를 보호하고, 플랫폼 무결성을 측정하며, 하드웨어 수준의 접근 제한을 적용한다. 이를 통해 모델 개발사는 제3자 클라우드·네오클라우드·기업 인프라의 NVIDIA 가속 컴퓨팅 환경에서 호스트와 플랫폼 인프라 소프트웨어를 포함한 자체 소프트웨어 스택을 직접 소유하고 운영할 수 있다. NVIDIA Confidential Computing은 베어메탈용 Confidential Bare Metal, Kubernetes용 Confidential Containers, 가상화 환경용 Confidential Virtual Machines를 통합된 보안 아키텍처 아래 제공한다. 조직은 각자의 신뢰 경계와 운영 요구에 따라 적절한 배포 옵션을 선택할 수 있다.

3. Cohere와 Google Cloud의 적용 방향

Confidential Bare Metal은 지원 제공업체가 강한 모델·데이터 프라이버시 보호를 요구하는 고가치 워크로드를 수용할 수 있는 경로를 제공한다. NVIDIA는 생태계 확대가 모델 개발사의 글로벌 학습·추론 확장에 지리적 위치, 주권 요건, 운영 측면의 선택지를 늘린다고 설명한다. Cohere는 이를 Cohere Model Vault에 통합하고, 신뢰 실행 환경을 통해 하드웨어 기반 보안을 GPU까지 확장하여 실행 중 메모리와 인터커넥트의 모델·데이터를 보호할 계획이다. Google Cloud는 NVIDIA GB300 NVL72 기반 A4X Max 인스턴스로 지원을 확대해 비가상화 가속 컴퓨팅과 학습 데이터·모델 지식재산의 암호학적 보호를 결합한다. Google Cloud의 Andrés Lagar-Cavilla는 하드웨어 격리와 종단 간 암호학적 보호, 높은 서빙 성능을 제공한다고 설명했으며, 기사에는 이를 검증할 별도의 성능 수치가 제시되지 않았다.

4. Grace Blackwell과 Rubin으로 지원 확대

NVIDIA Confidential Computing은 하드웨어에 기반한 격리와 암호학적 증명을 사용해 실행 중인 모델과 데이터를 보호하도록 설계됐다. 지원 범위는 NVIDIA Grace Blackwell NVL72로 확대되어 NVL72 랙 규모 시스템에서도 Confidential Computing을 사용할 수 있게 된다. x86 기반 NVIDIA HGX Rubin NVL8과 NVIDIA DGX Rubin NVL8도 지원 대상에 포함된다. 이번 발표는 새로운 배포 옵션의 추가와 함께 적용 가능한 시스템 범위를 넓힌다는 의미가 있으며, 각 시스템의 구체적인 성능이나 보호에 따른 비용 수치는 제시하지 않는다.

5. 인프라 생태계와 NVIDIA DSX OS 연계

NVIDIA Confidential Computing 배포를 지원하는 업체로는 CoreWeave, Firmus, GMI Cloud, Google Cloud, IREN, Lambda, Microsoft Azure Infrastructure, Nebius, Nscale, Vultr가 제시됐다. 글로벌 시스템 파트너인 Cisco, Dell Technologies, HPE, Lenovo, Supermicro, Bull은 NVIDIA-Certified Systems를 통해 이러한 기능을 지원할 예정이다. NVIDIA DSX OS 역시 NVIDIA Confidential Computing의 모든 모드를 지원할 예정이다. NVIDIA는 이를 클라우드 제공업체가 기밀 워크로드를 지원하는 AI 팩토리를 구축하고 운영하기 위한 소프트웨어 기반이자 참조 아키텍처로 연결한다.

🧾 핵심 주장 / 시사점

• Confidential Bare Metal의 핵심은 제3자 인프라 활용과 모델·데이터 통제권, 자체 소프트웨어 스택 운영을 함께 지원한다는 점이다.
• 세 가지 배포 옵션은 조직마다 다른 신뢰 경계와 운영 환경을 보안 배포 방식 선택의 기준으로 삼게 한다.
• 시스템 지원과 인프라 생태계의 확대는 글로벌 용량 활용의 선택지를 늘리지만, Cohere 통합과 NVIDIA DSX OS 지원은 계획으로 제시되어 현재 제공되는 기능과 구분해 볼 필요가 있다.

✅ 액션 아이템

• 제3자 인프라에서 모델·데이터 통제권과 자체 소프트웨어 스택 운영이 필요한 워크로드에 대해 Confidential Bare Metal의 적합성 검토.
• 신뢰 경계와 운영 요구를 기준으로 Confidential Bare Metal, Confidential Containers, Confidential Virtual Machines의 적용 방식 비교.
• Cohere Model Vault 통합 계획, Google Cloud A4X Max 지원 확대, NVIDIA DSX OS의 모든 배포 모드 지원 예정 사항의 제공 상태 확인.

❓ 열린 질문

• Confidential Bare Metal의 전송 중 데이터 보호, 플랫폼 무결성 측정, 하드웨어 수준 접근 제한은 필요한 신뢰 경계와 운영 요구를 어떻게 충족하는가?
• Cohere Model Vault의 Confidential Bare Metal 통합과 Google Cloud A4X Max의 지원 확대는 각각 언제부터 이용할 수 있는가?
• NVIDIA DSX OS의 모든 배포 모드 지원은 언제 제공되며, Grace Blackwell NVL72와 HGX Rubin NVL8·DGX Rubin NVL8에서 어떤 운영 요구를 충족하는가?