ArticleDave Salvator·2026년 11월 19일·0

NVIDIA and Microsoft Expand Accelerated Computing From Azure to Windows PCs

Quick Summary

NVIDIA와 Microsoft는 Azure의 Vera Rubin NVL72부터 Microsoft Foundry, 산업용 엣지와 Windows PC까지 AI 인프라·모델·배포 협력을 확대한다고 발표했다.

NVIDIA and Microsoft Expand Accelerated Computing From Azure to Windows PCs 관련 대표 이미지

🖼️ 인포그래픽

NVIDIA and Microsoft Expand Accelerated Computing From Azure to Windows PCs 내용을 설명하는 본문 이미지

🖼️ 4컷 인포그래픽

NVIDIA and Microsoft Expand Accelerated Computing From Azure to Windows PCs의 핵심 내용을 4단계로 요약한 인포그래픽
NVIDIA and Microsoft Expand Accelerated Computing From Azure to Windows PCs 핵심 내용을 4단계로 압축한 4컷 인포그래픽

💡 한 줄 요약

NVIDIA와 Microsoft는 Azure의 Vera Rubin NVL72부터 Microsoft Foundry, 산업용 엣지와 Windows PC까지 AI 인프라·모델·배포 협력을 확대한다고 발표했다.

📌 핵심 요약

  • NVIDIA 블로그에 따르면 Vera Rubin NVL72 시스템이 Azure 데이터센터에서 가동 중이며, 관련 가상 머신 접근이 프리뷰로 확대된다. 양사는 기밀 컴퓨팅 보호 범위와 NVIDIA MaxLPS 기반 전력 효율 개선도 공동 추진한다.
  • MLPerf Training v6.1에서 Azure는 GB200 NVL72로 DeepSeek-V3를 실행하며 해당 회차 최대인 NVIDIA GPU 10,240개까지 확장했다. MLPerf Inference v6.1에서는 Signal65에 따르면 Azure의 GB300 NVL72가 DeepSeek-R1 대화형 처리량에서 클라우드 제출 결과 중 10% 넘는 우위를 보였다.
  • Microsoft Foundry는 NVIDIA Nemotron 공개 모델의 맞춤화와 배포 지원을 확대한다. EY는 기업 구매 기록 분류용 맞춤 모델이 자사 평가 데이터셋에서 독점 프런티어 모델 대비 정확도를 55% 개선하고 비용을 15분의 1로 낮췄다고 소개됐다.
  • Foundry Local과 Azure Local의 지원은 Nemotron 3.5, RTX PRO 6000 Blackwell, Jetson Thor·Jetson Orin 등으로 확대된다. RTX Spark 기반 Windows PC에서는 로컬 AI를 시연하며, Windows 365 Direct Stream은 최대 2개의 4K·초당 60프레임 스트림을 지원하고 2027년 초 공개 프리뷰를 계획한다.
  • Microsoft Discovery에는 BioNeMo Agent Toolkit과 ALCHEMI Toolkit을 통한 과학 연구 지원이 확대된다. Microsoft는 자체 모델 후속 학습에 NVIDIA Dynamo를 사용하고, Bing 검색 모델에는 RTX PRO 6000 Blackwell GPU를 활용한다고 밝혔다.

🧩 주요 포인트

  1. Azure 인프라의 보호·전력 효율 개선과 MLPerf 성능 결과가 함께 제시됐다 → 도입 판단에서는 Vera Rubin NVL72 프리뷰의 제공 상태와 GB200·GB300 기반 벤치마크의 모델·측정 범위를 구분할 필요가 있다.
  2. Microsoft Foundry가 후속 학습 제어와 맞춤 가중치 배포를 연결한다 → EY의 정확도 55% 개선·비용 15분의 1 사례는 특정 기업 업무에서 공개 모델 맞춤화의 가능성을 보여주지만, 결과의 범위는 해당 평가 데이터셋이다.
  3. Foundry Local·Azure Local·Windows PC로 배포 선택지가 넓어진다 → 데이터 가까이에서 AI를 실행할 수 있는 범위가 확대되며, Nemotron 3.5 Bolt·Transcribe의 출시 예정 상태와 Windows 365 Direct Stream의 제한적 프리뷰·2027년 초 공개 프리뷰 계획은 구분해야 한다.

🧠 상세 정리

1. Azure 인프라 확장과 보호·효율 개선

NVIDIA와 Microsoft는 Microsoft Ignite에서 Azure부터 산업용 시스템과 Windows PC까지 지능형 애플리케이션의 구축·맞춤화·배포를 지원하는 협력 확대를 발표했다. NVIDIA 블로그에 따르면 Vera Rubin NVL72 시스템은 Azure 데이터센터에서 가동 중이며, 복잡한 추론과 에이전트 애플리케이션, 대규모 모델 학습·추론을 위한 인프라로 소개됐다. 양사는 베어메탈과 랙 규모 AI 인프라로 기밀 컴퓨팅을 확장하고, 민감한 모델·데이터·키를 제공하기 전에 실행 환경을 검증하는 보호 기능을 더 넓은 인프라에 적용하는 작업도 추진한다. NVIDIA MaxLPS를 활용한 협력은 데이터센터가 가용 전력에서 더 높은 성능을 얻도록 하는 데 목적이 있다. 성능 근거로 제시된 MLPerf Training v6.1 결과에서는 Azure의 GB200 NVL72가 DeepSeek-V3에서 해당 회차 최대 규모인 GPU 10,240개까지 확장했다. MLPerf Inference v6.1에서는 Signal65에 따르면 Azure의 GB300 NVL72가 DeepSeek-R1 대화형 처리량에서 클라우드 제출 결과 중 10% 넘는 우위를 보였으며, 이 결과는 Vera Rubin 자체의 측정치와 구분된다.

2. Foundry에서 공개 모델 맞춤화와 배포 연결

Microsoft Foundry의 확장은 기업 에이전트가 복잡한 업무를 추론하고 회사 정보를 찾으며 문서를 이해하도록 지원하는 데 초점을 둔다. 서버리스 Programmed Training은 개발자가 후속 학습 흐름을 제어하고 Foundry가 기반 인프라를 관리하도록 하며, Foundry Managed Compute는 맞춤 모델 가중치 배포를 지원한다. EY는 이 기능으로 NVIDIA Nemotron 공개 모델을 기업 구매 기록 분류에 맞췄고, 자사 평가 데이터셋에서 독점 프런티어 모델 대비 정확도를 55% 개선하고 비용을 15분의 1로 낮춘 사례로 소개됐다. Nemotron 3.5 Super는 코딩·연구·기업 업무를 수행하는 장시간 실행 에이전트용이며, Lightning은 빠른 응답과 도구 사용이 필요한 애플리케이션용이다. Nemotron Embed와 Rerank는 정보 검색을, Parse는 문서의 구조화된 정보 추출을, Content Safety는 유해 콘텐츠 탐지를 지원한다. 높은 처리량과 낮은 지연의 추론을 지향하는 Nemotron 3.5 Bolt와 음성 인식용 Transcribe는 출시 예정으로 제시됐다.

3. 기업 데이터 가까이로 확대되는 로컬·산업용 AI

양사는 기업이 인프라와 운영에 대한 통제권을 유지하면서 데이터 가까이에서 모델과 에이전트를 실행하도록 클라우드 밖의 배포 선택지를 넓히고 있다. Foundry Local의 Nemotron 3.5 지원 확대는 Azure Local 환경에 추론·코딩·도구 사용 에이전트 기능을 제공하며, 검색 모델은 텍스트뿐 아니라 문서 이미지·차트·표에서도 근거를 찾도록 지원한다. Azure Local은 하드웨어 파트너가 제공하는 NVIDIA RTX PRO 6000 Blackwell GPU도 지원할 예정이어서 온프레미스 AI 배포 선택지가 추가된다. 지원 대상은 Jetson Thor와 Jetson Orin 엣지 AI 플랫폼으로도 확대되며, 원문은 머신 비전·로보틱스·자율 운영을 산업용 활용 분야로 제시한다. Cosmos를 포함한 NVIDIA 물리 AI 모델도 Foundry Local에 도입되는 대상으로 소개됐다.

4. Windows PC의 로컬 실행과 Cloud PC 스트리밍

Windows PC 영역에서는 NVIDIA RTX Spark를 탑재한 기기에서 로컬 대규모 언어 모델 경험을 Ignite에서 시연할 계획이다. 이 시연은 개발자가 AI 애플리케이션을 기기에서 직접 실행하는 방식을 보여주는 것으로 소개됐다. 별도로 양사는 GPU 가속 Windows 365 Cloud PC에 Direct Stream 기능을 도입해 그래픽 요구가 높은 애플리케이션을 지원한다고 밝혔다. 제시된 사양은 최대 2개의 4K 스트림과 초당 60프레임이며, 까다로운 네트워크 환경에서도 낮은 지연을 제공한다는 설명이다. Direct Stream은 제한적 프리뷰 참가 신청을 받고 있으며 공개 프리뷰는 2027년 초로 계획돼 있어, 로컬 PC 시연과 Cloud PC 기능의 제공 상태를 각각 구분해 읽어야 한다.

5. Microsoft Discovery로 넓어지는 과학 연구 지원

과학 연구 분야에서는 NVIDIA BioNeMo Agent Toolkit과 NVIDIA ALCHEMI Toolkit이 Microsoft Discovery 카탈로그로 확대된다. 원문은 생명과학·신약 연구와 소재·화학 과학 분야의 모델을 Microsoft의 에이전트 기반 연구 플랫폼에서 이용하도록 하는 협력으로 설명한다. BioNeMo Agent Toolkit은 연구자가 자연어로 계산 생물학 연구 도구를 이용하도록 돕고, 에이전트가 필요한 도구와 모델 호출을 조정하는 역할로 소개됐다. 초기 통합에는 워싱턴대학교 Institute for Protein Design과 협력해 개발한 RFD4-Proteina 모델이 포함된다. 이 부분에서 다루는 결과는 추가 평가와 실험실 검증을 거쳐야 하는 연구 후보이며, 원문은 실제 검증이 완료된 성과나 신약 개발 성공을 제시하지 않는다.

6. Microsoft 자체 모델과 서비스의 가속

고객에게 제공하는 기술 범위를 넓히는 동시에 Microsoft는 자체 AI 개발과 서비스에도 NVIDIA 소프트웨어와 가속 컴퓨팅을 활용하고 있다. Microsoft AI는 후속 학습 과정에서 강화학습에 필요한 경험을 생성하는 추론 작업을 지원하기 위해 NVIDIA Dynamo를 사용한다. Dynamo는 대규모 GPU 집합의 추론을 조정하고 성능을 최적화하며, 요청 처리와 모델 업데이트, 장애 복구 관리도 돕는다고 설명됐다. 이 배포는 Microsoft AI와 NVIDIA의 공동 엔지니어링을 기반으로 하며, Bing 검색 모델에는 NVIDIA RTX PRO 6000 Blackwell GPU가 사용된다고 원문 앞부분에서 밝혔다. Ignite에서는 기업 애플리케이션·로보틱스·가속 데이터 처리·로컬 컴퓨팅 관련 시연과 함께 NVIDIA GB300 NVL72 랙 및 RTX Spark 기기가 소개된다.

🧾 핵심 주장 / 시사점

  • 이번 발표는 인프라 성능, 공개 모델 맞춤화, 데이터 가까이에서의 실행을 연결한다. 기업의 AI 적용 범위를 클라우드 한곳에서 여러 실행 환경으로 넓히려는 방향이 드러난다.
  • EY 사례는 특정 업무에 맞춘 공개 모델이 정확도와 비용 측면에서 이점을 낼 수 있다는 근거다. 다만 해당 평가 데이터셋의 결과를 모든 기업 업무에 적용되는 우위로 해석할 근거는 제시되지 않았다.
  • 발표에는 가동 중인 시스템, 지원 확대, 출시 예정 모델, 프리뷰 계획이 함께 포함돼 있다. 기술의 성능과 실제 이용 가능한 시점을 별도로 판단하는 것이 중요하다.

✅ 액션 아이템

  • Azure Vera Rubin NVL72의 프리뷰 상태와 GB200·GB300 기반 MLPerf 결과의 측정 범위를 구분해 도입 가능성 검토.
  • Microsoft Foundry의 공개 모델 맞춤화 적용성을 검토하되, EY의 정확도 55% 개선·비용 15분의 1 결과는 해당 평가 데이터셋의 사례로 한정해 해석.
  • Foundry Local·Azure Local·Windows PC의 실행 환경을 비교하고, Windows 365 Direct Stream의 제한적 프리뷰와 2027년 초 공개 프리뷰 계획을 적용 시점 판단에 반영.

❓ 열린 질문

  • Azure Vera Rubin NVL72 프리뷰의 성능은 GB200·GB300 기반 MLPerf 결과와 비교할 때 어떻게 평가할 수 있는가?
  • EY 평가 데이터셋에서 나타난 정확도 55% 개선과 비용 15분의 1 효과는 다른 기업 구매 기록 분류 환경에서도 재현되는가?
  • Windows 365 Direct Stream의 제한적 프리뷰와 2027년 초 공개 프리뷰는 각각 어떤 범위의 이용을 지원하는가?

관련 문서

공통 태그와 주제 흐름을 기준으로 같이 보면 좋은 문서를 이어서 제안합니다.