NVIDIA Partners With Microsoft on Unified Stack for Agentic AI Deployment, From Windows Devices to Cloud to Local
Quick Summary
엔비디아와 마이크로소프트는 Windows 기기, Azure 클라우드, 로컬·온프레미스 환경을 아우르는 에이전트형 AI 배포용 통합 스택을 확대해 하드웨어, 모델, 데이터 계층, 보안 런타임, AI 팩토리까지 연결한다고 발표했다.
🖼️ 인포그래픽
🖼️ 4컷 인포그래픽
💡 한 줄 요약
엔비디아와 마이크로소프트는 Windows 기기, Azure 클라우드, 로컬·온프레미스 환경을 아우르는 에이전트형 AI 배포용 통합 스택을 확대해 하드웨어, 모델, 데이터 계층, 보안 런타임, AI 팩토리까지 연결한다고 발표했다.
📌 핵심 요약
- 엔비디아와 마이크로소프트는 Microsoft Build에서 에이전트형 AI를 실제로 배포하려면 좋은 모델뿐 아니라 빠른 하드웨어, 안전한 실행 환경, 반응성 높은 데이터 계층, 장기 추론에 맞춘 모델이 함께 필요하다고 강조했다.
- Windows 영역에서는 RTX Spark 기반 노트북·소형 데스크톱과 DGX Station for Windows를 통해 개발자가 Windows에서 에이전트를 직접 구축·튜닝·실행할 수 있도록 하며, 두 제품 모두 NVIDIA OpenShell 보안 런타임을 실행한다.
- Azure와 Microsoft Foundry에서는 NVIDIA Nemotron 계열 모델, Cosmos 3, Earth-2 AI weather models, Agent Toolkit, NemoClaw blueprints, CUDA-X 라이브러리 등이 제공되어 기업이 에이전트형·물리 AI·과학 AI 워크플로를 구성할 수 있게 한다.
- Microsoft Fabric Data Warehouse에는 엔비디아 가속 컴퓨팅이 통합되어 내부 벤치마크 기준 CPU 기반 대비 SQL 실행이 최대 6배, 고동시성 워크로드에서 다른 주요 클라우드 데이터 웨어하우스 3곳 대비 최대 7배 빨라졌다고 설명한다.
- 엔비디아와 마이크로소프트는 Foundry Local on Azure Local, GitHub Copilot에 통합된 OpenShell, Fairwater Wisconsin AI factory, Vera Rubin 플랫폼 검증, Dynamo-Grove 기반 추론 오케스트레이션까지 포함해 클라우드 밖과 대규모 데이터센터까지 에이전트형 AI 배포 범위를 넓히고 있다.
🧩 주요 포인트
- 엔비디아와 마이크로소프트는 Microsoft Build에서 에이전트형 AI를 실제로 배포하려면 좋은 모델뿐 아니라 빠른 하드웨어, 안전한 실행 환경, 반응성 높은 데이터 계층, 장기 추론에 맞춘 모델이 함께 필요하다고 강조했다.
- Windows 영역에서는 RTX Spark 기반 노트북·소형 데스크톱과 DGX Station for Windows를 통해 개발자가 Windows에서 에이전트를 직접 구축·튜닝·실행할 수 있도록 하며, 두 제품 모두 NVIDIA OpenShell 보안 런타임을 실행한다.
- Azure와 Microsoft Foundry에서는 NVIDIA Nemotron 계열 모델, Cosmos 3, Earth-2 AI weather models, Agent Toolkit, NemoClaw blueprints, CUDA-X 라이브러리 등이 제공되어 기업이 에이전트형·물리 AI·과학 AI 워크플로를 구성할 수 있게 한다.
- Microsoft Fabric Data Warehouse에는 엔비디아 가속 컴퓨팅이 통합되어 내부 벤치마크 기준 CPU 기반 대비 SQL 실행이 최대 6배, 고동시성 워크로드에서 다른 주요 클라우드 데이터 웨어하우스 3곳 대비 최대 7배 빨라졌다고 설명한다.
- 엔비디아와 마이크로소프트는 Foundry Local on Azure Local, GitHub Copilot에 통합된 OpenShell, Fairwater Wisconsin AI factory, Vera Rubin 플랫폼 검증, Dynamo-Grove 기반 추론 오케스트레이션까지 포함해 클라우드 밖과 대규모 데이터센터까지 에이전트형 AI 배포 범위를 넓히고 있다.
🧠 상세 정리
1. 에이전트형 AI 배포를 위한 통합 스택 발표
글은 에이전트형 AI의 시점이 도래했지만, 그 약속을 실현하려면 단순히 성능 좋은 모델을 확보하는 것만으로는 부족하다는 문제의식에서 출발한다. 필요한 요소로 빠른 하드웨어, 안전한 런타임, 반응성 높은 데이터 계층, 장기간 추론에 맞춘 모델이 제시된다. 엔비디아와 마이크로소프트는 이 전체 스택을 Windows 기기, Azure 클라우드, 로컬 배포 환경 전반에서 개발자에게 제공하겠다고 설명한다. Microsoft Build에서 젠슨 황과 사티아 나델라는 RTX Spark, DGX Station for Windows, Microsoft Fabric 가속, Foundry의 엔비디아 오픈 모델, GitHub Copilot의 OpenShell, 차세대 AI 팩토리까지 포함한 확장 파트너십을 소개했다.
2. Windows 기기를 AI 에이전트 개발 환경으로 재구성
엔비디아와 마이크로소프트는 Windows PC를 AI 에이전트 시대에 맞춰 재구상하고 있다고 설명한다. RTX Spark 노트북과 소형 데스크톱은 개인 에이전트용으로 설계된 Windows PC로 소개되며, 1페타플롭 AI 성능, 최대 128GB 통합 메모리, 하루 종일 지속되는 배터리, 전원 연결 없이도 AI와 그래픽 성능을 제공하는 점이 강조된다. 이 시스템에는 CUDA, RTX, DLSS, TensorRT 등 엔비디아의 기존 기술 축적이 반영되며 Microsoft Surface, ASUS, Dell, HP, Lenovo, MSI 제품이 가을에 출시될 예정이다. DGX Station for Windows는 엔터프라이즈 애플리케이션과 워크플로에서 에이전트를 구축하고 실행하는 데 초점을 둔 데스크사이드 AI 슈퍼컴퓨터로, GB300 Grace Blackwell Ultra Desktop Superchip, 최대 748GB coherent memory, 20페타플롭 FP4 성능을 제공한다고 소개된다.
3. Microsoft Foundry에서 확장되는 모델과 에이전트 워크플로
본문은 에이전트형 AI가 하나의 모델이 아니라 여러 모델의 시스템 위에서 작동한다고 설명한다. Microsoft Foundry Agent Service의 hosted agents에는 NVIDIA, Anthropic, OpenAI 모델과 Hermes special agents가 포함되며, 기업은 Azure의 내장 ID와 거버넌스를 활용해 에이전트형 시스템을 구성할 수 있다. NVIDIA Nemotron 3 Ultra는 코딩, 리서치, 엔터프라이즈 워크플로를 위한 장기 실행 에이전트용 오픈 프런티어 추론 모델로 소개되고, Nemotron 3.5 ASR 및 Nemotron 3.5 Content Safety도 함께 언급된다. 개발자는 Nemotron을 프런티어 모델 및 로컬 모델과 조합해 각 워크플로의 비용과 품질을 조정할 수 있으며, Foundry의 엔비디아 오픈 모델 포트폴리오는 에이전트형 AI, 물리 AI, 과학 AI로 확장된다.
4. 데이터 웨어하우스와 물리 AI로 넓어지는 적용 범위
에이전트형 AI가 지속적으로 데이터를 질의하고 추론하려면 데이터 계층도 충분히 빠르게 반응해야 한다는 점이 강조된다. Microsoft Fabric Data Warehouse에는 엔비디아 가속 컴퓨팅이 내장되었고, 마이크로소프트 내부 벤치마크에서는 CPU 기반 기준 대비 SQL 실행이 최대 6배 빨라졌으며 고동시성 워크로드에서는 다른 주요 클라우드 데이터 웨어하우스 3곳 대비 최대 7배 빠른 결과가 제시됐다. 이어 글은 물리 AI를 에이전트의 다음 개척지로 설명한다. 마이크로소프트는 엔비디아의 오픈소스 물리 AI 스킬과 도구를 Azure 및 Physical AI Toolchain과 통합하고 있으며, Cosmos 3의 mixture-of-transformers 아키텍처를 기반으로 로봇, 자율주행차, 산업 시스템 같은 자율 시스템을 시뮬레이션·훈련·배포하는 통합 플랫폼을 제공한다고 설명한다.
5. 로컬·하이브리드 환경과 보안 에이전트 실행
글은 에이전트형 AI가 클라우드를 넘어 온프레미스, 하이브리드, 주권형 환경으로 이동하고 있다고 설명한다. Microsoft는 Foundry Local on Azure Local을 NVIDIA RTX PRO 6000 Blackwell Server Edition 플랫폼으로 가져오며, NVIDIA Nemotron 오픈 모델 제품군과 결합해 기업이 데이터가 있는 위치에서 고성능 AI 워크로드를 실행할 수 있게 한다고 밝힌다. Foundry Local on Azure Local은 다중 노드 배포와 vLLM 런타임을 지원해 제조, 에너지, 주권형 데이터센터, 지연 시간에 민감한 시나리오의 추론 확장을 목표로 한다. 보안 측면에서는 NVIDIA OpenShell이 GitHub Copilot에 통합되어 각 에이전트를 샌드박스 컨테이너에서 격리 실행하고, 파일·네트워크·자격 증명에 접근하기 전 모든 외부 호출을 정책으로 평가하도록 한다.
6. AI 팩토리와 차세대 인프라 검증
마지막 부분은 대규모 인프라 차원의 진전을 다룬다. Microsoft의 Fairwater Wisconsin AI factory가 예정보다 앞서 가동에 들어갔으며, 수십만 개의 NVIDIA Grace Blackwell 시스템을 하나의 AI 팩토리처럼 운영하고 조지아의 유사 AI 팩토리와 연결해 분산형 AI 시스템을 제공한다고 설명한다. 전력, 냉각, NVIDIA Spectrum-X Ethernet, Multipath Reliable Connection transport protocol에 대한 공동 엔지니어링을 통해 토큰 경제성을 최적화하고 있다는 점도 언급된다. 또한 Microsoft는 NVIDIA Vera Rubin 플랫폼을 Azure 데이터센터 배포용으로 이미 검증했으며, 이 플랫폼은 Blackwell과 함께 별도 개조 없이 들어가 최대 10배의 메가와트당 추론 처리량과 에이전트형 토큰 비용의 한 자릿수 규모 절감을 제공한다고 설명된다. NVIDIA Dynamo와 Grove는 AKS에서 모델 콜드스타트를 가속하고 Kubernetes-native 분산 추론 오케스트레이션을 제공하는 소프트웨어 계층으로 제시된다.
🧾 핵심 주장 / 시사점
- 이 발표의 핵심은 특정 모델 출시가 아니라, 에이전트형 AI를 실제 기업 환경에 배포하기 위해 기기, 클라우드, 데이터, 보안, 데이터센터를 하나의 실행 체계로 묶는 데 있다.
- Windows PC에서 데스크사이드 슈퍼컴퓨터, Azure, 온프레미스 Azure Local까지 이어지는 구성은 에이전트형 AI가 개발자 실험을 넘어 기업 워크플로와 데이터 위치 제약을 직접 다루는 단계로 이동하고 있음을 보여준다.
- OpenShell, Foundry 거버넌스, 로컬 배포, AI 팩토리 최적화가 함께 제시된 점은 앞으로 에이전트형 AI 경쟁이 모델 성능뿐 아니라 보안 정책, 데이터 접근 속도, 추론 비용, 배포 위치 선택권의 경쟁으로 확장될 가능성을 시사한다.
✅ 액션 아이템
- 원문에서 강조한 핵심 변화와 이해관계자를 기준으로 NVIDIA Partners With Microsoft on Unified Stack for Agentic AI Deployment, From Windows Devices to Cloud to Local의 영향을 정리한다.
- 다음 의사결정이나 제품/정책 판단에 연결될 수 있는 근거를 원문 문장과 함께 기록한다.
- 기사에서 제시한 수치·사례·제약 조건을 분리해 과장 없이 검토한다.
- 후속 모니터링이 필요한 발표·제품·정책 변화가 있는지 출처 링크를 기준으로 추적한다.
❓ 열린 질문
- The Nvidia AI PC, Project Solara, Microsoft AI]]" "193. 이 변화가 실제 사용자나 조직의 선택 기준을 어떻게 바꿀까?
- How the UK Is Turning Sovereign AI Ambition Into Action With NVIDIA Technologies" "180. 이 근거가 다른 산업이나 지역에서도 동일하게 적용될 수 있을까?
- NVIDIA Enables the Next Era Of Physical AI Research With Agent Skills For Autonomous Vehicles, Robotics And Vision AI" "194. 기사에서 아직 검증되지 않은 전제나 리스크는 무엇일까?
- NVIDIA Jetson Brings Agentic AI to the Physical World" "[[233. 후속 발표나 데이터가 나오면 어떤 지표를 먼저 비교해야 할까?