Microsoft expands Azure AI and HPC infrastructure with AMD - The Official Microsoft Blog | Article 정리

🖼️ 인포그래픽

Microsoft expands Azure AI and HPC infrastructure with AMD - The Official Microsoft Blog 내용을 설명하는 본문 이미지

🖼️ 4컷 인포그래픽

💡 한 줄 요약

마이크로소프트는 AMD의 차세대 EPYC 프로세서와 Helios 플랫폼을 기반으로 데이터 처리, 반도체 설계·기술 컴퓨팅, 대규모 AI 추론에 특화된 Azure 인프라 3종을 공개했다.

📌 핵심 요약

마이크로소프트는 빠르게 증가하는 AI 모델, 에이전트형 워크로드, 연산 수요에 대응하기 위해 AMD 기술을 활용한 Azure AI·고성능 컴퓨팅 인프라를 확대한다.
새로운 제품군은 데이터 처리용 HDv2 가상 머신, 전자설계자동화용 HXv2 가상 머신, AI 추론용 ND MI455X v7 가상 머신으로 구성된다.
HDv2는 약 500개의 물리적 6세대 AMD EPYC CPU 코어, 4TB 메모리, 32TB 로컬 NVMe 저장장치, 400Gb Azure Boost 네트워킹을 제공한다.
HXv2는 176개의 6세대 AMD EPYC CPU 코어, 5GHz 초과 클록, 코어당 50% 늘어난 주소 지정 가능 캐시, 약 2TB 또는 4TB 메모리와 800Gb InfiniBand를 갖춘다.
AMD Helios 랙스케일 솔루션 기반의 ND MI455X v7은 추론, 검색, 에이전트형 워크로드를 포함한 대규모 AI 서비스의 성능과 효율을 지원하도록 설계됐다.

🧩 주요 포인트

AI 가속기의 성능은 데이터 처리와 작업 조율을 담당하는 고밀도·고효율 CPU 기반에 의존하므로, CPU 인프라 확장이 학습 및 에이전트 실행의 병목 완화로 이어진다.
Azure는 하나의 범용 시스템 대신 데이터 준비, RTL 시뮬레이션, 과학기술 계산, 대규모 추론에 각각 최적화된 구성을 제공해 워크로드별 효율을 높이려 한다.
AMD와의 공동 설계 및 Synopsys EDA 최적화는 Azure의 지원 범위를 AI 서비스 실행뿐 아니라 차세대 AI 반도체의 설계와 검증 과정까지 확장한다.

🧠 상세 정리

1. AI 수요 증가와 이기종 인프라 전략

마이크로소프트는 모델 수 증가, 새로운 에이전트형 워크로드, 급증하는 연산 수요 때문에 단일한 인프라 접근법만으로 AI 확장을 감당하기 어려워졌다고 설명한다. 이에 따라 Azure는 AI와 고성능 컴퓨팅의 각 작업에 맞는 전문화를 인프라 전반에서 강화하고 있다. 회사는 AMD 같은 산업 파트너의 기술과 자체 설계 실리콘 및 시스템을 함께 활용해 개방형 이기종 플랫폼을 제공한다는 방침이다. 목표는 고객이 AI 시스템을 구축하고 운영하는 방식에 따라 성능, 비용, 에너지 효율 측면에서 적합한 구성을 선택할 수 있도록 하는 것이다.

2. 세 가지 신규 Azure 제품과 CPU의 역할

마이크로소프트는 AMD의 최신 Helios AI 플랫폼과 차세대 EPYC 데이터센터 프로세서를 Azure에 도입하고, 이를 세 가지 출시 예정 제품에 적용한다. HDv2는 AI 데이터 처리, HXv2는 전자설계자동화와 기술 컴퓨팅, ND MI455X v7은 대규모 AI 추론을 각각 담당한다. 원문은 AI 가속기가 데이터를 처리하고 작업을 조율하며 파이프라인을 지속적으로 가동하기 위해 고밀도·고효율 CPU 연산에 의존한다고 강조한다. 충분한 CPU 기반이 없으면 학습 작업에 필요한 데이터 공급과 고객을 대신해 작업하는 에이전트의 실행 용량 모두가 제한될 수 있다는 설명이다.

3. 대규모 데이터·에이전트 작업을 위한 HDv2

HDv2 가상 머신은 마이크로소프트와 AMD가 공동 설계한 CPU 중심 제품으로, AI 고객의 까다로운 데이터 처리 작업에서 발생하는 병목을 줄이기 위해 만들어졌다. 주요 대상은 데이터 준비, 검색, 강화학습, 대규모 에이전트 조율이며, AI 가속기에 데이터를 공급하고 복잡한 작업 흐름을 유지하는 역할에 초점을 둔다. 한 가상 머신에는 약 500개의 물리적 6세대 AMD EPYC CPU 코어와 4TB 메모리, 32TB 로컬 NVMe 저장장치가 탑재된다. 여기에 400Gb Azure Boost 네트워킹을 결합해 대량의 데이터와 다수의 작업을 높은 처리량으로 연결하도록 구성했다.

4. 반도체 설계에 최적화된 HXv2

Azure HX 시리즈는 2023년 AMD와의 협력을 통해 처음 출시됐으며, AMD의 3D V-Cache 기술을 활용해 AI 반도체를 개발하는 설계 기업들 사이에서 채택됐다. 후속 제품인 HXv2도 이 기술을 유지해 RTL 시뮬레이션에 대한 Azure의 차별화를 이어가면서, 단일 스레드 성능과 메모리 구성을 크게 개선한다. HXv2는 176개의 6세대 AMD EPYC CPU 코어, 5GHz를 넘는 클록 주파수, 기존 대비 50% 늘어난 코어당 주소 지정 가능 캐시를 제공할 예정이다. 가상 머신 크기에 따라 약 2TB 또는 4TB 메모리를 제공하므로 고객은 설계 작업의 메모리 요구에 맞춰 구성을 선택할 수 있다.

5. 기술 컴퓨팅 확장과 AMD·Synopsys 협력

HXv2는 반도체 설계뿐 아니라 과학 시뮬레이션, 공학 분석, 분산 메모리 애플리케이션 등 더 넓은 기술 컴퓨팅 작업을 지원하도록 설계됐다. 향상된 가상 머신 및 코어당 성능과 800Gb InfiniBand는 대규모 MPI 기반 시뮬레이션을 실행하는 고성능 컴퓨팅 고객을 겨냥한다. HX 시리즈의 주요 고객이기도 한 AMD는 복잡한 EDA 작업을 확장하는 데 Azure HX가 중요한 플랫폼이며, HXv2가 더 높은 성능과 확장성을 제공하도록 설계됐다고 밝혔다. Synopsys도 Azure HX 시리즈가 고객의 EDA 작업을 기존 인프라 제약 밖으로 확장하고, 개발 일정과 설계 품질을 유지하면서 클라우드 연산을 안정적이고 효율적으로 활용하도록 지원한다고 평가했다.

6. 생산 규모 AI 추론과 고객 선택권

ND MI455X v7은 현대 AI 서비스의 핵심인 추론, 검색, 에이전트형 워크로드를 지원하도록 설계된 제품이다. AMD Helios 랙스케일 솔루션을 기반으로 Azure의 대규모 추론 인프라 선택지를 확대하며, 연산 요구가 높은 AI 작업에서 성능과 효율을 제공하는 것을 목표로 한다. 마이크로소프트는 HDv2, HXv2, ND MI455X v7을 통해 데이터 시스템에서 반도체 설계와 추론에 이르는 서로 다른 작업을 하나의 범용 구성에 맞추지 않고 각각에 적합한 연산 자원으로 지원하려 한다. 원문은 이러한 고객 선택권을 Azure의 핵심 설계 원칙으로 제시하며, AMD의 최신 기술을 생산 규모로 제공하겠다고 정리한다.

🧾 핵심 주장 / 시사점

AI 인프라의 확장은 가속기 추가에만 달린 문제가 아니라 데이터 준비, 검색, 작업 조율을 담당하는 CPU·메모리·저장장치·네트워크의 균형에 달려 있다는 점이 강조된다.
세 제품은 AI라는 하나의 범주 안에서도 데이터 처리, 반도체 설계, 기술 컴퓨팅, 추론의 자원 요구가 서로 다르므로 워크로드별 특화 인프라가 필요하다는 Azure의 방향을 보여준다.
HXv2와 EDA 협력 사례는 클라우드 인프라가 완성된 AI 서비스를 실행하는 단계뿐 아니라 그 서비스를 구동할 차세대 반도체의 설계와 과학·공학 시뮬레이션까지 지원하고 있음을 보여준다.

✅ 액션 아이템

데이터 준비와 작업 조율의 병목 완화를 위해 약 500개의 물리적 6세대 AMD EPYC CPU 코어, 4TB 메모리, 32TB NVMe, 400Gb 네트워킹을 제공하는 HDv2의 적용 범위를 정한다.
RTL 시뮬레이션과 반도체 설계·기술 컴퓨팅에는 176개의 6세대 AMD EPYC CPU 코어, 5GHz 초과 클록, 2TB 또는 4TB 메모리, 800Gb InfiniBand를 갖춘 HXv2의 적합성을 비교한다.
대규모 추론·검색·에이전트형 워크로드에는 AMD Helios 기반 ND MI455X v7의 성능과 효율을 기준으로 적용 우선순위를 정한다.