NVIDIA Unveils Minerva to Bring End-to-End Observability for AI Factories

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

NVIDIA는 인프라와 AI 워크로드의 텔레메트리를 통합해 문제를 조기에 파악하고 GPU 가동 시간과 AI 팩토리 생산성을 높이도록 설계한 AIOps 플랫폼 Minerva를 공개했다.

📌 핵심 요약

• NVIDIA Minerva는 인프라와 AI 워크로드 데이터를 통합하고 전용 AI 모델로 분석하며, GPU 시간·goodput·클러스터 가동 시간·토큰 생산량으로 나타내는 AI 팩토리의 유효 작업 산출에 초점을 맞춘다.
• GPU·네트워킹·스토리지·스케줄러·워크로드 신호를 연결한 동적 지식 그래프를 바탕으로 시간당 수십억 개의 데이터 포인트를 분석해 이상 징후와 잠재적 장애를 탐지하고, 관련 이벤트를 유력한 근본 원인 중심의 사고로 묶는다.
• 기본 제공 AI 어시스턴트와 외부 에이전트형 AI 도구를 통해 실시간 텔레메트리에 근거한 자연어 조사와 조치 권고를 지원하며, 사람이 수동으로 수정하거나 인프라 API·외부 시스템을 통해 자동화할 수 있다.
• NVIDIA는 Minerva가 중단 사이의 시간 연장, 복구 시간 단축, 중요한 경보 선별에 기여한다고 설명한다. IREN은 실제 사용 파트너로 소개됐지만, 효과를 수치로 입증하는 성과 데이터는 제시되지 않았다.
• Aolani·Bitdeer AI·IBM·Jio·Lambda·Quake AI·Tesla는 Minerva 배포를 계획하고 있으며, Dell Technologies·Lenovo·Supermicro는 AI 팩토리 운영 포트폴리오의 일부로 제공할 예정이다.

🧩 주요 포인트

1. 분리된 운영 신호를 동적 지식 그래프로 연결 → 개별 장비 상태를 실행 중인 작업과 연관 지어 성능 저하의 원인을 추적하는 맥락 제공.
2. 실시간 텔레메트리에 근거한 자연어 조사와 조치 권고 → 운영팀이 사람의 수동 수정과 인프라 API를 통한 자동화 중 실행 방식을 선택할 수 있는 구조.
3. IREN의 사용 사례와 다른 기업들의 배포·제공 계획 → 현재 활용과 향후 확산을 구분해야 하며, 생산성 개선의 정량적 규모는 아직 확인하기 어려움.

🧠 상세 정리

1. 복잡한 AI 팩토리와 유효 작업 산출

NVIDIA는 문제를 더 일찍 발견하고 AI 팩토리의 생산성을 유지하도록 설계한 AIOps 플랫폼 Minerva를 공개했다. AI 팩토리는 고속 네트워크로 연결된 대규모 GPU를 사용해 모델을 학습하고 AI 애플리케이션을 제공하며, 구성요소 하나의 성능 저하가 전체 작업을 느리게 만들 수 있다. 다른 GPU보다 높은 온도나 부하 상황에서의 NVMe 드라이브 성능 저하처럼 놓치기 쉬운 신호도 문제의 전조가 될 수 있다. Minerva는 인프라와 AI 워크로드의 텔레메트리를 모으고 전용 AI 모델을 적용해 적시에 활용할 수 있는 정보를 제공한다. 플랫폼이 중점을 두는 AI 팩토리의 유효 작업 산출은 GPU 시간, goodput, 클러스터 가동 시간, 토큰 생산량을 통해 나타낸다.

2. 분리된 관측 정보를 연결하는 동적 지식 그래프

기존 모니터링 도구에서는 네트워킹, 컴퓨팅, 사이트 신뢰성, 머신러닝 담당 팀이 데이터센터의 서로 다른 부분을 따로 보는 경우가 많다고 NVIDIA는 설명한다. Minerva는 NVIDIA GPU와 네트워킹, 스토리지, 스케줄러, 워크로드에 걸친 신호를 연결해 이러한 분리된 관측 정보를 통합한다. 이 신호로 GPU, SuperNIC, 스위치, 케이블과 그 위에서 실행되는 작업을 논리적으로 매핑하는 동적 지식 그래프를 구축한다. 이 그래프가 제공하는 맥락을 이용하면 운영자는 느려진 학습 작업과 해당 작업에 영향을 주는 구성요소 사이의 관계를 추적할 수 있다. NVIDIA는 수십만 개의 GPU를 갖춘 AI 팩토리에서도 이러한 원인 추적을 지원한다고 설명한다.

3. 시간당 수십억 개의 데이터에서 장애 징후 추적

Minerva는 지도학습과 비지도학습을 사용해 시간당 수십억 개의 데이터 포인트를 분석한다. 정상적인 동작을 학습하고, 이전에 관측되지 않은 이상을 탐지하며, 발생 조짐이 있는 장애를 예측하는 것이 주요 기능이다. 또한 AI 팩토리의 토폴로지를 바탕으로 서로 관련된 이벤트를 연결해 개별 신호가 어떤 운영 문제에 속하는지 파악한다. NVIDIA의 설명에 따르면 모든 증상을 운영자에게 각각 전달하는 대신, 대량으로 발생한 이벤트를 유력한 근본 원인이 포함된 집중된 사고로 묶을 수 있다. 여기서 제시되는 원인은 확정된 원인이라기보다 조사 방향을 좁혀 주는 유력한 원인이며, 관련 경보를 실행 가능한 문제 단위로 정리하는 데 의미가 있다.

4. 자연어 조사와 사람·자동화의 실행 선택

Minerva는 기본 제공 AI 어시스턴트를 갖추고 있으며 외부 에이전트형 AI 도구와도 연결된다. 이를 통해 운영자는 실시간 텔레메트리에 근거한 자연어 인터페이스로 클러스터 상태를 조사할 수 있다. 대화 과정에서 권장되는 복구 조치를 받을 수 있어, 상태 확인과 대응 방향 탐색을 같은 인터페이스에서 수행하는 구조다. 실제 수정은 사람이 개입해 수동으로 실행하도록 유지할 수도 있고, 인프라 애플리케이션 프로그래밍 인터페이스와 외부 시스템을 통해 자동화에 연결할 수도 있다. 원문은 이 두 가지 실행 방식을 모두 제시하며, Minerva의 자연어 조사와 조치 권고 기능이 운영팀의 선택에 따라 수동 대응이나 자동화로 이어질 수 있다고 설명한다.

5. 운영 효과에 대한 주장과 IREN의 사용 경험

NVIDIA는 워크로드와 인프라 문제의 상관관계 분석 및 에이전트형 AI 기능이 AI 팩토리 운영을 단순화하고 GPU 가동 시간을 극대화하는 데 도움이 된다고 설명한다. 구체적으로 문제를 미리 찾아 중단 사이의 시간을 늘리고, 사고 발생 시 문제 지점을 파악해 복구 시간을 줄이며, 수많은 데이터에서 중요한 경보를 선별하는 효과를 제시한다. IREN은 Minerva를 사용해 AI 팩토리를 최적화하는 NVIDIA 파트너로 소개됐다. IREN의 최고기술책임자 Denis Skrinnikoff는 네트워크, GPU, 실행 중인 작업을 하나의 관점에서 볼 수 있어 문제 해결보다 사전 유지보수에 더 집중할 수 있다고 말했다. 다만 원문에는 중단 간격이나 복구 시간, GPU 생산성의 개선 폭을 정량적으로 보여 주는 결과는 제시되지 않았다.

6. 사용 중인 파트너와 향후 배포·제공 계획

원문은 IREN의 사용 사례에 이어 Minerva를 배포할 계획인 기업들을 소개한다. Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI, Tesla가 해당 목록에 포함되며, 이들에 대해서는 배포 계획이 있다는 수준으로 설명한다. 따라서 이 기업들을 이미 Minerva를 운영 중인 사례로 제시한 IREN과 동일한 도입 상태로 해석해서는 안 된다. 공급 측면에서는 Dell Technologies에 더해 Lenovo와 Supermicro도 AI 팩토리 운영 포트폴리오의 일부로 Minerva를 제공할 예정이라고 밝혔다. 발표는 실제 사용 사례와 향후 배포·제공 계획을 함께 제시하지만, 각 기업의 구체적인 배포 일정이나 도입 규모, 제공 조건까지 설명하지는 않는다.

🧾 핵심 주장 / 시사점

• Minerva의 관측 단위는 개별 장비에 머물지 않고 장비와 작업의 관계로 확장된다. 동적 지식 그래프는 성능 저하를 실제 AI 작업의 맥락에서 해석하는 기반이다.
• 관련 이벤트를 하나의 사고로 묶고 자연어로 조사하도록 지원하는 기능은 운영자가 처리해야 할 경보를 줄이고 사전 유지보수에 집중하도록 설계됐다.
• IREN의 사용 경험은 운영상 활용 사례를 제공하지만, 다른 기업들의 배포 계획과 NVIDIA의 효과 주장을 정량적으로 검증된 성과와 구분해 읽을 필요가 있다.

✅ 액션 아이템

• Minerva의 생산성 효과를 GPU 시간·goodput·클러스터 가동 시간·토큰 생산량을 기준으로 검토.
• 실시간 텔레메트리 기반 조치 권고를 활용할 때 사람의 수동 수정과 인프라 API를 통한 자동화 중 적용 방식 검토.
• IREN의 실제 사용과 Aolani·Bitdeer AI·IBM·Jio·Lambda·Quake AI·Tesla의 배포 계획을 구분하고, 정량적 성과 데이터의 제시 여부 확인.

❓ 열린 질문

• Minerva는 GPU 시간·goodput·클러스터 가동 시간·토큰 생산량을 각각 얼마나 개선하는가?
• Minerva의 조치 권고에서 사람의 수동 수정과 인프라 API를 통한 자동화를 선택하는 기준은 무엇인가?
• Aolani·Bitdeer AI·IBM·Jio·Lambda·Quake AI·Tesla의 Minerva 배포 계획은 언제 실제 운영으로 이어지는가?