NVIDIA Expands Open Source Commitment With OpenShell Donation and New AI Infrastructure

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

NVIDIA는 OpenShell의 CNCF 기여와 Agent Substrate 협력, NVIDIA DSX AI Factory Platform의 신규 오픈소스 구성요소를 통해 Kubernetes 기반 AI 에이전트 보안·운영과 GPU 인프라 확장을 지원한다.

📌 핵심 요약

• NVIDIA는 자율 에이전트의 보안과 거버넌스를 위한 오픈소스 런타임 OpenShell을 CNCF에 기여한다. CNCF Sandbox 프로젝트로서 제품에 이를 통합하는 조직들이 거버넌스를 맡고, 전 세계 보안 전문가들의 참여로 보호 기능을 강화한다.
• OpenShell은 에이전트의 도구 사용, 추론 서비스 접근, 워크로드 실행에 결정론적 제어를 적용하며 기존 컴퓨팅·추론 제공업체·자격 증명 저장소·모니터링 도구와 연결된다. NVIDIA에 따르면 출시 후 1년이 채 되지 않아 수백 개 조직이 사용하고 수만 건의 기여가 이루어졌다.
• NVIDIA는 Google이 시작한 CNCF Sandbox 프로젝트 Agent Substrate에 기여하며 NVIDIA Dynamo 및 KAI Scheduler와의 호환을 추진한다. Agent Substrate는 작업 사이에 에이전트 환경을 보존하면서 유휴 컴퓨팅 자원을 반환하며, NVIDIA와 Google은 클라우드와 온프레미스에서 사용할 OpenShell 통합도 협력하고 있다.
• NVIDIA DSX AI Factory Platform의 신규 구성요소 NVIDIA Kubernetes Engine(NVKE)과 NVIDIA Kubernetes Recipes(NVKR)는 공개 프리뷰로 제공된다. GPU 인프라의 관리형 Kubernetes 서비스를 위한 클러스터 수명주기 자동화와 서명된 버전 고정 이미지를 제공하며, 여러 인프라·클라우드 기업이 자사 서비스 통합 계획에 참여한다.
• NVIDIA Snapshot은 모델 재로딩이나 워밍업 없이 체크포인트로 저장한 복제본을 수초 내 복원하도록 설계됐다. NVIDIA HGX B300 시스템을 사용한 파트너 평가에서 Crusoe의 GLM-5.3 준비 시간은 약 8분에서 31초로, Saturn Cloud의 vLLM 시작 시간은 2~8.5분에서 6~34초로 단축됐다.

🧩 주요 포인트

1. OpenShell의 결정론적 정책 제어와 CNCF 공동 거버넌스 → 기업별 시스템 연동을 유지하면서 에이전트 보안 기반을 공동으로 검토하고 개선할 수 있다.
2. Agent Substrate의 환경 보존·유휴 자원 반환과 NVIDIA Dynamo·KAI Scheduler 연계 → 에이전트 실행, 추론 제공, 공유 클러스터 자원 배분을 Kubernetes 위에서 연결하는 방향이다.
3. 공개 프리뷰인 NVKE·NVKR의 운영 자동화와 NVIDIA Snapshot의 복원 방식 → 관리형 Kubernetes 운영과 추론 용량 확장의 서로 다른 부담을 줄이려는 접근이며, 제시된 시간 단축은 특정 파트너 워크로드의 평가 결과다.

🧠 상세 정리

1. Kubernetes를 중심으로 확대하는 오픈소스 기여

원문은 수천 개 AI 팩토리에서 애플리케이션 실행을 관리하는 오픈소스 시스템 Kubernetes가 AI의 기반이 됐으며, 이에 대한 요구도 커지고 있다는 설명으로 시작한다. NVIDIA는 Kubernetes와 클라우드 네이티브 커뮤니티의 대표 행사인 KubeCon + CloudNativeCon에서 이러한 요구에 대응하는 오픈소스 기여 확대를 발표했다. 발표는 OpenShell의 CNCF 기여, Agent Substrate 참여, NVIDIA DSX AI Factory Platform의 신규 구성요소라는 세 축으로 구성된다. 이들은 각각 자율 에이전트의 보안과 거버넌스, 대규모 실행, GPU 인프라의 배포·관리·확장을 지원하며, NVIDIA는 이를 Kubernetes를 대규모 AI 워크로드의 주요 기반으로 발전시키는 진전으로 제시한다.

2. OpenShell의 보안 제어와 커뮤니티 거버넌스

NVIDIA는 자율 에이전트를 보호하고 관리하는 오픈소스 런타임 OpenShell을 Linux Foundation 산하 비영리 조직인 Cloud Native Computing Foundation(CNCF)에 기여한다. OpenShell은 CNCF Sandbox 프로젝트로서 이를 제품에 통합하는 조직들이 거버넌스를 맡고, 전 세계 보안 전문가들이 개발과 보호 기능 강화에 참여하는 구조를 갖는다. Linux Foundation CEO Jim Zemlin은 에이전트가 안전하게 작동할 환경을 제공하는 일이 클라우드 네이티브 커뮤니티의 새로운 인프라 과제이며, 이번 기여가 공동 기반과 협업 기회를 제공한다고 설명했다. OpenShell은 도구 사용, 추론 서비스 접근, 워크로드 실행에 결정론적 제어를 적용하고, 조직이 자체 컴퓨팅·추론 제공업체·자격 증명 저장소·모니터링 도구를 연결하도록 지원한다. NVIDIA에 따르면 출시 후 1년이 채 되지 않은 시점에 수백 개 조직이 OpenShell을 사용했으며, 수만 건의 기여가 이루어졌다.

3. Agent Substrate로 에이전트 실행 규모 확장

원문은 에이전트 거버넌스만으로는 충분하지 않으며, 조직이 에이전트를 대규모로 배포할 수 있어야 한다는 문제로 논의를 확장한다. NVIDIA는 Google이 시작하고 CNCF Sandbox에 채택된 Agent Substrate에 기여하면서, 모델 추론용 NVIDIA Dynamo 및 공유 클러스터 자원 배분용 KAI Scheduler와의 호환을 추진한다. Agent Substrate는 작업 사이에 에이전트 환경을 보존하되 에이전트가 유휴 상태일 때 컴퓨팅 자원을 반환하고, 공유 에이전트 풀에서 환경을 일시 중단하거나 재개한다. 이 방식은 모든 세션에 전용 컴퓨팅 자원을 계속 가동하지 않고도 에이전트 워크로드를 확장하도록 지원한다. NVIDIA와 Google은 기업이 클라우드와 온프레미스 시스템 전반에서 에이전트를 보호하고 관리할 수 있도록 OpenShell과 Agent Substrate의 통합도 함께 추진하고 있다.

4. NVKE·NVKR로 관리형 Kubernetes 운영 지원

AI 팩토리는 고객에게 관리형 Kubernetes 서비스를 제공하면서도 인프라, 소프트웨어, 고객 경험에 대한 통제권을 유지해야 한다는 요구를 갖는다. NVIDIA는 이에 대응해 GPU 인프라와 Kubernetes 관리부터 워크로드 오케스트레이션과 모델 제공까지 포괄하는 DSX AI Factory Platform에 새로운 오픈소스 프로젝트를 추가했다. 공개 프리뷰로 제공되는 NVIDIA Kubernetes Engine(NVKE)과 NVIDIA Kubernetes Recipes(NVKR)는 GPU 인프라에서 관리형 Kubernetes 서비스를 제공하기 위한 구성요소로, 클러스터 수명주기 관리를 자동화하고 서명된 버전 고정 이미지를 제공한다. Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud, vCluster와 함께 Firmus 및 SK Telecom이 자사 제품과 서비스에 관련 기능을 도입하기 위한 통합 계획에 뜻을 모았다. 원문이 밝힌 생태계 지원은 이러한 통합 계획이며, 모든 서비스에서 통합이 완료됐다는 의미로 제시되지는 않는다.

5. Snapshot으로 추론 용량의 시작과 복구 가속

NVIDIA Snapshot은 추가 추론 용량을 신속하게 가동할 때 발생하는 지연을 해결하기 위한 오픈소스 모듈형 구성요소다. 원문은 모델을 로딩하고 워크로드를 워밍업하는 과정이 용량 확장과 복구를 늦출 수 있다고 설명하며, 이를 Kubernetes 기반 AI 인프라 운영의 별도 과제로 다룬다. Snapshot은 체크포인트로 저장한 복제본을 모델 재로딩이나 워밍업 없이 수초 안에 복원하는 방식으로 이 지연에 대응한다. NVIDIA는 이러한 복원 방식이 Kubernetes의 추론 및 에이전트형 워크로드에서 시작과 복구를 빠르게 하고, 필요에 따른 용량 조절을 지원한다고 설명한다. 따라서 NVKE·NVKR가 관리형 Kubernetes 서비스의 운영 기반을 제공한다면, Snapshot은 추론 워크로드가 실제로 준비되기까지 걸리는 시간을 줄이는 역할을 맡는다.

6. 파트너 워크로드에서 제시된 시간 단축 결과

설계 파트너인 Crusoe와 Saturn Cloud는 NVIDIA HGX B300 시스템을 사용해 각자의 워크로드에서 Snapshot을 평가했다. Snapshot의 업스트림 기여자이기도 한 Crusoe는 Crusoe Cloud에서 GLM-5.3을 시험했으며, 워크로드가 준비되기까지 걸리는 시간을 약 8분에서 31초로 줄였다고 보고했다. 토큰 팩토리 플랫폼인 Saturn Cloud는 추론 용량이 없는 상태에서 시작하는 상황을 벤치마크했고, vLLM 시작 시간을 2~8.5분에서 6~34초로 단축했다. 이 수치는 서로 다른 파트너의 워크로드와 평가 상황에서 나온 결과이므로, 모든 모델이나 배포 환경에 동일하게 적용되는 성능 보장으로 해석할 근거는 원문에 없다. 원문은 이 사례들을 통해 Snapshot의 빠른 복원이 추론 용량 확장에 주는 효과를 보여주고, KubeCon에서 NVIDIA의 관련 내용을 더 알아볼 수 있다는 안내로 마무리한다.

🧾 핵심 주장 / 시사점

• NVIDIA의 발표는 에이전트 보안, 실행 환경 관리, Kubernetes 운영, 추론 복원을 연결한다. 각 구성요소가 서로 다른 운영 문제를 담당한다는 점이 전체 접근을 이해하는 핵심이다.
• OpenShell의 CNCF 기여는 소스 공개뿐 아니라 제품에 통합하는 조직과 보안 전문가가 거버넌스와 개선에 참여하는 구조를 제시한다.
• NVKE·NVKR의 공개 프리뷰, 기업들의 통합 계획, Snapshot의 파트너 평가 결과는 각각 구분해서 읽어야 한다. 제공 단계와 협력 상태, 측정된 성능의 적용 범위가 서로 다르기 때문이다.

✅ 액션 아이템

• OpenShell의 결정론적 제어와 기존 컴퓨팅·추론 제공업체·자격 증명 저장소·모니터링 도구 간 연동 가능성 검토.
• Agent Substrate의 환경 보존·유휴 자원 반환 방식과 NVIDIA Dynamo·KAI Scheduler 연계가 에이전트 운영에 주는 영향 검토.
• NVKE·NVKR의 공개 프리뷰 상태와 NVIDIA Snapshot의 특정 파트너 워크로드 평가 범위를 고려해 적용 가능성 판단.

❓ 열린 질문

• OpenShell의 결정론적 제어는 기존 컴퓨팅·추론 제공업체·자격 증명 저장소·모니터링 도구와 어떻게 연동되는가?
• Agent Substrate의 환경 보존·유휴 자원 반환은 NVIDIA Dynamo·KAI Scheduler와 연결될 때 에이전트 실행과 자원 배분에 어떤 영향을 주는가?
• Crusoe의 GLM-5.3과 Saturn Cloud의 vLLM에서 나타난 NVIDIA Snapshot의 시간 단축은 다른 워크로드에서도 어느 범위까지 재현되는가?