NVIDIA Agent Toolkit Expands, Grounding Enterprise Agents in Company Data

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

NVIDIA는 기업 데이터에 기반한 검색·예측과 에이전트의 접근·행동 통제를 지원하도록 오픈 소스 NVIDIA Agent Toolkit을 확장했다.

📌 핵심 요약

• NVIDIA Agent Toolkit은 새 NVIDIA Agent Knowledge Foundation, NVIDIA CUDA-X 라이브러리, Nemotron Retriever와 Kumo 계열 오픈 모델, 보안 런타임 OpenShell, 보안 에이전트 설계도 NemoClaw, NeMo Relay·NeMo Compass 등의 도구와 스킬로 구성된다.
• NVIDIA는 Agent Knowledge Foundation을 데이터 이동, 기존 워크플로 재구축, 거버넌스 통제 변경 없이 사용할 수 있다고 설명한다. cuDF·cuGraph·cuML·cuOpt·cuVS와 새 Auto-Ontology 라이브러리를 포함하며, Auto-Ontology는 원시 데이터를 고객·제품·주문 같은 업무 개념과 관계로 변환한다. Nemotron Retriever와 Kumo Structured 모델은 정보 검색과 예측을 지원한다.
• OpenShell은 에이전트가 접근할 수 있는 대상과 수행할 수 있는 행동을 통제하는 보안 실행 경계를 제공한다. NemoClaw는 안전한 특화 에이전트의 참조 설계를 제공하며, 최신 에이전트 최적화 설계도는 에이전트의 지능과 업무 수행 능력을 개선하기 위한 단계별 출발점을 제시한다.
• NVIDIA 공급망 조직은 Palantir Foundry·Ontology·AIP를 통해 Agent Knowledge Foundation을 활용한다. Databricks는 NVIDIA Kumo Anomaly와 Databricks Genie Ontology를 결합하며, Snowflake는 Snowflake Notebook 환경에서 NVIDIA Kumo Engine과 Kumo Relational 오픈 모델을 활용하도록 지원한다.
• Nemotron Retriever 도입 사례에서 Amazon OpenSearch Service는 추가 지연이 거의 없이 검색 단계를 줄이고 관련성을 개선했다. SAP의 미세 조정 재순위화 모델은 실행 속도가 거의 3배 빨라졌으며, ServiceNow는 재순위화 품질을 높이면서 지연 시간을 약 4분의 1 줄였다. Zoom은 문서 이해·검색 관련성·맥락 검색 개선에 해당 모델을 사용하고 있다.

🧩 주요 포인트

1. 업무 개념과 관계로 정리된 기업 데이터 → 에이전트가 관련 정보를 찾고 사업적 의미를 해석해 예측과 의사결정을 지원할 기반.
2. 기존 데이터·워크플로·거버넌스 유지와 OpenShell의 접근·행동 통제 → 기업 환경에 에이전트를 통합하고 운영 경계를 관리하는 접근.
3. Palantir·Databricks·Snowflake의 활용과 Nemotron Retriever의 성능 사례 → 데이터 활용 경로와 검색 품질·속도 개선을 보여주지만, 사례별 결과의 일반화 범위는 제시되지 않음.

🧠 상세 정리

1. 기업 데이터와 통제 경계를 함께 다루는 도구 확장

원문은 에이전트의 유용성이 보유한 지식에 달려 있고, 신뢰성은 작동 경계에 달려 있다는 관점에서 출발한다. NVIDIA는 기업들이 확장된 오픈 소스 NVIDIA Agent Toolkit으로 에이전트를 맞춤화하고 통제하며, 기업 데이터를 답변과 행동의 근거로 활용하고 활동을 모니터링한다고 설명한다. 구성 요소에는 NVIDIA Agent Knowledge Foundation과 CUDA-X 라이브러리, Nemotron Retriever와 새 Kumo 계열 오픈 모델, OpenShell, NemoClaw가 포함된다. NeMo Relay와 NeMo Compass 같은 도구와 스킬도 포함되며, 개발부터 배포까지 모델·하네스·런타임·데이터·도구를 연결하는 개방형 에이전트 스택이 필요하다는 것이 글의 주장이다.

2. 기업 데이터를 업무 지식과 예측의 기반으로 변환

NVIDIA Agent Knowledge Foundation은 기업 데이터를 에이전트가 활용할 수 있는 업무 지식으로 바꾸는 역할을 한다. 에이전트는 관련 정보를 찾고 사업적 의미를 이해하며, 이를 예측과 사람의 의사결정 지원에 사용할 수 있다. NVIDIA는 이 기반을 데이터 이동이나 기존 워크플로 재구축, 거버넌스 통제 변경 없이 사용할 수 있다고 설명한다. 구성 라이브러리는 cuDF, cuGraph, cuML, cuOpt, cuVS와 새 Auto-Ontology이며, Auto-Ontology는 원시 데이터를 고객·제품·주문 같은 익숙한 업무 개념으로 변환하고 관계를 연결한다. Nemotron Retriever와 함께 포함되는 Kumo Structured 오픈 모델은 Kumo Tabular, Kumo Relational, Kumo Time Series, Kumo Forecast로, 관련 기업 정보 검색과 질문 응답 및 예측을 지원한다.

3. OpenShell과 NemoClaw로 실행 통제와 개선 지원

데이터와 모델에 관한 설명에 이어 원문은 에이전트를 안전하게 실행하고 개선하는 구성 요소를 소개한다. OpenShell은 보안 런타임 경계를 제공해 기업이 에이전트의 접근 대상과 수행 가능한 행동을 통제하도록 한다. NVIDIA NemoClaw 설계도는 안전하고 특화된 에이전트를 구축하기 위한 참조 설계를 제공한다. 최신 에이전트 최적화용 NemoClaw 설계도는 에이전트의 지능을 개선하기 위한 단계별 출발점으로 제시된다. NVIDIA는 이를 통해 에이전트가 시간이 지나면서 업무를 더 잘 수행하도록 지원한다고 설명하지만, 해당 설계도의 구체적인 개선 수치나 평가 결과는 본문에 제시하지 않는다.

4. Palantir·Databricks·Snowflake를 통한 기업 활용

NVIDIA는 새 Agent Knowledge Foundation이 이미 기업 현장에서 활용되고 있다고 소개한다. NVIDIA 공급망 조직은 Palantir와 함께 Foundry, Ontology, AIP를 통해 이를 사용하며, 특화 에이전트 배포와 독점 데이터 기반의 실행 가능한 정보 생성, 결과 예측, 의사결정 최적화를 추진하고 있다. Databricks는 NVIDIA Kumo Anomaly와 Databricks Genie Ontology를 결합해 맥락을 인식하는 에이전트를 지원한다. Snowflake는 고객이 Snowflake Notebook 환경에서 NVIDIA Kumo Engine과 Kumo Relational 오픈 모델을 사용해 예측 기능을 확대할 수 있도록 지원한다. 이 사례들은 기업별 데이터 환경에서의 활용 방식을 보여주지만, 본문은 각 사례의 정량적인 사업 성과를 제시하지 않는다.

5. 검색 성능 사례와 확대되는 참여 기업

원문은 Nemotron Retriever가 검색 속도와 정확도를 높인다는 주장을 기업별 사례로 뒷받침한다. Amazon OpenSearch Service는 임베딩 모델을 사용해 추가 지연이 거의 없이 더 적은 검색 단계로 관련성을 개선했고, SAP의 미세 조정 재순위화 모델은 실행 속도가 거의 3배 빨라졌다. ServiceNow는 재순위화 품질을 개선하면서 지연 시간을 약 4분의 1 줄였으며, Zoom은 Zoom AI Services의 문서 이해와 검색 관련성, 맥락 검색을 개선하는 데 Nemotron Retriever를 사용하고 있다. Agent Knowledge Foundation을 기반으로 개발하는 기업에는 Amazon Web Services(AWS), ClickHouse, Cloudera, Cohesity, Dassault Systèmes, Dell, Elastic, Exa, IBM, NetApp, Oracle, Perplexity, Starburst, VAST Data도 포함된다. 글은 운영 환경에서 특화 에이전트를 구축·배포·최적화하는 GTC Berlin 세션을 안내하며 마무리한다.

🧾 핵심 주장 / 시사점

• 기업 데이터의 활용 가치는 단순한 검색을 넘어 업무 개념과 관계를 해석하는 데까지 확장된다. Auto-Ontology와 Kumo 모델은 이 정보를 질문 응답과 예측으로 연결하는 구성 요소로 제시된다.
• NVIDIA는 기업 지식 활용과 실행 통제를 함께 에이전트 신뢰성의 조건으로 다룬다. Agent Knowledge Foundation이 정보 기반을 제공하고, OpenShell이 접근과 행동의 경계를 담당하는 역할 분담이다.
• 검색 관련성, 재순위화 품질, 실행 속도, 지연 시간은 서로 다른 성과 지표다. Amazon OpenSearch Service·SAP·ServiceNow의 결과는 각 사례의 개선을 보여주며, 모든 도입 환경에서 동일한 효과를 보장하는 근거로 제시되지는 않는다.

✅ 액션 아이템

• NVIDIA Agent Knowledge Foundation의 데이터 이동·기존 워크플로 재구축·거버넌스 통제 변경 없는 활용 가능성 검토.
• OpenShell의 접근·행동 통제와 NemoClaw의 특화 에이전트 참조 설계를 기업 에이전트 운영 요구에 대조.
• Nemotron Retriever의 검색 관련성·재순위화 품질·지연 시간 개선 사례를 적용 목적에 맞춰 검토.

❓ 열린 질문

• NVIDIA Agent Knowledge Foundation을 데이터 이동, 기존 워크플로 재구축, 거버넌스 통제 변경 없이 사용할 수 있는 구체적인 조건과 제약은 무엇인가?
• OpenShell의 접근·행동 통제와 NemoClaw의 에이전트 최적화는 실제 기업 환경에서 어떻게 적용되고 평가되는가?
• SAP의 거의 3배 빠른 실행 속도와 ServiceNow의 약 4분의 1 지연 시간 감소는 어떤 조건에서 측정됐으며 다른 Nemotron Retriever 도입 환경에도 적용될 수 있는가?