Open From Data Center to Desktop: NVIDIA Expands Nemotron Family With Highest Efficiency Super VL and Bolt Models

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

NVIDIA는 Nemotron 3.5 Super VL과 Bolt 모델 2종으로 데이터센터부터 데스크톱·엣지까지 개방형 에이전트 모델군을 확장하며, 작업별 성능·메모리 효율과 자체 데이터 기반 맞춤화를 강조했다.

📌 핵심 요약

• Nemotron 3.5 Super VL은 1,200억 매개변수의 개방형 멀티모달 모델이다. NVIDIA는 자사 최대 추론 모델의 약 5분의 1 크기로 유사한 정확도를 제공하고, Artificial Analysis Intelligence Index에서 동급 모델 대비 최대 5배 빠른 처리량을 달성한다고 밝혔다.
• Bolt 74B-A9B 24GB는 네이티브 2비트 양자화로 24GB 메모리에서 로컬 에이전트 작업의 지능과 속도 간 균형을 추구한다. Bolt E4B 4GB는 빠른 로컬 대화·물리적 에이전트를 겨냥한다. Super VL과 Bolt 74B-A9B는 현재 제공되며, Bolt E4B는 10월 23일 출시 예정이다.
• 여러 산업의 수십 개 조직이 Super VL을 자체 데이터·도구·정책·업무 흐름에 맞춰 후속 학습하고 있다. 활용 분야는 금융·코딩·사이버보안·의료 등이며, 모델은 OCR, 표·차트, 웹페이지·PDF의 텍스트와 시각 정보를 함께 이해하도록 설계됐다.
• Super VL은 가중치·데이터셋·학습 레시피를 공개하며 NVIDIA NeMo와 Python 기반 파이프라인을 통한 맞춤화를 지원한다. 사전학습과 추가 사전학습에는 약 26조 토큰, 후속 학습에는 약 380만 샘플과 수십 개 환경에서의 강화학습이 사용됐다. 조직은 보안·데이터 소재지 요건에 따라 자체 인프라에 배포할 수 있다.
• NVIDIA NIM은 검증된 최적화 구성과 기업용 지원을 제공하며 2주마다 보안 패치와 성능 개선을 반영한다. NVIDIA는 Dynamo에서 Super VL을 실행하면 최대 8배 많은 사용자를 수용하고 지연시간을 85% 줄일 수 있다고 주장한다. 배포 범위는 DGX Spark·DGX Station·RTX·Jetson부터 데이터센터와 클라우드까지 이어진다.

🧩 주요 포인트

1. Super VL의 전문 업무 처리와 Bolt의 로컬 메모리 최적화 → 같은 Nemotron 계열 안에서 배포 규모와 작업 성격에 맞춘 모델 선택을 지향한다.
2. 자체 데이터로 수행하는 후속 학습과 텍스트·시각 정보의 통합 이해 → 범용 모델을 조직별 업무에 맞추고 문서에서 판단까지 맥락을 이어가는 활용을 뒷받침한다.
3. 공개 가중치·학습 자원과 NeMo·NIM·Dynamo의 결합 → 모델 수정과 배포 위치에 대한 통제권을 확보하면서 운영 성능과 유지보수를 지원하려는 구성이다.

🧠 상세 정리

1. Nemotron 확장과 Super VL의 성능 주장

NVIDIA는 대기업 서버부터 엣지 장치와 로컬 하드웨어까지 에이전트 배포 범위를 넓히기 위해 Nemotron 3.5 Super VL과 Bolt 2종을 발표했다. 기존 제품군에서는 8월 출시된 Lightning이 높은 처리량의 작업을, Ultra가 가장 어려운 추론 작업을 담당하며, Bolt는 엣지에 지능을 제공하는 역할로 소개된다. Nemotron Coalition과 협력해 개발한 Super VL은 1,200억 매개변수 모델로, 지시 이행·도구 사용·여러 단계의 기업 업무·시각 이해를 포함하는 멀티모달 에이전트 작업을 겨냥한다. NVIDIA는 자사 최대 추론 모델의 약 5분의 1에 해당하는 매개변수로 유사한 정확도를 제공한다고 설명한다. 또한 동급 개방형 에이전트 모델 가운데 가장 빠르다고 주장하며, Artificial Analysis Intelligence Index에서 동급 모델 대비 최대 5배 빠른 처리량을 제시한다. 이러한 성능은 며칠이나 몇 주에 걸친 대량의 기업 업무를 에이전트가 더 빠르게 수행하도록 돕는 근거로 제시되지만, 본문에는 상세한 비교 조건이 담겨 있지 않다.

2. Bolt의 로컬 작업과 대화형 에이전트

Bolt 74B-A9B 24GB는 NVIDIA RTX/DGX Spark에서 일상적인 에이전트 작업을 로컬로 실행하도록 설계됐으며, 네이티브 2비트 양자화를 사용해 24GB 메모리에 들어가고 다른 애플리케이션과 함께 실행될 수 있도록 했다. NVIDIA는 비슷한 메모리를 사용하는 모델들과 비교해 지능과 속도의 균형을 제공하며, 대부분의 작업을 처리할 능력을 갖추면서 지능이 가장 높은 모델들보다 훨씬 빠르다고 설명한다. 사용자는 로컬 에이전트 실행 도구를 통해 웹 조사, 코드 작성과 디버깅 등을 위임할 수 있고, 해당 작업을 클라우드로 보낼 필요가 없다는 점이 강조된다. 기사에 따르면 이 모델은 해당 등급의 개방형 모델 중 PinchBench 1위, BrowseComp 2위다. Bolt E4B 4GB는 GeForce RTX, Jetson, RTX/DGX Spark의 물리적·대화형 에이전트를 대상으로 하며 메모리당 지능을 중시한다. 자연스러운 대화와 여러 차례 상호작용하는 에이전트 기능을 결합해 빠른 로컬 음성 비서, 상호작용형 캐릭터, 내장형 인터페이스를 지원하는 것이 목표다.

3. 산업별 데이터로 수행하는 맞춤형 후속 학습

NVIDIA는 여러 산업의 수십 개 조직이 Super VL을 자체 데이터·도구·정책·업무 흐름으로 후속 학습해 전문 작업의 정확도를 높이고 있다고 밝혔다. Scale AI는 Skydance의 공급업체 신용 금융 에이전트와 EY의 인수합병 실사 에이전트를 위해 모델을 후속 학습했고, AfterQuery는 Hebbia의 신용계약 분석에 맞게 모델을 조정했다. AI21과 Alice는 사이버공격에 대한 복원력을 위해, Mercor는 코드를 계획·작성·디버깅하는 에이전트를 위해 APEX-SWE 코딩 벤치마크로 후속 학습했다. ModelScope는 ms-swift 프레임워크를 통해 전문 멀티모달 애플리케이션용 미세조정을 지원한다. 추가 사례로 Ramp의 금융 문서 이해, Dream의 소버린 AI 기반 사이버보안 연구·취약점 분석, Lila Sciences의 과학적 발견·검색, R1의 의료 청구 분석·수익주기 관리가 소개된다. TrainLoop는 Nolla의 피부과 데이터로 모델을 후속 학습했으며, 기사는 Nolla가 AI의 초기 환자 처방 작성을 승인받은 최초의 기업이 됐다고 설명한다. 이 사례들은 맞춤화의 범위를 보여주지만, 본문은 조직별 정확도 개선 수치나 검증 결과를 별도로 제시하지 않는다.

4. 소프트웨어 통합과 문서의 시각 정보 이해

Super VL을 통합하는 소프트웨어 기업으로는 Jira·Confluence 같은 앱을 가로지르는 에이전트 검색을 추진하는 Atlassian, 기업 보안의 에이전트 기반 방어 활동에 맞춤화하는 CrowdStrike, 엔지니어링 설계·시뮬레이션을 지원하는 Dassault Systèmes가 소개된다. Perplexity는 Perplexity Search와 Computer의 검색·에이전트 작업에 활용하며, Salesforce는 Missionforce Operations를 통해 안전한 고객 환경에서 복잡한 정부 업무를 디지털화·자동화하는 에이전트에 Nemotron을 맞춤화하고 있다. Synopsys의 반도체 설계 검증 소프트웨어도 모델과 상호 운용된다. 이러한 활용을 뒷받침하는 시각·언어 기능은 에이전트가 실제로 접하는 OCR, 표, 차트, 시각 문서의 구조화된 정보에 초점을 둔다. 모델은 웹페이지에서 텍스트를 추출하고 그래프와 차트를 읽어 인사이트를 반환하며, PDF와 다른 문서에도 같은 방식을 적용한다. NVIDIA는 텍스트와 시각 이해를 하나의 모델에 결합하면 별도 시스템 사이에 작업을 분배할 필요가 줄고, 문서에서 데이터와 의사결정으로 진행하는 동안 맥락을 유지할 수 있다고 설명한다.

5. 개방성과 자체 배포를 통한 통제권

NVIDIA는 Super VL의 개방성과 맞춤화 가능성이 서로를 강화한다고 설명하며, 모델 가중치와 데이터셋, 학습 레시피를 공개한다. 조직은 자체 데이터로 후속 학습한 모델을 자체 인프라에 배포하고, 구축한 시스템을 직접 관리할 수 있다. 통제권은 보안·데이터 소재지 요건에 따라 실행 위치를 선택하는 것과 공급자의 제한에 종속되는 대신 조정 가능한 모델을 선택하는 두 방향으로 제시된다. 보험에서는 맞춤형 에이전트가 청구 내용의 사기 징후를 반복적으로 검사하고, 금융에서는 조직 고유의 대출 기준에 따라 신용점수와 활동을 검토하는 사례가 제시된다. 이 예시에서는 모델을 온프레미스에 유지하고 데이터를 비공개로 보존하는 구성을 강조한다. 맞춤화 수단으로는 NVIDIA NeMo, Python 기반 파이프라인, 공개 데이터셋을 제시하며, 개방형 모델을 조직별 정책과 업무 기준에 맞추는 접근을 설명한다.

6. 학습 자원 공개와 운영 성능 지원

Super VL은 사전학습과 추가 사전학습 전반에 걸쳐 약 26조 토큰으로 학습됐으며, 이후 약 380만 샘플과 수십 개 환경에서의 강화학습을 활용한 후속 학습을 거쳤다. NVIDIA는 Hugging Face에 에이전트 도구 사용, 금융, 지시 이행, 긴 문맥, 공정성, 시각·언어 이해 분야의 공개 데이터셋을 제공하고, NeMo Gym의 강화학습 환경도 공개한다고 밝혔다. NVIDIA NIM은 성능을 최적화하고 검증한 구성과 기업용 지원을 갖춘 운영용 마이크로서비스로 모델을 패키징한다. NIM에는 2주마다 보안 패치와 성능 개선이 반영된다는 설명도 포함된다. NVIDIA는 Dynamo에서 모델을 실행할 경우 최대 8배 많은 사용자를 수용하면서 지연시간을 85% 줄일 수 있다고 주장한다. 다만 본문에는 이 운영 성능 수치의 비교 대상이나 측정 환경이 구체적으로 제시되지 않아, 제시된 수치의 적용 범위는 기사만으로 확정하기 어렵다.

7. 제공 일정과 하드웨어·실행 도구 지원

Super VL과 Bolt 74B-A9B 24GB는 현재 제공되며, Bolt E4B 4GB는 10월 23일 출시될 예정이다. Super VL은 Hugging Face, Open Router, ModelScope 커뮤니티, NVIDIA NIM에서 이용할 수 있다. 기사는 Super VL의 실행 범위를 DGX Spark, DGX Station, RTX PRO·RTX 시스템의 데스크톱 환경부터 Jetson 기반 엣지, 데이터센터와 클라우드까지로 설명한다. Bolt 74B-A9B 24GB는 Hugging Face에서 제공되며 llama.cpp, Ollama, LM Studio, Unsloth, vLLM을 지원한다. 이 모델은 10월 16일 출시되는 NVIDIA RTX Spark 노트북용으로 설계됐고, GeForce RTX PC, DGX Spark, DGX Station, RTX PRO 워크스테이션에서도 실행된다. NVIDIA는 공개 가중치 다운로드, NeMo 맞춤화 자원, 전체 아키텍처를 설명하는 기술 블로그를 후속 탐색 경로로 제시한다.

🧾 핵심 주장 / 시사점

• Nemotron 확장의 핵심은 단일 모델의 성능 향상뿐 아니라 서버·데스크톱·엣지의 서로 다른 자원 조건에 맞춘 선택지를 제공하는 데 있다.
• 산업별 후속 학습 사례와 문서의 시각 정보 이해를 함께 강조하는 점은 Super VL의 활용 초점이 조직 고유의 데이터와 전문 업무에 있음을 보여준다.
• 개방형 모델의 통제권과 NIM·Dynamo의 운영 지원을 함께 제시하지만, 실제 도입 판단에는 기사에 상세히 공개되지 않은 성능 비교 조건이 중요한 확인 사항으로 남는다.

✅ 액션 아이템

• Super VL의 동급 대비 최대 5배 처리량과 NVIDIA Dynamo의 최대 8배 사용자 수용·85% 지연시간 감소에 대한 비교 조건 확인.
• 로컬 에이전트 작업의 메모리 요구와 지능·속도 우선순위에 따라 Bolt 74B-A9B 24GB와 Bolt E4B 4GB의 적합성 검토.
• 보안·데이터 소재지 요건과 전문 업무의 정확도 요구를 기준으로 Super VL의 자체 인프라 배포 및 NVIDIA NeMo 기반 맞춤화 검토.

❓ 열린 질문

• Super VL의 동급 대비 최대 5배 처리량과 NVIDIA Dynamo의 최대 8배 사용자 수용·85% 지연시간 감소는 각각 어떤 비교 대상과 측정 조건에서 나온 결과인가?
• Bolt 74B-A9B 24GB와 Bolt E4B 4GB는 로컬 에이전트 작업에서 지능·속도·메모리 효율 측면의 차이가 어느 정도인가?
• Super VL을 자체 데이터·도구·정책·업무 흐름으로 후속 학습하면 전문 작업의 정확도는 얼마나 개선되는가?