🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

엔비디아는 AI를 개방형 인프라로 확산시키는 동시에 모델 연구에서 얻은 지식을 가속 컴퓨팅 제품에 반영하기 위해 네모트론 모델·데이터·도구를 공개하고 있다.

📌 핵심 요약

• 엔비디아는 2025년 네모트론 모델의 수와 품질을 높이고 사전학습·후학습 데이터까지 공개하면서 개방형 AI 프로그램을 크게 확대했다.
• 브라이언 카탄자로는 AI 활용이 늘어날수록 엔비디아의 시장도 성장하며, 개발자와 연구자가 모델을 직접 수정할 수 있어야 산업별 AI 도입이 촉진된다고 설명했다.
• 엔비디아는 AI를 인터넷과 같은 기반 인프라로 보고, 개방된 기술이 소매·의료 등 서로 다른 분야의 맞춤형 활용을 가능하게 한다고 판단한다.
• 네모트론 개발은 생태계 지원뿐 아니라 수치 정밀도, 전문가 혼합 구조, 네트워크 설계, 희소성 같은 문제를 직접 연구해 엔비디아의 시스템 설계 방향을 정하는 역할을 한다.
• 네모트론은 메가트론-LM과 NeMo에서 출발해 대규모 언어 모델, 가지치기 모델, 맘바-트랜스포머 혼합 모델, 추론 모델, 하이브리드 전문가 혼합 모델로 확장됐으며 공개 데이터 범위도 함께 넓어졌다.

🧩 주요 포인트

1. 개방형 모델에 대한 접근성 확대 → 조직들이 AI를 업무에 맞게 수정하고 내재화할 수 있는 기반 강화
2. 모델 아키텍처의 직접 개발과 검증 → 향후 그래픽 처리 장치·네트워크·가속 시스템 설계에 필요한 지식 확보
3. 모델 가중치와 함께 데이터·학습법·코드 공개 → 외부 연구자가 결과를 재현하고 후속 개발을 이어갈 수 있는 범위 확대

🧠 상세 정리

1. 인터뷰의 배경과 핵심 의제

이 글은 네이선 램버트가 엔비디아 응용 딥러닝 연구 부문 부사장 브라이언 카탄자로와 네모트론의 과거·현재·미래를 논의한 인터뷰를 정리한 것이다. 램버트는 2025년 엔비디아가 더 많은 모델과 더 높은 품질의 결과물을 내놓고, 대규모 고품질 데이터까지 공개하기 시작한 점을 개방형 모델 분야의 주요 변화로 평가했다. 인터뷰 시점에는 2025년 12월 공개된 네모트론 3 나노에 이어 더 큰 슈퍼와 울트라 변형이 2026년 상반기에 나올 예정이었다. 대화의 의제에는 개방형 모델의 사업적 이유, 500명 이상이 참여하는 조직의 운영, 학습 소프트웨어, 데이터 공개, 연구 경력과 향후 전망이 포함됐다.

2. 엔비디아가 개방형 모델을 만드는 이유

카탄자로는 AI가 성장할 때마다 엔비디아의 시장도 성장할 기회가 생긴다는 점을 가장 기본적인 사업적 이유로 제시했다. 동시에 AI를 발전시키려는 개발자와 연구자에게 개방형 모델 접근권이 중요하므로, 생태계의 확장은 엔비디아의 이해관계와 외부 연구 공동체의 필요가 맞닿는 영역이라고 설명했다. 그는 메타의 라마, 오픈AI의 공개 가중치 모델, 앨런 연구소와 여러 공개 연구 프로젝트의 활동을 긍정적인 사례로 언급했다. 글의 저자는 엔비디아가 개방형 언어 모델을 직접 만들면서 그 확산이 발생시키는 컴퓨팅 수요의 가치도 포착할 수 있다는 점을 지속 가능한 구조적 강점으로 보았다.

3. AI를 개방형 인프라로 보는 관점

엔비디아는 AI를 독립적으로 완결된 제품이라기보다 실제 업무에 적용될 때 가치가 생기는 기반 인프라로 본다. 카탄자로는 인터넷이 개방형 기술 위에 구축됐기 때문에 소매업과 의료업을 비롯한 서로 다른 산업이 각자의 방식으로 인터넷을 사업의 중심에 통합할 수 있었다고 설명했다. AI 역시 세계 경제의 여러 부문에서 서로 다르고 예상하기 어려운 활용법을 만들어낼 것이며, 조직이 모델을 직접 수정하고 업무에 결합할 수 있을수록 그 과정이 원활해진다는 주장이다. 따라서 개방성은 하나의 동일한 사용법을 강요하는 것이 아니라, 각 조직이 자신에게 필요한 방식으로 기술을 실험하고 적용하게 하는 조건으로 제시된다.

4. 폐쇄형 서비스와 개방형 생태계의 공존

카탄자로는 개방형 모델을 강조하면서도 폐쇄형 AI 서비스와 응용 프로그램 인터페이스의 가치를 부정하지 않았다. 그는 주요 연구소가 제공하는 폐쇄형 서비스가 뛰어난 능력을 갖추고 있으며 엔비디아는 그러한 형태의 AI도 지원한다고 분명히 말했다. 다만 인터뷰 당시 폐쇄형 배포 방식은 이미 활발하게 발전하고 있는 반면, 공개적으로 개발되는 AI 생태계에는 더 많은 투자와 추진력이 필요하다고 판단했다. 엔비디아가 2025년에 개방형 모델과 데이터 공개를 강화한 것은 두 방식을 대립시키기보다 상대적으로 부족한 개방형 영역에 추가 동력을 제공하려는 선택으로 설명된다.

5. 네모트론의 두 가지 역할

인터뷰는 네모트론의 역할을 엔비디아 제품을 위한 시스템 연구개발과 외부 AI 생태계 지원이라는 두 축으로 제시한다. 첫 번째 축은 엔비디아가 주력 가속 컴퓨팅 제품을 설계하기 위해 실제 AI 작업 부하를 스스로 깊이 이해해야 한다는 필요에서 출발한다. 두 번째 축은 개발자와 연구자가 활용할 수 있는 개방형 모델, 데이터, 학습법과 코드를 제공해 공개 개발 생태계를 넓히는 것이다. 이 구조에서는 네모트론이 단순한 모델 시리즈에 머무르지 않고 내부 하드웨어 연구와 외부 활용 기반을 동시에 연결하며, 모델 개발 과정에서 만들어진 지식이 엔비디아의 제품과 생태계 양쪽으로 전달된다.

6. 가속 컴퓨팅과 모델 연구의 연결

카탄자로는 엔비디아의 가속 컴퓨팅을 모든 범용 작업을 처리하는 컴퓨터가 아니라 특정 작업을 더 빠르게 수행하도록 우선순위를 정한 시스템으로 설명했다. AI 작업 부하에는 수치 정밀도, 전문가 혼합 구조, 하이퍼파라미터와 알고리즘 선택 등 시스템 설계에 큰 영향을 미치는 변수가 존재한다. 특히 전문가 혼합 구조는 네트워크 설계와 연결되고, 희소 신경망 가속 기능은 암페어 세대부터 그래픽 처리 장치에 포함됐지만 충분히 활용되지 않고 있다고 지적했다. 엔비디아가 어떤 시스템을 만들어야 하는지 결정하려면 고객 설문에만 의존할 수 없으며, 모델을 직접 개발하고 실행하면서 이러한 선택의 효과를 내부에서 검증해야 한다는 것이 네모트론 연구의 제품적 근거다.

7. 네모트론 모델의 발전 과정

네모트론의 기반은 2019년부터 2022년 사이 공개된 모델 병렬화 프레임워크 메가트론-LM과 학습·데이터·평가·배포를 포괄하는 NeMo 체계에서 형성됐다. 2023년 11월에는 네모트론-3 80억 매개변수 모델이, 2024년에는 8조 토큰으로 학습된 다국어 네모트론-4 150억 모델과 합성 데이터 파이프라인을 공개한 3,400억 모델이 나왔다. 이어 150억 모델을 40억 규모로 줄인 미니트론 계열, 라마 3.1 700억 모델을 강하게 후학습한 변형, 추론 효율을 겨냥한 맘바-트랜스포머 혼합 모델이 공개됐다. 2025년에는 라마 기반 효율적 추론 모델과 20조 토큰으로 학습한 120억 기반 모델을 90억으로 가지치기한 나노 2, 120억 규모의 시각언어 모델이 뒤따랐다. 2025년 12월 발표된 네모트론 3 계열은 나노·슈퍼·울트라로 구성되며, 하이브리드 전문가 혼합 구조와 최대 100만 토큰 문맥을 내세웠고 나노는 25조 토큰 학습, 전체 약 316억·활성 약 32억 매개변수와 함께 학습법·코드·데이터를 공개했다.

8. 데이터 공개의 확대

엔비디아는 2025년부터 후학습 자료뿐 아니라 대규모 고품질 사전학습 데이터도 적극적으로 공개했으며, 글은 이를 수행하는 조직이 많지 않다고 지적한다. 사전학습 자료에는 일반 웹 데이터, 코드, 수학, 전문 영역 자료로 구성된 여러 컬렉션이 포함됐고, 이러한 공개에는 무시하기 어려운 법적 위험도 따른다고 명시됐다. 후학습 영역에서는 2025년 4월부터 8월까지 지도 미세조정과 강화학습 혼합 자료의 여러 버전이 공개됐으며, 수학 추론·코드 추론·인간 추론 자료와 검증 가능한 보상 기반 학습용 데이터도 제공됐다. 인간 피드백과 선호 자료인 헬프스티어 계열은 2023년 첫 버전, 2024년 두 번째 버전, 2025년 세 번째 버전으로 이어졌다. 2025년 12월 네모트론 3 후학습 컬렉션까지 추가되면서 공개 범위는 완성된 모델 가중치를 넘어 사전학습과 후학습의 핵심 재료로 확장됐다.

🧾 핵심 주장 / 시사점

• 네모트론은 외부 공개용 결과물인 동시에 엔비디아가 미래 가속 시스템의 요구사항을 직접 발견하고 검증하는 내부 연구 수단이다.
• 인터넷 비유에서 개방성의 핵심 가치는 단일 모델의 성능보다 산업별 조직이 AI를 수정해 자신의 업무 중심에 통합할 수 있게 하는 데 있다.
• 엔비디아의 2025년 전략 변화는 모델 공개 횟수 증가에 그치지 않고 사전학습 데이터, 후학습 데이터, 학습법과 코드까지 공개 범위를 넓힌 데서 드러난다.

✅ 액션 아이템

• 2025년 확대된 네모트론 모델·사전학습·후학습 데이터 공개 범위를 기준으로 재현 가능한 학습 조건을 정리한다.
• 수치 정밀도·전문가 혼합 구조·희소성 연구가 엔비디아 시스템 설계에 남긴 시사점을 아키텍처별로 비교한다.
• 소매·의료처럼 맞춤형 활용이 필요한 분야에서 개방형 모델 수정·내재화 우선순위를 정의한다.

❓ 열린 질문

• 네모트론이 메가트론-LM·NeMo에서 하이브리드 전문가 혼합 모델로 확장된 경로 중 재현 우선순위는 무엇인가?
• 모델 가중치와 데이터·학습법·코드 공개가 외부 연구자의 후속 개발 범위를 어디까지 넓히는가?
• 브라이언 카탄자로가 말한 개발자·연구자의 직접 수정 조건이 산업별 AI 도입을 어떻게 촉진하는가?