NVIDIA Releases 6 Million Multi-Lingual Reasoning Dataset

🖼️ 인포그래픽

NVIDIA Releases 6 Million Multi-Lingual Reasoning Dataset 내용을 설명하는 본문 이미지

🖼️ 4컷 인포그래픽

💡 한 줄 요약

NVIDIA는 기존 영어 추론 데이터를 프랑스어·독일어·이탈리아어·일본어·스페인어로 확장하고, 번역 환각과 언어 이탈을 줄이기 위한 필터링 절차를 적용한 600만 건 규모의 Nemotron 다국어 추론 데이터셋을 공개했다.

📌 핵심 요약

Nemotron Post-Training Dataset V2는 기존 영어 추론 데이터의 사용자 프롬프트와 모델 응답을 5개 언어로 번역하면서, 사전학습으로 습득한 영어 지식을 활용할 수 있도록 원래의 영어 추론 사슬은 보존한다.
NVIDIA는 SFT 데이터 번역에서 일반 번역 벤치마크보다 환각이 더 자주 발생하고, 입력이 길어질수록 오픈소스 LLM의 번역 품질과 환각률이 크게 악화된다는 예비 연구 결과를 반영했다.
품질 관리를 위해 줄 단위 번역, 코드 블록과 번역 불가능한 줄의 제외, 특수 괄호 형식 강제, fastText 언어 식별을 통한 목표 언어 이탈 데이터 제거를 적용했다.
벤치마킹 후 독일어 번역에는 Qwen2.5-32B-Instruct-AWQ를, 나머지 언어에는 Qwen2.5-14B-Instruct를 선택했으며 번역 품질, 단일 A100 추론 가능성, 도메인 범위, Apache 2.0 라이선스를 고려했다.
기사에는 함께 공개된 90억 매개변수 NVIDIA Nemotron Nano 2 9B도 소개되며, 하이브리드 Transformer–Mamba 구조와 조절 가능한 사고 예산을 통해 처리량·정확도·추론 비용을 조정할 수 있다고 설명한다.

🧩 주요 포인트

Nemotron Post-Training Dataset V2는 기존 영어 추론 데이터의 사용자 프롬프트와 모델 응답을 5개 언어로 번역하면서, 사전학습으로 습득한 영어 지식을 활용할 수 있도록 원래의 영어 추론 사슬은 보존한다.
NVIDIA는 SFT 데이터 번역에서 일반 번역 벤치마크보다 환각이 더 자주 발생하고, 입력이 길어질수록 오픈소스 LLM의 번역 품질과 환각률이 크게 악화된다는 예비 연구 결과를 반영했다.
품질 관리를 위해 줄 단위 번역, 코드 블록과 번역 불가능한 줄의 제외, 특수 괄호 형식 강제, fastText 언어 식별을 통한 목표 언어 이탈 데이터 제거를 적용했다.
벤치마킹 후 독일어 번역에는 Qwen2.5-32B-Instruct-AWQ를, 나머지 언어에는 Qwen2.5-14B-Instruct를 선택했으며 번역 품질, 단일 A100 추론 가능성, 도메인 범위, Apache 2.0 라이선스를 고려했다.
기사에는 함께 공개된 90억 매개변수 NVIDIA Nemotron Nano 2 9B도 소개되며, 하이브리드 Transformer–Mamba 구조와 조절 가능한 사고 예산을 통해 처리량·정확도·추론 비용을 조정할 수 있다고 설명한다.

🧠 상세 정리

1. 600만 건 다국어 추론 데이터 공개

NVIDIA는 개방형 생태계를 지원하기 위한 작업의 연장선에서 600만 건 규모의 다국어 추론 데이터셋을 공개했다. 이번 자료는 Nemotron Post-Training Dataset v1과 앞서 공개한 Llama Nemotron 사후학습 데이터셋의 후속 성격을 갖는다. 기존 영어 추론 데이터를 프랑스어, 스페인어, 독일어, 이탈리아어, 일본어의 다섯 목표 언어로 확장한 것이 핵심이다. NVIDIA는 최종 모델 가중치뿐 아니라 학습 도구와 학습 데이터까지 공개하는 것이 오픈 웨이트 모델의 지속적인 개선과 모델 개발 과정의 투명성에 기여한다고 설명한다.

2. 영어 추론 사슬을 보존한 번역 설계

Nemotron Post-Training Dataset V2는 기존에 공개된 영어 추론 자료를 기반으로 사용자 프롬프트와 모델 응답을 다섯 언어로 번역한다. 다만 모델 내부의 원래 영어 추론 사슬은 번역하지 않고 그대로 보존하는 방식을 택했다. 이는 사전학습 단계에서 모델에 형성된 영어 지식을 최대한 활용하기 위한 설계다. 결과적으로 사용자가 접하는 입력과 최종 응답은 목표 언어로 제공하면서도, 문제를 풀어 가는 추론 과정은 영어 상태를 유지하는 다국어 사후학습 자료가 구성된다.

3. 장문 SFT 번역에서 확인한 환각 문제

NVIDIA는 WMT 2024 일반 번역 공동 과제에서 LLM이 기계번역 분야의 최고 수준 결과를 내고 있다는 점을 인정하면서도, 사후학습용 합성 데이터 생성에는 별도의 문제가 있다고 지적한다. 예비 연구에서는 LLM이 FLORES와 같은 일반 기계번역 시험 자료보다 SFT 데이터셋을 번역할 때 환각을 더 자주 일으켰다. 또한 입력 길이가 증가할수록 오픈소스 LLM의 번역 품질이 크게 저하되고 환각률도 악화됐다. 따라서 일반적인 번역 성능만으로 모델을 선택하지 않고, 장문과 구조화된 학습 데이터를 안정적으로 처리하면서 오류를 쉽게 탐지할 수 있는 생성 절차가 필요했다.

4. 줄 단위 처리와 형식 강제를 통한 품질 관리

번역 품질을 유지하기 위해 원문을 줄바꿈 기준으로 나눈 뒤 한 줄씩 번역하는 방식을 사용했다. 탭만 있는 줄처럼 번역할 수 없는 내용이나 코드 블록에 속한 줄은 번역 대상에서 제외했다. 생성 결과에는 번역문을 특수 괄호 〘〙로 감싸도록 특정 형식을 강제했으며, 이 괄호를 기준으로 번역문을 추출하고 형식을 따르지 않은 사례는 폐기했다. 표에 따르면 형식 검사로 폐기된 바이트 비율은 언어와 코드·질의응답·수학 영역에 따라 달랐고, 특히 스페인어 코드 데이터에서 26.14%로 가장 높은 수치가 제시됐다.

5. 언어 필터링과 번역 모델 선정

NVIDIA는 번역된 프롬프트 입력에 fastText 언어 식별기를 실행해 목표 언어에서 벗어난 데이터 포인트를 걸러냈다. 이 단계에서 다국어 사례 전체의 1.1%에 해당하는 55,567개 예시를 추가로 폐기했다. 벤치마킹 결과 독일어에는 Qwen2.5-32B-Instruct-AWQ를, 프랑스어·스페인어·이탈리아어·일본어에는 Qwen2.5-14B-Instruct를 사용했다. 선정 기준은 견고한 번역 품질, 단일 A100 GPU에서의 추론 가능성, 학습 데이터가 포괄하는 넓은 도메인, Apache 2.0 개방형 라이선스였다.

6. Nemotron Nano 2 9B와 데이터셋 이용 방법

기사에서는 다국어 데이터셋과 함께 NVIDIA Nemotron Nano 2 9B의 특징도 소개한다. 이 모델은 90억 매개변수와 Mamba-2에 소수의 어텐션 계층을 결합한 하이브리드 Transformer–Mamba 구조를 사용하며, 같은 크기 등급의 주요 모델보다 토큰 생성 처리량이 최대 6배 높다고 설명된다. 조절 가능한 사고 예산으로 사고 토큰 수를 통제해 추론 비용을 최대 60% 절감할 수 있으며, 고객 서비스 에이전트·지원 챗봇·분석 코파일럿·엣지 및 RTX 배포를 대상으로 한다. 모델 가중치는 Hugging Face에서 제공되고 build.nvidia.com에서 엔드포인트를 시험할 수 있으며, 데이터셋은 datasets 라이브러리의 load_dataset 함수로 nvidia/Nemotron-Post-Training-Dataset-v2를 불러와 사용할 수 있다.

🧾 핵심 주장 / 시사점

이 데이터셋의 핵심은 모든 내용을 목표 언어로 일괄 변환하는 것이 아니라, 프롬프트와 응답만 번역하고 영어 추론 사슬을 보존해 기존 영어 기반 추론 능력을 활용하도록 설계했다는 점이다.
NVIDIA가 제시한 예비 결과는 일반 번역 벤치마크의 우수한 성능이 장문 SFT 데이터 번역 품질을 그대로 보장하지 않으며, 길이 증가에 따른 환각과 품질 저하를 별도로 관리해야 함을 보여준다.
줄 단위 번역, 출력 형식 강제, 언어 식별 필터를 연속 적용하고 폐기 비율까지 공개한 것은 대규모 합성 다국어 학습 데이터에서 생성량뿐 아니라 오류 탐지 가능성과 정제 절차가 중요하다는 점을 드러낸다.

✅ 액션 아이템

Nemotron Post-Training Dataset V2의 600만 건 다국어 추론 데이터셋은 영어 추론 사슬을 보존해 영문 기반 추론 지식을 언어 간 이전한다.
SFT 번역에서 환각과 언어 이탈을 줄이기 위해 줄 단위 번역, 코드 블록·번역불가 라인 제외, 특수 괄호 형식 강제, fastText 언어 식별을 조합해 품질 관리 절차를 정비한다.
독일어는 Qwen2.5-32B-Instruct-AWQ, 나머지 언어는 Qwen2.5-14B-Instruct를 쓴 근거와 Nemotron Nano 2 9B의 하이브리드 구조·사고 예산 제어를 함께 비교한다.