Teaching Everyone to Fish for Tokens

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

엔비디아는 누구나 자체 모델을 만드는 개방형 생태계를 확대해 추론 수요와 칩 판매를 늘리려 하지만, 그 생태계의 지속 가능성은 막대한 훈련 비용을 상쇄할 경제적 선순환의 형성 여부에 달려 있다.

📌 핵심 요약

• 전체 훈련 레시피·데이터·코드를 공개하는 오픈소스 언어 모델은 운영체제에, 가중치와 추론 코드만 제공하는 오픈웨이트 모델은 그 위에 설치하는 특정 소프트웨어 버전에 더 가깝다.
• 엔비디아는 네모트론 모델의 합법적으로 공개 가능한 데이터와 훈련 코드를 제공하며, 여러 주체가 모델을 직접 만들어 대규모 추론 수요를 창출하는 생태계에 투자하고 있다.
• 최선의 시나리오는 개방형 모델 투자가 칩 수요와 이익을 충분히 늘리는 것이지만, 보도된 투자액이 260억 달러인 만큼 이 전략의 성공 여부는 아직 분명하지 않다.
• 경제적 선순환이 형성되지 않으면 개방형 모델은 최상위 폐쇄형 모델과의 정면 경쟁보다 효율성·수정 가능성·전문화·사내 배치에 집중하는 장기 수요 시장으로 이동할 가능성이 있다.
• 훈련 과정이 복잡하고 불투명해지면서 완전한 기본 모델 공개는 줄고 있으며, 개방형 모델 제작자들은 후속 제품과 추론 사용에서 수익을 공유하는 라이선스로 자금 조달 가능성을 시험하고 있다.

🧩 주요 포인트

1. 완전한 공개 레시피는 모델을 재생산하고 개선 사항을 환류하게 하지만 자본 부담이 커서, 기술적 개방성만으로는 생태계의 장기 자립을 보장하지 못한다.
2. 엔비디아의 지원은 분산된 모델 제작을 칩 수요로 연결하려는 전략이며, 수년 안에 투자와 수요가 맞물리는 재정적 피드백 구조를 입증해야 한다.
3. 전면 훈련보다 기존 모델의 미세조정이 중심이 되면 개방형 생태계의 역할도 최전선 범용 모델 경쟁에서 기업별 비공개 데이터와 반복 업무를 다루는 특화 모델로 이동할 수 있다.

🧠 상세 정리

1. 리눅스 비유와 두 가지 개방성의 구분

글은 오픈 모델 생태계를 리눅스와 비교하는 오래된 비유에서 출발하지만, 이 비유가 생태계의 자립 경로를 지나치게 좁게 보여 줄 수 있다고 지적한다. 저자가 말하는 오픈소스 언어 모델은 가중치뿐 아니라 전체 훈련 레시피, 데이터, 코드 등을 함께 제공해 다른 주체가 모델을 다시 만들 수 있는 형태다. 이는 여러 용도의 기반이 되는 오픈소스 운영체제와 더 가까운 개념이다. 반면 가중치와 추론 코드만 공개하는 오픈웨이트 모델은 기반 프로젝트 위에 설치해 사용하는 특정 소프트웨어 버전에 가깝다. 따라서 개방형 인공지능을 논할 때는 완전한 재현과 수정이 가능한 훈련 체계와, 이미 만들어진 지능을 실행할 수 있게 한 배포물을 구분해야 한다.

2. 공개 훈련 레시피와 엔비디아의 이해관계

모델 가중치는 빠르게 교체되는 편이지만, 널리 쓰이는 소프트웨어처럼 실제 업무 흐름에 들어간 버전은 상당히 오래 유지될 수 있다. 저자는 에이전트형 기능이 확산된 뒤에도 많은 기업이 라마 3 기반 작업 흐름을 계속 사용하는 사례를 든다. 올모와 그 전신 격인 피티아가 보여 준 공개 훈련 레시피는 많은 자원을 요구하지만, 기업이 이를 가져와 수정하고 실행해 새로운 가중치를 생산할 수 있게 한다. 잘 작동하는 경우에는 공동체가 데이터나 훈련 코드의 개선점을 다음 모델에 다시 반영할 수도 있다. 엔비디아가 네모트론의 합법적으로 공개 가능한 데이터와 훈련 코드를 제공하는 이유도 수많은 주체가 자체적인 토큰 생산 모델을 만들게 하고, 그 결과 생기는 광범위한 추론 수요를 자사 제품 수요로 연결하려는 데 있다.

3. 첫 번째 미래: 개방형 모델의 경제적 선순환

개방형 인공지능의 핵심 제약은 최고 수준의 모델을 만드는 데 막대한 자본이 필요하다는 점이다. 그럼에도 경쟁력 있는 모델을 훈련할 능력은 예상보다 오랫동안 여러 기업에 남아 있었고, 데이터브릭스와 01.ai처럼 훈련 경쟁에서 물러난 사례도 저자에게는 아직 예외적으로 보인다. 첫 번째 미래는 엔비디아의 공개 레시피 전략이 성공해 모델 개발 비용보다 더 큰 칩 수요와 이익을 만들어 내는 경우다. 보도에 따르면 엔비디아는 이 시도에 260억 달러를 지출하고 있지만, 자본 집약성이 더 많은 기업을 훈련 시장 밖으로 밀어낼지는 아직 명확하지 않다. 향후 몇 년 안에 엔비디아의 투자 수익이나 다른 개방형 모델 기업의 플랫폼형 수익 순환이 나타나야 하며, 그 보상 규모도 장기적으로 앤스로픽과 오픈AI의 응용 프로그래밍 인터페이스 사업 이익에 맞설 수 있어야 한다.

4. 두 번째 미래: 효율성과 전문화 중심의 분기

충분한 재정적 선순환이 만들어지지 않으면 개방형 모델은 선도적인 폐쇄형 모델과 다른 개발 경로로 갈 수 있다. 저자는 이 경우 효율성, 수정 가능성, 전문화처럼 개방형 모델이 구조적으로 활용하기 좋은 특성이 중심이 될 것으로 본다. 또한 이 시나리오를 자신의 가장 가능성 높은 전망으로 제시하면서도, 개방형 모델이 여전히 매우 유용할 것이라고 강조한다. 다만 지식 노동 협업, 신약 개발, 소프트웨어 공학처럼 가치가 큰 분야에서는 폐쇄형 모델 사업자가 우세한 위치를 차지하고, 개방형 모델은 더 긴 수요 꼬리를 담당할 수 있다. 대표적인 용도는 기업 내부의 비공개 데이터를 이용하면서 온프레미스 환경에서 반복적인 업무를 처리하는 기업별 에이전트다.

5. 훈련의 추상화와 미세조정 생태계의 확대

저자가 공개 훈련의 확산을 어렵게 보는 이유 중 하나는 모델 훈련이 갈수록 복잡해지고 추상화되기 때문이다. 현재의 개방형 생태계는 딥시크 V4 플래시, 잉클링 스몰, GLM 5.X 같은 기존 모델을 가져와 특정 에이전트 업무에 맞게 미세조정하는 관심에 크게 의존하고 있으며, 팅커 같은 미세조정 서비스가 그 흐름을 지원한다. 과거 사후 훈련은 기본 모델을 지능적이고 사용 가능한 형태로 바꾸는 전체 과정을 폭넓게 가리켰다. 그러나 범용 에이전트형 추론 능력을 만드는 훈련이 과거의 대규모 사전 훈련처럼 불투명해지면서, 기존 단계 구분도 사전 훈련·추론 훈련·사후 훈련으로 바뀔 가능성이 제기된다. 전체 모델을 직접 훈련하려는 관심이 줄어들수록 완전한 공개 훈련 체계에 투자하려는 동기도 함께 약해진다.

6. 기본 모델 감소와 엔비디아·메타의 상반된 전략

전체 훈련에 대한 관심 감소는 핵심 추론 훈련 이전 단계의 기본 모델을 공개하는 제작자가 계속 줄어드는 흐름과 맞물려 있다. 일부 제작자는 최전선에 가까운 오픈웨이트 모델의 개발비를 유지하기 위해 제품이나 추론 서비스의 후속 사용에서 수익을 공유받는 라이선스를 시험하고 있다. 이러한 실험의 성공은 개방형 모델 제작자의 생존뿐 아니라, 개방형 생태계가 칩 수요를 확대하기를 바라는 엔비디아의 전략이 지속될 수 있는지에도 중요하다. 한편 메타와 같은 대형 사업자는 인공지능 자체가 아닌 다른 사업에서 간접적으로 수익화할 수 있어, 강력한 모델을 오픈웨이트로 배포하는 전략을 선택할 수 있다. 저자는 메타가 강력한 뮤즈 스파크 1.2를 공개한다면 토큰 판매에 의존하는 앤스로픽과 오픈AI의 매출 성장에 큰 압력을 줄 수 있다고 설명하며, 엔비디아는 모두가 토큰을 직접 생산하도록 가르치는 반면 메타는 시장에 토큰을 대량 공급하는 방식이라고 대비한다.

🧾 핵심 주장 / 시사점

• 개방형 모델의 장기 경쟁력은 공개 범위만이 아니라 훈련비를 회수하고 다음 세대 개발에 재투자할 수 있는 경제적 피드백 구조에 의해 결정된다.
• 최상위 폐쇄형 모델과 성능 경쟁에서 벌어지더라도 수정 가능성, 사내 배치, 비공개 데이터 활용을 요구하는 기업별 수요는 개방형 모델의 독자적인 역할을 유지할 수 있다.
• 엔비디아와 메타는 모두 핵심 보완재를 범용화하지만, 엔비디아는 분산된 모델 제작을 통한 하드웨어 수요 확대를, 메타는 강력한 가중치 공급을 통한 경쟁사의 토큰 사업 압박을 택한다.

✅ 액션 아이템

• 엔비디아의 네모트론 공개 데이터·훈련 코드를 활용해 오픈소스 언어 모델의 재생산성 확대와 모델 채택 속도를 점검한다.
• 완전한 훈련 레시피 공개와 오픈웨이트(가중치와 추론 코드만 제공) 방식이 260억 달러 투자 대비 칩 수요 증가에 미친 효율을 계산한다.
• 선순환이 안 되면 개방형 모델은 대규모 추론 수요보다 사내 배치와 특화 모델 시장으로 이동하므로 이동 조건을 정의한다.

❓ 열린 질문

• 훈련 과정이 복잡하고 불투명해질수록 오픈소스 언어 모델의 완전한 기본 모델 공개가 어디까지 유지될 수 있는가?
• 보도된 260억 달러 투자액이 수년 안에 엔비디아의 칩 수요·이익 증가로 연결될지는 어떻게 판별할 것인가?
• 오픈웨이트(가중치와 추론 코드만 제공) 구조에서 미세조정 기반 특화 모델이 최상위 폐쇄형 모델 경쟁을 대체할 수 있는 기준은 무엇인가?