Y Combinator's Garry Tan wants US open-weight AI labs to 'distill' frontier models, too

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Y Combinator CEO Garry Tan은 AI 권력의 독점을 막고 미국의 오픈웨이트 선택지를 넓히기 위해, 미국 소규모 AI 연구소에도 프런티어 모델을 정상적인 경로로 증류할 자유가 필요하다고 주장했다.

📌 핵심 요약

• Garry Tan은 중국 AI 연구소의 증류에 대한 규제 개입에 반대하며, 미국 소규모 오픈웨이트 AI 연구소도 미국 프런티어 모델을 증류해 중국산 이외의 선택지를 강화하기를 바란다고 밝혔다.
• 증류는 다른 모델에 광범위하게 질문해 작동 방식과 추론을 학습하는 기법으로, AI 연구소에서 정당하게 활용되기도 한다. Anthropic은 중국 연구소들이 신원을 숨기고 사기와 도난 자격 증명을 이용해 허가 없이 증류한다고 두 번째 보고서에서 주장했으며, CEO Dario Amodei는 앞서 미국 규제 당국에 단속을 요구했다.
• Tan은 도난 자격 증명 사용을 옹호하지 않으며 정상적인 접근을 통한 증류를 원한다. 그는 모델이 제공한 정보의 고객 활용을 기업이 통제하는 것은 과도하다고 보고, 독점형 AI 기업들도 저작권자의 허락 없이 학습 자료를 수집했다고 지적했다.
• Tan은 공개적으로 접근 가능한 광범위한 데이터로 학습한 지능에 대한 접근이 제한적인 서비스 약관에 갇히기보다 공공재에 가까워져야 하며, 정부가 이를 뒷받침할 역할을 할 수 있다고 주장했다.
• Tan은 프런티어 연구소의 투자 유치와 지속 가능한 사업 모델을 인정하면서도 오픈웨이트 모델을 통한 자유와 접근성을 강조했다. 그가 제시한 AI의 악몽은 자본과 연구 인력이 집중된 단일 독점형 기업이 압도적인 권력을 갖는 상황이다.

🧩 주요 포인트

1. 증류의 정당한 활용과 Anthropic이 주장한 사기·도난 자격 증명 사용은 구분되므로, 논쟁의 핵심은 학습 기법 자체뿐 아니라 접근 경로와 이용 허용 범위에 있다.
2. 공개 데이터와 무단 수집된 저작권 자료에 기반한 학습을 근거로, Tan은 기업의 API 이용 통제보다 지능 접근의 공공재적 성격을 강화해야 한다고 본다.
3. 미국 오픈웨이트 선택지 확대는 중국산 의존을 줄이려는 방향과 연결되며, Tan이 원하는 균형은 프런티어 연구소의 사업 지속성과 단일 기업의 AI 권력 독점 방지를 함께 추구하는 것이다.

🧠 상세 정리

1. 중국 연구소 단속보다 미국의 증류 확대

Y Combinator CEO Garry Tan은 중국 AI 연구소가 프런티어 모델에서 지식을 추출하는 증류를 사용하는 문제에 대해 규제 당국이 개입하지 않기를 바란다고 밝혔다. 그는 그 주 CNBC 인터뷰에서 자신이라면 아무 조치도 하지 않겠다고 말하며, 미국에도 증류를 허용하는 체계가 있어야 한다는 주장을 제기할 수 있다고 덧붙였다. 이어 TechCrunch에는 미국의 소규모 오픈웨이트 AI 연구소들이 미국 프런티어 연구소의 모델에 같은 종류의 학습 기법을 활용하기를 원한다는 뜻이라고 설명했다. 그가 제시한 목적은 중국산이 아닌 오픈웨이트 모델의 선택지를 미국에서 더 풍부하게 만드는 것이다.

2. 정당한 학습 기법과 불법 증류 의혹

기사에서 증류는 모델 개발자가 다른 모델에 광범위하게 질문해 그 모델의 작동 방식과 추론을 배우는 기법으로 설명된다. 이는 새로운 모델을 훈련하기 위해 AI 연구소들이 흔히 정당하게 사용하는 방법이기도 하다. 반면 Anthropic은 그 주 공개한 두 번째 보고서에서 중국 연구소들이 신원을 숨긴 채 허가 없이 증류하며, 사기와 도난 자격 증명에 의존하는 불법 증류 공격을 벌이고 있다고 주장했다. Anthropic CEO Dario Amodei는 앞서 미국 규제 당국에 증류 단속을 공개적으로 요구했다. 기사는 실리콘밸리의 주요 스타트업 액셀러레이터를 이끄는 Tan이 이런 규제 요구에 동의하지 않는다는 점을 주목한다.

3. 정상적인 접근과 고객의 정보 활용 자유

기사는 Tan의 주장이 미국 AI 연구소에 도난 자격 증명을 사용하라는 뜻은 아니라고 명확히 선을 긋는다. 그가 원하는 것은 연구소들이 정상적인 경로로 접근해 자유롭게 증류할 수 있는 환경이다. 그의 첫 번째 논거는 AI 연구소가 자사 모델이 고객에게 전달한 정보를 고객이 어떻게 활용할지까지 지시하는 것은 과도한 통제라는 판단이다. Tan은 폐쇄형 가중치 모델의 API 호출을 통해 얻은 결과를 사용자와 고객이 어떻게 쓰는지 통제하는 일이 제약적으로 느껴진다고 설명했다. 따라서 그의 주장에서 쟁점은 증류 기법의 사용 여부와 함께, 정상적인 서비스 이용 뒤에 기업이 부과하는 활용 제한의 범위로 이어진다.

4. 학습 데이터의 출처와 공공재 논리

Tan의 두 번째 논거는 독점형 AI 연구소들 역시 가능한 한 많은 인간 지식을 수집해 모델을 학습시키면서 사전에 허락을 구하지 않았다는 점이다. 기사는 이들 기업이 지식재산권자의 동의 없이 상당한 저작권 자료를 학습에 사용했다고 설명한다. Tan은 미국 연구소에도 증류의 자유가 있어야 하는 이유를 묻는 TechCrunch의 질문에, 공개적으로 접근 가능한 광범위한 데이터로 학습한 지능에 대한 접근은 공공재에 더 가까워져야 한다고 답했다. 그는 그러한 접근이 제한적인 서비스 약관 뒤에 묶여 있어서는 안 된다는 입장이다. 이 대목에서 정부에 기대하는 역할은 증류 단속과 달리, 지능 접근의 공공재적 성격이 일반적으로 인정되도록 뒷받침하는 것이다.

5. 프런티어 사업성과 오픈웨이트 접근성의 균형

Tan은 오픈웨이트 AI 연구소와 프런티어 연구소 사이에 균형이 필요하다고 본다. 그는 CNBC 인터뷰에서 프런티어 연구소들이 기술의 최전선에서 발전을 이끌고 있다는 점을 인정하며, 이들이 계속 투자를 유치하고 좋은 사업 모델을 유지할 수 있어야 한다고 말했다. 동시에 오픈웨이트 모델은 사람들에게 자유와 접근성을 제공해야 한다고 강조했다. 이는 프런티어 연구소의 경제적 기반을 유지하려는 요구와 모델 이용의 자유를 넓히려는 요구를 함께 제시한 것이다. 기사에 소개된 그의 입장은 미국 소규모 연구소의 증류를 통해 오픈웨이트 선택지를 강화하되, 최첨단 연구를 지속할 사업적 여건도 중요하게 보는 방향이다.

6. 단일 기업에 집중되는 AI 권력에 대한 우려

Tan이 제시한 AI의 진정한 악몽은 프런티어 AI의 막대한 권력이 강력한 단일 독점형 제공자의 손에 들어가는 상황이다. 그는 한 기업이 자본에 가장 잘 접근하고 최고의 AI 연구자들을 확보한 뒤 격차를 벌려, 결국 하나의 거대한 지배적 기업으로 남는 시나리오를 설명했다. 이런 집중이 나쁜 결과라고 보는 것이 그가 오픈웨이트 모델의 자유와 접근성을 중시하는 배경이다. 따라서 기사 말미의 논점은 중국 연구소의 증류를 단속할 것인지에서 출발해, AI 역량과 권력이 어떤 시장 구조에 놓여야 하는지로 확장된다. 다만 이 독점 시나리오는 이미 발생한 사실이나 확정된 전망이 아니라 Tan이 경계하는 위험으로 제시된다.

🧾 핵심 주장 / 시사점

• Tan의 규제 개입 반대와 정부 역할 요구는 대상이 다르다. 그는 증류 단속에는 반대하지만 지능 접근의 공공재적 성격을 강화하는 역할은 정부에 기대한다.
• Tan은 정상적인 접근을 통한 증류의 자유를 주장하고, Anthropic은 신원 은폐와 사기 등을 동반한 증류를 문제 삼는다. 양측 입장을 이해하려면 허용 범위와 부정한 접근 수단을 구분해야 한다.
• 오픈웨이트 확대는 Tan의 논리에서 이용자의 자유를 높이는 수단이면서, 프런티어 AI의 권력이 단일 기업에 집중되는 상황을 막기 위한 방향이기도 하다.

✅ 액션 아이템

• 증류 논의에서 정상적인 접근과 Anthropic이 주장한 사기·도난 자격 증명 사용을 구분해 검토한다.
• API 이용 통제의 정당성을 공개 데이터 기반 학습과 지능 접근의 공공재적 성격을 중심으로 검토한다.
• 미국 오픈웨이트 선택지 확대를 프런티어 연구소의 사업 지속성과 단일 기업의 AI 권력 독점 방지라는 기준으로 평가한다.

❓ 열린 질문

• 정상적인 접근을 통한 증류의 허용 범위와 Anthropic이 주장한 부정한 접근의 경계는 어떻게 정해야 하는가?
• 공개 데이터로 학습한 지능 접근의 공공재적 성격은 기업의 API 이용 통제에 어떤 제한을 정당화하는가?
• 미국 오픈웨이트 선택지를 확대하면서 프런티어 연구소의 사업 지속성과 AI 권력 독점 방지를 어떻게 함께 달성할 수 있는가?