YouTube20VC with Harry Stebbings·2026년 8월 10일·0

OpenRouter CEO: Why Chinese Open Models Are Beating the US

Quick Summary

중국 오픈 모델은 속도·품질과 생태계 지원에서 미국 오픈웨이트 진영을 앞서고 있으며, 기업은 OpenAI·Anthropic이 모델 공급자에서 애플리케이션 경쟁자로 바뀔 위험 때문에 멀티모델 통제권을 원한다.

영상 보기

클릭 전까지는 가벼운 미리보기만 먼저 불러옵니다.

원본 열기

🖼️ 인포그래픽

OpenRouter CEO: Why Chinese Open Models Are Beating the US 내용을 설명하는 본문 이미지

🖼️ 4컷 인포그래픽

OpenRouter CEO: Why Chinese Open Models Are Beating the US의 핵심 내용을 4단계로 요약한 인포그래픽
OpenRouter CEO: Why Chinese Open Models Are Beating the US 핵심 내용을 4단계로 압축한 4컷 인포그래픽

💡 한 줄 결론

중국 오픈 모델은 속도·품질과 생태계 지원에서 미국 오픈웨이트 진영을 앞서고 있으며, 기업은 OpenAI·Anthropic이 모델 공급자에서 애플리케이션 경쟁자로 바뀔 위험 때문에 멀티모델 통제권을 원한다.

📌 핵심 요점

  1. 중국 오픈 모델의 경쟁력은 개별 벤치마크를 넘어 정책·자금·연구 인력의 집중에서 나온다. GLM은 오픈웨이트 성능을 크게 끌어올렸고 Kimi는 문체에서 강점을 보이지만, 사이버 보안과 장기 작업에서는 프런티어 모델보다 뒤처지는 등 우위가 모든 영역에 적용되는 것은 아니다.
  2. AI 추론은 같은 모델이면 결과도 같은 동질적 상품이 아니다. GPU 공급 제약, 전용 하드웨어, 저수준 최적화에 따라 제공업체별 가격·속도·품질·가동 시간이 달라지며, OpenRouter는 약 5분 단위로 조건을 갱신해 더 나은 제공업체로 트래픽을 재배분한다.
  3. 기업이 OpenAI·Anthropic 같은 프런티어 업체를 경계하는 핵심 이유는 데이터 처리·저장·열람과 VPC 배치에 대한 통제 부족뿐 아니라, 모델 공급자가 Claude Design처럼 고객의 업무 시장에 직접 진입할 수 있기 때문이다.
  4. 기업 특화 모델을 보유하더라도 외부 모델의 새로운 데이터와 사고방식까지 대체할 수는 없다. 자체 모델, 외부 모델, 저비용 오픈웨이트 서브에이전트를 조합하고 공통 안전 계층을 적용하는 멀티모델 구조가 비용·성능·복원력을 함께 높이는 방향이다.
  5. 토큰 가격은 18개월 동안 약 90% 하락했지만 사용량이 더 빠르게 늘어날 가능성이 있다. Luna는 가격이 10분의 1로 낮아진 뒤 사용량이 13배 증가했으나, 개발자는 재조정 비용과 출력 변화, 익숙한 문체 때문에 더 좋은 신형 모델이 나와도 기존 모델을 계속 사용할 수 있다.

🧩 배경과 문제 정의

  • AI 모델과 추론 제공업체가 빠르게 늘면서 단일 모델에 의존하는 기업은 가격, 성능, 가동 시간, 공급자 종속의 변화를 고스란히 떠안는다.
  • 오픈 웨이트 모델 호스팅은 대형 클라우드 3사의 독점이 아니라 전문 추론 제공업체들의 경쟁 시장으로 발전했고, 라우팅 품질이 실제 비용과 성능을 좌우한다.
  • 기업이 자체 데이터로 특화 모델을 만들어도 서로 다른 데이터와 사고방식을 가진 외부 모델의 가치가 사라지지 않아 멀티모델 운용이 필수에 가까워진다.
  • 토큰 가격 하락은 사용량을 더 크게 늘릴 수 있지만, 모델 연구소의 애플리케이션 시장 진입은 AI 중개 플랫폼과 기업용 AI 제품에 새로운 경쟁 위험을 만든다.

🕒 시간순 섹션별 상세정리

1. OpenSea에서 체득한 급성장 인프라 운영

  • OpenSea는 최초의 NFT 시장으로 출발해 Series A 전후까지 소규모 팀을 유지했지만, 2020년 10월 NFT 붐 이후 서버와 검색 인덱스가 폭증한 트래픽을 감당하지 못했다. [02:09]
  • 예측할 수 없는 트래픽 급증에 대비해 평상시 부하의 10배를 견디는 테스트와 확장 가능한 플랫폼 운영 체계를 구축했다. [02:40]

2. 오픈 웨이트 추론 시장의 예상 밖 성장

  • 오픈 웨이트 모델을 호스팅하고 제공하는 전문 기업 생태계가 등장하면서 대형 클라우드 3사가 시장을 독점할 것이라는 초기 가능성이 약해졌다. [04:06]
  • GLM 같은 모델은 대형 클라우드보다 Fireworks와 Together 같은 추론 제공업체에서 더 활발히 운영되며, 전문 업체들은 신규 모델 도입과 예외 처리에서 더 빠른 실행력을 보였다. [04:35]

3. GPU 공급 제약과 제공업체별 성능 차이

  • 추론 시장은 GPU 공급 부족이 지속되는 공급 제약 상태이며, 모든 연산 자원이 대형 클라우드에 집중되기 어려운 구조다. [06:01]
  • 엔비디아는 고객 집중을 피하고 여러 사업자에게 GPU를 분산 배정해 연산 계층의 경쟁과 서비스 최적화를 촉진하려 한다. [06:29]

4. 토큰 효율 경쟁을 반영하는 실시간 라우팅

  • 같은 모델의 토큰도 제공업체의 실행 경로와 최적화 수준에 따라 효율과 결과가 달라지므로 추론 서비스는 완전히 동질적인 상품이 아니다. [07:55]
  • OpenRouter는 품질 향상, 속도 증가, 가격 인하를 감지하면 해당 제공업체로 트래픽을 즉시 더 배분해 기술 개선이 실제 수요로 연결되게 한다. [08:23]

5. 전용 하드웨어와 이동 가능한 미세조정

  • 전용 하드웨어와 저수준 최적화에 집중하는 제공업체는 추론 효율을 높일 수 있고, 맞춤화 과정을 단순화하는 업체도 경쟁력을 확보할 수 있다. [09:42]
  • 기존 미세조정은 기본 모델과 분리된 새 모델을 만들지만, LoRA 형태의 이동 가능한 조정 레이어는 모델 간 재사용을 늘리고 향후 맞춤화 비용을 수십~수백 달러까지 낮출 가능성이 있다. [10:13]

6. 하나의 지배적 모델로 끝나지 않는 이유

  • AI 생태계의 신경 다양성을 확대하려면 서로 다른 모델이 공존해야 하며, 멀티모델 미래는 피하기 어렵다. [11:06]
  • 하나의 모델이 널리 쓰여도 다른 데이터와 사고방식으로 훈련된 모델이 새로운 표현과 아이디어를 만들면 두 모델을 함께 사용하려는 수요가 생긴다. [11:38]

7. 기업 특화 모델과 거대한 멀티모델 시장

  • 기업이 자체 데이터로 모델을 만들어도 다른 기업과 애플리케이션 역시 새로운 데이터로 모델을 계속 갱신하므로 폐쇄적인 단일 모델 전략만으로 경쟁 우위를 유지하기 어렵다. [12:47]
  • 경쟁사가 만든 모델을 시험하고 결합하면 생산성과 최신 성능을 높이거나 비용을 낮출 수 있어 기업은 외부 모델 혁신을 지속적으로 흡수해야 한다. [13:30]

8. 유행성 라우터와 전업 플랫폼의 차이

  • 유행을 따라 기존 고객용 라우터를 부가 기능으로 만드는 회사는 모방과 방어에 머물기 쉬워, 라우터·게이트웨이·모델 시장에 전념하는 업체보다 수개월 뒤처질 수 있다. [15:41]
  • 전체 모델 시장과 유연한 맞춤화에 접근하지 못하는 게이트웨이는 단일 모델 의존도를 높이고, 직원과 개발자가 AI 생태계의 최신 혁신을 활용할 힘을 약화시킨다. [16:43]

9. 사용량 기반 수수료와 기업 요금제

  • 일반 사용량 기반 요금에는 5.5% 수수료가 붙지만, 기업 요금제는 약정 지출을 기준으로 별도 가격 구조를 적용하고 약정분에는 같은 수수료를 부과하지 않는다. [17:16]
  • 일부 기업은 기업용 요금제의 존재와 세부 가격을 알지 못해 비용 부담을 크게 느꼈고, 이를 줄이기 위한 셀프서비스 비즈니스 요금제가 추가될 예정이다. [18:09]

10. 예상하지 못한 추론 수요가 만드는 매출

  • AI 시장이 매년 10~15배 성장한다면 기업은 필요한 추론량을 계속 과소평가하게 되고, 계획에 없던 추론 용량을 공급하는 사업이 주요 매출원으로 남을 가능성이 크다. [19:18]
  • 예상 밖의 모델을 시험하거나 특정 모델 사용량이 계획을 초과할 때 제공하는 장애 조치와 높은 가동 시간은 대기업과 스타트업 모두의 서비스 중단 위험을 낮춘다. [19:42]

11. 토큰 가격 하락과 제번스 역설

  • 토큰 가격은 18개월 동안 약 90% 낮아져 지출 비율에 연동된 매출 기반을 줄이는 듯 보이지만, 가격 하락이 더 큰 사용량 증가를 유발할 수 있다. [20:51]
  • 가격이 10분의 1로 내려갈 때 사용량이 10배 이상 늘어나는 제번스 역설이 AI 추론에도 나타날 수 있지만, 이를 정밀하게 모델링한 사례는 아직 부족하다. [21:13]

12. Luna의 순위 상승과 데이터 표본 편향

  • Luna 사용량은 13배 수준에서 안정된 뒤 기존 성장률을 이어갔지만, 같은 시기에 저가 DeepSeek와 GLM이 출시돼 가격만의 효과로 단정하기는 어렵다. [22:39]
  • Luna는 OpenRouter에서 GLM 사용량을 넘어섰고, OpenAI 모델이 오랜만에 토큰 사용량 상위 3~5위권에 진입했다. [22:48]

13. 모델 연구소가 AI 애플리케이션을 위협하는 방식

  • Claude Design과 Figma의 관계처럼 모델 연구소가 특정 업무용 제품을 출시하면 기존 AI 애플리케이션 고객은 공급자가 직접 경쟁자로 변할 가능성을 우려한다. [25:38]
  • 단순한 통합과 시스템 프롬프트만으로 시장을 연결하는 AI 제품은 모델 연구소가 해당 시장에 관심을 갖는 순간 취약해지며, 연구소는 기업 내부의 여러 팀을 자사 모델에 의존시킬 유인이 있다. [26:45]

14. Claude Design이 Figma에 미친 실제 영향

  • OpenRouter 내부 디자이너를 포함해 여러 사용자가 Claude Design을 시험했지만, 일회성 체험을 넘어 반복적으로 사용한다는 사례는 아직 뚜렷하지 않다. [27:55]
  • Claude Design에 관한 지속적인 반응은 크지 않고 Figma의 사업 지표도 강해, 실제 사용량과 사업이 크게 잠식됐다고 볼 근거는 아직 부족하다. [28:21]

15. 10시간마다 등장하는 새 모델

  • OpenRouter는 7월 한 달 동안 70개 모델을 출시해 약 10시간마다 하나의 신규 모델을 추가했다. [29:14]
  • 에이전트 기업은 자체 모델을 만들어 제품 안에서 직접 배포할 유인이 크며, 이런 흐름은 시작 단계일 뿐 아직 본격적인 가속 구간에 진입하지 않았다. [29:20]

16. 미국 오픈웨이트 랩을 늘리는 시장 유인

  • 엔비디아 같은 GPU 제조사와 투자자는 모델 시장의 경쟁과 다양성을 원하며, 새로운 방식으로 지능을 개선하려는 신규 랩에 강한 창업 유인을 제공한다. [30:07]
  • 미국 오픈웨이트 모델이 탄력을 받으면 신생 랩은 중국 모델에 의존하지 않는 훈련 기반을 확보하고, 미국 내 후속 창업도 늘어날 수 있다. [30:44]

17. 중국 모델 접근에 필요한 플랫폼 안전장치

  • 고객 신뢰가 최우선이므로 일반적으로 안전하지 않은 모델은 플랫폼에서 제거하고, 잠재적 오용은 기술적 방어와 모델 랩과의 협업으로 줄여야 한다. [31:48]
  • 프롬프트 인젝션 탐지와 개인정보 최소화 기능을 한 번에 적용하면 여러 모델의 추론 요청에 공통 안전 계층을 씌우고, 기업 직원의 신형 모델 실험 위험도 낮출 수 있다. [32:54]

18. 기업이 중국 모델보다 프런티어 업체를 두려워하는 이유

  • 문샷이나 알리바바 내부 운영을 완전히 파악할 수 없으므로, 미국 기업으로서 책임 있는 접근과 미국의 최선 관행을 지키는 것이 최소 기준이다. [34:01]
  • 미국 기업은 중국 모델보다 프런티어 업체를 더 걱정하기도 하며, 프롬프트의 처리·저장·열람 주체가 불분명하고 자체 장비나 원하는 VPC에서 실행할 수 없다는 점이 불안을 키운다. [34:19]

19. Kimi와 GLM 계열의 성능과 문체 경쟁력

  • Kimi는 전반적으로 우수하지만 사이버 보안과 장기 작업에서는 프런티어 모델보다 뒤처지며, GLM 5.2는 오픈웨이트 성능을 크게 끌어올린 전환점에 가깝다. [36:41]
  • Kimi는 목소리와 문체의 완성도가 높은 반면, 일부 프런티어 모델은 코딩 성능이 향상될수록 논지가 파편화되고 사람이 읽기 어려운 출력으로 변하는 문제가 있다. [37:15]

20. 중국의 구조적 우위와 국내 검열의 역설

  • 향후 12개월 동안 미중 격차가 더 벌어질 수 있으며, 딥시크가 국가적 대표 주자로 자리 잡으면 규제·정책·자금이 집중되고 문샷 같은 후속 랩도 강한 지원을 받을 수 있다. [38:10]
  • 미국 오픈 랩은 불확실한 사업모델로 수십억 달러를 조달해 비싼 연구를 수행하면서 OpenAI·Anthropic과도 경쟁해야 하지만, 중국 업체는 더 유리한 환경과 과소평가된 연구 인력을 갖췄다. [39:17]

21. 개발자가 기존 모델을 고수하는 세 가지 이유

  • 전환 비용을 거의 0으로 낮춰도 이미 최적화한 애플리케이션과 가드레일을 다시 조정해야 하고 예상 밖의 답변이 생길 수 있어, 개발자는 더 좋은 모델이 나와도 안정적으로 작동하는 기존 모델을 유지한다. [42:31]
  • 신형 모델은 지능이 상승할 때 가격도 함께 뛰는 반면 기존 모델 가격은 시간이 지나며 내려가므로, 최신 모델로의 이동이 반드시 비용 효율적이지는 않다. [42:49]

22. 메모리를 둘러싼 계층별 소유권 경쟁

  • 메모리는 강력한 사용자 유지 장치지만 모델·추론 제공자·애플리케이션·인프라·라우터 중 어느 계층에 귀속될지는 정해지지 않았으며, 각 계층이 서로 다른 방식으로 소유권을 확보하려 한다. [44:13]
  • 애플리케이션 메모리는 서비스 맥락을 가장 많이 보유하면서 모델에 독립적이고, 모델 내부 메모리는 맞춤형 성능과 최종 지능을 더 높일 가능성이 있다. [44:41]

23. 모델 선택권과 하네스의 지속 가능성

  • 초기 애플리케이션은 사용자가 백엔드 모델에 관심이 없다고 보고 모델명을 숨겼지만, 사용자는 문제를 맡길 직원을 고르듯 어떤 모델과 상호작용하는지 알고 선택하려는 성향을 보였다. [46:17]
  • Notion처럼 모델 선택권을 제공하는 앱이 늘었고, 개발자는 모델뿐 아니라 사용자 경험을 구성하는 특정 하네스에도 익숙함과 선호를 형성한다. [47:02]

24. 하네스의 조합 가능성과 유닉스 기반 장점

  • 하네스는 다른 하네스를 호출하거나 클라우드의 격리 환경에서 실행할 수 있어 일반 애플리케이션보다 조합 가능한 작업 단위를 만들기 쉽다. [48:29]
  • 모델은 유닉스와 Bash 명령에 충분히 훈련돼 있지만 일반 클라우드 앱에서는 로그인·비밀번호·가상 브라우저·API 문서 탐색이 필요해 지연과 불확실성이 크게 늘어난다. [49:06]

25. 새 모델 랩의 차별화와 아레나식 발견

  • 새 모델 랩은 경쟁에 필요한 자원과 소셜 네트워크 같은 고유 자산을 활용할 수 있지만, 조직을 처음부터 만들고 기존 조직의 부채를 해결하는 데 상당한 시간이 필요하다. [50:35]
  • 새 범용 모델과 코딩 하네스만으로는 사용자가 언제 왜 선택해야 하는지 알기 어려우며, 특정 영역에서 압도적으로 낫다는 명확한 포지션을 확보해야 한다. [51:27]

26. 프런티어 오케스트레이터와 저비용 서브에이전트

  • 하나의 강력한 프런티어 모델이 여러 오픈 모델을 병렬로 운용하는 구조는 비용과 성능을 함께 최적화할 수 있어 적극적으로 실험할 가치가 있다. [53:15]
  • 오케스트레이터는 작업에 따라 저비용 서브에이전트를 호출하고, 각 서브에이전트는 특정 업무에 집중해 불필요한 고성능 추론 비용을 줄인다. [53:27]

27. 중국 모델 증류를 활용한 미국의 추격 전략

  • 미국 오픈 생태계를 강화하려면 기존 미국 랩이 중국 모델을 얼마나 효과적으로 증류할 수 있는지 먼저 확인하고, 실제 성능 향상 폭을 측정해야 한다. [54:45]
  • 다수의 중국 오픈웨이트 모델은 증류를 허용하므로, 해당 모델의 출력을 미국 모델의 강화학습 데이터로 활용해 연구 격차를 줄일 수 있다. [55:09]

28. 컴퓨팅 우위와 자체 칩 경쟁

  • 컴퓨팅은 미국이 중국보다 앞선 핵심 자산이지만 신생 랩이 경쟁하려면 적합한 연구 인력이 대규모 연산 자원에 더 쉽게 접근할 수 있어야 한다. [56:25]
  • 엔비디아뿐 아니라 구글 TPU와 아마존 Trainium을 포함한 하드웨어·AI 칩 업체가 자원을 제공하면 미국 신생 랩의 실험 기회와 생존 가능성을 넓힐 수 있다. [56:57]

29. 증류의 정당성과 계약상 경계

  • 증류는 폐쇄형 모델 랩도 사용하는 일반적인 모델 개발 기법이며, 소넷을 오퍼스에서 부분적으로 증류하듯 큰 모델의 능력을 더 작은 모델로 이전할 수 있다. [58:03]
  • 모델 랩은 서비스 약관으로 경쟁 모델을 만들기 위한 증류를 금지하고 접근을 차단할 수 있지만, 하나의 작업에 집중하는 비경쟁적 소형 모델까지 반드시 금지하는 것은 아니다. [58:34]

30. 스트라이프 매각설과 OpenRouter의 장기 비전

  • 스트라이프가 OpenRouter를 100억 달러에 인수한다는 보도에는 확답이 없지만, 거래 여부와 관계없이 기존 비전을 계속 실행하겠다는 입장은 유지된다. [59:10]
  • 한 기업이 AI 접근을 독점하지 않도록 다양한 모델 생태계를 유지하고, 새로운 제공자·서버 도구·병렬 추론 기술을 기존 시스템에 쉽게 연결하는 것이 핵심 사명이다. [59:19]

31. 벤처투자가 놓치는 공익 문제와 개인 자본의 역할

  • 사회적으로 필요해도 사업모델을 만들기 어려운 문제는 벤처 자금이 닿지 않는 회색지대에 머물며, 개인 자본은 이 틈의 연구자와 보조금 지원에 쓰일 수 있다. [1:00:24]
  • 비영리 연구는 AI로 과거보다 훨씬 많은 데이터를 검토할 수 있어, 상업성이 낮은 과제도 탐색 범위와 실행 가능성을 넓힐 수 있다. [1:00:33]

32. 저평가 모델과 AI 연구소 생태계의 다양성

  • 풀사이드 모델은 크기가 작아도 코딩 작업에서 높은 효율을 내고 접근 도구도 잘 갖춰져 있어, 현재 저평가된 모델 후보로 꼽힌다. [1:02:01]
  • 신생 연구소의 70%가 3년 안에 사라진다는 전망은 지나치게 높지만, 대형 연구소의 인수까지 소멸로 계산하면 통합 비율은 약 50%에 이를 수 있다. [1:02:28]

33. AI 추론비가 바꾸는 직원 비용과 성과관리

  • 기업들은 급증하는 추론비를 통제하는 데 어려움을 겪고 있으며, 고정 급여 중심이던 직원 비용은 모델 사용량까지 포함하는 동적 운영비로 바뀐다. [1:03:50]
  • 관리자는 생산성과 AI 사용 비용을 함께 평가하는 4분면 체계로 고성과·고효율 직원을 구분하고, 성과는 평범하지만 비용이 과도한 직원을 관리해야 한다. [1:05:13]

34. 희귀질환과 생활 인프라로 확장되는 AI 활용

  • 희귀질환 연구는 수많은 가설을 시험해야 하는 추론 병목에 막혀 있었으며, AI는 아이디어를 빠르게 검증해 연구 가능성을 넓힐 수 있다. [1:06:43]
  • 도시 생활의 질과 생산성을 높이는 집단적 시도에서는 미국이나 영국의 납 수도관을 찾아내는 방법처럼, 아이디어를 발전시키고 압박 테스트하는 과정에 AI를 활용할 수 있다. [1:07:12]

🧾 결론

  • 중국 오픈 모델의 현재 우위는 분명한 신호지만, 작업별 성능 차이와 중국 내 정보 통제까지 고려하면 하나의 진영이 모든 수요를 독점하는 결말로 이어지지는 않는다.
  • 장기적인 승자는 단일 모델보다 여러 모델과 추론 제공업체를 비교·라우팅하고 장애 조치와 안전 정책을 공통으로 제공하는 통제 계층일 가능성이 크다.
  • AI 애플리케이션은 단순한 모델 연결이나 시스템 프롬프트가 아니라 고유한 업무 맥락, 메모리, 하네스, 사용자 경험과 고객 관계를 보유해야 모델 연구소의 시장 진입을 방어할 수 있다.
  • 미국 오픈 생태계의 추격에는 신규 연구소에 대한 연산 접근성, 자체 칩 경쟁력, 계약이 허용하는 중국 모델 증류와 명확한 영역별 차별화가 함께 필요하다.

📈 투자·시사 포인트

  • 전문 추론 제공업체, 멀티모델 라우터, 게이트웨이, 공통 보안 계층과 전용 AI 하드웨어는 모델 수와 사용량이 늘수록 전략적 가치가 커질 수 있다.
  • 모델 연구소가 수직 애플리케이션에 진입하면 단순 통합형 AI 제품은 마진과 고객 관계를 동시에 위협받을 수 있으므로, 제품의 독점적 맥락과 반복 사용 여부를 확인해야 한다.
  • 토큰 단가 하락이 매출 감소로 직결된다고 단정하기보다 사용량 탄력성, 추론 총량, 장애 조치 수요와 기업 약정 지출을 함께 살펴야 한다.
  • 기업의 AI 비용은 고정 소프트웨어 비용이 아니라 직원별 모델 사용량까지 포함하는 동적 운영비가 되므로, 생산성과 추론비를 함께 측정하는 비용 관리 제품의 수요가 커질 수 있다.

⚠️ 불확실하거나 확인이 필요한 부분

  • 중국 오픈 모델과 미국의 격차가 향후 12개월 동안 더 벌어진다는 전망은 인터뷰의 관점이며, 통일된 벤치마크나 독립적인 장기 데이터로 확정된 결과는 아니다.
  • OpenRouter 데이터는 멀티모델 사용자를 상대적으로 많이 포함하므로 OpenAI 같은 단일 선도 모델의 실제 시장 비중을 과소평가할 수 있다.
  • Luna의 사용량 증가는 가격 인하와 동시에 DeepSeek·GLM 출시가 발생했기 때문에 제번스 역설만으로 설명할 수 없으며, AI 추론의 가격 탄력성을 정밀하게 모델링한 사례도 부족하다.
  • 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
  • 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
  • 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.

✅ 액션 아이템

  • 대표 업무를 선정해 동일 모델과 동일 프롬프트를 복수 추론 제공업체에서 실행하고 품질·속도·가격·가동 시간을 비교한다.
  • 분류처럼 출력 형식이 명확한 업무는 저비용 오픈웨이트 모델에 맡기고, 정의되지 않은 복잡한 업무만 프런티어 오케스트레이터가 처리하도록 실험한다.
  • 각 모델 공급자의 프롬프트 처리·저장·열람 정책, 자체 장비 및 VPC 실행 가능 여부, 사이버 사고 공개 절차를 계약 전에 확인한다.
  • 프롬프트 인젝션 탐지와 개인정보 최소화를 모델별로 중복 구현하지 않고 멀티모델 요청에 공통 적용할 안전 계층을 설계한다.

❓ 열린 질문

  • 중국 오픈 모델은 수출 제한에 따른 자체 칩 개발, 국내 검열과 미국의 신규 오픈 랩 확대로 경쟁 조건이 바뀌어도 현재의 속도·품질 우위를 유지할 수 있을까?
  • 토큰 가격이 다시 10분의 1로 하락할 때 사용량은 이를 넘어 증가할까, 아니면 실제 업무 수요와 경제 규모의 한계에 부딪힐까?
  • 사용자 메모리의 핵심 소유권은 모델, 애플리케이션, 추론 인프라, 라우터 중 어느 계층에 자리 잡을까?

관련 문서

공통 태그와 주제 흐름을 기준으로 같이 보면 좋은 문서를 이어서 제안합니다.