Own Your Intelligence: A How-to Guide for Sovereign AI

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

개방형 가중치 모델과 성숙한 사후학습 스택 덕분에 기업은 프런티어 API를 전면 대체하지 않고도 평가·하네스·사후학습·온라인 학습을 통해 비용·속도·독점 데이터·학습 루프가 중요한 영역의 지능을 선택적으로 소유할 수 있게 됐다.

📌 핵심 요약

• 지능 소유는 프런티어 연구소와의 결별을 뜻하지 않으며, 프런티어 API와 에이전트가 적합한 작업은 계속 임대하면서 제품의 일부 영역에서 자체 AI 역량과 가중치를 구축하는 선택이다.
• Kimi K3와 GLM 5.2처럼 프런티어에 가까운 개방형 가중치 모델이 등장하고 Mercor·Fireworks 등이 제공하는 독립적 사후학습 스택이 성숙하면서, 특정 도메인에서는 개방형 모델이 프런티어 모델을 앞설 여건이 마련됐다.
• 지능을 소유할지 판단하는 주요 기준은 사용량과 함께 증가하는 추론 비용, 지연시간이 중요한 작업의 속도, 피드백·평가·고객 상호작용을 포함한 독점 데이터의 보호, 제품의 학습 루프에 대한 통제다.
• 실행 과정은 공격적으로 실험하는 소규모 전담팀을 구성하고 연구 성과를 공개하는 조직 단계와, 평가·하네스 및 컨텍스트 엔지니어링·사후학습·온라인 학습을 연결하는 기술 단계로 구성된다.
• 폐쇄형 모델 스택은 구현이 단순하고 성능의 하한이 높지만 상한이 낮을 수 있으며, 자체 스택은 더 많은 작업과 낮은 초기 하한을 감수하는 대신 도메인에 맞춘 성능 상한과 독자적인 학습 능력을 높일 가능성을 제공한다.

🧩 주요 포인트

1. Kimi K3·GLM 5.2와 독립적 사후학습 인프라의 발전 → 개방형 모델 선택이 성능 희생이 아니라 특정 도메인의 경쟁력 확보 수단으로 전환됐다.
2. Harvey의 Legal Agent Benchmark처럼 실제 업무를 반복 가능한 평가로 변환 → 모델 소유와 임대, 품질 개선 방법을 직관이 아닌 측정 결과로 결정할 수 있다.
3. 사용 중 생성되는 궤적을 평가·컨텍스트·메모리·하네스 개선에 환류 → 범용 지능만으로 부족한 업무 경험을 축적하는 지속적 학습 루프가 형성된다.

🧠 상세 정리

1. 응용 계층을 넘어선 지능 계층의 경쟁

이 글은 AI 응용 계층의 경쟁이 사용자 인터페이스, 워크플로, 시장 진출 방식에만 머물지 않고 제품이 사용하는 지능 자체를 누가 소유하고 형성하는지의 문제로 이동했다고 설명한다. Alex Karp는 기업이 생산수단을 소유해야 한다고 주장했고, Satya Nadella는 프런티어 연구소의 지능을 구매하면 사용료뿐 아니라 그 지능을 유용하게 만드는 독점 지식까지 제공하게 된다고 지적했다. 다만 지능 소유는 프런티어 연구소를 떠나거나 모든 모델을 직접 개발하라는 일률적 권고가 아니다. 많은 작업에서는 프런티어 API와 에이전트가 여전히 적합하며, 실제 변화는 기업들이 제품의 일부 영역에서 자체 역량을 만들고 가중치를 조정하는 방향으로 수직 통합하고 있다는 점이다. 따라서 핵심 전략은 전면적인 소유가 아니라 어떤 지능을 임대하고 어떤 지능을 직접 통제할지 구분하는 데 있다.

2. 개방형 모델과 사후학습 스택이 만든 전환점

과거 개방형 모델의 미세조정은 수개월의 작업이 다음 프런티어 모델 출시로 무효화될 수 있는 반복적인 경쟁이었다. 그러나 Kimi K3와 GLM 5.2처럼 성능이 높은 개방형 가중치 모델이 등장하면서 기업은 프런티어에 가까운 기준점에서 작업을 시작할 수 있게 됐다. 동시에 Mercor와 Fireworks 같은 회사들이 학습, 추론, 사람 또는 합성 데이터에 이르는 기술을 제공하면서 독립적인 사후학습 생태계도 성숙했다. 강한 평가, 하네스 엔지니어링, 사후학습, 온라인 학습을 결합하면 개방형 모델이 특정 도메인에서 프런티어 모델보다 나은 결과를 낼 수 있다는 것이 글의 주장이다. 이에 따라 개방형 가중치는 성능을 포기할 때 택하는 대안에서 제품의 생존과 차별화를 좌우하는 전략적 선택지로 바뀌고 있다.

3. 소유와 임대를 가르는 네 가지 조건

지능을 소유해야 하는 시점에는 모든 기업에 적용되는 단일 기준이 없으며, 제품 안에서도 작업별로 판단이 달라질 수 있다. 첫 번째 조건은 비용으로, AI 제품의 사용량에 비례해 추론 비용과 AI 매출원가가 증가한다면 모델 소유가 마진을 보호하는 수단이 될 수 있다. 두 번째는 속도로, 탭 자동완성과 같은 코딩 작업이나 사이버보안처럼 지연시간이 중요한 분야에서는 작은 증류형 맞춤 모델이 큰 범용 모델보다 유리할 수 있다. 세 번째는 피드백, 평가, 고객 상호작용, 도메인 데이터처럼 시스템을 개선하는 독점 자료를 조직 내부에 유지하려는 필요다. 마지막 조건은 프런티어 연구소가 제품 계층으로 올라오고 응용 기업이 학습 루프로 내려가는 상황에서, 제품의 사고방식과 발전 방향을 스스로 통제할 필요성이다.

4. 전담팀 구성과 평가 체계의 선행

지능 소유 업무를 기존 플랫폼팀에 억지로 추가하기보다 평가 구축, 데이터 형성, 개방형 모델 실험, 하네스 조정, 도메인 성능 향상에 집중하는 소규모 신규 팀을 두는 것이 제안된다. Harvey는 7명 규모의 팀으로도 상당한 연구를 수행했으며, 이러한 팀은 여러 생태계 파트너와 협력해 범위를 확장할 수 있다. 연구 결과와 벤치마크, 기술 게시물을 공개하는 일도 구매자가 AI 파트너를 선택할 때 기업의 기술력을 드러내는 요소로 제시된다. 기술적으로는 좋은 벤치마크가 학습보다 먼저 필요하며, 평가는 프롬프트와 모델이 사용할 컨텍스트, 결과를 판정하는 채점기로 구성된 반복 가능한 작업 집합이다. Harvey의 Legal Agent Benchmark 초판은 24개 법률 실무 영역의 1,200개가 넘는 에이전트 작업과 전문가가 작성한 75,000개 이상의 평가 기준을 사용해 실제 법률 업무를 측정 가능한 과제로 전환했다.

5. 하네스 설계와 가장 가벼운 사후학습

에이전트는 모델, 컨텍스트, 하네스로 구성되며, 하네스는 라우팅·검색·도구·메모리·대체 경로·추적 등 모델 주변의 제품 논리를 담당한다. 하네스의 핵심 역할은 필요한 시점에 적절한 컨텍스트를 모델에 제공하는 것이며, 과제가 모델의 기존 분포에서 멀어질수록 범용 하네스의 한계가 커진다. 잘 설계된 하네스는 작업별 최적 모델을 선택하고 동일한 평가를 여러 모델에 재사용하며, 제공된 컨텍스트와 호출된 도구, 실패 지점을 추적할 수 있게 한다. 사후학습 방식은 문제에 맞춰 구분해야 하므로 사실이 부족하면 컨텍스트나 RAG를, 형식이나 행동이 잘못되면 지도 미세조정을, 제품 취향의 문제에는 선호도 조정을, 전문 작업 향상에는 강화학습을, 속도와 비용 문제에는 증류를 사용한다. 목표는 평가 결과를 개선하는 가장 가벼운 방법을 고른 뒤 같은 하네스에서 품질·지연시간·비용을 함께 측정하는 것이다.

6. 온라인 학습과 자체 스택의 상·하한

평가, 하네스, 모델이 갖춰지면 마지막 단계는 실제 운영에서 발생한 경험을 이용해 전체 시스템을 지속적으로 개선하는 온라인 학습이다. 궤적은 모델이 본 컨텍스트, 호출한 도구와 하위 에이전트, 생성한 답변, 사용자가 수정하거나 되돌리고 재시도한 내용을 포함한 작업 경로이며, LangChain의 LangSmith 같은 도구로 이를 포착할 수 있다. 실패한 작업은 새로운 평가가 되고, 누락된 정보는 컨텍스트나 메모리에 추가되며, 잘못된 도구 응답은 하네스 수정으로 이어진다. 프런티어 모델과 기성 하네스를 사용하는 폐쇄형 스택은 출시가 쉽고 높은 성능 하한을 제공하지만, 자체 스택은 개방형 모델·맞춤 하네스·도구·컨텍스트뿐 아니라 독점 평가·도메인 데이터·온라인 학습 루프까지 직접 운영해야 한다. 이는 더 많은 작업과 낮은 초기 하한을 수반하지만, 빠르고 도메인에 집중된 모델을 지속적으로 조정함으로써 제품 성능의 상한을 높일 수 있다는 것이 글의 결론이다.

🧾 핵심 주장 / 시사점

• 지능 소유의 실질적 대상은 모델 가중치 하나가 아니라 평가, 데이터, 하네스, 도구, 컨텍스트와 온라인 학습을 결합한 전체 시스템이다.
• 평가는 학습 후 성능을 확인하는 마지막 절차가 아니라 어떤 모델과 개선 기법을 선택할지 결정하는 선행 조건으로 기능한다.
• 프런티어 모델의 범용 지능과 자체 모델의 도메인 경험은 대체 관계가 아니며, 작업 특성에 따라 임대와 소유를 병행하는 구조가 제시된다.

✅ 액션 아이템

• 비용·속도·독점 데이터·학습 루프를 기준으로 프런티어 API를 유지할 영역과 지능을 선택적으로 소유할 영역의 구분.
• Kimi K3·GLM 5.2를 포함한 개방형 가중치 모델과 프런티어 모델을 반복 가능한 평가 결과로 비교할 범위의 확정.
• 평가·하네스·사후학습·온라인 학습을 연결할 소규모 전담팀의 역할과 실행 범위 설정.

❓ 열린 질문

• 프런티어 API를 유지할 영역과 지능을 선택적으로 소유할 영역은 비용·속도·독점 데이터·학습 루프 중 어떤 기준으로 구분할 것인가?
• Kimi K3와 GLM 5.2가 특정 도메인에서 프런티어 모델보다 나은지는 어떤 반복 가능한 평가로 판단할 것인가?
• 평가·하네스·사후학습·온라인 학습 가운데 현재 제품 성능의 상한을 가장 크게 제한하는 요소는 무엇인가?