Articlea16z.com·2026년 9월 3일·0

The Incumbents Are Coming

Quick Summary

기존 기록 시스템과 범용 에이전트의 영향력이 커져도, 수직형 AI 기업은 시스템을 넘나드는 특정 업무와 전문가 피드백 기반 학습에 집중해 경쟁할 수 있다.

The Incumbents Are Coming 관련 대표 이미지

🖼️ 인포그래픽

The Incumbents Are Coming 내용을 설명하는 본문 이미지

🖼️ 4컷 인포그래픽

The Incumbents Are Coming의 핵심 내용을 4단계로 요약한 인포그래픽
The Incumbents Are Coming 핵심 내용을 4단계로 압축한 4컷 인포그래픽

💡 한 줄 요약

기존 기록 시스템과 범용 에이전트의 영향력이 커져도, 수직형 AI 기업은 시스템을 넘나드는 특정 업무와 전문가 피드백 기반 학습에 집중해 경쟁할 수 있다.

📌 핵심 요약

  • 기존 기록 시스템 기업들은 데이터와 실행 권한을 바탕으로 자체 에이전트를 확대하고 있으며, Claudeforce는 Claude가 업무의 진입점이 되고 Salesforce가 CRM 데이터와 실행을 통제하는 구도를 보여준다.
  • 원문은 에이전트를 검색 보조형, 프로세스형, 정책형, 주도적 판단형으로 구분하며, 기존 기업들이 검색과 규칙 기반 실행에서 정책 적용으로 확장하고 있다고 설명한다.
  • 고객의 전체 업무는 여러 시스템·팀·기업에 걸쳐 있으며, Claude나 Codex의 시스템 접근만으로는 MCP 지연, 데이터 표현 차이, 외부 당사자 정보 접근 제약이 해결되지 않는다.
  • 수직형 AI의 경쟁력은 특정 업무에 맞는 맥락·도구·작업 흐름·평가와 전문가 피드백을 결합한 학습 순환에 있으며, 전문직 공통 역량과 고객별 업무 방식을 함께 학습하는 데서 나온다.
  • Harvey는 초기 고객 데이터 없이 합성·공개 법률·전문가 제작 데이터로 Tenet을 사후 학습했으며, 약 1,750개의 법률 과제 환경과 과제당 평균 약 50개 평가 기준을 구성했다. 원문은 반복성, 전문가 판단, 강한 학습 순환이 있는 법률·세무·회계·산업 업무에서 수직형 AI의 기회를 찾는다.

🧩 주요 포인트

  1. 기록 통제와 업무 진입점의 분리 → 수직형 AI는 여러 시스템에 걸친 전체 업무의 수행 품질로 차별화할 여지가 있다.
  2. 완료 기록과 기억만으로는 판단·수정 이유를 충분히 알 수 없음 → 전문가 피드백과 결과 평가를 통한 학습이 경쟁력의 핵심이다.
  3. Harvey의 과제 환경 구축과 전문직·고객별 학습 구분 → 대규모 고객 이력 확보 이전에도 훈련을 시작하고 실제 업무를 통해 고객별 적합성을 높일 수 있다.

🧠 상세 정리

1. 기존 기록 시스템의 강화와 업무 진입점의 분리

원문은 AI가 기존 기록 시스템의 중요성을 오히려 높일 수 있다는 주장으로 시작하며, 고객이 시스템의 데이터를 Claude나 Codex에 연결하면 별도의 AI 전용 앱 없이도 업무를 처리할 가능성을 제시한다. 기존 기업들은 데이터 접근을 통제하고 과금할 유인이 있으며, Docusign의 Iris, Atlassian의 Rovo, Klaviyo의 Composer처럼 계약 검토·요청 처리·캠페인 제작으로 기능을 확장하고 있다. Salesforce와 Anthropic의 Claudeforce는 Claude 안에서 CRM 업무를 수행하고 Salesforce가 기반 데이터와 실행을 계속 통제하는 사례로 소개되지만, 원문도 제품 측의 주장임을 덧붙인다. 이 구조에서는 사용자 인터페이스와 기록 시스템이 분리될 수 있으며, 수직형 AI 기업에는 특정 업무를 중심으로 기능을 다시 결합할 기회가 생긴다.

2. 자율성과 판단 수준에 따른 네 가지 에이전트

원문은 기존 기업과 수직형 AI의 강점을 비교하기 위해 애플리케이션 에이전트를 필요한 자율성과 판단의 정도에 따라 네 가지로 나눈다. 검색 보조형은 정보 검색·문서 요약·질의응답·답변 초안을 담당하고, 프로세스형은 제한적인 판단을 사용해 기록 갱신이나 승인 전달처럼 규칙에 따른 작업을 실행한다. 정책형은 조직의 지침·선례·기준을 모호한 사례에 적용하며, 주도적 판단형은 전략·위험·자원 사이의 열린 절충을 고려해 조직이 무엇을 해야 하는지 판단한다. 원문에 따르면 기존 기업의 AI는 검색 중심에서 제품에 내장된 작업 흐름과 권한을 활용하는 실행 단계로 이동했고, 일부는 사람이 정의한 제한적인 정책도 적용하기 시작했다. 다만 판단에 필요한 정보가 자신이 관리하는 기록 밖에 있을 때는 난도가 높아지며, Iris의 법무 지침 적용 역시 이러한 확장의 사례로 제시된다.

3. 개별 기록을 넘어서는 고객 업무와 접근의 한계

기존 기업은 핵심 기록 주변의 업무를 더 많이 자동화할 수 있지만, 고객이 끝내려는 전체 업무는 그 기록보다 넓다는 것이 원문의 핵심 구분이다. 계약서는 법률 사안 전체가 아니고, 지원 티켓은 고객 문제의 완전한 해결이 아니며, 영업 기회 기록도 판매 자체와 같지 않다. 실제 업무는 여러 애플리케이션·팀·기업의 사람, 문서, 결정, 수정과 최종 결과를 연결해야 하고, 참여자마다 가진 정보와 원하는 결과도 다를 수 있다. 기존 기업이 외부 데이터를 가져오거나 작업 흐름을 추가하는 것은 가능하므로 절대적인 기술 장벽은 아니지만, 확장은 대체로 이미 소유한 기록에서 출발한다. Claude나 Codex 역시 시스템을 가로질러 접근할 수 있어도 MCP를 통한 조회 지연, 동일 대상의 서로 다른 표현, 구매자와 공급자 같은 외부 당사자의 정보 접근 제약 때문에 접근만으로 업무 품질을 보장할 수는 없다.

4. 완료 기록과 기억을 넘어서는 학습 순환

수직형 AI 기업이 전체 업무의 더 많은 부분을 맡으면 최종 결과뿐 아니라 그 결과를 만든 결정과 수정도 관찰할 수 있다는 점이 중요하다. 원문은 특정 업무에 필요한 맥락·도구·작업 흐름·평가를 갖춘 실행 체계가 모델의 성능을 높이고, 에이전트의 수행 내용과 전문가 피드백 및 실제 결과가 다음 시도를 개선한다고 설명한다. 서명된 계약서는 합의 내용은 보여주지만 검토한 모든 대안이나 예외 사유를 담지 않으며, 종료된 티켓도 지원팀이 시험한 모든 가설을 보여주지는 않는다. 또한 모델 개발사들이 범용 기억 기능을 구축하고 있으므로 맥락을 보존하는 능력만으로는 지속적인 우위를 확보하기 어렵다. 고객의 선호나 과거 결정을 기억하는 것과 작업의 품질, 전문가가 수정한 이유, 다음에 바꿔야 할 행동을 학습하는 것은 다르며, 특정 업무에 집중하면 같은 유형의 사례를 반복 관찰하고 개선 정도를 더 잘 측정할 수 있다.

5. 전문직 공통 역량과 고객별 업무 방식의 학습

원문은 학습을 좋은 전문가가 업무를 수행하는 방법과 특정 조직이나 고객이 업무를 수행하는 방법이라는 두 갈래로 구분한다. 전자는 전문가가 만든 과제, 현실적인 사례, 좋은 결과의 기준으로 가르칠 수 있고, 후자는 고객의 서식·선례·위험 기준·상위 담당자에게 넘기는 규칙을 바탕으로 시작해 수정과 예외를 통해 개선할 수 있다. 전문직 차원의 지식은 여러 고객의 제품 성능을 높일 수 있지만, 특정 조직에서 얻은 교훈은 그 조직에만 유효할 수도 있다. 따라서 처음부터 가장 많은 과거 고객 데이터를 확보할 필요는 없으며, 전문직 교육용 과제를 먼저 구성하고 실제 운영에서 고객별 방식을 학습하는 경로가 가능하다. 원문은 공개 가중치 모델과 사후 학습이 확대될수록 적절한 데이터와 평가의 구성이 중요해지며, 수시간이나 수일 동안 여러 판단과 인계를 거치는 에이전트는 긴 작업을 중간 점검 지점으로 나누어 평가하는 학습 순환에서 특히 도움을 받는다고 설명한다.

6. Harvey가 구성한 법률 업무 훈련 환경

Harvey의 Tenet은 고객의 과거 데이터가 충분히 쌓일 때까지 기다리지 않고 전문 업무용 훈련 과정을 구성한 사례로 제시된다. Harvey는 초기 고객 데이터를 사용하지 않고 합성 데이터, 공개 법률 데이터, 인간 전문가가 제작한 데이터를 이용해 공개 가중치 모델을 사후 학습했다. 약 1,750개의 법률 과제 환경은 각각 파트너가 맡긴 사안을 모사했으며, 관련 문서와 도구 및 높은 품질의 결과를 판정하는 전문가 평가 기준을 포함했다. 과제당 구체적인 평가 기준은 평균 약 50개였고, 이렇게 만든 환경을 모델 훈련과 평가에 활용할 수 있었다. 원문은 Harvey의 더 넓은 작업이 인수합병 실사와 로펌의 전체 지식 이해처럼 업무의 서로 다른 부분을 위한 역량 학습도 보여준다고 설명하며, 이 사례를 수직형 기업이 전문 업무를 세분화하고 학습 가능한 과제로 구성하는 경로와 연결한다.

7. 실제 배포와 결과 책임, 시장을 평가하는 질문

수직형 AI의 기회는 모델 훈련에 그치지 않고 전문 역량, 데이터 권리, 시스템 연결, 권한 문제를 함께 해결해 고객의 일상 업무에 제품을 맞추는 데 있다. 원문은 이 과정에서 기업이 점차 결과에 대한 책임을 맡을 수 있어야 한다고 설명하며, 실제 배포와 책임을 중요한 요소로 강조한다. 시장 평가 질문으로는 전문가가 AI의 정답과 오류를 빠르게 구분하고 개선 방법을 설명할 수 있는지, 단순 규칙을 넘어 판단이 필요한 업무인지, 하나의 과제에서 전체 업무 수행으로 확장할 수 있는지를 제시한다. 이어 강한 시장이 네 조건을 충족한다고 표현하지만 실제로 나열된 질문은 세 개이므로, 제시되지 않은 별도 조건을 확정할 수는 없다. 또한 기존 기업도 제품 안에서 수행된 작업으로 학습하겠지만, 원문은 그 범위가 Docusign의 계약 검토, Jira의 티켓 해결, Salesforce의 영업 현황 갱신처럼 각자 담당하는 업무 부분에 머문다고 본다.

8. 전문 서비스와 산업 업무에서의 기회

법률·세무·회계의 여러 업무는 반복되고 판단을 요구하며 전문가가 결과를 검토한다는 점에서 원문이 제시한 수직형 AI의 기회에 부합한다. 제조 결함 조사에서도 품질 엔지니어는 시험 결과, 공급업체 문서, 장비 기록, 공장 규칙을 모아 무엇을 허용하고 무엇을 바꿀지 결정해야 하며, 관련 정보는 여러 시스템에 흩어질 수 있다. 한 제품이 결함 보고서를 보관하더라도 전체 조사를 소유하지는 않으므로, 스타트업은 조사 보고서 초안 같은 일부 작업에서 시작해 최종 해결까지 범위를 넓힐 수 있다. 이를 위해서는 좋은 품질 엔지니어의 조사 방식과 특정 공장·고객·감사인이 요구하는 수행 방식을 모두 배워야 한다. 원문은 기록 시스템과 범용 에이전트만으로 충분한 업무도 인정하면서, 반복 빈도가 높고 전문가 판단과 학습 순환이 중요한 영역에서는 수직형 AI 기업이 업무 자체를 가장 잘 수행하는 주체가 되어 경쟁할 수 있다고 결론짓는다.

🧾 핵심 주장 / 시사점

  • 기록 시스템의 소유권과 사용자 접점의 확보가 전체 업무 수행 능력까지 자동으로 보장하지는 않으며, 경쟁의 단위는 개별 기록에서 여러 경계를 넘는 업무로 확장된다.
  • 데이터의 양뿐 아니라 판단 과정과 전문가 수정 이유를 관찰하고 평가할 수 있는지가 학습 우위를 좌우한다.
  • 전문직 공통 훈련과 고객별 운영 학습을 구분하면 초기 고객 이력이 적어도 출발할 수 있지만, 조직별 교훈이 모든 고객에게 그대로 적용되는 것은 아니다.

✅ 액션 아이템

  • 수직형 AI의 대상 업무가 여러 시스템에 걸쳐 있으며 Claude나 Codex의 접근만으로 해결되지 않는 제약을 갖는지 검토.
  • 전문가 피드백과 결과 평가를 통해 판단·수정 이유를 학습할 수 있는지 확인.
  • Harvey의 사례를 참고해 전문직 공통 역량의 초기 훈련과 고객별 업무 방식의 학습 가능성을 검토.

❓ 열린 질문

  • Claudeforce처럼 기록 통제와 업무 진입점이 분리되는 상황에서 수직형 AI는 어떤 전체 업무의 수행 품질로 차별화할 수 있는가?
  • 전문가 피드백과 결과 평가는 완료 기록에 드러나지 않는 판단·수정 이유를 얼마나 학습으로 연결할 수 있는가?
  • Harvey처럼 대규모 고객 이력 확보 이전에 훈련을 시작하는 방식은 법률·세무·회계·산업 업무 중 어디에 적용할 수 있는가?

관련 문서

공통 태그와 주제 흐름을 기준으로 같이 보면 좋은 문서를 이어서 제안합니다.