YouTube티타임즈TV·2026년 8월 11일·0

토큰맥싱 위해 좌충우돌 했던 회사들이 요즘 하는 것 (표철민 AI3 대표)

Quick Summary

토큰 맥싱을 위해 좌충우돌했던 회사들은 이제 AI 사용량 자체보다 업무 완결성, 비용 효율, 결과의 일관성을 기준으로 AX의 ROI를 관리하기 시작했다.

영상 보기

클릭 전까지는 가벼운 미리보기만 먼저 불러옵니다.

원본 열기

🖼️ 인포그래픽

토큰맥싱 위해 좌충우돌 했던 회사들이 요즘 하는 것 (표철민 AI3 대표) 내용을 설명하는 본문 이미지

🖼️ 4컷 인포그래픽

토큰맥싱 위해 좌충우돌 했던 회사들이 요즘 하는 것 (표철민 AI3 대표) 내용을 설명하는 본문 이미지

💡 한 줄 결론

토큰 맥싱을 위해 좌충우돌했던 회사들은 이제 AI 사용량 자체보다 업무 완결성, 비용 효율, 결과의 일관성을 기준으로 AX의 ROI를 관리하기 시작했다.

📌 핵심 요점

  1. AX의 평가 기준이 사용량에서 ROI로 이동했다. 초기에는 직원에게 AI를 최대한 많이 쓰게 하고 토큰 소비를 늘리는 것이 성과로 여겨졌지만, 비용 증가만큼 생산성이 개선됐는지 입증하기 어려워지면서 업무별 가치와 비용을 함께 측정하는 단계로 전환되고 있다. [00:12][08:35][09:01]
  2. 초기 트래픽은 실제 활용 역량을 그대로 보여주지 않는다. 전사 도입 첫 주에는 호기심으로 사용량이 급증한 뒤 빠르게 감소하며, 이후 조직의 망분리 여부·업종·기존 AI 숙련도에 따라 안정적인 활용 수준이 형성된다. 따라서 단기 사용량만으로 도입 성과를 판단하면 실제 수요를 오판할 수 있다. [04:13][04:37][04:56][05:20]
  3. MCP와 데이터 연결이 AI를 답변 도구에서 업무 실행 도구로 바꾼다. 에이전트가 법령·공공 데이터·ERP·그룹웨어·사내 데이터베이스를 조회하면 부동산 조사 자료 작성, 근태 조회, 회의실 예약, 전자결재 승인처럼 실제 업무를 끝까지 수행할 수 있다. 다만 외부 도구와 데이터를 많이 호출할수록 토큰 사용량과 비용도 증가한다. [06:56][07:47][13:32][14:17]
  4. 가치가 높은 워크플로는 현업의 업무 지식에서 나온다. SAP 원가를 계산해 경영진에게 보고하거나 공장 생산량과 수율을 조회하는 사례처럼, 구체적인 업무 맥락을 이해하는 현업이 에이전트를 설계하고 IT 조직이 데이터 연결·권한·운영 반영을 담당하는 협업 구조가 중요하다. [15:29][15:37][15:56][21:00]
  5. 에이전트의 자유도를 높이는 것보다 계획과 실행을 분리하는 편이 효율적일 수 있다. 다수의 MCP를 자유롭게 선택하게 하면 실행 경로가 매번 달라져 토큰 낭비와 결과 불일치가 발생했다. 경량 모델로 워크플로를 먼저 설계하거나 파이썬 프로그램으로 순서를 고정한 뒤 고성능 모델이 이를 실행하도록 하자 일관성이 높아지고 토큰 사용량이 줄었다. [16:36][17:13][17:47][19:02]

🧩 배경과 문제 정의

  • 기업의 AX 평가 기준이 단순한 AI 사용량 확대에서 실질적인 가치 창출과 투자 대비 효과를 측정하는 ROI 중심으로 이동하고 있다.
  • 에이전트가 외부 도구와 공공·사내 데이터를 활용하면서 답변의 근거와 업무 완결성은 높아졌지만, 한 번의 업무에 필요한 토큰과 비용도 함께 급증했다.
  • 망분리 여부, 업종 특성, 기존 AI 숙련도에 따라 조직별 활용률이 크게 달라지므로 사용량만으로 도입 성과를 판단하기 어렵다.
  • 기업은 무제한 사용을 장려하던 초기 단계를 넘어, 현업의 구체적인 업무 프로세스별 효과와 비용을 함께 관리해야 하는 단계에 들어섰다.
  • 영상에서 언급된 토큰 사용량 증가율과 미국 기업의 예산 소진 비율 등 외부 통계는 발언에 포함된 수치이며, 정확한 출처와 조사 조건은 별도 검증이 필요하다.

🕒 시간순 섹션별 상세정리

1. AX의 기준이 사용량에서 ROI로 이동

  • 기업의 AI 전환 목표가 최대한 많이 사용하게 하는 양적 도입에서, AI가 창출한 가치와 성과를 측정하는 ROI 중심으로 바뀌고 있다고 보여준다. [00:12]
  • 영상에서는 지난 2년간 토큰 사용량이 22배 증가했고 미국 기업의 73%가 예산을 조기 또는 초과 소진했으며, 에이전트의 한 차례 작업이 사람과 100번 대화할 때에 맞먹는 토큰을 소비한다고 제시한다. 해당 수치의 출처와 산정 기준은 별도 검증이 필요하다. [00:56]

2. 여러 AI 모델을 통합한 기업용 포털

  • 웍스 AI는 GPT, Claude, Gemini, 업스테이지 등 여러 모델을 한곳에 모아, 기업이 모델마다 별도로 계약하지 않고 이용할 수 있도록 구성된 서비스로 묶인다. [02:21]
  • 기업은 종량제 방식으로 모델을 사용하면서 조직별·사용자별 요금 한도를 설정해 과도한 사용을 통제할 수 있다. [02:31]

3. 도입 첫 주의 사용량 폭증과 실제 활용 수준

  • 기업은 보안과 필요성을 오랫동안 검토하지만, 경영진의 도입 승인이 내려진 뒤에는 생산성 향상 가능성을 확인하기 위해 직원들의 사용을 폭넓게 허용한다. [04:13]
  • 전사 도입 직후 첫 일주일에는 호기심과 초기 수요로 트래픽이 급증하지만, AI 사용에 익숙하지 않은 직원들이 이탈하면서 사용량이 빠르게 감소하는 양상이 나타난다고 보여준다. [04:37]

4. 인프라·업종·기존 숙련도가 만드는 활용률 격차

  • 망분리 기업은 외산 AI와 내부 문서를 함께 활용하기 어려워 사용률이 낮고, 망분리가 없는 조직은 업무 자료를 연결할 수 있어 상대적으로 활용률이 높다고 보여준다. [05:20]
  • 건설·제조업처럼 컴퓨터 앞에서 일하는 인력의 비중이 낮은 업종은 평균 사용률도 낮으며, 관리자는 저조한 지표를 확인한 뒤 인재개발 조직과 함께 교육 확대에 나선다. [05:53]

5. 답변 품질과 함께 증가하는 에이전트의 토큰 사용량

  • MCP 에이전트는 신사업의 적법성을 확인하기 위해 법제처의 현행법과 구체적인 조항까지 탐색하며, 단순 검색보다 근거가 명확한 답변을 만든다. [06:56]
  • 같은 질문이라도 외부 기관을 검색하고 관련 데이터를 가져오는 과정이 추가되므로, 답변 품질이 높아지는 동시에 전체 토큰 사용량도 증가한다. [07:08]

6. 토큰 맥싱의 비용 한계와 구체적인 업무 개선 요구

  • 불과 6개월 전에는 개발자의 토큰 사용량을 사내 리더보드에 게시할 만큼, AI를 많이 사용하는 행위 자체가 전환 성과이자 자랑으로 받아들여졌다. [08:35]
  • 그러나 몇 달간 사용량을 늘린 뒤에도 경쟁사 대비 생산성 향상이 뚜렷하지 않았고, 효과가 나타날 때까지 불확실성을 감수하기에는 비용 증가 폭이 지나치게 커졌다고 보여준다. [09:01]

7. 토큰 맥싱에서 업무 가치 중심으로 전환

  • 기업들은 1~2년간 생성형 AI를 직접 도입하며 수요와 활용 역량을 축적했고, 교육 인력에게도 단순 강의보다 AX 컨설팅과 현장 구현 능력을 요구하기 시작했다. [12:13]
  • 토큰 맥싱은 단순한 낭비만이 아니라, 기업이 AI를 실제로 사용해 보면서 조직의 수요를 파악하고 다음 단계로 나아갈 방법을 찾게 한 학습 과정이었다고 평가한다. [12:30]

8. 공공·사내 데이터를 연결한 업무 실행

  • 부동산 조사 에이전트는 KB 시세와 실거래가를 조회해 아파트별 표와 PPT를 만들고, 국토교통부 데이터에서 토지 용도까지 가져오는 사례로 묶인다. [13:32]
  • 모델의 추론 능력이 향상돼도 회사 데이터에 접근하지 못하면 업무 활용에는 한계가 있으며, MCP와 별도 기능을 이용하면 ERP·그룹웨어 등 사내 시스템과 연결할 수 있다고 보여준다. [14:01]

9. 현업이 만든 고가치 워크플로와 권한 통제

  • 여러 시스템을 호출하는 에이전트는 많은 토큰을 사용하지만, 실제 업무를 처음부터 끝까지 처리하는 효용이 커지면서 비용만으로 가치를 판단하기 어려워진다. [15:08]
  • SAP의 원가 정보를 자동으로 계산해 매일 아침 경영진에게 보고하는 워크플로처럼, 기업 내부의 구체적인 업무 맥락에서 새로운 고가치 활용법이 만들어진다. [15:29]

10. 자유형 에이전트의 블랙박스와 경량 모델 해법

  • 약 20개의 사내 데이터 MCP를 하나의 에이전트에 제공하고 자유롭게 판단하도록 맡기자, 필요한 정보를 어느 도구에서 찾아야 하는지 안정적으로 결정하지 못하는 문제가 발생했다. [16:36]
  • 고정된 순서도 없이 AI가 중간 과정을 판단하면 도구 선택과 실행 순서가 블랙박스가 되며, 같은 요청에도 과정과 결과가 매번 달라질 수 있다. [17:13]

11. 결정론적 MCP를 통한 의사결정 자동화

  • 기업들은 고성능 모델과 공공·사내 데이터 MCP를 결합해 에이전트를 오케스트레이션하는 과정에서 토큰 낭비와 결과 불일치를 공통으로 겪고 있다. [18:23]
  • 일부 기업은 경량 모델에 판단을 맡기는 대신, 파이썬 프로그램으로 실행 순서를 고정한 MCP를 먼저 호출해 업무가 결정론적으로 진행되도록 구성한다. [19:02]

12. 현업·IT 협업과 데이터 기반에 따른 기업 간 격차

  • IT 조직은 사내 데이터를 MCP로 연결하고, 현업 부서는 업무 지식을 바탕으로 에이전트를 설계·수정하며, 운영 시스템에 반영할 때는 다시 IT 조직의 공식 절차를 거친다. [21:00]
  • 빅데이터 투자로 데이터 레이크를 구축하고 사내 데이터를 디지털화·중앙화한 기업은 MCP 연결만 추가해도 AI가 데이터를 즉시 활용할 수 있어 상대적으로 유리하다. [21:43]

13. 맥락 정보와 AI 생성 품질의 동반 향상

  • 업무에 필요한 맥락을 AI에 제공해 생성을 맡기고 모델 자체의 성능까지 향상되면서, 주어진 맥락을 벗어난 부정확한 답변이 줄어든다고 보여준다. [24:00]
  • 맥락에 담기는 정보의 품질과 이를 바탕으로 결과를 만드는 AI의 품질이 함께 높아지면서, 사내 업무에 필요한 신뢰도를 확보할 수 있게 된다. [24:08]

14. MCP가 연 사내 AI 활용의 본격화

  • 정보 품질과 생성 성능의 개선이 맞물린 현재가 AI를 사내 업무에 본격적으로 활용할 수 있는 시점이라는 결론을 제시한다. [24:12]
  • MCP가 결정적인 계기로 작용하면서 기업 내부의 AI 활용이 실질적인 업무 가치와 실행 중심으로 꽃피기 시작했다는 논지로 마무리한다. [24:19]

🧾 결론

  • 토큰 맥싱은 단순한 낭비라기보다 기업이 AI 수요와 활용 가능성을 탐색한 학습 과정이었지만, 이제는 사용량 확대만으로 AX 성과를 설명하기 어려운 단계에 도달했다.
  • 앞으로의 핵심 지표는 직원별 토큰 소비량이 아니라 업무 완료율, 처리 시간 단축, 결과 정확도와 일관성, 자동화로 창출된 가치, 그리고 그 과정에 투입된 총비용이다.
  • 기업용 AI의 실질적인 경쟁력은 모델 성능만으로 결정되지 않는다. 사내·공공 데이터 연결, 결정론적인 실행 절차, 부서별 접근 권한, 현업과 IT의 협업 체계가 함께 갖춰져야 한다.
  • RAG의 초기 한계를 경험하고도 데이터 디지털화와 실험을 지속한 기업은 MCP 기반 활용으로 전환하기 유리한 반면, 초기 실패 후 투자를 중단한 기업과는 실행 역량의 격차가 벌어질 수 있다는 것이 영상의 진단이다.

📈 투자·시사 포인트

  • 기업용 AI의 구매 기준 변화: 좌석 수나 토큰 사용량보다 특정 업무를 얼마나 안정적으로 완결하고 비용을 절감하는지가 중요해질 수 있다. 투자 관점에서도 사용자 증가율만이 아니라 업무별 ROI와 반복 사용률을 함께 확인필요가 있다.
  • 데이터 인프라의 전략적 가치: 데이터 레이크, ERP·그룹웨어 연동, 권한 관리 체계를 이미 갖춘 기업은 MCP를 통해 AI 활용 범위를 빠르게 넓힐 가능성이 있다. 반대로 사내 데이터가 분산됐거나 디지털화되지 않은 조직은 모델을 도입해도 활용에 제약을 받을 수 있다.
  • 오케스트레이션·경량 모델의 기회: 모든 작업을 고성능 모델에 맡기기보다 계획 수립, 도구 선택, 실행을 분리하면 비용과 변동성을 줄일 수 있다. 이에 따라 경량 모델, 모델 라우팅, 워크플로 엔진, MCP 관리 및 관측 도구의 중요성이 커질 수 있다.
  • 현업 특화 솔루션의 가능성: 범용 챗봇보다 원가 계산, 생산 수율 조회, 투자 검토 자료 작성처럼 산업과 부서의 절차를 반영한 에이전트가 더 명확한 가치를 만들 수 있다. 다만 실제 성과는 고객별 구축 비용과 운영 복잡성까지 포함해 평가해야 한다.
  • 검증이 필요한 수치: 영상에서 제시된 ‘2년간 토큰 사용량 22배 증가’, ‘미국 기업의 73%가 예산을 조기 또는 초과 소진’, ‘에이전트 한 번의 작업이 인간의 대화 100회 수준의 토큰을 소비한다’는 수치는 원 출처와 조사 대상·기간이 제공된 입력에 포함되지 않았으므로 투자 판단 전에 별도 확인이 필요하다.

⚠️ 불확실하거나 확인이 필요한 부분

  • “지난 2년간 토큰 사용량이 22배 증가했다”, “미국 기업의 73%가 AI 예산을 조기 또는 초과 소진했다”, “에이전트 작업 한 번이 사람과의 대화 100회에 해당한다”는 수치는 영상에서 제시됐지만, 조사 기관·표본·측정 기간·토큰 산정 기준은 별도로 확인해야 한다. [00:56] [08:13] [09:42]
  • 웍스 AI를 약 1,000개 기업·공공기관이 사용한다는 설명은 집계 시점과 유료 고객·시범 도입 기관의 포함 범위가 제시되지 않아 최신 공식 자료 확인이 필요하다. [02:50]
  • 경량 모델이 먼저 워크플로를 설계하고 플래그십 모델이 실행하도록 했을 때 일관성이 높아지고 토큰 사용량이 감소했다는 결과는 소개됐지만, 비교 모델·업무 유형·절감률·성공률 등 실험 조건은 공개되지 않았다. [17:47]
  • 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
  • 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
  • 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.

✅ 액션 아이템

  • AI 사용량만 집계하지 말고 업무별 처리 시간, 인건비 절감, 결과 정확도, 재작업률, 토큰 비용을 함께 기록해 ROI 기준선을 만든다.
  • 전사 도입 첫 주의 트래픽만으로 성공이나 실패를 판단하지 않고, 최소 수주간 사용자 유지율과 반복 사용 업무를 추적한다.
  • 현재 운영 중인 AI 업무를 정보 조회, 문서 작성, 데이터 분석, 시스템 실행으로 구분하고 각 유형의 비용과 오류 위험을 비교한다.
  • 자유형 에이전트와 계획·실행 분리형 구조를 동일한 업무에 적용해 토큰 사용량, 완료율, 결과 일관성을 비교한다.

❓ 열린 질문

  • 기업의 AI ROI에는 비용 절감 외에 의사결정 속도, 결과 품질, 신규 매출, 리스크 감소를 어떤 비중으로 반영해야 하는가?
  • 토큰 사용량이 많더라도 업무를 끝까지 자동화한다면, 어느 수준의 비용부터 비효율로 판단해야 하는가?
  • 경량 모델이 생성한 실행 계획 자체가 잘못됐을 때 이를 감지하고 중단하거나 사람에게 넘기는 기준은 무엇인가?

관련 문서

공통 태그와 주제 흐름을 기준으로 같이 보면 좋은 문서를 이어서 제안합니다.