5 things to know about how companies can create value from AI

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

MIT CISR 연구진은 기업의 AI 가치 창출이 도입 속도보다 신뢰 인프라, 전문성, 독점 데이터, 안정적 운영, 업무 재설계 등 관리 역량에 달려 있다고 주장한다.

📌 핵심 요약

• 자율적으로 작동하는 AI 에이전트는 지속적인 인간 감독이 어려우므로, 감사 기록·지속적 모니터링·결정에 대한 이의 제기와 번복 장치를 인프라에 내장해야 한다.
• AI 관련 역량의 더 큰 위험은 도구 교육 부족보다 전문성 상실이다. 기업은 AI 결과를 판단할 도메인 전문가를 확보하고, 전문가가 복잡한 업무를 통해 깊은 판단력을 발전·유지할 기회를 보존해야 한다.
• AI 기술 접근성이 높아질수록 복제하기 어려운 독점 데이터가 차별화의 핵심이 된다. Belden은 맥락과 출처를 갖춘 신뢰할 수 있는 산업 데이터를 활용해 네트워킹 하드웨어의 범용화에 대응한다.
• AI 에이전트의 프로토타입 수는 진척도를 제대로 보여주지 못한다. 대규모 운영을 위해서는 자율성 증가에 따른 행동의 다양성을 다룰 평가·모니터링·거버넌스·신뢰성 역량이 중요하다.
• 연구진은 AI가 단기적으로 기대에 못 미칠 수 있지만 10년 뒤에는 기대를 넘어설 것이라고 전망한다. 이를 위해 업무 흐름·역할·인간과 AI 사이의 인계 방식 재설계, 에이전트 관리 절차, 규제 개선과 가치의 공평한 공유가 필요하다고 본다.

🧩 주요 포인트

1. AI 에이전트의 자율성과 그럴듯한 오류 → 신뢰 통제를 인프라에 내장하면서 결과를 판별할 인간의 전문성도 유지해야 함.
2. AI 기술의 보편화와 모듈형 제품의 대체 가능성 → 경쟁력의 기준이 AI 구축 가능 여부에서 복제하기 어려운 독점 데이터와 고유 역량으로 이동함.
3. 프로토타입 제작의 용이성과 조직 변화의 지연 → 성과는 에이전트 수보다 대규모 운영 역량과 업무 재설계 수준으로 판단할 필요가 있음.

🧠 상세 정리

1. AI 도입에서 차별화된 가치 창출로

AI에 대한 기업의 접근성은 높아지고 있지만, 경쟁사도 같은 기반 모델과 AI 에이전트를 사용할 수 있으므로 도입 자체가 차별화를 보장하지는 않는다. MIT Center for Information Systems Research(MIT CISR)의 Stephanie Woerner와 동료들은 널리 이용할 수 있는 기술을 고유한 사업 가치로 전환하는 능력이 더 큰 기회라고 설명한다. 연구진은 브리핑 「AI Value Creation: Five Provocative Propositions」에서 신뢰, 역량, 데이터, AI 에이전트, 가치 창출에 관한 현재 연구를 종합했다. 이들이 제시한 다섯 가지 명제의 공통된 주장은 성공이 AI 도입 속도보다 기술을 둘러싸고 구축하는 관리 역량에 더 크게 좌우된다는 것이다.

2. AI 에이전트의 신뢰는 인프라에 내장

기업은 전통적으로 관계, 평판, 공동의 유인과 책임성을 통해 신뢰를 구축했지만, 연구진은 이런 요소가 자율적인 AI 에이전트에 본래 갖춰져 있지는 않다고 지적한다. 특히 제3자가 개발한 에이전트는 인간이 계속 감독하기 어려운 속도와 규모로 작동하므로, 규칙과 정해진 경계를 지키는지 감사하고 결정에 이의를 제기하거나 이를 번복할 수 있어야 한다. 연구진이 살펴본 한 금융서비스 기업에서는 제3자 AI 대출 에이전트의 학습 데이터가 변하면서 미묘한 체계적 편향이 나타났고, 이를 신속히 드러내기 위해 감사 기록과 지속적 모니터링, 결정에 대한 이의 제기 절차가 필요했다. 이런 보호 장치를 인프라에 내장한 기업은 상시 인간 감독에 의존하거나 법적 책임 위험을 감수하지 않고도 외부 에이전트를 빠르게 활용하는 데 유리해진다는 설명이다.

3. 도구 교육보다 어려운 전문성 보존

많은 기업이 직원의 AI 도구 활용 교육에 투자하지만, 연구진은 AI 결과를 평가하는 데 필요한 깊은 도메인 전문성을 잃는 문제가 더 큰 위험일 수 있다고 본다. 생성형 AI는 잘못된 답도 매끄럽고 확신에 찬 형태로 제시할 수 있어 비전문가가 오류를 알아차리기 어렵고, 결과의 오류나 누락, 부적절성을 판별하려면 맥락을 이해하는 전문가의 판단이 필요하다. 그러나 전문가가 AI 생성물을 확인하는 데 시간을 많이 쓰면 전문성을 발전시키고 유지하는 복잡한 업무에 참여할 시간이 줄어드는 긴장이 생긴다. 반대로 검토에서 전문가를 제외하면 조직이 AI 결과를 정확히 평가할 능력을 잃을 수 있으므로, AI가 업무 일부를 더 효율적으로 수행하더라도 사람이 깊은 판단력을 기를 기회를 의도적으로 보존해야 한다는 권고다.

4. 복제하기 어려운 데이터로 차별화

AI 기능은 점점 쉽게 이용할 수 있지만, 독점 데이터는 그보다 훨씬 구축하기 어렵다는 점에서 차별화의 기반이 될 수 있다. MIT CISR의 선행 연구는 다른 기업의 디지털 생태계를 통해 즉시 결합해 사용할 수 있는 제품과 서비스를 제공하는 모듈형 생산자 사업 모델의 전략적 중요성이 커졌다고 설명한다. 다만 이런 제품은 쉽게 대체될 수 있어 공급 기업은 경쟁사와 구별되는 요소가 필요하며, AI 시대에는 복제할 수 없는 독점 데이터에 대한 접근이 핵심 차별화 요소가 된다. 산업용 네트워킹 기업 Belden은 네트워킹 하드웨어가 범용화되는 가운데 경쟁사가 재현하기 어려운 맥락과 출처를 갖춘 신뢰할 수 있는 산업 데이터를 활용한다. 이에 따라 전략적 질문도 AI를 만들 수 있는지에서 자사의 고유 데이터나 역량 없이는 다른 기업이 무엇을 만들 수 없는지로 이동한다.

5. 에이전트 수보다 대규모 운영 역량

생성형 AI는 에이전트 프로토타입을 만드는 데 필요한 노력을 크게 줄였지만, 에이전트를 만드는 일과 이를 대규모로 안정적으로 운영하는 일은 서로 다른 과제다. 연구진은 자율성이 커질수록 가능한 행동이 다양해지고, 그만큼 평가와 모니터링, 거버넌스가 어려워진다고 설명한다. 따라서 프로토타입 단계에서 절약한 노력의 일부는 사라지는 것이 아니라 실제 운영을 준비하는 단계로 미뤄지며, 제작한 에이전트 수만으로는 진척도를 제대로 판단하기 어렵다. 기업의 더 어려운 시험대는 에이전트를 실제 운영에 투입하고 규모를 확대할 수 있는지에 있다. 이를 위해 평가, 모니터링, 거버넌스, 신뢰성처럼 눈에 잘 띄지 않는 기본 관리 역량을 갖추는 일이 프로토타입 수보다 훨씬 중요하다는 주장이다.

6. 단기 실망을 넘어설 조직 재설계

연구진은 AI가 단기적으로 기업의 기대에 못 미칠 수 있으며, 그 이유가 반드시 기술의 실패라기보다 가치를 실현하는 데 필요한 보완적 변화의 부족일 수 있다고 전망한다. 디지털화도 기존 업무를 단순히 자동화할 때보다 사업 프로세스를 재설계했을 때 가장 큰 성과를 냈으며, 판단하고 목표를 추구하며 적응하고 다른 에이전트와 협력하는 AI는 더 근본적인 조직 변화를 요구한다는 설명이다. 기업은 업무 흐름과 역할, 인간과 AI 사이의 인계 방식을 다시 설계하고, 에이전트의 도입·평가·교정·감독 절차를 갖춰야 한다. 연구진은 10년 뒤 AI가 기대를 넘어설 것이라고 전망하면서, 그 과정에 규제 개선과 가치의 공평한 공유도 필요하다고 덧붙인다. 조직 내부에서는 인간과 AI가 각자 가장 잘하는 일에 집중할 수 있도록 업무 프로세스를 바꾸는 것이 핵심 조건으로 제시된다.

🧾 핵심 주장 / 시사점

• AI 에이전트의 자율성이 커질수록 인간의 상시 감독을 확대하기보다 감사·통제·이의 제기가 가능한 구조를 갖추는 관리 방식이 중요해진다.
• AI 활용의 효율성을 높이는 과정에서 전문가의 판단력 형성 기회가 줄어들 수 있으므로, 단기 생산성과 장기 전문성 유지 사이의 긴장을 다뤄야 한다.
• AI 기술이 널리 보급돼도 독점 데이터, 안정적 운영, 조직 재설계 역량의 차이는 남기 때문에 기술 접근성의 확대가 기업 간 성과 차이의 소멸을 뜻하지는 않는다.

✅ 액션 아이템

• AI 에이전트의 감사 기록·지속적 모니터링·결정에 대한 이의 제기와 번복 장치의 인프라 내재화 추진.
• 도메인 전문가가 AI 결과를 검토하면서 복잡한 업무를 통해 전문성을 발전·유지할 기회 보존.
• 복제하기 어려운 독점 데이터의 차별화 가능성 검토와 대규모 운영에 필요한 평가·거버넌스 및 업무 재설계 추진.

❓ 열린 질문

• AI 에이전트의 감사 기록·지속적 모니터링·결정 번복 장치는 지속적인 인간 감독이 어려운 상황에서 어떻게 작동해야 하는가?
• 도메인 전문가가 AI 결과를 검토하면서도 깊은 판단력을 발전·유지할 기회를 어떻게 확보할 수 있는가?
• 복제하기 어려운 독점 데이터와 업무 재설계가 차별화된 사업 가치로 이어지는지를 무엇으로 판단할 수 있는가?