A framework for determining when AI can make decisions

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

MIT 연구진의 AI Decision Matrix는 모호성과 위험에 따라 의사결정을 네 유형으로 구분하고, 문제 설정·실행·학습에서 인간과 AI의 권한을 설계하도록 제안한다.

📌 핵심 요약

• MIT Center for Information Systems Research의 Ina Sebastian, Peter Weill, Thomas Haskamp, Jan vom Brocke는 임원 30명과의 인터뷰를 바탕으로 AI Decision Matrix를 개발했다. 같은 AI 역량도 의사결정의 맥락에 따라 안전하거나 위험할 수 있다는 전제다.
• 모호성은 데이터가 답을 얼마나 명확하게 결정하고 사람들이 그 답에 얼마나 동의하는지를, 위험은 잘못된 결정의 영향과 되돌리기 어려운 정도를 뜻한다. 인간과 AI의 역할은 문제 설정·실행·학습으로 나누어 배분하되 모든 유형에서 인간의 감독을 유지한다.
• 일상적 결정은 모호성과 위험이 모두 낮아 자동화에 적합하고, 중대한 결정은 모호성이 낮지만 위험이 높아 인간의 실행 감시와 예외 관리가 중요하다. 모호성이 높고 위험이 낮은 탐색적 결정은 인간과 AI의 상호작용을 활용하며, 두 요소가 모두 높은 전략적 결정은 인간이 주도한다.
• 2026년 초 기준 50개가 넘는 AI 에이전트를 운영한 One New Zealand는 마케팅 대상 세분화 시간을 60% 줄였지만 출시 전 인간 검토를 유지했다. 가격 관련 결정에는 반드시 인간이 관여하며, 네트워크에서는 15개의 작업별 에이전트와 오케스트레이션 에이전트가 인간의 결정을 지원한다.
• One New Zealand는 사업부에 AI 활용의 문제 설정 책임을 부여하고, AI·데이터 전문 조직에 데이터 기반·아키텍처·구현을 맡겼다. 배포된 에이전트마다 인간 책임자를 지정하며, 연구진은 AI를 개별 활용 사례보다 비즈니스 의사결정 포트폴리오 관점에서 관리할 것을 제안한다.

🧩 주요 포인트

1. 모호성·위험과 문제 설정·실행·학습을 함께 검토하면, 같은 AI라도 맥락과 단계에 맞춰 자동화 범위와 인간의 권한을 다르게 정할 수 있다.
2. One New Zealand의 60% 시간 절감과 가격 관련 인간 개입은 효율 향상과 통제의 병행을 보여준다. 자율성 확대는 성능에 대한 신뢰와 결과 검증을 바탕으로 점진적으로 이루어진다.
3. 사업부의 문제 설정, AI·데이터 전문 조직의 공통 기반, 인간 책임자의 지속 관리가 권한 설계를 뒷받침한다. 의사결정 포트폴리오 관점은 일상적·중대한 결정의 단기 효율과 탐색적·전략적 결정의 장기 가치를 함께 다루게 한다.

🧠 상세 정리

1. AI에 맡길 결정과 인간의 권한을 구분하는 기준

기업이 AI에 어떤 업무를 맡기고 언제 인간의 개입을 유지해야 하는지는 AI 시대의 핵심 과제다. MIT Center for Information Systems Research의 Ina Sebastian, Peter Weill, Thomas Haskamp, Jan vom Brocke는 임원 30명과의 인터뷰를 바탕으로 AI Decision Matrix를 개발했다. 이 틀은 모든 결정이 같지 않으며, 예측 가능하고 위험이 낮은 결정과 모호하면서 결과가 중대한 결정에 서로 다른 접근이 필요하다는 전제에서 출발한다. 연구진은 동일한 AI 역량도 한 맥락에서는 안전하지만 다른 맥락에서는 위험할 수 있다고 설명한다. 따라서 기술의 능력만 평가하기보다 결정의 모호성과 위험을 기준으로 자동화와 감독의 방식을 설계하는 것이 핵심이다.

2. 두 평가 축과 의사결정의 세 구성 요소

모호성은 데이터가 답을 얼마나 명확하게 결정하는지, 그리고 사람들이 그 답에 어느 정도 동의하는지를 나타낸다. 모호성이 낮은 결정은 반복 가능하고 예측 가능하지만, 모호성이 높은 결정은 여러 해석을 허용한다. 위험은 잘못된 결정의 결과를 뜻하며, 위험이 낮으면 영향이 작고 쉽게 되돌릴 수 있지만 높으면 재무·운영·평판에 큰 영향을 미치고 수정도 어렵다. 문제 설정은 문제와 가정, 이해관계자, 제약, 성공 기준을 정의하는 단계다. 실행에는 정보 수집, 대안 평가, 행동의 권고와 승인, 승인된 조치의 수행이 포함되며, 학습에는 결과의 관찰과 분석, 결과에 대한 책임, 의사결정 시스템의 지속적 갱신이 포함된다. 기업은 두 평가 축으로 결정 유형을 구분한 뒤 세 구성 요소의 활동을 인간과 AI에 배분하되, 모든 유형에서 인간의 감독을 유지해야 한다.

3. 일상적 결정과 중대한 결정: 자동화의 범위와 한계

모호성과 위험이 모두 낮은 일상적 결정은 문제가 잘 정의되어 있고 오류의 부정적 영향이 제한적이므로 자동화에 적합하다. 문제 설정을 미리 규칙화하고 실행과 학습을 자동화할 수 있지만, 에이전트 성능에 대한 신뢰가 쌓이는 동안 인간이 긴밀하게 관여해야 한다. One New Zealand에서는 에이전트가 마케터의 요청을 SQL 쿼리로 변환해 대상 세분화 시간을 60% 줄였으며, 마케팅팀은 출시 전 AI가 만든 세분화 계획을 검토하고 신뢰가 높아짐에 따라 자율성을 확대한다. 반면 모호성이 낮고 위험이 높은 중대한 결정에서는 인간이 실행을 감시하고 예외를 관리하며 지속적인 학습에 집중해야 한다. 이 회사는 고객 서비스의 요금제 업그레이드와 지원 요청 해결에 에이전트를 활용하면서 경영진이 자동화의 허용 범위를 정할 위험 수용 수준을 설정했다. 부정확한 가격 정보는 허용할 수 없는 제약으로 보아 모든 가격 관련 결정에 인간을 참여시키고, 에이전트를 점진적으로 도입해 결과를 검증한 뒤 대규모로 배포한다.

4. 탐색적 결정: 실험을 확대하되 위험의 변화를 관리

탐색적 결정은 모호성이 높지만 위험이 낮아 해석과 창의성, 불확실성이 개입하더라도 오류의 영향은 제한적인 유형이다. 문제 설정은 인간과 AI의 상호작용을 통해 발전할 수 있으며, 인간은 실행과 지속적 학습을 감독한다. One New Zealand의 마케팅팀은 콘텐츠 제작에 에이전트를 활용하면서 인간이 목표 설정과 고객 반응에 따른 학습에 참여하도록 했다. 팀은 이렇게 얻은 경험을 바탕으로 에이전트가 전체 과정을 이끄는 자율 마케팅 캠페인을 개발하고 있다. AI는 선택의 폭을 넓히고 실험을 빠르게 진행하게 하며, 인간은 실수가 큰 영향을 일으키기 전에 수정하는 역할을 맡는다. 다만 실험이 더 높은 위험의 활용 사례로 이어질 수 있으므로, 탐색적 결정에서도 거버넌스를 우선적으로 고려해야 한다.

5. 전략적 결정: 분석과 조정을 지원하되 인간이 주도

전략적 결정은 모호성과 위험이 모두 높아 불확실성과 중대한 결과를 함께 다루므로 강한 인간의 리더십과 감독이 필요하다. 인간은 문제 설정과 학습을 주도하고, AI는 실행을 지원하는 역할을 맡는다. One New Zealand는 네트워크를 최적화하고 정전 시 복원력을 높이기 위해 자동화를 활용하며, 15개의 작업별 에이전트가 네트워크 데이터를 분석한다. 별도의 오케스트레이션 에이전트들은 이 작업별 에이전트를 관리하면서 인간의 판단에 필요한 데이터와 분석을 제공한다. 실제 결정은 서비스 신뢰성, 고객 경험, 비용, 인프라 우선순위 사이의 상충관계를 다루기 때문에 인간이 주도한다. 이 사례는 여러 에이전트가 분석과 조정을 수행하더라도 최종 결정 권한은 인간에게 남을 수 있음을 보여준다.

6. 조직 책임과 지속 관리로 의사결정 포트폴리오 운영

One New Zealand는 각 사업부에 AI 활용 사례의 문제 설정 책임을 부여해 사업 필요, 가치, 도메인 전문성이 반영되고 결정 권한이 일관되게 설계·적용되도록 했다. AI·데이터 전문 조직은 데이터 기반과 아키텍처, 구현을 담당하며, 정형·비정형 데이터의 통합 플랫폼과 에이전트 플랫폼 간 조정을 위한 수평적 AI 오케스트레이션 계층을 마련했다. 이 조직은 책임 있는 AI 사용 정책과 반복적 도입 방식도 수립했다. 배포된 모든 에이전트에는 명시적인 인간 책임자가 필요하며, 이들은 성능 관찰, 데이터 개선, 정확성 시험, 지속적 개선을 통해 결과와 학습에 책임을 진다. 연구진은 AI가 핵심 프로세스에 들어갈수록 개별 활용 사례를 넘어 그것이 영향을 미치는 비즈니스 의사결정을 포트폴리오로 관리해야 한다고 제안한다. 일상적·중대한 결정의 권한 설계는 단기 효율과 확장을 지원하고, 탐색적·전략적 결정은 혁신과 더 나은 판단을 통해 장기 가치를 열 수 있다는 설명이다. 연구진은 이러한 접근이 속도를 높이고 위험을 줄이며 신뢰를 구축할 수 있다고 주장하면서, 관심의 중심을 AI의 사용처에서 AI가 영향을 주는 결정의 관리로 옮길 것을 강조한다.

🧾 핵심 주장 / 시사점

• AI 도입 여부만으로 권한 설계가 끝나지는 않는다. 동일한 결정에서도 문제 설정·실행·학습을 누가 맡는지에 따라 인간과 AI의 관계가 달라진다.
• 모호성이 낮아 답이 명확한 업무도 오류의 영향이 크면 인간의 개입이 필요하다. One New Zealand의 가격 관련 제약은 예측 가능성이 곧 전면 자동화의 근거가 되지는 않음을 보여준다.
• 탐색적 활용이 발전하면서 위험 수준도 높아질 수 있으므로, 초기의 결정 유형과 권한 배분을 고정하기보다 학습 결과와 활용 범위의 변화에 맞춰 검토할 필요가 있다.

✅ 액션 아이템

• AI Decision Matrix의 모호성·위험을 기준으로 결정을 분류하고 문제 설정·실행·학습별 인간과 AI의 권한을 검토한다.
• One New Zealand의 가격 관련 인간 개입과 점진적 자율성 확대를 참고해 자동화의 제약과 결과 검증 조건을 명확히 한다.
• 사업부, AI·데이터 전문 조직, 인간 책임자의 역할을 정립하고 의사결정 포트폴리오의 단기 효율과 장기 가치를 함께 검토한다.

❓ 열린 질문

• 모호성과 위험이 각각 높거나 낮다고 판단하는 구체적인 기준은 무엇인가?
• One New Zealand는 어떤 성능과 결과 검증 기준으로 AI의 자율성 확대를 결정하는가?
• 사업부, AI·데이터 전문 조직, 인간 책임자 사이에서 문제 설정·실행·학습의 권한과 책임을 어떻게 구분할 것인가?