Making the case for context-aware AI

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Celonis의 Devavrat Shah는 기업 AI를 실험에서 일상 운영으로 확장하려면 에이전트에 업무 맥락을 연결하고, 구체적인 의사결정에서 속도와 가치를 검증해야 한다고 주장한다.

📌 핵심 요약

• MIT Technology Review Insights가 2026년 10월 22일 공개한 이 콘텐츠는 Celonis와 협업한 후원 콘텐츠로, 기업 AI의 운영 맥락과 의사결정 지원을 다룬다.
• Celonis의 Devavrat Shah는 AI 에이전트가 업무의 역할·제약·관계를 이해해야 한다고 주장한다. 운영 맥락이 없으면 필요한 정보를 파악하는 데 과도한 연산을 쓰거나, 중요한 제약을 놓쳐 비용이 큰 오류를 낼 수 있다는 설명이다.
• Celonis의 맥락 계층은 기존 업무 도구와 이벤트 로그를 추상화하고, 가드레일 안에서 역할별 에이전트를 연결하며, 사람의 검토·승인과 다른 에이전트 기반 인프라와의 연동을 지원하도록 설계됐다고 Shah는 설명한다.
• Shah는 구체적인 업무 의사결정에서 어려운 단계를 찾아 AI를 시험하고, 속도와 가치의 개선을 측정해 확장 여부를 판단하라고 제안한다. 기존 데이터가 완전하거나 가장 깨끗할 필요는 없다고 주장하면서도, 공급업체 소프트웨어를 신뢰할 수 있는지 확인하는 정보보안 검토를 주요 도입 단계로 꼽는다.
• 반복적인 수작업의 자동화와 팀 간 업무 조율은 직원이 복잡한 전략적 판단에 집중하도록 도울 수 있지만, AI 출력과 그 영향을 이해하기 위한 직원 교육이 필요하다. Shah는 향후 재무·인력 관리·마케팅·영업 등 전사 계획으로 활용이 확대될 가능성을 제시한다.

🧩 주요 포인트

1. 개별 작업은 더 큰 의사결정 과정의 일부 → 에이전트의 성능을 업무 역할과 운영 제약에 연결해야 한다는 관점이다.
2. 맥락 계층이 기존 업무 데이터와 에이전트를 연결 → 모델의 능력뿐 아니라 가드레일, 연동, 사람의 검토·승인이 실제 활용을 좌우한다.
3. 속도와 가치 검증에 정보보안 검토·직원 교육을 결합 → 기업 AI 확장은 기술 도입과 조직의 활용 역량을 함께 다루는 과제다.

🧠 상세 정리

1. 실험에서 일상 운영으로 넘어가는 기업 AI

MIT Technology Review Insights가 2026년 10월 22일 공개한 이 글과 Business Lab 대담은 Celonis와 협업해 제작한 후원 콘텐츠다. 진행자 Megan Tatum은 기업들이 수년간 실험·데모·시범 사업을 진행한 뒤, 이제 AI 확장이 수익성에 긍정적인 영향을 준다는 명확한 증거를 요구하는 상황이라고 설명한다. 문제는 AI가 기업의 실제 운영 맥락 없이 일반적인 원칙을 특수한 업무 상황에 적용하면서 기대에 미치지 못할 수 있다는 점이다. Celonis의 기업 AI 수석 과학자 Devavrat Shah는 추천 생성이나 작업 자동화를 넘어, 기업이 더 나은 의사결정을 하도록 돕는 데 AI의 큰 기회가 있다고 본다. 따라서 논의의 출발점은 모델의 능력 자체보다 그 능력을 실제 업무의 제약과 관계에 어떻게 연결할 것인가에 놓인다.

2. 의사결정 지능의 단위가 되는 역할과 작업

Shah는 MIT에서 20년 넘게 AI를 가르쳐 왔으며 기업 AI의 미래를 낙관한다고 밝히면서, 자신이 말하는 ‘의사결정 지능’의 구조를 설명한다. 기업의 의사결정에는 간헐적으로 이루어지는 전략적 판단과 높은 빈도로 반복되는 운영상 판단이 있으며, 두 유형 모두 여러 단계의 절차와 사람들의 협업을 거친다는 것이다. 그는 Jensen Huang이 작업이라고 부르는 개별 단위를 역할로도 설명하며, 이 지점에서 에이전트가 의사결정의 일부를 지원·보강하거나 때로는 자동화할 수 있다고 본다. 다만 어떤 역할을 맡고 어떤 작업을 수행해야 하는지 알려면 해당 작업이 전체 과정에서 차지하는 위치와 주변 조건을 알아야 한다. 그의 주장은 AI를 맥락과 적절히 결합해야 개별 작업의 지원이 기업 차원의 의사결정 개선으로 이어질 수 있다는 것이다.

3. 맥락 부재가 만드는 연산 낭비와 오류 위험

운영 맥락 없이 자율적인 에이전트를 활용할 때의 위험을 설명하면서, Shah는 먼저 필요한 지식이 모두 들어 있는 매우 강력한 모델을 가정한다. 이런 시스템도 특정 업무의 맥락에 직접 접근하지 못하면 많은 질문과 추론을 거쳐야 하므로, 단순한 작업을 처리하는 데 지나치게 많은 연산을 사용할 수 있다는 설명이다. 이어 그는 현실에서는 모델이 중요한 맥락이나 제약, 가드레일을 놓쳐 잘못된 결정을 내릴 가능성이 있다고 지적한다. 실수의 영향도 상황에 따라 달라서, 마음에 들지 않는 식당을 추천하는 경우와 회사에 치명적인 결과를 초래할 수 있는 재무 전망 오류는 같은 무게로 볼 수 없다는 예를 든다. 이는 실제 사고 사례의 보고가 아니라, 기업의 중요한 판단에 AI를 적용할 때 맥락 누락이 초래할 수 있는 상업적 위험을 보여 주기 위한 설명이다.

4. 프로세스 지능에서 의사결정 지능으로

진행자는 조직의 실시간 디지털 트윈을 통해 Celonis가 운영 맥락을 어떻게 제공하는지 묻고, Shah는 회사가 축적해 온 프로세스 지능의 관점에서 답한다. 그의 설명에 따르면 Celonis는 조직이 이상적인 절차를 따르고 더 나은 절차를 만들며, 서로 얽힌 여러 업무 과정을 함께 다룰 수 있도록 지원하는 목표에서 출발했다. 여기에는 기업의 업무 과정을 디지털화하고 문제 지점을 이해하며, 일이 더 잘 진행되도록 절차를 재설계하는 활동이 포함된다. 의사결정 지능은 이러한 과정의 개별 단계에 에이전트를 연결해, 이전에 전문가나 직원이 맡던 역할을 지원하도록 하는 방향으로 제시된다. 따라서 Celonis가 제공한다는 맥락의 핵심은 조직의 절차에 대한 이해와 역할별 에이전트를 결합하는 것이며, 이 답변에서 디지털 트윈의 세부 구현 방식까지 설명되지는 않는다.

5. 기록 시스템과 에이전트를 잇는 맥락 계층

Shah는 맥락 계층 아래에 업무 흐름 도구와 그 도구들이 생성하는 이벤트 로그 등 기록 시스템이 있고, 위에는 정보를 활용하는 업무 전문가나 에이전트가 있다고 설명한다. Celonis의 맥락 모델은 우선 아래 계층을 적절하게 추상화해, 업무 과정에서 어떤 부분을 에이전트에 맡길 수 있는지 드러내도록 설계됐다는 것이다. 두 번째 기능은 각 부분에 필요한 역할별 에이전트를 구조화된 가드레일 안에서 연결하는 것이며, 세 번째는 다른 에이전트 기반 인프라와 자연스럽게 소통할 수 있도록 하는 것이다. 이렇게 만들어진 출력은 사람이나 전문가가 검토하고 승인할 수 있으며, 경우에 따라 자동화로 이어질 수 있다고 그는 말한다. 이 구조에서 맥락 계층은 기존 업무 데이터와 에이전트 사이를 연결하는 동시에, 사람의 판단과 승인이 들어갈 수 있는 경로를 제공하는 것으로 제시된다.

6. 데이터의 완전성보다 도입 과정의 신뢰 확인

조직에 AI가 요구하는 맥락을 제공할 데이터가 충분히 갖춰져 있는지에 대한 질문에, Shah는 기존 기록 시스템과 업무 흐름 도구가 이미 존재한다는 점을 강조한다. 그는 데이터가 완전하거나 가장 깨끗하게 정리된 상태일 필요는 없으며, Celonis의 맥락 모델과 에이전트 기반 구조가 기존 시스템에 연결해 그 내용을 이해하도록 설계됐다고 주장한다. 또한 맥락 계층 위쪽은 Celonis의 인프라가 상당 부분 통제하므로 크게 복잡하지 않다고 설명하지만, 구체적인 구현 결과나 검증 수치는 제시하지 않는다. 그가 주요 도입 단계로 꼽는 것은 기업이 기록 시스템이나 업무 도구, 이벤트 로그를 외부 소프트웨어에 연결할 때 거치는 전통적인 정보보안 검토다. 즉 공급업체의 소프트웨어를 조직 안에서 신뢰할 수 있는지 확인하는 과정이 필요하다는 설명이며, 제공된 대담 전문은 이 논의 뒤 진행자의 발언 도중 끝난다.

7. 구체적인 의사결정에서 시험하고 확장 판단

기사 앞부분에서 Shah가 제안하는 실행 방식은 특정 업무 의사결정을 먼저 선택하고, 그 안에서 가장 어려운 단계를 찾아 AI가 개선할 수 있는지 시험하는 것이다. 이는 앞서 설명한 역할과 작업의 관점을 실제 도입에 적용하는 접근으로, 전체 의사결정 중 어느 부분에서 에이전트가 도움을 줄 수 있는지 살펴보도록 한다. 시험 이후에는 속도와 가치의 개선을 측정해 해당 활용을 확장할 만한지 판단해야 한다는 제안이 이어진다. 맥락 계층은 이 과정에서 에이전트가 업무 흐름을 이해하고 정해진 가드레일 안에서 움직이며, 사람이 검토하고 승인할 수 있는 추천을 생성하도록 돕는 수단으로 제시된다. 다만 원문은 구체적인 성과 수치나 확장 기준을 제시하지 않으므로, 이 접근이 어느 정도의 개선을 보장한다고 해석할 수는 없다.

8. 직원의 판단 역량과 전사 계획으로의 확장

기사에서는 반복적인 수작업을 자동화하고 팀 사이의 작업을 조율하면 직원들이 더 복잡한 전략적 판단에 시간을 쓸 수 있다는 가능성을 제시한다. 그러나 그 효과를 실현하려면 직원들이 AI의 출력과 그 영향을 이해하도록 교육에 투자해야 하며, 단순히 판단을 에이전트에 넘기는 데 그쳐서는 안 된다는 설명이 함께 나온다. Shah는 장기적으로 일상적인 운영 작업을 넘어 재무, 인력 관리, 마케팅, 영업 등 전사적인 계획 수립에도 활용 기회가 있다고 본다. 적절한 맥락을 갖춘 AI가 선택지를 평가하는 일을 도와 중요한 의사결정과 자원 계획에 드는 시간을 줄일 수 있다는 전망이다. 이러한 설명은 맥락 연결과 직원의 이해를 전제로 한 기대이며, 해당 분야에서 이미 성과가 입증됐다는 결과나 정량적인 근거가 원문에 제시된 것은 아니다.

🧾 핵심 주장 / 시사점

• 이 글의 관점에서 기업 AI의 실용성은 모델의 일반적인 능력뿐 아니라, 개별 작업을 실제 업무의 역할·제약·관계에 얼마나 잘 연결하느냐에 달려 있다.
• 맥락 계층은 에이전트의 정보 접근을 돕는 기능과 가드레일·사람의 검토를 연결하는 기능을 함께 맡는다. 따라서 활용 속도와 판단 통제를 함께 고려하는 구조로 이해할 수 있다.
• 후원 콘텐츠에서 제시된 Celonis의 설계 설명과 미래 전망은 도입 방향을 보여 주지만, 실제 확장 판단에는 원문이 제안한 속도와 가치의 측정이 필요하다.

✅ 액션 아이템

• 구체적인 업무 의사결정의 어려운 단계에 AI를 시험 적용하고, 속도와 가치의 개선을 근거로 확장 여부 판단.
• Celonis의 맥락 계층을 활용할 때 역할별 에이전트의 가드레일과 사람의 검토·승인 경로를 살피고, 공급업체 소프트웨어에 대한 정보보안 검토 수행.
• 반복적인 수작업의 자동화와 함께 AI 출력과 그 영향을 이해하기 위한 직원 교육 추진.

❓ 열린 질문

• 구체적인 업무 의사결정에서 AI 확장을 정당화할 속도와 가치의 개선 수준은 어떻게 정할 것인가?
• 기존 데이터가 완전하지 않은 상황에서 Celonis의 맥락 계층이 중요한 업무 제약을 제대로 반영하는지 어떻게 확인할 것인가?
• 직원 교육이 AI 출력과 그 영향에 대한 이해를 높이고 복잡한 전략적 판단에 기여하는지 어떻게 평가할 것인가?