🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Mobileye는 온프레미스 티켓 시스템과 클라우드 기반 인공지능 에이전트를 연결해 반복 문의의 66%를 자동화하고, 응답 시간을 약 1분으로 단축한 뒤 이를 전사 에이전트 배포 플랫폼으로 확장했다.

📌 핵심 요약

• Mobileye의 데이터 수집 처리 파이프라인이 매일 수천 건의 주행 기록 세션을 처리하면서 지원 티켓의 66%가 반복적인 상태 확인 문의로 채워졌고, 엔지니어는 답변 한 건을 작성하기 위해 여러 백엔드 시스템에서 15차례의 클릭과 수동 검증을 수행해야 했다.
• 개념 검증 단계의 인공지능 지원 에이전트는 내부 대규모 언어 모델 게이트웨이를 통해 Anthropic Claude를 사용하고, 모델 컨텍스트 프로토콜로 실제 처리 상태·로그·진단 정보를 조회해 95% 정확도와 2분 이내 응답을 목표로 했다.
• 운영 환경에서는 온프레미스의 로컬 오케스트레이터가 티켓 입출력을 담당하고, Amazon Bedrock AgentCore Runtime의 에이전트가 분류·실시간 데이터 조회·답변 생성을 수행하는 하이브리드 구조를 채택했다.
• 운영 결과 전체 성공률은 목표를 웃도는 98%를 기록했고, 수시간이 걸리던 응답은 약 1분으로 90% 단축됐으며, 전체 티켓의 66%와 월 100건 이상의 티켓이 자동 처리됐다.
• Mobileye는 단일 지원 에이전트의 성과를 바탕으로 개발자가 클라우드 자격 증명이나 인프라 전문 지식 없이도 보안·관측·비용 관리 기준을 갖춘 에이전트를 배포할 수 있는 사내 관리형 플랫폼을 구축했다.

🧩 주요 포인트

1. 반복 상태 문의가 전체 티켓의 3분의 2를 차지했다는 사실은 숙련 엔지니어의 시간을 복잡한 장애 해결로 되돌리는 것이 자동화의 핵심 가치였음을 보여준다.
2. 실시간 운영 데이터에 접근하는 모델 컨텍스트 프로토콜과 관리형 실행 환경의 결합은 단순 분류를 넘어 오류 진단, 로그 연결, 후속 조치 안내까지 자동화하는 기반이 됐다.
3. 클라우드 권한과 인프라 프로비저닝을 중앙 조직이 흡수한 사내 플랫폼은 검증된 단일 에이전트를 전사적으로 재사용 가능한 배포 체계로 전환했다.

🧠 상세 정리

1. 데이터 처리 확대가 만든 지원 병목

Mobileye는 전 세계 약 1,200개 차량 모델에 2억3천만 개 이상의 EyeQ 시스템온칩을 공급한 자율주행 기술 기업으로, 데이터 수집 처리 파이프라인을 통해 매일 수천 건의 주행 기록 세션을 처리한다. 처리 규모가 커지면서 엔지니어와 데이터 팀이 세션 진행 상태를 묻는 내부 지원 요청도 지속적으로 발생했고, 전체 지원 티켓의 66%가 반복적인 상태 확인 문의가 됐다. 기존에는 지원 엔지니어가 세션을 식별하고, 시각화 도구의 정보를 대조하고, 처리 결과를 검증하고, 로그를 검토한 뒤 답변을 작성해야 했으며 이 과정에는 여러 시스템을 오가는 15차례의 클릭이 필요했다. 이 수작업은 숙련 엔지니어를 복잡한 문제 해결에서 반복 조회 업무로 이동시키고, 문의한 내부 사용자에게도 긴 대기 시간을 발생시키는 운영 병목으로 작용했다.

2. 규칙 기반 자동화의 한계와 개념 검증

Mobileye는 먼저 스크립트, 정적 워크플로, 규칙 기반 의사결정 트리와 같은 전통적인 자동화 방식을 검토했지만, 실제 지원 요청에 나타나는 다양한 표현과 상황을 해석하기에는 부족하다고 판단했다. 이런 방식은 예상 가능한 질의에는 대응할 수 있었으나, 문의의 맥락을 파악하고 서로 다른 요청 패턴에 맞춰 조사 절차를 바꾸는 능력이 없었다. 이에 팀은 문맥을 이해하고 다양한 문의에 적응하는 인공지능 에이전트를 구축했으며, 운영 전 개념 검증의 목표를 티켓 분류 정확도 95%와 응답 시간 2분 이내로 설정했다. 개념 검증은 단순히 문의 유형을 나누는 데 그치지 않고, 에이전트가 실제 운영 데이터를 조사해 사람의 개입 없이 완성된 답변을 제공할 수 있는지 확인하는 단계로 진행됐다.

3. 실시간 조사 기능을 갖춘 지원 에이전트

에이전트는 Mobileye의 내부 대규모 언어 모델 게이트웨이를 통해 Anthropic Claude 기반 모델을 사용했으며, 이 게이트웨이는 Amazon Bedrock의 기반 모델에 대한 통제된 접근과 사용량 한도 관리를 제공했다. 핵심 연결 수단은 모델 컨텍스트 프로토콜로, 에이전트가 추론 중 데이터 처리 플랫폼의 응용 프로그램 인터페이스를 호출해 세션 상태, 처리 로그, 진단 정보를 실시간으로 가져올 수 있게 했다. 완료된 세션에는 접근 정보를 포함해 상태를 확인해 주고, 실패한 세션에는 구체적인 오류와 디버깅 권고 및 로그 링크를 제시하며, 요청 자체가 누락된 경우에는 제출 절차를 안내했다. 이를 통해 에이전트는 티켓을 단순 분류하는 도구가 아니라 기존에 엔지니어가 여러 시스템을 확인해 해결하던 문의를 2분 이내에 처리하는 지능형 조사자로 기능했다.

4. 운영 플랫폼 선정 기준

개념 검증 이후 Mobileye는 확인된 유연성을 유지하면서도 기업 수준의 보안, 거버넌스, 관측 가능성을 충족할 운영 환경이 필요했다. 팀은 기업 워크로드를 위한 서버리스 인프라, 문의 해결 시간 단축, 내장 관측 기능, 여러 에이전트 프레임워크 지원, 기존 온프레미스 티켓 시스템과의 하이브리드 연동이라는 다섯 가지 기준을 바탕으로 Amazon Bedrock AgentCore를 선택했다. 특히 내부 티켓 시스템은 온프레미스에서 실행되며 AWS에서 직접 접근할 수 없었기 때문에, 로컬 시스템의 접근 경계를 유지하면서 클라우드의 에이전트를 호출할 수 있는 구조가 필수였다. AgentCore의 관리형 런타임은 서버 프로비저닝과 확장 관리를 제거하고 단일 응용 프로그램 인터페이스 호출로 에이전트를 실행할 수 있어 기존 시스템과의 통합 방식을 단순화했다.

5. 온프레미스와 클라우드를 잇는 운영 구조

운영 아키텍처는 온프레미스와 AWS 클라우드에 각 구성 요소의 책임을 명확하게 분리한 하이브리드 형태로 설계됐다. 온프레미스의 로컬 오케스트레이터는 내부 티켓 시스템에서 새 티켓을 추출해 에이전트로 보내고, 생성된 답변을 다시 받아 원래 티켓에 댓글과 레이블로 기록하며, 티켓 시스템은 요청의 출처이자 결과의 최종 목적지로 유지됐다. 클라우드에서는 AgentCore Runtime이 인공지능 지원 에이전트를 서버리스 방식으로 실행하고 지원량 변화에 따라 자동으로 확장했으며, AgentCore Observability가 최초 요청부터 모델 컨텍스트 프로토콜 도구 호출과 최종 응답까지 전체 흐름을 추적했다. Mobileye의 데이터 파이프라인용 프로토콜 서버는 실시간 처리 상태와 오류를 제공하고, 내부 대규모 언어 모델 게이트웨이는 기반 모델 접근을 통제함으로써 로컬 업무 시스템과 클라우드 인공지능 처리를 연결했다.

6. 자동 처리 흐름과 운영 통제

처리 과정은 로컬 오케스트레이터가 새 티켓을 추출해 AgentCore Runtime의 인공지능 지원 에이전트로 전송하는 단계에서 시작한다. 에이전트는 문의를 분류한 뒤 모델 컨텍스트 프로토콜 서버를 통해 실제 세션 데이터를 조회하고, 내부 대규모 언어 모델 게이트웨이를 통해 Claude에 접근해 링크, 권고 사항, 실행 가능한 후속 조치를 포함한 형식화된 답변을 생성한다. 로컬 오케스트레이터는 완성된 답변을 받아 내부 티켓 시스템에 적절한 댓글과 레이블로 게시하며, 이 과정에서 사용자가 별도로 사람의 지원을 기다릴 필요가 없도록 했다. AgentCore Observability는 세션 지표, 지연 시간, 토큰 사용량, 실행 추적을 기록해 조사 과정과 오류 지점을 확인하게 했고, AWS Secrets Manager는 자격 증명의 저장·교체·프로그램 방식 조회를 담당해 에이전트를 호출하는 팀이 비밀 정보를 직접 취급하지 않도록 했다.

7. 측정된 운영 성과와 업무 변화

운영 배포 이후 인공지능 지원 에이전트의 전체 성공률은 초기 목표인 95%를 넘어 98%를 기록했다. 기존에 수시간이 걸리던 응답 시간은 약 1분으로 줄어 90% 개선됐고, 반복 상태 문의에 해당하는 전체 티켓의 66%가 자동화됐으며 월간 처리량은 100건 이상이었다. AgentCore가 서버리스 실행, 자동 확장, 관측 기능을 제공한 덕분에 Mobileye 팀은 별도의 에이전트 실행 인프라를 직접 구축하거나 관리하지 않고도 서비스를 운영하고 반복 개선할 수 있었다. Mobileye는 이 시스템이 일상적인 티켓 조회에 쓰이던 엔지니어의 시간을 수백 시간 절감했으며, 지원 인력이 더 복잡하고 전문적인 문제에 집중할 수 있게 했다고 설명했다.

8. 단일 에이전트에서 전사 배포 플랫폼으로

지원 에이전트가 운영 성과를 내자 Mobileye는 조직 내 다른 개발팀도 AgentCore에 에이전트를 배포하려 했지만, 다수의 개발자에게 AWS 자격 증명이나 인프라 접근 권한이 없다는 새로운 제약을 확인했다. 이에 클라우드 인프라 팀은 개발자가 에이전트 코드를 제공하고 메모리, 브라우저 도구, 코드 인터프리터, 관측, 게이트웨이 등 필요한 기능만 지정하면 되는 사내 관리형 배포 서비스를 구축했다. 중앙 팀은 AWS IAM 역할, Amazon S3 저장소, Amazon CloudWatch 모니터링, Amazon Cognito 인증을 프로비저닝하고, 각 프로젝트에 바로 연결되는 사전 구성된 bedrock_agentcore.yaml 파일을 제공했으며 개발자는 agentcore deploy 단일 명령으로 배포할 수 있게 됐다. 이 체계는 보안, 비용 거버넌스, 운영 표준을 중앙에서 적용하고 코드 예외를 CloudWatch 경보로 감시함으로써, 수주가 걸리던 배포를 수분 단위의 전사적 에이전트 배포 과정으로 전환했다.

🧾 핵심 주장 / 시사점

• Mobileye 사례에서 자동화의 결정적 요소는 언어 모델만이 아니라, 에이전트가 실시간 처리 상태와 로그를 직접 조회하도록 만든 모델 컨텍스트 프로토콜 연결이었다.
• 온프레미스 오케스트레이터가 티켓 접근과 결과 기록을 맡고 클라우드 런타임이 추론과 조사를 담당한 역할 분리는 기존 시스템의 접근 제한을 유지하면서 관리형 인공지능 기능을 활용하게 했다.
• 검증된 에이전트의 실행 환경과 권한 구성을 중앙 플랫폼으로 표준화하면서, 초기의 단일 지원 업무 개선이 여러 팀이 재사용할 수 있는 보안·관측·비용 관리형 배포 역량으로 확대됐다.

✅ 액션 아이템

• 전체 티켓의 3분의 2를 차지하는 반복 상태 확인 문의부터 자동화 범위와 제외 기준을 정의한다.
• 모델 컨텍스트 프로토콜로 처리 상태·로그·진단 정보를 조회해 분류를 넘어 오류 진단과 후속 안내까지 자동화 범위를 점검한다.
• 온프레미스 오케스트레이터와 Bedrock AgentCore Runtime 하이브리드에서 티켓 입출력과 답변 생성 경계를 비교·고정한다.

❓ 열린 질문

• 반복 상태 문의 자동화에서 목표 95% 대비 운영 성공률 98%를 유지할 판단 기준은 무엇인가?
• 응답을 약 1분·90% 단축한 구조에서 수동 15클릭 검증을 남길 예외 티켓 유형은 어디인가?
• 단일 지원 에이전트를 보안·관측·비용 기준의 사내 배포 플랫폼으로 확장할 때 우선 재사용 범위는 어디까지인가?