How MRH Trowe enabled secure self-service AI agents in financial services

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

MRH Trowe는 Strands Agents, Amazon Bedrock AgentCore, LibreChat을 결합해 운영 첫 달 약 400명에게 중앙 통제와 독일 내 데이터 처리를 갖춘 셀프서비스 AI 에이전트를 제공했으며, 초기 인프라·토큰 비용은 사용자당 월 약 14달러였다.

📌 핵심 요약

• 독일의 상업·산업 보험 중개사 MRH Trowe는 부서별 AI 실험에 따른 도구 난립과 민감한 고객 데이터 노출 위험에 대응해, 직원이 깊은 기술 지식 없이 에이전트를 만들고 사용하는 중앙 관리 환경을 구축했다.
• Strands Agents는 에이전트의 추론과 오케스트레이션을, Amazon Bedrock AgentCore는 운영 실행과 세션 격리를, LibreChat은 사용자 인증·권한 관리, 토큰 예산, 여러 모델을 지원하는 채팅 인터페이스를 담당한다.
• 첫 운영 에이전트는 Microsoft Teams 회의의 일정과 녹취록을 찾아 구조화된 회의록을 작성한다. Microsoft Entra ID로 인증한 직원의 권한으로만 접근하며, 에이전트·모델·데이터는 AWS Europe (Frankfurt) 리전에서 처리된다.
• 운영 첫 달 약 400명이 접근할 수 있는 규모에 도달했고, 초기 인프라·토큰 비용은 사용자당 월 약 14달러였다. 자원 규모 조정과 예약된 스케일링으로 인프라 비용을 약 40% 줄일 수 있는 경로를 제시했으며, 실제 절감 달성으로 보고하지는 않았다.
• 후속 사례인 ‘talk to your data’는 CRM 데이터와 공개 정보를 결합한 교차판매·추가판매 분석을 지원한다. MRH Trowe는 부서별 활용 사례 워크숍과 이용 데이터를 바탕으로 파워 유저를 육성하고 유용한 업무 방식을 확산했다.

🧩 주요 포인트

1. 부서별 AI 도구 난립 위험 → 중앙 관리 환경 안에서 셀프서비스를 제공해 직원의 활용 자율성과 조직의 보안·비용 통제를 함께 추구한다.
2. 직원 권한 기반 접근·독일 내 처리·세션 격리 → 내부 데이터를 활용하는 다단계 업무에 필요한 접근 범위와 데이터 처리 경계를 여러 계층에서 제한한다.
3. 사용자당 월 약 14달러의 초기 비용과 인프라 비용 약 40% 절감 가능성 → 현재 운영 비용과 향후 최적화 여지를 구분해 평가하고, 활용 사례 확산과 함께 비용을 관리할 필요가 있다.

🧠 상세 정리

1. 클라우드 전략과 셀프서비스 AI의 필요성

MRH Trowe는 주로 독일·스위스·오스트리아에서 사업을 수행하는 오너 경영 상업·산업 보험 중개사로, 자체 성장과 인수를 통해 규모를 확대해 왔다. 독일 보험 중개사 가운데 비교적 일찍 전면적인 클라우드 기반 IT 인프라를 운영했으며, 이 전략의 우선 파트너로 AWS를 선택하고 내부 절차 간소화와 효율 향상을 위한 AI 활용을 기업의 전략적 목표로 삼았다. 직원들의 생성형 AI 수요가 늘면서 개별 부서가 자체 실험을 시작했지만, 이는 관리되지 않는 도구의 분산과 민감한 고객·보험 데이터의 노출 위험으로 이어질 수 있었다. 따라서 과제는 직원이 깊은 기술 지식 없이 에이전트를 빠르게 만들고 사용하도록 하면서도, 금융업의 데이터 보호 요구와 중앙 통제 및 비용 투명성을 함께 유지하는 것이었다.

2. 기본 채팅을 넘어서는 업무 요구

MRH Trowe가 원하는 AI는 일반적인 모델 지식에 답변을 의존하는 채팅을 넘어, 내부 데이터를 근거로 맥락에 맞는 답을 제공하고 실제 업무 절차를 수행하는 도구였다. 이를 위해 정보를 모으고 추론한 뒤 행동하는 다단계 작업, 내부 시스템과 문서 저장소에 대한 안전한 연결, 여러 부서의 사용을 하나로 관리하는 거버넌스가 필요했다. 조직은 모든 질문에 사람이 개입하기 전에 AI가 먼저 답하고, 반복 업무는 기존 수행자가 직접 자동화한다는 비전을 제시했으며, 이는 이미 달성한 결과가 아니라 지향점으로 설명된다. 기본 채팅 인터페이스만으로는 이러한 요구를 충족하기 어려웠기 때문에, 친숙한 사용자 화면과 내부 데이터에 접근하는 에이전트 실행 환경을 결합하는 방향으로 해결책을 구성했다.

3. 세 기술의 역할과 선택 근거

구축 담당자는 오픈 소스 SDK인 Strands Agents로 에이전트를 구현하며, SDK가 추론과 오케스트레이션 같은 에이전트 패턴을 처리해 개발용 노트북에서 운영 환경까지 이어지는 개발을 지원한다. Amazon Bedrock AgentCore는 다양한 프레임워크와 모델로 만든 에이전트를 운영하는 플랫폼으로, Strands Agents 지원과 컴퓨팅·파일시스템 수준의 세션 격리, 사용량 기반 과금이 MRH Trowe의 선택을 좌우했다. 이 조합은 개발 프레임워크의 유연성을 유지하면서 규제 대상 보험 중개사에 필요한 실행 환경의 분리와 비용 가시성을 확보하려는 목적에 부합했다. LibreChat은 친숙하고 브랜드에 맞게 조정할 수 있는 오픈 소스 채팅 화면을 제공하며, 사용자 인증·권한 관리와 토큰 예산, 여러 모델 선택, 대화 정리 기능으로 직원의 이용과 운영 통제를 뒷받침한다.

4. 첫 운영 사례: Microsoft Teams 회의록 작성

첫 운영 에이전트는 직원이 LibreChat에서 특정 참석자가 참여한 최근 회의를 독일어로 요청하면, 해당 직원의 일정에서 회의를 찾고 녹취록을 가져와 날짜·참석자·안건·논의 주제·후속 조치를 담은 회의록을 작성한다. 매번 통화 후 수동으로 기록하던 작업을 한 줄의 요청으로 시작할 수 있게 한 사례이며, 내부 자료 검색과 구조화된 결과 생성을 하나의 흐름으로 연결한다. LibreChat은 Microsoft Entra ID로 직원을 인증하고 서버 측에서 사용자 신원을 전달하므로, 에이전트는 그 직원 본인의 일정과 녹취록에만 접근하며 채팅 입력으로 신원을 지정할 수 없다. 에이전트·모델·데이터는 AWS Europe (Frankfurt) 리전인 eu-central-1에서 실행·처리되어 고객 및 회의 데이터를 독일에 유지하며, 원문은 서비스와 모델의 제공 여부가 AWS 리전마다 다르다고 덧붙인다.

5. 프라이빗 연결과 애플리케이션·데이터 구성

애플리케이션 솔루션은 단일 AWS 계정의 VPC 안에 배치되며, 직원은 기업 네트워크에서 트랜짓 게이트웨이와 제로 트러스트 제공업체를 결합한 비공개 전용 연결을 통해 접근하고 내부 Application Load Balancer가 요청을 전달한다. LibreChat, 문서 검색·생성 결합을 위한 RAG API, 데이터를 벡터화하지 않는 빠른 텍스트 검색용 MeiliSearch는 AWS Fargate를 사용하는 Amazon ECS의 컨테이너 서비스로 실행된다. 데이터 계층에서는 Amazon DocumentDB가 사용자·세션·대화 데이터를, Amazon ElastiCache가 캐시와 세션 상태를 담당하며, Amazon RDS for PostgreSQL은 업로드 문서를 다루는 RAG API의 관계형·벡터 저장소로 쓰인다. Amazon OpenSearch Service는 Confluence에서 수집한 콘텐츠를 Amazon Bedrock이 검색하도록 지원하는 벡터 저장소이고, Amazon EFS는 MeiliSearch 인덱스를, Amazon S3는 업로드 파일과 채팅 산출물을 저장한다.

6. 에이전트 연결과 요청 처리 흐름

Strands Agents로 만든 에이전트는 AgentCore runtime에서 실행되며, AWS Lambda와 Amazon API Gateway를 사용하는 사용자 정의 엔드포인트를 통해 LibreChat에 연결된다. 이 구조에서는 채팅 애플리케이션을 업데이트하거나 중단하지 않고 새 에이전트를 추가할 수 있어, 이용 확대에 맞춰 에이전트 애플리케이션을 독립적으로 배포할 수 있다. 직원이 LibreChat에서 에이전트를 선택하면 Microsoft Entra ID 인증과 관리자 화면의 접근 제어 목록을 통해 사용할 수 있는 엔드포인트와 모델을 결정한다. 호출은 API 키로 보호된 API Gateway 엔드포인트를 거치며, 엔드포인트가 지원할 경우 사용자를 대신하는 OBO 인증 흐름도 사용할 수 있다. 이후 Lambda가 IAM 역할로 에이전트를 호출하면, 에이전트는 격리된 세션 안에서 요청을 추론하고 도구 및 허용된 데이터 소스를 이용한 뒤 LibreChat으로 응답을 반환한다.

7. 규제 환경을 위한 계층별 통제

원문은 독일 금융업에서 데이터 보호와 거버넌스를 필수 조건으로 보고, 한 가지 보안 기능에 의존하지 않는 여러 계층의 통제 방식을 설명한다. 선택한 독일 리전 안에 민감한 고객·보험 데이터를 유지하고, 트랜짓 게이트웨이와 제로 트러스트 연결로 직원 트래픽이 공용 인터넷을 통과하지 않도록 하며, AgentCore runtime은 세션별 컴퓨팅 자원과 파일시스템을 격리한다. 인증과 권한에는 Active Directory 그룹 기반 역할, 통합 로그인과 제로 트러스트 접근 제어를 적용하고, 단일 관리 환경에서 AI 활용에 대한 조직의 가시성과 통제력을 확보한다. 이러한 기반 위에서 직원의 탐색과 활용을 장려한다는 것이 사례의 핵심 주장이며, 원문은 이를 규제 금융기관의 요구를 충족하는 환경으로 설명하지만 별도의 감사 결과나 규정별 검증 내역을 제시하지는 않는다.

8. 초기 성과와 활용 확산

MRH Trowe는 운영 첫 달 약 400명의 직원에게 안전한 셀프서비스 AI 접근을 제공하는 규모에 도달했으며, 초기 인프라와 토큰을 합친 비용은 사용자당 월 약 14달러로 보고했다. 자원 규모를 적정하게 조정하고 예약된 스케일링을 적용하면 인프라 비용을 약 40% 줄일 수 있는 경로가 있다고 설명하지만, 이는 이미 실현된 절감률이나 전체 비용의 절감률로 제시된 수치는 아니다. 최근 활용 사례인 ‘talk to your data’는 CRM 데이터와 공개 정보를 결합해 교차판매와 추가판매 검토 같은 현업 주도의 분석을 지원한다. 조직은 부서별 활용 사례 워크숍으로 파워 유저 그룹을 만들고 유지하며, 이용 데이터에서 적극적인 사용자를 찾아 이들의 업무 방식을 확산하는 변화 관리도 병행했다. 사례가 강조하는 성과는 비용뿐 아니라 깊은 기술 지식 없이 에이전트를 만들고 사용하는 접근성과 중앙 통제의 결합이며, 제공된 원문은 결론의 마지막 부분이 잘려 있어 그 이후 내용은 확인할 수 없다.

🧾 핵심 주장 / 시사점

• 셀프서비스 AI의 확대는 중앙 통제와 양립할 수 있으며, 이 사례에서는 친숙한 LibreChat 화면과 권한·실행·데이터 처리 통제를 결합하는 방식으로 구현됐다.
• Microsoft Teams 회의록 사례는 내부 자료 접근을 직원 권한에 묶고 독일 내 처리와 세션 격리를 함께 적용하면서 다단계 업무를 자동화한 구체적 예다.
• 초기 사용자당 비용, 인프라 최적화 가능성, 파워 유저를 통한 업무 방식 확산을 함께 제시하지만, 장기적인 비용 추이와 정량적인 생산성 개선 효과는 제공되지 않는다.

✅ 액션 아이템

• MRH Trowe의 중앙 관리 환경을 기준으로 셀프서비스 AI에 필요한 직원 자율성과 보안·비용 통제의 균형 검토.
• Microsoft Teams 회의록 자동화의 직원 권한 기반 접근, 독일 내 처리, 세션 격리를 내부 데이터 활용 업무의 적용 조건으로 검토.
• 사용자당 월 약 14달러의 초기 비용과 인프라 비용 약 40% 절감 가능성을 구분해 활용 확대에 따른 비용 평가.

❓ 열린 질문

• 운영 첫 달 약 400명에게 제공된 셀프서비스 AI의 이용이 확대되면 사용자당 월 약 14달러의 비용은 어떻게 달라지는가?
• 인프라 비용 약 40% 절감 가능성을 실현하는 자원 규모 조정과 예약된 스케일링은 어떤 운영 조건을 전제로 하는가?
• ‘talk to your data’의 CRM 데이터와 공개 정보 결합에는 직원 권한 기반 접근과 중앙 통제가 어떻게 적용되는가?