Natera’s intelligent appointment scheduling with Amazon Bedrock AgentCore

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Natera는 Amazon Bedrock AgentCore 기반 음성 예약 에이전트에 이중 WebSocket 연결, 이벤트 기반 지연 완화, 점진적 인증을 적용해 방문 채혈 예약 경험과 운영 효율을 개선했다.

📌 핵심 요약

• Natera의 방문 채혈 예약은 환자가 인증 후 희망 날짜 3개와 서비스 장소를 제시하고, 담당 팀이 채혈 담당자 및 공급업체와 조율해 확정하는 업무다.
• Natera는 맞춤형 공급업체 조율과 전화 연결의 유연성을 확보하기 위해 Amazon Bedrock AgentCore를 선택하고, 기존 Amazon ECS 기반 실행 환경과 컨테이너 내부 세션 상태를 AgentCore runtime 및 memory로 이전했다.
• 에이전트는 Twilio와 실시간 음성 처리 서비스에 각각 WebSocket으로 연결되며, 도구 호출을 중개하고 문맥에 맞는 중간 응답을 병렬 생성한다. 인증 수준이 높아지면 민감한 정보와 메모리 접근 권한도 단계적으로 확대한다.
• 지연 완화 시점은 2주간의 도구별 지연 기록에서 구한 P50보다 1초 앞서도록 설정했다. 원문에 제시된 중간 응답 생성 시작 시점은 인증 도구 1.5초, 예약 도구 3.0초다.
• 원문은 전체 통화 시뮬레이션 500건의 검증에서 도구 호출 정확도 100%, 체감 지연 7초 미만, 완료된 통화당 비용 0.01달러 미만을 제시한다. 동시에 이중 연결, 병렬 응답 생성, 점진적 메모리 세션 관리가 오케스트레이션 복잡성을 높인다고 설명한다.

🧩 주요 포인트

1. 맞춤형 공급업체 조율과 전화 연결 요구 → 사전 구축된 표준 예약 기능을 넘어서는 AgentCore 기반 구성 선택.
2. 음성 연결 분리와 도구별 지연 측정 → 통신·모델 구성 요소의 독립적 교체와 대기 중 대화 흐름 유지 지원.
3. 세션 상태 외부화와 점진적 인증 → 대화 연속성과 단계적 정보 접근을 지원하되, 상태 관리 복잡성과 검증 결과의 적용 범위 확인 필요.

🧠 상세 정리

1. 방문 채혈 예약의 업무 특성과 개선 배경

세포유리 DNA 검사 전문 진단 기업인 Natera는 치료를 받고 있는 종양 환자가 병원을 방문하지 않고 집에서 채혈받을 수 있도록 방문 서비스를 제공한다. 기존 예약 절차에서는 환자가 전화로 인증을 마친 뒤 희망 날짜 세 개와 서비스 장소를 전달하고, 사람으로 구성된 예약 담당 팀이 채혈 담당자 및 공급업체와 조율해 한 일정을 확정한다. 이 과정에는 개인 식별 정보와 문자 인증 코드 확인, 여러 외부 공급업체의 예약 가능 시간 조회, 복잡한 상황에 대한 대체 처리 경로가 필요하다. 기존 시스템은 외부 AI 제공업체의 음성 상호작용 및 오케스트레이션 기능을 Twilio 전화 연결과 Amazon ECS 컨테이너에 결합한 형태였다. Natera는 이 시스템의 정확성, 확장성, 대화 참여 경험을 개선하면서 의료 환경에서 요구되는 정확성과 규정 준수 기준을 유지하고자 했다.

2. 맞춤형 요구에 따른 AgentCore 선택

원문은 Epic이나 Cerner를 사용하는 표준 예약 업무라면 Amazon Connect Health의 사전 구축된 환자 참여 에이전트로 인증과 예약을 처리할 수 있다고 설명한다. 그러나 Natera에는 맞춤형 공급업체 조율과 전화 연결의 유연성이 필요했고, 이는 원문에서 설명하는 기존 사전 구축 솔루션의 지원 범위를 넘어섰다. Natera는 컨테이너 인프라와 확장 설정을 직접 관리하는 부담을 줄이면서 자율형 AI 에이전트로 고객 요청을 대규모 처리하기 위해 Amazon Bedrock AgentCore를 선택했다. 또한 Amazon Bedrock의 빠른 기반 모델로 처리 중 문맥에 맞는 중간 응답을 생성해 자연스러운 대화를 유지하고자 했다. 내장 메모리는 이전 환자 활동을 저장해 개인화된 선제적 지원을 가능하게 하는 기능으로 소개된다.

3. 세 가지 설계 원칙과 복잡성의 대가

전체 설계는 이중 WebSocket 연결, 이벤트 기반 지연 완화, 점진적 신뢰 모델이라는 세 가지 원칙을 따른다. 이중 WebSocket 구조는 전화 서비스와 기반 모델 사이에 오케스트레이션 계층을 두어 두 연결을 별도로 유지하고, 어느 한쪽을 바꾸더라도 전체 시스템을 다시 설계할 필요를 줄인다. 이벤트 기반 지연 완화는 도구가 실행되는 동안 문맥에 맞는 중간 응답을 병렬 생성해 환자가 침묵 대신 자연스러운 안내를 듣도록 한다. 점진적 신뢰 모델은 낮은 신뢰 수준의 상호작용으로 시작한 뒤 환자 인증이 진행됨에 따라 민감한 정보와 메모리 접근을 단계적으로 허용한다. 다만 두 연결의 동시 유지, 병렬 응답 생성, 점진적 메모리 세션에는 세심한 상태 관리가 필요하며, 원문은 단일 질의응답이나 텍스트 전용 에이전트처럼 단순한 경우 직접 통합으로 부담을 줄일 수 있다고 설명한다.

4. Amazon ECS에서 관리형 실행 환경으로 이전

Natera는 Amazon ECS에서 실행하던 워크로드를 전용 CPU, 메모리, 파일시스템 자원을 갖춘 격리된 마이크로 가상 머신에 에이전트를 호스팅하는 AgentCore runtime으로 이전했다. 먼저 상태 확인 엔드포인트, 확장 정책, 배포 명세처럼 컨테이너에 종속된 인프라 코드에서 음성 오케스트레이션 로직을 분리했다. 이후 HTTP 서버 초기화 방식을 AgentCore 핸들러 패턴으로 바꾸어 에이전트의 진입점이 새로운 호출 인터페이스에 맞도록 수정했다. 세션 상태도 컨테이너 내부 저장소에서 AgentCore memory로 옮겨 별도 상태 저장소를 관리하지 않고 세션 간 지속성을 확보했다. 원문은 이 전환이 컨테이너 확장, 상태 확인, 배포 파이프라인 관리에 따른 운영 부담을 제거했다고 설명한다.

5. WebSocket 수명과 세션 연속성 해결

이전 과정의 첫 번째 핵심 문제는 오래 유지되는 WebSocket 연결을 AgentCore runtime의 실행 모델에 맞추는 일이었다. 계속 실행될 수 있는 Amazon ECS 작업과 달리 AgentCore의 마이크로 가상 머신은 호출 범위에 묶이므로, 팀은 에이전트 실행 문맥 안에 연결 풀링을 구현해 한 통화가 이어지는 동안 WebSocket 세션을 유지했다. 두 번째 문제는 대화 상태의 연속성으로, 기존에는 상태가 컨테이너 내부 메모리에 있어 재시작하면 사라졌다. AgentCore memory로 옮기면서 상태를 외부화하고 행위자 식별자를 키로 사용하도록 상태 모델을 다시 설계했다. 이 변경은 신뢰성을 개선했지만, 상태를 읽고 쓰는 모든 경로를 리팩터링해야 했다는 점에서 단순한 실행 환경 교체 이상의 작업을 요구했다.

6. 전화 연결부터 도구 실행까지의 요청 흐름

환자가 예약 전화번호로 전화를 걸면 Twilio가 AgentCore runtime에서 실행되는 에이전트와 양방향 WebSocket 연결을 맺는다. 동시에 에이전트는 실시간 음성 처리 API에 두 번째 WebSocket 연결을 열어 두 서비스 사이에 실시간 오디오 연결 경로를 만든다. 수신 방향에서는 Twilio가 환자의 음성 데이터를 음성 처리 서비스로 전달해 의도를 인식하도록 하고, 송신 방향에서는 해당 서비스가 생성한 음성 응답이 에이전트와 Twilio를 거쳐 환자의 전화로 전달된다. 에이전트는 두 채널 사이에서 음성 처리 서비스의 도구 호출 요청을 받아 업무 로직을 실행한 뒤 그 결과를 대화 문맥에 다시 넣는다. 따라서 이 계층은 오디오 전달과 함께 예약 업무에 필요한 도구 실행을 대화 흐름에 연결하는 역할을 맡는다.

7. 관측 데이터로 조정하는 중간 응답 생성

에이전트는 음성 처리 서비스의 WebSocket 스트림에서 도구 호출 이벤트를 감시하고, 호출이 시작되면 해당 도구의 예상 실행 시간에 맞춘 중간 응답 생성 루프를 활성화한다. 팀은 대표적인 통화 트래픽을 대상으로 2주 동안 AgentCore runtime의 추적 내보내기 기능을 이용해 도구별 지연 이벤트를 Amazon CloudWatch Logs에 모았다. 이후 각 도구의 지연 분포에서 P50인 중앙값을 구하고, 여기서 1초를 뺀 시점을 응답 생성 시작점으로 정해 Claude Haiku 요청과 응답 삽입에 필요한 시간을 확보했다. 원문에 제시된 시작점은 인증 1.5초와 예약 3.0초이며, 새 도구 호출이 시작될 때 도구별 표에서 해당 값을 조회한다. 이 방식은 개별 구성 요소의 실행 속도만 줄이는 대신 실제 측정값에 맞춰 안내 발화를 준비함으로써 환자가 느끼는 대기 시간을 다룬다.

8. 검증 성과와 제공된 설명의 범위

원문은 전체 통화 시뮬레이션 500건을 통한 검증에서 도구 호출 정확도 100%, 체감 지연 7초 미만, 완료된 통화당 비용 0.01달러 미만을 달성했다고 제시한다. 이 수치는 원문이 보고한 검증 결과이며, 제공된 본문에는 정확도 판정 기준이나 비용에 포함된 항목의 상세 설명이 없다. 운영 가시성 측면에서는 AgentCore가 도구 호출, 단계별 소요 시간, 모델의 판단을 추적해 세션 전체를 살펴보고 모델 추론·도구 실행·메모리 검색 중 지연이 발생한 위치를 확인할 수 있다고 설명한다. 제공된 본문은 중간 응답 생성 프롬프트에서 실행 중인 도구 이름, 환자의 마지막 발화, 현재 업무 단계를 입력으로 제시하다가 끊긴다. 따라서 이후의 세부 인증 구현이나 최종 예약 확정 절차는 제공된 내용만으로 추가 설명할 수 없다.

🧾 핵심 주장 / 시사점

• Natera의 선택은 표준 예약 기능의 유무보다 맞춤형 공급업체 조율과 전화 연결 요구가 아키텍처 결정에 중요하게 작용한 사례다.
• 도구별 P50을 기준으로 중간 응답 생성 시점을 조정하는 방식은 실제 처리 시간과 환자가 느끼는 대기 시간을 구분해 설계한다는 의미가 있다.
• 관리형 실행 환경으로의 전환은 인프라 운영 부담을 줄이지만, 장기 연결과 세션 상태의 수명에 맞춘 애플리케이션 재설계를 함께 요구했다.

✅ 액션 아이템

• 맞춤형 공급업체 조율과 전화 연결 요구를 기준으로 AgentCore 기반 구성의 적합성 검토.
• 도구별 지연 기록의 P50과 중간 응답 생성 시점을 비교해 이벤트 기반 지연 완화 방식의 적용 가능성 평가.
• 세션 상태 외부화와 점진적 인증에 필요한 상태 관리 복잡성을 검토하고, 전체 통화 시뮬레이션 500건의 검증 결과가 적용되는 범위 확인.

❓ 열린 질문

• Natera의 맞춤형 공급업체 조율과 전화 연결 요구 중 AgentCore 선택에 가장 크게 작용한 제약은 무엇인가?
• 도구별 지연 기록의 P50이 변하면 인증 도구 1.5초와 예약 도구 3.0초의 중간 응답 생성 시작 시점을 어떻게 조정하는가?
• 전체 통화 시뮬레이션 500건에서 확인한 도구 호출 정확도 100%, 체감 지연 7초 미만, 완료된 통화당 비용 0.01달러 미만은 어떤 검증 조건에 해당하는가?