How Included Health Built Federated Healthcare Agents with LangGraph and Deep Agents

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Included Health는 LangGraph와 Deep Agents 기반의 연합형 의료 안내 에이전트 Dot을 구축해 서비스 간 맥락 유지와 인간 상담 연계를 구현했으며, 초기 성과로 채팅 참여도 75% 상승과 임상 검토·감사에서 높은 안내 정확도 및 고위험 상황 탐지율을 보고했다.

📌 핵심 요약

• Included Health의 Dot은 의료·비용·행정 질문과 진료 연결을 지원하며, 정해진 의사결정 트리 대신 회원의 건강 맥락과 모호한 요구를 파악하고 잠재적 응급 상황을 첫 대화부터 인식하도록 설계됐다.
• LangGraph의 Dot supergraph 아래에서 제품팀별 서비스 워크플로를 구성하고, Deep Agents의 공통 프롬프트·파일시스템·맥락 관리와 공유 보험 보장 하위 에이전트로 말투와 대화 이력, 기능의 일관성을 확보했다.
• 서비스별 적합성·제약·예외를 기술한 스킬을 필요에 따라 불러오며, 고용주 플랜당 20~30개의 외부 복지 혜택도 스킬로 표현하는 작업을 추진 중이다. LangGraph는 인간 상담 중 실행을 일시 중지하고 상담 내용을 포함한 맥락으로 재개하며, 인간 상담과 병행하는 에이전트 조사 기능은 향후 구상이다.
• 현재 모든 대화는 LangSmith의 임상 검토 대기열에 들어가며, 안내 적절성과 응급 안전장치 작동 여부를 평가한다. LangChain의 다중 턴 사용자 시뮬레이션 평가를 통해 4개 제품팀에 걸친 Deep Agents 전환을 2주 미만에 완료했고, 유의미한 성능 퇴행은 없었다고 밝혔다.
• Dot은 8월 고객사에 출시됐다. 초기 지표로 채팅 참여도 75% 상승, 임상의가 평가한 대화에서 진료 추천 일치율 목표 95%를 크게 웃도는 결과, 정기 임상 감사로 검증한 고위험 상황 탐지율 99% 초과를 보고했다.

🧩 주요 포인트

1. 회원의 질문과 실제 의료적 필요가 다를 수 있음 → Dot의 핵심 역할은 단순 답변을 넘어 맥락에 맞는 진료 경로와 긴급성을 판단하는 데 있음.
2. 제품팀별 워크플로에 공통 맥락·말투·보험 보장 기능을 결합함 → LangGraph와 Deep Agents는 서비스의 독립적 개발과 일관된 회원 경험을 함께 지원함.
3. 인간 상담 연계·전수 임상 검토·다중 턴 평가를 운영에 포함함 → 초기 성과와 변경 안정성을 뒷받침하지만, 보고된 임상 지표는 평가·감사의 범위에서 해석하고 추진 중인 기능은 현재 성과와 구분할 필요가 있음.

🧠 상세 정리

1. 정해진 탐색 경로로 다루기 어려운 의료 요구

Included Health는 고용주 및 건강보험 플랜과 협력해 직원과 가입자에게 가상 일차 진료, 행동건강, 긴급 진료, 전문 진료 등으로의 연결을 제공하는 통합 의료 플랫폼이며, Dot은 의료·비용·행정 질문에 답하는 AI 안내자다. 의료에서는 회원이 처음 묻는 내용과 실제로 필요한 도움이 다를 수 있어, 동맥 플라크 검사에 보험이 적용되는지 묻는 질문도 추가 대화를 거치면 높은 콜레스테롤과 심장병 가족력이라는 맥락으로 이어질 수 있다. 이때 적절한 응답은 비용을 알려주는 데 더해 일차 진료 의사와의 상담을 권하는 것이 될 수 있다. 기존의 구조화된 탐색 트리는 복잡한 요구를 사전 정의된 결정으로 단순화해 소프트웨어가 처리하게 했지만, 회원에게는 경직된 경험을 제공했다. 특히 가슴 통증처럼 잠재적 응급 상황을 시사하는 발언은 여러 차례 확인 질문을 거친 뒤가 아니라 첫 대화에서 인식해야 한다.

2. 개인별 맥락을 반영하는 안내와 Dot supergraph

원문은 기술이 규모를 확장하기 위해 복잡한 인간 상황을 평균적인 사례에 맞춰 표준화해 왔으며, 개인의 맥락이 중요한 의료에서는 그 대가가 특히 크다고 설명한다. Included Health는 LLM과 에이전트 실행 기반을 결합해 방대한 개인 건강 기록을 처리하고, 모호한 요구를 추론하며, 미리 정한 경로에 가두지 않고 확인 질문을 할 수 있다고 보았다. 운영 아키텍처의 중심에는 Dot supergraph라는 주 LangGraph 그래프가 있고, Dot은 보험 보장이나 청구 문의 같은 업무와 적절한 진료 지점으로의 연결을 위한 주 대화 라우터로 작동한다. 그 아래에는 긴급 진료 접수, 예약, 전문의 찾기, 행동건강 등 특정 회원 여정을 처리하는 하위 워크플로가 배치된다. 각 제품팀은 그래프의 서로 다른 부분을 소유하며, 예약만 해도 서비스 이용 자격, 보험 보장, 주 가입자와 피부양자 구분, 임상적 세부 조건을 함께 고려해야 한다.

3. Deep Agents를 통한 말투·맥락·공통 기능의 통합

여러 팀이 에이전트를 독립적으로 만들면서 초기에는 다른 에이전트로 이동할 때 답변이 갑자기 짧고 무뚝뚝해지는 등 말투와 어조가 달라지는 문제가 있었다. Included Health는 Deep Agents를 도입해 모든 에이전트에 전달할 수 있는 전역 플랫폼 프롬프트를 만들고, 각 팀이 말투를 별도로 관리해야 하는 부담을 줄였다. 워크플로가 전환될 때는 보내는 에이전트가 대화를 요약하고 전체 대화 기록의 파일 경로도 함께 전달해, 받는 에이전트가 필요한 맥락을 이어받도록 했다. 보험 보장 질문은 전문의를 찾는 도중에도 나올 수 있는데, 이전에는 모든 하위 워크플로의 라우팅 로직에 해당 기능을 연결해야 했다. 이제는 모든 Deep Agents가 상속할 수 있는 플랫폼 하위 에이전트로 보험 보장 기능을 분리했으며, LangGraph의 분산 개발 구조와 Deep Agents의 공유 맥락 관리가 결합해 서비스 간 반복 설명을 줄이고 경험의 일관성을 지원한다.

4. 스킬 레지스트리와 단계적 정보 공개

Included Health는 Deep Agents의 스킬을 이용해 각 서비스가 무엇인지, 어떤 상황에 적합하거나 부적합한지, 이용 자격이 복잡한 피부양자의 예약 같은 예외를 어떻게 처리할지 정의한다. 의사를 만나고 싶다는 요청에는 가상 긴급 진료, 가상 일차 진료, 대면 의사 찾기처럼 3개 이상의 적절한 선택지가 있을 수 있어, 에이전트는 추가 맥락을 파악해야 한다. 가상 파일시스템으로 관리하는 스킬 레지스트리는 처음에는 짧은 설명만 제공하고, 모델이 관련 스킬을 선택하면 전체 파일을 불러오는 단계적 정보 공개 방식을 사용한다. 전체 스킬을 읽은 모델은 가상 진료와 대면 진료 중 무엇을 원하는지, 급성 문제인지 장기적인 진료 관계가 필요한 문제인지 등을 확인한다. 회사는 자체 서비스 외에 고용주 플랜당 20~30개의 외부 복지 혜택도 스킬로 표현하는 작업을 추진 중이며, 임상팀의 대화 검토를 반영해 스킬 정의를 조정하면서 임상적 진료 경로 판단 일치율을 목표인 95%보다 높게 유지했다고 설명한다.

5. 인간 상담 연계를 핵심 설계 조건으로 반영

Included Health는 인간 상담으로의 연결을 예외 처리가 아니라 환자 경험을 구성하는 핵심 요소로 설계했으며, LangGraph를 전체 메시징 플랫폼으로 본다고 설명한다. LangGraph의 지속 실행 기능은 실행을 기한 없이 일시 중지하면서도 대화 맥락을 보존할 수 있게 한다. 에이전트가 불확실한 지점에 도달하면 그래프를 멈추고 회원 지원 담당자에게 연결해 여러 차례 대화를 진행하게 한 뒤, 인간이 수행한 일과 발언을 모두 포함한 맥락으로 재개한다. 회원이 며칠 또는 몇 주 뒤 같은 대화에 돌아와 후속 질문을 하더라도 인간이 도왔던 부분까지 이어받을 수 있으며, 이 구조에서 인간은 모든 업무를 대신하기보다 에이전트가 막힌 지점을 해결한다. 향후에는 인간이 상담하는 동안 별도의 에이전트 스레드가 배경 조사를 수행하고 실시간 권고를 제공하는 방향도 가능하도록 설계했지만, 원문은 이를 다음 발전 단계로 제시한다.

6. LangSmith를 활용한 임상 감독과 관측

LangSmith의 주석 대기열은 Included Health가 임상 감독을 운영하는 핵심 수단이며, 원문 작성 시점에는 모든 대화가 임상팀 검토 대기열에 들어간다. 검토자는 에이전트가 제시한 진료 경로가 적절했는지뿐 아니라 응급 안전장치가 필요한 상황에서 작동했는지, 필요하지 않은 상황에서는 올바르게 작동하지 않았는지도 평가한다. 후속 조치가 필요한 내용에는 표시를 남기므로, 검토는 추천의 정오 판단과 추가 확인이 필요한 사례의 식별을 함께 포함한다. 이렇게 생성한 라벨은 LangSmith에서 Included Health의 데이터 웨어하우스로 내보내며, 데이터 과학팀은 이를 바탕으로 운영 지표 대시보드를 만든다. 이 과정은 개별 대화에 대한 임상 판단을 운영 측정으로 연결하고, 앞서 설명한 스킬 정의 조정과 함께 안내 품질을 지속적으로 개선하는 근거를 제공한다.

7. 다중 턴 평가로 뒷받침한 아키텍처 전환

일반 에이전트에서 Deep Agents로 전환하는 작업은 Dot supergraph 전반과 4개 제품팀에 영향을 주었으며, 각 팀은 변경으로 기존 동작이 깨질 가능성을 우려했다. Included Health는 LangChain의 사용자 시뮬레이션 패키지를 활용한 다중 턴 평가를 아키텍처 변경의 안전망으로 사용했다. 전체 평가 묶음을 실행한 결과 대체로 더 나은 성능을 확인했고, 이를 다른 팀에 공유하면서 전환에 대한 확신을 확보했다고 설명한다. 원문에 따르면 마이그레이션은 2주 미만에 완료됐으며, 유의미한 성능 퇴행이나 팀의 반대 없이 진행됐다. 여기서 평가의 역할은 기술 변경 결과를 확인하는 데 그치지 않고 여러 팀이 공유하는 서비스 구조의 전환을 뒷받침한 것이며, 성능 개선은 모든 항목이 아니라 대체로 관찰됐다는 표현으로 제시된다.

8. 출시 초기 성과와 수치의 해석 범위

Dot은 8월 고객사에 출시됐으며, 담당자는 최근 몇 년 사이 팀이 경험한 가장 순조로운 출시였다고 평가했다. 원문은 출시 초기 지표가 긍정적인 방향을 보인다고 설명하면서 회원의 채팅 참여도가 75% 상승했다고 보고한다. 임상 정확도 측면에서는 임상의가 평가한 대화에서 Dot의 진료 추천에 대한 일치율이 목표인 95%를 크게 웃돌았으며, 이는 적절한 진료 지점으로 안내했는지를 판단한 결과다. 임상 안전성 측면에서는 정기 임상 감사로 검증한 고위험 상황 탐지율이 99%를 초과했고, 회사는 이를 통해 취약한 회원에게 빠르게 접근하고 지원할 수 있다고 설명한다. 다만 원문은 초기 성과라는 성격을 명시하고 있으며, 채팅 참여도의 비교 기준과 세부 측정 기간, 임상 평가·감사의 표본 규모 및 정확한 추천 일치율은 제시하지 않는다.

🧾 핵심 주장 / 시사점

• 의료 안내의 가치는 질문에 맞는 정보를 제공하는 것과 그 질문 뒤의 의료적 필요를 파악하는 것을 함께 요구하며, Dot의 설계는 이 차이를 대화와 진료 경로 선택에 반영한다.
• 서비스별 전문성을 각 팀에 맡기면서 공통 말투·맥락·보험 보장 기능을 공유하는 구조는, 조직의 개발 분업이 회원 경험의 단절로 이어지는 문제를 줄이는 접근이다.
• 인간 상담과 임상 검토를 실행 흐름에 포함한 점은 자동화의 불확실성을 운영 안에서 다루는 방식이며, 초기 성과를 해석할 때도 평가된 진료 안내와 감사된 위험 탐지라는 범위를 유지해야 한다.

✅ 액션 아이템

• Dot의 채팅 참여도 75% 상승, 진료 추천 일치율 목표 95% 초과, 고위험 상황 탐지율 99% 초과를 초기 성과와 임상 평가·감사의 범위를 함께 고려해 검토함.
• LangGraph와 Deep Agents의 역할을 제품팀별 독립 개발, 서비스 간 맥락 유지, 공통 보험 보장 기능이라는 기준으로 검토함.
• 고용주 플랜당 20~30개의 외부 복지 혜택 스킬화와 인간 상담 병행 에이전트 조사 기능을 각각 추진 중인 작업과 향후 구상으로 구분해 진행 상태를 확인함.

❓ 열린 질문

• Dot의 채팅 참여도 75% 상승은 어떤 비교 기준과 측정 기간에서 산출됐는가?
• 진료 추천 일치율 목표 95%를 크게 웃돈 임상 검토와 고위험 상황 탐지율 99% 초과를 확인한 감사의 평가 범위는 각각 어디까지인가?
• 고용주 플랜당 20~30개의 외부 복지 혜택 스킬화와 인간 상담 병행 에이전트 조사 기능은 각각 어느 단계까지 진행됐는가?