Articleaws.amazon.com·2026년 11월 12일·0

How Natera designed an agentic AI system for lab ops with Amazon Bedrock AgentCore

Quick Summary

Natera는 Amazon Bedrock AgentCore 기반의 실험실 운영 AI 시스템 SWARM으로 조직의 장비 진단 지식을 활용해 최초 응답 시간을 약 130배 단축하고 지원 티켓의 96.2%에 자동화된 처리를 제공했다고 밝혔다.

How Natera designed an agentic AI system for lab ops with Amazon Bedrock AgentCore 관련 대표 이미지

🖼️ 인포그래픽

How Natera designed an agentic AI system for lab ops with Amazon Bedrock AgentCore 내용을 설명하는 본문 이미지

🖼️ 4컷 인포그래픽

How Natera designed an agentic AI system for lab ops with Amazon Bedrock AgentCore의 핵심 내용을 4단계로 요약한 인포그래픽
How Natera designed an agentic AI system for lab ops with Amazon Bedrock AgentCore 핵심 내용을 4단계로 압축한 4컷 인포그래픽

💡 한 줄 요약

Natera는 Amazon Bedrock AgentCore 기반의 실험실 운영 AI 시스템 SWARM으로 조직의 장비 진단 지식을 활용해 최초 응답 시간을 약 130배 단축하고 지원 티켓의 96.2%에 자동화된 처리를 제공했다고 밝혔다.

📌 핵심 요약

  • Natera는 3개 Jira 대기열에서 하루 65건이 넘는 티켓을 처리했으며, 평균 최초 응답 시간은 17.4시간이었다. 숙련 기술자에게 집중된 장비 지식이 퇴사와 함께 소실되고, 장비 중단으로 검체 처리와 환자 결과 보고가 지연되는 문제가 있었다.
  • SWARM은 최초 응답 시간을 약 130배 단축하고 지원 티켓의 96.2%를 자동화 범위에 포함했다고 보고됐다. 이는 최초 응답과 자동화 적용 범위에 관한 수치이며, 모든 티켓의 완전 자동 해결을 의미하지는 않는다.
  • SWARM은 공통 스킬 라이브러리를 사용하는 두 런타임으로 구성된다. swarm-agent는 자동 진단 보고서를 생성하고, swarm-hive는 엔지니어의 실시간 질의·이미지 업로드·대안 탐색을 지원한다. 라이브러리에는 장비별 스킬 24개와 공통 업무 스킬 9개 등 총 33개가 있다.
  • Natera는 관리형 실행 환경, Jira·Confluence 연동, 보안과 관측 가능성을 위해 Amazon Bedrock AgentCore를 선택했다. OIDC·AWS STS 임시 자격 증명과 최소 권한을 적용하며, HIPAA 적격 AWS 서비스와 BAA 아래에서 운영하고 환자 식별 정보가 벡터 인덱스나 언어 모델에 들어가지 않도록 분리한다.
  • 장비별 메타데이터가 없는 범용 검색의 결과가 일관되지 않아 맞춤 문서 처리와 RAG를 구축했다. 가장 낮은 점수를 보인 장비군의 누락된 공급업체 매뉴얼을 추가하자 모델 변경 없이 정확도가 71%에서 75%로 상승했으며, 팀은 정확도 개선이 정체되면 모델 조정보다 데이터 포괄성을 먼저 확인한다.

🧩 주요 포인트

  1. 개인에게 집중된 진단 지식 → 33개 스킬을 버전 관리하고 독립적으로 시험·평가해 오류 원인을 특정하고 지식을 지속적으로 개선할 기반을 마련했다.
  2. 공급업체 매뉴얼 보강만으로 정확도 71%→75% → 진단 성능 개선에서는 모델 변경에 앞서 장비별 문서 누락과 데이터 품질을 점검할 필요가 있다.
  3. 자동 진단과 엔지니어 상호작용의 요구 차이 → swarm-agent와 swarm-hive를 분리하고, 공통 지식 활용에 임시 자격 증명·최소 권한·환자 식별 정보 분리를 결합했다.

🧠 상세 정리

1. 숙련자 이탈과 티켓 지연이 만든 지식 연속성 문제

세포유리 DNA(cfDNA) 검사 기업 Natera에서는 실험실 장비의 가동 상태가 검체 처리에 직접 영향을 주기 때문에 장비 중단을 줄이는 일이 중요했다. 다양한 정밀 장비군은 각각 고유한 고장 양상과 공급업체 문서, 해결 경험을 요구했지만, 서비스 엔지니어링 조직의 지식은 표준화된 절차보다 개인의 깊은 전문성에 의존했다. 특정 장비를 오랫동안 진단한 선임 기술자가 퇴사하면 그가 가진 조직 지식도 사실상 사라졌고, 이를 대규모로 수집·정리·활용할 시스템이 없었다. 3개 Jira 대기열에는 하루 65건이 넘는 티켓이 들어왔으며 평균 최초 응답 시간은 17.4시간으로, 장비 중단이 검체 처리와 환자 결과 보고를 지연시켰다. 인력 충원만으로는 수요를 따라가기 어려워 Ariel Jirau가 이끄는 팀은 AWS와 함께 수분 내 응답하고 다양한 장비를 정확히 진단하며 평가를 통해 개선되는 SWARM을 구축했다.

2. AgentCore 선택과 네 계층의 시스템 구성

Natera가 Amazon Bedrock AgentCore를 선택한 핵심 조건은 대량 지원 티켓의 자율 처리, Jira·Confluence 같은 기존 운영 도구와의 깊은 통합, 그리고 별도 인프라 구축 부담을 줄이는 보안·관측 기능이었다. Jirau는 관리형 런타임 덕분에 실행 인프라보다 진단 정확도에 엔지니어링 역량을 집중할 수 있었고, 에이전트 로직을 다시 작성하지 않고 모델을 교체할 유연성도 확보했다고 설명했다. SWARM은 공통 스킬 라이브러리를 공유하는 swarm-agent와 swarm-hive로 구성되며, 엔지니어를 대체하기보다 티켓 도착 시점에 조직 지식을 제공하는 것을 목표로 한다. 이벤트 계층은 Jira 티켓을 Amazon EventBridge와 Amazon SQS로 전달하고, 에이전트 계층은 두 런타임과 스킬 라이브러리를 운영하며 진단 보고서를 제공한다. 컨텍스트 계층은 공급업체 매뉴얼·과거 티켓·운영 데이터를 활용하고, 관측 및 전달 계층은 추적 정보·로그·지표를 수집한다.

3. 관리형 런타임과 장기 키 없는 배포 보안

팀의 첫 아키텍처 결정은 에이전트를 어디에서 실행할지였으며, 컨테이너 오케스트레이션·확장·보안을 직접 운영하지 않는 관리형 환경을 요구했다. AgentCore runtime은 swarm-agent와 swarm-hive를 내장된 ID 관리와 모니터링이 있는 환경에서 실행해 별도의 에이전트 실행 계층을 구축할 필요를 줄였다. 임상 환경에서 자격 증명 노출을 허용할 수 없다는 조건에 따라 OIDC와 AWS STS로 배포별 임시 자격 증명을 발급하고 파이프라인에는 장기 액세스 키를 저장하지 않았다. 구체적으로 GitLab CI 실행기가 OIDC 토큰을 AWS의 IAM ID 공급자에 제시하면 AWS STS가 이를 배포 역할 범위의 단기 자격 증명으로 교환한다. IAM은 구성요소별 최소 권한을 적용하고, Amazon VPC의 프라이빗 서브넷과 VPC 엔드포인트는 트래픽이 공용 인터넷을 통과하지 않게 하며, AWS Secrets Manager는 남아 있는 소수의 자격 증명을 30일 주기로 자동 교체한다.

4. 임상 운영을 위한 데이터 분리와 감사 추적

SWARM은 임상검사실 운영자인 Natera의 의무를 반영해 BAA 아래에서 HIPAA 적격 AWS 서비스를 사용한다. 모든 에이전트 호출은 감사 로그에 남으며, 검색 가능한 기록을 통해 데이터 접근을 추적할 수 있도록 한다. 원문은 환자 식별 정보가 벡터 인덱스나 언어 모델에 들어가지 않고, 티켓에는 장비와 업무 흐름의 메타데이터만 포함된다고 설명한다. 이러한 데이터 거버넌스 정책은 임시 자격 증명, 최소 권한, 네트워크 격리 같은 인프라 보안 통제와 함께 규제 대상 임상 환경에서 필요한 준수 체계를 구성한다. 따라서 HIPAA 또는 유사한 규제 체계에서 같은 접근을 적용하는 팀은 지식 기반 파이프라인을 설계하기 전에 BAA의 적용 범위와 데이터 분리 요구사항을 확인해야 한다고 원문은 강조한다.

5. 장비 문서에 맞춘 RAG와 데이터 품질 우선 개선

초기 시제품은 장비별 메타데이터가 없는 범용 검색을 사용해 결과가 일관되지 않았고, 팀은 기술 장비 문서에 맞는 별도 문서 처리 파이프라인을 구축했다. Amazon Titan Text Embeddings가 의미 검색용 벡터를 생성하고 Amazon Bedrock Knowledge Bases가 관리형 RAG를 제공하며, 문서는 색인 처리량과 API 호출 제한의 균형을 고려해 100개 단위로 임베딩 처리한다. 제시된 청크 설정 예시는 tiktoken의 cl100k_base 인코딩으로 경계를 측정하고 청크 크기 1,000토큰과 중첩 150토큰을 사용한다. 표와 도표가 많은 문서에서는 기본 청크 분할에만 의존하기보다 맞춤 파싱에 투자하는 것이 진단 정확도 향상에 기여한다고 설명한다. 실제로 가장 낮은 점수를 보인 장비군의 누락된 공급업체 매뉴얼을 추가하자 모델 변경 없이 정확도가 71%에서 75%로 높아졌다. 이 경험에 따라 팀은 정확도 개선이 정체되면 모델 조정보다 문서 포괄성을 먼저 확인하며, 파이프라인은 운영을 중단하지 않고 신규·수정 문서를 재처리해 벡터 인덱스를 갱신한다.

6. 33개 스킬의 버전 관리와 역할 분담

Natera는 진단 로직을 에이전트 프롬프트에 직접 넣는 방식과 별도로 버전 관리하는 스킬 라이브러리 사이에서 후자를 선택했다. 잘못된 진단이 발생했을 때 시스템 전체를 디버깅하기보다 문제가 된 특정 스킬을 지목할 수 있어야 한다는 판단이었으며, 이는 감사 가능성과 개선 가능성을 높이기 위한 결정이었다. 라이브러리에는 지원 장비군을 포괄하는 장비별 스킬 24개와 여러 티켓 유형에 공통으로 적용되는 업무 스킬 9개가 있어 총 33개를 이룬다. 각 스킬은 명확한 인터페이스를 갖고 독립적으로 시험할 수 있으며, 전체 시스템과 같은 기준으로 평가되는 운영 소프트웨어로 취급된다. 역할도 구분해 Jira 필드 파싱이나 HTML 보고서 형식 지정처럼 결과가 결정적인 작업은 Python이 맡고, 증상 해석·공급업체 문서 대조·진단 설명 작성처럼 언어 추론이 필요한 작업은 LLM 스킬이 담당한다.

7. 자동 진단과 대화형 지원을 분리한 두 런타임

Natera는 백그라운드 자율 분석과 엔지니어의 대화형 협업이 요구하는 지연 시간과 컨텍스트가 다르다는 이유로 진단 작업을 두 런타임으로 나눴다. 처리량에 초점을 맞춘 swarm-agent는 장비 유형과 증상에 따라 스킬을 선택하고 지식 기반을 조회한 뒤, 가장 유력한 원인 가설·우선순위가 매겨진 문제 해결 단계·신뢰도 표시를 담은 구조화된 HTML 보고서를 생성한다. 보고서는 Amazon S3에 저장되고 수분 내 Jira 티켓에 링크되어 엔지니어가 티켓을 열기 전에 진단 정보를 접할 수 있게 한다. 깊이 있는 탐색을 위한 swarm-hive에서는 엔지니어가 후속 질문을 하고 이미지를 업로드하며 다른 문제 해결 경로를 검토할 수 있고, AgentCore memory는 세션이 달라져도 엔지니어별 대화 맥락을 유지한다. 자유 형식 입력을 받는 swarm-hive의 프롬프트에는 Amazon Bedrock Guardrails를 통한 콘텐츠 필터링을 적용하며, 원문은 SWARM의 전체 성과로 약 130배 빠른 최초 응답과 지원 티켓 96.2%의 자동화 적용 범위를 제시한다.

8. Jira 연계와 중복 방지, 평가용 실행 정보

SWARM의 Jira 연계는 웹훅을 구성하는 대신 Amazon EventBridge Scheduler와 폴링을 수행하는 AWS Lambda 함수를 사용한다. 확인된 티켓은 안정적인 전달을 위해 Amazon SQS 대기열에 들어가며, 이 구조는 티켓 시스템의 가용성과 에이전트 실행 환경을 분리한다. DynamoDB는 티켓 ID를 파티션 키로 사용해 중복을 방지하고, TTL에 따른 만료를 적용해 중복 방지 기록의 수명을 관리한다. 또한 실행별 상태·비용·토큰 사용량 같은 메타데이터를 저장해 평가 루프에 제공하므로, 티켓 처리 과정에서 발생하는 실행 정보가 후속 평가의 입력으로 연결된다. 이 부분에서 원문이 구체적으로 제시하는 것은 이벤트 전달, 중복 방지, 실행 정보 수집의 연결 구조이며, 제공된 본문은 이어지는 DynamoDB 테이블 생성 예제의 코드 중간에서 끝난다.

🧾 핵심 주장 / 시사점

  • 응답 속도 개선과 자동화 적용 범위는 서로 다른 성과 지표다. 약 130배와 96.2%를 진단 정확도나 완전 자동 해결률로 바꾸어 해석해서는 안 된다.
  • 정확도가 71%에서 75%로 상승한 사례는 적어도 해당 장비군에서 누락된 공급업체 문서가 성능 제약이었다는 근거다. 이를 전체 장비군의 정확도나 모델 변경의 불필요성으로 일반화할 근거는 제시되지 않았다.
  • SWARM은 지식 확보, 버전 관리되는 스킬, 자동 진단과 대화형 지원의 분리, 보안과 데이터 거버넌스를 함께 설계했다. 조직 지식의 지속적인 활용을 모델 하나의 기능보다 운영 구조 전체의 문제로 다룬 사례다.

✅ 액션 아이템

  • 진단 정확도 개선이 정체될 때 장비별 문서 누락과 데이터 품질을 우선 점검하고, 공급업체 매뉴얼 보강에 따른 정확도 변화를 확인한다.
  • 33개 스킬의 버전 관리와 독립 시험·평가를 통해 잘못된 진단의 원인을 특정하고 개선한다.
  • HIPAA 적격 AWS 서비스와 BAA 적용 범위를 확인하고, 환자 식별 정보가 벡터 인덱스와 언어 모델에 들어가지 않는 데이터 분리를 유지한다.

❓ 열린 질문

  • 최초 응답 시간 약 130배 단축은 어떤 측정 기간과 티켓 집합을 기준으로 산출됐는가?
  • 지원 티켓의 96.2%라는 자동화 적용 범위에는 구체적으로 어느 처리 단계까지 포함되는가?
  • 공급업체 매뉴얼 추가로 정확도가 71%에서 75%로 상승한 장비군은 어떤 평가 기준과 표본으로 측정됐는가?

관련 문서

공통 태그와 주제 흐름을 기준으로 같이 보면 좋은 문서를 이어서 제안합니다.