Run agents securely and efficiently with the next generation AgentCore runtime

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

AWS는 세션별 Firecracker MicroVM 격리를 유지하면서 시작 속도·컴퓨팅 용량·메모리 효율을 높이고 데이터까지 신뢰 경계를 확장한 차세대 Amazon Bedrock AgentCore runtime을 발표했다.

📌 핵심 요약

• 장시간 자율 작업을 수행하는 AI 에이전트가 늘면서 보안·성능·비용을 함께 해결할 실행 환경의 중요성이 커졌다. 원문이 인용한 Deloitte 조사에서는 조직의 15%만 오케스트레이션된 다중 에이전트 시스템을 확장했고, 70%는 에이전트를 아직 신뢰하고 통제할 수 없다고 답했다.
• Amazon Bedrock AgentCore runtime은 세션마다 고유한 ID·정책·감사 추적을 갖춘 하드웨어 격리 Firecracker MicroVM을 제공한다. 차세대 버전은 이 격리를 유지하면서 세션 시작 속도를 최대 15배 높이고 컴퓨팅 용량을 기존의 4배로 확대했다고 AWS는 설명한다.
• 세션은 최대 8 vCPUs·32 GB, 컨테이너 이미지는 최대 10 GB를 지원하며, AWS는 이미지 크기와 동시 실행 규모에 관계없이 2초 미만에 시작한다고 밝혔다. 고객 사례에서 Coinbase는 콜드 스타트가 거의 1분에서 5초 미만으로 줄었고, Mission Cloud는 호출당 측정 런타임 비용이 17% 감소했다고 보고했다.
• 반환된 메모리를 수분 내 회수하고 유휴 에이전트를 0으로 축소해, 상호작용 사이에 대기가 있는 다중 턴 세션의 메모리 사용량을 최대 68% 줄인다. 상시 실행 에이전트에는 세션별 메모리 기준선을 최소 청구량으로 설정하고 필요시 기준선의 최대 4배까지 확장하는 committed baseline pricing을 제공한다.
• 에이전트는 FUSE를 지원하는 Amazon S3 버킷 등의 파일시스템을 동적으로 마운트하고 작업을 저장할 수 있다. AWS는 이를 통해 작업 내내 데이터를 신뢰 경계 안에서 통제한다고 설명하며, re:Invent까지 세션별 자격 증명으로 각 세션을 고유한 저장 폴더에 연결할 계획이다. 차세대 런타임은 북미·남미·유럽·아시아 태평양의 AWS 리전에서 현재 제공된다.

🧩 주요 포인트

1. 세션별 Firecracker MicroVM 격리 유지 → 실행 성능과 용량을 확대하면서 ID·정책·감사 추적을 세션 단위로 적용하는 관리형 운영 기반을 제공한다.
2. 초 미만 시작과 유휴 에이전트의 0으로 축소 → 사전 확보 자원의 비용과 온디맨드 환경의 시작 지연 사이에서 발생하던 부담을 낮추는 방향이다.
3. Amazon S3 등 저장소로 신뢰 경계 확장 → 컴퓨팅과 데이터에 공통 통제를 적용하려는 변화이며, re:Invent까지 예정된 세션별 저장 폴더 연결은 향후 제공 계획이다.

🧠 상세 정리

1. 장시간 자율 에이전트가 드러낸 운영 과제

AI 에이전트는 단발성 프롬프트를 넘어 여러 단계의 작업을 수시간 수행하는 방향으로 발전하고 있으며, 원문은 METR을 인용해 최첨단 에이전트가 자율적으로 완료할 수 있는 작업의 길이가 약 4개월마다 두 배로 늘어난다고 설명한다. McKinsey에 따르면 에이전트를 확대 적용하는 대기업 비율도 전년 27%에서 40%로 증가했으며, 코드 실행·브라우저 탐색·민감 데이터 접근·사용자 대리 행동은 강한 격리를 요구한다. 그러나 미리 확보한 실행 환경은 유휴 자원 비용을 발생시키고, 온디맨드 환경은 콜드 스타트 지연을 유발해 수천 개 동시 세션으로 확장할 때 자체 샌드박스 운영이 복잡해진다. Deloitte 조사에서 오케스트레이션된 다중 에이전트 시스템을 확장한 조직은 15%에 그쳤고 70%는 아직 에이전트를 신뢰하고 통제할 수 없다고 답했으며, AWS는 이러한 상황을 보안·속도·비용을 함께 개선해야 하는 배경으로 제시한다.

2. 관리형 실행 계층과 유지되는 격리 보장

Amazon Bedrock AgentCore는 개발자가 에이전트를 안전하게 구축·연결·최적화하도록 지원하며, AgentCore runtime은 인프라를 직접 구축하거나 유지하지 않고 에이전트를 배포하고 실행하는 완전관리형 컴퓨팅 계층이다. AWS는 고객의 워크로드가 복잡해지면서 더 많은 컴퓨팅 자원과 유연한 과금, 컴퓨팅을 넘어 데이터까지 포함하는 신뢰 경계에 대한 요구가 커졌다고 설명한다. 이번 업데이트에서도 모든 세션은 고유한 ID·정책·감사 추적을 갖춘 하드웨어 격리 Firecracker MicroVM에서 실행된다는 핵심 보장을 유지한다. AWS는 이 격리 경계를 유지한 상태에서 세션 시작 속도를 최대 15배 높이고, 컴퓨팅 용량을 기존의 4배로 확대하며, 실행 효율을 최대 68% 개선했다고 발표했다.

3. 더 큰 워크로드와 빠른 세션 시작

고급 에이전트를 구축하는 팀들은 대규모 코드베이스 컴파일, 브라우저 기반 작업, 로컬 모델 추론처럼 요구 자원이 서로 다른 작업을 격리된 세션 안에서 처리할 수 있도록 메모리와 컴퓨팅의 유연성을 요청했다. 차세대 런타임은 이전 버전보다 세션 용량을 4배로 확대해 최대 8 vCPUs와 32 GB를 제공하고, 최대 10 GB의 컨테이너 이미지를 지원한다. AWS는 이미지 크기와 동시 실행 규모에 관계없이 세션이 2초 미만에 시작한다고 설명하며, 콜드 스타트를 관리하기 위한 웜 풀이나 사전 프로비저닝 클러스터가 더 이상 필요하지 않다고 주장한다. 이는 자원 요구가 큰 작업을 수용하면서도 시작 대기를 줄이려는 변화로, 원문은 개별 고객의 측정 결과를 별도로 제시해 실제 적용 사례를 뒷받침한다.

4. 고객이 보고한 지연·비용·운영 변화

Coinbase의 Siwei Shen은 차세대 런타임으로 이전한 뒤 피크 트래픽에서도 세션 콜드 스타트가 거의 1분에서 5초 미만으로 줄었고, 주간 에이전트 처리량이 두 배 이상 늘어나는 동안 30초를 넘는 시작 지연도 사라졌다고 밝혔다. Mission Cloud의 Ryan Ries는 부동산·판매 정보를 조회하는 자연어 에이전트의 동일 워크로드를 초기 비교한 결과, 추론 요청의 콜드 스타트가 35%, 상태 확인 시작이 77% 빨라졌으며 호출당 측정 런타임 비용은 17% 감소했다고 설명했다. Zuora의 Brad Ruppert는 여러 사용 사례에서 호출당 메모리 사용량이 약 60% 줄었고, 더 많은 트래픽을 안정적인 지연 시간으로 처리했다고 보고했다. Rescale의 Mark Whitney는 시뮬레이션 입력 검증, 작업 문제 해결, 하드웨어 선택, 보고서 생성 에이전트를 엔지니어의 통제 아래 운영하며, 기반 인프라를 직접 운영하지 않아 고객에게 새 에이전트를 더 빨리 제공할 수 있다고 설명했다.

5. 대기 시간을 반영한 자원 회수와 과금

에이전트는 모델 응답, 도구 호출, 사람의 결정을 기다리는 시간이 많으므로, AWS는 실제 작업과 자원 사용에 더 밀접하게 연결되는 과금이 필요하다고 설명한다. 런타임은 에이전트가 반환한 메모리를 수분 내 회수하고 유휴 에이전트를 0으로 축소하며, 상호작용 사이에 자연스러운 대기가 있는 다중 턴 에이전트에서는 세션당 메모리 사용량을 최대 68% 줄일 수 있다고 밝혔다. 상시 실행 에이전트용 committed baseline pricing은 세션별 메모리 기준선을 최소 청구량으로 설정하고 필요시 그 기준선의 최대 4배까지 확장하도록 하며, AWS Lambda MicroVM 요율로 안정적인 워크로드의 예측 가능한 비용을 제공한다는 설명이다. Deloitte Consulting의 Ashwin Patil은 실제 수요에 연결되는 소비 방식이 확장에 대한 고객의 신뢰를 높인다고 평가했고, Caylent의 Randall Hunt는 초기화된 환경 복원과 미사용 메모리 회수에 따른 비용·지연 감소를 최신 버전 도입의 이유로 제시했다.

6. 컴퓨팅에서 데이터로 넓어지는 신뢰 경계

AWS는 에이전트가 격리된 세션에서 실행되더라도 필요한 데이터가 그 경계 밖에 있으면 보안 모델에 공백이 남는다고 지적한다. 장시간 실행되는 에이전트는 파일·자격 증명·도구 출력 등 맥락을 계속 축적하므로, 팀이 데이터 반출입 규칙을 직접 만들수록 새 에이전트마다 복잡성과 위험이 증가한다는 설명이다. 차세대 AgentCore runtime에서는 세션별 하드웨어 격리와 ID·접근 정책·감사 추적을 유지하면서, 에이전트가 FUSE를 지원하는 Amazon S3 버킷 등의 파일시스템을 동적으로 마운트하고 작업을 저장할 수 있다. AWS는 이를 통해 데이터가 작업 전체에 걸쳐 신뢰 경계 안에 머물고, 사용자가 한 번 정의한 공통 통제 아래 관리된다고 설명하며 저장소 접근을 실행 환경과 함께 다루는 방향을 제시한다.

7. 기업 사례가 보여주는 통제와 운영 확장

Okta의 Monica Bajaj는 AgentCore runtime과 Lambda MicroVMs의 조합이 에이전트에 격리된 실행 환경과 맥락 메모리를 제공해, 임시 샌드박스 안에서 코드 검사·테스트 실행·풀 리퀘스트 생성을 수행하도록 지원한다고 설명했다. 여기에 ID 기반 정책 통제를 결합하면 작업공간 정보 누출이나 권한 상승의 위험 없이 자율 엔지니어링 에이전트를 안전하게 확장할 수 있음을 보여준다는 것이 Okta의 평가다. Cox Automotive의 Chris Dillon은 중고차 보상판매 가치 평가, 서비스 예약, 거래 구성 등 여러 브랜드의 수십 가지 에이전트 솔루션에 Amazon Bedrock AgentCore를 사용한다고 밝혔다. Cox Automotive는 단일한 통제 체계를 갖춘 에이전트 플랫폼이 사업 전반의 팀들이 파일럿에서 프로덕션으로 이동하는 데 자신감을 준다고 설명하며, 원문은 이 사례들을 격리와 거버넌스를 갖춘 운영 기반의 가치와 연결한다.

8. 향후 세션별 저장 범위와 현재 제공 지역

AWS는 실제 데이터와 책임이 수반되는 작업을 대신 수행하는 에이전트에 대한 신뢰가 런타임 기반에서 형성되어야 한다고 강조하며, 이번 릴리스를 그 방향으로 나아가는 단계로 규정한다. 핵심은 격리를 완화하지 않으면서 더 큰 세션, 효율적인 자원 사용, 신뢰 경계 내부의 저장소를 제공하는 데 있다. 추가로 re:Invent까지 세션 라벨이 지정된 자격 증명을 통해 각 세션을 고유한 저장 폴더에 연결하는 세션별 범위 지정 기능을 제공하겠다고 밝혔으며, 이는 현재 기능과 구분되는 향후 계획이다. 원문 발표 시점에 차세대 AgentCore runtime은 북미·남미·유럽·아시아 태평양의 AWS 리전에서 이용할 수 있고, Amazon Bedrock AgentCore 또는 Amazon Bedrock 콘솔을 통해 시작할 수 있다고 안내한다.

🧾 핵심 주장 / 시사점

• AWS는 강한 격리를 유지하면서 시작 지연과 유휴 자원 비용을 낮추는 것을 에이전트의 프로덕션 확장을 위한 핵심 조건으로 제시한다.
• 최대 68%라는 수치는 대기가 있는 다중 턴 세션의 메모리 사용량 감소에 관한 설명이다. Mission Cloud의 호출당 비용 17% 감소와 Zuora의 호출당 메모리 약 60% 감소는 각각 별도 고객 사례의 측정 결과다.
• 파일시스템 마운트와 데이터 통제 확장에 더해 세션별 저장 폴더 연결이 예고되어 있으며, 현재 제공 기능과 re:Invent까지의 계획을 구분해 이해할 필요가 있다.

✅ 액션 아이템

• Amazon Bedrock AgentCore runtime의 최대 8 vCPUs·32 GB와 최대 10 GB 컨테이너 이미지 지원을 기준으로 워크로드 적합성 검토.
• 다중 턴 세션의 최대 68% 메모리 사용량 감소와 committed baseline pricing의 최소 청구량·기준선 최대 4배 확장을 구분해 비용 영향 검토.
• Amazon S3 파일시스템의 신뢰 경계와 re:Invent까지 예정된 세션별 저장 폴더 연결을 구분해 데이터 통제 적용 범위 확인.

❓ 열린 질문

• 최대 8 vCPUs·32 GB와 최대 10 GB 컨테이너 이미지 지원은 적용하려는 워크로드의 자원 요구를 충족하는가?
• 상호작용 사이에 대기가 있는 다중 턴 세션과 상시 실행 에이전트에서, 최대 68% 메모리 사용량 감소와 committed baseline pricing은 각각 비용에 어떤 영향을 주는가?
• 현재 Amazon S3 파일시스템에 적용되는 통제와 re:Invent까지 예정된 세션별 저장 폴더 연결은 데이터 접근 범위에서 어떤 차이를 만드는가?