🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

아마존 베드록 에이전트코어는 게이트웨이에서 행동 순서를 검증하는 시간적 정책과 요청·토큰·연결 시간을 제한하는 기능을 집행해, 에이전트의 보안 경계와 비용 상한을 애플리케이션 코드 밖에서 일관되게 관리한다.

📌 핵심 요약

• 맥킨지 조사에 따르면 조직의 약 80%가 인공지능 에이전트의 위험 행동을 경험했으며, 보안과 위험 우려가 에이전트형 인공지능 확장의 주요 장벽으로 나타났다.
• 기존의 상태 비저장 정책은 개별 호출만 판정하므로, 각각 허용 가능한 행동이 잘못된 순서나 누적 결과를 통해 위험한 전체 패턴을 만드는 문제를 포착하기 어렵다.
• 에이전트코어의 시간적 정책은 게이트웨이에서 세션의 이전 행동, 값의 일치 여부, 누적 지출, 단계 순서, 사람의 승인 기록 등을 확인한 뒤 다음 호출을 허용하거나 거부한다.
• 시간적 정책을 구동하는 도그우드는 시더를 기반으로 속도 제한, 시간 창, 선행 단계, 상향 승인 조건을 추가한 정책 언어이며, 아파치 2.0으로 공개된 규격과 참조 구현을 제공한다.
• 현재 제공되는 게이트웨이 속도 제한은 사용자별 요청 수, 처리 토큰 수, 연결 유지 시간을 초당·분당 단위로 제한하며, 기존 에이전트 코드를 변경하지 않고 사용자·팀·도구·모델별 상한을 설정할 수 있다.

🧩 주요 포인트

1. 개별 호출이 모두 정당해도 순서와 누적 결과는 위험할 수 있음 → 통제 범위를 단일 요청에서 세션 전체의 행동 흐름으로 넓혀야 한다.
2. 정책을 에이전트 내부가 아닌 공통 게이트웨이에서 집행함 → 구현 차이를 줄이고 에이전트의 정책 우회를 막으며 일관된 감사 근거를 남길 수 있다.
3. 에이전트는 요청 반복, 많은 토큰 처리, 장시간 연결로 서로 다르게 자원을 소모함 → 비용과 서비스 보호를 위해 세 가지 소비 축을 함께 제한해야 한다.

🧠 상세 정리

1. 신뢰가 에이전트 확장의 속도를 결정하는 배경

글은 에이전트의 자율성과 운영 규모가 커지는 동안 신뢰와 보안이 같은 속도로 발전하지 못했다고 진단한다. 맥킨지 자료에 따르면 조직의 약 80%가 이미 인공지능 에이전트의 위험 행동을 경험했으며, 보안과 위험에 대한 우려는 에이전트형 인공지능을 대규모로 도입하는 데 가장 큰 장벽으로 제시된다. 이에 따라 에이전트 혁신과 도입의 속도는 모델 성능만이 아니라 신원, 접근 통제, 관찰 가능성, 평가, 추적 가능성을 포괄하는 신뢰 체계에 좌우된다. 글은 신뢰와 보안에 대한 투자가 기업의 에이전트 도입을 촉진할 수 있다고 본다. 가드레일이 안정적으로 작동하면 새 에이전트의 승인을 매번 별도 협상으로 처리하는 대신 플랫폼 차원에서 반복 가능하게 운영할 수 있기 때문이다.

2. 개별 요청 중심 가드레일의 구조적 맹점

기존 가드레일은 예측 가능한 소프트웨어를 전제로 각 요청의 허용 여부를 독립적으로 판단하는 경우가 많다. 그러나 에이전트는 작업 경로를 스스로 결정하므로, 각각은 합법적인 호출이라도 순서와 누적 결과를 함께 보면 금지해야 할 행동 패턴이 될 수 있다. 고객 계좌를 조회한 뒤 다른 계좌번호로 송금하거나, 승인 한도보다 작은 주문을 반복해 전체 예산을 넘기거나, 실패한 도구를 밤새 재시도해 토큰 예산을 소진하는 사례가 이 문제를 보여 준다. 이 경우 어느 한 요청만 보면 명백한 위반이 없지만, 앞선 행동과 다음 행동의 관계를 추적하면 위험이 드러난다. 따라서 문제를 일으킨 패턴을 에이전트 자체가 발견하리라고 기대하는 대신, 실행 시스템이 전체 흐름을 독립적으로 검사해야 한다는 것이 글의 핵심 문제의식이다.

3. 게이트웨이에 보안 통제를 집중하는 구조

아마존 베드록 에이전트코어는 팀이 기반 시설을 직접 조립하지 않고도 에이전트를 구축하고 연결하며 최적화할 수 있도록 설계됐다. 출발 원칙은 보안 통제를 팀별 애플리케이션 코드에 반복 구현하지 않고, 모든 에이전트에 동일하게 적용되는 기반 시설 계층에 두는 것이다. 그 중심인 게이트웨이는 모델 컨텍스트 프로토콜 서버, 대규모 언어 모델, 에이전트, 지식 기반으로 요청을 전달하는 완전관리형 서버리스 진입점이다. 모든 호출이 이 지점을 통과하므로 에이전트가 어떤 경로를 선택하더라도 공통 정책과 소비 한도를 적용할 수 있다. 글은 이 구조 위에 시간적 정책과 속도 제한을 배치함으로써 행동의 연속성과 자원 소비를 에이전트 외부에서 통제한다고 설명한다.

4. 행동 순서를 판정하는 시간적 정책과 도그우드

시간적 정책은 현재 요청만 보는 대신 같은 세션에서 에이전트가 앞서 수행한 행동을 함께 확인한 뒤 다음 호출을 허용하거나 거부한다. 앞선 호출이 반환한 값과 다음 호출에 전달된 값이 일치해야 한다는 조건, 누적 지출이 예산에 도달하면 다음 구매를 막는 조건, 작업 순서나 중요 행동 전 사람의 승인 기록을 요구하는 조건 등을 표현할 수 있다. 사람이 더 이상 관여하지 않을 때 권한을 자동으로 좁히는 것도 가능하며, 정책은 에이전트 코드 밖의 게이트웨이에서 집행되므로 에이전트가 정책 논리를 보고 우회 방법을 추론할 수 없다. 결정은 결정론적으로 이뤄지고 기본적으로 거부되며, 전체 판단 맥락과 차단 이유가 기록되어 검토자가 결과뿐 아니라 근거도 확인할 수 있다. 이를 구동하는 도그우드는 시더를 내장하고 속도 제한, 시간 창, 선행 단계, 상향 승인 조건 등의 시간적 구문을 추가한 정책 언어로, 아파치 2.0 아래 공개 규격과 참조 구현으로 제공된다.

5. 소비 속도를 제한하는 다차원 비용 통제

비용 거버넌스 측면에서 에이전트는 필요한 단계 수를 스스로 판단하기 때문에 작업 비용과 자원 소비 속도가 미리 정해지지 않는다. 포레스터 자료는 비용을 에이전트형 인공지능이 대규모 운영에 도달하지 못하는 주요 이유로 제시하며, 글은 예기치 않은 재시도 반복이나 과도하게 무거운 세션을 억제할 확실한 상한이 필요하다고 설명한다. 재시도 반복은 요청 수로, 추론량이 큰 작업은 처리 토큰 수로, 장시간 연구 세션은 연결 유지 시간으로 나타나므로 한 가지 지표만 제한하면 다른 방식의 자원 소진을 막지 못한다. 현재 제공되는 게이트웨이 속도 제한은 기존에 관리하는 신원을 이용해 사용자별 요청 수, 모델 처리 토큰 수, 연결 유지 시간을 초당·분당 창에서 제한한다. 설정 후 에이전트 코드를 변경하지 않고 적용할 수 있으며, 사용자·팀·도구·모델마다 다른 상한을 부여해 용량 배분을 플랫폼 팀의 구성 업무로 관리할 수 있다.

6. 모델이 아니라 실행 시스템을 신뢰한다는 결론

글은 모델이 향상될수록 에이전트가 더 중요한 행동을 더 적은 감독 아래 수행하게 되므로, 기업이 얻는 가치는 해당 에이전트를 다른 운영 시스템과 같은 규율로 다룰 수 있는지에 달렸다고 주장한다. 이 관점에서 에이전트에 대한 신뢰는 모델 자체에 관한 막연한 판단이 아니라, 예상 밖 행동이 발생해도 정책과 운영 경계가 유지되는 실행 시스템에 대한 판단이다. 신원, 관찰 가능성, 평가, 추적 가능성에 대한 투자와 함께 통제를 애플리케이션 코드에서 플랫폼으로 옮길수록 에이전트마다 별도로 다시 만들고 검토하며 신뢰해야 할 요소가 줄어든다. 시간적 정책과 속도 제한은 기존 운영 에이전트를 재설계하지 않고 도입할 수 있으며, 두 기능 중 필요한 것만 독립적으로 적용하는 것도 가능하다. 플랫폼이 에이전트의 행동과 소비를 더 안정적으로 제한할수록 기업이 더 큰 자율성을 허용할 수 있다는 것이 글의 최종 결론이다.

🧾 핵심 주장 / 시사점

• 에이전트 거버넌스의 핵심 단위는 개별 호출의 정당성만이 아니라 값의 연속성, 누적량, 선행 조건, 승인 상태를 포함하는 세션 전체의 행동 흐름이다.
• 비용 통제는 사후 총사용량 확인에 그치지 않고 초당·분당 소비 속도를 제한해야 하며, 요청 수·토큰 수·연결 시간이라는 서로 다른 소진 경로를 함께 다뤄야 한다.
• 공통 게이트웨이에서 결정론적 정책을 집행하고 판단 근거를 기록하면 팀별 구현 편차를 줄일 수 있으며, 공개된 도그우드 규격은 정책 평가 방식의 가시성과 지원 도구 개발 기반을 제공한다.

✅ 액션 아이템

• 에이전트코어 게이트웨이에서 시간적 정책이 확인할 세션 이전 행동·단계 순서·사람 승인 기록 조건을 정의한다.
• 게이트웨이 속도 제한의 사용자별 요청 수·처리 토큰 수·연결 유지 시간 상한을 초당·분당 단위로 비교한다.
• 도그우드의 선행 단계·시간 창·상향 승인 조건이 누적 지출과 행동 순서 검증에 맞는 범위를 점검한다.

❓ 열린 질문

• 상태 비저장 정책이 놓치는 잘못된 순서와 누적 결과 중 시간적 정책이 먼저 막을 세션 행동 패턴은 무엇인가?
• 게이트웨이 속도 제한을 사용자·팀·도구·모델별로 나눌 때 요청 수·토큰·연결 유지 시간 상한 기준은 무엇인가?
• 도그우드가 추가한 속도 제한·시간 창·선행 단계·상향 승인 조건 중 에이전트코어 보안 경계에 필수인 조합은 무엇인가?