Amex introduces a framework to prevent AI agents from making unauthorized purchases

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

American Express(Amex)는 AI 에이전트의 무단 구매를 예방하기 위해 고객의 구매 의도를 거래 전에 기록·인증하고 거래 전반에 연결하는 ‘Intent Intelligence Framework’를 공개했다.

📌 핵심 요약

• Amex의 Intent Intelligence Framework는 대규모 언어 모델의 비결정성으로 AI 에이전트가 고객 지시와 다른 거래를 실행할 위험에 대응하며, 회사는 이를 AI 기반 거래의 업계 표준으로 발전시키기를 희망한다.
• 프레임워크는 4월 출시된 ACE Developer Toolkit에 포함된다. Amex는 에이전트 상거래로 인한 분쟁 증가를 아직 관찰하지 않았지만, 최근 Amex Trendex 조사에서 미국 응답자의 66%가 향후 12개월 내 AI 에이전트의 최저가 조사 기능을, 61%가 상품·서비스 추천 기능을 이용할 가능성이 있다고 답했다고 밝혔다.
• Create Intent API는 판매자명·최대 예산·제품 선호 등 구매 지시와 제약을 수집하며, 고객은 신원을 인증하고 기록된 의도를 승인한다. 수집 방식은 AI 모델에 따라 달라질 수 있고, Amex는 모든 에이전트 상거래 모델을 지원할 수 있는 유연성을 목표로 한다.
• 승인 후 생성되는 Intent ID와 Proof of Intent Token은 구매 의도 및 주요 제약을 나타낸다. 토큰을 통해 에이전트가 실제 카드번호 대신 결제에 사용할 안전한 디지털 결제 자격증명을 얻으며, ID와 토큰은 사기 방지와 분쟁 해결에도 활용될 수 있다.
• Amex는 거래 초기에 구매 의도를 반영해 Nike 주문을 Adidas 구매로 잘못 처리하는 등의 오류를 차단할 수 있다고 설명한다. 자율적인 생필품 재주문에서도 가격·크기 등 승인 조건을 확인하는 역할을 예상하며, 결제 생태계 파트너들과 ACE 도입을 논의하고 생태계 변화에 맞춰 추가 개발할 계획이다.

🧩 주요 포인트

1. 분쟁 증가는 아직 관찰되지 않았으나 이용 의향은 확인됨 → 현재 피해 증가에 대한 대응보다 에이전트 상거래 확대에 앞선 예방적 투자라는 성격이 강하다.
2. 구매 지시를 Create Intent API로 수집하고 고객 승인을 Intent ID·Proof of Intent Token에 연결 → 결제 시점의 조건 확인과 이후 사기 방지·분쟁 해결에 공통 근거로 활용할 수 있다.
3. 건별 구매 동의에서 자율적인 생필품 재주문까지 사용 범위 확대를 예상 → 판매자·브랜드·가격·크기 등 고객이 실제로 지정한 제약을 구분해 적용하는 유연성이 중요해진다.

🧠 상세 정리

1. AI 대리 구매의 위험과 구매 의도 인증

개인용 AI 에이전트가 사용자를 대신해 거래하는 일이 늘면서, 대규모 언어 모델의 비결정성이 승인되지 않은 구매로 이어질 가능성이 문제로 제기됐다. Amex가 공개한 Intent Intelligence Framework는 에이전트가 거래를 완료하기 전에 고객의 구매 의도를 기록하고 인증하도록 설계됐다. 회사의 목표는 구매 지시가 결제뿐 아니라 이후 절차까지 거래 생애주기 전체에 걸쳐 유지되도록 하는 것이다. Amex의 에이전트 파트너십 및 전략 담당 부사장 Hannah Bozian은 소비자·판매자·에이전트가 참여하는 거래에서도 회원이 기대하는 편의성·신뢰·보안을 확보하려 한다고 설명했으며, 회사는 이 프레임워크가 업계 표준이 되기를 희망한다.

2. 분쟁 증가에 앞선 대응과 소비자 이용 의향

이번 프레임워크는 Amex가 4월 출시한 Agentic Commerce Experiences, 즉 ACE Developer Toolkit에 추가된 서비스다. Amex는 에이전트 상거래 때문에 분쟁이 증가하는 현상을 아직 보지 못했지만, 거래 규모가 커지기 전에 관련 기술을 마련하려 한다고 밝혔다. 회사가 인용한 최근 Amex Trendex 조사에서 미국 응답자의 66%는 향후 12개월 동안 상품이나 서비스의 최저가를 조사하는 데 AI 에이전트를 사용할 가능성이 있다고 답했다. 같은 조사에서 61%는 상품이나 서비스 추천에 이용할 가능성이 있다고 답했으며, 이 수치는 실제 대리 구매 실적이 아니라 조사·추천 기능에 대한 소비자의 이용 의향을 보여준다.

3. 구매 지시 수집과 고객의 승인

처리 과정은 Create Intent API가 고객의 구매 지시와 함께 요청에 포함된 제약을 수집하는 단계에서 시작된다. 기록할 수 있는 조건에는 판매자명, 최대 예산, 그 밖의 제품 선호가 포함되므로, 고객이 무엇을 어떤 범위에서 구매하도록 허용했는지를 담는 구조다. Hannah Bozian에 따르면 구매 의도를 수집하는 구체적인 방식은 사용하는 AI 모델에 따라 달라질 수 있으며, Amex는 모든 에이전트 상거래 모델을 지원할 수 있도록 유연하게 설계할 계획이다. 고객은 이후 자신의 신원을 인증하고 에이전트가 기록한 구매 의도를 승인하며, 이 절차가 다음 단계에서 사용할 식별자와 토큰 생성으로 이어진다.

4. 의도 식별자와 결제 자격증명의 연결

고객이 승인하면 해당 구매 의도를 나타내는 고유 식별자인 Intent ID와 주요 제약을 담은 Proof of Intent Token이 생성된다. 이 토큰은 에이전트가 결제 단계에서 고객의 실제 신용카드 번호 대신 사용할 안전한 디지털 결제 자격증명을 얻는 데 쓰인다. Amex는 이를 통해 결제 보안을 유지하면서 에이전트의 구매가 고객이 허용한 행동과 일치하도록 할 수 있다고 설명한다. Intent ID와 토큰은 결제 순간 외에도 거래 과정의 여러 단계에서 활용할 수 있으며, 회사는 사기 방지와 분쟁 해결을 지원하는 용도를 제시했다. 어떤 에이전트가 언제 무엇을 승인받았는지 기록하는 것 역시 에이전트가 관여한 사기 문제에 대응하는 데 도움이 될 수 있다는 설명이다.

5. 브랜드 오구매 차단과 자율 재주문의 조건 확인

Hannah Bozian은 다른 구현과 비교한 차이로 구매 의도를 거래 흐름의 더 이른 단계에 반영해 위험이 발생하기 전에 줄이려는 접근을 들었다. 예를 들어 고객이 흰색 Nike 운동화 사이즈 9를 요청했는데 에이전트가 Adidas 신발 구매를 제출한다면, Amex가 그 불일치를 근거로 거래를 막을 수 있다는 것이다. 현재 많은 에이전트는 구매 전에 고객 동의를 구하지만, 회사는 앞으로 일부 상황에서 에이전트가 훨씬 자율적으로 행동할 것으로 예상한다. 종이타월이나 화장지 같은 생필품 재주문에서는 판매자나 브랜드보다 가격과 크기만 제약일 수 있으며, 이런 경우에도 기술이 거래와 고객 의도의 일치 여부를 추가로 확인하는 역할을 할 수 있다고 설명했다.

6. 파트너 도입 논의와 향후 개발 방향

Amex는 결제 생태계 전반의 파트너들과 ACE 구현을 이미 논의하고 있다고 밝혔다. 논의 대상에는 Amex의 결제 자격증명을 담는 에이전트용 토큰과 개발 도구 모음의 다른 구성요소가 포함되지만, 기사에는 구체적인 파트너 이름이나 도입 규모가 제시되지 않았다. 회사는 에이전트 상거래 생태계가 발전하는 데 맞춰 ACE를 지속적으로 추가 개발할 계획이며, 프레임워크의 업계 표준화 역시 현재 성과가 아니라 지향점으로 제시했다. 2026년 10월 13일 보도된 기사에서는 같은 날 TechCrunch Disrupt 2026의 Industry Stage에서 Hannah Bozian이 새 프레임워크와 에이전트 상거래에 미치는 의미를 더 자세히 설명할 예정이라고 안내했다.

🧾 핵심 주장 / 시사점

• Amex의 접근은 AI 에이전트가 지시를 잘 따를 것이라는 기대에 더해, 고객이 승인한 구매 조건을 거래 과정에서 확인할 수 있는 근거로 남기는 데 초점을 둔다.
• Intent ID와 Proof of Intent Token을 거래 이후에도 활용한다는 구상은 사전 오류 예방과 사후 분쟁 해결을 동일한 구매 의도 기록으로 연결한다.
• 최저가 조사·추천에 대한 이용 의향과 실제 자율 구매의 확산은 구분할 필요가 있으며, 기사에서 제시한 자율 재주문은 Amex가 예상하는 향후 활용 상황이다.

✅ 액션 아이템

• Create Intent API에 수집할 판매자명·최대 예산·제품 선호와 고객이 승인하는 구매 범위 확인.
• Intent ID·Proof of Intent Token이 결제 조건 확인과 사기 방지·분쟁 해결에 연결되는 방식 검토.
• 자율적인 생필품 재주문에서 가격·크기와 판매자·브랜드 중 실제로 적용할 고객 제약 구분.

❓ 열린 질문

• Create Intent API는 AI 모델마다 다른 구매 의도 수집 방식을 어떻게 지원할 것인가?
• Intent ID와 Proof of Intent Token은 사기 방지와 분쟁 해결에서 구체적으로 어떻게 활용될 것인가?
• Amex가 결제 생태계 파트너들과 논의 중인 ACE 도입은 언제, 어느 범위까지 이루어질 것인가?