Amazon Bedrock expands Claude model availability to in-country inferencing in India

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Amazon Bedrock가 Claude Opus 5, Claude Sonnet 5, Claude Haiku 4.5의 인도 내 추론을 지원하며, Mumbai와 Hyderabad 리전 사이에서 요청을 분산해 인도 내 데이터 처리와 확장성을 함께 제공한다.

📌 핵심 요약

• 인도 고객은 기존 global cross-Region inference에 더해 India geographic cross-Region inference로 Anthropic의 Claude Opus 5, Claude Sonnet 5, Claude Haiku 4.5를 Amazon Bedrock에서 이용할 수 있다.
• India geographic 추론 프로파일은 요청을 ap-south-1과 ap-south-2 사이에서만 라우팅한다. 입력 프롬프트와 출력 결과는 두 리전 사이를 이동할 수 있으며, 여러 리전의 연산 용량을 활용해 트래픽이 몰릴 때 처리량과 일관된 성능 유지에 도움을 준다.
• 리전 간 추론은 안전한 AWS 네트워크와 전송 중 종단 간 암호화를 사용한다. 고객 데이터는 목적지 리전에 저장되지 않고 소스 리전에만 유지되며, Amazon Bedrock는 기본적으로 모델 입력과 출력을 저장하지 않는 zero data retention(ZDR)을 적용하지만 일부 모델은 자동 안전 분류기가 콘텐츠를 표시하면 AWS의 사람 검토가 요구된다.
• 과금과 할당량 사용은 요청을 보낸 소스 리전의 계정에 집계되고, Amazon CloudWatch와 AWS CloudTrail 로그도 소스 리전에만 기록된다. CloudWatch와 AWS Cost Explorer로 사용량·성능·비용을 모니터링할 수 있다.
• Amazon Bedrock 콘솔의 Playground에서 코딩 없이 모델을 시험하거나, bedrock-runtime의 Anthropic Messages API, InvokeModel API, Converse API로 India geographic 추론 프로파일을 호출할 수 있다. Amazon Bedrock Guardrails와 intelligent prompt routing도 지원한다.

🧩 주요 포인트

1. 인도 내 처리 범위와 용량 분산: ap-south-1·ap-south-2로 라우팅을 제한하면서 두 리전의 연산 자원을 활용하므로, 지역 내 처리 요구와 확장성을 함께 고려할 수 있다.
2. 데이터 보호와 운영 기준: ZDR의 기본 동작과 일부 모델의 AWS 사람 검토 조건을 구분하고, 소스 리전을 과금·할당량·로그 관리의 기준으로 이해해야 한다.
3. 시험에서 API 통합으로 연결: Playground와 세 가지 API 접근 방식이 제공되므로, Claude 모델을 먼저 시험한 뒤 사용할 인터페이스를 선택할 수 있다.

🧠 상세 정리

1. Claude 모델의 인도 내 추론 지원 확대

Amazon Bedrock는 Anthropic의 Claude Opus 5, Claude Sonnet 5, Claude Haiku 4.5를 인도에서 사용할 수 있게 됐다고 발표했다. 인도 지역 엔드포인트는 geographic cross-Region inference를 통해 제공되며, 고객은 이미 지원되던 global cross-Region inference에 더해 인도 리전 안에서 데이터를 처리하는 방식을 선택할 수 있다. 원문은 이러한 선택이 원하는 지리적 범위 안에서 데이터를 처리해야 하는 요구에 유용할 수 있다고 설명한다. 이어 Mumbai와 Hyderabad 리전에서 인도 내 추론이 작동하는 방식과 Amazon Bedrock 콘솔 및 API를 통한 시작 방법을 소개한다.

2. 두 인도 리전에 제한되는 요청 분산

Amazon Bedrock의 cross-Region inference 프로파일은 각 리전의 용량을 고객이 직접 관리하지 않고도 여러 AWS 리전에 추론 요청을 분산할 수 있도록 제공된다. API 호출이 발생하는 소스 리전에서 요청이 시작되면, 프로파일에 정의된 목적지 리전 중 하나로 자동 라우팅된다. India geographic 프로파일의 요청은 ap-south-1과 ap-south-2 사이에서만 이동하므로 추론이 인도 안에 머물지만, 입력 프롬프트와 출력 결과는 두 리전 사이를 이동할 수 있다. 따라서 요청은 단일 리전의 용량에만 묶이지 않고 더 넓은 연산 자원 풀을 활용한다. 원문은 이 방식이 특히 트래픽이 몰리는 시기에 처리량과 일관된 성능을 유지하는 데 도움을 준다고 설명한다.

3. 데이터 보호 원칙과 소스 리전 중심 운영

리전 간 추론은 안전한 AWS 네트워크에서 수행되며, 전송 중 데이터에는 종단 간 암호화가 적용된다. 고객 데이터는 목적지 리전에 저장되지 않고 소스 리전에만 유지되며, Amazon Bedrock의 zero data retention(ZDR) 보안 모델은 기본적으로 모델 입력과 출력을 저장하지 않는다는 뜻이다. 다만 일부 모델은 자동 안전 분류기가 콘텐츠를 표시할 경우 AWS의 사람 검토를 조건으로 요구하므로, 원문은 Amazon Bedrock User Guide의 Data retention 설명을 참조하도록 안내한다. 실제 요청을 처리한 리전과 관계없이 과금 및 할당량 사용은 소스 리전의 계정에 집계된다. Amazon CloudWatch와 AWS CloudTrail의 로그도 소스 리전에만 기록되므로 모니터링의 기준이 한곳에 유지된다. 이 추론 방식은 bedrock-runtime에서 제공되며, Amazon Bedrock Guardrails와 intelligent prompt routing 같은 기능도 지원한다.

4. 콘솔 Playground에서 모델 시험

Amazon Bedrock 콘솔의 텍스트 Playground에서는 코딩이나 SDK 설정 없이 Claude 모델에 접근할 수 있다. 고객은 프롬프트를 보내고 추론 매개변수를 조정하며 모델 변형을 바꿔 보면서 API 통합 전에 각 모델의 응답을 시험할 수 있다. 시작하려면 소스 리전으로 사용할 리전의 Amazon Bedrock 콘솔을 열고, 탐색 메뉴의 Test 아래에서 Playground를 선택한 다음 Select model을 누른다. 원문의 예시는 Anthropic Claude Opus 5를 검색하고 Inference 항목에서 IN Anthropic Claude Opus 5 추론 프로파일을 선택한 뒤 Apply를 누르는 흐름을 보여 준다. 이후 프롬프트를 입력하고 Run을 선택하면 응답이 생성된다.

5. 프로그램 호출을 위한 준비 조건

프로그램에서 Claude 모델을 호출할 때는 India geographic 추론 프로파일 ID를 사용하며, 원문은 Anthropic SDK와 AWS CLI 및 AWS SDK를 통한 접근 경로를 소개한다. 준비 조건으로 Amazon Bedrock 접근 권한이 있는 활성 AWS 계정, 설치 및 설정이 완료된 AWS CLI, Python 3.8 이상을 제시한다. 필요한 패키지에는 Boto3와 Anthropic SDK가 포함되며, Amazon Bedrock 모델 추론 인증에 사용하는 Bedrock Token Generator도 설치 대상으로 안내한다. 해당 패키지의 설치 명령은 각각 pip install boto3, pip install anthropic, pip install aws_bedrock_token_generator로 제시된다. IAM 역할 또는 사용자에게는 geographic cross-Region 추론 프로파일로 Amazon Bedrock 모델을 호출하는 데 필요한 권한이 있어야 한다.

6. 세 가지 API 예시와 이용 현황 확인

InvokeModel 예시는 Boto3로 ap-south-1의 bedrock-runtime 클라이언트를 생성하고, in.anthropic.claude-sonnet-5를 호출하며 최대 출력 토큰을 4096으로 설정한다. Converse 예시도 같은 리전의 클라이언트를 사용하지만 모델 ID는 in.anthropic.claude-opus-5이며, 여러 모델에 통일된 방식으로 접근하는 용도로 소개된다. 이 예시의 최대 출력 토큰도 4096이고, 반환된 메시지의 콘텐츠에서 텍스트 블록을 읽는다. Anthropic Messages API 예시는 ap-south-1에서 인증 토큰을 생성하고 해당 리전 bedrock-runtime의 /anthropic 주소를 사용해 Claude Haiku 4.5를 호출하며, 최대 출력 토큰은 1024로 설정한다. 원문은 수요 증가에 맞춰 애플리케이션을 확장할 때 CloudWatch와 AWS Cost Explorer로 사용량·성능·비용을 모니터링할 수 있다고 안내한다. 결론에서는 인도 내 추론을 유지하면서 확장성과 복원력을 갖춘 생성형 AI 애플리케이션을 구축할 수 있다고 설명하고, 최신 리전별 모델 지원 여부는 Amazon Bedrock User Guide의 Regional availability by models에서 확인하도록 제시한다.

🧾 핵심 주장 / 시사점

• 인도 내 추론은 단일 리전 고정을 뜻하지 않는다. ap-south-1과 ap-south-2 사이의 데이터 이동을 허용하면서 처리 범위를 인도로 제한하는 방식이다.
• ZDR의 기본 비저장 원칙과 일부 모델의 AWS 사람 검토 조건은 함께 이해해야 한다. 원문은 기본 동작을 설명하면서도 검토 조건을 별도로 명시한다.
• 요청 처리 리전이 달라져도 과금·할당량·로그의 기준은 소스 리전으로 유지되므로, 분산 추론과 운영 정보의 관리 위치를 구분할 수 있다.

✅ 액션 아이템

• 인도 내 데이터 처리 요구에 맞춰 ap-south-1과 ap-south-2를 사용하는 India geographic cross-Region inference 적용 검토.
• Amazon Bedrock의 ZDR 기본 동작과 일부 모델의 AWS 사람 검토 조건 확인.
• Playground에서 Claude 모델을 시험한 뒤 Anthropic Messages API, InvokeModel API, Converse API 중 통합 방식 선택.

❓ 열린 질문

• ap-south-1과 ap-south-2 사이에서 입력 프롬프트와 출력 결과가 이동하는 방식이 필요한 인도 내 데이터 처리 요구에 부합하는가?
• Claude Opus 5, Claude Sonnet 5, Claude Haiku 4.5에는 각각 어떤 AWS 사람 검토 조건이 적용되는가?
• Playground에서 모델을 시험한 뒤 Anthropic Messages API, InvokeModel API, Converse API 중 어떤 방식으로 통합할 것인가?