Access OpenAI GPT models on Amazon Bedrock from Canada with cross-Region inference

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Amazon Bedrock의 교차 리전 추론(CRIS)을 통해 캐나다 두 리전에서 GPT-5.6·GPT-6·GPT-6.1 모델을 호출할 수 있으며, 처리 지역과 접근 권한은 추론 프로필에 맞춰 설정해야 한다.

📌 핵심 요약

• Canada (Central)의 ca-central-1과 Canada West (Calgary)의 ca-west-1에서 GPT-5.6 Sol·Terra·Luna, GPT-6 Astra·Sol·Luna, GPT-6.1 Sol에 접근할 수 있다. CRIS는 캐나다 소스 리전으로 들어온 요청을 지원 대상 리전으로 라우팅해 더 넓은 처리 용량을 활용한다.
• US geographic 프로필은 us. 접두사를 사용하고 처리 범위를 캐나다와 미국으로 제한한다. global. 접두사의 Global 프로필은 모델이 배포된 지원 상용 AWS 리전으로 요청을 보낸다. GPT-5.6의 Global 프로필은 ca-central-1에서만 제공되므로 ca-west-1에서는 US geographic 프로필을 사용해야 한다.
• 모델들은 텍스트·이미지 입력, 텍스트 출력, 100만 토큰 컨텍스트, 추론 모드, 도구 호출과 프롬프트 캐싱을 지원한다. GPT-6.1 Sol은 추가 입력·출력 모달리티도 지원한다고 설명하지만, 구체적인 내용은 모델 카드를 참조하도록 한다.
• 호출 전 IAM 권한과 조직의 SCP를 확인해야 한다. 배포 환경에는 최소 권한 정책을 권장하며, bearer token 인증에는 bedrock:CallWithBearerToken, Responses API에는 소스 리전의 project/default 리소스에 대한 bedrock:InvokeModel 권한이 추가로 필요하다.
• bedrock-runtime에서 OpenAI Responses API, OpenAI Chat Completions API, Amazon Bedrock Converse API를 사용할 수 있다. 원문은 Responses API의 스트리밍과 Converse 응답의 텍스트 블록 추출 예시를 제공하며, 프로필 구성과 모델 가용성이 바뀔 수 있어 배포 전 활성 프로필 확인을 요구한다.

🧩 주요 포인트

1. 소스 리전과 처리 리전의 분리 → 캐나다 엔드포인트 사용만으로 캐나다 내 처리가 보장되지는 않으며, 북미 처리 요건에는 US geographic 프로필을 맞춰 선택해야 한다.
2. 모델별 성능·비용·지연 특성과 리전별 프로필 차이 → 작업 성격에 따라 모델을 고르고, 특히 ca-west-1의 GPT-5.6은 US geographic 프로필 제약을 함께 반영해야 한다.
3. 공통 bedrock-runtime 엔드포인트와 서로 다른 API·권한 요건 → 기존 OpenAI SDK 또는 AWS SDK 사용 방식에 맞춰 접근 경로를 정하고, IAM·SCP 및 프로필의 모든 목적지 리전 허용 여부를 함께 검증해야 한다.

🧠 상세 정리

1. 캐나다에서 CRIS로 모델에 접근하는 방식

원문은 생성형 AI 애플리케이션을 구축하는 캐나다 조직이 캐나다 AWS 리전에서 최신 기반 모델에 접근해야 한다는 요구에서 출발한다. Amazon Bedrock의 교차 리전 추론인 CRIS를 사용하면 Canada (Central)과 Canada West (Calgary)를 소스 리전으로 삼아 GPT-5.6, GPT-6, GPT-6.1 계열을 호출할 수 있다고 설명한다. 애플리케이션은 소스 리전의 Amazon Bedrock Runtime 엔드포인트에 요청하고, 실제 처리를 수행할 지원 목적지 리전은 Amazon Bedrock이 선택한다. 이 방식은 더 넓은 처리 용량을 활용해 수요 급증 때 처리량 유지에 도움을 줄 수 있으며, 애플리케이션이 목적지 라우팅을 직접 관리할 필요를 줄인다. 다만 캐나다에서 요청한다는 사실과 실제 추론 처리 위치는 구분해야 하며, 처리 범위는 이후 설명하는 프로필 선택에 따라 달라진다.

2. 제공 모델의 작업별 포지셔닝

GPT-6.1 Sol은 성능과 비용을 함께 고려하는 작업에서 강한 추론·코딩 성능을 제공하는 모델로 소개된다. GPT-6 Astra는 복잡한 종단 간 추론과 에이전트 작업에, GPT-6 Sol은 정기적으로 수행하는 추론·코딩 작업과 그에 맞는 경제성에 초점을 둔다. GPT-6 Luna는 요청마다 추론 노력을 조정할 수 있으며, 대량 반복 작업을 위한 빠르고 저렴한 추론 모델로 설명된다. GPT-5.6 계열에서는 Sol이 높은 추론·코딩 성능과 에이전트 워크로드를, Terra가 일상적인 운영 환경에서 성능과 비용의 균형을 담당한다. GPT-5.6 Luna는 대량 요청과 지연 시간에 민감한 애플리케이션을 위한 빠르고 저렴한 선택지로 제시되며, 원문은 이러한 포지셔닝을 제시할 뿐 모델 간 정량적인 성능 비교 수치는 제공하지 않는다.

3. 공통 기능과 모델 카드의 역할

원문은 제공 모델들이 텍스트와 이미지를 입력받고 텍스트를 출력하며, 100만 토큰 컨텍스트 창과 추론 모드, 도구 호출을 지원한다고 설명한다. GPT-6.1 Sol도 같은 컨텍스트 크기와 도구 호출을 지원하지만, 추가 입력·출력 모달리티의 구체적인 내용은 해당 모델 카드에 문서화되어 있다고 덧붙인다. GPT-5.6, GPT-6, GPT-6.1은 Amazon Bedrock에서 프롬프트 캐싱도 지원한다고 명시되어 있으나, 제공된 본문 범위에는 캐싱 설정이나 동작을 설명하는 상세 절차가 없다. 세 모델 계열은 bedrock-runtime 엔드포인트에서 Responses API, Chat Completions API, Converse API로 접근할 수 있다. 가격은 Amazon Bedrock 가격 문서를, 모델별 리전 가용성과 지원 매개변수 같은 세부 사항은 Amazon Bedrock User Guide의 모델 카드를 참조하도록 안내한다.

4. US geographic과 Global 프로필의 차이

추론 프로필은 원시 모델 ID 대신 전달하는 논리적 식별자로, 사용할 모델과 요청을 라우팅할 수 있는 리전 집합을 정의한다. us. 접두사의 US geographic 프로필은 캐나다 소스 리전과 미국 리전으로 요청을 보내므로, 추론 처리를 북미 안에 유지해야 하는 워크로드에 맞는 선택으로 제시된다. global. 접두사의 Global 프로필은 해당 모델이 배포된 지원 상용 AWS 리전을 활용해 요청 시점에 더 넓은 처리 용량을 이용한다. GPT-6.1 Sol과 GPT-6 Astra·Sol·Luna는 두 캐나다 소스 리전 모두에서 두 프로필 유형을 제공하지만, GPT-5.6 Sol·Terra·Luna의 Global 프로필은 ca-central-1에서만 제공된다. 따라서 ca-west-1에서 GPT-5.6을 호출할 때는 US geographic 프로필을 사용해야 하며, 프로필 구성과 모델 가용성은 바뀔 수 있으므로 배포 전에 실제 상태를 확인해야 한다.

5. 시작 조건과 IAM 권한 설정

시작 조건은 ca-central-1 또는 ca-west-1을 소스 리전으로 활성화한 AWS 계정, 추론 프로필 호출 권한이 있는 IAM 역할이나 사용자, 필요한 경우 CRIS를 허용하는 SCP다. 실행 환경으로는 Python 3.9 이상과 openai, boto3, aws-bedrock-token-generator 패키지가 제시된다. 빠른 탐색에는 AWS 관리형 정책 AmazonBedrockLimitedAccess를 연결할 수 있지만, 접근 통제가 엄격한 배포 워크로드에는 최소 권한 사용자 정의 정책을 권장한다. GPT-6 Astra의 Global 프로필 예시는 해당 추론 프로필과 기반 모델에 bedrock:InvokeModel*을 허용하면서, 기반 모델 접근을 bedrock:InferenceProfileArn 조건으로 프로필에 연결한다. OpenAI SDK에서 bearer token 인증을 사용하면 bedrock:CallWithBearerToken 권한도 필요하고, Responses API에는 소스 리전의 project/default 리소스에 대한 bedrock:InvokeModel 권한을 추가해야 한다.

6. SCP 예외와 활성 프로필 검증

조직이 SCP로 리전을 제한한다면, 원문은 bedrock:InferenceProfileArn 조건 키를 사용해 CRIS 트래픽을 허용하면서 승인되지 않은 리전으로의 직접 호출을 막는 방식을 제시한다. 예시 SCP는 요청 리전이 ca-central-1과 ca-west-1 밖에 있고 허용된 OpenAI CRIS 프로필을 사용하지 않을 때 Amazon Bedrock 추론을 거부한다. 이 조건을 통해 일반적으로 차단된 목적지 리전에도 프로필 기반 라우팅이 가능하지만, 요청이 성공하려면 선택한 프로필의 모든 목적지 리전이 허용되어야 한다고 설명한다. 호출 전에는 AWS CLI의 list-inference-profiles로 소스 리전의 시스템 정의 OpenAI 프로필과 상태를 조회할 수 있으며, Calgary를 확인할 때는 리전 값을 ca-west-1로 바꾼다. 같은 정보는 Amazon Bedrock 콘솔에서 캐나다 리전을 선택한 뒤 Inference 아래 Cross-Region inference에서도 확인할 수 있다.

7. OpenAI 호환 API 호출과 스트리밍

OpenAI 호환 API는 리전별 bedrock-runtime 엔드포인트의 /openai/v1 경로에서 제공되며, 엔드포인트는 AWS Signature Version 4 또는 Amazon Bedrock API 키 인증을 받는다. 본문의 OpenAI SDK 예시는 현재 AWS 자격 증명으로 단기 API 키를 생성하는 provide_token을 사용하므로 애플리케이션에 정적 키를 저장할 필요가 없다고 설명한다. Responses API 예시는 ca-central-1 엔드포인트와 global.openai.gpt-6-astra를 사용하고, 최대 출력 토큰을 1024로 설정한다. 스트리밍 예시는 global.openai.gpt-6-luna에 stream=True와 최대 출력 512토큰을 지정한 뒤 response.output_text.delta 이벤트가 도착할 때마다 텍스트를 출력한다. Chat Completions 예시는 같은 엔드포인트에서 global.openai.gpt-5.6-terra를 호출하며, max_completion_tokens를 1024로, reasoning_effort를 low로 설정하고 전체 지원 매개변수는 모델 카드를 참조하도록 한다.

8. Converse 호출과 제공 본문의 범위

AWS SDK로 Amazon Bedrock을 사용하는 애플리케이션에는 Converse API가 제시되며, Boto3는 표준 AWS 자격 증명 체인을 통해 인증 정보를 확인한다. 예시는 ca-central-1에서 us.openai.gpt-5.6-terra를 호출하고 최대 토큰을 1024로 지정하며, 응답에 reasoningContent 블록이 함께 올 수 있어 text가 있는 블록을 골라 출력한다. 원문은 추론 프로필 ID를 바꾸면 GPT-6 Sol, GPT-6 Luna, GPT-6.1 Sol도 같은 방식으로 호출할 수 있고, 데이터 경계에 맞춰 us. 또는 global. 프로필을 선택한다고 설명한다. 이어지는 설명은 GPT-6 Sol의 US geographic 프로필과 GPT-6 Luna의 Global 프로필 예시가 ca-central-1에서 검증되었다고 밝히지만, 제공된 본문은 GPT-6 Sol 호출 코드 도중에 잘려 있다. 도입부에서 예고한 도구 사용 예시, 할당량 증액, 소스 리전의 관측 신호와 정리 절차는 제공 범위에 상세 내용이 없어 구체적인 실행 방법까지 확인할 수 없다.

🧾 핵심 주장 / 시사점

• 캐나다 리전의 엔드포인트를 사용한다는 사실만으로 추론이 캐나다 안에서 처리된다고 해석할 수 없다. 원문이 제시하는 US geographic의 처리 경계도 캐나다 단독이 아닌 캐나다와 미국이다.
• CRIS의 처리 용량 확대 효과는 프로필의 라우팅 범위와 연결되므로, 모델 선택과 데이터 처리 지역 요건을 함께 판단해야 한다.
• OpenAI SDK를 유지할 수 있는 호환 경로가 제공되지만, 실제 호출 성공에는 Amazon Bedrock의 IAM 권한, SCP 조건, 리전별 프로필 가용성이 함께 영향을 준다.

✅ 액션 아이템

• 북미 처리 요건이 있는 워크로드에 US geographic 프로필 적용 여부 검토.
• ca-west-1에서 GPT-5.6 사용 시 US geographic 프로필 선택과 배포 전 활성 프로필 확인.
• Responses API 사용에 필요한 project/default의 bedrock:InvokeModel 권한과 bearer token 인증의 bedrock:CallWithBearerToken 권한 점검.

❓ 열린 질문

• 워크로드의 처리 지역 요건은 US geographic 프로필의 캐나다·미국 범위로 충족되는가?
• ca-west-1의 GPT-5.6에 적용되는 US geographic 프로필 제약이 모델과 소스 리전 선택에 어떤 영향을 주는가?
• Responses API, Chat Completions API, Converse API 중 기존 SDK 사용 방식과 IAM·SCP 조건에 가장 적합한 접근 경로는 무엇인가?