Accessing OpenAI GPT models on Amazon Bedrock with global cross-Region inference in Thailand, Malaysia, Singapore, Indonesia, and Taiwan

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Amazon Bedrock은 글로벌 교차 리전 추론으로 태국·말레이시아·싱가포르·인도네시아·대만의 5개 AWS 리전에서 GPT-6 Sol·GPT-6 Luna를, 싱가포르에서 GPT-6 Astra를 호출하는 구성과 권한 설정을 안내한다.

📌 핵심 요약

• 단일 리전의 수요가 현지 용량을 초과하면 추론이 제한될 수 있다. 글로벌 교차 리전 추론은 모델이 배포된 지원 상용 AWS 리전으로 요청을 분산하며, 제시된 표에서 GPT-6 Sol·GPT-6 Luna의 출발 리전은 싱가포르·자카르타·말레이시아·태국·타이베이이고 GPT-6 Astra는 싱가포르다. 지원 리전과 프로필은 변경될 수 있어 모델 카드 확인이 필요하다.
• GPT-6 Sol은 복잡한 추론·코딩, GPT-6 Luna는 대량의 집중적·반복적 작업, GPT-6 Astra는 복잡한 추론·코딩·긴 문서 작업을 겨냥한다. 세 모델 모두 텍스트·이미지 입력, 클라이언트 측 도구 사용, 프롬프트 캐싱을 지원한다. 추론 노력은 Sol·Luna가 none·low·medium·high·xhigh·max를, Astra가 none을 제외한 수준을 지원한다.
• 호출은 bedrock-runtime에서 모델 ID 대신 글로벌 추론 프로필 ID를 사용하며, Converse API·OpenAI Responses API·OpenAI Chat Completions API를 지원한다. Amazon Bedrock이 처리할 목적지 리전을 선택하고 청구·할당량 추적·AWS CloudTrail·Amazon CloudWatch는 출발 리전에 유지된다. 출발 리전만 활성화하면 되며, 기본 활성화된 싱가포르와 달리 자카르타·말레이시아·태국·타이베이는 사전 활성화가 필요하다.
• OpenAI 호환 API는 /openai/v1 경로에서 SigV4 또는 Amazon Bedrock API 키를 사용하며, 예제의 provide_token은 AWS 자격 증명으로 최대 12시간 유효한 단기 키를 생성한다. 기존 클라이언트는 모든 요청에 model을 지정하고 프로필 ID를 직접 설정해야 한다. ChatGPT 데스크톱 앱과 Codex CLI는 ~/.codex/config.toml을 공유하며 amazon-bedrock-runtime 제공자를 사용한다. 이 구성은 Codex CLI 0.148 이상이 필요하고, 표시되는 272,000토큰 창은 서비스 한도가 아닌 Codex 자체 값이다.
• IAM 예제는 출발 리전의 프로필·project/default, 프로필 조건이 붙은 출발 리전 모델, aws:RequestedRegion이 unspecified인 리전 비지정 모델 ARN, API 키 인증용 bedrock:CallWithBearerToken의 네 구문을 제시한다. 스트리밍에는 앞의 세 구문에 bedrock:InvokeModelWithResponseStream을 추가하고, Converse를 SigV4로만 호출하면 API 키 인증 구문을 제외할 수 있다. 원문은 SCP·할당량 관리·모니터링 설명을 예고하지만, 제공된 본문은 IAM의 모델 교체 설명 중간에서 끝난다.

🧩 주요 포인트

1. 단일 리전 용량 제약 → 글로벌 라우팅으로 지원 리전의 용량에 접근하되, 모델별 출발 리전과 실제 처리 리전을 구분해야 한다.
2. API 호환성과 공유 클라이언트 설정 → 기존 호출 경로를 활용할 수 있지만, 글로벌 프로필 ID·추론 노력·제공자·버전 조건을 맞춰야 한다.
3. 출발 리전에 유지되는 운영 기록과 교차 리전 IAM 권한 → 관측 위치와 호출 허용 범위는 별도로 이해해야 하며, 제공된 본문만으로 SCP·할당량 관리의 구체적 구성을 확정할 수 없다.

🧠 상세 정리

1. 단일 리전의 용량 제약과 모델 접근 범위

원문은 단일 리전에서 수요가 현지 용량을 초과하면 추론 요청이 제한될 수 있다는 문제에서 출발하며, 태국·말레이시아·싱가포르·인도네시아·대만의 팀이 그 용량을 넘어 최신 OpenAI 모델에 접근할 필요가 있다고 설명한다. 이에 Amazon Bedrock의 글로벌 교차 리전 추론을 소개하고, GPT-6 Sol과 GPT-6 Luna는 다섯 출발 리전에서, GPT-6 Astra는 싱가포르에서 사용할 수 있다고 안내한다. 도입부에는 세 모델 모두 앞서 언급한 리전에서 제공된다는 포괄적 문장도 있지만, 구체적인 표는 Astra의 출발 리전을 싱가포르로 한정한다. 따라서 모델별 접근 범위는 본문의 표를 기준으로 구분하되, 원문 내부의 표현 차이와 지원 범위가 바뀔 가능성을 함께 고려해야 한다. 글은 싱가포르를 호출 출발점으로 삼아 API와 코딩 클라이언트 설정을 설명한 뒤 권한과 운영 관리로 논의를 이어간다.

2. GPT-6 모델별 역할과 추론 프로필

GPT-6 Sol은 복잡한 작업에 필요한 강한 추론·코딩 능력, GPT-6 Luna는 대량으로 수행하는 집중적이고 반복적인 작업, GPT-6 Astra는 복잡한 추론·코딩과 긴 문서 작업을 위한 모델로 소개된다. 세 모델은 모두 텍스트와 이미지 입력, 클라이언트 측 도구 사용, 프롬프트 캐싱을 지원하지만 추론 노력 설정에는 차이가 있다. Sol과 Luna는 none, low, medium, high, xhigh, max를 허용하고 Astra는 이 가운데 none을 허용하지 않는다. 프로필 ID는 각각 global.openai.gpt-6-sol, global.openai.gpt-6-luna, global.openai.gpt-6-astra이며, 앞의 두 프로필은 다섯 출발 리전, 마지막 프로필은 싱가포르에 대응한다. 원문은 AWS가 리전과 프로필을 추가하면 지원 범위가 달라질 수 있으므로 구축 전에 각 모델 카드를 확인하고, 토큰당 요금은 Amazon Bedrock 가격 자료를 참조하도록 안내한다.

3. 글로벌 라우팅과 출발 리전의 운영 역할

글로벌 교차 리전 추론은 모델이 배포된 지원 상용 AWS 리전들로 요청을 라우팅해 Amazon Bedrock의 용량에 폭넓게 접근하도록 한다. 호출자는 일반 모델 ID 대신 글로벌 교차 리전 추론 프로필 ID를 전달하며, API를 호출하는 위치가 출발 리전이고 실제 요청을 처리할 목적지 리전은 Amazon Bedrock이 선택한다. 따라서 출발 리전과 처리 리전은 서로 다른 역할을 맡으며, 원문은 특정 목적지로의 고정 라우팅을 설명하지 않는다. 청구, 할당량 추적, AWS CloudTrail, Amazon CloudWatch는 출발 리전에 유지되므로 글로벌 처리와 운영 기록의 위치를 구분해서 이해해야 한다. 목적지는 해당 모델이 배포된 지원 상용 AWS 리전으로 제시되며, 프로필별 전체 출발·목적지 목록은 별도의 지원 리전 문서에서 확인하도록 안내한다.

4. 호출 전 준비와 출발 리전 활성화

시작에 필요한 조건은 추론 프로필을 호출할 권한이 있는 IAM 자격, 활성화된 출발 리전, 최신 AWS SDK 또는 CLI다. 활성화 대상은 호출을 시작하는 출발 리전뿐이며, 목적지 리전은 Amazon Bedrock이 관리하는 용량에서 실행되므로 사용자가 별도로 활성화할 필요가 없다고 설명한다. 싱가포르 ap-southeast-1은 기본 활성화 리전이지만, 자카르타 ap-southeast-3, 말레이시아 ap-southeast-5, 태국 ap-southeast-7, 타이베이 ap-east-2는 먼저 활성화해야 하는 선택 가입 리전이다. OpenAI 호환 예제에는 OpenAI SDK와 Amazon Bedrock 토큰 생성기도 필요하며, 원문은 pip install boto3 openai aws-bedrock-token-generator를 설치 명령으로 제시한다. Amazon Bedrock 콘솔에서는 세 글로벌 프로필을 시스템 정의 추론 프로필 목록에서 확인할 수 있고, 이후 예제는 싱가포르를 기본 출발 리전으로 사용한다.

5. Converse API 호출과 응답 처리

세 모델은 bedrock-runtime 엔드포인트에서 Converse API, OpenAI Responses API, OpenAI Chat Completions API의 세 접근 경로를 지원하며, 원문은 먼저 boto3의 Converse 호출을 보여준다. 예제는 AWS_REGION이 없으면 ap-southeast-1을 사용하고, BEDROCK_PROFILE_ID가 없으면 global.openai.gpt-6-sol을 사용해 modelId에 프로필 ID를 전달한다. 최대 출력은 1,024토큰으로 설정하고 추론 노력은 low를 지정하며, 프로필 값을 Luna 또는 Astra로 바꾸거나 converse_stream으로 스트리밍을 사용할 수 있다고 설명한다. none보다 높은 추론 노력에서는 reasoningContent 블록이 앞에 붙을 수 있으므로, 응답의 첫 번째 블록을 가정하지 않고 text 키가 있는 블록을 모아 출력한다. 코드 주석은 AccessDeniedException이 IAM 정책 문제를 가리키고 ValidationException은 대개 모델 ID가 글로벌 추론 프로필이 아닐 때 발생한다고 설명하며, 호출 프로필·출발 리전·종료 사유·응답을 로그에 남긴다.

6. OpenAI 호환 API와 기존 클라이언트 이전

OpenAI 호환 API는 AWS SDK를 통한 호출 대신 리전별 bedrock-runtime 엔드포인트의 /openai/v1 경로를 사용하며, 인증에는 SigV4 또는 Amazon Bedrock API 키를 사용할 수 있다. Chat Completions 예제는 OpenAI SDK의 base_url을 이 경로로 지정하고, provide_token으로 AWS 자격 증명에서 최대 12시간 유효한 단기 키를 생성해 전달한다. 요청에는 동일한 글로벌 프로필 ID를 model로 지정하고 max_completion_tokens를 256으로 설정하며, 반환된 메시지 내용을 로그에 기록한다. 기존 OpenAI 클라이언트를 이전할 때는 이전 응답을 참조하는 요청까지 포함해 모든 요청에 model을 지정하고, models 엔드포인트를 조회하는 대신 추론 프로필 ID를 클라이언트에 직접 설정해야 한다. 원문이 나열한 지원 도구 유형은 function, mcp, custom, namespace, tool_search이며, Responses API도 접근 경로로 소개되지만 제공된 본문에 구체적인 호출 예제는 없다.

7. ChatGPT 데스크톱 앱과 Codex CLI 설정

ChatGPT 데스크톱 앱과 Codex CLI는 ~/.codex/config.toml을 공유하므로 한 번의 설정 변경이 두 클라이언트에 적용된다. 내장 Amazon Bedrock 제공자 두 개 중 추론 프로필을 받아들이는 것은 amazon-bedrock-runtime이며, 예제는 model에 global.openai.gpt-6-astra를, 제공자의 AWS region에 ap-southeast-1을 지정한다. SigV4 서명을 사용하므로 교체할 API 키가 없고, 기본값 이외의 AWS 프로필을 쓰려면 profile 항목을 추가하며, region을 생략하면 AWS_REGION으로 대체되므로 명시적으로 설정하도록 안내한다. 이 구성에는 Codex CLI 0.148 이상이 필요하고, 모델을 바꾸려면 model에 다른 추론 프로필 ID를 넣으면 된다. Codex가 해당 프로필에 표시하는 272,000토큰 창은 서비스 한도가 아니라 자체적으로 포함한 값이며, model_context_window로 더 높게 설정할 수 있다는 설명을 덧붙인다.

8. IAM 권한과 제공된 설명의 한계

원문은 IAM이 역할별로 호출 가능한 프로필을 제어하고 SCP가 리전 범위를 포함한 조직 전체 통제를 적용한다고 설명한 뒤, 싱가포르에서 GPT-6 Sol을 호출하는 IAM 정책을 제시한다. 정책은 출발 리전의 추론 프로필과 project/default 접근, 해당 프로필로 조건을 제한한 출발 리전의 기반 모델 접근, 리전이 없는 기반 모델 ARN에 대한 접근, API 키 인증용 bedrock:CallWithBearerToken의 네 구문으로 구성된다. 리전이 없는 arn:aws:bedrock:::foundation-model/openai.gpt-6-sol에는 aws:RequestedRegion을 unspecified로 설정하고 bedrock:InferenceProfileArn 조건을 붙여 교차 리전 라우팅을 허용한다. Converse는 bedrock:InvokeModel로 권한을 검사하며, 스트리밍에는 앞의 세 구문에 bedrock:InvokeModelWithResponseStream을 추가하고 SigV4로 Converse만 호출한다면 네 번째 구문을 제외할 수 있다. 제공된 본문은 모델을 바꿀 때 openai.gpt-6-sol을 교체하라는 설명 중간에서 끝나므로, 예고된 SCP 구성과 할당량 관리·모니터링의 세부 절차는 이 자료만으로 확인할 수 없다.

🧾 핵심 주장 / 시사점

• 글로벌 교차 리전 추론의 핵심은 지원 상용 리전의 모델 용량에 접근하는 것이며, 모든 모델이 동일한 출발 리전을 지원한다고 해석하면 GPT-6 Astra의 표상 제약을 놓칠 수 있다.
• OpenAI 호환 API를 사용하더라도 추론 프로필 ID의 직접 지정과 요청별 model 설정이 필요하므로, API 호환성만으로 기존 클라이언트의 모든 설정이 그대로 적용되는 것은 아니다.
• 출발 리전에 청구와 관측 기록이 유지된다는 설명과 목적지 리전에서 요청이 처리된다는 설명은 함께 읽어야 한다. 또한 Codex의 272,000토큰 표시를 Amazon Bedrock의 서비스 한도로 해석하지 않아야 한다.

✅ 액션 아이템

• GPT-6 Sol·GPT-6 Luna·GPT-6 Astra의 모델 카드에서 사용할 출발 리전과 현재 추론 프로필 지원 범위를 확인한다.
• 선택한 API에 글로벌 프로필 ID를 지정하고, ChatGPT 데스크톱 앱·Codex CLI 사용 시 amazon-bedrock-runtime 설정과 Codex CLI 0.148 이상 조건을 적용한다.
• IAM 호출 권한을 인증 방식에 맞게 구성하고, 스트리밍 사용 시 bedrock:InvokeModelWithResponseStream을 추가한다.

❓ 열린 질문

• 실제 호출에 사용할 출발 리전은 어디이며, 해당 리전에서 GPT-6 Sol·GPT-6 Luna·GPT-6 Astra 중 어떤 모델이 현재 지원되는가?
• 대상 작업은 GPT-6 Sol의 복잡한 추론·코딩, GPT-6 Luna의 대량 반복 작업, GPT-6 Astra의 긴 문서 작업 중 어디에 해당하며 어떤 추론 노력 수준이 필요한가?
• 제공된 본문에서 구체적 설명이 빠진 SCP·할당량 관리·모니터링에는 어떤 추가 구성이 필요한가?