产品AWS Machine Learning·原文 2026年10月13日

AWS在五个亚太区域上线Bedrock全球跨区域推理,可调用OpenAI GPT-6三款模型

AWS称在泰国、马来西亚、新加坡、印尼和台湾的Bedrock用户可通过全球跨区域推理配置文件调用GPT-6 Sol、Luna、Astra,源区域的计费、配额、CloudTrail和CloudWatch记录保持不变。

AI解读:AWS发布博客文章,介绍如何在新加坡(ap-southeast-1)、雅加达(ap-southeast-3)、马来西亚(ap-southeast-5)、泰国(ap-southeast-7)和台北(ap-east-2)五个源区域通过全球跨区域推理调用OpenAI GPT-6 Sol、Luna和Astra。

据AWS说明,全球跨区域推理会把请求路由到模型已部署的受支持商业区域,调用方式是使用推理配置文件ID代替模型ID;源区域负责发起API调用,目标区域由Amazon Bedrock选择。

AWS称计费、配额跟踪、CloudTrail和CloudWatch均保留在源区域,并按源区域费率计费,而不是处理区域费率。

AWS列出了区域激活差异:新加坡默认启用,雅加达、马来西亚、泰国和台北为需要先激活的opt-in区域;只有发起调用的源区域需要激活,目标区域由Bedrock托管容量运行。

在权限方面,AWS说明调用需要IAM策略,全球跨区域推理请求的aws:RequestedRegion为unspecified,区域白名单式SCP会拒绝此类调用,AWS建议使用bedrock:InferenceProfileArn条件键来放行这些配置文件。

配额方面,AWS称GPT-6在bedrock-runtime上的配额以每分钟token数衡量并按源区域跟踪,输入和缓存写入token按1:1计数,每个输出token消耗10个配额单位,建议生产前提前申请提高配额。

AWS于其机器学习博客发布文章,介绍在Amazon Bedrock上通过全球跨区域推理配置文件调用OpenAI GPT-6系列模型的方法。文章说明,泰国、马来西亚、新加坡、印度尼西亚和台湾的用户可从各自源区域发起调用,以获取超出单区域容量的模型访问。

文章列出三款模型的配置文件ID和适用源区域:global.openai.gpt-6-sol与global.openai.gpt-6-luna适用于新加坡(ap-southeast-1)、雅加达(ap-southeast-3)、马来西亚(ap-southeast-5)、泰国(ap-southeast-7)和台北(ap-east-2);global.openai.gpt-6-astra的源区域为新加坡。目标区域为模型已部署的受支持商业AWS区域。

调用方式与区域规则

AWS称,这三种GPT-6模型均可通过全球跨区域推理访问,调用端点为bedrock-runtime,用户将推理配置文件ID作为model传入,即可替代普通模型ID。文章演示了通过Converse API、OpenAI Responses API和OpenAI Chat Completions API三种路径进行调用。

关于区域,文章说明新加坡(ap-southeast-1)是默认启用的区域;雅加达(ap-southeast-3)、马来西亚(ap-southeast-5)、泰国(ap-southeast-7)和台北(ap-east-2)是需要先激活的opt-in区域。AWS强调只有发起调用的源区域需要激活,目标区域运行在Amazon Bedrock托管容量上,无需用户激活。

AWS在文章中称,全球跨区域推理配置文件的可用性和区域支持会随AWS新增区域和配置文件而变化,建议在构建前先查看对应模型卡片确认。

  • 源区域:新加坡、雅加达、马来西亚、泰国、台北(其中新加坡默认启用,其余为opt-in)
  • GPT-6 Sol和GPT-6 Luna:global.openai.gpt-6-sol、global.openai.gpt-6-luna,五个源区域均可调用
  • GPT-6 Astra:global.openai.gpt-6-astra,仅从新加坡调用
  • 目标区域:模型已部署的受支持商业AWS区域,由Amazon Bedrock选择
  • 计费、配额跟踪、CloudTrail和CloudWatch保留在源区域

权限、配额与监控

AWS说明,调用任何全球跨区域推理配置文件都需要IAM策略授权,文章给出了包含四条Statement的策略示例,分别覆盖推理配置文件与源区域的project/default资源、源区域的基座模型、区域无关ARN的基座模型,以及用于API密钥认证的bedrock:CallWithBearerToken。若使用流式调用,需在前三条中增加bedrock:InvokeModelWithResponseStream。

文章提到一处常见失败原因:全球跨区域推理请求不携带区域名,Amazon Bedrock将aws:RequestedRegion设为unspecified,因此区域白名单式SCP会拒绝这类调用,且错误信息只显示策略类型而不显示具体策略。AWS给出的解决办法是利用bedrock:InferenceProfileArn条件键对global.*配置文件做例外放行,同时保留其他服务的区域控制。

配额方面,文章称GPT-6在bedrock-runtime上的配额按每分钟token数计算并跟随源区域,输入和缓存写入token按1:1计数,每个输出token消耗10个token配额;例如2000输入token加1000输出token的请求会消耗12000配额。Amazon Bedrock会预扣完整的max_tokens,因此AWS建议将其设置为接近预期完成量,并在生产前通过Service Quotas控制台提前申请提高配额。

监控方面,AWS称CloudWatch指标、CloudTrail事件、模型调用日志、配额核算和账单都留在源区域,每条请求的处理位置记录在CloudTrail的additionalEventData.inferenceRegion字段中;CloudTrail Event History保留90天,更长时间需要创建trail或启用模型调用日志。

  • IAM需授权bedrock:InvokeModel及bedrock:CallWithBearerToken(仅SigV4时可省略后者)
  • SCP区域白名单会拦截全球跨区域推理,AWS建议用bedrock:InferenceProfileArn条件放行global.*配置文件
  • 输入和缓存写入token按1:1计配额,输出token按10:1计配额
  • AWS建议在EstimatedTPMQuotaUsage达到配额的70%到80%时告警
  • CloudTrail按管理事件默认记录,不额外收费

数据保留与合规提示

AWS在文中说明,用于自动化离线滥用检测的流量,若被分类器标记,AWS会保留最多30天并以程序方式处理。在全球跨区域推理下,这种保留发生在目标区域,而对于全球配置文件,目标区域是模型已部署的任意受支持商业区域。

文章称,符合条件的客户可以通过其AWS客户团队申请完全零数据保留。AWS建议有数据驻留要求的组织尽早将此告知风险与合规团队,并建议客户就自身业务相关要求自行获取专业意见。

AWS还提到ChatGPT桌面应用和Codex CLI共用~/.codex/config.toml,可一次配置同时覆盖两者;使用amazon-bedrock-runtime提供商并传入推理配置文件ID。AWS称Codex报告这些配置文件的上下文窗口为272000 token,并注明这是Codex自身捆绑的数值而非服务限制,需要Codex CLI 0.148或更高版本。

  • 被分类器标记的流量,AWS保留最多30天,用于自动化离线滥用检测
  • 全球配置文件下,保留发生在目标区域,即任意受支持商业AWS区域
  • 符合条件客户可向AWS申请完全零数据保留
  • ChatGPT桌面应用与Codex CLI共享同一配置文件,需Codex CLI 0.148或更高版本

信息来源

更多

新闻专题
外观