产品AWS Machine Learning·原文 2026年10月21日

亚马逊Bedrock加拿大区域可通过跨区域推理调用OpenAI GPT-5.6、GPT-6与GPT-6.1

AWS称加拿大(中部)和加拿大西部(卡尔加里)两个区域的用户可通过跨区域推理访问这些模型;推理在北美处理,数据默认静态存储于源区域,被滥用分类器标记的内容可能在目标区域保留至多 30 天。

AI解读:AWS在一篇技术博文中宣布,Amazon Bedrock的加拿大源区域现在可以通过跨区域推理(CRIS)调用OpenAI的GPT-5.6、GPT-6和GPT-6.1系列模型,覆盖加拿大(中部)ca-central-1与加拿大西部(卡尔加里)ca-west-1。

跨区域推理是一种容量机制:应用调用源区域的Bedrock Runtime端点,由Bedrock将请求路由到受支持的目标区域处理,从而使用更大的容量池,应用本身无需管理目标区域路由。

AWS提供两类推理配置文件:us.前缀的地理配置文件将请求路由到源区域及美国区域;global.前缀的全局配置文件路由到该模型已部署的受支持商业区域。两类配额分开计算。

调用方式包括OpenAI Responses API、Chat Completions API和Bedrock Converse API,走bedrock-runtime端点的 /openai/v1路径,支持SigV4或Bedrock API key认证。这些模型支持文本和图像输入、100 万token上下文、推理模式和工具调用,并支持提示缓存。

数据驻留方面,AWS称静态数据默认留在源区域,只有推理计算在目标区域进行;但OpenAI模型有一项特殊限制:被自动滥用分类器标记的内容可能在目标区域保留至多 30 天供审查。若需将处理限制在北美,可选us.地理配置文件。

AWS建议在部署前用CLI或控制台核对源区域当前生效的推理配置文件,并提前在Service Quotas中申请每分钟token配额提升;可观测性数据记录在源区域,CloudTrail的inferenceRegion字段标明实际处理区域。

AWS机器学习博客发布文章称,加拿大客户现在可以通过Amazon Bedrock的跨区域推理,在加拿大(中部)ca-central-1和加拿大西部(卡尔加里)ca-west-1两个源区域调用OpenAI GPT-5.6、GPT-6和GPT-6.1系列模型。文章由AWS作者Roopesh Ramklass撰写,属于服务方发布的功能说明。

哪些模型、从哪些区域可用

AWS列出的模型包括GPT-5.6的Sol、Terra、Luna,GPT-6的Astra、Sol、Luna,以及GPT-6.1 Sol。这些模型在两个加拿大区域均通过跨区域推理提供,但推理配置文件的可用范围不同:GPT-5.6系列的global.配置文件仅在ca-central-1提供,从ca-west-1使用时需选us.地理配置文件。

  • GPT-6.1 Sol:定位为兼顾性能与成本的强推理与编码模型。
  • GPT-6 Astra:面向复杂端到端推理与智能体任务。
  • GPT-6 Sol:面向常规任务的强推理与编码。
  • GPT-6 Luna:面向高并发重复任务的快速低成本推理,可按请求调整推理强度。
  • GPT-5.6 Sol / Terra / Luna:分别对应高推理与编码、日常生产均衡、高并发低延迟三类场景。

跨区域推理如何路由与限制数据

应用调用源区域的Bedrock Runtime端点,Bedrock再把请求路由到目标区域处理。us.地理配置文件把请求限制在加拿大源区域和美国区域,适合要求推理处理留在北美的负载;global.配置文件则调用模型已部署的受支持商业区域,以获得更大的容量池。

AWS称请求经AWS私有骨干网以TLS 1.2+加密传输,静态数据默认留在源区域,包括调用日志、知识库和配置,只有临时的推理计算发生在目标区域,模型提供方默认无法访问提示词或补全内容。

  • OpenAI模型的特殊项:被自动滥用分类器标记的内容可能在目标区域保留至多 30 天供审查。
  • AWS建议与合规团队一起审阅Abuse detection文档。
  • 每个所选配置文件中的目标区域都必须被允许,请求才能成功。

调用方式与权限

三种访问路径都在bedrock-runtime端点上:OpenAI Responses API、OpenAI Chat Completions API和Bedrock Converse API,OpenAI兼容接口走 /openai/v1路径,支持SigV4或Bedrock API key认证。文章给出了用token生成器创建短期API key的Python示例。

权限方面,快速试用可挂载AmazonBedrockLimitedAccess托管策略,生产环境建议使用最小权限自定义策略;使用bearer token认证还需授予bedrock:CallWithBearerToken,Responses API需对project/default授予bedrock:InvokeModel。若组织用SCP限制区域,可用bedrock:InferenceProfileArn条件键放行CRIS流量而阻断对未批准区域的直接调用。

  • 需启用ca-central-1或ca-west-1作为源区域。
  • 需Python 3.9及以上,安装openai、boto3、aws-bedrock-token-generator。
  • 部署前可用aws bedrock list-inference-profiles或控制台核对生效的配置文件。

配额、观测与成本

跨区域推理配额以每分钟token计,输入与输出合并计算,输出token按模型的burndown倍率折算,输出密集的负载消耗配额更快。us.和global.配置文件配额独立,切换会改变可用容量池。

观测数据记录在源区域:CloudWatch按配置文件发布调用次数、token数、延迟、限流和错误指标;CloudTrail记录每次请求,并在additionalEventData.inferenceRegion中标注实际处理区域。模型调用日志默认关闭,开启后可将完整请求与响应负载投递到S3或CloudWatch Logs。AWS Data Exports可按模型和配置文件拆分支出。

  • 提示缓存对这三个系列可用,隐式缓存自动生效,前缀达 1024 token及以上即可命中。
  • 命中缓存的token按折扣计费,且不计入每分钟token配额。
  • 测试结束后应关闭模型调用日志,删除或解绑测试用IAM策略与API key;系统定义的配置文件闲置不产生费用。

信息来源

更多

新闻专题
外观