月之暗面Kimi K3上线Amazon Bedrock：2.8 万亿参数开源模型，支持提示词缓存
AWS称Kimi K3是Moonshot AI迄今最强模型，也是首个参数规模达 2.8 万亿的开源模型，具备原生视觉能力和 100 万token上下文窗口；它是Amazon Bedrock上首个支持显式提示词缓存的开源权重模型。
AI解读：Kimi K3上线Amazon Bedrock，这是Moonshot AI目前最强的模型，也是首个达到 2.8 万亿参数的开源模型。AWS通过跨区域推理配置文件提供调用，用户可以直接在Bedrock控制台试用，或通过OpenAI兼容接口编程调用。
对开发者来说，最实际的变化是显式提示词缓存。长时间运行的编码和知识工作流常重复发送仓库说明、工具定义或参考文档，Kimi K3允许标记可复用前缀，命中缓存的输入token不仅打折计费，还不占用每分钟输入token配额，缓存至少保留 30 分钟。
Kimi K3的原生视觉能力和 100 万token上下文窗口让它适合跨大型代码库、文档和图像的长周期任务。Moonshot AI声称其扩展效率比Kimi K2提升约 2.5 倍。AWS表示，所有开源权重模型的数据都在AWS数据边界内处理，不与模型提供商共享，也不用于训练底层模型。
模型可通过全球配置文件调用，成本比地理配置文件低约 10%；有数据驻留要求的工作负载则可选美国地理配置文件。全球配置文件会将请求路由到全球任何受支持的商业AWS区域。
AWS宣布，Moonshot AI的Kimi K3已在Amazon Bedrock上线。AWS称，根据Moonshot AI的说法，Kimi K3是其迄今能力最强的模型，也是首个参数规模达到 2.8 万亿的开源模型。
Kimi K3结合了原生视觉能力与 100 万token上下文窗口，相比Kimi K2在扩展效率上提升约 2.5 倍。AWS表示，这些特性使其适合需要跨大型代码库、文档和图像维持长上下文的编码与知识工作流。
该模型是Amazon Bedrock上首个支持显式提示词缓存的开源权重模型。缓存可帮助减少复用上下文时的延迟和输入成本。
显式提示词缓存：至少 1,024 token才可标记，缓存保留至少 30 分钟
Kimi K3的显式提示词缓存面向长时间运行的编码和知识工作流。这类工作流常重复发送稳定上下文，例如仓库指令、工具定义或参考文档。用户可在受支持的输入内容上添加prompt_cache_breakpoint，标记可复用提示词前缀的准确结束位置，前缀至少需达到 1,024 个token。
AWS说明，请求匹配到已缓存前缀时，Amazon Bedrock可降低响应延迟和输入token成本。显式模式下，写入缓存的token按较高费率计费，但会保留在缓存中至少 30 分钟。后续命中缓存的匹配请求，输入token按折扣费率计费，且不计入每分钟输入token配额。
- 标记可复用前缀需至少 1,024 个token
- 写入缓存的token按较高费率计费，保留至少 30 分钟
- 命中缓存的请求输入token享折扣，且不占每分钟输入token配额
- 支持通过OpenAI Python API的prompt_cache_options启用显式缓存模式
调用方式：全球配置文件比地理配置文件便宜约 10%
Kimi K3目前通过美国地理（us.）和全球（global.）跨区域推理配置文件在Amazon Bedrock上提供。全球配置文件global.moonshotai.kimi-k3将每个请求路由到全球任何受支持的商业AWS区域，AWS称全球跨区域推理成本比地理配置文件低约 10%。
美国地理配置文件us.moonshotai.kimi-k3将处理保持在美国地理范围内，以满足数据驻留要求。用户可在Amazon Bedrock控制台的Test > Playground中选择Kimi K3试用，也可通过bedrock-runtime端点调用，支持OpenAI兼容的Responses和Chat Completions API，以及Amazon Bedrock的Invoke和Converse API。
使用前需要活跃的AWS账户并开通Amazon Bedrock访问权限、Python 3.10+，以及调用模型的IAM权限：bedrock:InvokeModel、bedrock:InvokeModelWithResponseStream和bedrock:CreateInference。
- 全球跨区域推理成本比地理配置文件低约 10%
- 支持OpenAI兼容的Responses和Chat Completions API
- 支持Amazon Bedrock Invoke和Converse API
- 需要Python 3.10+及特定IAM权限
数据边界与第三方工具支持
AWS强调，Kimi K3与其他Amazon Bedrock上的开源权重模型一样，用户无需改变安全姿态。数据在AWS数据边界内处理，不与模型提供商共享，也不用于训练底层模型。推理请求始终启用零数据保留，零操作员访问可防止AWS操作员在推理期间访问用户的提示词和补全内容。
Kimi K3可通过支持Amazon Bedrock或OpenAI兼容模型提供商的编码助手、个人智能体和代理框架使用。AWS以OpenCode为例说明编码助手接入方式：OpenCode开源、模型无关，并原生提供amazon-bedrock模型提供商，使用Converse API。在opencode.json中配置amazon-bedrock提供商后，OpenCode会自动检测可用的Amazon Bedrock模型，用户可通过 /models命令选择global.moonshotai.kimi-k3。
生产力和研究类智能体方面，AWS提到Hermes Agent作为开源通用助手示例，可通过桌面应用、消息应用或终端使用，支持深度研究和任务自动化等场景。根据其文档，Hermes原生支持Amazon Bedrock上的模型。用户可在终端运行hermes model，从提供商列表中选择“AWS Bedrock”，选择区域，使用默认凭证链或生成Amazon Bedrock API密钥，再从自动发现的模型列表中选择Kimi K3，若不可用则手动输入global.moonshotai.kimi-k3。AWS指出，写入时若使用命名配置文件管理多个AWS凭证，需要设置AWS_PROFILE环境变量或使用默认配置文件，也可改用API密钥。
- 数据在AWS数据边界内处理，不与模型提供商共享，不用于训练
- 推理请求始终启用零数据保留，零操作员访问防止AWS操作员查看提示词和补全
- OpenCode原生amazon-bedrock提供商使用Converse API
- Hermes Agent原生支持Amazon Bedrock模型，需设置AWS_PROFILE或用API密钥