模型AWS Machine Learning·原文 2026年10月23日

AWS为SageMaker AI无服务器模型定制推出训练会话,可自写后训练循环

AWS称训练会话正式可用,开发者编写训练循环与奖励函数,SageMaker AI负责GPU分配、分布式执行、故障恢复和检查点存储;按处理的token计费,奖励函数评分时暂停计费。首批支持gpt-oss-20b、gemma-4-31B-it、Qwen3.6-27B、Qwen3.8-27B。

AI解读:此前该服务已提供无服务器模型定制,本次新增的是让用户自行编写和协调后训练循环的能力。

适用方式:用户写训练循环,可自定义损失函数和奖励信号,把智能体接入工具或模拟器;采样器生成回复、训练器计算梯度并更新权重,具体顺序由用户所写算法决定。AWS以GRPO为例描述这一循环。

限制与范围:训练会话支持SFT、DPO、RLVR、RLAIF、多轮RL等方法,可按用户选择用LoRA或全量微调,并可通过连续定制串联多种技术。AWS表示首批支持四个模型。

计费与数据:AWS称按SageMaker AI处理的token计费,奖励函数在用户环境中评分时计量暂停,无需预留容量。会话使用用户创建的IAM执行角色,可选自有KMS密钥和VPC;数据与检查点存在用户指定区域的S3桶中,AWS称不用这些数据和定制权重训练其他模型。

上述表述均来自AWS博客及其引用客户评价。博客未给出独立评测或与自建GPU集群的成本对比,因此无法据此判断实际节省幅度或训练效果。

AWS在机器学习博客中宣布,Amazon SageMaker AI无服务器模型定制的训练会话(training sessions)正式可用。用户编写并协调后训练逻辑,包括自定义损失函数、奖励信号或多轮强化学习;SageMaker AI负责GPU分配、分布式执行、故障恢复和检查点存储。

AWS给出的首批支持模型为gpt-oss-20b、gemma-4-31B-it、Qwen3.6-27B和Qwen3.8-27B。该消息来自AWS博客,未附带独立评测数据。

训练循环由用户代码执行,GPU工作交给会话

按AWS的描述,训练会话中用户的代码在自有环境里运行训练循环和奖励函数,并把智能体连接到工具或模拟器。会话承担GPU密集的部分:采样器生成回复,训练器计算梯度并更新模型权重;具体执行顺序取决于用户编写的算法。

AWS以Group Relative Policy Optimization(GRPO)为例:循环要求采样器针对同一提示词生成多条回复,奖励函数在用户环境中用验证器、奖励模型或测试框架打分,再把分数送回训练器,由forward_backward() 计算梯度、optim_step() 更新权重,随后刷新采样器权重进入下一批。用户代码重复这些步骤直至训练结束。

AWS此前已把多轮RL作为托管、无服务器技术提供;本次训练会话面向希望自行定义损失函数、奖励信号或RL阶段并在一个循环中串联的客户。AWS称用户可使用SFT、DPO、RLVR、RLAIF、多轮RL等方法,用LoRA或全量微调控制更新模型的比例,并通过连续定制串联多种技术。

计费方式与数据和模型控制

AWS称训练会话按SageMaker AI处理的token计费;奖励函数在用户环境中为一批回复评分时计量暂停,且无需预留容量。这与其他按实例或集群预留计费的方式不同,但博客没有给出单位token价格。

每个会话使用用户创建的IAM执行角色,用户可以附加自有AWS KMS密钥和VPC配置。AWS称数据留在用户选定区域内自己的S3桶中,检查点也存储在那里;AWS不会用这些数据或定制后的权重训练其他模型。部署前可评估模型的准确性、偏差和安全性,部署后可应用护栏并用Amazon CloudWatch监控。

客户说法与使用入口

AWS引用两家客户的评价。ImagineSoftware数据科学高级副总裁Rob Gontarek称,该公司用训练会话构建医疗理赔拒付分诊模型,低层API可控制前向和反向传播、采样和优化器步骤。Karini AI首席执行官Nitin Wagh称,其团队在Amazon Neptune知识图谱上对gpt-oss-20b做多轮工具调用微调,平台处理了基础设施,检查点恢复可靠。这些是客户对自身用例的描述。

使用方式有两种:在Linux或macOS、Python 3.10至 3.12 环境中安装SageMaker Python SDK、克隆cookbook后开发;或在SageMaker Studio中启动开发环境,连接Kiro、Claude Code、Codex或GitHub Copilot等编码智能体,下载智能体技能和cookbook。AWS还称训练会话cookbook提供示例,模型定制智能体可根据用户描述处理数据准备、技术选择、训练、评估和部署。

信息来源

更多

新闻专题
外观