模型AWS Machine Learning·原文 2026年11月18日

OpenTSLM时序语言模型上线Amazon SageMaker JumpStart

AWS表示,开源时序语言模型系列OpenTSLM已可在SageMaker JumpStart中部署到用户自己的AWS环境;随附教程演示以ARFBench数据微调并在实时推理端点评估。

AI解读:OpenTSLM的用处是把数值时间序列和文本上下文一起交给语言模型解读,输出对状态、建议动作和预期结果的说明。它面向的场景是运维数据、设备传感器、供需变化等已有测量数据,Nexthink的Spark代理被用来说明这一点,但来源没有给出该工作流的实际效果数据。

这并不意味着接入后可以无限追溯历史。AWS在文中引用TS-Haystack的评测结果指出,被评测的TSLM变体在记录变长时检索精度往往下降,尤其是定位事件起止时间;因此来源建议选择包含目标事件及其上下文的时间窗,长记录用重叠窗口比对,并在应用实际使用的窗口长度上验证正常与异常样例。

部署有明确的资源门槛:模型为OpenTSLM-Flamingo,结合Gemma 3 4B与时序编码器,总参数 5.24 亿量级之外的表述需按原文核对——原文写的是 5.24 billion,权重以bfloat16存储约占 10.5 GB显存;需要单卡至少 24 GB显存并支持bfloat16,默认实例为ml.g6.2xlarge。

接口层面,单个请求最多 4 个实例,每个实例 1 至 32 条序列,单条序列最多 32,768 个数值;max_new_tokens取 1 至 512,请求体上限 6 MB,实时调用须在 60 秒内完成。AWS称在ml.g6.2xlarge上生成速度约每秒 20 个token,512 token的回答约需 30 秒,因此多实例请求要配短回答。

AWS机器学习博客称,开源时序语言模型系列OpenTSLM已进入Amazon SageMaker JumpStart,用户可在自己的AWS环境中将其部署到SageMaker AI实时推理端点。该模型页面标注的模型为OpenTSLM-Flamingo Gemma 3 4B。

文章由Martin Maritsch撰写,同时给出Nexthink与Aionic Labs在主动式IT支持上的示例流程,以及一套用TimeNet加载ARFBench数据、通过SageMaker训练作业微调并部署评估的教程。

模型构成与部署条件

来源说明,SageMaker JumpStart中的模型是OpenTSLM-Flamingo,把Gemma 3 4B语言模型与时序编码器、交叉注意力层组合,让语言模型能关注编码后的序列。原文给出的总参数量为 5.24 billion,以bfloat16存储,权重约占 10.5 GB显存。

运行要求为单GPU、至少 24 GB显存并支持bfloat16,建议 32 GB主机内存。默认实例类型是ml.g6.2xlarge(一张 24 GB的NVIDIA L4 GPU、32 GB主机内存),另支持ml.g6.4xlarge、ml.g6.8xlarge、ml.g5.2xlarge、ml.g5.4xlarge、ml.g5.8xlarge、ml.g6e.xlarge和ml.g6e.2xlarge。部署前需在Service Quotas中确认所选实例的端点配额至少为 1。

在SageMaker Studio中搜索OpenTSLM,选择OpenTSLM-Flamingo Gemma 3 4B,接受Gemma Terms of Use后即可部署;也可以用SageMaker Python SDK v3的ModelBuilder部署,设置accept_eula=True表示接受许可。AWS称其测试中端点进入InService约需 6 分钟。微调教程使用ml.g7e.2xlarge训练作业,需另外检查该实例的训练配额。

请求格式与时限

端点接收JSON请求,包含一个或多个实例,每个实例有question、series和可选的context。每条序列包含数值、名称和简短描述(如单位和采样间隔);来源称模型会对每条序列做均值 0、标准差 1 的缩放,并把原始均值和标准差以文本形式传给模型,缺失值用None表示并由模型屏蔽。

AWS列出的限制为:单个请求最多 4 个实例,每个实例 1 至 32 条序列,单条序列最多 32,768 个数值;max_new_tokens取 1 至 512;请求体最大 6 MB;实时调用须在 60 秒内完成。模型采用贪心解码,相同请求通常返回相同答案。

AWS称在ml.g6.2xlarge上模型约每秒生成 20 个token,512 token的回答约需 30 秒,且实例按顺序处理,所以多实例请求应配短回答,例如max_new_tokens设为 128;长时间请求可使用异步推理。

长记录下的精度边界与微调

AWS引用的TS-Haystack评测显示,被评测的TSLM变体在记录变长时往往丢失精度,尤其在定位事件起止时间上。来源据此建议挑选包含目标事件及足够上下文的时间窗,长记录用重叠窗口比对,保留短事件的采样分辨率,在文本上下文中写明单位、采样间隔和观察时段,并在目标长度上同时验证正常与异常样例。

微调方面,来源建议先用有代表性的样例测试预训练模型;当答案正确且解释与信号相符时可直接使用,信息缺失时优先补充输入上下文,只有在上下文充分仍持续漏掉领域特定模式或难以完成任务时再微调。

教程以ARFBench(Datadog软件事故遥测中的多选题异常基准)为例,经TimeNet以版本化数据集加载问题、选项、正确答案和指标信号,训练作业从Hugging Face加载检查点,模型产物存入Amazon S3后部署到单独的实时推理端点评估。来源称选择ARFBench是因为多选题可自动评分,便于衡量微调效果。

信息来源

更多

新闻专题
外观