产品Databricks Blog·原文 2026年10月15日本站收录 2026年10月16日

FactSet用Databricks AI Runtime把TTF模型训练部署周期从数天压缩到数小时

FactSet在Databricks博客中称,其Text-to-Formula系统的模型微调已从实验性工作变成每两到三周一次的常规环节;借助无服务器GPU基础设施,单次设置、训练、部署时间由数天降至数小时。

AI解读:要弄清的具体问题是:FactSet这次缩短的是哪一段流程的时间。按Databricks博客引述FactSet首席机器学习工程师Nikhil Sunderraj的说法,变化发生在“设置、训练并部署一个定制TTF模型”这个循环,从以天计降到以小时计。

适用对象是TTF的工程侧工作流。TTF负责把投资专业人士的自然语言请求转成正确的FactSet Query Language公式;训练数据经过专家审核,模型训练、注册和部署运行在Databricks上,数据治理沿用其Lakehouse环境。

条件边界是微调频率。FactSet现在大约每两到三周微调一次模型,这在实验阶段不是硬需求;频率提高后,反复准备和配置GPU环境会直接叠加进开发周期,所以无服务器GPU带来的按次选择算力的方式才成为关键。

来源没有给出门槛数字。博客未披露FactSet的GPU成本、人力投入变化或TTF线上准确率指标;此前公开的是更早阶段“引入微调模型使端到端延迟下降约 60%”,与这次的小时级周期不是同一项测量。

这可以支持“FactSet单个团队的单条工作流变快”这一范围,不能推出其他团队或行业的训练部署时间同样缩短。Databricks是AI Runtime的提供方,这条数据出自其客户案例博客,属于供应商转述的客户说法。

FactSet在Databricks博客中称,其Text-to-Formula(TTF)系统用Databricks AI Runtime运行微调任务后,设置、训练并部署一个定制模型的时间从数天降到数小时。

博客引述FactSet首席机器学习工程师Nikhil Sunderraj的说法:无需搭建基础设施、也没有延迟,可以按提示长度和输出token生成量选择算力,同时保留Lakehouse工作流与治理。

TTF把投资专业人士的自然语言请求转换为FactSet Query Language(FQL)公式。FactSet现在大约每两到三周微调一次模型,微调已从实验性工作变成TTF开发中的常规环节。

从检索增强到定期微调

TTF最初围绕检索增强生成(RAG)构建,用检索为请求找到相关示例和信息。随着使用量增长,查询变得更专门、公式更复杂,这套做法遇到质量上限。

FactSet随后在Compound AI架构中加入微调的开源模型,使团队能针对FQL的结构和模式训练模型,而不是主要在推理时依赖检索。博客称,在TTF更早的工作中,加入微调模型让端到端延迟降低约 60%。

随着训练数据积累,FactSet开始定期更新模型,微调从一次性实验变成发布周期的一部分,目前大约每两到三周进行一次。

  • TTF的任务:自然语言请求 → 正确的FQL公式
  • 早期方案:RAG检索示例与信息
  • 转向:在Compound AI架构中引入微调开源模型
  • 更早阶段的测量:端到端延迟降低约 60%
  • 当前微调频率:约每两到三周一次

为什么训练环境不能固定

每隔几周训练一次改变了基础设施要求。为一次实验准备环境、配置GPU算力尚可管理,但每当有新数据或新模型要测试就重复这套工作,开销会直接加进开发周期。

模型需求也会在实验之间变化。FactSet用过Llama系列模型,并持续评估更新的开源模型。不同模型、提示长度和输出特征可能需要不同的计算配置,把训练环境绑定到固定GPU会削弱这种调整能力。

FactSet使用Databricks AI Runtime在无服务器GPU基础设施上运行微调负载,工程师按单次训练的需求选择算力,无需预先配置底层GPU环境。

  • 微调频率提高 → 环境准备重复出现 → 变成开发周期开销
  • FactSet用过Llama系列,仍在评估更新的开源模型
  • 不同模型、提示长度、输出特征对应不同计算配置
  • AI Runtime提供按需的无服务器GPU算力

训练留在既有工作流内

TTF的训练流程与数据、实验、模型管理和治理一起运行在Databricks上。FactSet用MLflow跟踪模型开发和实验,底层数据保留在既有Lakehouse环境中受治理。

博客称,用AI Runtime运行微调把GPU训练留在这条流程里:工程师可以使用受治理的数据、训练新模型、跟踪产出的工件并推进部署,无需为微调单独维护一套GPU栈。

微调管线基于Databricks Lakeflow Jobs and Pipelines构建,被描述为即插即用、可复用的框架,便于被不同的TTF任务和其他团队采纳。

  • MLflow:跟踪模型开发与实验
  • Lakehouse:底层数据治理沿用现有环境
  • AI Runtime:在流程内运行GPU微调
  • Lakeflow Jobs and Pipelines:可复用微调管线,供其他团队采用

TTF正拆成更多专用模型

随着数据积累,FactSet正在探索用于查询分解、组件抽取和库识别等任务的额外微调模型。这为工作流的每个部分选用更合适的模型提供了空间,也让快速、可重复的训练更重要。

博客称,当模型更换不需要围绕它重建训练环境时,测试新模型会容易得多。工程工作转向真正影响TTF的问题:用哪个模型、怎么训练、新版本是否改进了应用。

  • 探索方向:查询分解、组件抽取、库识别
  • 目标:为工作流各部分选更合适的模型
  • 前提:训练可快速重复,更换模型不必重建训练环境

信息来源

Databricks Blog原始来源

更多

新闻专题
外观