Databricks称其AI研究团队训练任务量因“自动研究”增长8倍
Databricks博客披露，其AI研究团队使用自研AI Runtime管理GPU资源，在智能体驱动实验后，AI Functions相关训练任务数量增长8倍。
AI解读：Databricks在博客中称，其AI研究团队自AI Runtime（AIR）去年推出以来就是该产品的“客户零号”，用其开发、训练和测试支撑Databricks AI产品的模型。
团队训练模型参数规模从几十亿到近一万亿，使用NVIDIA H100或B300 GPU，最大训练任务需要数百块GPU协同工作数天到数周。
Databricks称，转向由智能体提出变更、运行实验并评估结果的方式后，其AI Functions研究工作中的训练任务数量增长了8倍。
AIR提供的功能包括训练前GPU节点健康检查、运行中监测NCCL通信故障和过热降频、故障节点隔离、通过CLI启动任务、自动创建MLflow实验，以及通过Unity Catalog FUSE挂载访问研究数据。
Databricks在官方博客中称，其AI研究团队在采用智能体驱动的“自动研究”后，AI Functions相关训练任务数量增长了8倍。该团队使用自研的AI Runtime（AIR）来管理跨项目的GPU资源。
研究负载与算力需求
Databricks称，其研究团队为Genie、Smart Routing和AI Functions等产品开发模型，训练模型参数从几十亿到近一万亿，使用NVIDIA H100或B300 GPU。最大训练任务需要数百块GPU协同数天到数周，依赖高带宽网络。
团队使用监督微调、离线强化学习和在线强化学习。博客提到，AI Functions中的ai_parse_document和ai_extract达到“最先进的文档解析质量”，但其依据是Databricks自己的说法。
- 训练和评估运行次数达数万次
- 最大训练任务需要数百块GPU运行数天至数周
- KARL等强化学习项目的模型超过1000亿参数，可消耗数千GPU小时
AIR的可靠性与工作流功能
Databricks称，AIR在训练前检查GPU节点是否健康且能通信，运行中监测NCCL通信失败、过热或功率降频以及GPU驱动问题。节点不健康导致任务失败时，AIR会隔离该节点，避免后续任务被调度到同一问题基础设施上。
团队通过AIR CLI以编程方式启动任务、指定GPU，由AIR处理供给和调度，包括跨云分布式训练的高带宽网络。AIR允许沿用本地开发的Docker容器镜像进行训练，并自动为训练任务创建和管理MLflow实验。
研究数据存放在Unity Catalog中，通过FUSE挂载，AIR让训练代码像访问本地文件系统一样读取数据，即使跨不同Databricks工作区。AIR的优先级和抢占功能用于在项目间分配资源，例如周末用闲置容量运行探索性实验。
智能体驱动实验的影响
博客称，受Andrej Karpathy提出的“autoresearch”影响，团队越来越多使用智能体提出变更、运行实验、评估结果并决定下一步。这种转变大幅增加了实验量：AI Functions研究工作负载中的训练任务数量增长了8倍。
Databricks表示，智能体通过Databricks CLI和databricks-air-skills启动并发工作负载、监控任务状态、获取MLflow指标并据此迭代。智能体驱动研究要求快速启动任务、编程接口、清晰可操作的错误信息、可靠执行和可访问的训练结果。