研究Apple Machine Learning Research·原文 2026年10月1日本站收录 2026年10月2日

Apple研究:同等时间预算下,复杂Agent框架对ML工程任务并无优势

Apple与EPFL合作论文发现,在相同前沿LLM底座和相同时间预算下,开源最先进的多智能体框架并未跑赢一个仅用read/write/bash原语的极简编码智能体。

AI解读:这篇论文回答的问题很具体:当底层大模型已经足够强时,围绕它搭的一堆编排器、检索子智能体还有没有用。Apple和EPFL研究者的结论是,在自主机器学习工程(MLE)基准上,这些复杂机械层显得冗余。

他们的实验条件是:同样的时间预算、同样的前沿LLM底座。在这个前提下,开源最先进的harness没有比一个极简编码智能体单次会话更好,作者由此认为性能的主要驱动力来自模型底座本身。

受影响的首先是做MLE智能体的人:与其继续堆多层编排和检索子模块,不如先验证更简单的编码智能体能不能达到同样效果。不过这一结论限于当前MLE基准,论文没有说复杂harness在所有场景下都没用。

研究还指出,harness扩张的动机通常是长周期任务中进度停滞、LLM原语能力有限。但如果底座变强,这些补丁层的边际收益可能迅速下降,这是论文通过大规模消融实验提出的判断。

Apple与EPFL的研究者发表论文,研究“强智能体需要多复杂的harness才能做自主机器学习工程”。

论文的核心发现是:在相同时间预算、相同前沿LLM底座的前提下,开源最先进的harness相比一个极简harness编码智能体的单次会话,没有提供任何优势。作者因此认为,性能的主要驱动因素是底座模型本身。

研究者通过一系列大规模系统性消融实验提出,在编码智能体设定下,这些机械层变得冗余;围绕强模型手工打造更精细的harness,在当前的MLE基准上回报很差。

实验对比的设计:同等时间预算、同一前沿LLM底座

论文将两类方案放在同一条件下比较:一边是部署在复杂机械之上的现代MLE智能体,包括多智能体编排器、专用检索子智能体等;另一边是更原始但已改进的编码智能体,LLM通过read、write、bash原语直接访问执行环境。

比较条件被明确限定为相同的时间预算和相同的前沿LLM底座。作者称在这两个控制变量下,开源最先进的harness没有跑赢极简harness编码智能体的单次会话。

  • 复杂harness的代表性组件:多智能体编排器、专用检索子智能体。
  • 极简方案:单个编码智能体会话,LLM直接通过read、write、bash访问执行环境。
  • 关键控制变量:同等时间预算、相同前沿LLM底座。
  • 作者结论:性能主要驱动因素是底座模型,而非harness的复杂度。

“机械层冗余”的判断来自大规模消融实验

作者表示,他们通过一系列大规模系统性消融研究得出结论:在编码智能体设定中,这些机械层是冗余的。

论文由此给出的推论是,在当前MLE基准上,围绕强模型投入精力去精细设计手工harness,回报不佳。

研究背景提到,这类harness之所以不断扩张,通常是因为长周期循环中进度停滞、LLM原语能力有限。论文的观察是,当底座模型更强之后,这些补丁式机械的价值在实验中没有体现出来。

  • 方法:大规模系统性消融研究(ablation studies)。
  • 判断:编码智能体设定下,机械层冗余。
  • 推论:当前MLE基准上,手工harness的投入回报差。
  • 论文归因:harness扩张多源于长周期进度停滞和LLM原语有限。

信息来源

更多

新闻专题
外观