开源Hugging Face Blog·原文 2026年10月14日

Liquid AI发布LFM2.5-24B-A2B:24B参数、2B激活的端侧推理智能体模型,开放权重上线Hugging Face

Liquid AI称该模型每个token仅激活 2B参数,上下文从 32K扩至 131K、词表从 65K翻倍至 128K,预训练数据由约 17T扩至约 33T token;官方基准显示其在 8 项工具调用与智能体测试中的 5 项领先或持平对比模型。

AI解读:Liquid AI在Hugging Face博客发布LFM2.5-24B-A2B,称其为面向端侧(on-device)智能体的推理模型:总参数 24B、每token仅 2B激活参数,因此官方主张每个推理token成本较低,可在自有硬件上持续运行智能体。

模型架构延续LFM2-24B-A2B:40 层、每个MoE块 64 个专家、top-4路由,以及门控短卷积与GQA的混合结构;变更点是上下文窗口从 32K提升到 131K token,就地词表扩展把词表从 65K翻倍至 128K token,用于改善非拉丁文字的分词。

与前代不同,LFM2.5-24B-A2B是只做推理(reasoning-only)的模型,会在给出最终答案前生成显式思维链。预训练规模从约 17T提升到约 33T token;中期训练加入 2T token的 32K上下文数据和 300B token的 131K长上下文数据,侧重推理、数学、代码、指令遵循与多语言文本,两阶段都包含工具调用与多轮轨迹数据。

后训练分五阶段:监督微调(SFT)、教师专业化、非智能体场景的多领域在线策略蒸馏(MOPD)、面向智能体任务的第二阶段MOPD,以及在OpenClaw、Hermes Agent、Pi、OpenCode等智能体框架内进行的智能体强化学习(Agentic RL)。

官方在 16 项基准上对比Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it和Nemotron-3.5-Lightning:LFM2.5-24B-A2B在 8 项工具使用与智能体基准中的 5 项领先或持平,AutomationBench得分为 27.69,官方称超过次优模型三倍以上;三项指令遵循基准全部领先。

知识类基准(GPQA Diamond、HLE、AA-Omniscience)和编码基准(SWE-Bench Verified via OpenCode、SciCode)上更大模型仍占优,官方建议这类任务搭配检索或网络搜索。

速度方面官方称:Apple M5 Max上解码 184 tokens/s,Ryzen AI Max+ 395上 114 tokens/s,为对比MoE中最快且占用内存最少;单张NVIDIA B300 GPU在高并发下输出超 21K tokens/s。权重已开放(LFM2.5-24B-A2B与LFM2.5-24B-A2B-Base),上线首日支持llama.cpp、MLX、vLLM、SGLang和ONNX。

Liquid AI在Hugging Face博客发布LFM2.5-24B-A2B,称这是为端侧快速、私有智能体打造的 24B参数推理模型,每token仅激活 2B参数。据该博客,它会在回答前先思考、调用工具,并可在常见智能体框架内完成多步任务,权重已开放并在Hugging Face上线。

架构、上下文与训练数据的变化

据Liquid AI博客,LFM2.5-24B-A2B建立在LFM2-24B-A2B之上并保留其架构:40 层,每个MoE块 64 个专家、top-4路由,以及门控短卷积与GQA的混合。上下文窗口从 32K增至 131K token;一次就地词表扩展把词表从 65K翻倍到 128K token,官方称这改善了非拉丁文字的分词。

博客称该模型与前代不同,是只做推理的模型,会在最终答案前生成明确的思维链。预训练规模从约 17T提升到约 33T token。中期训练先加入 2T token的 32K上下文数据,偏重推理、数学、代码、指令遵循和多语言文本;再加入 300B token的 131K上下文数据,偏重长上下文数据。工具调用与多轮轨迹数据贯穿这两个阶段。

  • 总参数 24B,每token激活 2B参数(官方数据)
  • 40 层,每MoE块 64 专家,top-4路由
  • 上下文窗口 32K → 131K token;词表 65K → 128K token
  • 预训练约 17T → 约 33T token;中期训练含 2T token(32K上下文)与 300B token(131K上下文)

后训练与基准表现

官方将后训练描述为五个阶段:监督微调(SFT)、教师专业化、非智能体场景的多领域在线策略蒸馏(MOPD)、聚焦智能体任务的第二阶段MOPD,以及在实际智能体框架内进行的智能体强化学习(Agentic RL),框架包括OpenClaw、Hermes Agent、Pi和OpenCode。

Liquid AI用 16 项基准将LFM2.5-24B-A2B与Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it、Nemotron-3.5-Lightning对比,称它是该组中参数最小的模型,但与总参数和激活参数多约 50% 的MoE模型具有竞争力。其中AutomationBench为 27.69,对比Qwen3.6-35B-A3B的 8.72;LiveClaw为 48.09,对比 38.19;BFCLv4为 65.01,对比 65.00;ToolSandbox为 80.71,对比 75.02;τ³-Bench Banking为 8.04,对比 7.63;PinchBench为 83.18,低于Qwen3.6-35B-A3B的 89.93;WebArena Verified为 26.75,低于Qwen3.6-35B-A3B的 37.62。

官方称在 8 项工具使用与智能体基准中,它在 5 项(AutomationBench、BFCLv4、ToolSandbox、LiveClaw、τ³-Bench Banking)领先或持平,三项指令遵循基准(IFEval 96.75、IFBench 74.69、Multi-IF 84.38)全部领先。它同时写明:更大模型在GPQA Diamond、HLE、AA-Omniscience等知识类基准以及SWE-Bench Verified(OpenCode)、SciCode等编码基准上仍有优势,建议把该模型与检索或网络搜索配合用于知识密集型工作负载。基准说明称所有模型均用vLLM并按各基准推荐生成参数评估。

  • AutomationBench 27.69,对Qwen3.6-35B-A3B 8.72
  • LiveClaw 48.09,对Qwen3.6-35B-A3B 38.19
  • ToolSandbox 80.71,对Qwen3.6-35B-A3B 75.02
  • PinchBench 83.18,低于Qwen3.6-35B-A3B 89.93
  • SWE-Bench Verified(OpenCode)51.00,低于Qwen3.6-35B-A3B 66.20

推理速度与使用方式

博客称LFM2.5-24B-A2B在对比MoE中端侧推理最快:Apple M5 Max上解码 184 tokens/s,Ryzen AI Max+ 395上 114 tokens/s,官方称最高比次优模型快 1.7 倍且占用内存最少;在单张NVIDIA B300 GPU上高并发时输出超过 21K tokens/s。

使用上,官方建议把它部署为任意OpenAI兼容后端后,让智能体框架指向本地服务;示例端口为llama.cpp与MLX使用 8080、vLLM使用 8000、SGLang使用 30000、LM Studio使用 1234。模型卡提供OpenClaw与Pi的配置,官方发布博客含视频示例。LFM2.5-24B-A2B与LFM2.5-24B-A2B-Base均为开放权重;官方称上线首日支持llama.cpp、MLX、vLLM、SGLang和ONNX。

  • M5 Max 184 tokens/s;Ryzen AI Max+ 395 114 tokens/s(官方数据)
  • 单张B300 GPU高并发输出超 21K tokens/s
  • 开放权重:LFM2.5-24B-A2B、LFM2.5-24B-A2B-Base
  • 首日支持llama.cpp、MLX、vLLM、SGLang、ONNX

信息来源

Hugging Face Blog原始来源