Liquid AI发布LFM2.5-24B-A2B:24B参数、2B激活的端侧推理智能体模型,开放权重上线Hugging Face
Liquid AI称该模型每个token仅激活 2B参数,上下文从 32K扩至 131K、词表从 65K翻倍至 128K,预训练数据由约 17T扩至约 33T token;官方基准显示其在 8 项工具调用与智能体测试中的 5 项领先或持平对比模型。
AI解读:Liquid AI在Hugging Face博客发布LFM2.5-24B-A2B,称其为面向端侧(on-device)智能体的推理模型:总参数 24B、每token仅 2B激活参数,因此官方主张每个推理token成本较低,可在自有硬件上持续运行智能体。
模型架构延续LFM2-24B-A2B:40 层、每个MoE块 64 个专家、top-4路由,以及门控短卷积与GQA的混合结构;变更点是上下文窗口从 32K提升到 131K token,就地词表扩展把词表从 65K翻倍至 128K token,用于改善非拉丁文字的分词。
与前代不同,LFM2.5-24B-A2B是只做推理(reasoning-only)的模型,会在给出最终答案前生成显式思维链。预训练规模从约 17T提升到约 33T token;中期训练加入 2T token的 32K上下文数据和 300B token的 131K长上下文数据,侧重推理、数学、代码、指令遵循与多语言文本,两阶段都包含工具调用与多轮轨迹数据。
后训练分五阶段:监督微调(SFT)、教师专业化、非智能体场景的多领域在线策略蒸馏(MOPD)、面向智能体任务的第二阶段MOPD,以及在OpenClaw、Hermes Agent、Pi、OpenCode等智能体框架内进行的智能体强化学习(Agentic RL)。
官方在 16 项基准上对比Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it和Nemotron-3.5-Lightning:LFM2.5-24B-A2B在 8 项工具使用与智能体基准中的 5 项领先或持平,AutomationBench得分为 27.69,官方称超过次优模型三倍以上;三项指令遵循基准全部领先。
知识类基准(GPQA Diamond、HLE、AA-Omniscience)和编码基准(SWE-Bench Verified via OpenCode、SciCode)上更大模型仍占优,官方建议这类任务搭配检索或网络搜索。
速度方面官方称:Apple M5 Max上解码 184 tokens/s,Ryzen AI Max+ 395上 114 tokens/s,为对比MoE中最快且占用内存最少;单张NVIDIA B300 GPU在高并发下输出超 21K tokens/s。权重已开放(LFM2.5-24B-A2B与LFM2.5-24B-A2B-Base),上线首日支持llama.cpp、MLX、vLLM、SGLang和ONNX。
Liquid AI在Hugging Face博客发布LFM2.5-24B-A2B,称这是为端侧快速、私有智能体打造的 24B参数推理模型,每token仅激活 2B参数。据该博客,它会在回答前先思考、调用工具,并可在常见智能体框架内完成多步任务,权重已开放并在Hugging Face上线。
架构、上下文与训练数据的变化
据Liquid AI博客,LFM2.5-24B-A2B建立在LFM2-24B-A2B之上并保留其架构:40 层,每个MoE块 64 个专家、top-4路由,以及门控短卷积与GQA的混合。上下文窗口从 32K增至 131K token;一次就地词表扩展把词表从 65K翻倍到 128K token,官方称这改善了非拉丁文字的分词。
博客称该模型与前代不同,是只做推理的模型,会在最终答案前生成明确的思维链。预训练规模从约 17T提升到约 33T token。中期训练先加入 2T token的 32K上下文数据,偏重推理、数学、代码、指令遵循和多语言文本;再加入 300B token的 131K上下文数据,偏重长上下文数据。工具调用与多轮轨迹数据贯穿这两个阶段。
- 总参数 24B,每token激活 2B参数(官方数据)
- 40 层,每MoE块 64 专家,top-4路由
- 上下文窗口 32K → 131K token;词表 65K → 128K token
- 预训练约 17T → 约 33T token;中期训练含 2T token(32K上下文)与 300B token(131K上下文)
后训练与基准表现
官方将后训练描述为五个阶段:监督微调(SFT)、教师专业化、非智能体场景的多领域在线策略蒸馏(MOPD)、聚焦智能体任务的第二阶段MOPD,以及在实际智能体框架内进行的智能体强化学习(Agentic RL),框架包括OpenClaw、Hermes Agent、Pi和OpenCode。
Liquid AI用 16 项基准将LFM2.5-24B-A2B与Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it、Nemotron-3.5-Lightning对比,称它是该组中参数最小的模型,但与总参数和激活参数多约 50% 的MoE模型具有竞争力。其中AutomationBench为 27.69,对比Qwen3.6-35B-A3B的 8.72;LiveClaw为 48.09,对比 38.19;BFCLv4为 65.01,对比 65.00;ToolSandbox为 80.71,对比 75.02;τ³-Bench Banking为 8.04,对比 7.63;PinchBench为 83.18,低于Qwen3.6-35B-A3B的 89.93;WebArena Verified为 26.75,低于Qwen3.6-35B-A3B的 37.62。
官方称在 8 项工具使用与智能体基准中,它在 5 项(AutomationBench、BFCLv4、ToolSandbox、LiveClaw、τ³-Bench Banking)领先或持平,三项指令遵循基准(IFEval 96.75、IFBench 74.69、Multi-IF 84.38)全部领先。它同时写明:更大模型在GPQA Diamond、HLE、AA-Omniscience等知识类基准以及SWE-Bench Verified(OpenCode)、SciCode等编码基准上仍有优势,建议把该模型与检索或网络搜索配合用于知识密集型工作负载。基准说明称所有模型均用vLLM并按各基准推荐生成参数评估。
- AutomationBench 27.69,对Qwen3.6-35B-A3B 8.72
- LiveClaw 48.09,对Qwen3.6-35B-A3B 38.19
- ToolSandbox 80.71,对Qwen3.6-35B-A3B 75.02
- PinchBench 83.18,低于Qwen3.6-35B-A3B 89.93
- SWE-Bench Verified(OpenCode)51.00,低于Qwen3.6-35B-A3B 66.20
推理速度与使用方式
博客称LFM2.5-24B-A2B在对比MoE中端侧推理最快:Apple M5 Max上解码 184 tokens/s,Ryzen AI Max+ 395上 114 tokens/s,官方称最高比次优模型快 1.7 倍且占用内存最少;在单张NVIDIA B300 GPU上高并发时输出超过 21K tokens/s。
使用上,官方建议把它部署为任意OpenAI兼容后端后,让智能体框架指向本地服务;示例端口为llama.cpp与MLX使用 8080、vLLM使用 8000、SGLang使用 30000、LM Studio使用 1234。模型卡提供OpenClaw与Pi的配置,官方发布博客含视频示例。LFM2.5-24B-A2B与LFM2.5-24B-A2B-Base均为开放权重;官方称上线首日支持llama.cpp、MLX、vLLM、SGLang和ONNX。
- M5 Max 184 tokens/s;Ryzen AI Max+ 395 114 tokens/s(官方数据)
- 单张B300 GPU高并发输出超 21K tokens/s
- 开放权重:LFM2.5-24B-A2B、LFM2.5-24B-A2B-Base
- 首日支持llama.cpp、MLX、vLLM、SGLang、ONNX