DeepSeek V4.1 Flash:长任务 Agent 的成本账
KV 缓存占用降到上一代的四分之一,不等于一个项目便宜了四分之三。V4.1 Flash 的意义,要放进缓存命中、输出用量、失败重试和人工复核这四笔账里看。
先分清:缓存省了,不等于整项任务省了
DeepSeek 在 9 月 10 日的官方公告中披露,V4.1 Flash 的 KV 缓存对 HBM 的需求降至上一代的 1/4,对 SSD 的需求降至 1/8。它同时采用输入、输出不对称的 MoE 结构:总参数 552B,输入激活 8B,输出激活 16B。这些是厂商披露的模型指标,并非本站独立实测。
缓存占用、API 账单和项目成本,是三个不同层面。前者影响服务方保存会话状态时需要多少存储资源;API 账单取决于实际输入、输出和计费规则;项目成本还包含工具运行、数据接入、审核与维护。不能从一个存储比例,直接推出客户总账单的降幅。
一个团队调用托管 API 时,通常不直接购买该模型的 HBM。服务方如何把资源节省转成单价、并发能力或利润,是另一层决策。自建部署则需要核对模型权重、运行框架、设备带宽等条件,激活参数较少也不意味着整套部署只需要装下 8B 参数。
对业务方更有价值的问题是:同一份合格的结果,需要读多少材料、生成多少内容、重试几次,又占用多少人工时间。只有把这些条件固定住,前后比较才有意义。
低价能用上多少,取决于输入能否真正复用
截至 9 月 11 日核对的官方价格页,Flash 每百万 token 的闲时单价分别为:缓存命中输入 0.02 元、未命中输入 1 元、输出 4 元;高峰时段分别为 0.04 元、2 元和 8 元。高峰为北京时间周一至周五 9:00—12:00、14:00—18:00,其余为闲时。价格会调整,实际账单应以当时价目和用量为准。
价差最大的地方是输入复用。官方缓存文档说明,命中依赖完整匹配已经落盘的缓存前缀,并且按尽力而为方式提供,不保证每次命中。内容看起来差不多,不能当成已经享受缓存价。
例如,同一套代码与项目说明被重复读取时,稳定的公共部分存在复用机会。反过来,如果每轮都重新拼装材料、把变化的时间戳放到前面,或者频繁调整文件顺序,就可能改变可匹配的前缀。具体效果仍要通过实际命中用量核对,不能只看提示词设计。
这使工程选择变得具体:固定不会变的背景信息,把实时状态与本轮新增证据组织清楚,限制无关日志进入上下文。缓存用于复用计算,业务事实仍须保持新鲜;订单已经取消、代码已经修改,不能为了命中率继续让 Agent 使用旧状态。
两种任务,同样便宜的输入会带来不同结果
下面是一组说明计费结构的假设测算,不是实测任务或降本承诺。设一项任务累计输入 100 万 token,其中 90 万命中缓存、10 万未命中,累计输出 10 万 token,全部发生在上述闲时价格下。三部分费用分别为 0.018 元、0.10 元、0.40 元,模型调用合计 0.518 元。
若输入与输出总量完全相同,但输入全部未命中,模型费为 1.40 元。两者相差 0.882 元,约为后者的 63%。这一比例来自假设的用量结构,与公告中的 HBM 四分之一不是同一个指标;也没有计入工具、存储或人工费用。
再看另一种情景:输入复用情况不变,但任务需要生成 100 万 token,模型费就变成 4.118 元;全部未命中时为 5 元。此时缓存带来的节省仍是 0.882 元,占比却降到约 18%。输出越重,单独优化输入缓存越难改变总账。
这些数字适合帮助团队找测量方向,不适合代替报价。实际任务还可能分布在不同计费时段,包含失败尝试、工具反馈与额外推理输出。所有被计费的尝试都应纳入,不能只保留最后成功的那一次。
适合先做的,是有边界、有验收的长流程
以代码迁移为例,交付物可以明确到某个模块、某组兼容性测试和一次可回滚的代码变更。Agent 读取相同仓库背景、修改一部分代码、运行测试,再针对失败继续修正,具有重复输入和持续上下文。但收益要通过通过率、回归缺陷与人工审查时长来验证。
若目标只是“把整个系统升级好”,却没有固定测试、依赖清单和验收人,长上下文只会让任务跑得更久。模型生成了更多代码,也可能增加审查负担。一次能通过验收的较小迁移,比一次持续数小时却无法合并的尝试更有商业价值。
资料比对也是候选场景,例如围绕固定版本的多份产品文档,核对规格差异并附上出处。输入复用有空间,输出又能逐项检查。涉及高影响结论时仍需人工确认,不能把文档总结直接升级成无人审批的业务操作。
并非所有工作都该交给长任务 Agent。固定格式转换、明确字段校验和简单定时汇总,传统脚本可能更便宜、更稳定。只有任务中的理解、规划或不确定分支确实需要模型参与,长上下文优势才值得付费。
便宜的失败仍然是失败,恢复能力决定交付成本
长流程会把局部错误串起来。作为纯粹的概率示例,假设十个步骤各自有 95% 的正确率,而且互相独立,一次全部正确的概率约为 60%。实际步骤往往相互影响,不能照搬这个数;它说明的是,单步表现很好不等于整条链路可靠。
在写入数据库、发出消息或调整配置之前,可以设置明确的授权与校验;每段工作结束后保存状态与证据,失败时从最近的有效检查点恢复。重试还要识别已经完成的操作,避免重复提交。这样减少的是错误扩散和返工范围,而不仅是 token 数。
上下文容量也不是事实记忆的保证。材料可能冲突、失效或包含不可信指令,模型也可能漏掉其中的限制。重要规则应由系统权限和确定性校验约束,不能只在长提示词里写一句“不要出错”。
验收因此至少要同时看三件事:任务是否做对、代价是否可接受、失败是否可控。如果需要人工逐句重读全部产物才能确认正确,模型费即使接近零,项目也未必比原流程高效。
一次试点,应同时留下结果、账单和人工记录
试点前先固定任务范围、输入版本和验收标准,保留原流程作为对照。把常见任务与边界案例分开记录,不要把容易的任务交给 Agent、困难的留给人工后,再用两组不同的样本比较平均成本。
任务结束时,记录输入命中与未命中用量、全部输出、工具执行时间、重试次数、人工介入分钟数以及是否最终通过验收。若任务被放弃,其已发生的资源消耗也要保留,否则成功任务看起来会被人为算得很便宜。
一项适合继续投入的试点,应能在质量不下降的前提下减少可量化的工作量,并在不同批次保持效果。若只是总耗时变短,但人工需要更频繁地守着处理异常,团队得到的可能是更快的节奏,而非可释放的人力。
对于按结果收费的服务,还应写清返工责任和结果边界。模型单价下降会降低一部分供给成本,但竞争者同样能买到便宜调用。长期议价能力更可能来自流程知识、可靠交付记录和系统集成,而不是转售 token 的差价。
未来 6—12 个月 · 待验证的变化
接下来怎么看
如果缓存效率和调用价格的改善能够持续传导到真实任务,重复读取大量材料的 Agent 项目会更容易进入试点。但从试点走向稳定采购,还取决于完成率、审核负担和故障恢复。更值得关注的是交付同样结果是否持续变便宜,而不是单次演示能运行多久。
持续跟踪:同类任务的合格交付成本是否下降;人工复核时间是否同步减少;新版本上线后返工率是否稳定;客户续费是否来自持续使用,而非一次性试验预算。