开源llama.cpp Releases·原文 2026年10月29日

llama.cpp b11976发布:Hexagon后端IM2COL改用基于块的HVX多线程并行

该版本合并PR #31050,将Hexagon NPU上的IM2COL算子按输出列分块、跨多线程执行HVX并行计算,并修复填充处理、展开常见循环;发布页未给出性能数据。

AI解读:PR描述称该改动让IM2COL按输出列块跨多个线程执行,并修复填充(padding)处理、对常见情况做循环展开;注明Assisted-by: Claude Opus 5.5,共同作者为Max Krasnyansky。

Hexagon指高通骁龙平台的NPU后端,因此直接相关的是发布页中Linux arm64与Android arm64的Snapdragon构建(CPU、Adreno GPU、Hexagon NPU)。

发布页仅列出各平台预编译包,未给出该改动的速度提升或基准测试数字,因此无法据此判断实际加速幅度。

llama.cpp发布b11976版本,核心变更为合并PR #31050,对Hexagon后端的IM2COL做基于块的HVX并行化。发布说明由github-actions[bot] 生成,PR描述称此次改动让IM2COL按输出列块分散到多个线程执行,并修复了填充处理、对常见情况做循环展开。

改动内容与署名

PR #31050 标题为“Hexagon: IM2COL improvement - block based HVX parallelization”,提交说明列出三项内容:hexagon IM2COL over multiple threads with output-col blocks、hex-im2col修复padding处理、hex-im2col对常见情况做循环展开。

PR注明Assisted-by: Claude Opus 5.5,Co-authored-by为Max Krasnyansky。

  • 改动对象:Hexagon后端的IM2COL算子
  • 并行方式:按输出列块(output-col blocks)跨多个线程执行HVX计算
  • 附带修复:padding处理;常见情况的循环展开

适用范围与缺失数据

Hexagon是高通骁龙SoC中的NPU后端。发布页为此版本提供了Linux arm64与Android arm64的Snapdragon构建包,标注覆盖CPU、Adreno GPU、Hexagon NPU,并链接到对应setup guide;其他平台构建(macOS、Windows、Ubuntu各CPU/GPU变体、s390x等)也在同一批发布中。

发布页未附该优化的基准测试或速度对比数字,因此无法从来源判断实际性能变化幅度。

  • 相关构建:Linux arm64 Snapdragon、Android arm64 Snapdragon(含Hexagon NPU)
  • 发布页未提供性能数据

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观