开源llama.cpp Releases·原文 2026年11月7日

llama.cpp发布b12185,修复CUDA中lightning indexer的共享内存bank冲突

该版本由仓库自动发布,变更说明只有一行:修复闪电索引器在CUDA下的共享内存bank冲突(PR #31803);同时照例提供各平台预编译包。

AI解读:发布说明由github-actions[bot] 自动生成,未给出性能数据、测试结果或受影响模型范围,因此无法判断提速幅度。

共享内存bank冲突属于GPU执行层面的访存问题,修复对象是lightning indexer这一在CUDA后端运行的组件,而非全部推理路径。

版本附带macOS、Linux、Windows、Android等多平台预编译包;说明中标注macOS的KleidiAI版本与openEuler包为DISABLED,即未提供。

llama.cpp发布构建版本b12185,变更说明写明:修复lightning indexer在CUDA下的共享内存bank冲突(PR #31803)。

该发布页由github-actions[bot] 生成,除这一行变更标题外,未附性能数据、测试结果或受影响模型的说明。

本次变更与影响范围

b12185的变更条目只有一条:“CUDA: fix shared memory bank conflicts in the lightning indexer (#31803)”。共享内存bank冲突指GPU线程访问共享内存时出现同一bank的串行化访问,修复动作落在lightning indexer这一组件的CUDA实现中。

发布说明没有说明修复带来的速度变化,也没有列出受影响的模型或后端组合,读者不能据此推断其他后端或整体推理性能的变化。

  • 变更:修复lightning indexer的CUDA共享内存bank冲突
  • 对应PR编号:#31803
  • 发布者:llama.cpp仓库的github-actions[bot] 自动发布
  • 未提供:性能数据、测试结果、受影响模型清单

预编译包与平台限制

版本照例提供多平台产物,覆盖macOS Apple Silicon与Intel、iOS XCFramework、Ubuntu(CPU、Vulkan、CUDA 12.8、CUDA 13.5、ROCm 10.0、OpenVINO、SYCL)、Windows(CPU、CUDA、Vulkan、OpenVINO、SYCL、ROCm)、Android以及Snapdragon的CPU/GPU/NPU组合包。

说明中有两项标注为DISABLED:macOS Apple Silicon的KleidiAI版本(指向PR #23780)与openEuler系列包(指向PR #23705)。即这些条目在本次发布中未提供。

  • CUDA包分别对应 12.8 与 13.5,并单列对应的cudart库包
  • macOS Apple Silicon(arm64,KleidiAI启用)标注DISABLED
  • openEuler x86/aarch64各包标注DISABLED

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观