开源llama.cpp Releases·原文 2026年11月19日

llama.cpp发布b12530:为WASM加入Relaxed SIMD,并支持q3_K/q6_K

该版本提交信息称,此次改动在ggml的WASM后端加入relaxed SIMD,修复相关内核并新增q3_K、q6_K量化支持;同时照例提供各平台预编译包。

AI解读:llama.cpp发布b12530版本,提交标题为“ggml : WASM Relaxed SIMD Enhancement (#19590)”,由Xuan Son Nguyen参与合著。

提交说明列出四项改动:加入relaxed simd、修正缩进、删除注释与空白、修复WASM的relaxed SIMD内核并新增q3_K/q6_K支持。

发布页同时列出macOS/iOS、Linux、Android、Windows等多平台预编译产物;其中macOS Apple Silicon的KleidiAI版本标注为DISABLED,openEuler相关构建同样标注为DISABLED。

来源为版本发布页与提交信息,未给出性能测试数据,因此无法据此判断relaxed SIMD带来的实际加速幅度。

llama.cpp发布b12530版本。该版本对应的提交标题为“ggml : WASM Relaxed SIMD Enhancement (#19590)”,改动集中在ggml的WASM后端。

提交说明写明的工作包括:加入relaxed simd、修复WASM的relaxed SIMD内核,并新增q3_K/q6_K支持;其余条目为缩进与空白清理。

本次提交改了什么

根据发布页引用的提交信息,该PR编号为 #19590,标题指出这是WASM Relaxed SIMD的增强,合著者包括Xuan Son Nguyen。提交条目依次为:add relaxed simd、fix indentation、remove comments and whitespace、wasm: fix relaxed SIMD kernels and add q3_K/q6_K support、rm trailing space。

  • 加入relaxed SIMD
  • 修复WASM relaxed SIMD内核
  • 新增q3_K/q6_K支持
  • 清理缩进、注释与多余空白

发布产物的适用范围

发布页列出了macOS/iOS、Linux、Android、Windows以及UI的预编译包下载项,覆盖CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL等后端,另有Snapdragon的CPU、Adreno GPU、Hexagon NPU组合包与配置指南链接。

其中两项标注为DISABLED:macOS Apple Silicon的KleidiAI启用版本,以及openEuler的各构建项。发布页未说明这两项被禁用的原因。

  • Linux侧包含Ubuntu x64/arm64、s390x及zDNN构建
  • Windows侧包含CPU、CUDA 12.4/13.5、Vulkan、OpenVINO、SYCL、ROCm 10.0
  • Android提供arm64 CPU与Snapdragon组合包
  • macOS KleidiAI版本与openEuler构建标注DISABLED

效果数据与限制

来源只包含提交说明与下载清单,没有给出relaxed SIMD或q3_K/q6_K支持的基准测试结果。因此本次发布能确认的是代码层面的改动与产物范围,实际推理速度变化尚不可从该来源得出。

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观