开源llama.cpp Releases·原文 2026年9月17日

llama.cpp b11007为MTP草稿模型启用CUDA graph

llama.cpp发布b11007版本,主要变更是为MTP(多token预测)草稿阶段启用CUDA graph,并同步更新各平台预编译二进制。

llama.cpp发布了b11007版本,发布说明中列出的唯一代码改动是为MTP(多token预测)草稿启用CUDA graph,相关提交编号为 #28549,改动描述为改进MTP的CUDA graph使用、重命名字段并处理评审反馈。

发布页面同时提供各平台预编译产物,覆盖macOS/iOS、Linux、Android、Windows和openEuler。

发布说明由github-actions[bot] 生成,未在摘要中披露该改动的性能数据或适用范围。

b11007的预编译产物覆盖哪些平台与后端

macOS/iOS部分提供macOS Apple Silicon(arm64)、macOS Intel(x64)和iOS XCFramework;其中启用KleidiAI的macOS Apple Silicon构建标注为DISABLED。

Linux部分提供Ubuntu x64(CPU)、Ubuntu arm64(CPU)、Ubuntu s390x(CPU)、Ubuntu x64(Vulkan)、Ubuntu arm64(Vulkan)、Ubuntu x64(CUDA 12,附CUDA 12.8库)、Ubuntu x64(CUDA 13,附CUDA 13.3库)、Ubuntu arm64(CUDA 13,附CUDA 13.3库)、Ubuntu x64(ROCm 10.0)、Ubuntu x64(OpenVINO 2026.3.1)、Ubuntu x64(SYCL FP32)和Ubuntu x64(SYCL FP16)。

Android部分提供Android arm64(CPU)。

Windows部分提供Windows x64(CPU)、Windows arm64(CPU)、Windows arm64(OpenCL Adreno)、Windows x64(CUDA 12,附CUDA 12.4 DLL)、Windows x64(CUDA 13,附CUDA 13.4 DLL)、Windows arm64(CUDA 13,附CUDA 13.4 DLL)、Windows x64(Vulkan)、Windows x64(OpenVINO 2026.3.1)、Windows x64(SYCL)和Windows x64(ROCm 10.0)。

openEuler部分标注为DISABLED,列出openEuler x86(310p)、openEuler x86(910b,ACL Graph)、openEuler aarch64(310p)和openEuler aarch64(910b,ACL Graph)。

此外还提供单独的UI包下载。

  • CUDA相关产物区分版本:Linux为CUDA 12.8与CUDA 13.3,Windows为CUDA 12.4与CUDA 13.4。
  • Linux端OpenVINO构建版本号为 2026.3.1,Windows端同为 2026.3.1。
  • Windows arm64另有OpenCL Adreno构建。
  • openEuler构建此次为DISABLED状态,并附有对应PR链接 #23705。

信息来源

llama.cpp Releases原始来源