开源llama.cpp Releases·原文 2026年9月27日

llama.cpp b11205发布:CUDA后端支持Nemotron 3 Puzzle的SSM扫描状态尺寸 96

该版本唯一列出的变更是在CUDA后端为SSM扫描加入Nemotron 3 Puzzle所需的state size 96支持,对应PR #28717;其余内容为各平台预编译包清单。

llama.cpp发布b11205版本,发布说明中列出的代码变更是:CUDA后端为SSM扫描(ssm scan)支持Nemotron 3 Puzzle的state size 96,对应PR #28717。

变更内容与对应PR

该版本发布说明开头写明“cuda: support Nemotron 3 Puzzle state size 96 for ssm scan (#28717)”,即此项改动位于CUDA后端,针对SSM扫描路径,新增对state size 96的支持。

发布说明没有进一步描述该改动的实现细节、测试情况或性能数据。

  • 变更:CUDA后端支持Nemotron 3 Puzzle的state size 96,用于ssm scan。
  • 关联PR:#28717。

发布包覆盖的平台

发布说明的主体是各平台预编译产物清单,覆盖macOS/iOS、Linux、Android、Windows等。

Linux侧包含Ubuntu x64/arm64/s390x(CPU)、Vulkan、CUDA 12.8与CUDA 13.4的x64和arm64、ROCm 10.0 x64、OpenVINO 2026.4 x64、SYCL FP32与FP16 x64、以及面向Snapdragon的linux arm64(CPU、Adreno GPU、Hexagon NPU)。

Android侧提供arm64(CPU)和arm64 Snapdragon(CPU、Adreno GPU、Hexagon NPU)。Windows侧提供x64/arm64 CPU、arm64 OpenCL Adreno、CUDA 12.4与 13.4 的x64和arm64、Vulkan x64、OpenVINO 2026.4 x64、SYCL x64、ROCm 10.0 x64。

另有iOS XCFramework与UI包。macOS Apple Silicon的KleidiAI版本标记为DISABLED,并链接到PR #23780;openEuler相关构建标记为DISABLED,链接到PR #23705。

  • macOS Apple Silicon(arm64)与macOS Intel(x64)、iOS XCFramework均有构建。
  • macOS Apple Silicon的KleidiAI enabled构建标记为DISABLED(PR #23780)。
  • openEuler的x86/aarch64(310p、910b ACL Graph)构建标记为DISABLED(PR #23705)。

信息来源

llama.cpp Releases原始来源