llama.cpp发布b11538:修复CUDA取整问题,MSVC下CPU与GPU结果一致
llama.cpp的b11538版本以CUDA修复为主要变更,作者在发布说明中称该修复解决了取整问题,使MSVC构建下CPU与GPU结果一致;同版本继续提供覆盖多平台的预编译包。
AI解读:该说法来自项目发布说明(github-actions[bot] 发布的版本页面),并非第三方独立复现的结论。
发布说明同时列出各平台预编译产物,覆盖macOS/iOS、Linux、Android、Windows以及UI包,CUDA构建提供 12 和 13 两个版本系列。
发布说明显示部分构建被标记为DISABLED:macOS Apple Silicon(启用KleidiAI)与openEuler相关产物。
同一批产物中还包括Vulkan、ROCm 10.0、OpenVINO、SYCL(FP32/FP16)以及Snapdragon(CPU、Adreno GPU、Hexagon NPU)等后端或平台版本。
来源仅包含版本发布说明与下载链接,未给出该修复的性能影响或受影响的具体模型与场景。
llama.cpp发布b11538版本,发布说明列出的主要变更是一项CUDA修复:“CUDA: fix round issue, under MSVC the CPU and GPU agree (#30229)”。
据该发布说明,修复针对取整问题,并称在使用MSVC的情况下CPU与GPU结果一致。这一表述来自项目方发布说明,并非独立验证结论。
b11538列出的变更内容
发布说明的标题即变更内容:CUDA取整问题修复(PR #30229),并注明在MSVC下CPU与GPU一致。页面未展开说明取整差异出现的前提、影响的算子或验证方式。
- 变更摘要:CUDA: fix round issue, under MSVC the CPU and GPU agree (#30229)
- 发布者:github-actions[bot](llama.cpp Releases页面)
同版本提供的平台产物
发布说明以链接形式列出b11538的预编译产物,覆盖桌面、移动与服务器平台。以下为发布说明中列出的类别。
- macOS/iOS:Apple Silicon(arm64)、Intel(x64)、iOS XCFramework;其中启用KleidiAI的Apple Silicon版本标记为DISABLED
- Linux:Ubuntu x64/arm64/s390x(CPU)、Vulkan、CUDA 12(含 12.8 库)、CUDA 13(含 13.4 库)、ROCm 10.0、OpenVINO、SYCL FP32/FP16
- Linux arm64 Snapdragon:CPU、Adreno GPU、Hexagon NPU(附setup guide)
- Android arm64:CPU版本与Snapdragon(CPU、Adreno GPU、Hexagon NPU)版本
- Windows:x64/arm64(CPU)、OpenCL Adreno(arm64)、CUDA 12.4、CUDA 13.4(x64与arm64)、Vulkan、OpenVINO、SYCL、ROCm 10.0
- openEuler:x86(310p、910b ACL Graph)与aarch64(310p、910b ACL Graph)均标记为DISABLED
- UI:llama-b11538-ui.tar.gz