llama.cpp发布b11464:修复SYCL后端混合不同型号GPU的FA问题
该版本对应的PR #29071 针对SYCL后端在Flash Attention中混用不同型号GPU的情况进行修复,改动位于ggml-sycl.cpp。
AI解读:改动文件为ggml/src/ggml-sycl/ggml-sycl.cpp,发布说明显示该修改经Georgi Gerganov共同提交。
该版本随附各平台预编译产物,包括macOS/iOS、Ubuntu(含CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16等)、Windows、Android以及Snapdragon相关构建。
发布说明中macOS Apple Silicon的KleidiAI构建标记为DISABLED,openEuler相关构建同样标记为DISABLED。
来源为llama.cpp Releases的发布页面,未提供该修复的实测效果数据或适用范围之外的性能说明。
llama.cpp发布b11464版本。发布说明列出的改动是SYCL后端修复:PR #29071 解决Flash Attention中混合不同型号GPU的问题。
该修复修改了ggml/src/ggml-sycl/ggml-sycl.cpp,发布说明标注提交者包括Georgi Gerganov。
b11464中的SYCL修复
发布说明将本次发布的内容记为“[SYCL] fix the issue in mixed different model GPUs in FA (#29071)”,即修复Flash Attention场景下混合使用不同型号GPU的问题。改动涉及ggml-sycl源文件,发布说明中列出的共同提交者为Georgi Gerganov。
除该条目外,发布说明未列出其他变更内容。
- PR编号:#29071
- 修改文件:ggml/src/ggml-sycl/ggml-sycl.cpp
- 问题范围:FA(Flash Attention)中混合不同型号GPU
随附构建产物
b11464发布页提供了覆盖多平台的预编译包。SYCL相关产物包括Ubuntu x64的SYCL FP32与SYCL FP16版本,以及Windows x64的SYCL版本。
发布说明中macOS Apple Silicon的KleidiAI启用版本标注为DISABLED,openEuler的多个构建条目同样标注为DISABLED。
- Linux/Ubuntu:CPU(x64、arm64、s390x)、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16
- Windows:CPU(x64、arm64)、OpenCL Adreno(arm64)、CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0
- macOS/iOS:Apple Silicon(arm64)、Intel(x64)、iOS XCFramework
- Android:arm64 CPU、Snapdragon(CPU、Adreno GPU、Hexagon NPU)
- 其他:Linux arm64 Snapdragon构建、UI包