llama.cpp发布b12386:修复Hexagon后端FA无掩码尾部问题
llama.cpp新构建b12386的变更说明只列出一条提交:hexagon后端修复FA no-mask tail(#32243),同时照例提供各平台预编译包。
AI解读:来源未说明该修复影响哪些模型、量化格式或设备型号,也未给出性能或正确性数据,适用边界无法从发布页判断。
该版本同时提供macOS、iOS、Linux、Android、Windows的预编译包,Linux arm64与Android arm64的Snapdragon包标注包含CPU、Adreno GPU和Hexagon NPU支持。
llama.cpp发布构建b12386,变更说明中列出的唯一改动为“hexagon: fix fa no-mask tail”,对应PR #32243。该说明由仓库的github-actions[bot] 账号发布,未附带问题复现、受影响范围或效果数据。
修复内容与可见范围
发布页把本次改动记为hexagon后端的FA no-mask tail修复。FA通常指flash attention,但来源没有说明修改涉及哪个算子实现、在什么输入条件下触发,也没有说明修复前后结果差异。
由于缺少细节,无法从该版本说明判断哪些使用Hexagon后端的场景会受影响,也无法判断其他后端是否涉及同类问题。
- 唯一改动:hexagon: fix fa no-mask tail(#32243)
- 发布者:github-actions[bot]
- 未提供性能、精度或复现信息
随版本提供的预编译包
b12386照例附带了多平台预编译产物。Linux arm64与Android arm64的Snapdragon包在文件名旁标注了CPU、Adreno GPU、Hexagon NPU,并链接了各自的安装指南。
发布页还列出macOS Apple Silicon的KleidiAI版本处于DISABLED状态,openEuler相关构建同样标注为DISABLED,并链接到对应PR。
- 覆盖macOS、iOS、Linux、Android、Windows预编译包
- Snapdragon包分Linux arm64与Android arm64两种
- macOS arm64 KleidiAI版与openEuler构建为DISABLED