llama.cpp b11226发布:Windows ARM64可用MSVC cl.exe构建
llama.cpp新版本b11226合并PR #28362,让Windows ARM64平台支持用微软MSVC cl.exe编译器构建,同时照常提供macOS、Linux、Android、Windows等多平台预编译包。
AI解读:这条更新解决的是一个很具体的构建问题:在Windows ARM64上,llama.cpp此前不能直接用微软的MSVC cl.exe编译。PR #28362 把它打开,意味着用Visual Studio工具链的开发者不用再绕道其他编译器或交叉编译方案。
对想在Windows ARM64设备上从源码跑llama.cpp的人来说,变化是工作流变短了:装好MSVC就能编。但注意,这次改动只覆盖“用cl.exe构建”这件事,发布页没有给出推理速度、内存占用或具体模型表现的前后对比,性能是否受影响需要自行实测。
普通用户基本不需要做什么。发布页照例放出了各平台预编译包,Windows ARM64的CPU包和OpenCL Adreno包都在列表里;已经有可用预编译包的场景,不一定要自己编译。真正相关的是维护自定义构建或需要裁剪功能的开发者。
另外,macOS的KleidiAI加速构建、openEuler相关构建在本次说明中标注为DISABLED,与是否支持Windows ARM64是两回事,别把它们混在一起理解。
llama.cpp发布b11226版本。发布说明显示,这一版合并了PR #28362,标题为“Enables Windows ARM64 build with MSVC cl.exe”,即让Windows ARM64平台支持使用MSVC的cl.exe编译器进行构建。
该PR的提交流程中列出的工作包括:复现vlad看到的问题、修复fma问题、去掉volatile、修复volatile运行时任务、按需添加ARM编译标志、修复hsum编译错误、修复quants中的语法、加强SVE探测、精简语法修复为单行、移除调试代码、调整格式、移除针对float的宏、降低GCC指令数、支持armec、处理CI评论、修复交叉编译问题、移除警告、修复样式与fma探测、添加并更新文档。
发布页同时按平台列出b11226的预编译包。macOS/iOS提供macOS Apple Silicon (arm64)、macOS Intel (x64) 和iOS XCFramework;其中macOS Apple Silicon的KleidiAI加速版本标注为DISABLED。
Linux侧提供Ubuntu x64 (CPU)、Ubuntu arm64 (CPU)、Ubuntu s390x (CPU)、Ubuntu x64 (Vulkan)、Ubuntu arm64 (Vulkan)、Ubuntu x64 (CUDA 12)、Ubuntu x64 (CUDA 13)、Ubuntu arm64 (CUDA 13)、Ubuntu x64 (ROCm 10.0)、Ubuntu x64 (OpenVINO)、Ubuntu x64 (SYCL FP32)、Ubuntu x64 (SYCL FP16),以及Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU)。
Android提供Android arm64 (CPU) 和Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU)。Windows提供Windows x64 (CPU)、Windows arm64 (CPU)、Windows arm64 (OpenCL Adreno)、Windows x64 (CUDA 12)、Windows x64 (CUDA 13)、Windows arm64 (CUDA 13)、Windows x64 (Vulkan)、Windows x64 (OpenVINO)、Windows x64 (SYCL)、Windows x64 (ROCm 10.0)。openEuler的多个构建项在本次发布中标注为DISABLED。
发布页还提供独立的UI包。以上信息均来自llama.cpp Releases的b11226发布说明与产物列表。