开源llama.cpp Releases·原文 2026年10月14日

llama.cpp b11601为Hexagon后端加入可配置HTP DCVS/HMX电源模式

该版本通过run.py的 --hex-power-mode标志设置GGML_HEXAGON_POWER_MODE环境变量,并针对DCVS电源配置保持HTP唤醒;同一构建同步发布多平台预编译包。

AI解读:这一版新增的是Hexagon后端的HTP电源模式配置项,PR编号 #30423,作者提交中提及Max Krasnyansky参与建议。

据提交说明,配置不以common/arg.cpp的通用CLI选项形式提供,而是作为run.py的 --hex-power-mode标志暴露,沿用已有 --hex-nhvx模式;原因是环境变量必须在进程触及Hexagon后端注册表之前设置,相关说明见ggml_hexagon_init中的注释。

提交信息称该改动最初包含CLI标志,后根据PR评审意见移除,并对齐QAIRT电源模式、清理注释与日志。

提交记录还提到为DCVS电源配置保持HTP唤醒。

来源未给出性能、功耗或发热等实测数据,因此适用效果无法从本条目判断。

来源同时列出b11601的多平台预编译产物,涵盖macOS/iOS、Linux、Android、Windows等;openEuler构建及macOS KleidiAI选项显示为DISABLED。

llama.cpp发布b11601版本,为Hexagon后端加入可配置的HTP DCVS/HMX电源模式(PR #30423)。

电源模式的配置入口与设置时机

提交信息显示,该功能通过run.py的 --hex-power-mode标志暴露,用于设置GGML_HEXAGON_POWER_MODE环境变量,模式沿用了已有的 --hex-nhvx做法。提交者解释,该环境变量必须在进程触及Hexagon后端注册表之前设置,相关说明写在ggml_hexagon_init的注释中,因此没有作为common/arg.cpp的通用CLI选项提供。

提交记录还指出,最初的改动包含CLI标志,之后根据PR评审意见移除该标志,并对齐QAIRT电源模式、清理注释与日志。

  • PR编号:#30423
  • 新增入口:run.py的 --hex-power-mode标志
  • 设置对象:GGML_HEXAGON_POWER_MODE环境变量
  • 提交中提及Max Krasnyansky的建议被采纳(Co-authored-by: Max Krasnyansky)

HTP唤醒与发布产物

提交记录提到“为DCVS电源配置保持HTP唤醒”。这一描述来自提交信息本身,未附带测试条件或对比数据。

同一条目列出b11601的预编译产物,覆盖macOS/iOS、Linux、Android、Windows平台,包含CPU、Vulkan、CUDA 12.8/13.4、ROCm 10.0、OpenVINO、SYCL等后端。其中macOS Apple Silicon的KleidiAI启用版本与openEuler相关构建标注为DISABLED。

  • 产物示例:macOS Apple Silicon (arm64)、Ubuntu x64 (CPU/CUDA/ROCm/OpenVINO/SYCL)、Linux arm64 Snapdragon(CPU、Adreno GPU、Hexagon NPU)、Android arm64 Snapdragon、Windows x64/arm64多后端
  • 标注DISABLED:macOS Apple Silicon (arm64, KleidiAI enabled),openEuler各项构建
  • Snapdragon构建附带Linux与Android的setup guide链接

信息来源

llama.cpp Releases原始来源