开源llama.cpp Releases·原文 2026年11月8日

llama.cpp b12195发布:SYCL后端拒绝超出显存的设备缓冲区

该版本在SYCL后端加入检查:申请的设备缓冲区若会超过显存容量,则直接拒绝,对应PR #31285。发布页同时列出各平台预编译包。

AI解读:llama.cpp发布b12195版本,唯一列出的改动是SYCL后端的“拒绝超出VRAM的设备缓冲区”,对应PR #31285。

发布说明由仓库自动化账号github-actions[bot] 生成,改动描述来自提交标题,未附带性能数据或复现步骤。

llama.cpp发布b12195版本。发布页列出的改动标题为:SYCL后端拒绝会超出VRAM的设备缓冲区申请(PR #31285)。

该版本按惯例提供macOS/iOS、Linux、Android、Windows多平台预编译包,其中包含Ubuntu x64的SYCL FP32与SYCL FP16构建,以及Windows x64 SYCL构建。

改动内容与适用范围

发布说明仅给出一行改动描述:sycl: refuse device buffers that would exceed VRAM(#31285),未说明具体触发条件、错误返回方式或对已有工作负载的影响。

从标题判断,这项检查只涉及SYCL后端在申请设备缓冲区时对显存容量的比对;发布说明没有提到CPU、CUDA、Vulkan、ROCm等其他后端有同类改动。

  • 改动对应PR编号 #31285
  • 属于SYCL后端,其他后端未见同类条目
  • 发布说明未提供测试结果或性能对比

发布页的其他信息

发布说明由github-actions[bot] 生成,正文主要是各平台二进制包下载链接。其中macOS Apple Silicon的KleidiAI构建和openEuler相关构建标注为DISABLED。

  • Ubuntu提供x64/arm64 CPU、Vulkan、CUDA 12.8、CUDA 13.5、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16等构建
  • Windows提供CPU、Vulkan、CUDA 12.4/13.5、OpenVINO 2026.4.1、SYCL、ROCm 10.0等构建
  • 另有Android、iOS XCFramework和UI包

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观