llama.cpp b11361为服务端新增 /v1/systemone API,支持laya、julia-1、lev、openjev、kev等模型
该版本发布说明称,此项改动(PR #29818)为llama.cpp的server添加了 /v1/systemone API,并附带模型转换脚本改进、共享提示前缀、视觉支持以及用于测试的openjev小型模型。
llama.cpp发布b11361版本,发布说明显示其server新增 /v1/systemone API,涉及模型laya、julia-1、lev、openjev、kev(PR #29818)。
发布说明列出的改动包括:初始转换、转换脚本改进、模型加载、新增server代码、支持共享提示前缀、补充文档并改善用户体验、加入视觉支持、为测试加入openjev小型模型、支持lev与kev、修复lev noul与Python lint,以及澄清不支持date_facts。
版本发布内容与模型范围
该条目为llama.cpp Releases发布的b11361版本说明,提交信息(PR #29818)描述为“llama, server: add /v1/systemone API”。发布说明中列出的模型为laya、julia-1、lev、openjev、kev。
按发布说明的表述,本次改动包含为openjev加入一个用于测试的小型模型,并支持lev与kev;同时补充了开发文档,并说明不支持date_facts。
- 新增API:/v1/systemone(server)
- 涉及模型:laya、julia-1、lev、openjev、kev
- 改动项包括转换脚本、server代码、共享提示前缀、视觉支持、开发文档
- 发布说明明确“不支持date_facts”
构建产物覆盖平台
发布页面同时提供各平台预编译产物下载。macOS/iOS方面提供macOS Apple Silicon(arm64)、macOS Intel(x64)和iOS XCFramework;其中macOS Apple Silicon(arm64,KleidiAI enabled)一项标注为DISABLED。
Linux方面提供Ubuntu x64/arm64/s390x CPU、Vulkan x64/arm64、CUDA 12.8 x64、CUDA 13.4 x64/arm64、ROCm 10.0 x64、OpenVINO 2026.4 x64、SYCL FP32/FP16 x64,以及Snapdragon(CPU、Adreno GPU、Hexagon NPU)的arm64构建。Android提供arm64 CPU和Snapdragon版本;Windows提供x64/arm64 CPU、OpenCL Adreno arm64、CUDA 12.4/13.4 x64与CUDA 13.4 arm64、Vulkan x64、OpenVINO 2026.4 x64、SYCL x64、ROCm 10.0 x64。openEuler各项(x86 310p、x86 910b ACL Graph、aarch64 310p、aarch64 910b ACL Graph)标注为DISABLED。另提供UI包。
- macOS/iOS:Apple Silicon arm64、Intel x64、iOS XCFramework;KleidiAI版标注DISABLED
- Linux:CPU(x64/arm64/s390x)、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4、SYCL FP32/FP16、Snapdragon
- Android:arm64 CPU、Snapdragon(CPU/Adreno GPU/Hexagon NPU)
- Windows:CPU、OpenCL Adreno、CUDA 12.4/13.4、Vulkan、OpenVINO 2026.4、SYCL、ROCm 10.0
- openEuler各项标注DISABLED;另提供UI包