开源litellm Releases·原文 2026年11月7日

LiteLLM发布v1.110.0-dev.1,Docker镜像改用cosign签名

这是LiteLLM的开发者预览版本,镜像签名密钥绑定在commit e82a3c6上,发布说明还列出多项代理计费与路由修复。

AI解读:发布说明称,使用固定commit哈希校验比使用发布标签更可靠,因为哈希不可变;用标签校验则依赖仓库的标签保护规则。

发布说明列出大量改动,包括停止在proxy-server等路由上以字符串 "None" 作为错误类型和参数返回、按OpenAI和Azure的实际计费方式计算PDF页数价格、修正n>1 流式响应中各个choice的重建逻辑。

cosign校验命令针对ghcr.io/berriai/litellm:v1.110.0-dev.1镜像;发布说明给出的预期输出包含签名声明已验证、签名与指定公钥匹配两项结果。

上述签名机制和修复内容均来自该版本发布说明,未包含第三方测评或基准数据。

LiteLLM于 2026 年 6 月 11 日发布v1.110.0-dev.1。该版本发布说明称,所有LiteLLM Docker镜像都用cosign签名,本版本签名所用的密钥由commit e82a3c6引入。

镜像签名校验如何使用固定commit

发布说明建议使用固定commit哈希来校验镜像。它给出的理由是:commit哈希在密码学上不可变,因此这是确认所用公钥就是已发布签名密钥的最强方式。

命令形式为:通过cosign verify指定从该commit路径下读取的cosign.pub公钥,再校验ghcr.io/berriai/litellm:v1.110.0-dev.1镜像。发布说明同时提供用发布标签v1.110.0-dev.1读取公钥的便捷写法,并说明仓库对标签设有保护、标签解析到同一密钥,但这种写法依赖标签保护规则。

发布说明给出的预期校验结果包括:cosign声明已验证,签名已与指定公钥匹配。

代理与计费相关修复

发布说明列举的改动中,带感叹号标记的多项涉及行为变更。其中一项是proxy-server、认证、支出和密钥健康路由不再用字面字符串 "None" 作为错误类型和参数返回。

计费方面,修复包括:为OpenAI和Azure模型按它们实际计费方式计算PDF页数价格;在响应指向未定价模型时,按请求模型的费率计费;在每个路径上按提供商上报的usage.cost计费,除非部署已单独定价。

流式与批处理方面,n>1 的聊天流中每个choice改为各自重建;批处理接口在OpenAI的批处理用量字段旁返回真实的批处理token数。路由方面,修复了默认OTPM预留上限,并在每次调用后对token计数器做对账。

新增提供商与价格表更新

发布说明称,本次新增CLF AI Gateway作为兼容OpenAI的提供商,包含十个模型;Z.AI支持response_format和max_completion_tokens,并加入glm-5v-turbo定价。

价格表更新包括:加入fireworks ultramarine 1 flash us、date deepseek v4 flash、baseten joey-1 decision model、openai gpt-6-rosalind、Cohere Rerank 5,以及Deepgram Aura-1和Aura-2文本转语音费率;同时为Gemini批处理和Azure Astra flex档位补充价格。

信息来源

litellm Releases原始来源

更多

新闻专题
外观