LiteLLM发布v1.103.0-dev.1,Docker镜像改用cosign按提交哈希验签
该开发版本提供两种验签路径:推荐用固定在提交 0112e53的公钥,或使用受保护tag对应的公钥;变更列表还包含路由重试、成本核算与Bedrock、Anthropic适配等修复。
AI解读:官方推荐用固定提交哈希拉取公钥来验证,因为哈希不可篡改;用release tag更省事,但依赖仓库的tag保护规则。
除验签外,本次变更列表主要是修复:路由重试计数、团队与key的供应商权重、Bedrock与Anthropic适配、花费日志与缓存计费等。
对已经在生产中使用LiteLLM代理的团队,验签变化和成本核算修复影响最直接;对只是评估该项目的读者,可以先从验签命令和变更条目判断是否需要升级。
注意这是 -dev.1开发版本,来源为发布页内容,未提供完整变更说明或独立测试数据,实际升级影响需结合自身依赖判断。
LiteLLM发布v1.103.0-dev.1。发布页说明,所有LiteLLM Docker镜像都用cosign签名,每个release使用与提交 0112e53中引入的相同密钥。
验签有两种方式。推荐方式是用固定提交哈希对应的公钥:cosign verify --key https://raw.githubusercontent.com/BerriAI/litellm/0112e53046018d726492c814b3644b7d376029d0/cosign.pub ghcr.io/berriai/litellm:v1.103.0-dev.1。发布页称提交哈希在密码学上不可变,这是确保使用原始签名密钥的最强方式。
另一种方式是用release tag对应的公钥:cosign verify --key https://raw.githubusercontent.com/BerriAI/litellm/v1.103.0-dev.1/cosign.pub ghcr.io/berriai/litellm:v1.103.0-dev.1。发布页解释tag在该仓库中受保护,并解析到同一个密钥;这种方式更易读,但依赖tag保护规则。
发布页给出的预期输出为:cosign声明已验证、签名已针对指定公钥验证通过。
发布页的 “What's Changed” 列出大量变更条目,以下为其中部分内容,均按发布页原文归因。
变更列表中的路由与代理相关修复
发布页列出的条目包括:router在可重用凭据中保留Azure Entra ID参数;router按attempted_retries记录平坦重试次数并设上限;router在 429 响应时若同公有模型的兄弟部署可服务,则对该团队部署降温。
代理侧条目包括:通过spend-log语句预算限制工具和护栏索引的create_many;按请求加载一次团队成员关系,并在L1命中时跳过prisma;在映射的错误响应上转发供应商请求ID头;在路由省略call_id时从响应元数据解析x-litellm-call-id。
成本核算、计费与定价相关变更
发布页列出的条目包括:按音频缓存读取费率计费缓存的实时音频token;为azure gpt-chat-latest添加费率并移除已退役的friendliai llama-3.1条目;gemini-embedding-2按token计费并停止对音频双重收费;在 /v1/messages延迟调用和价格缓存写入无创建费率时记录供应商用量。
另有条目称:同步Vertex AI价格,共 14 个模型;测试让同步的GovCloud Bedrock行引用AWS价格清单。
供应商适配与安全相关变更
发布页列出的条目包括:支持S3后端托管文件的删除与列表;bedrock/realtime将延迟的Nova Sonic流失败传播到router;bedrock guardrails从纯消息推导上下文接地来源与查询;anthropic适配器将流中供应商错误以Anthropic错误事件暴露。
安全相关条目包括:MCP要求委托OAuth准入;JWT允许按签发者配置virtual_key_claim_field;代理新增general_settings.allowed_file_extensions用于 /v1/files上传;JWT通过agent_id_jwt_field将声明绑定到已注册代理。
其他功能与工具变更
发布页列出的条目包括:Friendli模型元数据自动同步进价格注册表;代理新增POST /management/v1/users/bulk用于批量创建用户与团队成员关系,以及POST /management/v1/users/bulk_delete和POST /management/v1/teams/{team_id}/members/bulk_delete;auto-router允许选择加入的团队成员管理自己的路由器;护栏新增上游presidio PII实体,包括德语集合。
发布页还列出若干依赖和CI变更,例如将smol-toml升到 1.8.0 以清除GHSA-7w5x-hrqm-74c2,以及在osv-scan中重新抑制GHSA-h7x2-h6g9-p789,原因是mlflow仍无修复版本。
上述条目均为发布页链接的PR标题,发布页未提供每个变更的完整说明或独立测试结果。