开源litellm Releases·原文 2026年10月8日

LiteLLM发布v1.106.0-dev.2,新增Decisions端点与cosign镜像验签说明

该开发版本将 /v1/decisions与 /v1/systemone作为独立端点提供,并为Docker镜像附上基于固定commit哈希的cosign验签命令;发布说明同时列出大量修复与重构条目。

AI解读:LiteLLM发布v1.106.0-dev.2,属于dev预发布版本,镜像托管在ghcr.io/berriai/litellm。

发布说明要求用cosign验证镜像签名,提供两种方式:用commit 0112e53的固定哈希取公钥(推荐),或用v1.106.0-dev.2标签取公钥;说明称标签受仓库保护规则约束。

功能层面新增Decisions相关能力:/v1/decisions提供OpenAI格式,/v1/systemone提供System One格式,并把OpenAI加入Decisions提供商。

其余变更集中在修复与重构,涉及Azure、Bedrock、Anthropic、Vertex AI、Ollama、MCP、代理限流、缓存与可观测性等模块,条目均以PR编号列出。

验证命令与预期输出由发布说明给出,本次来源未提供这些改动的效果数据或测试结论。

LiteLLM发布v1.106.0-dev.2。发布说明的主要内容之一是Docker镜像验签:所有LiteLLM Docker镜像用cosign签名,且每个版本使用commit 0112e53引入的同一把密钥。

说明给出两条验签命令:推荐用固定commit哈希 0112e53046018d726492c814b3644b7d376029d0拉取cosign.pub,或用标签v1.106.0-dev.2拉取同一公钥;后者被描述为更易读,但依赖标签保护规则。

本次新增的Decisions端点

发布说明列出的变更中包含Decisions相关的新增:以共享decisions格式提供 /v1/systemone(System One格式)和 /v1/decisions(OpenAI格式),并把OpenAI加入为Decisions提供商,走共享HTTP处理与provider配置。

  • feat(decisions): serve System One format at /v1/systemone and OpenAI format at /v1/decisions
  • feat(decisions): add OpenAI as a Decisions provider behind a shared decisions format
  • refactor(decisions): dispatch /v1/decisions through provider configs and the shared HTTP handler
  • feat(decisions): add the OpenAI Decisions spec types and the System One translation

发布说明列出的其他变更方向

其余条目按模块分布,涉及Azure、Bedrock、Anthropic、Vertex AI、Ollama、MCP、代理与路由、缓存、可观测性、Lens以及测试结构。发布说明以PR链接形式逐条列出,未给出各项的合并时间或影响范围。

  • provider调整:Azure的claude-opus-5-5 / sonnet-5-5日期与限值、Bedrock的GovCloud OpenAI价格与GPT-6 Astra层级、Anthropic与Vertex AI的haiku-5-5 / sonnet-5-5价格和标志位
  • 代理与路由:v3限流器可选Redis hash-tag分组、新增denied_passthrough_routes拒绝列表、为自定义透传端点提供拒绝名单、MCP全操作限流与服务器级rpm
  • Ollama:把流式prompt型JSON工具调用转为真实工具调用、统一流id、非文本工具内容返回 400
  • Lens:把摄取与调查隔离到Rust服务、按优先级展示发现、把trace关联到发起会话、在ClickHouse存储终端用户反馈
  • 可观测性与测试:为端到端延迟指标增加model_group标签、把 126 个混合旧文件中的单元测试部分移入tests/unit、删除 73 个旧测试

信息来源

litellm Releases原始来源

更多

新闻专题
外观