开源litellm Releases·原文 2026年10月16日

LiteLLM发布v1.107.0-dev.3,新增MiniMax-H3视频生成与gemini-4-argon长解码自动续跑

该开发版本在 /v1/videos加入MiniMax-H3和H3-Max视频生成,为Gemini长解码引入continuationToken自动续跑,并修复Anthropic签名空思考块、代理gzip与审计日志null值等问题;Docker镜像继续用cosign签名。

AI解读:LiteLLM发布v1.107.0-dev.3,改动覆盖视频生成、Gemini长解码续跑、成本核算、MCP、代理性能与类型安全等方向。

Gemini侧加入continuationToken,对gemini-4-argon的长解码自动续跑;该改动在发布说明中标注了破坏性标记(!)。

Docker镜像由cosign签名,签名密钥与commit 0112e53引入的一致;发布说明建议用固定commit哈希而非release tag验证。

LiteLLM发布v1.107.0-dev.3。发布说明由litellm-dispatcher[bot] 发布,列出了本版本合并的改动清单。

新增能力包括:通过 /v1/videos接入MiniMax-H3和H3-Max视频生成;xAI的grok语音实时会话纳入计费;对gemini-4-argon的长解码以continuationToken自动续跑(该条目标注了破坏性变更标记)。

修复与改进覆盖Anthropic签名空思考块在 /v1/messages请求与重放中的保留、代理对超过 16 KiB响应的gzip处理移出事件循环、审计日志值中JSON null保持为null、未知密钥返回通用 401、/spend/tags聚合限定到调用者自身及获授权团队的日志等。

Docker镜像签名与验证方式

发布说明称所有LiteLLM Docker镜像均使用cosign签名,每次发布沿用在commit 0112e53中引入的同一密钥。

验证提供两种方式:用固定commit哈希(推荐,哈希不可变)或使用release tag(标签受仓库保护,解析到同一密钥)。命令为cosign verify --key <对应cosign.pub地址> ghcr.io/berriai/litellm:v1.107.0-dev.3。

本版本新增能力

发布说明列出的新增项包括:MiniMax-H3与H3-Max视频生成(通过 /v1/videos)、grok语音实时会话计费、Databricks Agent Platform代理接入agent gateway、Inference APIs作为OpenAI兼容provider、Rust原生OpenRouter Responses、批量任务每行请求与响应存入S3和GCS、按团队拆分Azure PTU部署并设置每团队PTU上限与PTU小时报告、UI中按查询设置搜索工具成本、Helm暴露Redis TLS设置与数据库IAM/Azure Entra令牌认证、Terraform只写secret属性避免写入state。

修复与调整要点

修复项包括:将流式thinking_blocks建立索引以便OpenAI SDK .stream() 累加器接受;代理gzip超过 16 KiB的响应改为离开事件循环处理;审计日志值中的JSON null保持为null;未知密钥返回通用 401;/spend/tags聚合限定到调用者自身及获授权团队的日志;Anthropic适配器停止修改调用方的input_schema;Vertex不可读凭据文件报为读取失败;Bedrock 404时回退到Mantle统计token;上传对象键文件名有界;MCP保留进度并及时取消上游工作。

另有回退:撤销此前添加LITELLM_FIPS_MODE启动门控的改动(PR #42700)。

信息来源

litellm Releases原始来源

更多

新闻专题
外观