开源litellm Releases·原文 2026年9月13日

LiteLLM发布v1.102.0-rc.1:新增多个OCR适配器与Azure/Vertex Mistral支持

该候选版本把OCR接入Azure Document Intelligence、Azure Mistral、Vertex Mistral、Vertex DeepSeek和Reducto,并加入Claude Code与Codex的网关密钥配置命令。

AI解读:LiteLLM v1.102.0-rc.1是一次候选版本发布,改动集中在三类:OCR适配器扩张、代理性能与计费修正、以及MCP与OAuth相关修复。对已经在生产环境跑LiteLLM代理的团队来说,最实际的变化是OCR现在覆盖Azure和Vertex上的更多模型服务,不用再自己接一套非原生管线。

值得注意的两点:一是新增CLI可以用网关密钥直接配置Claude Code和Codex,二是MCP部分加入了工具权限的强制检查。前者减少手工改配置的步骤,后者对把MCP工具开放给终端用户、又需要限制调用范围的部署更有用。不过这是rc版本,官方未在发布说明中给出性能或稳定性数据,是否升级要看团队对候选版本的容忍度。

发布说明还包含大量以fix和perf开头的条目,例如把用户、团队、组织等计数器读取合并为一次MGET和一次pipeline,以及Bedrock流式花费的增量解析。这些细节说明本次发布的重点之一仍是代理在高并发下的开销和计费准确性,但具体收益数字需要自行压测验证。

LiteLLM发布v1.102.0-rc.1,这是一个候选版本。发布说明按惯例先给出Docker镜像签名验证方法:所有LiteLLM Docker镜像使用cosign签名,每个版本由commit 0112e53引入的同一密钥签名,官方推荐用固定的commit hash验证,也可以用受保护的release tag验证。

本次更新新增了多个OCR适配器,包括Azure Mistral(带原生认证)、Azure Document Intelligence、Reducto的legacy与v3版本、Vertex Mistral,以及Vertex DeepSeek,同时移除了旧版OCR管线。

发布说明还包含一项CLI更新:可以用网关密钥配置Claude Code和Codex。MCP相关改动则涉及OAuth注册回调、上游发现缓存和工具权限检查。

在代理性能方面,改动包括对用户、团队、成员、组织、项目和花费计数器的批量读取,以及对调用后花费计数器的单次MGET与单次pipeline处理,避免在响应路径上重新拉取团队、用户和组织信息。

此外还有多项修复与特性:虚拟密钥支持客户自管的AWS Secrets Manager KMS密钥、内存管理缓存容量可配置、复杂度路由响应头、Conduct Guard集成、Meta Muse Voice转录、以及DeepSeek V4.1 Flash在Fireworks上的模型价格条目。

信息来源

litellm Releases原始来源