开源litellm Releases·原文 2026年9月20日

LiteLLM发布v1.103.0-rc.1:新增Claude Code网关与多项代理功能

LiteLLM发布v1.103.0-rc.1预发布版本,所有Docker镜像用同一cosign密钥签名,可用固定commit哈希校验;本版新增 /claude_code_gateway路由、Amazon Transcribe与Azure AI Speech直通、MCP会话强制关闭等能力。

AI解读:LiteLLM这次放出的v1.103.0-rc.1是预发布版本,重点不是某个模型,而是把代理的能力边界往外推了一圈:新增 /claude_code_gateway路由来承载Claude Code的网关协议,接入了Amazon Transcribe和Azure AI Speech的直通,还增加了xAI的Grok Voice Transcribe语音转文字。

对已经用LiteLLM统一代理多家模型的人来说,这些是“少写一层适配代码”的实用更新。

更值得细看的是钱和权限相关的变化:动态创建的客户可以拿到按key的默认预算,团队成员可以临时提高预算,项目花费和项目预算开始叠加计费,路由在部署的max_parallel_requests名额用满时直接返回 429。这些调整都在把预算控制从“事后看账单”往“调用时就被拦住”推,受影响最大的是管着多团队共享代理的管理员。

安全侧也有动作:Docker镜像继续用cosign签名,官方推荐用固定commit哈希而不是release tag去校验公钥,理由是哈希不可篡改。同一版本里还有一批权限修复,比如删除用户、团队、组织或批量删除key时清掉JWT key映射缓存,以及让团队服务账号的key能管理本团队的key。这些不是新功能,但它们决定了前面那些新能力不会顺手把权限搞乱。

需要说清楚的是,这是rc预发布版,不是稳定版;来源只给了变更列表和签名校验方式,没有给出这些功能的测试数据或正式版时间表。所以现在能确认的是“做了什么”,还不能确认“用起来多稳”。

LiteLLM发布v1.103.0-rc.1预发布版本,所有LiteLLM Docker镜像继续使用cosign签名,签名密钥与commit 0112e53引入的密钥相同。官方推荐用固定commit哈希校验公钥,因为哈希在密码学上不可篡改;也可用release tag校验,但依赖仓库的tag保护规则。

本版在代理层新增多项能力,包括 /claude_code_gateway路由、Amazon Transcribe直通、Azure AI Speech直通路由、Deepgram流式 /v1/listen WebSocket直通、xAI Grok Voice Transcribe语音转文字,以及Vertex AI的Chirp语音转文字通过 /v1/realtime流式输出。

预算与限流方面,新增动态创建客户的按key默认预算、团队成员临时预算上调、项目花费追踪与项目预算叠加执行;路由在部署的max_parallel_requests名额全部占用时返回 429。

此外还包含多项权限与安全修复,例如在用户、团队、组织及批量删除key时清除jwt key映射缓存,以及让团队服务账号key可使用key管理端点管理本团队。

信息来源

litellm Releases原始来源