开源litellm Releases·原文 2026年10月21日

LiteLLM发布v1.107.0:新增Microsoft 365 Copilot、GitHub Copilot等提供商支持

BerriAI的LiteLLM发布v1.107.0,发布说明列出多项新提供商支持和代理功能,包括Microsoft 365 Copilot聊天、GitHub Copilot按用户OAuth、hosted_vllm以及Databricks ai_decide决策提供商。

AI解读:新增提供商和模型支持包括Microsoft 365 Copilot聊天(OAuth token交换)、GitHub Copilot按用户OAuth连接、hosted_vllm、Azure AI的Microsoft-Decision-1,以及azure_ai/Cohere-Embed-V5-Fast和V5-Pro。

决策(Decisions)相关新增包括Databricks ai_decide作为 /v1/decisions提供商和自动路由决策器,以及在AgentCore runtime ARN上调用Strands Decider。

代理侧新增按HTTP状态码和调用方统计失败请求、Usage页面新增Errors标签页,以及可按团队要求LLM、MCP和agent请求携带trace ID。

发布说明还列出大量修复,涉及Bedrock、Gemini、OpenRouter计费、Azure、MCP guardrail、花费日志清理和OpenAI SDK 3兼容性等。

发布说明中未给出上述功能的公开效果数据或采用规模。

BerriAI的LiteLLM发布v1.107.0,发布说明列出了新提供商接入、决策API、代理可观测性和安全验证方面的变更。

Docker镜像为ghcr.io/berriai/litellm:v1.107.0。发布说明称所有LiteLLM Docker镜像均使用cosign签名,并给出两种校验方式:用固定的commit 0112e53中的公钥,或用v1.107.0标签下的公钥。发布说明称标签在该仓库受保护,两者指向同一密钥。

新增的提供商与模型条目

发布说明列出的新增接入包括Microsoft 365 Copilot聊天提供商(带OAuth token交换)、GitHub Copilot的按用户GitHub OAuth连接,以及hosted_vllm提供商。

模型目录方面新增azure_ai/Microsoft-Decision-1、azure_ai/Cohere-Embed-V5-Fast和azure_ai/Cohere-Embed-V5-Pro,并加入github_copilot/claude-haiku-5.5的定价条目。

决策API与代理功能变更

在 /v1/decisions方向,发布说明称新增Databricks ai_decide作为提供商和自动路由决策器,并支持在AgentCore runtime ARN上调用Strands Decider。管理界面中,管理员可以从Admin UI查找、调用和测试决策模型,Playground的System One标签页被重命名为Decisions。

代理侧新增按HTTP状态码和调用方追踪失败请求,Usage页面增加Errors标签页,展示失败率、状态码和身份维度。另一项变更是可按团队要求LLM、MCP和agent请求携带trace ID。

修复与其他改动

发布说明中的修复覆盖Bedrock(Grok默认走原生Chat Completions、GPT 5.6及以上丢弃stop序列、工具结果图片位置)、Gemini(弃用日期同步、OpenAI语音名映射到Gemini预置TTS语音)、OpenRouter计费改为读取usage.cost,以及Azure、MCP guardrail、花费日志清理的事务超时限制。

兼容性方面有一条改动称支持OpenAI SDK 3,同时保留SDK 2兼容。发布说明还包含将离线测试迁移到tests/unit、调整CI布局,以及分五部分移除cost-map中的OpenRouter行等重构。

信息来源

litellm Releases原始来源

更多

新闻专题
外观