LangChain接入TypeSafe AI的Jev模型：不生成文本，专做分类决策
TypeSafe AI称Jev在分类任务上推理速度最高可比同类LLM快 200 倍、成本低 400 倍；LangChain已将Jev封装为TypeSafeClassifier，并演示了模型路由与工具调用拦截两个中间件用法。
AI解读：这条新闻的核心不是又一个聊天模型，而是一个不生成文本的模型。TypeSafe AI把Jev称为System One模型：你给它一段状态和若干问题，它返回带概率的类型化答案。官方给出的数字是分类任务上推理最高快 200 倍、成本低 400 倍。
为什么需要这种东西？因为agent每一步决定都要调一次大模型，慢且贵。Jev把“判断”这一步单独拿出来，代码可以直接用它的结果决定下一步，而不必每次都走完整对话模型。
对做agent的开发者，能立刻用上的有两个点：一是用Jev判断请求难度再选模型，简单任务走便宜模型；二是用它在工具执行前拦截危险操作。LangChain已经把它接进中间件，装langchain-typesafe、配好API Key就能调。
限制也很明确：Jev生成不了文本，不是LLM的替代品，只适合分类类决策。它支持选择、打分和是非三种问题，一次请求可并行问多个问题，但官方没公布分类准确率、延迟和定价的完整细节，实际能不能省钱要按自己的任务测。
LangChain博客介绍了TypeSafe AI新发布的模型Jev，并给出在LangChain中使用它的方式。Jev不生成文本，TypeSafe AI将其称为System One模型，用于评估一段状态并返回类型化答案和概率。
据TypeSafe AI报告，Jev在分类任务上推理速度最高比同类LLM快 200 倍、成本低 400 倍。LangChain通过TypeSafeClassifier暴露Jev，调用 .invoke() 传入状态和问题，返回分类结果而非对话回复。
Jev怎么回答问题
调用时向模型发送一个state（上下文）和关于该state的questions。LangChain博客引用了TypeSafe文档中的工单示例：state是一段用户抱怨Stripe账户连接三天失败、正在损失销售的文字，问题是is_urgent（是否紧急），类型为noul。返回结果是noul值为 0.999，即 99.9% 的概率认为该消息紧急，应用可据此优先处理工单。
TypeSafe AI称Jev使用强化学习训练以做校准决策（RLCD）。它支持三类问题：Choice从一组选项中挑选，返回每个选项的概率和总体置信度；Score按有序等级（如低、中、高）打分，返回连续分数、底层分布和置信值；Noul回答是非题，返回陈述为真的概率。
一个请求里可以同时问多个问题。TypeSafe AI称System One模型会并行评估请求中的每个问题，增加问题几乎不改变响应时间，成本只增加额外问题的token，而这些token很便宜。
- 输入：一个state加若干questions
- 输出：类型化答案与概率，不生成文本
- 支持Choice、Score、Noul三类问题
- 一次请求可并行问多个问题，据称几乎不增加响应时间
LangChain集成与两个中间件
LangChain的模型集成本身是provider无关的，博主因此把Jev接进来与数千个其他集成和模型提供方并列。安装langchain-typesafe、设置TYPESAFE_API_KEY后即可调用：state可以是文本、结构化数据或LangChain消息，这让agent可以在节点或中间件钩子里，用已有上下文直接调用Jev。
博客给出两个实验性中间件示例。ModelRouterMiddleware让Jev先评估请求，按自定义标准选择模型：choices里定义fast（如直查、提取、局部改动）和powerful（架构和高风险决策），instructions为“选择能完成任务的最便宜模型”，路由结果会用于整个run，概率和置信度也保留在agent state中。
AutoModeMiddleware则用Jev检查工具调用是否存在风险决策，在工具执行前拦截。博客称Claude、Codex、Cursor等编码harness已经提供某种在执行前分类危险动作的机制，但此前这一步锁在闭源部分；现在有了便宜且性能好的分类模型，同样的模式可以搬到所有agent上。
- TypeSafeClassifier：传state和questions，返回分类结果
- ModelRouterMiddleware：按请求难度在fast与powerful模型间路由
- AutoModeMiddleware：用Jev在工具执行前拦截风险调用
适用边界
博客明确写道，Jev不是LLM的直接替代品：它不生成文本，但可以接管目前常用LLM做的分类任务，且延迟和成本不同。作者将其定位为驱动agent的模型的补充——开放式推理和生成交给LLM，沿途快速、结构化的决策交给Jev。
博客还列举了Kyle Jeong在Browserbase上用极小成本驱动浏览器agent、Jarrod Watts构建实时交易agent、Ryan Vogel做大规模邮件分拣三个已有项目，但没有给出这些项目的效果数据。
- 不生成文本，不能替代LLM的生成能力
- 定位是LLM之外的分类决策补充
- 来源为LangChain博客，Jev的性能数字出自TypeSafe AI报告