最近很火的 Jev 到底是什么,一篇讲清它干嘛用和怎么用

你有没有实际遇到这样的场景:为了判断一条新闻该不该进今天的日报,你调用一个几千亿参数的模型。它想两秒,吐出一段”综合来看,这条新闻具有一定的相关性”,然后你还得写一堆正则和 try-except,从这段废话里把那个”是”抠出来。

一道判断题,走了一整套生成流程。

这几天刷屏的 Jev,干的就是把这趟流程砍掉。上线不到一周,X 上关于它的内容堆到七百多条,Vercel AI Gateway 上架 24 小时内就有接近 13% 的付费团队在调用它,这个采用速度超过 Vercel 此前上过的任何一个模型。

ChatGPT 给人写答案,Jev 给程序做判断。它不写代码、不聊天,连自由文本接口都没有,只做三种题,几百毫秒返回一个带把握程度的概率。

为什么大模型做判断题这么别扭

原因在于自回归。

大模型是一个字一个字往外蹦的。哪怕你要的只是一个 JSON,它也得先把那串字符”写”出来,再由你的程序去解析。写一个词要停下来琢磨下一个词,前面所有内容还得在注意力里重算一遍。

这像个写作文的人,每落一个字都要回想一遍前面写了啥再决定下一个字。这套机制换来了极强的创作能力,写小说、写代码、写分析报告都可。但是你让它做一道是非题,却麻烦了很多,也不是不能用,而是仿佛用一个起重机砸钉子。

如果用的是API的话,价格也是很大的问题:接入一个判断点容易,问题是 agent 一条任务里要判断几十上百次。判断邮件是不是投诉调一次,决定下一步用哪个工具再调一次,检查任务完成没有又调一次,不确定再让另一个模型复核一次。用户看着是完成了一项任务,后台已经烧了几十次调用。

Jev 是怎么绕过去的

Jev 来自旧金山的 TypeSafe AI,2026 年 9 月 15 日发布,刚拿了 4000 万美元种子轮,DCVC 领投。创始人 Diogo Almeida 出身 OpenAI,是 InstructGPT 论文的作者之一。

名字取自经济学家 William Stanley Jevons,就是提出”杰文斯悖论”那位,技术让某样东西更便宜,总消耗量反而会涨。拿这个名字给一个主打”便宜到可以随便调”的模型命名,意图挺明显。

它的做法是把输出限制死。

输入是一段 state,也就是你程序当前的状态。输出只有三种形式

题型 它回答什么 返回什么
Choice 从固定选项里选一个 choice、每个选项的概率、confidence
Score 在一组有顺序的等级上打分 score、每个等级的概率、confidence
Noul 这个判断成立的概率 一个 0 到 1 的浮点数

假设客户说”鞋码不对,而且退款还没到账”。你可以同时问它这单该转给哪个部门、客户是否在要求退款、情绪有多激烈。它不写解释,直接把选项、分数、概率交回来。

Choice 最多支持 255 个选项,所以它不可能凭空编出第 256 个。官方管这个叫”零幻觉”,这个说法其实并不准确,知道它的机制就好。

因为答案被限制在你给的范围里,它不需要逐字解码,直接在输出层一次性算出各个选项的概率分布。官方口径是端到端 70 到 500 毫秒。

还有个机制很有效,同一段材料只读一遍,多道题并行作答。官方说加题几乎不影响响应时间,所以别把问题拆成多次调用,那是白白重复付长材料的钱。

TypeSafe 把它这类东西叫 System One Model,借的是卡尼曼那套快慢思考的分法。大模型一直在模仿慢思考,写长分析做复杂推理。Jev 补的是那个又快又轻、凭直觉下判断的快思考。官方文档还有一个比方我觉得更准,管它叫”会理解语义的函数调用”。

但真正值钱的不是快,是概率校准。

以前的小分类模型也快,但是由于训练机制,导致它即使没有正确匹配也会根据排序给你一个最符合的选项,实际上最符合的可能也是完全错误的。那种置信度没法用,你不敢拿它写分流策略。Jev 的训练目标叫 RLCD(Reinforcement Learning for Calibrated Decisions),就是让置信度像靠谱的天气预报,说八成把握的时候,统计上一百次里真能对八十次左右。

这件事做成了,工程上才有意义。你可以放心地写一行 if confidence > 0.9,高把握自动过,低把握转人工或者转大模型。

可量化的真实效果

TypeSafe 官网挂着两个数字,最高快 193.6 倍、便宜 444.6 倍。这两个数的出处要看清楚。

它来自 TypeSafe 自己的 workflow eval,参考标准是 GPT-6 Astra 和 Fable 5.1 的平均,测试用的 workflow 是 TypeSafe 自己的团队写的。公司自己也承认,这个增益处在真实使用的高端。另外一个细节,他们没发证明这个价格没有被补贴。

再看那个”比 Claude Fable 5.1 便宜 238 倍”,这是拿输入价格除以输入价格算出来的,$10 除以 $0.042。可团队真正在用的不是那个价位。

模型 输入(每百万 token) 输出(每百万 token) 跟 Jev 比
TypeSafe Jev $0.042 免费 基准
GPT-5.6 Luna $0.20 $1.20 约 4.8 倍
GPT-5.6 Terra $2 $12 约 48 倍
Claude Fable 5.1 $10 $50 约 238 倍

四个业务 workflow 的平均准确率,Jev 大约 68%,成本 $0.0004;GPT-5.6 Luna 大约 67%,成本 $0.0035;GPT-5.6 Sol 74%,$0.085;Claude Opus 5 73%,$0.17。

它做不到的事

“零幻觉”不等于不会错。它只保证答案落在你给的选项里,在合法选项里选错照样会发生,TypeSafe 的 CEO 自己认过这一点。那个 0% 的说法指格式错误,不是实测的答案错误率。

然后是实测暴露出来的偏科清单。数数、精确算术、日期先后推算都不太靠谱;长链条多跳推理的准确率会明显下滑;主要用英语训练,中文能用但弱一截,做细腻的中文语义判断之前务必先拿自己的样本测一遍。

提示词注入依然有效。用户在输入里夹带诱导指令,它照样会被带偏。所以涉及退款、资金、删库这类高风险动作,底层硬编码的权限拦截该留还得留。

还有个结构性限制,输入上限约 3.2 万 token。有人想把它塞进自己的日常工具提效,试了四次全卡住,卡住的原因都不在模型,接口每次正常返回,中文判断也准。卡的是三件事:它看不到足够的内容,为了塞进上限得先砍材料,砍完它就没得判断了;你已经包月的大模型,多判断一次的边际成本本来就是零,中间再插一层只是多一秒延迟、多一个故障点;它只会判断不会干活,搬数据改文件都得靠第三方壳,坑全都落在那层壳上。

怎么上手

官方通道在 typesafe.ai 排 waitlist,通过后在 console 里建 API Key。不想排队的话有三条捷径,OpenRouter 注册后直接调 typesafe/jev-1.13,Vercel AI Gateway 上是 typesafe-ai/jev,Cloudflare Workers AI 也上了,价格跟官方一致。官方 API 里的模型名是 jev-latest。

有个坑是官方 SDK 读的是 TYPESAFE_API_KEY,但给 Claude Code 和 Codex 用的那个代码评审插件读的是 JEV_API_KEY,两个变量名。

装 SDK 一行命令,Python 要 3.10 以上。

pip install typesafe-sdk
npm install @typesafe-ai/sdk

最原始的用法是往一个端点发 state 加一组问题。所有题共用这段 state,并行作答。

curl -X POST https://api.typesafe.ai/v1/systemone \
  -H "Authorization: Bearer $TYPESAFE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "jev-latest",
    "state": "Hi, I have been trying to connect my Stripe account for 3 days and it keeps failing. I am losing sales. Please help ASAP.",
    "questions": {
      "is_urgent": {
        "type": "noul",
        "instructions": "Does this message express urgency or time-sensitivity?"
      },
      "department": {
        "type": "choice",
        "instructions": "Which team should handle this?",
        "criteria": {
          "billing": "Payments, invoicing, refunds",
          "technical": "Bugs, outages, integrations",
          "sales": "Pricing, upgrades, new accounts"
        }
      },
      "frustration": {
        "type": "score",
        "instructions": "How frustrated is the customer?",
        "criteria": ["Calm, just stating facts", "Frustrated but civil", "Very angry, strong language"]
      }
    }
  }'

Python SDK 读起来更顺,同样一次调用把三道题一起交出去。

from typesafe_sdk import Choice, Noul, Score, TypeSafeClient

client = TypeSafeClient()  # 读 TYPESAFE_API_KEY,默认 jev-latest

resp = client.system_one(
    state="我三天前申请退款到现在还没到账,鞋子也还没发货。",
    questions={
        "is_refund_request": Noul(
            instructions="客户是否在明确要求退款?"
        ),
        "department": Choice(
            instructions="这单该转到哪个组?",
            criteria={
                "billing": "账单、发票、退款金额",
                "logistics": "发货、物流、地址",
                "aftersale": "退换货、质量问题",
            },
        ),
        "frustration": Score(
            instructions="客户的情绪激烈程度?",
            criteria=["陈述事实", "不满但克制", "非常生气"],
        ),
    },
)

print(resp.answers["department"].choice,
      resp.answers["department"].confidence,
      resp.answers["department"].probabilities)
print(resp.answers["is_refund_request"].noul)
print(resp.model)  # 建议打日志,例如 jev-1.13.0

这里有个细节特别值得琢磨。confidence 和最高那个选项的概率是两回事。

官方文档的例子里,billing 以 0.84 的概率胜出,可 confidence 只有 0.596,因为排第二的 technical 还占着 0.159。赢是赢了,赢得不够彻底。你要是只看概率不看 confidence,就容易放过这种模棱两可的判断。

测试之后有几条经验分享一下:

分工要卡严。让 Jev 只负责提炼原始判断,日期计算、计数、排序、阈值比较这些活留给你自己的代码,权限和策略也在自己代码里,别指望它替你把关。

阈值按错误的代价调,别照抄别人的数字。每个task误判的损失可不一样,要求严格的还是需要自己来把关。

每次调用都把 model version、概率、用量记下来,阈值调好之后 pin 一个带版本的模型 id,别一直挂着 latest。

置信区间用你自己业务的标注样本去拟合。

检索类的流水线,先用一道相关性判断题把材料筛一遍,让每个决策只看到它需要的那几段,既准又省。

什么情况该用它

适合它的位置很清楚,系统里本来就存在的那些小判断点。

工单该转给谁、这条内容合规吗、下一步调哪个工具、这个提取结果要不要复核一遍、这单要不要人工介入。这些地方原本常常塞着一次大模型调用,慢、贵,还要写正则从它的回答里抠答案。

不适合的地方同样清楚。要写东西、要自由发挥、要长链条推理,它干不了也干不好。问题还没想清楚、连选项都列不出来的时候,那属于探索期,该用大模型。

网上现在已经跑出来的案例,内核都是同一个套路,把现有系统里的某个判断点换掉,而不是让它替你干活。

Browser Use 开源的 jev-ultrafast,把网页拆成带编号的元素清单,让 Jev 选”点哪个”,苏黎世到伦敦的机票搜索从 9.5 秒压到 7.1 秒。官方拿它打 Doom,输入换成解析好的结构化状态,压根不看画面,每秒约十次判断,连玩一小时成本约 7 美元。LangChain 在发布第二天就上了 TypeSafeClassifier,把”下一步调哪个工具”这类控制流判断从大模型手里接走。Vercel 在 AI Gateway 和 AI SDK 7 的 evaluate 里集成了它,做合规审核和事实一致性打分。

如果你手上正好有一个卡在主链路上、每天要跑几十万次的小判断,那确实值得现在就去试一把。至于直接上生产,我的看法是再等等。