平时用 AI,都是你问一句、它写一大段。但真有大量重复判断要做的时候(比如这条评论要不要拦、这封邮件算不算垃圾、这个请求该派给哪个模型),你要的其实不是一段漂亮的文字,只是一个干脆的结论。 据 InfoQ 报道,旧金山实验室 TypeSafe AI 在 10 月下旬发布了 Jev,走的就是这条反方向的路:它不生成文本,只回一串「带类型的概率」。 它到底怎么"回答"开发者把一段状态信息(一个字符串,或一份结构化数据)连同若干个带类型定义的问题一起发过去,Jev 一次性并行评完,直接给出三种结果:选择(从几个选项里挑一个)、评分(给个分数)、布尔概率(是或否的把握有多大),每条都附带概率分布和置信度。 好处是省掉了一道"翻译"。过去的做法是让聊天 AI 输出一段 JSON,再写代码解析、校验、兜底;现在调用方拿到数字就能用——信心够就直接执行,不够就转人工或换更强的模型,规则写在代码里,不用猜文字。 官方给出的规格是:上下文 32000 Token,输入每百万 Token 0.042 美元、输出不收费,端到端延迟 70 到 500 毫秒。训练用了一种叫「校准决策强化学习」的方法,重点在于让它说 90% 的时候真的接近九成准。 上线一周,开发者先用起来了发布时间不长,接入却很快:Vercel 在第二天就把它加进 AI Gateway,称 24 小时内已覆盖近 13% 的付费团队,是 GPT-5.6 系列模型同期的两倍;Netlify 随后跟上;LangChain 出了 TypeSafeClassifier 集成,支持模型路由,还能在工具真正执行前先筛一道。 反馈里最集中的两点是快和便宜。Vercel 的工程师测出,用它做安全分类比原来用大模型快 5 到 18 倍;一位创业公司 CTO 说谷歌模型在邮件分类上准确率略高一点,但成本高出 10 到 20 倍,他选 Jev 的原因是「它是唯一能返回真实概率的」。也有网友汇总上千条讨论后算出,速度提升中位数约 7 倍、成本节省中位数约 30 倍,比官方宣传的数字保守不少。 别急着全信质疑同样直接。有开发者指出,它不写作文,但仍可能给出"格式合法、内容完全错误"的答案,速度对比也有误导成分;另一位 CTO 的说法更直白——这种设计某种程度上是"把幻觉问题交给了用户",50% 的把握到底该不该动手,得你自己判断。 官方文档里也列了它的短板:计数、算术、日期比较不太靠得住,状态信息又长又杂时准确率会掉,建议这类计算还是留在代码里做;同时也提醒锁死具体版本号,别用自动更新的别名。 对普通人的意义其实很朴素:AI 正在分成两条路——一条负责跟你说话、写东西,另一条躲在后台,只负责快速、便宜、大量地做判断。以后你手机里的 AI 回不回你消息、哪条通知该弹出来,很可能就是后者在 100 毫秒内做的决定。 来源:InfoQ《TypeSafe AI发布Jev:一种只返回类型化概率而非文本的决策模型》 原文链接:https://www.infoq.cn/article/3o7gwgKJt2SbH8AhdpkU |
业界动态范式放出Phai双模型:350亿参数只激活30亿2026-11-20
业界动态思维链一作Jason Wei离开Meta:不发模型了2026-11-19
业界动态材料科学智能体MatOS正式开源:AI自己攒经2026-11-18