扬声·CNDoor.Vip › 首页 ›资讯› 业界动态 › 查看内容

AI不写作文了:这家公司让它只答是或否

2026-10-28 07:02| 发布者: 糖糊碌| 查看: 49| 评论: 0

摘要: 平时用 AI,都是你问一句、它写一大段。但真有大量重复判断要做的时候(比如这条评论要不要拦、这封邮件算不算垃圾、这个请求该派给哪个模型),你要的其实不是一段漂亮的文字,只是一个干脆的结论。 据 InfoQ 报道 ...

Jev:只给概率不写作文的AI

平时用 AI,都是你问一句、它写一大段。但真有大量重复判断要做的时候(比如这条评论要不要拦、这封邮件算不算垃圾、这个请求该派给哪个模型),你要的其实不是一段漂亮的文字,只是一个干脆的结论。

据 InfoQ 报道,旧金山实验室 TypeSafe AI 在 10 月下旬发布了 Jev,走的就是这条反方向的路:它不生成文本,只回一串「带类型的概率」。

它到底怎么"回答"

开发者把一段状态信息(一个字符串,或一份结构化数据)连同若干个带类型定义的问题一起发过去,Jev 一次性并行评完,直接给出三种结果:选择(从几个选项里挑一个)、评分(给个分数)、布尔概率(是或否的把握有多大),每条都附带概率分布和置信度。

好处是省掉了一道"翻译"。过去的做法是让聊天 AI 输出一段 JSON,再写代码解析、校验、兜底;现在调用方拿到数字就能用——信心够就直接执行,不够就转人工或换更强的模型,规则写在代码里,不用猜文字。

官方给出的规格是:上下文 32000 Token,输入每百万 Token 0.042 美元、输出不收费,端到端延迟 70 到 500 毫秒。训练用了一种叫「校准决策强化学习」的方法,重点在于让它说 90% 的时候真的接近九成准。

上线一周,开发者先用起来了

发布时间不长,接入却很快:Vercel 在第二天就把它加进 AI Gateway,称 24 小时内已覆盖近 13% 的付费团队,是 GPT-5.6 系列模型同期的两倍;Netlify 随后跟上;LangChain 出了 TypeSafeClassifier 集成,支持模型路由,还能在工具真正执行前先筛一道。

反馈里最集中的两点是快和便宜。Vercel 的工程师测出,用它做安全分类比原来用大模型快 5 到 18 倍;一位创业公司 CTO 说谷歌模型在邮件分类上准确率略高一点,但成本高出 10 到 20 倍,他选 Jev 的原因是「它是唯一能返回真实概率的」。也有网友汇总上千条讨论后算出,速度提升中位数约 7 倍、成本节省中位数约 30 倍,比官方宣传的数字保守不少。

别急着全信

质疑同样直接。有开发者指出,它不写作文,但仍可能给出"格式合法、内容完全错误"的答案,速度对比也有误导成分;另一位 CTO 的说法更直白——这种设计某种程度上是"把幻觉问题交给了用户",50% 的把握到底该不该动手,得你自己判断。

官方文档里也列了它的短板:计数、算术、日期比较不太靠得住,状态信息又长又杂时准确率会掉,建议这类计算还是留在代码里做;同时也提醒锁死具体版本号,别用自动更新的别名。

对普通人的意义其实很朴素:AI 正在分成两条路——一条负责跟你说话、写东西,另一条躲在后台,只负责快速、便宜、大量地做判断。以后你手机里的 AI 回不回你消息、哪条通知该弹出来,很可能就是后者在 100 毫秒内做的决定。

来源:InfoQ《TypeSafe AI发布Jev:一种只返回类型化概率而非文本的决策模型》

原文链接:https://www.infoq.cn/article/3o7gwgKJt2SbH8AhdpkU


鲜花

握手

雷人

路过

鸡蛋
扬声 · CNDoor.Vip 汇聚 AI 资讯、办公效率、写作、图鉴等实用内容,为新手提供从入门到上手的 AI 指南。我们相信:AI 不该只是技术圈的事——把复杂的事说人话,让每个人都用得上。
  • 手机博客
  • 手机扬声
Copyright © 2014-2026 扬声 · 菜鸟门 版权所有 All Rights Reserved. 冀ICP备2025120842号
关灯 返回顶部
返回顶部