

你有没有发现一个诡异的现象?
ChatGPT都火三年了,号称“超人类智能”,但你敢让它独自值班做决策吗?不敢。
它能写出漂亮的文章、通过律师考试,却连“这封客户邮件是不是在骂人”都不敢自己判断。
就在最近,一位ChatGPT的核心发明人站了出来,直接开炮:这条路,咱们走偏了!
故事的主角叫Diogo Almeida,OpenAI早期最核心的研发人员之一,RLHF和InstructGPT的关键奠基人。
说白了,ChatGPT能跟你对话,他功不可没。
但就在ChatGPT爆火之后,他陷入了深深的怀疑。
💡 他问了自己一个问题:
“在共同发明了ChatGPT之后,我一直在想:为什么超人类的聊天模型,没有带来AGI?”
答案扎心了——这么聪明的AI,到今天还得靠人类盯着才能干活。根本做不到真正的自动化。
他发现了一个致命问题:RLHF教会模型的是“怎么回答能讨好人类”。
更致命的认知是:字符串,恰恰是世界上最难优化的东西。
为了让长文本不跑偏,训练时就得把模型调得过度自信,逼它丢掉低概率选项,把输出按在主干道上。
代价是什么?
当大模型信誓旦旦跟你说“这事我有八成把握”,这“八成”全是水分。
在文字输出上追求绝对可靠,是在逆着生成式AI的底层原理干活。
于是,他从OpenAI辞职,创办了TypeSafe AI,从底层训练架构开始推倒重来。
他带回来的答案,叫Jev。一个不会说话的模型。
Jev的用法简单到离谱。
你扔一堆乱七八糟的数据进去——比如一封炸毛的客诉邮件,或者卡壳的代码——它只输出一个带概率的判断。
全程不生成任何一个字。
官方文档只给了三种姿势:
第一,Choice——从给定选项里挑一个。
第二,Score——给个具体分数。
第三,Noul——甩出一个0到1之间的概率值。
每个答案都带着所有选项的概率分布,外加整体置信度。
直接结果就是,零幻觉。
因为模型只负责给划定好的选项分配概率。选项之外的东西,它想编也编不出来。程序拿到手的,永远是一个合法值。
至于“快”,逻辑也一样。大模型一个token一个token往外挤,Jev把所有输出并行采样,一次性全给完。
一次判断,端到端只要70到500毫秒。同样的活交给前沿大模型,要3到329秒。
既然没有逐字生成的过程,那就没有值得计费的输出。
TypeSafe只对输入收费,每百万token仅收0.042美元。对比一下,主流大模型的输出定价是每百万token 50美元。
支撑这一切的,是一种叫RLCD的新训练法。
RLHF奖励的是“人类看了很爽”;RLCD奖励的则是“你给的概率,得和实际命中率咬合”。
模型说0.9,那就必须有九成的时候是正确的。
落到业务场景,画面是这样的:扔一段客诉给Jev问“客户是不是在暴怒”,它可能回0.9,也可能回0.1。
拿到0.9,软件直接拉响红色警报;拿到0.1,扔进低优工单。整个过程,不需要任何人去读那封邮件。
Jev这个名字,取自经济学中的“杰文斯悖论”:蒸汽机效率越高,烧掉的煤反而越多。
Almeida的野心昭然若揭。
他在押注一个未来:当AI决策的成本趋近于零,速度快到令人发指时,开发者对AI决策的需求不会减少,而是会像大爆炸一样席卷所有代码。
Jev在面对需要一步步推导的数学推理时,顶多只有GPT-4的水平。目前也不支持图像输入。
在一个绝大多数人还在围绕“文字生成”找用例的时代,主动放弃文字输出,无疑是一场巨大的冒险。
但Almeida的解法是反过来的:先让机器闭嘴,先让它可靠,再让它便宜到可以随手用。
当百亿个极速、廉价、可靠的“智能细胞”嵌进全球软件的基础设施,一张超越人类想象的自动化网络,就已经形成了。
我们花了七十年、烧了千亿美元,终于教会机器把话说得比人漂亮,然后发现自己造出来的东西,依然什么都不敢让它自己决定。
背后的原因在于,我们荒谬地把“嘴”当成了“脑子”。
地球上的智能演化了几亿年,绝大多数生死攸关的决策,在被“说”出来之前就已经做完了。至于语言,不过是最后几十万年才长出来的一层薄皮。
如果他赌对了,若干年后回头看,从ChatGPT开始的这三年,会被写成一段奇怪的弯路。
而拐弯的地方,也许就是今天。
真正的智能,从来不是说得漂亮,而是判断得准确。
你觉得,AI接下来最该突破的,是“会说话”还是“会决策”?评论区聊聊你的看法!
如果这篇让你有一点启发,别忘了点赞、在看、转发三连,让更多人看到AI的另一种可能!