
一个不会说话的大模型,正在硅谷掀起一场风暴。
9月16日,ChatGPT核心发明人之一、InstructGPT论文第四作者Diogo Almeida连发长推,直接向行业开炮:当年那条路,咱们走偏了。他端出的解法,是一个叫Jev的模型。它不写文章也不陪聊,你扔一堆乱七八糟的数据进去,它只用70毫秒就甩回一个带概率的判断,输出token永久免费。
然后,事态彻底失控了。不到36小时,14万名开发者涌入内测。发布仅三天,Vercel、Cloudflare和LangChain等主流平台就完成了集成。有人拿它审PR,一次7万分之一美元,1000个PR才花7美分,同样的活交给Opus 5得烧掉14.5美元。就连谷歌都坐不住了,Gemma官方账号火速发文,把自家的扩散模型塞进这个新范式。
Almeida的逻辑很犀利。七十多年前图灵定下考题,机器能不能思考,看它能不能在对话里骗过人。整个行业从此朝着把话说漂亮狂奔,而ChatGPT几乎把这条路走到了极限。我们花了七十年、烧了千亿美元,终于教会机器把话说得比人漂亮,然后发现自己造出来的东西,依然什么都不敢让它自己决定。
背后的原因在于,我们荒谬地把嘴当成了脑子。地球上的智能演化了几亿年,绝大多数生死攸关的决策,在被说出来之前就已经做完了。至于语言,不过是最后几十万年才长出来的一层薄皮。
更致命的是,Almeida想明白了一件事:你优化什么,就会得到什么。而字符串,恰恰是世界上最难优化的东西。为了让长文本不跑偏,训练时就得把模型调得过度自信,逼它主动丢掉那些低概率的选项。代价就是,当大模型信誓旦旦说这事我有八成把握时,这八成全是水分。
既然文字这么难管,那干脆就别让它说话了。Almeida从OpenAI辞职,创办了TypeSafe AI,从底层训练架构开始推倒重来。
Almeida给Jev起了个新名字,叫System One模型。出处是诺奖得主卡尼曼的《思考,快与慢》。系统一,就是那种不用过脑子、凭直觉瞬间给出的本能判断。
Jev的用法非常简单。你输入一段极其混乱的状态,它会输出一个类型化的决策,并附带精确概率。在此期间,它不会生成任何一个字。官方文档只给了三种交互姿势:从给定选项里挑一个、给个具体分数、甩出一个0到1之间的概率值。
每个答案都带着所有选项的概率分布,外加一个整体置信度。直接的结果就是零幻觉。因为模型的工作只是给划定好的几个选项分配概率,选项之外的东西它想编也编不出来,程序拿到手的永远是一个合法的值。
至于快,也是同样的逻辑。大模型是一个token一个token往外挤,Jev把所有输出并行采样,一次性全给完。做一次判断,Jev端到端只要70到500毫秒,同样的活交给前沿大模型,要3到329秒。
输出token免费的底气也源于此。既然没有逐字生成的过程,那就没有值得计费的输出。TypeSafe只对输入收费,每百万token仅收0.042美元。对比一下,Astra和Fable 5.1的输出定价是每百万token 50美元。
Jev这个名字,取自经济学中的杰文斯悖论:蒸汽机效率越高,烧掉的煤反而越多。Almeida把模型命名为Jev,野心昭然若揭。
他在押注一个未来:当AI决策的成本趋近于零,速度快到令人发指时,开发者对AI决策的需求不会减少,而是会像大爆炸一样席卷所有代码。
过去,大模型太贵太慢,我们只在最核心的地方使用AI。但现在,如果每一次智能判断只需要0.04美分,只需要几十毫秒,那么你的代码里,将长出成千上万个微小的、敏捷的神经网络突触。
这也是他给AGI为什么还没来的答案。我们一直陷入这样的误区,以为AGI就是一个爱因斯坦式的超级大脑,越聪明越好,越会说越好。而Almeida的解法是反过来的,先让机器闭嘴,先让它可靠,再让它便宜到可以随手用。
当百亿个极速、廉价、可靠的智能细胞嵌进全球软件的基础设施,一张超越人类想象的自动化网络,就已经形成了。如果他赌对了,若干年后回头看,从ChatGPT开始的这三年,会被写成一段奇怪的弯路。而拐弯的地方,就是今天。