10月19日到28日的九天里,两个扩散语言模型把“替代”之争从玩笑推上了热榜。斯坦福大学教授Stefano Ermon联合创办的Inception Labs发布Mercury 3,官方称它在12项基准里赢了GPT-6 Luna和Claude Haiku 5.5中的8项,速度是对手的4到8倍。同档位的成绩单里,它在考查研究生水平科学推理的GPQA Diamond拿到89.23分,高于两款对手模型的86.36分和84.51分;SWE-Bench Atlas编码任务得分51.08,对手只有33.33和32.26。九天后,深圳的扩散智能(DiffuSpace)开源Clover-35B-A3B-Preview,在考察真实代码仓库问题解决能力的SWE-bench Verified上拿到73.6。知乎机器之心量子位
两次发布之间,小红书上的一条帖子宣称“预测下一个token概率”的生成范式将在未来三年内被扩散模型全面取代,收获近两千赞。“扩散做不了语言”确实被打破了——但所有“反超”目前都是厂商自测,而且这两个扩散模型都还长在自回归模型的地基上。这次热点坐实的是扩散模型第一次拿到与主流模型正面竞技的入场券,“替代”二字尚无证据支撑。小红书
速度从体验项变成Agent的能力项
我们熟悉的大模型几乎都是自回归:给前文、猜下一个字,每出一个字都要把模型完整跑一遍,文字才一个字一个字往外冒。扩散语言模型反过来:先把整段答案盖上掩码,每一轮同时猜多个位置,逐轮擦除到全文清晰。Clover的做法是“块扩散”折中——块与块按顺序推进,一块32个位置并行去噪,从全掩码开始,只有置信度超过默认阈值0.95的位置才先填上。速度之所以现在要紧,是因为Agent在循环里干活:调工具、读返回、再调整,几十步的延迟一路叠加。官方演示里,WindTunnel的49项网页操作任务,Clover中位执行耗时1.52秒,Jev加Mercury 2.5的自回归组合是3.21秒,用时少了一半多,尝试成功率分别为98.6%和95.9%。知乎量子位
这条路线过去被质疑的恰是两个“保不住”:参数做大了,速度保不住;生成提速了,质量保不住。这一次,两家公司各补上了一角。从Mercury 1 mini到Mercury 3,总参数涨了40多倍,综合分数涨到大约3倍,千级token/s的吞吐还在。Clover则采用Qwen3.6-35B-A3B的权重初始化再做扩散训练,官方口径下生成速度达到同配置自回归模型的5到10倍。模型本身也从团队2025年4月推出、累计下载超250万次的Dream 7B,推进到350亿总参、30亿激活的MoE规模。官方数据第一次把“规模、速度、质量”三角占齐,这是热点成立的技术底座。知乎知乎知乎
反超数据的两个折扣
但“替代”叙事的第一个折扣,是第三方复现还没跟上。Mercury 3标称每秒1068 token,OpenRouter公开遥测显示其平均吞吐251 token/s、P50峰值298。目前最完整的独立评测来自AI代码审查公司Bito:同一提示词、统一评审的条件下,它在规划类环节落后最强模型18分,与官方榜单里DeepSWE和长上下文的失分指向同一个问题。Clover的全部基准出自公司自家博客,与权重同日发布、尚无社区复现,模型卡自己写明「我们观察到非常长的生成有时会变得重复」,且仍是Preview版。知乎知乎知乎
第二个折扣,是训练路线尚未独立。Clover不是从零训的,而是在Qwen3.6-35B-A3B上改出来的,模型卡把Qwen的架构和训练生态列在致谢名单第一位。Mercury 3同样未公开绝对参数量,官方那张“变大变强”的图只给相对倍数,不给绝对参数量。用来论证“替代”的模型,恰恰靠被替代者喂大——现在更像“换了解码方式”,还不是换了物种。知乎知乎
全面替代的三道结构坎
更深的是三道结构坎。提出暴论的原帖作者在帖子里自己列了未解之题:语言是离散的,该如何将其编码为合适的隐变量,走进扩散模型擅长的连续空间?而现有AI基础设施整体围绕自回归范式搭建,包括推理加速离不开的KV-cache——扩散模型没有“从前到后”的顺序,也就用不上这个加速,换架构的成本最终要整个生态分摊。小红书Tao财经
对手盘也在追赶:已经有论文证明,自回归模型通过特殊训练也能做到“任意顺序生成”,正在抹平扩散的差异化卖点。速度优势的边界同样被画了出来:Bito的独立测评显示,输入越长、输出越短,扩散的速度优势就越不明显;谷歌的DiffusionGemma文档也提醒,在高QPS的云端负载下,并行解码的收益会递减。Tao财经知乎
巨头与资本都在下注,端侧先卡位
但押注这条路的已经不是某一家。蚂蚁团队公开讲扩散,并开源了千亿参数的扩散模型LLaDA 2.0。何恺明团队参与的ELF尝试在连续嵌入空间中生成语言,谷歌推出DiffusionGemma探索并行文本生成,国内大厂也在研究面向代码任务的扩散模型。资本端,DiffuSpace 10月初连续完成两轮融资、合计近5亿人民币,经纬创投、顺为资本、君联资本联合领投,中科创星、华为哈勃、地平线跟投——后两者指向的正是AI PC、智能汽车、机器人这类算力有限又要求秒回的端侧场景。Tao财经量子位知乎
近期结局:先分工,再谈替代
对用户而言,近期更现实的图景是分工而不是替代:推理规划交给自回归强模型,定义清楚、输出短、调用频繁的子任务交给扩散模型当“快手”。现在真金白银在跑的,就是Agent和编码这类吃延迟的场景。Mercury 3首发期定价每百万token输入0.10美元、输出0.35美元,正式标价为0.20和0.70美元。Clover则把门槛放到了消费级硬件上:INT4量化后16GB显存的RTX 5070 Ti即可部署,MATH-500测试生成速度101.8 tokens/s,约为同级对照模型48.5 tokens/s的两倍。知乎机器之心小红书
比起“三年替代”的口号,三个可核验信号更值得盯:第三方能否在长输入场景复现这些“反超”;不依赖自回归权重、从零训练的扩散大模型能否scaling成功;开源端会不会出现下一个Clover级模型。若第三条成立,用那篇Mercury 3分析的话说,推理框架里不少按自回归模型设计的默认做法都得重新考虑。缓存、调度、框架这整套基础设施松动的那天,“替代”的说法才算从热榜标题走进工程现实。知乎

登录