位置
北京市朝阳区望京科技园
电子邮箱
[email protected]
工作时间
每日 07:00-23:00
959-595-959

一家名为DiffuSpace的企业近期完成了亿元人民币级别的融资,这是“扩散语言模型”领域迄今为止全球规模最大的一笔交易。创始人孔令鹏是香港大学的教授。参与投资的机构包括经纬、顺为、君联作为联合领投方,中科创星、华为哈勃、地平线作为跟投方——顺为由雷军创立,华为哈勃则是华为的投资平台。

这家公司押注的是一条与当前所有主流大模型截然不同的技术路径。这条路径能否成功,不仅关乎这家企业本身,更影响大模型行业的未来发展方向。

一、“非主流”技术路线获雷军、华为投资

当前所有主流大模型——例如GPT、DeepSeek、智谱——都采用同一种名为“自回归”的方法。其原理很简单:逐字生成文本,先输出第一个字,再根据第一个字生成第二个字,如此循环,直至完成整句话。

这套方法主导大模型领域多年,但存在一个固有缺陷:速度慢。要生成一百个字,就必须运行一百步,无法跳过任何一个字。

DiffuSpace则押注另一条名为“扩散”的技术路线。这一概念源自图像生成领域——Stable Diffusion就是利用扩散模型来绘制图像。扩散模型的思路与自回归截然不同:它不是逐字敲击,而是整体涂抹、并行生成。蚂蚁集团的赵俊博曾形象地比喻:扩散模型能够“直接修改Token”,无需像自回归那样只能向后续写。

这里进一步细化两条路线的差异。自回归模型生成一句话,如同打字员逐个敲字,若中途想修改前面的字,只能删除重来。扩散模型则更像绘画,先在画布上涂抹一层模糊的底色,然后反复“去噪”,逐步清晰,并且可以随时修改任意位置。这一差异决定了它们的适用场景:从头撰写新文本,自回归足够;但修复bug、修改逻辑、在中间插入内容,扩散模型天生擅长。

因此,扩散语言模型最大的卖点是“快”和“能改”:并行生成使其更快,整体涂抹使其能在任意位置修改。

孔令鹏作为港大教授,从学术界转向创业,正是聚焦于这条“非主流”路线。顺为、经纬、君联、华为哈勃、地平线等众多顶级资本同时押注一条尚未被验证的路径,说明它们并非赌定“扩散必胜”,而是赌“万一扩散成功,先占据有利位置”。这与当年押注“开源还是闭源”、“Transformer还是RNN”的逻辑一致——技术路线之争,赌错则数亿元打水漂,赌对则获得下一个时代的入场券。该公司还预告将在10月发布参数更大的模型,表明其目标不仅是演示,而是切实推动扩散语言模型规模化发展。

二、扩散的优势正被自回归追赶

然而,扩散这条路径远非宣传中那般顺畅。

第一个问题是其引以为傲的“快”打了折扣。自回归模型在推理时,采用一种名为KV-cache的加速技术——将已计算的内容缓存起来,生成下一个字时无需重新计算。这里解释其重要性:自回归每计算一个新字,都必须“回头看”所有已生成的字,若不缓存,每生成一个字都需重新计算前面的内容,速度会慢到无法接受。KV-cache将已计算结果存储,只计算增量部分。而扩散模型是“整体并行”,没有这种“从前到后”的顺序,因此无法使用该加速技术。所以,扩散的“并行”是以“无法缓存”为代价换来的,一进一出,优势并不显著。

第二个问题更为根本。扩散模型引以为傲的另一能力是“任意顺序生成”——可以填空、从中间开始、修改内容。但已有论文证明,自回归模型通过特殊训练,也能实现“任意顺序生成”,与扩散模型匹敌。换句话说,扩散的差异化卖点正被自回归逐步追平。

还有第三层问题。有理论分析直接指出,扩散语言模型未必优于自回归,结果甚至可能相反。原因在于,扩散在图像领域成功,是因为图像是连续的——像素可以模糊、渐变,“逐步去噪”天然适配。但语言是离散的,一个字就是一个字,对错分明,扩散的“去噪”在离散空间中难以操作。这是扩散语言模型最底层的理论障碍。

因此,扩散目前处境尴尬:优势在缩小,障碍却未消除。但为何仍有大量资本押注?答案需要从更底层寻找。

三、“token必须死”:底层范式革命

要回答这个问题,必须将视角提升至最底层。

扩散语言模型的真正障碍在于“token”本身。token是“词元”,是当前所有大模型的基本单位——无论自回归还是扩散,都在token层面运作。但已有人提出更激进的口号:“token必须死”。这意味着,token这种离散表示方式本身限制了模型能力,下一代模型应放弃离散token,改用连续表示。

如果这一判断成立,那么“扩散vs自回归”的争论只是更大变革的前奏——真正要改变的是token这个地基。扩散被推到台前,是因为它在“连续表示”路径上比自回归走得更近。它不仅仅是一条技术路线,更像是一次范式革命的探路。

行业顶层人士也已开始反思。Karpathy——前OpenAI、特斯拉AI负责人,AI领域最具影响力的人物之一——2025年11月发帖称,人类的思维或许更偏向自回归,但潜意识中“很难说就不存在某种更像扩散的机制”,两者之间“可以插值、甚至泛化”。知名研究者Sebastian Raschka在2026年预测中也写道:Transformer仍将主导,但扩散模型正悄然崛起。

更关键的是,这并非DiffuSpace一家的赌注。谷歌2025年5月发布了扩散版Gemini——Gemini Diffusion,2026年又开源了扩散模型DiffusionGemma。蚂蚁集团的赵俊博公开讨论扩散,团队还开源了千亿参数的扩散模型LLaDA 2.0。华为哈勃也在投资。这表明“扩散”已从“一家公司的豪赌”转变为“巨头们的共识性试探”——大家都在试探下一代大模型该长什么样。当一个技术方向被谷歌、蚂蚁、华为等巨头用真金白银或人力布局,它就不再是边缘的“非主流”,而是“下一个范式”的候选者之一。

此外,扩散语言模型目前最务实的路径并非“从头训练一个扩散模型去颠覆自回归”,而是“将已有的自回归模型适配成扩散模型”——DiffuSpace自己的Dream 7B正是如此操作,它使用Qwen2.5 7B的自回归权重初始化,再转为扩散范式。这意味着扩散目前仍离不开自回归的底子,更像是自回归的一个“升级补丁”,而非“替代者”。

回到DiffuSpace。它押注的扩散路线,真正价值可能不在于“取代自回归”,而在于“弥补自回归做不好的那一块”——代码编辑、文档修改、Agent的自我修正。自回归只能向后写,修改前面内容需删除重来;扩散能直接修改任意位置。这种“可修改”能力在代码场景中具有实际用途。

因此,这场路线之争最终可能不是“谁取代谁”,而是“分工”:自回归负责生成,扩散负责修改。而DiffuSpace及其背后的经纬、顺为、君联、华为哈勃、地平线,赌的是这个“修改”市场是否足够大,是否值得现在就用数亿元去卡位。

这种“分工”图景在AI历史上曾出现过。当年图像生成领域,上一代范式是GAN,后被扩散模型彻底取代——因为扩散生成的图像质量明显优于GAN。有人会问:语言领域是否会重演?答案可能不那么干脆。因为GAN被取代,是扩散在“质量”上碾压;而扩散在语言上,质量能否碾压自回归,至今未被证明。更可能的结果是“两条路线共存、各干各的”——自回归继续做“生成”,扩散去做“修改和编辑”。这比“颠覆”温和,也比“消失”实在。

至于“token是否会死”、自回归是否会被颠覆,那是更大的问题,Karpathy等人也尚未想清楚。DiffuSpace能做的,是先在“质疑自回归”这条战线上,在扩散语言模型这个尚未有人站稳的位置上先占个位。