港大教授创业,雷军华为都投了:一条"非主流"技术路线,想改写大模型"逐字生成"的老办法
一家名为DiffuSpace的企业,近期完成了数额达数亿元人民币的融资,这标志着“扩散语言模型”领域至今全球范围内规模最大的一笔资金注入。该公司的创始人孔令鹏,现任香港大学教授。投资阵容中,经纬创投、顺为资本及君联资本作为联合领投方,中科创星、华为旗下投资平台哈勃投资以及地平线则作为跟投方——顺为资本由雷军创立,而华为哈勃隶属于华为集团。
这家企业所押注的,是一条与当前所有主流大模型截然不同的技术路径。这条路径能否成功,不仅关乎这家公司的命运,更牵动着大模型行业未来的发展方向。
一、一条“非主流”路径,吸引雷军与华为投资
当前所有主流大模型——包括GPT、DeepSeek、智谱——均遵循同一种称为“自回归”的技术范式。其原理较为简明:逐字向后生成,即先输出第一个字,然后基于该字生成第二个字,如此循环往复,直至完成整个句子。
这种方法统治大模型领域已有数年之久,但它存在一个固有缺陷:速度缓慢。因为要生成一百个字,就必须执行一百个步骤,无法跳过任何一个字。
DiffuSpace押注的是另一条名为“扩散”的路径。这一术语源自图像生成领域——Stable Diffusion正是利用扩散模型进行绘图。扩散模型的思路与自回归截然不同:它并非逐字敲击,而是整体涂抹、并行生成。蚂蚁集团的赵俊博曾形象地比喻:扩散模型能够“直接修改Token”,无需像自回归那样只能向后书写。
在此进一步阐述两条路径的差异。自回归模型生成一句话,如同打字员逐字敲打,若中途想修改前面的字,只能删除后重来。扩散模型则更像绘画,先在画布上涂抹一层模糊底色,然后反复“去噪”,图像逐渐清晰,且可随时修改任意位置。这一差异决定了它们的适用场景:从头撰写新文本时,自回归足以胜任;但修复漏洞、调整逻辑或在中间插入语句时,扩散模型天生更具优势。
因此,扩散语言模型的最大卖点在于“快速”和“可修改”:并行生成使其更快,整体涂抹使其能在任意位置下笔。
孔令鹏作为港大教授,从学术界转型创业,专注于这条“非主流”路径。顺为资本、经纬创投、君联资本、华为哈勃及地平线等众多顶级资本同时押注一条尚未被验证的路径,表明它们并非笃信“扩散必定成功”,而是赌“万一扩散成功,先占据有利位置”。这与当年押注“开源还是闭源”、“Transformer还是RNN”的逻辑一致——技术路线之争,押错则数亿资金付诸东流,押对则获得下一个时代的入场券。该公司还预告将于10月发布参数规模更大的模型,表明其不满足于仅作演示,而是意图切实将扩散语言模型做大做强。
二、扩散的优势,正被自回归逐步追赶
然而,扩散这条路径远非其宣传那般顺畅。
首要问题在于,其引以为傲的“快速”特性打了折扣。自回归模型推理时,存在一种名为KV-cache的加速技术——将已计算的内容缓存起来,生成下一个字时无需重新计算。这里需解释其重要性:自回归每计算一个新字,都需“回顾”所有已生成的字,若不缓存,每生成一个字都需重新计算前面的内容,速度将慢至不可接受。KV-cache正是将已算结果存储起来,每次仅计算增量部分。而扩散模型是“整体并行”的,缺乏这种“从前到后”的顺序,因而无法利用此加速机制。因此,扩散的“并行”是以“无法缓存”为代价换来的,一进一出,优势便不那么显著。
第二个问题更为根本。扩散模型另一引以为傲的能力是“任意顺序生成”——可填空、可从中间开始、可修改。但已有论文证明,自回归模型通过特殊训练,也能实现“任意顺序生成”,与扩散模型相匹敌。换言之,扩散的差异化卖点正被自回归逐步追赶。
还有第三层。有理论分析直接指出,扩散语言模型未必优于自回归,结果甚至可能相反。原因在于,扩散在图像领域成功,是因为图像是连续的——像素可模糊、可渐变,“逐步去噪”天然适配。但语言是离散的,一个字即一个字,对错分明,扩散的“去噪”在离散空间中难以施展。这是扩散语言模型最底层的理论障碍。
因此,扩散当前处境略显尴尬:优势逐渐缩小,障碍却始终未除。但为何仍有如此多资本押注?答案需从更底层寻找。
三、“Token必须消亡”:这场战役的底层,是范式革命
要回答此问题,需将视角拉至最底层。
扩散语言模型真正的障碍,在于“token”这一概念本身。Token即“词元”,是当前所有大模型的基本单位——无论是自回归还是扩散,均基于token工作。但已有人喊出更激进的口号:“Token必须消亡”。其含义是,token这种离散的表示方式,本身限制了模型能力,下一代模型应放弃离散token,改用连续表示。
若此判断成立,那么“扩散vs自回归”之争,仅是更大变革的前奏——真正需改变的,是token这一地基本身。而扩散被推至台前,是因为其在“连续表示”路径上,比自回归走得更近一步。它不只是一条技术路线,更像是一次范式革命的探路。
行业顶层人士也已开始反思。Karpathy——前OpenAI、特斯拉AI负责人,AI圈最具影响力人物之一——于2025年11月发帖称,人类思维或许更偏向自回归,但潜意识中“很难说就不存在某种更像扩散的机制”,两者之间“可以插值、甚至泛化”。知名研究者Sebastian Raschka在2026年预测中也写道:Transformer统治依旧,但扩散模型正悄然崛起。
更关键的是,这并非DiffuSpace一家的赌注。谷歌于2025年5月发布了扩散版Gemini——Gemini Diffusion,2026年又开源了扩散模型DiffusionGemma。蚂蚁集团的赵俊博公开讨论扩散,团队还开源了千亿参数的扩散模型LLaDA 2.0。华为哈勃也在投资。这表明“扩散”已从“一家公司的豪赌”,转变为“巨头们的共识性试探”——大家都在试探,下一代大模型究竟应长什么样。当一个技术方向同时被谷歌、蚂蚁、华为等巨头用真金白银或人力布局时,它便不再是边缘的“非主流”,而是“下一个范式”的候选者之一。
而且,扩散语言模型当前最务实的路径,并非“从头训练一个扩散模型以颠覆自回归”,而是“将已有的自回归模型适配成扩散模型”——DiffuSpace自己的Dream 7B正是如此操作,它使用Qwen2.5 7B的自回归权重初始化,再转为扩散范式。这意味着扩散目前仍离不开自回归的底子,它更像是自回归的一个“升级补丁”,而非“替代者”。
回到DiffuSpace。其押注的扩散路径,真正价值可能不在于“取代自回归”,而在于“补上自回归做不好的那一块”——代码编辑、文档修改、Agent的自我修正。自回归只能向后书写,想改前面需删除重来;扩散能直接修改任意位置。这种“可修改”能力,在代码场景中具有实际用途。
因此,这场路线之争,最终可能并非“谁取代谁”,而是“分工”:自回归负责生成,扩散负责修改。而DiffuSpace,及其背后的经纬创投、顺为资本、君联资本、华为哈勃、地平线,赌的是这个“修改”市场,是否足够庞大,是否值得现在就用数亿人民币去卡位。
这种“分工”图景,在AI历史上曾出现过一次。当年图像生成领域,上一代范式是GAN,后被扩散模型彻底取代——因为扩散画出的图,质量肉眼可见地超越GAN。有人会问:语言领域是否会重演?答案可能不那么干脆。因为GAN被取代,是扩散在“质量”上碾压了它;而扩散在语言上,质量能否碾压自回归,至今未被证明。更可能的结果,并非“扩散取代自回归”,而是“两条路线共存、各司其职”——自回归继续做“生成”,扩散去做“修改和编辑”。这比“颠覆”温和,也比“消失”实在得多。
至于“Token是否会消亡”、自回归是否会被颠覆,那是更大的问题,Karpathy等人也尚未想清楚。DiffuSpace能做的,是先在“质疑自回归”这条战线上,于扩散语言模型这个尚未有人站稳的位置上,先占据一席之地。