|
7月5日,大道大模阿里巴巴与清华大学联合发表的至简论文 《The Flexibility Trap: Rethinking the Value of Arbitrary Order in Diffusion Language Models》(灵活性陷阱:重新审视扩散语言模型中任意顺序生成的价值)正式入选 AI 顶级会议 ICML 2026 杰出论文(Outstanding Paper)。 作为 ICML 的阿里最高荣誉,杰出论文旨在表彰当年最具影响力的清华研究工作,通常仅授予 2-3 篇,论文理能力入获奖率低至接受论文的揭示L杰 千分之一。
1. 扩散大模型(dLLM):被寄予厚望的大道大模下一代架构dLLM(Diffusion Large Language Model,扩散大语言模型)被视为当前最具潜力的至简下一代语言模型架构之一。Google 的阿里 Gemini Diffusion、中国人民大学的清华 LLaDA 等均属于该方向。
然而,该论文首次对这一共识提出质疑:在数学、编程等通用推理任务中,任意顺序生成非但不能提升能力,反而构成“陷阱”。 2. 核心发现:不确定性节点的“熵退化”研究指出,在复杂推理过程中,存在大量高不确定性的关键逻辑节点(如“因此”、“所以”等连接词)。这些节点如同逻辑分叉口,决定了推理的方向。
研究者将这一现象命名为 “熵退化”(Entropy Degeneration)。实证数据证实了这一结论: 3. 解决方案:JustGRPO —— 大道至简基于上述发现,团队提出了一种极简的解决方案:JustGRPO。
为何此前难以实现?为 dLLM 设计强化学习算法曾面临巨大的工程挑战: JustGRPO 的优势JustGRPO 摒弃了所有复杂设计,类似于“当所有人都在给左手练力量时,有人建议直接用右手”。这种方法不仅简化了工程实现,更带来了显著的性能提升:
在 GSM8K(包含约 8500 道多步推理小学数学应用题的标准测试集)上,JustGRPO 达到了 89.1%的准确率,全面超越 d1、ESPO、SPG、GDPO 等所有为扩散模型专门设计的复杂强化学习算法。 附:论文下载地址 |


