跳到正文
原文
Reddit · r/LocalLLaMA· /u/pmttyji·· 9 小时前AI 评分40

D3D:解耦扩散草稿模型实现异步投机解码,Qwen3-32B 上最高 7.48× 加速

[Paper] D3D: Decoupled Diffusion Drafting for Asynchronous Speculative Decoding

AI 导读

论文提出独立扩散草稿模型 D3D,通过块级去噪加辅助自回归监督,摆脱对目标模型 hidden states 的依赖,使草稿与验证可异步并行。以 Qwen3-8B 和 Qwen3-32B 为目标时,D3D 在七个基准上平均解码加速 5.00× 和 5.71×,DFlash 仅为 4.03× 和 3.67×;Qwen3-32B 在 GSM8K 上达 7.48×。

来源:Reddit · r/LocalLLaMA · reddit.com