跳到正文
原文
Reddit · r/LocalLLaMA· /u/pmttyji·· 2 小时前AI 评分34

腾讯提出 DSpine:用相邻因果注入改进投机解码,Qwen3-8B 上平均接受长度提升 27.8%

[Paper] DSpine - Draft in Parallel, Condition Through Depth: Adjacent Causal Injection for Speculative Decoding - tencent

AI 导读

腾讯提出投机解码草稿模型 DSpine,在 backbone 每一层通过门控相邻注入把前驱预测特征写入后继位置,使因果条件链随网络深度展开、所有位置仍并行更新。

来源:Reddit · r/LocalLLaMA · reddit.com