热点事件持续更新
ReaDy 利用循环状态加速推测解码
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月23日,Reddit r/LocalLLaMA 发布了关于 ReaDy 的论文介绍。ReaDy 利用混合线性注意力大语言模型的循环状态,在推测性解码中为每个草稿位置检索位置特定的上下文。相关实验在单块 NVIDIA B200 GPU 上运行,基于 Qwen3.8-27B 实现平均 3.16 倍解码加速;在七项数学、代码生成和对话基准上,吞吐量平均比 DSpark 高 7.97%,接受长度平均提升 8.50%。
AI 根据报道生成 · 2 小时前更新
最新进展10月23日 14:05
ReaDy 在单块 B200 上实现平均 3.16 倍解码加速。报道时间线
沿着报道,了解事件的不同侧面。
10月23日
- Reddit · r/LocalLLaMAReaDy:利用混合线性注意力大语言模型动态上下文进行推测性起草的论文
ReaDy 利用混合线性注意力大语言模型的循环状态,为推测性解码中的每个草稿位置检索位置特定上下文。在单块 NVIDIA B200 GPU 上,它基于 Qwen3.8-27B 实现平均 3.16× 解码加速,并在七项数学、代码生成和对话基准上超过 DSpark,平均提升吞吐量 7.97%、接受长度 8.50%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。