热点事件持续更新
ORL：开源扩散语言模型推理加速方法发布
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
ORL（On-Policy Residual Learning）是一项面向扩散大语言模型的开源推理加速研究，由研究团队与社区在 r/LocalLLaMA 发布。报道称，ORL 配合团队自研的推理引擎 dlmrt，在单张 RTX 5090 上运行 LLaDA-2.1-mini + ORL 可达 2,788 tokens/s；在 8× B200 上运行 DiffusionGemma 26B MoE + ORL，使用 NVFP4 量化，可达 7,708 tokens/s。截至目前，公开信息显示 ORL 与 dlmrt 均已开源，数字来源为发布者自述，尚未见独立第三方复现报道。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
10月17日
- Reddit · r/LocalLLaMAORL：面向扩散 LLM 的 on-policy residual learning 方法，配合 dlmrt 推理引擎实现开源
ORL（On-Policy Residual Learning）是一项加速扩散 LLM 推理的开源研究，配合自研推理引擎 dlmrt，实现在单张 RTX 5090 上 LLaDA-2.1-mini + ORL 达 2,788 tokens/s，以及 8× B200 上 DiffusionGemma 26B MoE + ORL 达 7,708 tokens/s（NVFP4）。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。