热点事件持续更新
llama.cpp融合FFN矩阵乘优化推理
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月25日，Reddit r/LocalLLaMA 报道称，llama.cpp CUDA PR #29948 通过交错 FFN gate/up 行，融合矩阵乘法与 GLU，以提升推理性能。测试覆盖 Qwen3.8-27B、Qwen3.6-27B 和 Llama-3.1-8B 三款量化模型；在 DGX Spark（GB10）上的增幅最高达 +10.7%，在 RTX 5090 上最高达 +4.7%。目前进展为该 CUDA 优化已完成相关性能测试并被提交为 PR。
AI 根据报道生成 · 1 小时前更新
最新进展10月25日 17:35
PR #29948 融合 FFN 矩阵乘与 GLU，DGX Spark 最高提速 10.7%。报道时间线
沿着报道，了解事件的不同侧面。
10月25日
- Reddit · r/LocalLLaMAllama.cpp CUDA PR #29948 融合 FFN 门控与上投影矩阵乘法及 GLU，提升推理速度
llama.cpp CUDA PR #29948 通过交错 FFN gate/up 行，融合矩阵乘法与 GLU，提升多款量化模型的推理性能。DGX Spark（GB10）上的增幅最高达 +10.7%，RTX 5090 上最高达 +4.7%，测试覆盖 Qwen3.8-27B、Qwen3.6-27B 和 Llama-3.1-8B。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。