热点事件持续更新
llama.cpp重构Intel XMX加速推测解码
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
报道称，llama.cpp 对 Intel XMX 矩阵引擎进行重构后，B70 使用 SYCL 运行 Muse Glimmer Q6_K（30B）与 DFlash2 时，推测解码速度显著提升。9项测试总耗时由46.86降至26.68，但接受率由0.7845降至0.363；由于 token 验证成本降低，n-max 随之提高。
AI 根据报道生成 · 2 小时前更新
最新进展10月23日 02:16
重构后9项测试耗时降至26.68，但接受率降至0.363。报道时间线
沿着报道，了解事件的不同侧面。
10月23日
- Reddit · r/LocalLLaMAllama.cpp 重构 Intel XMX 矩阵引擎，大幅提升 B70 推测解码速度
llama.cpp 重构 Intel XMX 矩阵引擎后，B70 使用 SYCL 运行 Muse Glimmer Q6_K（30B）与 DFlash2 的推测解码显著提速。9 项测试总耗时由 46.86 降至 26.68，接受率由 0.7845 降至 0.363；因 token 验证成本降低，n-max 随之提高。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。