跳到正文
原文
Reddit · r/LocalLLaMA· /u/returnity·· 5 小时前AI 评分38

Qwen3.8-Flash-Next 的 DFlash2 草稿模型已支持 llama.cpp,解码速度平均提升 17%

PSA: Upgrade Flash Next to DFlash2 if you haven't! +17% on average

AI 导读

Qwen3.8-Flash-Next 的 DFlash2 草稿模型现已兼容 llama.cpp v0.8.0,在 Apple Silicon M5 Max 上实测解码速度几何均值从 75.1 tps 提升至 87.9 tps,平均提升 17%。

来源:Reddit · r/LocalLLaMA · reddit.com