Unsloth 对 Qwen3.8 Flash Next 多档量化效果评测

Unsloth 发布对 Qwen3.8 Flash Next 模型的多档量化效果评测。2026 年 10 月 15 日，一位用户在 Reddit r/LocalLLaMA 板块分享了针对芬兰语的量化影响实测。测试涵盖 Unsloth Q4 与 Q8 方案，结果显示芬兰语在量化后质量下降明显，即便 Q8 精度仍远超 0.02 KLD 阈值，未达到理想水平；而英语数据上 Q8 表现接近预期水平。此外，该用户还尝试了一种混合方案，将 Unsloth Q4 与 Q8 级别的 n-gram 进行组合，结果显示其效果介于 Q4 和 Q5 模型之间，并且 n-gram 从磁盘运行，不占用显存。该测试主要聚焦于低资源语言在量化后的退化情况及混合量化方案的可行性。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。