跳到正文
原文
Reddit · r/LocalLLaMA· /u/jesdga95·· 2 小时前AI 评分58

推理引擎的有损加速开关会让模型变笨吗?作者用 Qwen 3.8 Flash Next 实测

Is your engine lobotomizing your model? Kinda, and I measured it

AI 导读

作者在 Basalt 引擎上为 Qwen 3.8 Flash Next 加入 routing bias 和 tail skip 两个有损加速开关,用 KLD 和真实任务测试其对模型输出的影响。

来源:Reddit · r/LocalLLaMA · reddit.com