Gufo vs Halogen 推理框架性能对比实测

作者实测了开源推理框架 Gufo 0.4.0，发现其官方宣称的 70 tok/s 是在重复性提示词下通过投机解码达成的极限性能，普通提示词下仅为 39.4 tok/s。与 Halogen 对比，日常生成任务中 Halogen 单用户快 13%，4 用户快 18%；但 Gufo 处理长提示词快 16%。作者使用的是 Qwen3.8 27B Q4 模型在 APU 上测试。