Reddit · r/LocalLLaMA· /u/Relative-Ant-9249·· 4 小时前AI 评分38
QEngine 1.3.1 在 2x RTX 5090 上跑 Qwen3.8-Flash-Next：解码 504 tok/s，比次优引擎快约 1.5-1.9 倍
Qwen3.8-Flash-Next on 2x RTX 5090 with 504 tok/s decode: QEngine 1.3.1 decodes ~1.5-1.9x faster than the next-best engine I've tried (numbers, caveats, and what still bites)
AI 导读
QEngine 1.3.1 在 2x RTX 5090 上运行 Qwen3.8-Flash-Next，单流解码达 504 tok/s（FLASH_KV=ram 模式），约为 Strata 的 1.4-1.9 倍、bucko vLLM 的 3 倍。
来源：Reddit · r/LocalLLaMA · reddit.com