Reddit · r/LocalLLaMA· /u/jesdga95·· 4 小时前AI 评分38
Basalt：专为 Qwen3.8 Flash-Next 与 Blackwell 打造的推理引擎，5090 + 5060 Ti 双卡达 665 tok/s
Basalt: Flash-Next at 665 tok/s structured, 354 prose on a 5090 + 5060 Ti (2.6x Strata)
AI 导读
Basalt 是一款基于 Strata 改写的 Blackwell 推理引擎，仅支持 Qwen3.8 Flash-Next，在 5090 + 5060 Ti 双卡上以 IQ3_XXS 量化达成 665 tok/s 结构化输出与 354 tok/s 散文生成，速度约为 Strata 的 2.6 倍，单张 5090 也可运行且仅慢约 12%。
来源：Reddit · r/LocalLLaMA · reddit.com