Reddit · r/LocalLLaMA· /u/jesdga95·· 3 小时前AI 评分48
单张 RTX 5090 + 128GB RAM 上 Qwen 3.8 FN 各推理引擎性能对比
I ran all the popular Qwen 3.8 FN engines on a single 5090 + 128GB of RAM, here are the numbers
AI 导读
在单张 RTX 5090、128GB RAM 和 Linux 环境下,Basalt 与 Infernix 在 Qwen 3.8 FN 的解码速度上领先其余引擎。
来源:Reddit · r/LocalLLaMA · reddit.com