跳到正文
原文
Reddit · r/LocalLLaMA· /u/BleynSpecnaz·· 3 小时前AI 评分67

如何在 8 GB VRAM 设备上运行 Qwen 3.8 Flash Next

Have 8 GB of VRAM and 32 GB of RAM? You can run Qwen 3.8 Flash Next at up to 900 t/s PP and 30 t/s TG!

AI 导读

作者在配备 8 GB VRAM、32 GB RAM 的 Linux 设备上运行 Qwen 3.8 Flash Next Q2,Chat 配置下 131K 上下文达到 930-1,040 t/s 的 PP 和 30-45 t/s 的 TG。

来源:Reddit · r/LocalLLaMA · reddit.com