Reddit · r/LocalLLaMA· /u/dead-fish·· 2 小时前AI 评分10
在双 CMP 170HX 上优化 Qwen 3.8 Flash Next 推理
Qwen 3.8 Flash Next optimized for two CMP 170hx GPUs
AI 导读
社区用户在两块 PCIe Gen2 x4 的 CMP 170HX 上跑通了 Qwen 3.8 Flash Next 优化方案,采用 W4A16 AutoRound 量化。
来源:Reddit · r/LocalLLaMA · reddit.com