双 CMP 170HX 跑通 Qwen3.8 Flash Next 量化推理优化方案

用户在 r/LocalLLaMA 分享了一套在两块 PCIe Gen2 x4 的 CMP 170HX 矿卡上运行 Qwen3.8 Flash Next 的优化方案。该方案采用 W4A16 AutoRound 量化方式，在带宽受限的 PCIe Gen2 x4 双卡环境下跑通了推理流程。这是目前已知在如此低端带宽条件（PCIe Gen2 x4）下使用消费级矿卡跑量化大模型的尝试，相关细节由社区用户于 2026 年 10 月 19 日发布。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。