跳到正文
原文
Reddit · r/LocalLLaMA· /u/matteiuspi·· 6 天前AI 评分57

我在两张华为 Ascend 96GB 卡上运行 Qwen3.8-flash-next 的技术笔记

Two 96 GB Ascend cards crun Qwen3.8-flash-next hardware notes, vLLM work, benchmarks, and what is next

AI 导读

作者使用两张华为 Atlas 300I Duo 卡(共4个 Ascend 310P3 设备,192GB 显存)运行 Qwen3.8 Flash-Next,通过优化 vLLM Ascend。

来源:Reddit · r/LocalLLaMA · reddit.com