Reddit · r/LocalLLaMA· /u/Yaniss916·· 3 天前AI 评分39
Qwen3.8-Flash-Next (125B) 在单台 Strix Halo 迷你 PC 上跑通：投机解码下 44-59 tok/s，开源推理引擎同步发布
Qwen3.8-Flash-Next (125B) on a single Strix Halo mini PC: 44-59 tok/s with speculative decoding, ~1,400 tok/s prefill, engine is open
AI 导读
团队在搭载 Ryzen AI Max+ 395、128 GB 内存的 Strix Halo 迷你 PC 上成功运行 Qwen3.8-Flash-Next（125B MoE，激活 6B），并同步开源其推理引擎 Kyojin（基于 ExLlamaV3 构建）。
来源：Reddit · r/LocalLLaMA · reddit.com