Reddit · r/LocalLLaMA· /u/zyxciss·· 2 小时前AI 评分58
Betelgeuse 在 RTX 3060 12GB 上跑 DeepSeek V4.1 Flash Q8_XL，解码 19 tok/s、预填充 62 tok/s
Betelgeuse running DeepSeek V4.1 Flash Q8_XL (1017) at 19 tok/s decode & 62 tok/s prefill on an RTX 3060 12GB + 16GB RAM: How we finally fixed the prefill bottleneck on out-of-core MoEs
AI 导读
Betelgeuse 项目作者称已在 RTX 3060 12GB 加 16GB 单通道 DDR4 的机器上运行 DeepSeek V4.1 Flash Q8_XL（305.6+110.6GB），解码约 18–19 tok/s、预热后预填充 61.80 tok/s。
来源：Reddit · r/LocalLLaMA · reddit.com