跳到正文
热点事件持续更新

Q4量化Qwen3-8B Flash在2×R9700+64GB平台实现高吞吐推理

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月15日,Reddit用户Athabasco在r/LocalLLaMA发帖称,其新组装的2×R9700+64GB DDR5平台上,采用Deadcode的Radiance推理引擎对Q4量化的Qwen-3.8 Flash-Next模型进行跑分,decode速度达176 t/s,prefill速度达6,450 t/s,跑分工具为BetterBench。该结果展示了在消费级双卡平台上运行量化大模型的推理性能表现。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. Reddit · r/LocalLLaMA
    2×R9700 + 64GB DDR5 平台用 Deadcode Radiance 推理引擎跑 Q4 Qwen-3.8 Flash-Next,decode 达 176 t/s、prefill 达 6,450 t/s

    用户 Athabasco 组装新 PC 后,使用 Deadcode 的 Radiance 推理引擎在 2×R9700 + 64GB DDR5 平台上对 Q4 量化版 Qwen-3.8 Flash-Next 进行跑分,decode 速度达 176 t/s,prefill 速度达 6,450 t/s,跑分工具为 BetterBench。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。