Reddit · r/LocalLLaMA· /u/MotorNetwork380·· 4 小时前AI 评分38
Speedy 在 Qwen3.8 上推理表现远超 Avalon 与 Strata
Speedy is shockingly good for qwen3.8 FN
AI 导读
用户在 RTX 4090 上实测 Speedy 推理 Qwen3.8 的 IQ3_S 量化版本,在 60K、120K、198K 三档上下文下,Speedy 的生成速度比 Avalon 快约 45%-47%,读取速度达 Avalon 的 1.6 倍、Strata 的 4.0-4.3 倍。Speedy 的整轮对话耗时比 Avalon 缩短 26%-31%,比 Strata 缩短 64%-72%。
来源:Reddit · r/LocalLLaMA · reddit.com