跳到正文
原文
Reddit · r/LocalLLaMA· /u/MotorNetwork380·· 4 小时前AI 评分38

Speedy 在 Qwen3.8 上推理表现远超 Avalon 与 Strata

Speedy is shockingly good for qwen3.8 FN

AI 导读

用户在 RTX 4090 上实测 Speedy 推理 Qwen3.8 的 IQ3_S 量化版本,在 60K、120K、198K 三档上下文下,Speedy 的生成速度比 Avalon 快约 45%-47%,读取速度达 Avalon 的 1.6 倍、Strata 的 4.0-4.3 倍。Speedy 的整轮对话耗时比 Avalon 缩短 26%-31%,比 Strata 缩短 64%-72%。

来源:Reddit · r/LocalLLaMA · reddit.com