Reddit · r/LocalLLaMA· /u/PathfinderTactician·· 4 小时前AI 评分15
我们真的需要这么多「速度」帖子吗?
Do we really need all these "speed" posts?
AI 导读
有用户质疑 r/LocalLLaMA 上每天多篇宣称达到 300 t/s 的帖子:这些成绩往往依赖 Q1_XXXS REAP 量化、Greedy decoding 和 TAIL_SKIP,且未提供 KLD benchmark 数据。发帖者认为在缺少质量评测的情况下,这类速度记录对社区价值有限。
来源:Reddit · r/LocalLLaMA · reddit.com