Reddit · r/LocalLLaMA· /u/Kooky-Mode3047·· 5 小时前AI 评分18
Basalt、Infernix、Strata(-nvfp4) 质量下降对比:社区求评测,质疑纯速度基准
Do we have any benchmarks on quality degradation between Basalt, Infernix, Strata(-nvfp4)? Not "engine go more brr" benchmarks, exploring wrong avenues fast is worthless.
AI 导读
有用户询问 Basalt、Infernix、Strata(-nvfp4) 之间的质量下降评测,认为只测推理速度的基准没有意义。该用户指出 Basalt 缺少动态 rope scaling,从一开始就按 yarn 静态缩放(524K 上下文时为 2),并且没有审查开关,但相关机制已存在、补上很容易。
来源:Reddit · r/LocalLLaMA · reddit.com