跳到正文
原文
Reddit · r/MachineLearning· /u/AKAMA199·· 7 小时前AI 评分20

推理配置变更要算“质量中性”,需要哪些证据?[D]

What would you require before calling an inference change “quality-neutral”? [D]

AI 导读

在 NVIDIA Ling-3.0-flash 于单台 DGX Spark 上的对比中,GSM8K 得分从 96.89% 降至 96.82%(全部 1,319 道测试题),该优化配置同时更换 MoE 后端、加入 FP8 输出头并启用 NEXTN 投机解码,两次运行均使用 FP4 checkpoint。

来源:Reddit · r/MachineLearning · reddit.com