Reddit · r/MachineLearning· /u/AKAMA199·· 7 小时前AI 评分20
推理配置变更要算“质量中性”,需要哪些证据?[D]
What would you require before calling an inference change “quality-neutral”? [D]
AI 导读
在 NVIDIA Ling-3.0-flash 于单台 DGX Spark 上的对比中,GSM8K 得分从 96.89% 降至 96.82%(全部 1,319 道测试题),该优化配置同时更换 MoE 后端、加入 FP8 输出头并启用 NEXTN 投机解码,两次运行均使用 FP4 checkpoint。
来源:Reddit · r/MachineLearning · reddit.com