Hugging Face Blog·· 3 天前AI 评分38
为什么你的微调任务比 FLOPs 估算的更耗时:基于 272 次生产任务的分析
Why your fine-tuning job takes longer than the FLOPs say
AI 导读
Hugging Face 用 272 次真实 SFT 任务(约 7382 GPU-hours,NVIDIA H200)对比发现,传统 FLOP 估算仅达 R²=0.31、MAE 12.41 小时,而仅用调度前信息的 CatBoost 回归器在 5 折交叉验证中达到 R²=0.98、MAE 1.71 小时、中位误差 0.51 小时。
来源:Hugging Face Blog · huggingface.co