跳到正文
原文
Reddit · r/MachineLearning· /u/ifaposto·· 7 小时前AI 评分12

自蒸馏中除 EMA 之外的 teacher 选择研究讨论

Teachers other than EMA for distillation ? [R]

AI 导读

社区研究者征集除 EMA teacher 之外的自蒸馏方法,重点寻找能够与 student 同步演进、持续改进并保持稳定目标以防止 student 漂移的 teacher。发帖者欢迎分享相关论文或代码仓库链接。

来源:Reddit · r/MachineLearning · reddit.com