Reddit · r/MachineLearning· /u/DangerousFunny1371·· 7 天前AI 评分47
并行时间训练RNN用于动态系统重建
Parallel-in-Time Training of Recurrent Neural Networks for Dynamical Systems Reconstruction [R]
AI 导读
提出结合DEER与广义teacher forcing(GTF)的并行时间训练方法,将非线性RNN在混沌动态系统时间序列上的训练速度提升超过100倍。DEER通过牛顿型固定点迭代实现O[(log T)²]扩展性,GTF解决了混沌动力学下DEER的发散问题,可在T>10^6的极长时间序列上稳定训练。在动态系统重建任务中显著优于Mamba等状态空间模型。
来源:Reddit · r/MachineLearning · reddit.com