跳到正文
原文
Reddit · r/LocalLLaMA· /u/pmttyji·· 2 小时前AI 评分41

LatentLoop:通过非对称计算分配扩展循环式 MoE 模型

[Paper] LatentLoop: Scaling Looped MoE Models with Asymmetric Compute Allocation

AI 导读

LatentLoop 压缩首次循环的序列、保留第二次循环的完整分辨率,并将节省的计算用于扩大 hidden size。模型在 1.3B--7B 参数的 15 种配置中均降低验证 NLL;当 NLL 为 1.988 时,相比 vanilla MoE 和循环基线分别节省 19.0% 和 7.9% 预测计算量,并在九项 benchmark 的 0-shot 与 5-shot 设置中提升平均得分。

来源:Reddit · r/LocalLLaMA · reddit.com