Google Research 提出线性注意力模型 Muir

2026 年 11 月 7 日，Reddit 的 r/MachineLearning 板块一则帖子介绍，Google Research 的论文提出 Muir 线性注意力架构。该架构针对通道门控 delta 模型的三个瓶颈，采用匹配滤波读出、门控融合和数值稳定的分块并行 kernel 加以解决。报道称，Muir 能在 25MB 的固定状态中流式处理 1000 万 token，且困惑度不漂移。目前该事件仅有这一篇报道，尚无后续进展或独立验证。

AI 根据报道生成 · 20 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。