Reddit · r/LocalLLaMA· /u/pmttyji·· 3 小时前AI 评分35
Continuum Attention：用连续积分替代 Transformer 离散键值查找的注意力算子
[Paper] Continuum Attention
AI 导读
Continuum Attention（CA）以连续分段线性记忆曲线上的积分替代离散键值查找，通过指数相关密度实现含半 token 边界贡献的精确归一化注意力。
来源：Reddit · r/LocalLLaMA · reddit.com