跳到正文
原文
Hacker News · 首页· E-Reverance·· 4 天前AI 评分38

MIT 与 Adobe 提出 Latent Lattice 语言模型:406M 参数模型验证困惑度从 15.41 降至 14.40

Latent Lattice Language Models

AI 导读

MIT 与 Adobe 研究者提出 Latent Lattice Language Models,在垂直残差流之外增加沿时间递归的逐层水平 latent 流,直接参与注意力、KV-cache 写入、MLP 计算与解码。

来源:Hacker News · 首页 · shivamduggal4.github.io