Hacker News · 首页· E-Reverance·· 4 天前AI 评分38
MIT 与 Adobe 提出 Latent Lattice 语言模型:406M 参数模型验证困惑度从 15.41 降至 14.40
Latent Lattice Language Models
AI 导读
MIT 与 Adobe 研究者提出 Latent Lattice Language Models,在垂直残差流之外增加沿时间递归的逐层水平 latent 流,直接参与注意力、KV-cache 写入、MLP 计算与解码。
来源:Hacker News · 首页 · shivamduggal4.github.io