论文用 JEPA 证明并改进柏拉图表示假说

arXiv 论文提出柏拉图表示定理，证明在任意数量模态上分别训练的 JEPA 只要正样本对是同一场景的两次观测，学到的表示就只差一个旋转。作者指出下一 token 预测相当于使用坏视角的 JEPA，这解释了语言模型为何只能靠规模与视觉对齐；实验从 145k 条 caption 扩展到 940M 张网络图片的文本，得到可预测未见过训练配置的对齐缩放规律。