EmbeddingGemma-2零训练注入零空间登顶MAEB音频榜
先了解这件事
2026年10月28日,Reddit r/MachineLearning 出现一篇帖子,称在 google/embeddinggemma-2(577M)模型上,仅用 PCA 将中间 Conformer 层投影进最终投影矩阵的 256d 零空间,不做任何训练,即可提升 MAEB 音频基准表现。帖子给出的数据是:MAEB 音频基准 macro 分数从 49.3% 升至 54.4%(+5.1),排名从第 26 升至纯音频榜第一,完整 MAEB 排名从第 16 升至第一,并称超过 8B-9B 多模态模型。同日 21:23,r/LocalLLaMA 出现另一篇帖子,给出更具体的实现细节:作者在 EmbeddingGemma-2(577M 参数、768 维向量)上加入一个 2.37 MB 的冻结 PCA 矩阵文件,未训练任何权重,MAEB 音频榜得分同样从 49.3% 升至 54.4%(+5.1),排名从第 26 升至第 1,全量 MAEB 从第 16 升至第 1。两篇帖子数据一致,但均来自同一作者在 Reddit 的发布,尚无其他来源或独立复现报道。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- Reddit · r/MachineLearning用 PCA 填充 256d 零空间,EmbeddingGemma-2(577M)零训练登顶 MAEB 音频榜第一
在 google/embeddinggemma-2(577M)上,仅用 PCA 将中间 Conformer 层投影进最终投影矩阵的 256d 零空间、不做任何训练,MAEB 音频基准 macro 分数从 49.3% 升至 54.4%(+5.1),排名从第 26 升至纯音频榜第一、完整 MAEB 从第 16 升至第一,超过 8B-9B 多模态模型。
- Reddit · r/LocalLLaMA作者用 2.4 MB PCA 头将 EmbeddingGemma-2 从 MAEB 第 26 名提升至第 1
作者在 EmbeddingGemma-2(577M 参数、768 维向量)上加入一个 2.37 MB 的冻结 PCA 矩阵文件,未训练任何权重,就把 MAEB 音频榜得分从 49.3% 提升到 54.4%(+5.1 分),排名从第 26 名升至第 1,全量 MAEB 从第 16 名升至第 1。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。