Reddit · r/MachineLearning· /u/JeanMichelRanu·· 2 天前AI 评分40
用 PCA 填充 256d 零空间,EmbeddingGemma-2(577M)零训练登顶 MAEB 音频榜第一
[R] Taking EmbeddingGemma-2 (577M) from Rank #26 to #1 on the MAEB audio benchmark by filling its 256d null space with PCA-reduced intermediate Conformer layers (zero training) [R]
AI 导读
在 google/embeddinggemma-2(577M)上,仅用 PCA 将中间 Conformer 层投影进最终投影矩阵的 256d 零空间、不做任何训练,MAEB 音频基准 macro 分数从 49.3% 升至 54.4%(+5.1),排名从第 26 升至纯音频榜第一、完整 MAEB 从第 16 升至第一,超过 8B-9B 多模态模型。
来源:Reddit · r/MachineLearning · reddit.com