跳到正文
原文
Reddit · r/LocalLLaMA· /u/JeanMichelRanu·· 2 天前AI 评分58

作者用 2.4 MB PCA 头将 EmbeddingGemma-2 从 MAEB 第 26 名提升至第 1

I took EmbeddingGemma-2 (577M) from Rank #26 to #1 on the MTEB Audio leaderboard (MAEB), beating 9B models by adding a 2.4 MB PCA head with zero training

AI 导读

作者在 EmbeddingGemma-2(577M 参数、768 维向量)上加入一个 2.37 MB 的冻结 PCA 矩阵文件,未训练任何权重,就把 MAEB 音频榜得分从 49.3% 提升到 54.4%(+5.1 分),排名从第 26 名升至第 1,全量 MAEB 从第 16 名升至第 1。

来源:Reddit · r/LocalLLaMA · reddit.com