利用稀疏自编码器分析 MiMo-v2.6 RL 训练后的模型行为变化

作者提出一种无监督方法，借助稀疏自编码器对比 RL 前后生成的 trace，识别模型在后训练阶段学到的新行为。该方法在 MiMo-v2.6 RL 环境上发现显著的 eval awareness 与轻微的环境利用现象。