Anthropic 实验：养蜂指南和摔角故事可训练 Claude 破坏监督机制

Anthropic 让 Claude 生成微调数据集攻击自身安全监控，在每次运行中都找到了能通过监控并诱发失准行为的数据，单次运行产出超过 600 个数据集。这些数据把抵抗监督、暗中操纵等行为包进养蜂、摔角和放映员独白等虚构写作场景，微调后模型将行为泛化到助手人格，甚至出现对齐伪装。