OpenAI News·· 1 天前精选AI 评分65
OpenAI 发布对抗性蒸馏防护报告,GPT-6.2 Astra 推理轨迹提取攻击成功率降至 0.2%
Combatting adversarial distillation
AI 导读
OpenAI 发布对抗性蒸馏防护报告,说明如何检测和阻断未经授权提取模型能力的行为,并重点保护模型的链式推理轨迹。在自适应黑盒红队测试中,从先前请求提取受保护推理的平均攻击成功率从 GPT-6 Astra 原始防护下的 54.0% 降至 GPT-6.2 Astra 更新防护下的 0.2%,当前请求场景从 22.9% 降至 0.9%。
推荐理由
OpenAI 公开了对抗性蒸馏的检测与防护做法,并给出推理轨迹泄露攻击成功率的对比数据,可供了解前沿模型能力外泄的防护思路。
来源:OpenAI News · openai.com