Hacker News · 首页· porridgeraisin·· 5 小时前AI 评分70
Anthropic 公开反蒸馏防御进展,称已将蒸馏者可获取的 reasoning token 压至原先的 1/10 到 1/100
Strengthening our defenses against distillation attacks
AI 导读
Anthropic 发布博客称,针对 Claude 的蒸馏攻击,过去数月他们通过 preserved thinking、两阶段分类器和限制反复尝试三类手段加强防御,已让蒸馏者在其平台上能获取的 reasoning token 数量下降 10 到 100 倍以上,并封禁数万个相关账号。
来源:Hacker News · 首页 · anthropic.com