Unbug 一分钟读论文· unbug·· 9 小时前AI 评分47
BRAC University 论文审计 33,000 条 agent 轨迹,揭示低 ASR 指标系统性高估防御能力
一分钟读论文:《低攻击成功率掩盖了什么?》
AI 导读
孟加拉国 BRAC University 论文对 11 个 2-14B 参数开源工具调用 agent 在 InjecAgent 与 AgentDojo 上的 33,000 条轨迹进行逐条分类,发现被基准判为"攻击失败"的轨迹中,AgentDojo 76.3%、InjecAgent 80.3% 只是 agent 忽略注入内容而非真正拒绝,确认拒绝仅占 18.0% 和 17.2%。
来源:Unbug 一分钟读论文 · unbug.github.io