跳到正文
原文
Unbug 一分钟读论文· unbug·· 6 小时前AI 评分58

论文揭示 RAG 投毒防御的评测捷径与决策失效

一分钟读论文:《删掉一个前缀,近满分的投毒防御当场裸奔》

AI 导读

论文《Ranking Is Not Deciding》指出,RAG 投毒防御的高检测率可能源于毒文档中的构造线索,而非识别投毒内容。删除 PoisonedRAG 注入文本中的目标问题前缀后,RAGuard 的 AUROC 从 0.953 降至 0.758,漏检率从 0.191 升至 0.763;论文建议同时报告毒文构造画像和部署阈值下的假阳率。

来源:Unbug 一分钟读论文 · unbug.github.io