Hacker News · 首页· gmays·· 4 小时前AI 评分71
预训练数据投毒可在智能体中植入远程代码执行后门
Agentic backdoors via pretraining poisoning
AI 导读
研究显示,在预训练语料中投毒可以为智能体植入远程代码执行后门,使其在触发条件出现时执行攻击者指定的命令。作者从零预训练 0.6B、1.7B、4B 的 Qwen3 模型,再用干净流程后训练为 CLI 智能体,仅污染 0.1% 的预训练语料即可植入后门,4B 模型攻击成功率约 92%,投毒率降至 0.0005% 时仍为正。代码已公开。
来源:Hacker News · 首页 · arxiv.org