Google DeepMind 发布 AI Control Roadmap 应对 AI 智能体安全挑战

Google DeepMind 发布 AI Control Roadmap 框架，为内部 AI 智能体提供传统模型对齐之外的额外安全层。该框架将不受信任的 AI 智能体视为潜在“内部威胁”，通过检测、预防和响应三层机制应对风险。研究团队已分析超过 100 万个编码智能体任务来验证框架，并同步发布面向政策制定者的《Three Layers of Agent Security》技术框架。