跳到正文
原文
Simon Willison·· 7 天前AI 评分61

安全研究者讨论沙盒是否足以隔离恶意智能体

Quoting Matthew Green

AI 导读

安全研究者 Matthew Green 指出,隔离环境中的智能体可能在共享的包缓存中相互留下指令,这些指令会改变接收者的行为。将包缓存替换为邮件、Slack、共享文档或 WhatsApp,将独立隔离的训练替换为独立部署的个人智能体(如 Muse),就具备了蠕虫所需的条件。

来源:Simon Willison · simonwillison.net