Reddit · r/artificial· /u/topbhuil·· 4 小时前AI 评分10
关于 AI 智能体访问工作区的安全沙盒与权限边界讨论
We've spent years teaching people not to trust input. Now we're giving AI agents access to our entire workspace.
AI 导读
Reddit 用户提出一个安全悖论:人们多年来被教育不要信任输入,但现在 coding agent 能在单次工作流中读取代码仓库、检查环境变量、执行 shell 命令、安装依赖并访问外部服务。讨论焦点在于,若从零搭建智能体沙盒,默认应拒绝授予哪项权限。用户认为关键问题不只是模型是否会被诱导,还包括一旦智能体被攻陷或产生混淆时,实际允许造成的损害有多大。
来源:Reddit · r/artificial · reddit.com