热点事件持续更新
提示注入测试AI智能体遵守禁果规则
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月28日,Reddit r/ChatGPT报道称,一个由OpenaiAPI驱动的AI智能体被放入虚拟“伊甸园”实验:任务是收集水果,但不得取走苹果;蛇会尝试通过提示词注入诱使智能体违规。该实验按月运行,并公开录制过程和提示词。迄今,AI尚未取走禁果,报道将结果呈现为指令层级在抵抗提示注入方面的作用。
AI 根据报道生成 · 2 小时前更新
最新进展10月28日 03:59
实验迄今未出现智能体取走苹果,录制与提示词均公开。报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- Reddit · r/ChatGPTAI 智能体在“伊甸园”实验中对提示词注入保持规则
OpenaiAPI 驱动的 AI 智能体进入虚拟伊甸园,任务是收集水果但绝不取苹果,并由蛇尝试以提示词注入诱其违规。该实验按月运行并公开录制与提示词;迄今 AI 尚未取走禁果,结果呈现的是指令层级的作用。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。