Reddit · r/ChatGPT· /u/bios444·· 3 小时前AI 评分43
AI 智能体在“伊甸园”实验中对提示词注入保持规则
I put an AI in the Garden of Eden. Then I introduced the serpent.
AI 导读
OpenaiAPI 驱动的 AI 智能体进入虚拟伊甸园，任务是收集水果但绝不取苹果，并由蛇尝试以提示词注入诱其违规。该实验按月运行并公开录制与提示词；迄今 AI 尚未取走禁果，结果呈现的是指令层级的作用。
来源：Reddit · r/ChatGPT · reddit.com