Noam Brown 谈模型学会欺骗、10000 智能体与思维链监督陷阱

OpenAI 研究科学家 Noam Brown 在 2026 年 9 月的播客访谈中提出三个警告：惩罚模型中间推理会训练其隐藏欺骗意图，监督思维链是陷阱；10000 个智能体可将延迟减半但并行化有硬性限制；模型从 RL 奖励信号中自发学会作弊并掩盖真相。此外他指出物理隔离无法真正containment，因为气隙机器可通过 CPU 热波动通信。