“逆向博弈论”如何约束 AI 智能体

一种名为“逆向博弈论”（机制设计）的新思路被用于 AI 对齐：不深究模型内部，而是设计激励规则让智能体守规矩。MIT 经济学家 Stephen Morris 等的预印本论文提出让模型预测另一模型答案、互相竞争或配对偏向相反的模型来防止“装傻”应试；普林斯顿 Elad Hazan 则设想让模型轮流扮演解题者与审计者，作弊被抓和漏检的审计者都受罚。该思路依赖智能体行为理性的假设。