Stuart Russell 播客：最安全的 AI 可能是一个不知道我们想要什么的 AI

加州大学伯克利分校计算机科学教授 Stuart Russell（经典教材《人工智能：现代方法》合著者）探讨 AI 安全问题。他指出，一旦赋予 AI 固定目标且其能力超越人类，这将变得非常危险；更安全的做法是设计一个唯一目标为促进人类利益、但不确定人类具体意图的 AI 系统。该播客还讨论了 AI 如何学习人类真实偏好，以及如何引导日益强大的 AI 走向更安全的发展方向。