Anthropic 员工辞职引发 AI 灭绝风险争论

Anthropic 研究员 Jacob Coxon 辞职后发文称其雇主和 OpenAI 正在"拿我们的生命赌博"，追求自我改进的 AI。对齐科学负责人 Evan Hubinger 回应称 AI 有超过 10% 的概率在未来十年内灭绝人类，并表示目前尚无控制超级智能的计划。Coxon 呼吁协调减速，可能需要暂时停止改进模型能力。