佛州女子因在 Claude 对话中发出暴力威胁被捕

Anthropic 的 Claude AI 聊天机器人在与 30 岁 Carli Michelle Heller 的对话中检测到针对 Lee County 警局的暴力威胁，触发人工审核并上报警方，随后她于 10 月 5 日被逮捕。事件由 Gulf Coast News 报道，Anthropic 的自动标记加人工复核机制再次将平台对话交由执法机构处理。