Goodfire 推出模型内部激活监控器低成本监测 AI 智能体

可解释性公司 Goodfire 推出一款针对 AI 模型内部激活的监控器，通过读取模型前向传播过程中的中间神经激活来检测风险。该系统设计为轻量级，仅在探针标记异常后才调用另一模型进行复核，以降低运行成本。目前该监控器已面向 AI 推理平台 Baseten 的客户开放，用户可选择监控的具体风险类别，包括黑客攻击、化学与生物武器滥用以及 reward hacking 等，并可设置记录日志、人工复核或直接拒绝请求等响应动作。此举意在为部署 AI 智能体的企业提供一种低开销的实时风险监测手段。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。