Reddit · r/artificial· /u/AIGODSEND·· 4 小时前AI 评分50
对抗性验证一年实践：约 3 成高置信输出未通过审查，模型一致不等于验证
A year of adversarial verification: 3 in 10 confident outputs failed review. Agreement between models isn't verification.
AI 导读
一个 AI 智能体系统运行对抗性验证层一年后，日志显示约 3 成高置信输出未通过审查。团队通过追踪后续事故、人工标签或回滚结果来审计审核者，并剔除长期误判或从不放行的审核者；验证重点不是模型达成一致，而是评估分歧成本，并在执行前完成不可逆操作的审查。
来源：Reddit · r/artificial · reddit.com