跳到正文
原文
Reddit · r/artificial· /u/vasilisvj·· 2 天前AI 评分36

古典语文学家用 200 年从残篇中推理,LLM 在上下文缺失时仍在编造

Philologists have reasoned from fragmentary evidence for 200 years. LLMs still confabulate when context is missing.

AI 导读

一位从事古典语料 AI 的研究者指出,LLM 在上下文缺失时会流畅填补空白,输出不区分"有据可证"与"推理生成",表面置信度完全相同。他认为这并非可随训练或检索修复的偶发幻觉,而是系统缺乏证据权重的内部表示;RAG 引用溯源、置信度校准等方案都只是外挂补丁。他主张把证据状态做成推理过程中的一等对象,像古典校勘学用括号和异体字分隔原文与学者判断那样。

来源:Reddit · r/artificial · reddit.com