AI 有时会给出一段条理清楚、语气笃定的回答,后来却发现其中的日期、数字或出处有误。这类看似合理但缺乏事实依据的输出,常被称为「AI 幻觉」。
为什么错误也能说得流畅?
以常见的生成式语言模型为例,它会根据问题和已有上下文,逐步生成后续文字。一个句子符合语言习惯,并不保证它描述的事情真实发生过。模型也可能学到某种回答的格式,例如怎样写报告摘要、怎样列出参考文献。即使缺少可靠材料,它仍可能按这个格式给出答案。
错误可以来自不同环节。问题表述不清,模型可能理解错对象。资料已经过时,答案可能沿用了旧信息。接入搜索或文档检索后,模型也可能找到相关但不足以支持结论的材料,或者把不同来源的数字混用。
一个假设例子
假设你问 AI:「某份行业报告在哪一页提到退货率?」它可能回答「第三章第 18 页」,还解释了统计口径。页码越具体,答案看起来越可信。但打开报告,可能发现第 18 页在讲另一个问题。这里的报告和页码只是示例。判断依据应当是原文有没有那段内容,以及原文是否支持你要引用的结论。
三步核验
第一步,圈出可核查的说法。 先看会影响判断的数字、日期、人名、条款和出处。把一段答案拆开查,比笼统地问「你确定吗」更有效。
第二步,打开原始材料。 找到原文后,核对它说了什么、哪天发布、适用于什么范围。链接能打开,只说明材料存在,还要看正文是否支持答案。
第三步,必要时找独立来源。 两篇文章如果都在转述同一份报告,只算一条证据。说法不一致时,先比较统计口径、时间和适用地区。查不到可靠依据的细节,可以先标为待核实。
AI 可以帮你把问题理清、列出查证清单。决定是否引用一个事实之前,给自己留一步:回到能核查的材料。