AI 会乱说?认识 AI 幻觉与 5 个查证方法

GOHONG01 编辑部 发布

AI 会乱说?认识 AI 幻觉与 5 个查证方法

AI 有时会把不存在的书名、法条和数字说得煞有其事。从 NIST 定义和 OpenAI 研究说明幻觉成因,再教你 5 个普通人做得到的查证方法。

要点摘要

  • 美国国家标准与技术研究院 2024 年 7 月发布的 NIST AI 600-1,把 AI 自信地产生错误或虚假内容称为虚构,俗称幻觉。
  • OpenAI 与佐治亚理工学院研究人员 2025 年 9 月发表论文指出,训练和评测方式奖励猜测,是语言模型持续产生幻觉的原因之一。
  • Anthropic 官方文档提醒,降低幻觉的技巧能大幅减少错误,但无法完全消除,重要信息仍要查证。
  • 查证 AI 回答的 5 个方法:点开来源、回到一手资料、逐一查数字人名、换个问法再问、重要决定问专业人士。

举个假设的例子:请 AI 推荐几本书,它列得头头是道,还附上作者和出版年份,一查才发现其中一本根本不存在。这就是常说的 AI 幻觉,而且最先进的模型也会发生。

本文根据美国国家标准与技术研究院(NIST)、OpenAI 研究论文和各家 AI 公司的官方文档,说明 AI 幻觉是什么、为什么会发生、哪些问题最容易出错,再整理 5 个普通人也做得到的查证方法。

AI 幻觉是什么?

AI 幻觉是指 AI 用很有把握的语气,说出错误或虚构的内容,例如编造不存在的书名、论文、法条或数字,而且看起来很像真的。

NIST 是美国负责制定技术标准的政府机构,它在 2024 年 7 月发布的生成式 AI 风险管理文件 NIST AI 600-1 中,把这种现象称为“虚构”(confabulation),定义是 AI 产生自信陈述但错误或虚假的内容,口语上也叫“幻觉”或“捏造”,用户可能因此被误导。

NIST 也指出,虚构不只是事实错误,还包括回答偏离你的问题、前后自相矛盾,甚至捏造逻辑或引用来源来替错误答案背书。文件特别提到,AI 有时会列出看似合理的推理步骤,答案本身却是错的;正因为语气笃定,用户更容易相信并照着做。

一位男性皱眉看着笔记本电脑上 AI 给的回答,手里拿着放大镜,象征怀疑并查证 AI 幻觉

AI 为什么会乱说?

语言模型是按统计规律预测下一个字,不是去查数据库;加上训练和评测常奖励猜答案,碰到不会的问题,它倾向硬猜而不是说不知道。

NIST AI 600-1 说明,生成式模型产生的内容是在逼近训练数据的统计分布,例如大语言模型会预测句子里的下一个字词。这种预测常常能产生正确内容,但也可能产生错误或前后矛盾的内容。

OpenAI 研究人员和美国佐治亚理工学院学者在 2025 年 9 月 4 日发表的论文《Why Language Models Hallucinate》,用考试来比喻:选择题答对得 1 分、空白或写“不知道”得 0 分,不会的题目用猜的,期望分数反而比较高。论文认为,目前多数评测就像这样的考试,让模型一直处在“应试模式”,不确定时也倾向给出具体答案。

论文举了一个例子:研究人员问一个先进的开源模型论文第一作者的生日,并要求“知道才回答”,模型 3 次给了 3 个不同的错误日期。论文也说明,越冷门的事实越容易出错,例如训练数据里如果有 20% 的生日信息只出现过一次,预训练完成的基础模型,对生日问题预期至少有 20% 会产生幻觉。

哪些问题最容易出现 AI 幻觉?

冷门人名与生日、书籍论文引用、法条编号、最新消息,以及计算和数数,都是常见出错点;需要长篇回答或专业知识的问题也要小心。

容易出错的类型为什么要小心
冷门人物、生日、小众事件上述论文指出,训练数据中少见的事实较容易被猜错
书名、论文、判决、法条引用NIST 提醒 AI 可能捏造引用来源,看起来格式完整也不代表存在
最近发生的新闻、价格、规定Google 建议碰到冷门或最新的事实时,启用 Google 搜索的事实依据功能
计算、数数、统计Google 建议需要算术或计数时,让 Gemini 执行代码来算
长篇、需要专业知识的回答NIST 指出开放式长篇回答和高度专业的领域特别容易出现虚构

连简单的数数都可能出错。前面那篇论文提到,研究人员问“DEEPSEEK 这个词里有几个 D”,一个先进开源模型 10 次都回答 2 或 3,其他模型甚至答出 6、7,正确答案其实是 1。

查证 AI 回答的 5 个方法

1. 要求附上来源,而且亲自点开

Anthropic 的官方文档建议,让 AI 为每个说法附上引述和来源,回答才有办法核查。但 AI 给的链接也可能是捏造的,所以一定要点开确认:网页存不存在、内容是不是真的这样写、日期是不是最新的。

2. 回到一手来源交叉比对

把 AI 的说法拿去对照原始出处:政策看政府机关官网,法规查台湾法务部“全国法规资料库”,论文看原文,产品和价格看公司官方公告。网上流传的台湾施政消息,也可以到台湾行政院官网的“即时新闻澄清”专区查询。

一位女性在书桌前对照笔记本电脑上的 AI 回答和一叠纸质文件,代表回到一手来源交叉比对

3. 数字、日期、人名、引文逐一查

OpenAI 研究论文提到,模型猜答案时常给出过度自信又很具体的内容,例如直接说“9 月 30 日”,而不是“秋天的某一天”。越具体的数字和日期越要查证;需要计算的部分,用计算器或电子表格自己再算一次。

4. 换个问法,或同一题多问几次

Anthropic 的文档建议,把同一个提示词多跑几次并比较结果,答案前后不一致就可能是幻觉。也可以换个角度追问,例如请 AI 说明依据、列出它不确定的地方。

5. 重要决定交给专业人士

NIST 举例,在医疗领域,一份虚构的病患资料摘要可能让医生做出错误诊断。健康、法律、财务和合同这类问题,AI 的回答只能当参考,最后要请医生、律师、会计师或主管机关确认。

怎么问可以减少 AI 乱说?

在提示词里允许 AI 说“不知道”、提供手边的资料并要求只根据资料回答、请它附上原文引述,都能降低幻觉,但没办法完全避免。

  • 允许它说不知道:Anthropic 的文档指出,明确允许 AI 承认不确定,能大幅减少错误信息。可以在提示词最后加一句“不确定的地方请直接说不知道”。
  • 只根据你给的资料:贴上文件后,明确要求 AI 只能使用这些资料,不要用它自己的一般知识。
  • 先摘录原文再分析:处理长文档时,先请 AI 逐字摘出相关段落,再根据摘录回答,比较不容易偏离原文。
  • 开启搜索功能:问最新消息时,使用有联网搜索的模式,并记得点开它引用的网页。
两部并排的手机显示抽象的不同回答,一只手正在比较,象征同一题多问几次检查 AI 是否一致

更多写法可以参考提示词的 7 个技巧。另外,Anthropic 也提醒,这些技巧能大幅降低幻觉,但无法完全消除,关键信息一定要再确认。如果在挑工具,可以看2026 AI 聊天工具比较;要识别有心人用 AI 做的假视频、假声音,则可以看AI 诈骗与深度伪造的 6 个破绽。

常见问题

付费版或开启搜索,AI 就不会有幻觉吗?

不会。OpenAI 研究论文指出,幻觉在最先进的模型中仍然存在;Google 建议用搜索功能处理最新或冷门的事实,但 AI 引用的网页内容,还是要自己点开确认。

AI 给的参考链接可以直接相信吗?

不能直接相信。NIST 提醒 AI 可能捏造引用来源,链接可能不存在,或网页内容和 AI 说的不同。点开确认网址、标题、发布单位和日期,再决定要不要采用。

AI 幻觉是 AI 故意说谎吗?

比较像考试不会时硬猜。NIST 说明虚构是生成式模型按统计预测产生内容的自然结果;OpenAI 研究论文则指出,评分方式奖励猜测,让模型不确定时也倾向给出答案。

台湾政府机关怎么看待 AI 产出的内容?

台湾行政院 2023 年 10 月印发的生成式 AI 参考指引规定,各机关不可完全信任生成式 AI 产出的信息,也不得把未经确认的内容直接当成公务决策的唯一依据。

资料来源:美国国家标准与技术研究院-NIST AI 600-1 Generative Artificial Intelligence Profile(2024)、Kalai 等-Why Language Models Hallucinate(2025)、Anthropic-Reduce hallucinations、Google AI Studio-Prompt design strategies;另参考台湾国家科学及技术委员会 2023 年 8 月 31 日新闻稿所附指引草案,以及台湾经济部中小及新创企业署的印发公告。

觉得有用就分享给朋友: LINE Facebook X

延伸阅读