AI 会乱说?认识 AI 幻觉与 5 个查证方法

AI 有时会把不存在的书名、法条和数字说得煞有其事。从 NIST 定义和 OpenAI 研究说明幻觉成因,再教你 5 个普通人做得到的查证方法。
要点摘要
- 美国国家标准与技术研究院 2024 年 7 月发布的 NIST AI 600-1,把 AI 自信地产生错误或虚假内容称为虚构,俗称幻觉。
- OpenAI 与佐治亚理工学院研究人员 2025 年 9 月发表论文指出,训练和评测方式奖励猜测,是语言模型持续产生幻觉的原因之一。
- Anthropic 官方文档提醒,降低幻觉的技巧能大幅减少错误,但无法完全消除,重要信息仍要查证。
- 查证 AI 回答的 5 个方法:点开来源、回到一手资料、逐一查数字人名、换个问法再问、重要决定问专业人士。
举个假设的例子:请 AI 推荐几本书,它列得头头是道,还附上作者和出版年份,一查才发现其中一本根本不存在。这就是常说的 AI 幻觉,而且最先进的模型也会发生。
本文根据美国国家标准与技术研究院(NIST)、OpenAI 研究论文和各家 AI 公司的官方文档,说明 AI 幻觉是什么、为什么会发生、哪些问题最容易出错,再整理 5 个普通人也做得到的查证方法。
AI 幻觉是什么?
AI 幻觉是指 AI 用很有把握的语气,说出错误或虚构的内容,例如编造不存在的书名、论文、法条或数字,而且看起来很像真的。
NIST 是美国负责制定技术标准的政府机构,它在 2024 年 7 月发布的生成式 AI 风险管理文件 NIST AI 600-1 中,把这种现象称为“虚构”(confabulation),定义是 AI 产生自信陈述但错误或虚假的内容,口语上也叫“幻觉”或“捏造”,用户可能因此被误导。
NIST 也指出,虚构不只是事实错误,还包括回答偏离你的问题、前后自相矛盾,甚至捏造逻辑或引用来源来替错误答案背书。文件特别提到,AI 有时会列出看似合理的推理步骤,答案本身却是错的;正因为语气笃定,用户更容易相信并照着做。

AI 为什么会乱说?
语言模型是按统计规律预测下一个字,不是去查数据库;加上训练和评测常奖励猜答案,碰到不会的问题,它倾向硬猜而不是说不知道。
NIST AI 600-1 说明,生成式模型产生的内容是在逼近训练数据的统计分布,例如大语言模型会预测句子里的下一个字词。这种预测常常能产生正确内容,但也可能产生错误或前后矛盾的内容。
OpenAI 研究人员和美国佐治亚理工学院学者在 2025 年 9 月 4 日发表的论文《Why Language Models Hallucinate》,用考试来比喻:选择题答对得 1 分、空白或写“不知道”得 0 分,不会的题目用猜的,期望分数反而比较高。论文认为,目前多数评测就像这样的考试,让模型一直处在“应试模式”,不确定时也倾向给出具体答案。
论文举了一个例子:研究人员问一个先进的开源模型论文第一作者的生日,并要求“知道才回答”,模型 3 次给了 3 个不同的错误日期。论文也说明,越冷门的事实越容易出错,例如训练数据里如果有 20% 的生日信息只出现过一次,预训练完成的基础模型,对生日问题预期至少有 20% 会产生幻觉。
哪些问题最容易出现 AI 幻觉?
冷门人名与生日、书籍论文引用、法条编号、最新消息,以及计算和数数,都是常见出错点;需要长篇回答或专业知识的问题也要小心。
| 容易出错的类型 | 为什么要小心 |
|---|---|
| 冷门人物、生日、小众事件 | 上述论文指出,训练数据中少见的事实较容易被猜错 |
| 书名、论文、判决、法条引用 | NIST 提醒 AI 可能捏造引用来源,看起来格式完整也不代表存在 |
| 最近发生的新闻、价格、规定 | Google 建议碰到冷门或最新的事实时,启用 Google 搜索的事实依据功能 |
| 计算、数数、统计 | Google 建议需要算术或计数时,让 Gemini 执行代码来算 |
| 长篇、需要专业知识的回答 | NIST 指出开放式长篇回答和高度专业的领域特别容易出现虚构 |
连简单的数数都可能出错。前面那篇论文提到,研究人员问“DEEPSEEK 这个词里有几个 D”,一个先进开源模型 10 次都回答 2 或 3,其他模型甚至答出 6、7,正确答案其实是 1。
查证 AI 回答的 5 个方法
1. 要求附上来源,而且亲自点开
Anthropic 的官方文档建议,让 AI 为每个说法附上引述和来源,回答才有办法核查。但 AI 给的链接也可能是捏造的,所以一定要点开确认:网页存不存在、内容是不是真的这样写、日期是不是最新的。
2. 回到一手来源交叉比对
把 AI 的说法拿去对照原始出处:政策看政府机关官网,法规查台湾法务部“全国法规资料库”,论文看原文,产品和价格看公司官方公告。网上流传的台湾施政消息,也可以到台湾行政院官网的“即时新闻澄清”专区查询。

3. 数字、日期、人名、引文逐一查
OpenAI 研究论文提到,模型猜答案时常给出过度自信又很具体的内容,例如直接说“9 月 30 日”,而不是“秋天的某一天”。越具体的数字和日期越要查证;需要计算的部分,用计算器或电子表格自己再算一次。
4. 换个问法,或同一题多问几次
Anthropic 的文档建议,把同一个提示词多跑几次并比较结果,答案前后不一致就可能是幻觉。也可以换个角度追问,例如请 AI 说明依据、列出它不确定的地方。
5. 重要决定交给专业人士
NIST 举例,在医疗领域,一份虚构的病患资料摘要可能让医生做出错误诊断。健康、法律、财务和合同这类问题,AI 的回答只能当参考,最后要请医生、律师、会计师或主管机关确认。
怎么问可以减少 AI 乱说?
在提示词里允许 AI 说“不知道”、提供手边的资料并要求只根据资料回答、请它附上原文引述,都能降低幻觉,但没办法完全避免。
- 允许它说不知道:Anthropic 的文档指出,明确允许 AI 承认不确定,能大幅减少错误信息。可以在提示词最后加一句“不确定的地方请直接说不知道”。
- 只根据你给的资料:贴上文件后,明确要求 AI 只能使用这些资料,不要用它自己的一般知识。
- 先摘录原文再分析:处理长文档时,先请 AI 逐字摘出相关段落,再根据摘录回答,比较不容易偏离原文。
- 开启搜索功能:问最新消息时,使用有联网搜索的模式,并记得点开它引用的网页。

更多写法可以参考提示词的 7 个技巧。另外,Anthropic 也提醒,这些技巧能大幅降低幻觉,但无法完全消除,关键信息一定要再确认。如果在挑工具,可以看2026 AI 聊天工具比较;要识别有心人用 AI 做的假视频、假声音,则可以看AI 诈骗与深度伪造的 6 个破绽。
常见问题
付费版或开启搜索,AI 就不会有幻觉吗?
不会。OpenAI 研究论文指出,幻觉在最先进的模型中仍然存在;Google 建议用搜索功能处理最新或冷门的事实,但 AI 引用的网页内容,还是要自己点开确认。
AI 给的参考链接可以直接相信吗?
不能直接相信。NIST 提醒 AI 可能捏造引用来源,链接可能不存在,或网页内容和 AI 说的不同。点开确认网址、标题、发布单位和日期,再决定要不要采用。
AI 幻觉是 AI 故意说谎吗?
比较像考试不会时硬猜。NIST 说明虚构是生成式模型按统计预测产生内容的自然结果;OpenAI 研究论文则指出,评分方式奖励猜测,让模型不确定时也倾向给出答案。
台湾政府机关怎么看待 AI 产出的内容?
台湾行政院 2023 年 10 月印发的生成式 AI 参考指引规定,各机关不可完全信任生成式 AI 产出的信息,也不得把未经确认的内容直接当成公务决策的唯一依据。
资料来源:美国国家标准与技术研究院-NIST AI 600-1 Generative Artificial Intelligence Profile(2024)、Kalai 等-Why Language Models Hallucinate(2025)、Anthropic-Reduce hallucinations、Google AI Studio-Prompt design strategies;另参考台湾国家科学及技术委员会 2023 年 8 月 31 日新闻稿所附指引草案,以及台湾经济部中小及新创企业署的印发公告。