AI 會亂講?認識 AI 幻覺與 5 個查證方法

AI 有時會把不存在的書名、法條和數字講得煞有其事。從 NIST 定義和 OpenAI 研究說明幻覺成因,再教你 5 個一般人做得到的查證方法。
重點摘要
- 美國國家標準暨技術研究院 2024 年 7 月發布的 NIST AI 600-1,把 AI 自信地產生錯誤或虛假內容稱為虛構,俗稱幻覺。
- OpenAI 與喬治亞理工學院研究人員 2025 年 9 月發表論文指出,訓練和評測方式獎勵猜測,是語言模型持續產生幻覺的原因之一。
- Anthropic 官方文件提醒,降低幻覺的技巧能大幅減少錯誤,但無法完全消除,重要資訊仍要查證。
- 查證 AI 回答的 5 個方法:點開來源、回到一手資料、逐一查數字人名、換個問法再問、重要決定問專業人士。
舉個假設的例子:請 AI 推薦幾本書,它列得頭頭是道,還附上作者和出版年份,一查才發現其中一本根本不存在。這就是常說的 AI 幻覺,而且最先進的模型也會發生。
這篇根據美國國家標準暨技術研究院(NIST)、OpenAI 研究論文和各家 AI 公司的官方文件,說明 AI 幻覺是什麼、為什麼會發生、哪些問題最容易出錯,再整理 5 個一般人也做得到的查證方法。
AI 幻覺是什麼?
AI 幻覺是指 AI 用很有把握的語氣,說出錯誤或虛構的內容,例如編造不存在的書名、論文、法條或數字,而且看起來很像真的。
NIST 是美國負責制定技術標準的政府機關,它在 2024 年 7 月發布的生成式 AI 風險管理文件 NIST AI 600-1 中,把這種現象稱為「虛構」(confabulation),定義是 AI 產生自信陳述但錯誤或虛假的內容,口語上也叫「幻覺」或「捏造」,使用者可能因此被誤導。
NIST 也指出,虛構不只是事實錯誤,還包括回答偏離你的問題、前後自相矛盾,甚至捏造邏輯或引用來源來替錯誤答案背書。文件特別提到,AI 有時會列出看似合理的推理步驟,答案本身卻是錯的;正因為語氣篤定,使用者更容易相信並照著做。

AI 為什麼會亂講?
語言模型是依統計規律預測下一個字,不是去查資料庫;加上訓練和評測常獎勵猜答案,碰到不會的問題,它傾向硬猜而不是說不知道。
NIST AI 600-1 說明,生成式模型產生的內容是在逼近訓練資料的統計分布,例如大型語言模型會預測句子裡的下一個字詞。這種預測常常能產生正確內容,但也可能產生錯誤或前後矛盾的內容。
OpenAI 研究人員和美國喬治亞理工學院學者在 2025 年 9 月 4 日發表的論文〈Why Language Models Hallucinate〉,用考試來比喻:選擇題答對得 1 分、空白或寫「不知道」得 0 分,不會的題目用猜的,期望分數反而比較高。論文認為,目前多數評測就像這樣的考試,讓模型一直處在「應試模式」,不確定時也傾向給出具體答案。
論文舉了一個例子:研究人員問一個先進的開源模型論文第一作者的生日,並要求「知道才回答」,模型 3 次給了 3 個不同的錯誤日期。論文也說明,越冷門的事實越容易出錯,例如訓練資料裡如果有 20% 的生日資訊只出現過一次,預訓練完成的基礎模型,對生日問題預期至少有 20% 會產生幻覺。
哪些問題最容易出現 AI 幻覺?
冷門人名與生日、書籍論文引用、法條條號、最新消息,以及計算和數數,都是常見出錯點;需要長篇回答或專業知識的問題也要小心。
| 容易出錯的類型 | 為什麼要小心 |
|---|---|
| 冷門人物、生日、小眾事件 | 上述論文指出,訓練資料中少見的事實較容易被猜錯 |
| 書名、論文、判決、法條引用 | NIST 提醒 AI 可能捏造引用來源,看起來格式完整也不代表存在 |
| 最近發生的新聞、價格、規定 | Google 建議碰到冷門或最新的事實時,啟用 Google 搜尋的事實依據功能 |
| 計算、數數、統計 | Google 建議需要算術或計數時,讓 Gemini 執行程式碼來算 |
| 長篇、需要專業知識的回答 | NIST 指出開放式長篇回答和高度專業的領域特別容易出現虛構 |
連簡單的數數都可能出錯。前面那篇論文提到,研究人員問「DEEPSEEK 這個字裡有幾個 D」,一個先進開源模型 10 次都回答 2 或 3,其他模型甚至答出 6、7,正確答案其實是 1。
查證 AI 回答的 5 個方法
1. 要求附上來源,而且親自點開
Anthropic 的官方文件建議,讓 AI 為每個說法附上引述和來源,回答才有辦法稽核。但 AI 給的連結也可能是捏造的,所以一定要點開確認:網頁存不存在、內容是不是真的這樣寫、日期是不是最新的。
2. 回到一手來源交叉比對
把 AI 的說法拿去對照原始出處:政策看政府機關官網,法規查法務部「全國法規資料庫」,論文看原文,產品和價格看公司官方公告。網路上流傳的施政消息,也可以到行政院全球資訊網的「即時新聞澄清」專區查詢。

3. 數字、日期、人名、引文逐一查
OpenAI 研究論文提到,模型猜答案時常給出過度自信又很具體的內容,例如直接說「9 月 30 日」,而不是「秋天的某一天」。越具體的數字和日期越要查證;需要計算的部分,用計算機或試算表自己再算一次。
4. 換個問法,或同一題多問幾次
Anthropic 的文件建議,把同一個提示詞多跑幾次並比較結果,答案前後不一致就可能是幻覺。也可以換個角度追問,例如請 AI 說明根據、列出它不確定的地方。
5. 重要決定交給專業人士
NIST 舉例,在醫療領域,一份虛構的病患資料摘要可能讓醫師做出錯誤診斷。健康、法律、財務和契約這類問題,AI 的回答只能當參考,最後要請醫師、律師、會計師或主管機關確認。
怎麼問可以減少 AI 亂講?
在提示詞裡允許 AI 說「不知道」、提供手邊的資料並要求只根據資料回答、請它附上原文引述,都能降低幻覺,但沒辦法完全避免。
- 允許它說不知道:Anthropic 的文件指出,明確允許 AI 承認不確定,能大幅減少錯誤資訊。可以在提示詞最後加一句「不確定的地方請直接說不知道」。
- 只根據你給的資料:貼上文件後,明確要求 AI 只能使用這些資料,不要用它自己的一般知識。
- 先摘錄原文再分析:處理長文件時,先請 AI 逐字摘出相關段落,再根據摘錄回答,比較不容易偏離原文。
- 開啟搜尋功能:問最新消息時,使用有連網搜尋的模式,並記得點開它引用的網頁。

更多寫法可以參考提示詞的 7 個技巧。另外,Anthropic 也提醒,這些技巧能大幅降低幻覺,但無法完全消除,關鍵資訊一定要再確認。如果在挑工具,可以看2026 AI 聊天工具比較;要辨識有心人用 AI 做的假影片、假聲音,則可以看AI 詐騙與深偽的 6 個破綻。
常見問題
付費版或開啟搜尋,AI 就不會有幻覺嗎?
不會。OpenAI 研究論文指出,幻覺在最先進的模型中仍然存在;Google 建議用搜尋功能處理最新或冷門的事實,但 AI 引用的網頁內容,還是要自己點開確認。
AI 給的參考連結可以直接相信嗎?
不能直接相信。NIST 提醒 AI 可能捏造引用來源,連結可能不存在,或網頁內容和 AI 說的不同。點開確認網址、標題、發布單位和日期,再決定要不要採用。
AI 幻覺是 AI 故意說謊嗎?
比較像考試不會時硬猜。NIST 說明虛構是生成式模型依統計預測產生內容的自然結果;OpenAI 研究論文則指出,評分方式獎勵猜測,讓模型不確定時也傾向給出答案。
政府機關怎麼看待 AI 產出的內容?
行政院 2023 年 10 月函頒的生成式 AI 參考指引規定,各機關不可完全信任生成式 AI 產出的資訊,也不得把未經確認的內容直接當成公務決策的唯一依據。
資料來源:美國國家標準暨技術研究院-NIST AI 600-1 Generative Artificial Intelligence Profile(2024)、Kalai 等-Why Language Models Hallucinate(2025)、Anthropic-Reduce hallucinations、Google AI Studio-Prompt design strategies;另參考國家科學及技術委員會 2023 年 8 月 31 日新聞稿所附指引草案,以及經濟部中小及新創企業署的函頒公告。