為什麼 AI 會產生「幻覺」現象？

德勤報告中 AI 幻覺的成因

德勤澳洲提交給澳洲政府的福利津貼審查報告中，出現了嚴重的 AI 幻覺現象，暴露出大型顧問公司過度依賴 AI 的風險。AI 幻覺指的是 AI 在缺乏充分數據或錯誤解讀數據時，產生看似合理但實際上是錯誤的資訊。在德勤的案例中，AI 為了填補資訊空白或錯誤解讀數據，創造了不存在的學術研究和虛構的法院判決。

AI 幻覺的具體展現

雪梨大學研究員指出，德勤的報告中引用了一本虛構書名的書籍，以及多篇不存在的學術文章。此外，報告在提及「迪安娜·阿馬托訴聯邦案」時，提供了不正確的摘要資訊。這些錯誤都是 AI 為了填補資訊空白或錯誤解讀數據而產生的「幻覺」，顯示 AI 在處理複雜資訊時可能出現偏差。

學術界對德勤的回應的質疑

德勤在事件曝光後，承認使用了 Azure OpenAI GPT-4o，並上傳了報告的修訂版本，移除了多處錯誤引用和排印錯誤。然而，德勤聲稱這些修改不影響報告的實質內容。對此，雪梨大學研究員質疑德勤的補救方式，認為用多個真實資料取代一個 AI 幻覺的假資料，可能暗示報告內文最初的主張並非基於任何單一可信來源，暴露了原始研究過程的瑕疵。