學者如何識破 AI 報告中的「幻覺」？這揭示了 AI 應用的哪些潛在風險？

學者如何識破 AI 報告中的「幻覺」

雪梨大學研究員克里斯・魯基（Chris Rudge）在審閱德勤為澳洲政府撰寫的一份報告時，發現報告中引用了一本由其同事撰寫的書籍，但該書名不僅與同事的專業領域無關，且完全是杜撰的。此外，報告還引用了多篇不存在的學術文章，甚至在提及「迪安娜・阿馬托訴聯邦案」的判決時，摘要內容也包含錯誤資訊。這些虛構資訊，即 AI 為了填補資訊空白或錯誤解讀數據而「猜測」答案的現象，被稱為「幻覺」。

AI「幻覺」揭示的潛在風險

這起事件揭示了大型顧問公司過度依賴 AI 的風險，以及 AI 在專業領域應用可能產生的問題。魯基指出，問題不僅僅是 AI 會犯錯，而是 AI 可能生成缺乏證據的主張。德勤在事後修正報告時，並非將一個虛構的參考資料換成一個真實的資料，而是用多個新的參考資料來取代一個 AI 幻覺的假資料，這可能暗示報告內文最初的主張並非基於任何單一的可信來源。

對 AI 應用的警惕

這起事件不僅重創德勤的專業形象，也提醒我們在使用 AI 時應保持警惕。雖然 AI 可以提高效率，但不能完全取代人類的專業判斷和批判性思考。在使用 AI 產生的內容時，必須仔細核實信息的準確性和可靠性，以避免產生誤導或錯誤的結論。