德勤案例後，學術界對 AI 在報告撰寫中的可靠性提出了哪些具體質疑？

德勤案例後學術界對 AI 報告撰寫可靠性的具體質疑

德勤澳洲福利金審查報告中出現 AI 幻覺，引發學術界對 AI 在報告撰寫中可靠性的具體質疑。此案例突顯了大型顧問公司在追求效率時過度依賴 AI 工具的風險，尤其是在處理大量數據和複雜資訊時。AI 幻覺的產生，即 AI 生成看似合理但實則錯誤的資訊，暴露了 AI 在數據不足或錯誤解讀數據時的局限性。

學術界的質疑焦點

學術界質疑的焦點主要集中在以下幾點：

• 資訊準確性與驗證: AI 在報告中生成虛構的書籍名稱、不存在的學術文章，以及不正確的法院判決摘要，顯示其在處理複雜資訊時可能出現偏差。
• 偏差與錯誤引用: 德勤報告中存在多處錯誤引用和排印錯誤，反映 AI 在處理複雜資訊時可能出現偏差，導致報告內容失真。
• 人工審查不足: 報告中未經充分人工審查的 AI 生成內容，凸顯了在 AI 輔助報告撰寫過程中，人工審查的重要性。

學術界的後續反思

德勤案例促使學術界反思 AI 在研究和報告撰寫中的角色定位。在使用 AI 工具時，必須保持警惕，加強人工審查，以確保報告的準確性和可靠性。此外，學術界也呼籲對 AI 的演算法進行更深入的研究，以減少 AI 幻覺的產生，並提高 AI 在處理複雜資訊時的準確性。雪梨大學的研究員指出，德勤的回應聲稱修改後的報告並不影響實質內容，但實際上卻移除了多處錯誤引用，進一步引發了對 AI 報告可靠性的質疑。