這起事件後，專業領域在應用 AI 工具時，應採取哪些更嚴謹的審查措施？

AI工具應用於專業領域的嚴謹審查措施

德勤澳洲分公司報告錯誤事件突顯了專業領域在應用AI工具時，加強審查措施的必要性。其中，報告中引用不存在的學術研究和捏造的法院判決，源於對生成式AI工具未經適當驗證與審核的使用。

強化資料驗證與來源查核

為避免類似錯誤再次發生，專業領域在應用AI工具時，應強化資料驗證與來源查核機制。這包括：

• 學術研究驗證： 確保所有引用的學術研究皆能在可靠的學術資料庫中查證，例如Google Scholar、PubMed等。
• 法律判決查核： 確保引用的法院判決可在官方法律判例資料庫中找到相應記錄，並核對判決內容與引用目的相符。
• 多方資料比對： 針對AI生成的資訊，應與其他可信來源進行比對，確認其準確性與一致性。

建立AI倫理與使用規範

除了強化資料驗證外，建立AI倫理與使用規範也至關重要。專業機構應制定明確的AI使用政策，規範AI工具的使用範圍、資料來源、驗證流程等。此外，應加強對專業人士的AI倫理與使用培訓，提升其對AI工具潛在風險的認知與應對能力。例如，規範報告撰寫過程中，AI工具僅能作為輔助，最終結論仍需由專業人士基於可靠證據獨立判斷。

人工智慧協作與專家審核

最後，應強調人工智慧協作與專家審核的重要性。AI工具可協助快速整理資料、生成初步分析，但最終的專業判斷仍需由具備專業知識與經驗的專家進行。專家應負責審核AI生成的內容，確保其準確性、可靠性與符合專業倫理。例如，在法律領域，AI可協助律師快速檢索相關案例，但最終的法律意見仍需由律師根據法律知識與經驗做出。