AI 在判斷高風險情境時，為何仍缺乏人類專業的同理心、肢體語言判讀和安全確保能力？

AI 在高風險情境判斷中不足之處

儘管人工智慧 (AI) 在許多領域取得了顯著進展，但在判斷高風險情境時，AI 仍缺乏人類專業人員所具備的同理心、肢體語言判讀能力和安全確保能力。OpenAI 近期更新 ChatGPT 的使用政策，明確指出系統不再提供特定的醫療、法律或財務建議，凸顯了 AI 在這些高風險領域的局限性。

缺乏同理心與肢體語言判讀

AI 無法像人類一樣理解和感受他人的情感。同理心是判斷高風險情境中至關重要的因素，尤其是在醫療和心理健康領域。例如，心理師需要透過觀察患者的肢體語言和語氣來評估其情緒狀態和潛在的風險。AI 無法讀取這些非語言信號，因此難以準確判斷患者是否處於危險之中。OpenAI 也坦承，其模型在識別妄想或情感依賴的跡象方面表現不佳，因此實施了更嚴格的心理健康護欄。

無法確保用戶安全

在高風險情境中，確保用戶的安全至關重要。例如，在醫療領域，醫生需要確保患者獲得適當的治療，並避免因錯誤的診斷或建議而造成傷害。AI 無法像人類一樣承擔這些責任。此外，與 AI 的對話不像醫生與病人、律師與客戶之間那樣受到法律保護，這意味著聊天記錄可能會被使用在法庭上，用戶的隱私也存在風險。

人類專業知識的必要性

OpenAI 的新政策表明，在高風險情境中，人類專業知識仍然是不可或缺的。儘管 AI 可以提供有用的資訊，但它不能取代人類的判斷和決策。在涉及個人健康、財富或法律權益的重大決定時，應諮詢具備專業執照的人類專家。