OpenAI 如何與心理健康專家合作，以改善 ChatGPT 對用戶情緒困擾的辨識能力？

OpenAI 與心理健康專家合作以改善 ChatGPT 情緒辨識能力

OpenAI 積極與超過 170 位心理健康專家合作，持續提升 ChatGPT 在辨識使用者情緒困擾方面的能力。這項合作旨在使 ChatGPT 能夠更準確地偵測使用者對話中可能出現的自殺意圖、精神病或躁狂等跡象。OpenAI 的數據顯示，每週約有 8 億活躍使用者使用 ChatGPT，其中有相當比例的使用者在對話中提及心理健康問題，因此加強情緒辨識能力至關重要。

保護未成年人與敏感內容

除了提升情緒辨識能力外，OpenAI 也按照最新的政策加強對未成年人及敏感內容的保護。由於 ChatGPT 的廣泛使用，尤其是在青少年族群中，OpenAI 面臨監管機構對青少年保護的壓力。因此，OpenAI 承諾持續改進技術與政策，以確保使用者在安全且有益的環境中使用 ChatGPT。

AI 精神病現象與專業憂慮

值得關注的是，部分使用者出現「AI 精神病」現象，即長時間與 AI 對話可能強化不健康的思維模式。專業人士對此表示憂慮，因為過度依賴 AI 對話可能對心理健康產生負面影響。OpenAI 在改進 ChatGPT 的同時，也需關注此類潛在風險，並引導有需求的使用者尋求專業心理支援。ChatGPT 身為其核心產品，憑藉龐大使用者基礎已成為全球最具影響力的生成式 AI 應用之一，因此更應肩負起社會責任。