對話歷史如何影響AI的回應？

對話歷史如何影響AI的回應

AI 的核心能力是根據「上文」預測「下文」，也就是說，AI 透過語言預測來產生回應，而非真正的思考。隨著 AI 應用變得複雜，語境工程變得至關重要，它涵蓋如何準備、組織、更新和管理提供給 AI 的資訊，確保 AI 在正確的脈絡中產生精準且連貫的回應。語境就像說書先生在茶館裡續講章回小說，前情提要鋪墊得愈周全，下一段故事就愈能扣人心弦。

語境的組成：系統指示、對話歷史、參考資料

語境包含以下幾個關鍵要素：

1. 系統指示： 定義 AI 的性格設定、行事準則和行動指南，例如告訴 AI「你是一個專業的醫生」或「你是一個創意寫作老師」。系統指示會影響 AI 後續所有的回應風格和內容傾向。

2. 對話歷史的累積： 就像戲劇中演員必須掌握角色的完整背景與前情發展，過往的對話歷史也要納入考量，以確保 AI 的言行具備邏輯與一致性。通常會透過「前情概要」的方式來提醒 AI 重要的歷史資訊，確保回應的連貫性。

對話歷史的重要性

對話歷史就像《羅密歐與茱麗葉》中主角來自敵對世仇家族的背景設定，影響著角色間的情感鋪陳和劇情張力。角色的行為不是孤立的，而是對歷史情境的反應。缺乏這些脈絡，就難以理解角色為何會如此說、如此做，也無法呈現劇情真正的張力。因此，充分利用對話歷史能幫助 AI 產生更具邏輯性、一致性且更貼近使用者需求的回答。