語境工程在提升 AI 回應品質方面扮演什麼角色？

語境工程在提升 AI 回應品質的角色

大型語言模型（LLM），如 ChatGPT 和 Claude，主要透過分析已知的「上文」來預測「下文」，而非真正理解或思考。因此，它們需要足夠的對話歷史來掌握語境，進而做出更精確的判斷和回覆。

語境工程的重要性

過去，AI 應用仰賴「提示工程」來引導 AI 產生特定回答。但隨著 AI 應用變得更加複雜，單純的提示設計已不足以應付需求。「語境工程」的核心在於準備、組織、更新和管理所有提供給 AI 的資訊，確保 AI 在正確的脈絡下產生精準且連貫的回應。

對話歷史在語境中的作用

對話歷史是語境的重要組成部分，就像演員需要掌握角色的背景和劇情發展，AI 也需要累積對話歷史以避免前後矛盾。實際操作上，通常會透過「前情概要」的方式，精準壓縮和篩選出對當下情境最有影響力的內容，確保 AI 的言行具備邏輯和一致性。如果缺乏這些脈絡，AI 就難以判斷使用者意圖，也無法產生具有連貫性的回應。