LLM Agent 的記憶困境：有界記憶如何讓 Agent 走得更遠

從一個思想實驗開始

想像你是一名快遞員，要完成一條包含 50 個停靠站的路線。如果你試圖把所有 50 個地址同時記在腦海裡，你很可能在第 20 站就開始混亂。但如果你有一張地圖，每到一站就勾掉、記下重要備注，你反而能走完整條路線。

這就是 LLM Agent 面對「長期任務」（Long-Horizon Task）時的核心困境，也是近期論文 AgenticSTS 試圖解決的問題。

為什麼 LLM Agent 會「失憶」？

現代 LLM Agent 的運作方式大致如下：

1. 接收任務指令
2. 呼叫工具（瀏覽網頁、執行程式碼、讀取文件）
3. 把工具回傳的結果加入 context
4. 根據 context 決定下一步
5. 重複直到完成任務

問題出在步驟 3。每次工具呼叫的結果都被塞進 context window，而 context window 的大小有其限制。一個看似簡單的「幫我研究這個主題並整理報告」任務，可能需要 30 到 50 次工具呼叫，每次帶入大量文字，很快就超出模型能有效處理的範圍。

更棘手的是，即使 context window 足夠大，LLM 在處理極長上下文時，注意力會逐漸分散——這被稱為「lost in the middle」效應。放在 context 中間的資訊往往被模型忽略，只有開頭和結尾的內容才能有效影響輸出。

這就是為什麼長期任務讓 LLM Agent「失憶」：不是記憶體不夠用，而是注意力無法有效管理過多的資訊。

AgenticSTS：為有界記憶設計的測試台

AgenticSTS（Agentic Short-Term State）是一個專門評估 LLM Agent 在**有界記憶（Bounded Memory）**條件下執行長期任務的測試框架。

「有界記憶」聽起來像是一種限制，但其實更接近一種設計哲學：強迫 Agent 主動選擇要記住什麼、忘記什麼，而不是被動地把所有資訊都塞進 context。

這個框架圍繞三個核心概念：

記憶預算（Memory Budget）：Agent 在任何時刻只能持有固定數量的「記憶單位」。要加入新資訊，就必須決定捨棄哪些舊的。這迫使 Agent 學習「重要性排序」——什麼資訊值得保留？

狀態壓縮（State Compression）：Agent 不能只是截斷 context，而必須主動對現有記憶進行摘要和壓縮。就像快遞員把「已送達的 12 個地址」壓縮成一個數字，而不是保留每站的詳細記錄。

長期一致性評估（Long-Horizon Consistency Evaluation）：測試台設計了需要跨越多個步驟才能驗證的任務，專門檢驗 Agent 是否能在記憶有界的情況下，維持任務目標的一致性。

為什麼有界記憶反而讓 Agent 更好？

這聽起來反直覺。限制記憶，怎麼反而有幫助？

原因在於，無限記憶會讓 Agent 陷入「資訊過載」，就像一個房間堆滿所有你曾看過的書，找東西反而更難。有界記憶強迫 Agent 建立主動的記憶管理能力，類似人類大腦的工作記憶機制：只保留當前任務最相關的資訊。

在受控測試中，有界記憶框架展現出幾個明顯的優勢。首先是任務完成率：步驟數越多的任務，有界記憶 Agent 相對越穩定，不會因為 context 越來越長而逐漸偏離目標。其次是錯誤恢復能力：當某個步驟出錯時，有界記憶 Agent 更容易重新聚焦，因為它的工作記憶已經被壓縮過，雜訊更少。最後是計算效率：更短的有效 context 意味著更快的推理速度和更低的 API 費用，這對實際部署是不可忽視的優勢。

對 LLM Agent 設計的實用啟示

AgenticSTS 的研究提醒我們，設計 LLM Agent 系統時，不應只追求「給 Agent 更多資訊」，而是要思考「讓 Agent 更好地管理資訊」。

幾個可以直接應用的設計原則：

主動摘要而非被動累積：每隔 N 個步驟，強制 Agent 對當前狀態進行摘要，丟棄原始的工具輸出，只保留摘要。這可以大幅壓縮 context 長度，同時保留關鍵資訊。

階層式記憶架構：將記憶分為「工作記憶」（當前步驟的即時資訊）和「長期記憶」（任務關鍵里程碑）。工作記憶頻繁更新，長期記憶只在重大進展時更新。

重要性加權：不是所有資訊都同等重要。讓 Agent 在儲存資訊時同時評估重要性，到達記憶上限時優先捨棄低重要性的內容。

這三個原則合在一起，其實就是把「有界記憶」從一個研究概念，轉化為可以在生產環境中落地的工程設計。

延伸思考：智能需要遺忘嗎？

有界記憶的概念，其實呼應了一個更深層的問題：智能是否需要遺忘能力才能有效運作？

人類記憶是有選擇性的。我們會忘記大量日常細節，但記住重要的模式和知識。這種遺忘機制，讓大腦能在有限的神經資源下持續處理新挑戰。如果我們能記住所有事情，我們可能反而無法快速做決定——因為每個決策都會被海量的細節淹沒。

LLM Agent 的有界記憶設計，正在走向同一個方向：一個能夠主動遺忘、主動摘要、主動管理注意力的 Agent，可能比試圖記住一切的 Agent 更接近真正實用的智能。

下次當你的 LLM Agent 在長期任務中逐漸迷失方向，或許問題不在於給它更多上下文，而在於讓它學會更好地取捨。