解決方案
企業、科學與醫療應用中的 LLM 代理必須納入領域知識,並從經驗中調適。脈絡工程(context engineering)能改善推論時的行為,但在線上調適脈絡是昂貴的試錯過程,而各自獨立處理的查詢會使有用的經驗無法延續。持續附加到共享脈絡的記憶系統會面臨 token 成本上升、脈絡視窗限制,以及隨著脈絡擴張而導致的效能退化。
該論文首先提出一個統一的形式化框架:代理記憶系統的更新可被詮釋為對模型脈絡的優化更新程序。GraphMemory 接著以這個視角,套用一種輕量級的圖式記憶,該記憶會累積、精煉、組織並連結可重複使用的策略,且每次查詢只檢索相關子圖,因此模型永遠不會看到整份記憶。
在有界檢索下,隨著已處理範例增加,檢索到的記憶量仍保持恆定。實驗顯示,GraphMemory 達到具競爭力的下游效能,同時使用的記憶建構 token 比基線少約 81-85%。
達成了什麼
把記憶當作資料庫來讀取,而不是當作逐字稿:無論記憶增長到多大,都在固定預算下只檢索相關子圖
為何有效
決定每次查詢 token 成本的是檢索預算,而非記憶大小。
圖結構讓精煉與連結能在寫入時發生,使讀取保持精簡。
將記憶更新詮釋為脈絡優化,為記憶設計提供了有原則的效率著力點。
將記憶與脈絡解耦,可同時避免逐字稿膨脹與脈絡視窗限制。
可應用之處
經驗儲存唯有在讀取有界時才能擴展。將記憶結構化,使查詢只拉取固定大小的鄰域,那麼從經驗中學習的成本就不再隨經驗量增長。
後續
於 2026 年 10 月 2 日以 v1 預印本形式發表於 arXiv;arXiv 的註解指出另有 NeurIPS 工作坊(TTCL)版本。報告顯示其達到具競爭力的下游效能,且記憶建構 token 比基線少 81-85%。
追溯依據