LLM-Agenten in Unternehmens-, wissenschaftlichen und medizinischen Anwendungen müssen Domänenwissen einbeziehen und aus Erfahrung lernen. Context Engineering verbessert das Verhalten zur Inferenzzeit, aber die Online-Anpassung des Kontexts ist ein kostspieliger Prozess von Versuch und Irrtum, und unabhängig verarbeitete Abfragen verhindern, dass nützliche Erfahrung weitergetragen wird. Gedächtnissysteme, die fortlaufend an einen gemeinsamen Kontext anhängen, sehen sich mit steigenden Token-Kosten, Grenzen des Kontextfensters und Leistungseinbußen bei wachsendem Kontext konfrontiert.

Die Arbeit bietet zunächst eine einheitliche Formulierung: Ein Update eines Agentengedächtnissystems lässt sich als Optimierungsaktualisierungsverfahren über den Kontext des Modells interpretieren. GraphMemory wendet diese Sichtweise dann mit einem leichtgewichtigen graphbasierten Gedächtnis an, das wiederverwendbare Strategien ansammelt, verfeinert, organisiert und verknüpft und für jede Abfrage nur den relevanten Teilgraphen abruft, sodass das Modell nie das gesamte Gedächtnis sieht.

Bei begrenztem Abruf bleibt die Menge des abgerufenen Gedächtnisses konstant, während die verarbeiteten Beispiele wachsen. Experimente zeigen, dass GraphMemory eine wettbewerbsfähige Downstream-Leistung erzielt und dabei etwa 81–85 % weniger Token für den Aufbau des Gedächtnisses verbraucht als die Baselines.

Das Gedächtnis wie eine Datenbank lesen, nicht wie ein Transkript: nur den relevanten Teilgraphen unter einem festen Budget abrufen, egal wie groß das Gedächtnis wird

Das Abrufbudget, nicht die Größe des Gedächtnisses, bestimmt die Token-Kosten pro Abfrage.

Die Graphstruktur ermöglicht Verfeinerung und Verknüpfung zur Schreibzeit und hält so die Lesezugriffe klein.

Die Interpretation von Gedächtnisaktualisierungen als Kontextoptimierung gibt dem Gedächtnisentwurf einen prinzipiengeleiteten Effizienzansatzpunkt.

Die Entkopplung des Gedächtnisses vom Kontext vermeidet sowohl Transkript-Aufblähung als auch Grenzen des Kontextfensters.

Ein Erfahrungsspeicher skaliert nur, wenn die Lesezugriffe begrenzt sind. Strukturiere das Gedächtnis so, dass eine Abfrage eine Nachbarschaft fester Größe abruft, und die Kosten des Lernens aus Erfahrung hören auf, mit der Menge der Erfahrung zu wachsen.

Am 2. Oktober 2026 als v1-Preprint auf arXiv veröffentlicht; die arXiv-Kommentare nennen eine NeurIPS-Workshop-Version (TTCL). Berichtet wird eine wettbewerbsfähige Downstream-Leistung mit 81–85 % weniger Token für den Aufbau des Gedächtnisses als die Baselines.

DEN BELEGEN FOLGEN

Die Quellen

  1. Decoupling Memory from Context: Structured Memory for Token-Efficient Test-Time Continual Learning arXiv AI · arxiv.org ·