해결책
기업, 과학, 의료 분야의 LLM 에이전트는 도메인 지식을 통합하고 경험으로부터 적응해야 한다. 컨텍스트 엔지니어링은 추론 시점의 동작을 개선하지만, 컨텍스트를 온라인으로 적응시키는 것은 비용이 큰 시행착오 과정이며, 질의가 독립적으로 처리되면 유용한 경험이 이어지지 못한다. 공유 컨텍스트에 계속 덧붙이는 메모리 시스템은 토큰 비용 상승, 컨텍스트 윈도 한계, 컨텍스트가 확장됨에 따른 성능 저하에 직면한다.
이 논문은 먼저 통합된 정식화를 제시한다. 에이전트 메모리 시스템의 업데이트는 모델 컨텍스트에 대한 최적화 업데이트 절차로 해석될 수 있다. GraphMemory는 이 관점을 경량 그래프 기반 메모리에 적용하여 재사용 가능한 전략을 축적, 정제, 조직, 연결하고, 질의마다 관련 하위 그래프만 검색하므로 모델이 전체 메모리를 보는 일은 없다.
검색이 한계 내로 제한되면 처리된 예시가 늘어나도 검색되는 메모리의 양은 일정하게 유지된다. 실험에서 GraphMemory는 기준선보다 약 81-85% 적은 메모리 구축 토큰을 사용하면서도 경쟁력 있는 다운스트림 성능을 달성했다.
달성한 것
메모리를 대화 기록이 아니라 데이터베이스처럼 읽어라. 메모리가 아무리 커져도 고정된 예산 안에서 관련 하위 그래프만 검색한다
질의당 토큰 비용을 결정하는 것은 메모리 크기가 아니라 검색 예산이다.
그래프 구조는 쓰기 시점에 정제와 연결이 일어나게 하여 읽기를 작게 유지한다.
메모리 업데이트를 컨텍스트 최적화로 해석하면 메모리 설계에 원칙에 기반한 효율성 수단이 생긴다.
메모리를 컨텍스트로부터 분리하면 대화 기록 비대화와 컨텍스트 윈도 한계를 모두 피할 수 있다.
경험 저장소는 읽기가 한계 내로 제한될 때만 확장된다. 질의가 고정 크기의 이웃을 끌어오도록 메모리를 구조화하면, 경험으로부터 학습하는 비용이 경험의 양에 따라 증가하는 것을 멈춘다.
후속 상황
2026년 10월 2일 arXiv에 v1 프리프린트로 게시되었으며, arXiv 주석에는 NeurIPS 워크숍(TTCL) 버전이 있다고 명시되어 있다. 기준선보다 81-85% 적은 메모리 구축 토큰으로 경쟁력 있는 다운스트림 성능을 보고했다.
근거 확인하기