Fast GraphRAG ersetzte die LLM-Zusammenfassung durch PageRank, um Graph-RAG sechsmal günstiger zu machen

Retrieval-augmentierte Generierung beantwortet Fragen anhand von Dokumenten, doch Fragen, die mehrere Fakten miteinander verketten, überfordern die reine Retrieval-Methode, und die graphbasierte Antwort, die 2024 populär wurde – Entitäten und ihre Beziehungen zu indexieren, sodass zusammenhängende Fakten erreichbar sind –, bezahlte ihre Leistungsfähigkeit mit hohem LLM-Einsatz beim Indexieren und Beantworten. Circleminds Open-Source-Projekt Fast GraphRAG übernahm dieselbe Graphidee und entfernte den teuren Teil der Abfrage: Statt weitere Modellaufrufe auszugeben, um zusammenzufassen, was der Graph enthält, lässt es einen Algorithmus aus den 1990er-Jahren den Graphen durchlaufen.

Fast GraphRAG speichert Wissen als Entitätsgraphen, der für Menschen navigierbar, abfragbar und aktualisierbar ist und schrittweise überarbeitet wird, während sich die Daten entwickeln, statt neu aufgebaut zu werden. Zur Abfragezeit führt es personalisierten PageRank aus – die Rangausbreitung hinter der Websuche –, angestoßen durch semantisches Retrieval, sodass der Algorithmus den Graphen erkundet und die für die Frage relevantesten Teile findet. Die README beziffert den Unterschied: Dieselbe Aufgabe über The Wizard of Oz kostet mit Fast GraphRAG 0,08 US-Dollar gegenüber 0,48 US-Dollar mit GraphRAG, eine sechsfache Einsparung, die mit Datenmenge und Einfügungen wächst.

Der Schritt wurde nicht blind erfunden: Die README verweist auf das HippoRAG-Paper, veröffentlicht auf der NeurIPS 2024, das zeigte, dass die Kombination von LLMs, Wissensgraphen und personalisiertem PageRank bei Multi-Hop-Fragen mit iterativem LLM-Retrieval mithalten oder es übertreffen kann, während es 10- bis 30-mal günstiger und 6- bis 13-mal schneller ist. Fast GraphRAGs Kniff bestand darin, diese Forschung als promptbare Bibliothek auszuliefern – typisiert, asynchron, MIT-lizenziert –, ohne die Komplexität des Aufbaus und der Pflege agentischer Workflows, die genau den Overhead darstellt, den die README als ihren Feind bezeichnet.

Die LLM-Zusammenfassung zur Abfragezeit durch PageRank ersetzen

Personalisierter PageRank ist deterministisch und nahezu kostenlos auszuführen, sodass ein einziger Graphalgorithmus die vielen LLM-Aufrufe ersetzt, die ein Konkurrent zur Abfragezeit bezahlt.

Der Graph selbst bleibt die Quelle der Wahrheit – für Menschen navigierbar und debugbar –, sodass Antworten erklärbar bleiben, statt aus undurchsichtigen Modellaufrufen hervorzugehen.

Inkrementelle Graphaktualisierungen halten den Index aktuell, ohne vollständige Neuaufbauten, was die Kosten für die Aktualität des Wissens senkt.

Das Design stützte sich auf begutachtete Belege dafür, dass einstufiges PageRank-Retrieval mit iterativem LLM-Retrieval zu einem Bruchteil der Kosten mithält, sodass das Team auf veröffentlichte Ergebnisse setzte, nicht auf Hörensagen.

Die MIT-Lizenz plus ein Managed Service mit 100 kostenlosen Anfragen pro Monat ermöglichten Entwicklern die Übernahme der Bibliothek ohne Erlaubnis oder Vorabausgaben.

Wenn der Vorsprung eines Konkurrenten aus teuren LLM-Aufrufen pro Nutzung stammt, finde den einen Schritt, den ein günstiger deterministischer Algorithmus ebenso gut erledigen kann – behalte das Modell dort, wo Urteilsvermögen zählt, und verlagere alles andere in die Mathematik.

Der Show-HN-Beitrag – „Better RAG using good old PageRank“ – erzielte im November 2024 457 Punkte und 119 Kommentare, wobei die Maintainer im Thread Pläne beschrieben, von HippoRAG in Richtung gewichteter Kanten und negativem PageRank abzuweichen. Das Repository ist seither auf rund 3,9k Sterne und 250 Forks gewachsen und bleibt MIT-lizenziert, und Circlemind verkauft eine verwaltete Version mit einer kostenlosen monatlichen Stufe. Der Fall wurde zur Vorlage für eine breitere Idee: Wenn eine neuere, teurere Technik bei der Qualität gewinnt, kann der entscheidende Zug darin bestehen, herauszufinden, welchen Teil davon ein günstiger klassischer Algorithmus übernehmen kann.