Fast GraphRAG a remplacé le résumé par LLM par PageRank pour rendre le graph RAG 6 fois moins cher

La génération augmentée par récupération répond aux questions à partir de documents, mais les questions qui enchaînent plusieurs faits mettent à rude épreuve la récupération simple, et la réponse fondée sur un graphe devenue populaire en 2024 — indexer les entités et leurs relations afin que les faits connectés soient accessibles — payait sa puissance par un recours intensif aux LLM lors de l'indexation et de la réponse. Fast GraphRAG, la solution open source de Circlemind, a repris la même idée de graphe en supprimant la partie coûteuse de la requête : au lieu de dépenser davantage d'appels au modèle pour résumer ce que contient le graphe, elle laisse un algorithme des années 1990 parcourir le graphe.

Fast GraphRAG stocke les connaissances sous forme d'un graphe d'entités navigable par l'humain, interrogeable et actualisable, qu'il révise de façon incrémentielle à mesure que les données évoluent plutôt que de le reconstruire. Au moment de la requête, il exécute un PageRank personnalisé — la propagation de rang qui sous-tend la recherche web — amorcé par la récupération sémantique, de sorte que l'algorithme explore le graphe et trouve les éléments les plus pertinents pour la question. Le README chiffre la différence : la même tâche sur Le Magicien d'Oz coûte 0,08 $ avec Fast GraphRAG contre 0,48 $ avec GraphRAG, une économie d'un facteur six qui croît avec la taille des données et les insertions.

L'approche n'a pas été inventée à l'aveugle : le README renvoie à l'article HippoRAG, publié à NeurIPS 2024, qui a montré que combiner LLM, graphes de connaissances et PageRank personnalisé peut égaler ou surpasser la récupération itérative par LLM sur les questions à sauts multiples tout en étant 10 à 30 fois moins cher et 6 à 13 fois plus rapide. La particularité de Fast GraphRAG a été de livrer cette recherche sous forme de bibliothèque pilotable par prompts — typée, asynchrone, sous licence MIT — sans la complexité de construire et de maintenir des workflows agentiques, précisément la surcharge que le README désigne comme son ennemie.

Remplacer le résumé par LLM par PageRank au moment de la requête

Le PageRank personnalisé est déterministe et quasi gratuit à exécuter, si bien qu'un seul algorithme de graphe remplace les nombreux appels au LLM qu'un concurrent paie au moment de la requête.

Le graphe lui-même reste la source de vérité — navigable par l'humain et débogable — de sorte que les réponses restent explicables au lieu d'émerger d'appels opaques au modèle.

Les mises à jour incrémentielles du graphe maintiennent l'index à jour sans reconstructions complètes, ce qui réduit le coût du maintien de connaissances fraîches.

La conception reposait sur des preuves évaluées par les pairs selon lesquelles la récupération par PageRank en une seule étape égale la récupération itérative par LLM à une fraction du coût ; l'équipe misait donc sur des résultats publiés, non sur des on-dit.

La licence MIT, associée à un service géré offrant 100 requêtes gratuites par mois, permet aux développeurs d'adopter la bibliothèque sans autorisation ni dépense initiale.

Lorsque l'avantage d'un concurrent provient d'appels au LLM coûteux à chaque utilisation, identifiez l'étape unique qu'un algorithme déterministe peu coûteux peut accomplir tout aussi bien — gardez le modèle là où le jugement compte, et confiez tout le reste aux mathématiques.

La publication Show HN — « Better RAG using good old PageRank » — a recueilli 457 points et 119 commentaires en novembre 2024, les mainteneurs présents dans le fil décrivant leur intention de s'écarter de HippoRAG vers des arêtes pondérées et un PageRank négatif. Le dépôt compte depuis environ 3,9 k étoiles et 250 forks tout en restant sous licence MIT, et Circlemind commercialise une version gérée avec un palier mensuel gratuit. Le cas est devenu un modèle pour une idée plus large : lorsqu'une technique plus récente et plus coûteuse l'emporte sur la qualité, le coup gagnant peut être de trouver quelle partie de cette technique un algorithme classique peu coûteux peut exécuter.