Fast GraphRAGはLLMによる要約をPageRankに置き換え、グラフRAGを6倍安くした

検索拡張生成は文書から質問に答えるが、複数の事実を連鎖させる質問は単純な検索に負担をかける。2024年に普及したグラフベースの回答——エンティティとその関係を索引化し、つながった事実に到達できるようにする手法——は、索引化と回答の両方で大量のLLM使用をその力の代償として支払っていた。CirclemindのオープンソースFast GraphRAGは同じグラフのアイデアを取り入れ、クエリの高コストな部分を取り除いた。グラフが保持する内容を要約するためにモデル呼び出しを増やす代わりに、1990年代のアルゴリズムにグラフを歩かせるのである。

Fast GraphRAGは知識をエンティティグラフとして保存し、人間がナビゲートでき、クエリ可能で、更新可能であり、データの進化に合わせて再構築ではなく増分的に改訂する。クエリ時には、セマンティック検索によってシードされたパーソナライズドPageRank——ウェブ検索を支えるランク伝播——を実行し、アルゴリズムがグラフを探索して質問に最も関連する部分を見つける。READMEはその差を価格で示している。『オズの魔法使い』に対する同じ処理は、Fast GraphRAGでは0.08ドル、GraphRAGでは0.48ドルで、6分の1の節約となり、その差はデータサイズと挿入の増加に伴って拡大する。

この手法は闇雲に発明されたものではない。READMEはNeurIPS 2024で発表されたHippoRAG論文を挙げており、そこではLLM、ナレッジグラフ、パーソナライズドPageRankを組み合わせることで、マルチホップ質問において反復的なLLM検索に匹敵するか上回りながら、10〜30倍安く、6〜13倍高速であることが示された。Fast GraphRAGの工夫は、その研究をプロンプト可能なライブラリとして提供することだった——型付けされ、非同期で、MITライセンス——エージェント的ワークフローの構築と維持の複雑さを一切伴わない。それはまさにREADMEが敵と名指すオーバーヘッドである。

クエリ時のLLM要約をPageRankに置き換えた

パーソナライズドPageRankは決定的で実行コストがほぼゼロなので、1つのグラフアルゴリズムが、競合がクエリ時に支払う多数のLLM呼び出しを置き換える。

グラフ自体が真実の源であり続ける——人間がナビゲートでき、デバッグ可能——ため、回答は不透明なモデル呼び出しから生じるのではなく、説明可能なままである。

増分グラフ更新により、完全な再構築なしで索引を最新に保ち、知識を新鮮に保つコストを下げる。

この設計は、単一ステップのPageRank検索が反復的なLLM検索にその何分の1かのコストで匹敵するという査読済みの証拠に基づいていたため、チームは伝聞ではなく公表された結果に賭けていた。

MITライセンスに加え、月100リクエスト無料のマネージドサービスにより、開発者は許可や初期費用なしでライブラリを採用できる。

競合の優位性が高コストな使用ごとのLLM呼び出しに由来する場合、安価で決定的なアルゴリズムが同じようにうまく実行できる1つのステップを見つけよ——判断が重要なところにモデルを残し、それ以外はすべて数学に移せ。

Show HNの投稿——「Better RAG using good old PageRank」——は2024年11月に457ポイントと119コメントを集め、スレッド内のメンテナーはHippoRAGから重み付きエッジとネガティブPageRankへと分岐する計画を述べていた。リポジトリはその後約3.9kスター、250フォークに成長し、MITライセンスのままである。Circlemindは無料の月次枠付きのマネージド版を販売している。この事例はより広いアイデアのテンプレートとなった。より新しく高コストな技術が品質で勝る場合、勝利の一手は、そのうちどの部分を安価な古典的アルゴリズムが実行できるかを見つけることになり得る。