解決方案
檢索增強生成能依據文件回答問題,但當問題需要串連多項事實時,單純的檢索便會吃力;2024 年流行的圖譜式解法——索引實體及其關係,讓相連的事實可被觸及——雖然強大,卻在索引與回答時付出大量 LLM 使用成本。Circlemind 的開源專案 Fast GraphRAG 沿用同樣的圖譜概念,但移除了查詢中昂貴的部分:它不再花費更多模型呼叫來摘要圖譜內容,而是讓一個 1990 年代的演算法在圖譜上遊走。
Fast GraphRAG 將知識儲存為實體圖譜,可讓人類瀏覽、查詢與更新,並隨資料演進逐步修訂,而非重建。查詢時,它以語意檢索為種子執行個人化 PageRank——即網頁搜尋背後的排名傳播機制——讓演算法探索圖譜,找出與問題最相關的部分。README 標出了成本差異:對《綠野仙蹤》執行同樣的工作,Fast GraphRAG 花費 0.08 美元,GraphRAG 則為 0.48 美元,節省六倍,且隨資料量與插入次數增加而擴大。
這一步並非憑空發明:README 引用了發表於 NeurIPS 2024 的 HippoRAG 論文,該論文顯示結合 LLM、知識圖譜與個人化 PageRank,在多跳問題上可匹敵甚至超越迭代式 LLM 檢索,同時成本低 10 至 30 倍、速度快 6 至 13 倍。Fast GraphRAG 的巧思在於將這項研究包裝成可提示的函式庫——具型別、非同步、MIT 授權——免除建置與維護代理式工作流程的複雜度,而這正是 README 明言要對抗的額外負擔。
成果
在查詢時以 PageRank 取代 LLM 摘要
奏效原因
個人化 PageRank 具確定性且執行幾乎零成本,因此一個圖譜演算法便取代了競爭對手在查詢時付出的多次 LLM 呼叫。
圖譜本身仍是事實來源——可讓人類瀏覽與除錯——因此答案保持可解釋,而非源自不透明的模型呼叫。
增量式圖譜更新讓索引保持最新,無須完整重建,降低維持知識新鮮度的成本。
此設計立基於同儕審查的證據:單步 PageRank 檢索能以極低成本匹敵迭代式 LLM 檢索,因此團隊押注的是已發表的研究結果,而非道聽途說。
MIT 授權加上每月 100 次免費請求的託管服務,讓開發者無須取得許可或預先付費即可採用此函式庫。
可應用之處
當競爭對手的優勢來自昂貴的每次使用 LLM 呼叫時,找出哪一個步驟可由廉價的確定性演算法同樣勝任——把模型留在需要判斷的地方,其餘交給數學。
後續發展
2024 年 11 月,Show HN 貼文「Better RAG using good old PageRank」獲得 457 分與 119 則留言,維護者在討論串中說明計畫偏離 HippoRAG,走向加權邊與負 PageRank。該儲存庫其後成長至約 3.9k 星與 250 次分支,並維持 MIT 授權,Circlemind 則販售含免費每月額度的託管版本。此案例成為一個更廣泛理念的範本:當較新、較昂貴的技術在品質上勝出時,致勝之舉可能是找出其中哪一部分可由廉價的古典演算法完成。
追溯依據
參考來源
- circlemind-ai/fast-graphrag: RAG that intelligently adapts to your use case, data, and queries GitHub · github.com
- Show HN: FastGraphRAG – Better RAG using good old PageRank Hacker News · news.ycombinator.com ·
- HippoRAG: Neurobiologically Inspired Long-Term Memory for Large Language Models arXiv · arxiv.org ·