Fast GraphRAG, LLM 요약 대신 PageRank로 전환해 그래프 RAG 비용을 6분의 1로 줄이다

검색 증강 생성은 문서로부터 질문에 답하지만, 여러 사실을 연쇄적으로 연결하는 질문은 단순 검색에 부담을 준다. 2024년에 인기를 얻은 그래프 기반 답변 방식, 즉 개체와 그 관계를 색인해 연결된 사실에 접근할 수 있게 하는 방식은 색인과 답변 과정에서 LLM을 많이 사용해야 한다는 대가를 치렀다. Circlemind의 오픈소스 Fast GraphRAG는 같은 그래프 아이디어를 가져오되 쿼리의 비싼 부분을 제거했다. 그래프에 담긴 내용을 요약하기 위해 모델 호출을 더 쓰는 대신, 1990년대 알고리즘이 그래프를 탐색하게 한 것이다.

Fast GraphRAG는 지식을 사람이 탐색하고 질의하며 갱신할 수 있는 개체 그래프로 저장하고, 데이터가 변하면 재구축하는 대신 점진적으로 수정한다. 쿼리 시점에는 의미 기반 검색으로 시드를 두고 개인화된 PageRank, 즉 웹 검색 뒤에 있는 순위 전파를 실행해, 알고리즘이 그래프를 탐색하며 질문과 가장 관련 있는 부분을 찾는다. README는 그 차이를 가격으로 제시한다. 《오즈의 마법사》에 대한 같은 작업이 Fast GraphRAG에서는 0.08달러, GraphRAG에서는 0.48달러로, 데이터 규모와 삽입이 늘수록 커지는 6분의 1 절감이다.

이 전환은 맹목적으로 발명된 것이 아니다. README는 NeurIPS 2024에서 발표된 HippoRAG 논문을 가리키는데, 이 논문은 LLM, 지식 그래프, 개인화된 PageRank를 결합하면 다중 홉 질문에서 반복적 LLM 검색과 대등하거나 능가하면서도 10~30배 저렴하고 6~13배 빠를 수 있음을 보여주었다. Fast GraphRAG의 차별점은 그 연구를 프롬프트로 사용할 수 있는 라이브러리로 제공한 것이다. 타입이 지정되고 비동기이며 MIT 라이선스이고, 에이전트 워크플로를 구축하고 유지하는 복잡함이 전혀 없다. README가 적으로 지목하는 부담이 바로 그것이다.

쿼리 시점에 LLM 요약을 PageRank로 교체

개인화된 PageRank는 결정적이고 실행 비용이 거의 들지 않아, 하나의 그래프 알고리즘이 경쟁 제품이 쿼리 시점에 치르는 많은 LLM 호출을 대체한다.

그래프 자체가 진실의 원천으로 남아 사람이 탐색하고 디버깅할 수 있으므로, 답변은 불투명한 모델 호출에서 나오는 대신 설명 가능하게 유지된다.

점진적 그래프 갱신은 전체 재구축 없이 색인을 최신으로 유지해 지식을 최신으로 유지하는 비용을 낮춘다.

이 설계는 단일 단계 PageRank 검색이 반복적 LLM 검색과 대등하면서 비용은 일부에 불과하다는 동료 심사를 거친 증거에 기반했으므로, 팀은 속설이 아니라 발표된 결과에 걸었다.

MIT 라이선스와 월 100회 무료 요청을 제공하는 관리형 서비스 덕분에 개발자는 허가나 초기 비용 없이 라이브러리를 도입할 수 있다.

경쟁자의 우위가 사용할 때마다 드는 비싼 LLM 호출에서 나온다면, 값싼 결정적 알고리즘이 똑같이 잘할 수 있는 단계 하나를 찾아라. 판단이 중요한 곳에는 모델을 두고, 나머지는 수학으로 옮겨라.

"Better RAG using good old PageRank"라는 Show HN 게시물은 2024년 11월에 457점과 119개의 댓글을 얻었고, 스레드의 유지관리자들은 HippoRAG에서 벗어나 가중 엣지와 음수 PageRank로 나아갈 계획을 설명했다. 저장소는 이후 약 3.9k 스타와 250 포크로 성장했으며 MIT 라이선스를 유지하고 있고, Circlemind는 무료 월간 등급이 있는 관리형 버전을 판매한다. 이 사례는 더 넓은 아이디어의 템플릿이 되었다. 더 새롭고 더 비싼 기법이 품질에서 이길 때, 이기는 수는 그 기법의 어느 부분을 값싼 고전 알고리즘이 수행할 수 있는지 찾는 것일 수 있다.