Langfuse는 스택을 대체하지 않고 프레임워크에 계측을 붙여 LLM 트레이싱 도입에서 승리했다

LLM 애플리케이션을 출시하는 팀들은 프롬프트와 답변은 볼 수 있었지만 모델 호출이 실제로 얼마의 비용이 들었는지, 무엇을 반환했는지 또는 어디서 실패했는지는 알 수 없었고, 2024년 말의 관측성(observability) 옵션들은 많은 것을 요구했다. 모든 모델 요청을 벤더 게이트웨이를 통해 프록시하거나, LangChain처럼 하나의 프레임워크에 결합된 도구를 도입하거나, 처음부터 자체 로깅을 구축해야 했다. 민감한 프롬프트를 다루는 팀에게는 트래픽을 호스팅된 제3자에게 보내는 것 자체가 걸림돌이었다.

YC의 W23 배치에서 만들어져 2024년 12월 Hacker News에 출시된 Langfuse는 트레이싱을 점진적으로 도입할 수 있게 만들었다. 그 SDK들은 애플리케이션이 이미 가진 접점에서 계측한다. 모든 호출을 위한 @observe() 데코레이터, OpenAI SDK의 드롭인 대체품, 그리고 LangChain, LlamaIndex, Haystack을 위한 콜백 핸들러이며, LiteLLM은 로그를 전달할 수 있다. 계측은 게이트웨이가 아니므로 모델 호출의 핵심 경로에 결코 위치하지 않는다.

백엔드는 Docker Compose로 몇 분 만에 셀프 호스팅하거나 Helm을 통해 Kubernetes에서 실행할 수 있어, 보안 제약이 있는 팀들이 트레이스를 자체 인프라에 보관할 수 있었다. 창업자들은 HIPAA, PCI 및 에어갭 온프레미스 배포를 언급했다. 핵심 트레이스 주변으로 Langfuse는 프롬프트 버전 관리, LLM-as-judge 및 코드 평가, 데이터셋, 플레이그라운드, API를 추가했으며, 이 모두는 엔터프라이즈 폴더 외부에서 MIT 라이선스로 제공되고 ClickHouse에 저장된다.

2024년 12월 17일의 Launch HN 스레드는 215점과 61개의 댓글을 모았고, 실무자들은 기존 스택에 대해 로컬에서 실행되자 대안 평가를 중단했다고 보고했다. 유지 관리자들이 밝힌 입장은 개방형 API, 셀프 호스팅 가능, 프레임워크 및 모델에 구애받지 않음, 그리고 '점진적으로 도입 가능한 단순하면서도 확장 가능한 계측'이었다. 2026년 9월 카탈로그 스냅샷 기준으로 저장소는 34.2k개의 스타, 3.7k개의 포크, 9,105개의 커밋을 보였고, 팀은 ClickHouse에 합류했다.

프레임워크 훅에 관측성을 붙이고 팀이 셀프 호스팅하도록 하며, 결코 핵심 경로에 위치하지 않는다

콜백 시스템과 드롭인 SDK 임포트를 통한 계측은 도입을 재설계가 아닌 기존 코드에 대한 두 줄짜리 변경으로 만들어, 팀들이 실행 중인 앱에서 시험해 볼 수 있게 한다.

Docker Compose와 Helm을 통한 셀프 호스팅은 데이터 거버넌스 반대를 해소한다. HIPAA, PCI 및 에어갭 팀은 프롬프트를 벤더에 보내는 대신 트레이스를 자체 인프라에 보관한다.

Langfuse는 호출 경로상의 프록시가 아니므로, 팀은 추가 지연이나 프로덕션 모델 트래픽에 대한 새로운 장애 지점을 감수하지 않고도 도입할 수 있다.

개방형 API와 MIT 라이선스는 개별 엔지니어가 상향식으로 도입할 수 있게 하며, 무료 클라우드 티어와 셀프 호스팅은 전사적 롤아웃 전에 구매 장벽을 제거한다.

프레임워크, 모델, 클라우드에 구애받지 않음으로써 생태계가 변화해도 보호받았고, 한 프레임워크를 위해 구축한 통합이 막다른 길이 되지 않았다.

관측성을 마이그레이션이 아닌 부착 지점으로 판매하라. 이미 사용 중인 프레임워크에 연결하고, 사용자 데이터를 사용자 손에 두면 도입은 한 팀씩 퍼져 나간다.

2024년 12월 17일의 Launch HN은 215점과 61개의 댓글을 모았고, 사용자들은 며칠 안에 Langfuse를 도입했다고 보고했다. 스레드의 경쟁자로는 LangSmith, Arize Phoenix, Opik이 있었다. 2026년 9월 카탈로그 스냅샷 기준으로 저장소는 34.2k개의 스타, 3.7k개의 포크, 9,105개의 커밋을 보였고, README에는 사용자 중에 선도적인 오픈소스 AI 프로젝트들이 나열되어 있었다. 팀은 6개월 만에 두 배로 성장했다고 밝혔으며, 2026년 1월부터 Langfuse가 기반으로 하는 오픈소스 데이터베이스의 회사인 ClickHouse의 일부로 운영되고 있다.