Langfuseはスタックを置き換えずフレームワークに計装することでLLMトレーシングの採用を勝ち取った

LLMアプリケーションを出荷するチームはプロンプトと回答を見ることはできても、モデル呼び出しが実際にいくらかかったのか、何を返したのか、どこで壊れたのかは分からなかった。2024年後半の可観測性の選択肢は多くを求めた。すべてのモデルリクエストをベンダーのゲートウェイ経由でプロキシするか、LangChainのような単一のフレームワークに結合したツールを採用するか、ログ記録をゼロから内製するかだった。機密性の高いプロンプトを扱うチームにとって、トラフィックをホスト型の第三者に送ること自体が障壁だった。

YCのW23バッチで構築され、2024年12月にHacker NewsでローンチされたLangfuseは、トレーシングを段階的に採用可能にした。そのSDKはアプリケーションがすでに持つ継ぎ目に計装する。任意の呼び出しに対する@observe()デコレータ、OpenAI SDKのドロップイン代替、そしてLangChain、LlamaIndex、Haystack向けのコールバックハンドラであり、LiteLLMはログを転送できる。計装はゲートウェイではないため、モデル呼び出しのクリティカルパスに決して位置しない。

バックエンドはDocker Composeで数分でセルフホストでき、Helmを通じてKubernetes上で実行することもできた。これによりセキュリティ制約の厳しいチームはトレースを自社インフラに保持できた。創業者らはHIPAA、PCI、エアギャップされたオンプレミス展開を挙げた。コアとなるトレースの周囲に、Langfuseはプロンプトのバージョニング、LLM-as-judgeとコード評価、データセット、プレイグラウンド、APIを追加し、いずれもエンタープライズ用フォルダの外ではMITライセンスで、ClickHouse上に保存された。

2024年12月17日のLaunch HNスレッドは215ポイントと61コメントを集め、実務者らは既存スタックに対してローカルで動かした時点で代替案の評価をやめたと報告した。メンテナーらの明示した立場は、オープンAPI、セルフホスト可能、フレームワークおよびモデル非依存であり、「段階的に採用可能なシンプルかつスケーラブルな計装」だった。2026年9月のカタログスナップショット時点で、リポジトリは34.2kスター、3.7kフォーク、9,105コミットを示し、チームはClickHouseに加わっていた。

可観測性をフレームワークのフックに取り付け、チームにセルフホストを許し、クリティカルパスに決して位置しない

コールバックシステムとドロップインのSDKインポートを通じた計装により、採用は再アーキテクチャではなく既存コードへの2行の変更となるため、チームは稼働中のアプリで試せる。

Docker ComposeとHelmによるセルフホスティングはデータガバナンスの反対意見に応える。HIPAA、PCI、エアギャップのチームはプロンプトをベンダーに送る代わりにトレースを自社インフラに保持できる。

Langfuseは呼び出しパス上のプロキシではないため、チームは本番モデルトラフィックに追加のレイテンシや新たな単一障害点のリスクを負うことなく導入できる。

オープンAPIとMITライセンスにより個々のエンジニアがボトムアップで採用でき、無料のクラウド枠とセルフホスティングが全社展開前の購買上の障壁を取り除いた。

フレームワーク、モデル、クラウドに依存しないままでいたことで、エコシステムが変化しても保護された。あるフレームワーク向けに構築した統合が行き止まりにならなかった。

可観測性を移行ではなく接続点として売る。すでに使われているフレームワークにフックし、ユーザーデータをユーザーの手元に保てば、採用は一度に1チームずつ広がる。

2024年12月17日のLaunch HNは215ポイントと61コメントを集め、ユーザーらは数日以内にLangfuseを採用したと報告した。スレッド内の競合にはLangSmith、Arize Phoenix、Opikが含まれた。2026年9月のカタログスナップショット時点で、リポジトリは34.2kスター、3.7kフォーク、9,105コミットを示し、そのREADMEは主要なオープンソースAIプロジェクトをユーザーとして挙げていた。チームは6か月で2倍になったと述べ、2026年1月以降は、Langfuseが構築されているオープンソースデータベースの背後企業であるClickHouseの一部として運営している。