交付 LLM 应用的团队可以看到提示和答案,但无法知道模型调用的真实成本、返回内容或出错原因,而 2024 年末的可观测性选项要求太多:通过供应商网关代理每个模型请求,采用与 LangChain 等框架绑定的工具,或者从头开始构建内部日志。对于有敏感提示的团队,将流量发送给第三方托管本身就是障碍。

Langfuse 在 YC W23 批次构建,于 2024 年 12 月在 Hacker News 上推出,采用增量可采纳的跟踪方式。其 SDK 在应用已有的接缝处进行插桩:为任何调用添加 @observe() 装饰器,作为 OpenAI SDK 的直接替代,并为 LangChain、LlamaIndex 和 Haystack 提供回调处理器,LiteLLM 可转发日志。插桩不是网关,因此永远不会处于模型调用的关键路径。

后端可在几分钟内通过 Docker Compose 自托管,或通过 Helm 在 Kubernetes 上运行,这使得受安全约束的团队可将跟踪保留在自己的基础设施上;创始人提到了 HIPAA、PCI 和隔离的本地部署。在核心跟踪之外,Langfuse 添加了提示版本控制、LLM 作为评判和代码评估、数据集、游乐场和 API,除企业文件夹外均以 MIT 许可,并存储在 ClickHouse 上。

2024 年 12 月 17 日的 Launch HN 帖子获得 215 分和 61 条评论,从业者表示,一旦它对现有技术栈本地运行,他们就不再评估替代方案;维护者的立场是开放 API、可自托管、框架和模型无关,以及“简单可扩展、可增量采纳的插桩”。到 2026 年 9 月目录快照时,仓库显示 34.2k 星标、3.7k 分叉和 9,105 次提交,团队已加入 ClickHouse。

将可观测性附加到框架挂钩,并让团队自托管,绝不在关键路径上

通过回调系统和即插即用的 SDK 导入进行插桩,使采用成为对现有代码的几行更改,而不是重新架构,因此团队可以在运行的应用上试用。

通过 Docker Compose 和 Helm 自托管满足了数据治理的要求:受 HIPAA、PCI 和隔离环境约束的团队将跟踪保留在自己的基础设施中,而不是将提示发送给供应商。

由于 Langfuse 不是调用路径上的代理,团队添加它不会增加延迟或生产流量新故障点的风险。

开放 API 和 MIT 许可让单个工程师自下而上采用,免费云层级和自托管消除了公司范围推广前的采购障碍。

框架、模型和云无关性使其在生态变化中保持安全,因此为一个框架构建的集成不会成为死胡同。

将可观测性作为附加点而非迁移来销售:挂钩已使用的框架,让用户掌握数据,采用将逐步扩散。

2024 年 12 月 17 日的 Launch HN 获得 215 分和 61 条评论,用户几天内就采用了 Langfuse;评论中的竞争对手包括 LangSmith、Arize Phoenix 和 Opik。到 2026 年 9 月目录快照时,仓库显示 34.2k 星标、3.7k 分叉和 9,105 次提交,其 README 列出了领先开源 AI 项目作为用户。团队表示在六个月内翻倍,并自 2026 年 1 月起作为 ClickHouse 的一部分运营,ClickHouse 是 Langfuse 所基于的开源数据库背后的公司。

从这里,追溯依据

参考来源

  1. langfuse/langfuse - Open source AI engineering platform (README) github.com
  2. Launch HN: Langfuse (YC W23) - OSS Tracing and Workflows to Improve LLM Apps (Hacker News discussion) news.ycombinator.com