自豪地使用 ClickHouse 开源数据库构建

Langfuse 是一个开源 LLM 工程平台。它帮助团队协作开发、监控、评估和调试 AI 应用。Langfuse 可以在几分钟内完成自托管，并且经过实战检验。

✨ 核心功能

• LLM 应用可观测性：为你的应用添加插桩，开始向 Langfuse 发送追踪数据，从而跟踪 LLM 调用以及应用中的其他相关逻辑，如检索、嵌入或智能体操作。检查和调试复杂的日志和用户会话。尝试交互式演示以查看实际效果。

• 提示词管理帮助你集中管理、版本控制和协作迭代你的提示词。得益于服务器和客户端的强大缓存，你可以在不增加应用延迟的情况下迭代提示词。

• 评估是 LLM 应用开发工作流的关键，Langfuse 适应你的需求。它支持 LLM 作为评判器、用户反馈收集、手动标注以及通过 API/SDK 的自定义评估流水线。

• 数据集为评估你的 LLM 应用提供测试集和基准。它们支持持续改进、部署前测试、结构化实验、灵活评估，并与 LangChain 和 LlamaIndex 等框架无缝集成。

• LLM 游乐场是一个用于测试和迭代你的提示词和模型配置的工具，缩短反馈循环并加速开发。当你在追踪中看到不理想的结果时，可以直接跳转到游乐场进行迭代。

• 全面的 API：Langfuse 经常被用来支持定制的 LLMOps 工作流，同时通过 API 使用 Langfuse 提供的构建模块。提供 OpenAPI 规范、Postman 集合以及适用于 Python、JS/TS 的类型化 SDK。

📦 部署 Langfuse

Langfuse 云服务

由 Langfuse 团队管理的部署，提供慷慨的免费套餐，无需信用卡。

自托管 Langfuse

在你自己的基础设施上运行 Langfuse：

• 本地 (docker compose)：使用 Docker Compose 在 5 分钟内在你自己的机器上运行 Langfuse。

```bash
# 获取最新的 Langfuse 仓库副本
git clone https://github.com/langfuse/langfuse.git
cd langfuse

# 运行 langfuse docker compose
docker compose up
```

• 虚拟机：使用 Docker Compose 在单个虚拟机上运行 Langfuse。
• Kubernetes (Helm)：使用 Helm 在 Kubernetes 集群上运行 Langfuse。这是推荐的生产部署方式。
• Terraform 模板：AWS、Azure、GCP

查看自托管文档以了解更多关于架构和配置选项的信息。

🔌 集成

主要集成：

与 Langfuse 集成的软件包：

🚀 快速开始

为你的应用添加插桩，开始向 Langfuse 发送追踪数据，从而跟踪 LLM 调用以及应用中的其他相关逻辑，如检索、嵌入或智能体操作。检查和调试复杂的日志和用户会话。

1️⃣ 创建新项目

1. 创建 Langfuse 账户 或 自托管
2. 创建一个新项目
3. 在项目设置中创建新的 API 凭证

2️⃣ 记录你的第一个 LLM 调用

@observe() 装饰器 使得追踪任何 Python LLM 应用变得容易。在这个快速开始中，我们还使用 Langfuse OpenAI 集成 来自动捕获所有模型参数。

[!TIP]
不使用 OpenAI？访问 我们的文档 了解如何记录其他模型和框架。

pip install langfuse openai

```bash filename=".env"
LANGFUSE_SECRET_KEY="sk-lf-..."
LANGFUSE_PUBLIC_KEY="pk-lf-..."
LANGFUSE_BASE_URL="https://cloud.langfuse.com" # 🇪🇺 欧盟区域

LANGFUSE_BASE_URL="https://us.cloud.langfuse.com" # 🇺🇸 美国区域

```python /@observe()/ /from langfuse.openai import openai/ filename="main.py"
from langfuse import observe
from langfuse.openai import openai # OpenAI 集成

@observe()
def story():
    return openai.chat.completions.create(
        model="gpt-4o",
        messages=[{"role": "user", "content": "What is Langfuse?"}],
    ).choices[0].message.content

@observe()
def main():
    return story()

main()

3️⃣ 在 Langfuse 中查看追踪

在 Langfuse 中查看你的语言模型调用和其他应用逻辑。

Langfuse 中的公开示例追踪

[!TIP]

了解更多 关于 Langfuse 中的追踪，或尝试 交互式演示。

⭐️ 为我们加星

💭 支持

寻找问题的答案：

• 我们的文档是开始寻找答案的最佳场所。它内容全面，我们投入了大量时间进行维护。你也可以通过 GitHub 建议文档的修改。
• Langfuse 常见问题解答，回答了最常见的问题。
• 使用“询问 AI”即时获取问题的答案。

支持渠道：

• 在我们的 GitHub Discussions 公共问答区 提出任何问题。 请尽可能包含详细信息（例如代码片段、截图、背景信息）以帮助我们理解你的问题。
• 在 GitHub Discussions 上请求功能。
• 在 GitHub Issues 上报告 Bug。
• 对于时间敏感的查询，通过应用内聊天小部件联系我们。

🤝 贡献

欢迎你的贡献！

• 在 GitHub Discussions 上为想法投票。
• 提出并评论问题。
• 提交 PR - 有关如何设置开发环境的详细信息，请参阅 CONTRIBUTING.md。

🥇 许可证

除 ee 文件夹外，此仓库采用 MIT 许可证。更多详情请参阅 LICENSE 和文档。

依赖项

我们在基于 Linux Alpine 镜像 (来源) 的 Docker 容器中部署此代码库。你可以在 web/Dockerfile 和 worker/Dockerfile 中找到 Dockerfile。

⭐️ 加星历史

❤️ 使用 Langfuse 的开源项目

使用 Langfuse 的顶级开源 Python 项目，按星标数排名 (来源)：

仓库	星标数
langflow-ai / langflow	116251
open-webui / open-webui	109642
abi / screenshot-to-code	70877
lobehub / lobe-chat	65454
infiniflow / ragflow	64118
firecrawl / firecrawl	56713
run-llama / llama_index	44203
FlowiseAI / Flowise	43547
QuivrHQ / quivr	38415
microsoft / ai-agents-for-beginners	38012
chatchat-space / Langchain-Chatchat	36071
mindsdb / mindsdb	35669
danny-avila / LibreChat	33142
BerriAI / litellm	28726
onlook-dev / onlook	22447
NixOS / nixpkgs	21748
kortix-ai / suna	17976
anthropics / courses	17057
mastra-ai / mastra	16484
langfuse / langfuse	16054
Canner / WrenAI	11868
promptfoo / promptfoo	8350
The-Pocket / PocketFlow	8313
OpenPipe / ART	7093
topoteretes / cognee	7011
awslabs / agent-squad	6785
BasedHardware / omi	6231
hatchet-dev / hatchet	6019
zenml-io / zenml	4873
refly-ai / refly	4654
coleam00 / ottomator-agents	4165
JoshuaC215 / agent-service-toolkit	3557
colanode / colanode	3517
VoltAgent / voltagent	3210
bragai / [bRAG-langchain](https://github