开源LLM工程平台

介绍

Langfuse 是一个开源的 LLM 工程平台，可帮助团队协作调试、分析和迭代其 LLM 应用程序。

官网：https://langfuse.com

核心平台功能

发展

• 可观察性：检测应用并开始将跟踪引入到 Langfuse（快速入门、跟踪

  )

  • 跟踪应用中的所有 LLM 调用和所有其他相关逻辑
  • 适用于 Python 和 JS/TS 的异步 SDK，以及应用程序接口（在新选项卡中打开）
  • OpenAI SDK、Langchain、LlamaIndex、LiteLLM、Flowise 和 Langflow 的集成

• Langfuse 用户界面：检查和调试复杂的日志和用户会话（演示、跟踪、会话）)

• 提示：在 Langfuse 中管理、版本控制和部署提示（提示管理)

• 

监控

• 分析学：跟踪指标（LLM 成本、延迟、质量）并从仪表板和数据导出（分析）中获得见解)

• 评估：收集和计算你的LLM完成的分数（分数和评估

  )

  • 运行基于模型的评估
  • 收集用户反馈
  • 在 Langfuse 中手动对观测值进行评分

  演示