
Langfuse AI 是一个开源的 LLM(大语言模型)工程与运维平台,主要用于帮助团队构建、监控、调试和优化基于大语言模型的AI应用。
其主要功能包括AI应用的可观测性与追踪、提示词的集中化版本管理与协作、应用行为的质量评估与实验,以及基于追踪数据的多维度指标分析(如成本、延迟、质量)。
平台通过追踪每次模型调用的令牌使用量等数据,自动计算成本,并支持按用户、会话、模型或提示词版本等维度进行细分和分析,帮助识别高成本环节。
根据其开源特性,Langfuse AI 支持云托管服务,也支持通过Docker在本地或私有环境中进行自托管部署。
可以。其提示词管理功能允许非技术成员在界面中直接更新和部署提示词,无需等待完整的工程发布流程。
它提供Python和JavaScript/TypeScript SDK,并与LangChain、LlamaIndex等50多个主流LLM框架和库集成,也支持通过OpenTelemetry标准接入。
平台提供免费账户和云服务,同时也提供包含更多功能和企业级支持的不同定价方案,具体费用信息需参考其官方定价页面。
作为开源平台,它支持数据自托管,用户可将数据完全掌控在自有环境中。其云服务也提供了相关的安全与合规说明,具体措施可查阅其安全中心文档。
Langflow 是一个开源的、基于 Python 的低代码/无代码 AI 应用构建平台,专注于通过可视化拖放界面快速开发、测试和部署 AI 智能体(Agent)与检索增强生成(RAG)应用,帮助开发者降低开发门槛,加速从创意到产品的迭代过程。

Adaline AI 是一款专注于大型语言模型应用开发与管理的协作平台,帮助团队高效开发、优化和部署基于LLM的AI解决方案。

Klu AI 是一个专注于 LLMOps(大语言模型运维)的集成平台,旨在帮助企业团队高效地设计、部署、优化和监控基于大型语言模型(LLM)的应用程序,提供从原型验证到生产部署的全栈解决方案。

LangWatch AI 是一个面向 AI 开发团队的 LLMOps 平台,专注于为 AI Agent 和大语言模型应用提供测试、评估、监控与优化功能,旨在帮助团队构建可靠、可测试的 AI 系统,覆盖从开发到生产的全流程。

Lunary AI 是一个面向 AI 应用开发者的平台,专注于提供可观测性、提示词管理与性能评估工具,旨在帮助团队构建、监控和优化生产环境中的 AI 应用程序,提升开发效率与应用可靠性。

Latitude AI 是一个面向产品团队的开源 LLM 开发平台,旨在帮助用户构建、部署和运维可靠的 AI 应用,降低大语言模型的技术应用门槛。

Freeplay AI 是一款面向企业AI工程团队的开发与运维平台,专注于帮助团队高效构建、测试、监控和优化基于大语言模型的应用程序。平台通过提供协作开发、生产可观测性及持续优化工具,旨在标准化开发流程,提升AI应用的可靠性与迭代效率。
Langtail AI 是一个面向产品团队的 LLMOps 平台,专注于提示词工程与管理。它通过提供协作式开发、性能测试、API 部署与实时监控等功能,帮助团队更高效、可控地构建和优化基于大语言模型的 AI 应用。

Langtrace AI 是一款开源的可观测性与评估平台,帮助开发者监控、调试和优化基于大语言模型的应用,从而将AI原型转化为可靠的企业级产品。

OpenLIT AI 是一个基于 OpenTelemetry 的开源可观测性平台,专为生成式 AI 和 LLM 应用设计,帮助开发者监控、调试和优化其 AI 应用的性能与成本。