
Langfuse AI 是一個開源的 LLM(大型語言模型)工程與運維平台,主要用於幫助團隊構建、監控、除錯與優化基於大型語言模型的 AI 應用。
其主要功能包括:AI 應用的可觀測性與追蹤、提示詞的集中化版本管理與協作、應用行為的品質評估與實驗,以及基於追蹤資料的多維度指標分析(例如成本、延遲、品質)
平台透過追蹤每次模型呼叫的令牌使用量等資料,自動計算成本,並支援按使用者、會話、模型或提示詞版本等維度進行細分與分析,協助識別高成本環節。
依據其開源特性,Langfuse AI 支援雲端託管服務,也支援透過 Docker 在本機或私有環境中進行自托管部署。
可以。其提示詞管理功能允許非技術成員在介面中直接更新與部署提示詞,無需等待完整的工程發布流程。
它提供 Python 與 JavaScript/TypeScript SDK,並與 LangChain、LlamaIndex 等 50 多個主流 LLM 框架與庫整合,也支援透過 OpenTelemetry 標準接入。
平台提供免費帳戶與雲端服務,同時也提供包含更多功能與企業級支援的不同定價方案,具體費用資訊請參考官方定價頁面。
作為開源平台,它支援數據自托管,使用者可將數據完全掌控在自有環境中。其雲端服務也提供相關的安全與合規說明,具體措施可查閱其安全中心文件。
Langflow 是一個開源、以 Python 為基礎的低程式碼/無程式碼 AI 應用構建平台,專注於透過可視化拖放介面快速開發、測試與部署 AI 智能體(Agent)與檢索增強生成(RAG)應用,協助開發者降低開發門檻、加速從創意到產品的迭代過程。

Adaline AI 是一款專注於大型語言模型應用開發與管理的協作平台,幫助團隊高效開發、優化與部署基於 LLM 的 AI 解決方案。

Klu AI 是一個專注於 LLMOps(大型語言模型運維)的整合平台,旨在幫助企業團隊高效地設計、部署、優化和監控基於大型語言模型(LLM)的應用程式,提供從原型驗證到生產部署的端到端解決方案。

LangWatch AI 是一個面向 AI 開發團隊的 LLMOps 平台,專注於為 AI Agent 與大型語言模型應用提供測試、評估、監控與優化功能,旨在協助團隊建構可靠、可測試的 AI 系統,覆蓋從開發到生產的整個流程。

Lunary AI 是一個面向 AI 應用開發者的平臺,專注於提供可觀測性、提示詞管理與效能評估工具,旨在幫助團隊建置、監控與優化生產環境中的 AI 應用程式,以提升開發效率與應用可靠性。

Latitude AI 是一個面向產品團隊的開源 LLM 開發平台,旨在協助用戶建置、部署與維運可靠的 AI 應用,降低大型語言模型的技術應用門檻。

Freeplay AI 是一個面向企業 AI 工程團隊的開發與運維平台,專注於協助團隊高效構建、測試、監控與優化基於大型語言模型的應用程式。平台透過提供協作開發、生產可觀測性及持續優化工具,旨在標準化開發流程,提升 AI 應用的可靠性與迭代效率。
Langtail AI 是一個面向產品團隊的 LLMOps 平台,專注於提示詞工程與管理。它透過提供協作式開發、效能測試、API 部署與即時監控等功能,協助團隊更高效、可控地建構與優化大型語言模型的 AI 應用。

Langtrace AI 是一個開源的 AI 智能代理可觀測性與評估平台,專注於協助開發者監控、調試和優化基於大型語言模型的應用,協助將 AI 原型轉化為企業級產品。

OpenLIT AI 是一個以 OpenTelemetry 為基礎的開源可觀測性平台,專為生成式 AI 與大型語言模型(LLM)應用打造,幫助開發者監控、除錯並優化 AI 應用的效能與成本。