
OpenLIT AI ist eine Open-Source-Observability-Plattform basierend auf OpenTelemetry, die Monitoring, Bewertung und Telemetrie für Generative-KI- und LLM-Anwendungen bereitstellt.
Sie sammelt Metriken, Telemetrie und Kostendaten, bietet verteilte Nachverfolgung, Dashboards und Fehleranalyse.
Es gibt mehrere Integrationswege: SDK für geringen Code-Aufwand oder Operator im Kubernetes-Umfeld für Zero-/Low-Code-Monitoring.
Selbst gehostete Deployments via Docker Compose oder Kubernetes; cloud-native Optionen sind ebenfalls möglich.
OpenLIT AI verwendet eine Apache-2.0-Lizenz, die kostenlose Nutzung, Modifikation und Verbreitung erlaubt.

Langfuse AI ist eine Open-Source-Plattform für LLM-Engineering und LLM-Ops, die Entwicklungsteams beim Aufbau, der Überwachung, dem Debugging und der Optimierung von KI-Anwendungen unterstützt. Kernfunktionen umfassen strukturiertes Application-Tracking, zentrales Prompt-Management mit Versionskontrolle, Qualitätsbewertungen und Kostenanalysen. Die Lösung erhöht Observability und Produktivität, indem sie End-to-End-Traceability über LLM-Aufrufe, Prompts und Zwischenergebnisse bietet und API-first-Integrationen ermöglicht. Langfuse AI lässt sich selbst gehostet betreiben oder als Cloud-Service nutzen und bietet SDKs in mehreren Sprachen sowie Integrationen mit gängigen Frameworks. Die Plattform richtet sich an Teams, die Transparenz im Laufzeitverhalten von KI-Anwendungen benötigen, ohne an proprietäre Anbieter gebunden zu sein – als KI Tool online oder in eigener Infrastruktur nutzbar.

Evidently AI ist eine Open-Source-Plattform zur Bewertung, zum Testing und Monitoring von Machine-Learning-Modellen (ML) sowie großen Sprachmodellen (LLMs). Sie richtet sich an Data Scientist:innen, ML-Ingenieur:innen und Teams, die die Qualität, Stabilität und Sicherheit AI-basierter Systeme in der Produktion sicherstellen möchten. Die Lösung unterstützt Modell- und Datendrift, Leistungsüberwachung und die Identifikation AI-spezifischer Risiken wie Halluzinationen. Mit einer Vielzahl integrierter Evaluierungsmetriken lassen sich Modelle umfassend prüfen; zusätzlich können eigene Metriken ergänzt werden. Ein Python-Client ermöglicht lokale Bereitstellung und Integration in CI/CD-Pipelines. Generierte Visualisierungen und Berichte erleichtern die Interpretation von Status und Trends. Hinweis: Es handelt sich um eine Open-Source-Option ohne feste Markenbindung.