
Dagster est une plateforme moderne et open source d'orchestration des données qui, en plaçant les actifs de données au cœur du modèle, aide les équipes à construire, orchestrer et surveiller les pipelines de données et d'IA.
Principalement destinés aux ingénieurs de données, aux ingénieurs de plateformes de données, aux data scientists polyvalents, aux ingénieurs en apprentissage automatique, aux analystes de données et aux ingénieurs DevOps/plateforme.
Airflow se concentre sur la planification des tâches et convient aux workflows génériques ; Dagster se concentre sur les actifs de données et met davantage l'accent sur la traçabilité des données, l'observabilité, l'expérience de développement et la gouvernance des actifs.
Dagster propose une version open source complète et gratuite. Il existe également des versions professionnelles/entreprise appelées Dagster Cloud ou Dagster+, incluant la collaboration en équipe, des déploiements améliorés et un support d'entreprise.
Principalement des connaissances en Python, car le cœur est développé de manière déclarative en Python. Une familiarité avec les concepts d'ingénierie des données sera utile.
Prise en charge du déploiement et de l'exécution en local, dans des conteneurs Docker, sur des clusters Kubernetes et dans des architectures sans serveur, entre autres.
En tant que plateforme open source, Dagster fournit des abstractions de ressources pour gérer les connexions externes. Les pratiques exactes de sécurité et de conformité dépendent de la configuration de déploiement et de l'infrastructure de l'utilisateur.
Vous pouvez installer dagster et dagit via pip, lancer un gabarit de projet, puis définir des actifs, des opérations et des jobs pour construire la pipeline, et les gérer et surveiller via l'interface Dagit.
Le cœur de Dagster est conçu pour le traitement par lots et l'orchestration d'actifs de données. Pour le flux en temps réel à haut débit et faible latence, il faut généralement le coupler à des systèmes dédiés au traitement de flux (comme Apache Flink).

Dust est une plateforme d'agents IA personnalisés destinée aux entreprises, permettant de concevoir, déployer et gérer rapidement des IA intelligentes connectant les bases de connaissances internes et les outils, sans ou avec peu de code. Son objectif est d'améliorer l'efficacité de la collaboration d'équipe et de renforcer la gestion des connaissances à grande échelle.
Inngest est une plateforme d'exécution persistante pilotée par les événements, axée sur la simplification de l'orchestration des flux IA et back-end. En masquant la complexité des infrastructures sous-jacentes, elle aide les développeurs à se concentrer sur la logique métier et à construire des tâches back-end et des workflows complexes, efficaces, fiables et évolutifs.