Cleanlab AI

Cleanlab AI aborda principalmente el problema de las 'alucinaciones' de la IA generativa (como los modelos de lenguaje grande), es decir, la generación de contenido inexacto o ficticio, y se compromete a mejorar la fiabilidad y la veracidad de las salidas de IA mediante detección y corrección automatizadas.

La plataforma Cleanlab Remediate ofrece detección de errores en tiempo real y pruebas de referencia, corrección automática de alucinaciones, la intervención directa de expertos en dominio para reparar, y un monitoreo completo de agentes de IA junto con la verificación de adherencia a las indicaciones.

Entre sus clientes se encuentran BBVA, Tencent, Amazon, Google, Oracle, Red Hat, iRobot, Databricks, Tesla, JPMorgan Chase, Microsoft, entre otros, abarcando desde startups hasta grandes empresas tecnológicas y financieras.

A través de un mecanismo de colaboración humano-máquina en la plataforma, los expertos en dominio pueden intervenir para guiar y corregir. Los casos muestran que, tras la intervención, la precisión de los agentes de IA en producción aumenta de 72% a 90%.

Cleanlab AI no solo se centra en la calidad de los datos de entrenamiento; su plataforma Cleanlab Remediate se enfoca más en supervisar en tiempo real, detectar alucinaciones y corregir de inmediato en entornos de producción de IA generativa, dentro del ámbito de la operación y mantenimiento de la fiabilidad de IA.

Los usuarios pueden solicitar una demostración del producto a través de su sitio web oficial para conocer más a fondo las funciones y detalles de sus soluciones de fiabilidad de IA.