WhyLabs AI là một nền tảng quan sát AI và an toàn, tập trung vào giám sát, bảo vệ và tối ưu hóa các mô hình học máy và ứng dụng AI tổng hợp đang vận hành trong môi trường sản xuất.
Nền tảng chủ yếu cung cấp giám sát liên tục các mô hình và ứng dụng AI (giám sát và phát hiện sự cố), bảo vệ an toàn (đặc biệt cho LLM), và tối ưu hóa hiệu suất (gỡ lỗi trực quan và theo dõi chi phí).
Phù hợp với các ngành dựa trên dữ liệu như chăm sóc sức khỏe, dịch vụ tài chính, thương mại điện tử và bất kỳ đội ngũ nào có nhu cầu quản lý hiệu suất, an toàn và ổn định của mô hình AI trong môi trường sản xuất.
Nền tảng sử dụng kiến trúc SaaS hỗn hợp, thu thập dữ liệu thông qua các agent telemetry mã nguồn mở tại môi trường người dùng và hoạt động cùng với nền tảng được quản lý, hỗ trợ tích hợp vào các pipeline dữ liệu hiện có và môi trường đám mây đa nền tảng.
Hỗ trợ giám sát nhiều loại mô hình AI, bao gồm cả các mô hình học máy dự đoán truyền thống và AI tổng hợp (như LLM), bao gồm dữ liệu có cấu trúc và phi cấu trúc.
Người dùng cần có một ứng dụng AI đang vận hành trong môi trường sản xuất và có thể tích hợp agent telemetry của nền tảng để thu thập dữ liệu hiệu suất và an toàn liên quan.
Nền tảng tuân thủ các tiêu chuẩn an toàn liên quan, thông qua các agent an toàn và trình quản lý chiến lược giúp phòng thủ trước các mối đe dọa an toàn đối với LLM như tiêm gợi ý, rò rỉ dữ liệu và sinh nội dung độc hại.
Theo thông báo chính thức, công ty WhyLabs đã ngừng vận hành, nhưng phần mềm lõi của nền tảng đã được phát open-source, các công nghệ liên quan (như whylogs, langkit) sẽ tiếp tục được duy trì và phát triển trong cộng đồng nguồn mở.
Abacus.AI là nền tảng AI tích hợp dành cho doanh nghiệp và chuyên gia, kết hợp khoa học dữ liệu, học máy và AI tạo sinh. Nó cung cấp quyền truy cập vào nhiều mô hình AI qua một giao diện thống nhất, xây dựng quy trình làm việc tự động và hỗ trợ phát triển ứng dụng cấp doanh nghiệp, nhằm giúp người dùng đơn giản hoá việc xây dựng và triển khai AI.
Autoblocks AI là một nền tảng tích hợp dành cho các đội ngũ phát triển sản phẩm AI, nhằm giúp các kỹ sư, quản lý sản phẩm và các chuyên gia lĩnh vực xây dựng, thử nghiệm, triển khai và quản lý các ứng dụng AI dựa trên mô hình ngôn ngữ lớn một cách hiệu quả. Nền tảng này cung cấp các công cụ mô phỏng kiểm thử, tối ưu đánh giá và hợp tác, hỗ trợ các nhóm phát triển có dữ liệu trong các lĩnh vực có yêu cầu cao như y tế, tài chính thực hiện phát triển hệ thống một cách có kiểm soát và lặp lại.
