Agentgateway

Agentgateway là gateway AI-native cho cảnh AI/Agent, dùng để kết nối thống nhất mô hình & công cụ, đồng thời cung cấp khả năng định tuyến, xác thực, bảo mật và quan sát.

Theo thông tin, sản phẩm bao gồm LLM Gateway, MCP/A2A Gateway và Inference Gateway, lần lượt xử lý kết nối mô hình, hợp tác công cụ và quản lý định tuyến inference.

Chỉ cần gọi qua API tương thích OpenAI, bạn có thể dùng nhiều mô hình từ nhà cung cấp hoặc tự lưu trữ mà không cần sửa mã nghiệp vụ khi chuyển mô hình.

Tài liệu đề xuất ba cách: Inline token, Kubernetes Secret và Passthrough token; trong đó Kubernetes Secret được khuyên dùng thường xuyên vì độ an toàn cao.

Có thể giám sát lượng token và đặt giới hạn ngân sách hoặc chi tiêu, phù hợp để kiểm soát cơ bản mức sử dụng và chi phí.

Hỗ trợ truy vết và ghi log cấp request lẫn cấp token, đồng thời theo dõi mức dùng & chi phí dựa trên OpenTelemetry, giúp gỡ lỗi và phân tích vận hành.

Phù hợp các nhóm R&D hoặc nền tảng cần quản lý thống nhất nhiều mô hình, công cụ hoặc Agent, đặc biệt trong môi trường production cần tăng cường quản trị và quan sát.

Nội dung hiện tại chưa công bố chi tiết giá hoặc phiên bản; vui lòng tham khảo trang chính thức và kênh bán hàng để có thông tin mới nhất.