Portkey AI は、生成系 AI 開発者向けのエンタープライズ級 LLMOps プラットフォームで、大規模な AI アプリケーションに本番環境レベルの基盤を提供します。チームが安全かつ高効率に AI アプリを構築・管理できるよう支援します。
統一 AI ゲートウェイ、全栈の可観測性とモニタリング、安全ガバナンスとコントロール、プロンプトとワークフロー管理などの機能を提供し、モデル統合から運用監視までの全工程をカバーします。
生成系 AI チーム、アプリ開発者、プラットフォームエンジニアリングチーム、企業レベルの AI アプリケーションを一元管理・ガバナンスしたい組織向けです。特に複数の LLM モデルと提供元を管理するプロジェクトに適しています。
クラウドホスティングを中心としたサービスで、無料プランと従量課金、またはオンプレミスでのオープンソース版を提供しています。料金体系の詳細は公式の価格ページをご参照ください。
秘密鍵の管理、アクセス制御、ワークスペース分離などを提供し、PII の匿名化などのセーフガードにも対応しています。具体的な安全対策やコンプライアンス情報は公式ドキュメントをご参照ください。
統一 AI ゲートウェイを通じて、1600以上の大型言語モデルと提供元の接続・管理をサポートし、多モデル統合をシンプルにします。
通常はアカウントを登録してワークスペースを作成し、Portkey SDK または LangChain などの既存フレームワークを設定してアプリリクエストを Portkey ゲートウェイのエンドポイントに指向します。詳細な手順は公式の入門ガイドを参照してください。
本プラットフォームは、インテリジェントルーティング、意味論キャッシュ、詳細なコスト監視・アトリビューションなどを通じて、コスト最適化のツールと洞察を提供し、AI アプリの支出を管理します。
Abacus.AIは、企業やプロフェッショナル向けの統合AIプラットフォームで、データサイエンス、機械学習、生成AIの機能を一つにまとめています。統一されたインターフェースから複数のAIモデルにアクセスでき、ワークフローの自動化や企業向けアプリ開発を支援し、AIアプリの構築・展開を簡素化します。
LiteLLM はオープンソースの AI ゲートウェイ プラットフォームです。標準化されたインターフェースを介して 100 種類以上の大規模言語モデルに一元的にアクセス・管理し、開発者と企業チームの統合を簡素化し、コストを抑え、運用効率を向上させます。
OrqAI は企業向けの生成型AIコラボレーションプラットフォームです。チームが生産レベルのAIエージェントとLLMアプリを構築・テスト・デプロイ・運用できるよう支援し、プロトタイプから市場投入までのデリバリーを加速します。
Freeplay AIは、企業のAIエンジニアリングチーム向けの開発・運用プラットフォームです。大規模言語モデルをベースにしたアプリケーションの構築・テスト・監視・最適化を、チームで効率的に進めることに焦点を当てています。当プラットフォームは、協働開発・プロダクションの可観測性・継続的な最適化機能を提供し、開発プロセスを標準化してAIアプリの信頼性と反復効率を向上させます。
Helicone AI はオープンソースの AI ゲートウェイと LLM 可観測性プラットフォームです。開発者が大規模言語モデルに基づく AI アプリを監視・最適化・デプロイし、アプリの信頼性とコスト効率を向上させるのを支援します。
Prompteus AI は企業向けの生成AIオーケストレーションプラットフォームで、統一されたワークフロー、モデル管理、コンプライアンス管理を通じて、チームや組織が信頼性の高いスマートなアプリケーションを構築・運用・拡張するのを支援します。
QueryPie AIは、企業向けのAIプラットフォームです。企業が低コストでAIへの転換を実現できるよう支援します。戦略コンサルティングからカスタムAIエージェントの開発まで、全工程を一元的にカバーするソリューションを提供し、複数の大規模言語モデルの統合管理をサポート。さらに企業の既存クラウドサービスとデータを統合し、業務プロセスの自動化と意思決定の効率向上を実現します。
LangWatch AI は AI 開発チーム向けの LLMOps プラットフォームです。AI エージェントと大規模言語モデルアプリケーションのテスト・評価・監視・最適化機能に特化しており、開発から運用までの全プロセスを通じて信頼性の高い、検証可能なAIシステムの構築をサポートします。
Klu AI は、LLMOps（大規模言語モデル運用）に特化した統合プラットフォームです。企業チームがLLMベースのアプリケーションを設計・デプロイ・最適化・監視する作業をより効率的に支援する、全てを賄えるワークフローを提供します。プロトタイピング検証から本番デプロイまでの一貫したパイプラインを実現します。
Potpie AI は、コード知識グラフを構築してカスタムAIエージェントを作成し、コード分析・デバッグ・テスト生成・コードレビューなどのソフトウェア開発タスクを自動化して、エンジニアリングの生産性を大幅に向上させるオープンソースのAI代理プラットフォームです。