// operate.ai_infrastructure

AIエージェントを大規模に運用するためのインフラ

企業のエージェント群、AIアプリケーション、個人開発者を支えるために、OpenOrangeが計算リソース、ランタイム、モデルへのアクセス、サービス、運用管理をどうつなぐかをご紹介します。

OpenOrangeは、エージェントとAIアプリケーションのデプロイ・運用を支える、スケーラブルなAIインフラです。計算リソース、エージェントのランタイム、モデルへのアクセス、サービス、運用管理を1つのプラットフォームにつなぎます。

まもなく一般公開。ウェイティングリストに登録またはメールでお問い合わせ： contact@openorange.ai

プライベートなOpenOrangeインスタンスのプロビジョニングと運用を担うプラットフォーム。

エージェントの実行環境は、設定されたモデルやツールに接続します。

リクエストとサービスの利用を、人、エージェント、コストに紐づけます。

企業での実運用の経験を、すべての人へ開かれるインフラに生かしています。

AIインフラに求められること

エージェントには、モデル以外にも必要なものがあります。実行場所、ツールとデータへのアクセス、認証情報、利用状況の把握、そして保守を担う人です。ワークロードが増えるにつれ、こうした責任はより多くの人、ランタイム、リソースにまたがります。OpenOrangeは、それらを1つの運用レイヤーでつなぎます。

計算リソースとデプロイ

運用プラットフォームは、プライベートインスタンスをプロビジョニングし、リリース、稼働状態、更新、復旧を管理します。プロバイダーの計算リソースがインスタンスとエージェントホストを支え、コーディングセッションは分離された実行環境を利用します。管理者は、設定済みのリソースカタログを通じて計算リソースと仮想マシンを管理します。導入環境の規模とリソースの量は、実際のワークロードに合わせて決めます。

ランタイム、推論、サービス

エージェントのランタイムは独自の実行モデルを維持し、OpenOrangeはその運用に必要なシグナルと制御をつなぎます。設定されたモデルのルーティング経路を通じて推論にアクセスします。ブラウジング、検索、メールなどの接続サービスが、エージェントにできることを広げます。モデルへのリクエストとサービスのアクティビティは、利用状況やコストの情報とともに確認できます。

利用が増えても制御を維持

インスタンスへの参加権限、エージェントへのアクセス、モデルのポリシー、支出上限、慎重な扱いが必要な操作への判断によって、誰が何をできるかを定めます。リクエスト履歴と運用記録から、何が起き、誰が開始したかを確認できます。これらの制御により、組織は責任の所在を明確に保ちながら、エージェントの活用を広げられます。

企業のエージェント群から、個人の仕事まで

OpenOrangeは大企業で稼働しています。そのインフラはエージェントアプリケーションを開発するチームも支え、同じ基盤を独立系開発者と個人へと開放していきます。1つのエージェント、共有の開発プロジェクト、業務フローから始めて、管理された導入環境の中で拡大できます。

明確なデータの境界

プライベートインスタンスは、アプリケーションへのアクセスとランタイムの状態を分離します。ただし、すべてのモデルやツールの呼び出しがローカルになるわけではありません。設定されたプロバイダーには、作業に必要な情報が送られます。プロバイダーの選択、保持するコンテンツ、認証情報、運用上のアクセスは、導入ごとのデータ取扱設計に含まれます。

// 質問

OpenOrangeと個別のエージェントランタイムはどう違いますか？

ランタイムはエージェントを実行します。OpenOrangeは、その実行を取り巻くインフラを提供します。デプロイ、計算リソース、モデルへのアクセス、接続サービス、利用量・費用の集計、アクセス制御、運用インターフェースです。ランタイムは引き続き、自身の実行とローカル状態に責任を持ちます。

自分のワークロードでOpenOrangeを評価するには？

実行したいエージェントやアプリケーション、想定する利用量、導入要件をcontact@openorange.aiまでお知らせください。企業での導入は直接ご相談いただけます。個人とチームは、一般公開に向けたウェイティングリストにご登録いただけます。