あらゆるタスクに最適なモデルを。

なぜ重要なのか

AI の状況は、どのベンダーも追いつけないほどの速さで変化しています。今日、複雑なコンプライアンス推論に最適なモデルは、6 か月前に最適なモデルとは異なり、おそらく 6 か月後も最適なモデルではないでしょう。高速なテキストチェックに最適なモデルは、複数のドキュメントの規制分析に最適なモデルとはほとんど同じではありません。機密性の高いコンテンツを安心して任せられるモデルは、パブリック API であることはほとんどありません。

規制対象業界のお客様は、データ所在地、データの忠実性、および一部のコンテンツが定義されたセキュリティ境界から外に出てはならないという要件など、別の懸念事項にも対応する必要があります。製薬、医療、金融サービス、政府機関の業務では、モデルの性能に関わらず、パブリック AI API が選択肢にならない種類のコンテンツを扱っています。

オープン LLM 哲学は、これらの現実すべてに一度に対応します。各タスクに適したモデルを選択してください。各コンプライアンス体制に適した展開モードを選択してください。より優れたモデルが登場したら、プロバイダーを切り替えてください。

機密性の高いコンテンツはプライベートインフラストラクチャ上で実行し、それ以外のすべてのコンテンツは最先端API上で実行します。お客様のAI戦略は、Aprooveのベンダー決定に縛られることはありません。

エージェントごとのプロバイダー選択

Aprooveのエージェントフレームワークでは、モデルはプラットフォーム全体の設定ではなく、各エージェントの第一級構成オプションとして扱われます。

同じプロジェクト、同じワークフロー、同じファイルで、異なるエージェントを異なるプロバイダーで実行できます。

• スタイルガイドに対する高速なマルチモーダルパターン認識に最適化された、OpenAIの主力モデルで実行されるブランドエージェント。
• 長いコンプライアンス文書に対する微妙なテキスト推論に最適化された、Anthropicの主力モデルで実行される規制エージェント。
• コンテンツが環境外に持ち出せない、組織のセルフホスト型モデルで実行される法律エージェント。
• 最も高価なエンジンを必要としない作業の場合、どちらのプロバイダーのコスト効率の高いモデルで実行されるスペルとトーンエージェント。

選択はエージェントごとです。

ワークフローは、事前分析の一部として 4 つすべてを順番に呼び出すことができ、それぞれが割り当てられたプロバイダーで実行され、顧客は各モデルに対して適切な料金を支払います。レビュー担当者は違いに気づくことはありません。プロバイダーに関係なく、結果はタグとメモとして返されます。

これは、AI の支出を AI のニーズに合わせることができることを意味します。正当化される作業には最先端モデルを、そうでない作業には効率的なモデルを、必要な作業にはセルフホスト型モデルを使用します。

すぐに使える統合

Aproove には、2 つの主要な最先端モデルプロバイダーへのネイティブ統合が付属しています。

• OpenAI。 OpenAI の利用可能なモデルファミリーへのフルアクセス。マルチモーダルモデル、推論モデル、およびコスト効率の高いモデルのサポート。OpenAI API キー、エンタープライズ テナント、または Aproove 管理アクセスで構成します。
• Anthropic。 Anthropic の Claude モデルファミリーへのフルアクセス。 Anthropic API キーまたはエンタープライズ テナントを使用して構成します。

どちらの統合も、API キー管理、モデル選択、出力トークン制御、リクエスト タイムアウト、エージェントごとの割り当てなど、同じプロバイダー プリミティブをサポートしています。どちらのプロバイダーでもエージェントを設定する構成フローは同じです。エージェントをあるプロバイダーから別のプロバイダーに切り替えるのは、構成の変更であり、再開発ではありません。

AI エコシステムが進化するにつれて、追加の既製プロバイダーを追加できます。アーキテクチャはそれに対応するように設計されています。

カスタムおよび自己ホスト型 LLM

独自の AI インフラストラクチャ (社内モデル、微調整されたバリアント、プライベート クラウド環境でホストされているモデル、またはソブリン クラウド展開) を持つ組織の場合、Aproove はエンドポイントを指す構成可能なプロバイダー接続をサポートします。

一般的な構成:

• 社内エンタープライズ LLM。 組織は内部モデルを標準化しています。 Aproove エージェントは、内部 API を介してそのモデルを呼び出すように構成できます。すべての AI アクティビティは、お客様のネットワーク内に留まります。
• セルフホストのオープンウェイト モデル。 お客様のチームは、独自のインフラストラクチャでオープンウェイト モデルを実行します。Aproove エージェントは、推論のためにそのエンドポイントを呼び出すことができます。
• 安全にホストされたプライベート LLM。 プロバイダーとの契約により、モデルは定義されたセキュリティ ペリメーター (たとえば、データ エグレスのない専用のクラウド テナント) 内に保持されます。Aproove エージェントは、そのペリメーターの外にデータをエクスポートすることなくモデルを呼び出します。
• エア ギャップまたはソブリン環境。 パブリック AI API をまったく使用できない環境で運用しているお客様のために、Aproove は、お客様が提供するエンドポイントのみを呼び出すように構成できます。

データの忠実性の利点は直接的です。エージェントがセルフホストまたはプライベートホストのモデルに対して実行される場合、構造化ファイル表現、プロンプト、およびモデル出力はすべて、お客様の管理環境内に留まります。外部プロバイダーにデータが流れることはありません。推論は、顧客が管理するインフラストラクチャ上で実行されます。

これにより、パブリック AI API が利用できない環境でも AI を展開できるようになります。製薬会社の治験文書、保護された医療情報、財務上の機密資料、政府の業務など、すべて規制基準を満たすインフラストラクチャ上で AI の支援を受けてレビューできます。

透明性があり、監査可能な請求

AI 対応プラットフォームによくある落とし穴は、不透明な請求です。プラットフォームは、AI の定額料金を請求するか、AI のコストを月額サブスクリプションに隠すか、基礎となる数値を表示せずに使用量を推定します。顧客は、AI の実際のコストや支出の使途を確認できません。

Aproove は逆のアプローチを採用しています。AI の使用は、管理ツールを通じて完全に透明性を保ちながら、実際の消費量に基づいて請求されます。

• 実行ごとのコストキャプチャエージェントの呼び出しはすべて、使用されたモデル、プロンプト、タイムスタンプ、およびコストとともに、生成ジョブにログ記録されます。コストは、API キーに関連付けられたプロバイダーから直接取得され、見積もられたものではありません。
• 管理者に表示できます。 管理ツールの「ジョブ生成」ビューでは、エージェントごと、プロジェクトごと、ワークフローごと、期間ごとのコストが表示されます。支出に関する会話は、実際の数値に基づいています。
• 監査可能です。 エージェントの実行はすべて、プロジェクトの監査証跡の一部です。AI コストは、請求、割り当て、またはコンプライアンス レポートのために、任意のプロジェクト レコードと併せて再構築できます。
• 顧客 API キーがサポートされています。 独自のプロバイダー アカウントを持ち込むことができます。コストは、OpenAI、Anthropic、またはカスタムインフラストラクチャ プロバイダーとの請求関係を通じて発生し、Aproove は請求の仲介者ではなくオーケストレーション レイヤーとして機能します。

その結果、AI コストは、運用予算の他の項目と同様に、可視化され、帰属可能で、予測可能になります。

カスタム エージェントのプロフェッショナル サービス

既製のエージェントを超えることを望む組織のために、Aproove のプロフェッショナル サービス チームは、コンプライアンス、ブランド、および法務のステークホルダーと連携して、高度に調整されたエージェントを構築します。このメカニズムは、厳選された参照資料とペアになった設計されたプロンプトであり、RAG (retrieval-augmented generation) と呼ばれるパターンです。これにより、モデルの微調整を必要とせずに、特定のドメインとコンテンツに合わせて形成されたエージェントの動作が生成されます。

これには以下が含まれます。

• カスタムエージェント設計。 エージェントが何を探すべきか、何を生成するべきか、どのようなトーンと制約が適用されるか、そしてその発見がワークフローにどのように統合されるべきかを定義します。
• 詳細なプロンプト設計。 エージェントがコンテンツに対して確実に動作するように、システムプロンプト、ユーザー入力レイヤー、および動作フレームワークを構築します。ここでは、深いドメイン知識と慎重な指示設計が出会います。
• RAG 参照資料のキュレーション。 エージェントが参照すべき永続的な知識をロードします。スタイルガイド、規制フレームワーク、禁止クレームリスト、ブランドブック、承認済みクレームライブラリ、管轄区域固有のコンプライアンス文書。参考資料は、エージェントに専門知識を与えるものです。
• 品質基準の定義と検証。 エージェントが稼働する前に、チームの代表的なコンテンツに対して構造化されたテストを行い、受け入れ基準を設定します。
• 反復的な改善。 コンテンツが進化し、チームからフィードバックがあり、エッジケースが発生するにつれて、プロンプトと参考資料を調整します。

プロフェッショナル サービスが構築を支援してきた一般的なエージェントの種類には、規制遵守チェッカー (FDA、FTC、管轄区域固有の要件などの特定のフレームワークに合わせて調整)、ブランドの一貫性エージェント、主張の根拠レビュー担当者、キープルーフ チェッカー (フォント、色、レイアウト、プリプレス準備) などがあります。同じアプローチは、既製のエージェントでは捉えられない専門知識をチームが体系化しているレビュー領域にも適用されます。

プロフェッショナル サービス エージェントは、最先端 API、社内モデル、または自己ホスト型インフラストラクチャなど、あらゆるプロバイダー構成に対して構築できます。根底にある哲学の開放性は、カスタムビルドにも当てはまります。

メリット

• ベンダーロックインなし。 プロバイダーの選択はエージェントごとに設定可能で、切り替え可能です。お客様のAI戦略はAprooveのベンダー決定に縛られません。
• タスクに合わせてモデルを選択。 複雑な作業には最先端のモデル、シンプルな作業には効率的なモデル、機密性の高い作業にはセルフホスト型モデル。すべて同じプロジェクトとワークフロー内で実行できます。
• エージェント間でプロバイダーを自由に組み合わせる。 Anthropicの規制エージェントとOpenAIのブランドエージェントを、アーキテクチャ上の摩擦なく同じワークフローで実行できます。
• 機密性の高いコンテンツはお客様の環境に留まります。 セルフホスト型とプライベートモデルのサポートにより、規制対象コンテンツがAIの恩恵を受けるためにセキュリティ境界を越える必要がありません。
• コストは透明性があり、監査可能です。 すべてのエージェントの実行は、実際のプロバイダーコストとともにログに記録されます。会話では実際の数値を使用します。
• 顧客請求関係は維持されます。 OpenAI、Anthropic、またはプライベートインフラストラクチャプロバイダーとの契約は、お客様の契約のままです。Aprooveが調整を行い、お客様は取引を実行します。‍
• アーキテクチャは、お客様の投資を将来にわたって保護します。 新しいプロバイダーやモデルが登場しても、プラットフォームはエージェントライブラリの移行を必要とせずにそれらを吸収します。

対象者

• データ所在地とプロバイダーの選択がガバナンス上の問題であり、単なる好みではない業界のコンプライアンスおよび規制担当リーダー。
• 規制およびセキュリティ要件に照らしてAI導入モデルを評価するITおよびセキュリティチーム。
• 複数のエージェント、ワークフロー、およびビジネスユニットにわたるAIコストを管理する運用リーダー。
• 特定のビジネスコンテキストに合わせてプラットフォームのAI機能を構成する承認管理者。
• パブリックAI APIが常に選択肢となるわけではない規制対象業界（製薬、ヘルスケア、金融サービス、政府）の顧客。

基盤

Open LLM の理念は、AI エージェント フレームワークのプロバイダー レイヤーを通じて実装されています。プロバイダー構成には、接続の詳細 (API エンドポイント URL、API キー、API タイプ)、モデル選択 (クラウド API の場合はプロバイダーからリアルタイムで取得、自己ホスト型エンドポイントの場合は静的に指定)、および出力トークン制御が含まれます。OpenAI および Anthropic とのすぐに使える統合が利用可能です。自己ホスト型および顧客管理型エンドポイントは、構成可能なプロバイダー定義を通じてサポートされ、一般的な自己ホスト型推論サーバーおよびエンタープライズ プロキシ構成は、標準プロバイダー パターンで対応可能です。標準以外のエンドポイントについては、プロフェッショナル サービスのサポートを受けてカスタム プロバイダー構成を構築できます。各 AI エージェントは単一のプロバイダー構成にバインドされますが、同じ環境内の異なるエージェントは、同じワークフローでパブリック API と自己ホスト型エンドポイントを混在させるなど、異なるプロバイダーを使用できます。生成ジョブは、モデル識別子、プロンプト バージョン、タイムスタンプ、およびプロバイダー API から直接取得したコスト データとともに、エージェントの実行をすべて記録します。監査証跡は、プロジェクトごと、ワークフローごと、およびエージェント呼び出しごとにコストデータを保持します。マルチテナント環境と顧客ごとのプロバイダー分離は、プロバイダーレベルの分離によってサポートされます。