最終的な決定は人間が行う。AIは、その決定に至るまでのプロセスを加速させる。

なぜ重要なのか

ワークフローに関連する「ヒューマン・イン・ザ・ループ」というフレーズは、AI業界の多くであまりにも一般的になりすぎて意味を失ってしまいました。ベンダーはそれを主張しますが、製品では重要な決定を下すためにAIにひっそりと依存しています。監査証跡は一つのことを示していますが、実際の意思決定の流れは別のことを示しています。

規制環境においては、この乖離は許容できず、生き残ることもできません。

責任 AIによる決定が間違っていた場合（規制開示の漏れ、ブランド基準違反、承認されるべきではなかった臨床的主張の承認など）、誰かが責任を負わなければなりません。AIが判断を下し、人間がそれを追認した場合、誰が責任を負うべきかという問題は非常に難しくなります。規制当局、弁護士、裁判所は、単に「承認」をクリックしただけでなく、実際に人間が判断を下したことをますます確認したいと考えている。

規制。 EU AI 法、進化する米国の枠組み、AI による意思決定支援に関する FDA ガイダンス、金融サービスとヘルスケアの分野別枠組み: これらはすべて、AI 支援による意思決定に対する意味のある人間の監視の要件に収束している。真の人間が関与していることを証明できないプラットフォームは、これらの要件を満たせない。

信頼。 実際に判断を下していると思われる AI と並んで作業するように求められたレビュー担当者は、関心を失ってしまう。注意深く読むのをやめ、クリックして先に進む。AI は自己成就予言となる。人間が注意を払わなくなったために、AI が判断を下したのだ。 Aprove の設計では、あらゆる段階で人間が決定者であり、AI は補助者であることを明確にすることで、この問題を回避しています。

出所。 監査で「この決定はどのように行われたか」と問われた場合、その回答は再現可能である必要があります。AI が関与したか？どの AI か？どのようなプロンプトで？人間は AI の調査結果を受け入れたのか、それとも覆したのか？Aproove の [AI 生成] タグ付けと生成ジョブ台帳により、この回答を完全に正確に入手できます。

実践におけるコミットメント

Aproove におけるヒューマン・イン・ザ・ループの原則を体現する 5 つの具体的な動作:

1. AI の呼び出しは、人間が開始するか、ワークフローで定義されます。 AI は機会主義的に自身を呼び出しません。人間がレビュー インターフェイスまたはプルーフ プラン ビューを介して AI エージェントをトリガーするか、ワークフロー アクションがワークフロー デザイナーが指定したステップでエージェントをトリガーします。どちらの場合も、AI を実行することを決定したのは人間です。

2. AI ノートにはタグと属性が付けられます。 AI が生成するすべてのノートには [AI GENERATED] という接頭辞が付けられ、プロンプトを呼び出したユーザーの名前の下に追加されます。匿名の AI ノートはありません。人間が記録されます。AI の出所が記録されます。

3. AI は決定ボタンを押しません。 ワークフローの決定 (承認、拒否、条件付き承認、エスカレーション、およびカスタム決定ボタン) は、適切な権限を持つ人間の担当者に予約されています。AI は決定ステップを完了できません。AI はステップを準備し、リスクを明らかにし、回答を推奨することはできますが、クリックするのは人間です。

4. AI の権限ゲートは、ファイルの権限とは独立しています。 ファイルを表示できるレビュー担当者が、そのファイルに対して AI エージェントを自動的に呼び出すことはできません。エージェントの呼び出しは、コンテンツの権限とは別に、ユーザー、ロール、またはチームの権限によって管理されるため、AI アクセスはファイル アクセスから継承するのではなく、ガバナンスに合わせて構成されます。

5. 監査証跡には、AI の由来が記録されます。 すべての AI 呼び出しで、エージェント ID、使用されたモデル、プロンプト、参照、コスト、および人間の帰属を含む生成ジョブ エントリが作成されます。監査で決定がどのように行われたか尋ねられた場合、その決定における AI の役割は完全に再現可能です。

Aproove における AI の役割

Aproove における AI の生産的な役割は非常に重要です。ただし、「支援する、決定しない」という範囲内に留まります。

• 人間によるレビューの前にコンテンツを事前審査します。AI 事前分析はワークフローの開始時にファイルに対してエージェントを実行し、レビュー担当者が開始する前にリスクと発見事項を明らかにします。
• 人間の注意を引くためにリスクをフラグ付けします。AI によるリスク検出は、コンポーネント レベルでコンプライアンス、ブランド ガバナンス、および品質の問題を特定し、人間の評価が必要な特定のページ、画像、または段落に発見事項を添付します。
• 適切なレビュー担当者に注意を向けますします。AI によるリスク評価は、コンテンツのリスク プロファイルに基づいてワークフロー ルーティングをトリガーし、適切な専門家が適切なコンポーネントを確認するようにします。
• バージョンをインテリジェントに比較します。 AI は、文書のバージョン間の違いを識別して説明できるため、レビュー担当者が何が変更されたのか、そしてその理由を理解するのに役立ちます。
• 非構造化コンテンツから構造化データを抽出。AI は、文書から表、リスト、および特定のデータ要素を抽出して、後続のレビュー用に構造化形式に変換できます。
• 市場間でコンテンツを翻訳および適応。AI は、翻訳または管轄区域固有のバリアントを準備して、人間のレビューと承認を受けることができます。
• 関係者向けにコンプライアンス概要を生成。 AI は、規制文書の要約を人間のレビューと配布用に作成できます。

いずれの場合も、AI の出力は人間のための準備であり、人間の判断の代替ではありません。

Aproove で AI が行わないこと

• AI は決定を承認または拒否しません。 ワークフローの決定ステップは、人間の担当者に予約されています。
• AI は規制対象の提出物を最終化しません。 最終承認、サインオフ、およびリリース決定は、必要な場合は資格確認の下で人間の行為です。
• AI はワークフローの担当者として動作しません。 ワークフロー ステップ ゲストは、人、連絡先グループ、または役割です。AI はステップ ゲストではありません。
• AI は元のファイルを変更しません。 Aproove のアトミック ファイル分解により、元のファイルが保持されます。 AI は表現に基づいて動作し、結果を追加しますが、ソースを変更することはありません。
• AI は権限をバイパスしません。 AI の呼び出しはコンテンツの権限を尊重し、その上に独自の役割ベースのゲーティングを追加します。
• AI は、表示すべきでないコンテンツに対して自身を呼び出しません。 エージェントの権限境界 (AI エージェントの 4 つの要素の 1 つ) は、エージェントが操作するコンテンツを制限します。

ガバナンス メカニズム

この原則は、ポリシーだけでなく、特定のアーキテクチャ メカニズムによって強制されます。

• 権限フレームワーク。 AI エージェントは、第一級の権限オブジェクトです。誰がそれらを見ることができるか、誰がそれらを呼び出すことができるか、どのようなコンテンツを操作するかはすべて、エージェントごとに構成可能な役割、チーム、およびユーザーの権限によって管理されます。
• ワークフロー フレームワーク。 決定ボタンは、人間の担当者用に予約されています。AI はワークフローの決定を完了できません。ワークフローアクションは準備のためにAIを呼び出すことができますが、決定ステップには依然として人間のクリックが必要です。
• 帰属フレームワーク。 AIノートには[AI GENERATED]という接頭辞が付き、呼び出し元の人間の帰属情報が継承されます。プラットフォームには匿名のAIアクティビティはありません。
• 監査フレームワーク。 生成ジョブは、モデル、プロンプト、参照、コスト、および人間の帰属情報とともに、すべてのAI呼び出しを記録します。AIの来歴はプロジェクトレコードに永続的に保存されます。
• 構成フレームワーク。 AIエージェントの動作、スコープ、および出力はエージェントごとに構成され、構成は顧客のガバナンスチームが管理します。AIは自身のスコープを拡張することはできません。

メリット

• 規制環境における防御可能なAI。 ヒューマン・イン・ザ・ループ・アーキテクチャは、規制当局がAI支援意思決定支援のために収束しつつある基準を満たしています。
• 人間の監視を伴うHITL AI。 AIが準備を支援した場合でも、意思決定の帰属は、資格と説明責任を持つ人間に残ります。
• 監査は両方のレイヤーを再構築します。 AIの関与と人間の意思決定の両方が完全に記録されます。規制当局は全体像を把握できます。
• レビュー担当者は関与し続けます。 AIが決定するのではなく明らかに支援する場合、レビュー担当者は関与を放棄するのではなく、積極的な判断を維持します。
• AIガバナンスは構成可能です。 顧客は、AIが何をするか、誰が呼び出すことができるか、AIがどのコンテンツに対して動作するかを制御できます。当社のAIブランドガバナンスツールは標準搭載されています。
• AIの適用範囲が拡大することはありません。 AIによる支援と人間の意思決定の境界はアーキテクチャによって定められており、設定のずれやショートカットワークフローによって侵食されることはありません。
• コンプライアンスフレームワークにスムーズに対応できます。 EU AI法、FDAガイダンス、および同様のフレームワークは、AprooveのAIアーキテクチャが人間の監視要件と互換性があると判断しています。

対象者

• 製薬、ヘルスケア、保険、金融サービス業界のコンプライアンスおよび規制チームは、AI対応プラットフォームを、適切な人的監視要件に照らして評価します。
• 企業組織におけるAIガバナンスリーダーは、AIの導入が新たなガバナンスフレームワークに適合することを保証する責任を負います。
• 法務チームは、規制対象業務におけるAI支援による意思決定に伴う法的責任リスクを管理します。
• ブランドガバナンスチームは、適切な人的レビューなしに、消費者向け資料でAIが重大な誤りを犯すことを懸念しています。
• 監査およびリスクリーダーは、監査の正当性を確保するために、AI支援と人間の意思決定権限を明確に分離することを求めています。
• オペレーションリーダーは、レビュー担当者の関与や説明責任を損なうことなく、レビュープログラムにAIを導入します。

内部構造

ヒューマン・イン・ザ・ループAIは、Aprooveのパーミッションフレームワーク、ワークフローフレームワーク、アトリビューションフレームワーク、および監査フレームワークが連携して動作することで実現されます。AIエージェントは、ロールベース、チームベース、およびユーザーベースのアクセスガバナンスをエージェントごとに構成できる、第一級のパーミッションオブジェクトです。ワークフローの決定ステップには、人間の担当者と人間のクリックが必要です。AIは、プラットフォームのワークフローエンジンを介して決定を完了することはできません。AIが生成したメモは、呼び出し元のユーザーのIDの下に[AI GENERATED]というプレフィックス付きメッセージで追加され、システム内に匿名のAIアクティビティが存在しないことを保証します。生成ジョブは、エージェントID、プロバイダーモデル、プロンプト、参照ファイル、出力、コスト、および担当者とともに、すべてのAI呼び出しを記録し、プロジェクトの監査証跡に永続化します。AIエージェントのパーミッション境界（モデル、プロンプト、および参照ファイルとともに、エージェントを構成する4つの要素の1つ）は、ユーザーコンテンツのパーミッションとは独立して、かつそれに加えて、エージェントが操作できるコンテンツを定義します。アーキテクチャはデプロイメントモデル全体で一貫しています。AI推論は、最先端API、テナント内モデル、またはセルフホスト型推論のいずれでも実行できますが、人間が関与するガバナンスは推論パスに関係なく同一です。