Ce sont les humains qui décident. L'IA accélère le processus de décision.

Pourquoi c'est important

L'expression « l'humain dans la boucle » relative aux flux de travail est devenue si courante qu'elle a perdu tout son sens dans une grande partie du secteur de l'IA. Les fournisseurs l'utilisent alors que leurs produits s'appuient discrètement sur l'IA pour prendre des décisions importantes. La piste d'audit indique une chose ; le flux de décision réel en indique une autre.

Dans les environnements réglementés, cette déconnexion est inacceptable et non viable.

Responsabilité. Lorsqu'une décision prise par une IA s'avère erronée (omission d'une déclaration réglementaire, violation d'une norme de marque, approbation d'une allégation clinique injustifiée), quelqu'un est tenu responsable. Si l'IA a pris la décision et que l'humain l'a validée sans examen, la question de la responsabilité devient véritablement complexe. Les organismes de réglementation, les avocats et les tribunaux exigent de plus en plus que des humains aient réellement exercé leur jugement, et non pas simplement cliqué sur « Approuver ». Réglementation. La loi européenne sur l'IA, l'évolution des cadres réglementaires américains, les recommandations de la FDA sur l'aide à la décision par l'IA, les cadres sectoriels spécifiques aux services financiers et à la santé : tous convergent vers l'exigence d'une supervision humaine significative des décisions assistées par l'IA. Les plateformes incapables de démontrer une véritable intervention humaine dans le processus ne satisferont pas à ces exigences. Confiance. Les examinateurs chargés de collaborer avec une IA qu'ils soupçonnent d'être à l'origine des décisions se désintéressent. Ils cessent de lire attentivement. Ils cliquent sur « Passer ». L'IA devient une prophétie autoréalisatrice : l'IA a pris la décision parce que l'humain a baissé sa garde. La conception d'Aproove évite cet écueil en indiquant clairement à chaque étape que l'humain est le décideur et l'IA l'assistant. Traçabilité. Lorsqu'un audit demande « comment cette décision a-t-elle été prise ? », la réponse doit être reconstituable. L'IA était-elle impliquée ? Laquelle ? À quelle fin ? L'humain a-t-il accepté ou annulé le résultat de l'IA ? Le système de balisage [GÉNÉRÉ PAR L'IA] et le registre des tâches générées d'Aproove permettent de répondre à cette question de manière complète et précise.

L'engagement en pratique

Cinq comportements spécifiques qui incarnent le principe de l'intervention humaine dans Aproove :

1. L'invocation de l'IA est initiée par un humain ou définie par le flux de travail. L'IA ne s'invoque pas de manière opportuniste. Soit un humain déclenche un agent d'IA via l'interface de révision ou la vue du plan de validation, soit une action du flux de travail déclenche un agent à une étape spécifiée par le concepteur du flux de travail. Dans les deux cas, une personne a décidé que l'IA s'exécuterait.

2. Les notes de l'IA sont étiquetées et attribuées. Chaque note produite par l'IA est préfixée [GÉNÉRÉE PAR L'IA] et ajoutée sous le nom de l'utilisateur qui a déclenché l'invite. Il n'existe pas de note d'IA anonyme. L'utilisateur est identifié. La provenance de l'IA est enregistrée.

3. L'IA n'appuie pas sur les boutons de décision. Les décisions du flux de travail (Approuver, Refuser, Approuver sous conditions, Escalader et tous les boutons de décision personnalisés) sont réservées aux personnes habilitées disposant des autorisations appropriées. L'IA ne peut pas prendre une décision à son compte. Elle peut préparer l'étape, identifier les risques et recommander une solution, mais le clic final reste humain.

4. La gestion des autorisations d'accès à l'IA est indépendante des autorisations d'accès aux fichiers. Un réviseur qui peut consulter un fichier ne peut pas automatiquement invoquer des agents d'IA sur ce fichier. L'invocation d'agents est régie par les autorisations utilisateur, rôle ou équipe, indépendamment des autorisations de contenu. L'accès à l'IA est donc configuré selon votre gouvernance et non hérité de l'accès aux fichiers.

5. L'historique d'audit retrace la provenance de l'IA. Chaque invocation d'IA crée une entrée de tâche de génération avec l'identité de l'agent, le modèle utilisé, l'invite, les références, le coût et l'attribution humaine. Si un audit demande comment une décision a été prise, le rôle de l'IA est entièrement reconstituable.

Rôle de l'IA dans Aproove

Le rôle productif de l'IA dans Aproove est considérable. Elle reste simplement dans le cadre de l'« assistance, pas de décision ».

• Pré-analyse du contenu avant la relecture humaine. La pré-analyse par IA exécute des agents sur les fichiers au début du flux de travail, faisant apparaître les risques et les anomalies afin d'informer les relecteurs avant qu'ils ne commencent.
• Signaler les risques pour une intervention humaine. La détection des risques par IA identifie les problèmes de conformité, de gouvernance de marque et de qualité au niveau des composants, en associant les anomalies à la page, à l'image ou au paragraphe spécifique nécessitant une évaluation humaine.
• Orienter l'attention vers les relecteurs appropriés. L'évaluation des risques par IA peut déclencher l'orientation du flux de travail en fonction du profil de risque du contenu, afin que le spécialiste compétent examine le composant approprié.
• Comparer intelligemment les versions. L'IA peut identifier et expliquer les différences entre les versions d'un document, aidant ainsi les relecteurs à comprendre ce qui a changé et pourquoi.
• Extraire des données structurées à partir de contenu non structuré. L'IA peut extraire des tableaux, des listes et des éléments de données spécifiques de documents et les structurer pour une analyse ultérieure.
• Traduire et adapter le contenu pour différents marchés. L'IA peut préparer des traductions ou des variantes spécifiques à chaque juridiction pour examen et approbation par des humains.
• Générer des synthèses de conformité pour les parties prenantes. L'IA peut préparer des résumés de documents réglementaires pour examen et diffusion par des humains.

Dans tous les cas, le résultat de l'IA est une préparation pour l'humain, et non un substitut à son jugement.

Ce que l'IA ne fait pas dans Aproove

• L'IA n'approuve ni ne rejette les décisions. Les étapes de décision du flux de travail sont réservées aux personnes habilitées.
• L'IA ne finalise pas les soumissions réglementées. Les décisions d'approbation finale, de signature et de publication sont des actes humains, sous réserve de vérification des identifiants lorsque cela est requis.
• L'IA n'agit pas en tant que personne habilitée dans le flux de travail. Les invités d'une étape du flux de travail sont des personnes, des groupes de contacts ou des rôles. L'IA n'est pas un invité Step.
• L'IA ne modifie pas le fichier original. La décomposition atomique des fichiers d'Aproove préserve l'original ; l'IA travaille sur des représentations et ajoute des résultats, sans jamais altérer la source.
• L'IA ne contourne pas les permissions. L'invocation de l'IA respecte les permissions du contenu et ajoute son propre contrôle d'accès basé sur les rôles.
• L'IA ne s'invoque pas elle-même pour accéder à du contenu qu'elle ne devrait pas voir. Les limites de permission de l'agent (l'un des quatre ingrédients d'un agent d'IA) définissent le contenu sur lequel l'agent opère.

Mécanismes de gouvernance

Ce principe est appliqué par des mécanismes architecturaux spécifiques, et non par une simple politique :

• Cadre de permissions. Les agents d'IA sont des objets de permissions de premier ordre. Qui peut les voir, qui peut les invoquer et sur quel contenu ils fonctionnent : tout cela est régi par les rôles, les équipes et les permissions utilisateur configurables pour chaque agent.
• Cadre de workflow. Les boutons de décision sont réservés aux personnes chargées de l’assignation. L’IA ne peut pas prendre de décision dans un workflow. Les actions de workflow peuvent invoquer l’IA pour la préparation, mais l’étape de décision nécessite toujours un clic humain.
• Cadre d’attribution. Les notes d’IA portent le préfixe [GÉNÉRÉ PAR L’IA] et héritent de l’attribution de la personne qui les a invoquées. Aucune activité d’IA anonyme n’est présente sur la plateforme.
• Cadre d’audit. Les tâches de génération enregistrent chaque invocation d’IA avec le modèle, l’invite, les références, le coût et l’attribution humaine. La provenance de l’IA est intégrée de manière permanente à l’historique du projet.
• Cadre de configuration. Le comportement, la portée et les sorties des agents d’IA sont configurés pour chaque agent, et les équipes de gouvernance du client sont responsables de cette configuration. L’IA ne peut pas étendre sa propre portée.

Avantages

• Une IA défendable dans les environnements réglementés. L'architecture avec intervention humaine répond aux normes sur lesquelles convergent les régulateurs en matière d'aide à la décision par IA.
• IA HITL avec supervision humaine. L'attribution des décisions reste aux personnes, avec leurs qualifications et leur responsabilité, même lorsque l'IA a contribué à la préparation.
• L'audit reconstitue les deux niveaux. L'implication de l'IA et la décision humaine sont toutes deux pleinement enregistrées. Les régulateurs ont une vision complète.
• Les examinateurs restent impliqués. Lorsque l'IA assiste clairement plutôt que de décider, les examinateurs conservent leur jugement actif au lieu de se désengager.
• La gouvernance de l'IA est configurable. Les clients contrôlent ce que l'IA peut faire, qui peut l'invoquer et sur quel contenu elle opère. Notre outil de gouvernance de marque IA est intégré.
• Le périmètre de l'IA ne peut pas s'étendre. La frontière entre l'assistance de l'IA et la décision humaine est architecturale. Elle ne peut être compromise par des dérives de configuration ou des raccourcis dans les flux de travail. Les cadres de conformité l'adoptent sans difficulté. La loi européenne sur l'IA, les recommandations de la FDA et d'autres cadres similaires jugent l'architecture d'IA d'Aproove compatible avec leurs exigences de supervision humaine.

À qui s'adresse ce produit ?

• Aux équipes de conformité et de réglementation des secteurs pharmaceutique, de la santé, de l'assurance et des services financiers qui évaluent les plateformes d'IA au regard des exigences de supervision humaine.
• Aux responsables de la gouvernance de l'IA au sein des grandes entreprises, chargés de garantir que le déploiement de l'IA s'intègre aux cadres de gouvernance émergents.
• Aux équipes juridiques gérant les risques liés aux décisions assistées par l'IA dans le cadre d'activités réglementées.
• Aux équipes de gouvernance de marque soucieuses des erreurs importantes que l'IA pourrait commettre sur les supports destinés aux consommateurs sans un contrôle humain adéquat.
• Aux responsables de l'audit et de la gestion des risques exigeant une séparation claire entre l'assistance de l'IA et le pouvoir de décision humain pour la validité des audits.
• Aux responsables des opérations introduisant l'IA dans les programmes de revue sans compromettre l'engagement ni la responsabilisation des réviseurs.

Fonctionnement interne

L'IA avec intervention humaine est mise en œuvre grâce au système de gestion des permissions, des workflows, de l'attribution et de l'audit d'Aproove, qui fonctionnent de concert. Les agents IA sont des objets de permission de premier ordre, avec une gouvernance des accès configurable par rôle, équipe et utilisateur. Chaque étape de décision d'un workflow requiert l'intervention d'un humain ; l'IA ne peut pas prendre de décision via le moteur de workflow de la plateforme. Les notes générées par l'IA sont ajoutées sous l'identité de l'utilisateur initiateur, avec le préfixe [GÉNÉRÉ PAR L'IA], garantissant ainsi l'absence d'activité IA anonyme dans le système. Les tâches de génération enregistrent chaque invocation d'IA, avec l'identité de l'agent, le modèle du fournisseur, l'invite, les fichiers de référence, la sortie, le coût et l'humain responsable, et sont conservées dans l'historique d'audit du projet. Les limites de permission des agents IA (l'un des quatre éléments constitutifs d'un agent, avec le modèle, l'invite et les fichiers de référence) définissent le contenu sur lequel l'agent peut opérer, indépendamment et en complément des permissions de contenu de l'utilisateur. L'architecture est cohérente quel que soit le modèle de déploiement : l'inférence IA peut s'exécuter sur des API de pointe, des modèles internes ou une inférence auto-hébergée, mais la gouvernance avec intervention humaine est identique quel que soit le chemin d'inférence.