Les équipes chargées de processus de revue réglementés posent souvent la mauvaise question sur l’utilisation de l’IA : quelle part de notre processus pouvons-nous automatiser ?
Le problème, c’est que le travail réglementé se définit en grande partie par ce qui ne doit jamais être délégué : la responsabilité, les preuves et le pouvoir décisionnel. La philosophie d’Aproove en matière d’IA repose sur un principe simple : les personnes restent responsables de chaque décision. Les questions à se poser en amont sont donc plutôt les suivantes :
- Quelles autorisations faut-il accorder à l’IA ?
- Quelles décisions doivent rester humaines ?
- De quel contexte l’IA a-t-elle besoin pour être utile ?
- Quels modèles d’IA sont les plus adaptés aux différentes tâches ?
- Comment notre équipe documentera-t-elle le rôle de l’IA ?
Ces questions permettent de replacer les décisions défendables d’une équipe dans leur contexte et de déterminer si, plusieurs mois plus tard, elle sera capable d’expliquer précisément le rôle joué par l’IA.
Dans cet article, nous définirons l’IA gouvernée dans les processus réglementés et présenterons la philosophie d’IA d’Aproove à travers cinq principes directeurs. Votre équipe pourra ainsi mieux mesurer la valeur de la centralisation de ces processus sur une plateforme unique, où chaque interaction avec l’IA est consignée.
En bref : IA insuffisamment gouvernée vs IA correctement gouvernée
Ce tableau résume les principales différences entre l’approche générique de l’IA adoptée par de nombreuses équipes et la philosophie d’Aproove en matière d’IA. Il permet de mieux comprendre l’incidence que peut avoir l’intégration de l’IA dans les processus réglementés.
Qu’est-ce que l’IA gouvernée ?
L’IA gouvernée consiste à utiliser l’intelligence artificielle pour des tâches définies, avec un contrôle rigoureux des autorisations, des règles de conformité strictes et des exigences d’audit obligatoires. Dans ce cadre, chaque action effectuée par l’IA doit être visible, attribuable et vérifiable, et l’IA doit fonctionner selon les mêmes règles que les personnes responsables des données produites.
L’IA gouvernée comprend les systèmes d’IA qui analysent vos fichiers, signalent les risques et fournissent des informations aux réviseurs. Dans tous les cas, l’humain reste responsable de l’examen des données et de la documentation de chaque processus. L’IA exécute la tâche ; la gouvernance détermine sa configuration et le périmètre des données sur lesquelles elle est autorisée à agir.
La gouvernance ne se résume pas à une politique d’entreprise sur l’utilisation de l’IA, ni au simple fait qu’un humain clique sur « approuver » une fois la tâche terminée. Elle détermine concrètement la configuration de l’IA et le périmètre des données sur lesquelles elle est autorisée à agir.
Les 5 principes de la philosophie de l’IA d’Aproove
La philosophie d’Aproove en matière de gouvernance de l’intelligence artificielle repose sur cinq principes directeurs. Chacun souligne qu’une utilisation appropriée de l’IA doit renforcer l’expertise humaine, afin que les gains d’efficacité ne compromettent jamais l’autorité des personnes ni leur pouvoir décisionnel.
Premier principe : l’IA accélère le jugement humain au sein du flux de travail de l’équipe
Les équipes s’appuient sur l’IA pour préparer les ressources à une revue spécialisée, sans empiéter sur l’autorité ni sur le jugement humain.
Lorsqu’une plateforme d’IA généraliste est utilisée en dehors d’un flux de travail réglementé, cinq éléments contextuels essentiels à un travail sûr et réglementé peuvent lui manquer : le cloisonnement des données, leur provenance, l’historique des interactions avec l’IA, la visibilité sur les autorisations et une piste d’audit.
Une IA correctement configurée s’intègre pleinement à votre flux de travail : chaque action et chaque information s’inscrit dans le contexte de vos processus définis. Dans ce cadre, l’IA fonctionne de la manière suivante :
- Analyse initiale : l’IA effectue une première analyse de l’ensemble de la ressource avant toute action.
- Signalement des risques potentiels : l’IA repère les éléments susceptibles de ne pas respecter les exigences réglementaires.
- Identification des informations manquantes ou incohérentes : l’IA repère les lacunes, les incohérences et les contradictions internes.
- Comparaison du contenu avec des documents de référence : l’IA compare la ressource aux directives, aux bibliothèques de données ou aux règles applicables.
- Mise en évidence des éléments nécessitant une attention particulière : l’IA identifie et signale les problèmes qui requièrent l’examen d’un expert et son jugement éclairé.
- Synthèse des résultats : l’IA condense les données nécessitant un examen en résumés afin de faciliter le travail des réviseurs.
- Suggestion de corrections possibles : l’IA peut proposer des corrections que les membres de l’équipe peuvent accepter, modifier ou rejeter.
- Orientation des risques vers l’expert compétent : l’IA peut diriger les problèmes vers le spécialiste responsable du domaine concerné.
- Fonctionnement dans un flux de travail réglementé : l’IA est utilisée uniquement dans le cadre du processus de l’équipe et n’interagit qu’avec les données auxquelles elle est autorisée à accéder.
- Utilisation pour une tâche définie : l’IA est utilisée pour des tâches spécifiques auxquelles elle est particulièrement adaptée.
- Étiquetage des données produites : l’IA enregistre et étiquette les données qu’elle génère afin de les distinguer du travail humain.
- Restitution de la décision à l’équipe : l’IA transmet les données à l’équipe afin qu’elle puisse accepter, rejeter ou modifier les éléments, ou faire remonter ceux qui le nécessitent.
- Journalisation des événements : l’IA consigne ses activités dans le registre du projet.
Ainsi, l’IA permet aux membres de l’équipe de concentrer leurs efforts sur les priorités. Il leur appartient toujours d’identifier les points à résoudre, notamment les exigences imprécises, les exceptions aux règles, le contexte juridique ou commercial et les conflits, puis de donner leur approbation finale.
L’équipe reste impliquée tout au long du processus, et pas seulement à la fin. L’IA contribue à préserver le contexte et la valeur du travail dont chaque personne reste responsable.
Deuxième principe : les modèles performants nécessitent un contexte encadré
Il est facile de supposer que n’importe quel modèle d’IA de pointe produira des résultats précis. Pourtant, même les modèles les plus puissants peuvent fournir des résultats manifestement erronés lorsqu’ils s’appuient sur des données partielles ou inexactes, comme dans les exemples suivants :
- Fichier incomplet : le modèle d’IA ne peut travailler qu’avec les informations dont il dispose et peut combler les lacunes à partir de ce qu’il déduit logiquement du contenu du fichier. Cette déduction peut être totalement erronée.
- Méconnaissance de la juridiction : il est impossible d’appliquer avec précision des règles qui varient d’un État ou d’un pays à l’autre.
- Source de politique obsolète : le modèle peut facilement tirer des conclusions fondées sur des directives qui ne sont plus applicables.
- Absence de bibliothèque d’allégations approuvées : le modèle ne dispose pas de sources faisant autorité et comble les lacunes à partir de ses données d’apprentissage générales.
- Absence d’informations sur le public cible : l’IA produira un résultat différent si elle doit deviner à qui le contenu s’adresse.
- Absence de distinction entre anciennes versions et versions actuelles : le modèle peut privilégier ou écarter à tort la mauvaise version.
- Absence de compréhension du contexte d’apparition du contenu : même les modèles d’IA de pointe les plus puissants peuvent ne pas parvenir à déduire qu’une divulgation placée au mauvais endroit n’est pas conforme simplement parce qu’elle est présente.
Un modèle d’IA peut traiter les données de manière imprécise s’il ne dispose pas du même contexte que les membres de l’équipe : texte, images, couleur et mise en page, métadonnées, ainsi que structure des pages, des sections et des versions.
Grâce à ces données, les commentaires et les détails du flux de travail orientent efficacement le raisonnement de l’IA, tandis que l’équipe dispose d’un document correctement suivi et enregistré pour la revue. Aproove fournit aux agents IA un contexte au niveau des composants grâce à des données structurées ; les invites, les documents de référence et les autorisations encadrent ensuite la manière dont chaque agent exécute ses tâches.
Lorsqu’un modèle reçoit un contenu précis, des données de version, des références et des instructions, les équipes disposent d’informations nettement plus fiables à examiner.
Troisième principe : il n’existe pas de modèle d’IA « idéal » universel
Le troisième principe consiste à choisir le modèle d’IA le mieux adapté à chaque tâche. Pour obtenir des performances optimales dans différents cas d’usage, il est essentiel de pouvoir utiliser des agents d’IA capables de fonctionner avec différents modèles, selon la tâche pour laquelle chacun est optimisé.
Par exemple, un modèle d’IA multimodal peut être utilisé pour l’analyse visuelle de la marque, un modèle à contexte long pour vérifier un document au regard de références réglementaires, un modèle rapide et moins complexe pour la grammaire ou le ton de base, un modèle axé sur la confidentialité pour le contenu restreint et un modèle d’entreprise validé et approuvé en interne lorsque toutes les mesures de sécurité ont été normalisées.
Pouvoir attribuer les tâches des agents à différentes plateformes d’IA évite la dépendance à un fournisseur unique et permet d’adopter les modèles les mieux adaptés à mesure que le marché évolue. Les équipes gagnent ainsi en flexibilité et peuvent s’adapter sans devoir repenser entièrement leurs processus.
La pérennité d’un agent capable de fonctionner avec différents modèles évite à votre équipe de dépendre des caractéristiques d’un seul modèle, d’autant que celles-ci peuvent évoluer et imposer un passage à des options plus fiables.
Que le marché évolue en raison de variations de prix, de mises à jour de sécurité ou de nouvelles exigences réglementaires, votre stratégie d’IA doit reposer sur le flux de travail de votre organisation, son modèle d’autorisation, ses exigences spécifiques en matière d’invites, ses références approuvées et ses processus d’évaluation et d’audit.
La pertinence de ces décisions dépend de la qualité des procédures qui les encadrent. Il est essentiel d’évaluer, de valider et de surveiller en permanence les performances des modèles d’IA. L’IA est, par nature, sujette à des fluctuations et à une évolution constantes : les modèles s’améliorent souvent dans certains domaines tout en devenant moins performants dans d’autres.
Quatrième principe : l’IA doit être traçable en tant qu’IA
Les équipes doivent pouvoir produire un dossier défendable sur leur travail. Une IA gouvernée exige donc une distinction claire entre le travail humain et celui de l’IA.
Cette distinction inclut la documentation des commentaires humains sur le travail généré par l’IA, ainsi que des décisions humaines qui annulent ou rejettent ce travail. Il ne s’agit pas seulement d’identifier chaque élément produit par l’IA, mais aussi de pouvoir remonter jusqu’à la personne précise qui a pris les décisions correspondantes.
Le registre doit contenir des données sur les agents exécutés, les fournisseurs et les modèles utilisés, les documents de référence, les résultats, le temps d’exécution, les interventions humaines et les décisions finales. Trois éléments clés sont à prendre en compte : la détection, la traçabilité et l’explicabilité du modèle.
La détection peut aider à déterminer si un résultat a été produit par un système d’IA. Selon la Loi européenne sur l’IA, le texte produit par l’IA doit être identifiable comme tel dans un format lisible par machine. C’est un signal utile, mais, pour les applications réglementées, la détection reste un indicateur limité.
Un texte rédigé et approuvé par un humain peut transiter par une plateforme d’IA. Un système peut alors produire des faux positifs ou ne détecter qu’une partie de l’intervention de l’IA, laissant subsister des éléments ambigus et difficiles à défendre.
En revanche, la traçabilité établit ce que l’IA a réellement fourni : des données observables sur l’agent et le modèle utilisés, les instructions et références mobilisées, le résultat produit, ainsi que l’intervention et la réponse de l’humain.
L’explicabilité des modèles cherche à comprendre pourquoi un modèle est parvenu à un résultat donné. Elle ne relève généralement pas du périmètre des travaux réglementés couverts par la traçabilité.
Par exemple, un texte rédigé par un humain, relu puis reproduit mot pour mot par une plateforme d’IA peut être identifié comme généré à 100 % par l’IA, alors qu’il s’agit simplement d’un texte humain passé par cette plateforme.
Une véritable solution d’IA gouvernée va au-delà de la simple preuve de l’intervention de l’IA dans un résultat. Elle traite aussi la question de la responsabilité décisionnelle : ce que l’humain autorisé décide finalement de faire de l’information.
Au-delà de l’attribution et d’un compte rendu complet de la décision, les révisions conservent tous les éléments pertinents permettant de retracer précisément l’historique des versions des documents.
Cinquième principe : la gouvernance de l’IA doit être proportionnelle au risque de la tâche
Chaque tâche comporte ses propres risques. La gouvernance doit donc être adaptée aux exigences réglementaires et de conformité qui lui sont propres. Pour mieux le comprendre, il est utile de distinguer les tâches à faible risque de celles qui exigent une gouvernance plus stricte.
Lorsque des analyses plus approfondies sont nécessaires, l’IA peut présenter des conclusions, mais il revient toujours à l’humain d’évaluer les mesures prises.
Un niveau de risque plus élevé peut nécessiter une combinaison des mesures suivantes :
- des autorisations plus restrictives
- des documents de référence faisant davantage autorité
- une validation plus rigoureuse des modèles sur lesquels les agents s’appuient
- des autorisations d’accès plus restrictives pour les différents agents
- une validation plus rigoureuse du modèle avant son utilisation
- un examen obligatoire par un expert
- des voies d’escalade explicites pour les éléments signalés
- une journalisation plus détaillée des événements
- une inférence privée ou auto-hébergée
- des tests plus fréquents pour vérifier que les agents fonctionnent comme prévu
Les cadres de gouvernance s’orientent généralement vers des contrôles fondés sur les risques, davantage de transparence et un renforcement de la supervision humaine. Le cadre de gestion des risques liés à l’IA du NIST, applicable à plusieurs secteurs, en est un bon exemple.
Dans le secteur des assurances, les autorités de réglementation examinent de plus en plus la gouvernance de l’IA et l’atténuation des risques, État par État.
Les exemples sont de plus en plus nombreux, mais ils convergent vers un même constat : la gouvernance de l’IA doit être proportionnelle au niveau de risque associé à la tâche.
La philosophie de l’IA d’Aproove mise en pratique
Après avoir défini les cinq principes directeurs d’Aproove, voyons maintenant comment ils s’articulent au sein de la plateforme Aproove.
Lorsque le flux de travail de votre équipe déclenche les actions d’un agent, chaque agent IA reçoit le contenu et les documents de référence appropriés pour exécuter la tâche. Les modèles accomplissent leurs tâches spécifiques et produisent des résultats directement associés aux composants, pages ou sections concernés.
Pendant le processus de revue, les réviseurs disposent d’une visibilité complète sur les résultats dans leur contexte. Ils peuvent ainsi les vérifier, les modifier, les rejeter ou faire remonter plus facilement les éléments signalés. La décision finale reste toutefois du ressort de l’humain.
L’activité des agents IA est consignée dans les tâches de génération, tandis que la piste d’audit de la plateforme conserve, dans un même enregistrement, les décisions de l’équipe et l’approbation finale.
Plusieurs mois plus tard, ces informations consignées peuvent être réexaminées pour apporter des éclaircissements ou fournir des preuves, notamment lors d’un audit, d’une enquête ou d’une revue. L’autorité humaine est ainsi restée intacte, tandis que l’IA a contribué à constituer un dossier défendable de chaque étape du travail.
Approuvé : une IA traçable, une responsabilité défendable
Bien utilisée, l’IA ne réduit pas la responsabilité dans les activités réglementées ; elle la renforce. Les réviseurs bénéficient d’une meilleure visibilité et d’informations claires sur la provenance et l’exactitude des données, tout en conservant la maîtrise de l’ensemble du processus.
L’IA accélère. Les humains décident. La gouvernance encadre les deux. Aproove rend tout cela possible.
Réservez votre démonstration dès aujourd’hui.
FAQ
Qu’est-ce que l’IA gouvernée ?
L’IA gouvernée est utilisée dans des flux de travail réglementés où elle est soumise à des autorisations opérationnelles strictes, à des limites définies pour les tâches et le contenu, ainsi qu’à des exigences de conservation des données. Son objectif est de garantir une utilisation visible, vérifiable et contrôlée de l’IA, afin que cette technologie soit utilisée de manière appropriée et sécurisée.
Que signifie l’IA avec intervention humaine ?
L’IA avec intervention humaine désigne un processus dans lequel l’IA est intégrée à des activités tout en laissant aux experts humains le pouvoir décisionnel à chaque étape. Qu’elle soit utilisée pour l’analyse, l’étiquetage ou la vérification des données, les humains restent activement impliqués et prennent les décisions finales concernant le résultat.
Comment l’implication de l’IA doit-elle être documentée dans un flux de travail réglementé ?
L’activité de l’IA doit être systématiquement documentée et étiquetée dans le même registre que le travail humain. La documentation doit préciser quel agent IA a été utilisé, quelles actions il a effectuées et quelle personne est intervenue. À tout moment, les réviseurs ou les auditeurs doivent pouvoir examiner chaque décision et sa justification.
