Quelle gouvernance de l’IA dans le secteur financier ?

Un cadre élaboré de gouvernance est nécessaire pour gérer les risques liés à l’utilisation de l’intelligence artificielle (IA) générative, en particulier au sein des institutions financières.

L’utilisation de l’IA générative peut exposer une institution financière à des risques juridiques et de réputation, ainsi qu’à une vulnérabilité accrue face aux cyberattaques, à la fraude, et autres risques, pointe une note du cabinet McKinsey.

Les institutions financières doivent donc adapter leur gouvernance des risques pour faire face à la complexité accrue de l’IA générative. Cette technologie transforme le secteur en améliorant les services clients et l’efficacité opérationnelle, mais elle génère aussi des risques juridiques, éthiques et techniques.

Entre les avantages offerts par l’IA générative et les risques associés, les institutions financières se retrouvent dans une position délicate. Les bénéfices sont évidents lorsque l’IA fournit des informations personnalisées aux clients, mais les risques sont tout aussi palpables si les réponses incluent des hallucinations ou des éléments inappropriés.

McKinsey suggère donc de passer en revue l’ensemble des domaines de risques touchés par l’IA générative. Une institution financière devrait établir une coordination étroite entre les différents comités de risque qui existent, au lieu que chacun continue d’appréhender l’IA de manière cloisonnée.

Il s’agit également d’établir de nouveaux modèles de gestion des risques liés à l’IA générative. Cela passe par la mise en place d’outils de surveillance de la propriété intellectuelle, mais aussi en garantissant la transparence des processus génératifs et de la conformité réglementaire.

En matière de supervision, le cabinet américain recommande de créer et d’utiliser une grille d’évaluation des risques pour chaque cas d’usage au sein de l’entreprise. Cette grille pourra ensuite servir de base pour mettre en place un ensemble de contrôles.

Un défi essentiel est de combiner la supervision et l’agilité des processus utilisant l’IA générative. La surveillance doit s’effectuer en temps réel, avec une transparence accrue et des garanties renforcées sur la confidentialité et l’éthique. Pour cela, McKinsey recommande de s’appuyer sur une supervision humaine, qui est indispensable afin de garantir une utilisation éthique et de valider les résultats sensibles.

Même si des contrôles automatisés peuvent être mis en place, l’œil humain doit rester un garde-fou. Avec ou sans IA, c’est bien l’humain qui demeure le garant de la gouvernance.