INTELLIGENCE ARTIFICIELLE-GESTION DES RISQUES-RISK MANAGER

Aujourd’hui je souhaiterais zoomer via l’article ci-dessous sur la nécessité pour les organisations et donc les Risk Managers de mettre en place une démarche de gestion des risques

qui permette :

✅ D’identifier les risques liés au développement de l’IA

✅ De les évaluer et les maîtriser

Cet article revient sur l’IA comme outil susceptible d’aider les Risk Managers. On retrouve l’idée de l’IA, opportunité.

COMMENT LES RISKS MANAGERS INTÈGRENT L'IA

L’IA Les Risk Managers, ces préventeurs chargés d’anticiper et de gérer les risques financiers, opérationnels et de conformité, et d’être les coordinateurs de cette gestion des risques dans leur entreprise, ont nécessairement dû identifier l’IA à la fois comme un nouvel ensemble de risques, mais aussi comme une aide précieuse pour exercer leur fonction. Petit tour d’horizon de leurs préoccupations sur ce sujet.

Quels sont les risques identifiés liés à l’IA ?

Au titre des risques potentiels que l’Intelligence artificielle peut créer, citons notamment (et la liste nous a été soufflée par une IA générative) :

Les biais algorithmiques : les algorithmes d’IA peuvent reproduire et amplifier les biais présents dans les données d’entraînement.

L’opacité des décisions : certains modèles d’IA, en particulier ceux basés sur le deep learning, peuvent être difficiles à expliquer, ce qui rend les décisions qu’ils prennent opaques et potentiellement non conformes aux réglementations.

La protection des données : l’utilisation de l’IA implique souvent la collecte et le traitement de grandes quantités de données personnelles, ce qui soulève des préoccupations concernant la confidentialité et la sécurité des données.

La responsabilité : en cas de décision préjudiciable ou d’erreur causée par un système d’IA, il peut être difficile d’attribuer la responsabilité, en particulier lorsque les décisions sont prises de manière autonome par l’algorithme.

On peut également penser (et la liste nous a été soufflée par un spécialiste du risk management) [1] :

au risque social associé à la robotisation et l’automatisation des activités,

aux risques psychosociaux liés aux pertes des points de repère des collaborateurs face à la robotisation et taylorisation des activités,

à l’accélération de la cybercriminalité et du cyberterrorisme, à l’émergence de la fraude associée au développement des algorithmes.

Hicham El Ghazi, Actuaire certifié IA [2], soulève également la question de la fiabilité : « L’arrivée de l’IA a engendré de nouveaux risques, dont la fiabilité des résultats et la perte d’expertise. Cette perte d’expertise pourrait conduire à la diminution de la capacité humaine à raisonner, et ainsi à une dépendance à des outils alors que ces derniers peuvent manquer de fiabilité. »

Finalement, « Le rôle d’avocat du diable, demandé au risk manager pour imaginer les risques, devient indispensable ». [3] 

Le rôle du Risk manager a-t-il pour autant évolué ? 

que le Village de la Justice a interrogée sur ce point, tempère cela : « l’IA entraîne une évolution des risques, plutôt que de nouveaux risques. Elle a ainsi accru certains risques, notamment en matière d’éthique, de propriété intellectuelle et de protection des données. » « C’est toute la cartographie des risques qu’il convient de reprendre à la lumière des possibilités offertes par cette nouvelle technologie. » (AMRAE) « Elle fait également peser des incertitudes en matière de RH, sur la structure de capital humain : l’IA aura-t-elle plus d’impact sur les juniors, sur les seniors, quels seront les métiers concernés, comment anticiper les besoins, les nécessaires adaptations, les modes de fonctionnement ? » L’AMRAE note également l’impact de l’IA « sur l’activité commerciale des entreprises (portefeuille clients, portefeuille d’offres, compétitivité, partenariats) ou, bien sûr, sur leur capacité en matière de R&D : amélioration de la productivité, accélération de l’exécution du plan stratégique, innovation etc. pour l’entreprise et ses concurrents… » Pour l’association, c’est en réalité « toute la cartographie des risques d’une entreprise qu’il convient de reprendre à la lumière des possibilités offertes par cette nouvelle technologie. Passionnant ! »

Comment l’IA peut aider le Risk management ?

On imagine assez intuitivement comment l’IA peut aider le Risk manager dans son office : « L’IA, en particulier, permettra aux gestionnaires de risques et aux assureurs de collecter et d’analyser les données plus rapidement et plus efficacement » (…) l’IA contribuera à faire passer l’analyse des données à un niveau supérieur. L’IA va vraiment changer l’analyse et la planification des scénarios. La capacité d’analyser des scénarios à faible probabilité et à fort impact est actuellement limitée par l’homme. Mais l’IA peut couvrir davantage de scénarios et en imaginer d’autres auxquels vous n’avez pas pensé. À l’heure actuelle, le risque est très dépendant de l’homme » selon Jim Wetekamp [4]

Des propos que confirme Marie-Noëlle Thomas, Directrice Business Line Risk Management d’Ellisphere, que nous avons interrogée :

« Il y a 20 ans, le risk management était essentiellement centré sur la solvabilité pour s’assurer d’être payé en temps et en heure. Aujourd’hui, le risk manager doit analyser un éventail de risques très large avec une vision à 360 degrés. Il lui faut donc dorénavant des outils capables de balayer l’ensemble de ces risques qui lui permettent de prendre des décisions, rapidement et de façon éclairée.

Pour les aider, nous utilisons l’IA :

pour le traitement de l’information, notamment pour la fiabiliser ;

pour construire des indicateurs. Nous utilisons l’IA via notamment le machine learning pour bâtir différents scorings comme celui sur le risque de défaillance des entreprises. Cela permet de sécuriser une entrée en relation dans un temps court, puis d’assurer dans la durée le développement de relations d’affaires fiables.

Chez nous, une équipe de data science construit ce type de scoring en s’appuyant sur des techs d’IA existantes

« Aujourd’hui, le risk manager doit analyser un éventail de risques très large avec une vision à 360 degrés. » (Marie-Noëlle Thomas) 

Le risk manager doit par ailleurs forcément faire face à l’IA, l’appréhender, pour automatiser certaines tâches et se focaliser sur les dossiers à forte valeur ajoutée, en prenant notamment en considération les enjeux réglementaires qui se durcissent... bref libérer de la 'bande passante' pour cela. C’est une grande opportunité ! Parallèlement, l’IA générative va également entraîner de nouveaux types de risques, comme par exemple de nouvelles formes de fraude, qui reposent sur la puissance offerte par l’IA.

Enfin, l’évolution continue des technologies et des règlementations va nécessiter que le risk manager aide les entreprises à s’y préparer, en lien avec les juristes et les compliance officers. »

De là dire que l’IA va accroître la nécessité de renforcer l’intelligence humaine collective... il n’y a qu’un pas !

Notes de l'article:

[1] Pascal Kerbel, Le risk manager face à l’intelligence artificielle..

[2] Un actuaire est un expert de l’évaluation et de la gestion des risques, qui a des appétences

notamment en probabilités et en statistiques mais aussi des qualifications en comptabilité, en

finance et en droit. Le métier d’actuaire est présent en particulier au sein des structures

d’assurance et de réassurance, mais il peut être présent aussi dans le secteur bancaire à travers

la gestion d’actifs et aussi de l’industrie.

[3] Source : Pascal Kerbel, voir supra.

[4] https://riskonnect.com/fr/press/ai-.