IA générative et menaces cyber : nouvelles vulnérabilités

L’intelligence artificielle générative, en tant qu’outil numérique innovant, flexible et performant, s’intègre progressivement dans les processus des cyberattaquants, indépendamment de leur profil ou de leur niveau d’expertise.

Les modèles d’IA générative sont exploités ou détournés à différentes phases d’une cyberattaque : profilage des victimes, génération de contenus pour des campagnes d’ingénierie sociale ou encore développement de logiciels malveillants. Leur utilisation varie selon les compétences des attaquants : outil de performance pour les acteurs avancés, moyen d’apprentissage pour les moins expérimentés.

À ce jour, aucun système d’IA générative n’a démontré une capacité à orchestrer de manière autonome l’ensemble des étapes d’une cyberattaque.

Parallèlement, les systèmes d’IA générative, notamment les modèles de langage, constituent des cibles privilégiées pour les attaquants. Les risques incluent l’empoisonnement de modèles visant à altérer les données ou à diffuser de fausses informations, ainsi que la compromission des chaînes logicielles ou l’exfiltration de données sensibles.

Source : CERT-FR — Analyse de la menace (CTI)