IA générative et cybermenaces : nouvelles vulnérabilités

L’intelligence artificielle générative s’impose comme un outil polyvalent dans l’arsenal des cybercriminels, quels que soient leur niveau de compétence ou leurs objectifs. Elle permet d’automatiser des tâches complexes comme le profilage de victimes ou la génération de contenus trompeurs pour des campagnes d’ingénierie sociale.

Les acteurs malveillants exploitent ces technologies pour concevoir des programmes malveillants ou optimiser des attaques à grande échelle. Leur utilisation varie selon l’expertise : outil de performance pour les groupes organisés, support d’apprentissage pour les débutants.

Les systèmes de LLM, bien que facilitateurs d’attaques, deviennent également des cibles privilégiées. Ils subissent des tentatives d’empoisonnement de modèles visant à altérer leur fonctionnement ou à diffuser de fausses informations. Leur intégration dans des chaînes logicielles les expose aussi à des risques d’exfiltration de données sensibles.