Intelligence artificielle et services publics : Bilan du bac à sable de la CNIL

Contexte et objectifs du bac à sable réglementaire

La CNIL a mis en place en 2024 un dispositif innovant de « bac à sable réglementaire » dédié à l'accompagnement des projets d'intelligence artificielle dans le secteur public. Cette initiative visait à permettre aux acteurs publics d'expérimenter des solutions d'IA tout en garantissant le respect des droits fondamentaux et de la protection des données personnelles.

L'objectif était double : faciliter l'innovation responsable dans les services publics et anticiper les enjeux liés à l'application du règlement européen sur l'IA (AI Act). Ce dispositif a permis d'accompagner une quinzaine de projets pilotes dans différents domaines comme la santé, l'éducation et l'administration numérique.

Principaux enseignements et bonnes pratiques identifiées

Le bilan dressé par la CNIL met en lumière plusieurs points clés :

- La nécessité d'une évaluation approfondie des risques en amont des projets

- L'importance de la transparence algorithmique et de l'explicabilité des décisions

- Le besoin d'un cadre de gouvernance adapté incluant des mécanismes de contrôle humain

- L'enjeu de la qualité et de la représentativité des données d'apprentissage

Les retours d'expérience ont également permis d'identifier des bonnes pratiques comme la mise en place systématique d'études d'impact, la documentation détaillée des modèles ou encore l'implication des utilisateurs finaux dès la phase de conception.

Recommandations pour le déploiement de l'IA dans le secteur public

Sur la base de ces expérimentations, la CNIL formule plusieurs recommandations :

1. Adopter une approche progressive et maîtrisée du déploiement

2. Mettre en place des garde-fous techniques et organisationnels robustes

3. Former les agents publics aux enjeux de l'IA

4. Garantir la transparence vis-à-vis des usagers

5. Prévoir des mécanismes de recours effectifs

Quelques pistes pour l'intégration opérationnelle dans votre dispositif :

• Réaliser un audit complet de conformité des systèmes d'IA existants ou en projet au regard des exigences RGPD et du futur AI Act

• Mettre à jour la cartographie des traitements et les analyses d'impact pour intégrer les spécificités des solutions d'IA

• Renforcer les processus de contrôle interne et la documentation technique des systèmes algorithmiques

• Développer un programme de formation des équipes aux enjeux éthiques et réglementaires de l'IA