CNIL : mise à jour de l'outil Genmod pour tracer les modèles d'IA en source ouverte

La Commission nationale de l'informatique et des libertés (CNIL) a déployé une nouvelle version de son démonstrateur Genmod, dédié à l'exploration des liens de généalogie entre les modèles d'intelligence artificielle (IA) publiés en source ouverte. Cet outil, développé en collaboration avec le Laboratoire d'innovation numérique de la CNIL (LINC), permet désormais de retracer les ascendants et descendants d'un modèle, facilitant ainsi l'analyse des conséquences de la mémorisation de données d'entraînement.

Une interface multilingue et optimisée

L'application est désormais disponible en français et en anglais, offrant une accessibilité accrue aux utilisateurs internationaux. Les performances de recherche ont été significativement améliorées, réduisant à une vingtaine de secondes en moyenne le temps nécessaire pour explorer un graphe sans limite de profondeur. L'interface affiche également la progression des recherches et, le cas échéant, une estimation du temps restant avant leur achèvement.

Actualisation automatique des données

Un nouveau procédé automatise la reconstruction de la base de données à partir des informations publiques disponibles sur HuggingFace, garantissant une mise à jour hebdomadaire du graphe. La date de dernière actualisation est désormais visible dans l'application, assurant une traçabilité en temps réel des évolutions de l'écosystème des modèles d'IA en source ouverte.

Améliorations ergonomiques et techniques

Les modèles les plus téléchargés sont désormais prioritaires dans les suggestions de recherche, et les résultats sont classés par défaut selon leur nombre de téléchargements. Un accès direct à la page d'accueil a été intégré aux différentes sections de l'application. Par ailleurs, la mise en page a été revue pour assurer une compatibilité optimale avec les principaux navigateurs modernes (Firefox, Chrome, Edge et Safari) ainsi qu'avec différentes tailles d'écran.

Cette mise à jour s'inscrit dans le cadre de l'expérimentation menée par la CNIL autour de la traçabilité des modèles d'IA en source ouverte, visant à renforcer la transparence et l'exercice des droits prévus par le RGPD.

Source : CNIL