Félicien Vallet : "La Cnil a vocation à créer du "droit souple" dans le domaine de l'IA"

Le Service d’intelligence artificielle (SIA) de la Cnil a été créé en juillet 2023 et s’inscrit dans l’effervescence des débats après l’apparition de l’IA générative, notamment de ChatGPT en 2022. Mais cela fait plusieurs années que la Cnil s’est emparée du sujet de l’IA, avec la publication d’un rapport éthique dès 2017.

L’équipe du SIA est composée de cinq personnes qui présentent des parcours variés : ingénieur, spécialistes du machine learning et de l’apprentissage automatique, expert des sciences cognitives, juriste. Il s’agit d’une équipe hybride qui a vocation à réaliser une expertise technique, mais aussi à proposer un accompagnement juridique. Ce service est situé au sein de la Direction des technologies et de l’innovation de la Cnil.

Lire aussi : L’IA générative pour les professionnels : les défis et les enjeux à relever

Quelle est la feuille de route de ce service ?

Notre feuille de route comporte plusieurs axes de travail, à commencer par la compréhension de ce qu’est l’intelligence artificielle. Car ce domaine évolue à une vitesse inimaginable, tant d’un point de vue technologique que des usages. Cela passe par la formation et la sensibilisation de nos collègues de la Cnil à travers des articles et des communiqués.

Nous produisons également des recommandations afin de guider les professionnels dans le respect des grands textes de la protection des données, comme le RGPD. L’année écoulée, nous avons produit un grand nombre de recommandations à destination des professionnels.

Nous souhaitons également placer le Service intelligence artificielle de la Cnil au cœur de l’écosystème IA, car nous constatons que certains acteurs sont éloignés du sujet de la protection des données. Dans certaines start-up, la protection des données n’est pas forcément une priorité et elle peut apparaître difficile à mettre en œuvre. Nous proposons à ces acteurs des instruments d’accompagnement qui rencontrent un certain succès.

Lire aussi : Thomas Parisot : "l’ensemble de la chaîne de l’information est bousculée par la révolution de l’IA"

Êtes-vous en contact avec l’écosystème français de l’IA ?

Nous sommes en effet en contact avec certaines sociétés, mais nos moyens ne nous permettent pas de rencontrer tous les acteurs de cet écosystème. Nous passons essentiellement par les têtes de réseaux et les représentants de la filière, comme Numeum, France Digitale, le Hub France IA… Par ailleurs, nous ne nous interdisons pas d’aller voir des structures naissantes et d’engager un dialogue pour comprendre les modèles d’affaires et les évolutions en cours.

Ce SIA a-t-il vocation à créer du "droit souple" (référentiels, recommandations, etc.), voire à aller au-delà ?

Nous avons en effet vocation à créer du droit souple, car c’est l’une des missions de la Cnil. Cela consiste par exemple à proposer des clés de lecture pour l’interprétation du RGPD grâce à des fiches pratiques mises à disposition des professionnels. Aller plus loin consisterait à auditer ce qui se passe dans le domaine de l’IA, car les nouveaux outils posent de nouveaux défis.

Il s’agit également de réfléchir à l’évolution de notre arsenal répressif pour être en mesure de caractériser d’éventuels manquements. Mais cette mission de contrôle n’incombe pas au SIA : elle sera conduite par des services dédiés à cette mission. Notre rôle consiste à construire une méthodologie et d’être en support pour analyser des pièces collectées à l’occasion de contrôles.

La Cnil a lancé, en juillet 2023, un appel à projets "bac à sable" dédié à l’IA dans les services publics. Où en est cet appel à projets ?

Nous avons sélectionné quatre projets visant à améliorer les services publics.

• Le premier d’entre eux, porté par France Travail (ex-Pôle Emploi), a pour objectif d’aider les conseillers à trouver les formations les mieux adaptées aux demandeurs d’emploi.
• Le deuxième, porté par la Dinum (Direction interministérielle du Numérique), a donné naissance à l’agent conversationnel Albert qui aide les agents de l’administration à mieux répondre aux demandes des Français.
• Un troisième projet, porté par la collectivité de Nantes, a pour objectif d’apporter des conseils personnalisés en matière de consommation d’eau.
• Quant au projet de la RATP, il porte sur des systèmes de vidéo intelligente moins intrusifs que les systèmes traditionnels.

À ce jour, l’accompagnement de la Cnil autour de ces projets est quasiment clos. Nous allons établir un document qui servira à l’ensemble de l’écosystème du service public et qui sera mis à disposition dans les semaines qui viennent.

Sous quelle forme se présente le projet de France Travail baptisé "Conseils personnalisés d’Intelligence Emploi" ?

Il se présente sous la forme d’un agent conversationnel mis à disposition des agents de France Travail pour les aider à orienter les demandeurs d’emploi. Ces derniers ne peuvent donc pas l’utiliser directement. Les conseillers de France Travail peuvent le solliciter pour trouver les possibilités de formation qu’ils proposeront ensuite aux demandeurs d’emploi.

Le service public a lancé de nombreux projets d’IA destinés à améliorer les relations avec les usagers. Quel regard la Cnil porte-t-elle sur ces initiatives ?

Nous constatons que le service public fourmille d’initiatives, aussi bien au sein de l’administration centrale que dans les collectivités. La Cnil est tout à fait consciente des bénéfices que l’IA peut apporter dans certains domaines, mais elle doit s’assurer que ces projets sont bien dimensionnés et répondent à de vrais besoins.

L’administration a témoigné d’une volonté forte d’adopter des systèmes d’intelligence artificielle générative ; nous devons nous assurer que les résultats seront au rendez-vous et éviter l’effet déceptif de ces nouveaux outils.

Plus largement, quelle est la position de la Cnil sur l’IA générative ?

La Cnil s’efforce d’avoir une position équilibrée entre les promesses de l’IA générative et ses enjeux concernant les données personnelles, notamment celles qui sont utilisées pour les données d’entraînement. Nous sommes très attentifs à ces questions.

Le Parlement européen a récemment adopté le règlement sur l'IA. Quelle est sa portée ?

Ce règlement européen va entrer progressivement en vigueur dans les trois prochaines années. Ce texte est ambitieux, car il vise à s’assurer que les IA ne présentent pas de risque pour les droits fondamentaux des citoyens européens. Il propose notamment une approche "par risques", avec quatre niveaux de risques allant de l’interdiction de certaines applications à l’autorisation de produits qui ne présentent pas de risque.

Chaque système IA tombe dans l’une de ces catégories et se voit imposer des exigences au titre de la gestion des risques, de la cybersécurité et de la traçabilité. Ce règlement présente un grand avantage : il rehausse le niveau de confiance en promouvant des IA fiables et respectueuses sur le territoire européen.

Lire aussi : AI Act : le Parlement européen adopte la loi de régulation de l’intelligence artificielle

Dans un rapport présenté au mois de septembre dernier, l’ancien Premier ministre italien Mario Draghi reprochait au RGPD d’entraver la compétitivité des entreprises européennes. Est-ce le cas ?

L’approche européenne est basée sur la confiance en lien avec les valeurs portées par l’Union européenne : ceci est notre socle. Il est d’ailleurs intéressant de constater que le RGPD fait boule de neige dans d’autres pays qui souhaitent se doter de réglementations protectrices.

C’est par exemple le cas en Californie, avec des initiatives qui vont assez loin dans le domaine de l’intelligence artificielle. La législation européenne est ambitieuse, et elle est en avance par certains aspects.

Nous savons que la régulation a un coût, mais il faut mettre ce coût en relation avec les levées de fonds massives réalisées par les acteurs de l’IA.