Elections législatives anticipées : IA générative et hypertrucages dans le collimateur de la Cnil

167 signalements et 2 plaintes pour l'envoi massif de SMS et d'appels téléphoniques automatisés. Tel est le bilan dressé par la Cnil au cours de la campagne pour les élections européennes du 9 juin dernier. D'une campagne l'autre, la Cnil porte également une attention particulière aux élections législatives anticipées qui auront lieu les 30 juin et 7 juillet prochains.

La Cnil s'inquiète en particulier du recours à l'IA en tant qu'outil capable de générer des contenus  tels que la propagande de campagne ou la prospection politique. La commission évoque notamment des risques "d'hallucinations, de discriminations, de biais culturels ou encore de sécurité des données".

Emmanuel Macron en professeur de yoga

Autre pratique dans le collimateur de la Cnil, la multiplication des hypertrucages qui connaissent un grand succès sur les réseaux sociaux. On a pu voir Emmanuel Macron en professeur de yoga, Éric Zemmour en rappeur à casquette, Marine Le Pen en chanteuse de raï… Rire garanti mais ces vidéos créées à l'aide de l'IA générative "posent des questions relatives à l’utilisation de l’image et des voix des personnes concernées, démontrant la nécessité d’un marquage  des contenus artificiels tel que prévu par les lignes directrices de la Commission européenne et le règlement européen sur l’intelligence artificielle" explique la Cnil.

Audit des algorithmes

Moins spectaculaire (et moins drôle), l'intelligence artificielle est également mise à contribution pour procéder à des analyses à caractère politique avec des systèmes de recommandations de plus en plus sophistiqués. C'est le cas du profilage et du ciblage des électeurs qui conduit la Cnil à demander un audit des algorithmes utilisés lors de ces analyses.

La commission a adressé une série de courriers aux partis politiques "pour les alerter sur la nécessité de respecter la protection des données personnelles des électeurs." De façon plus autoritaire, la Cnil indique qu'elle effectuera également des contrôles formels auprès des partis qui feront l'objet de plaintes et de signalements.