L’Europe a pour objectif d’être en tête concernant les technologies de l’IA. Face au développement de cette révolution technologique, l’Union européenne se positionne et souhaite exploiter les différentes opportunités et défis que l’IA offre pour le futur. Toujours dans cette optique de développement, la Commission européenne aborde les risques élevés potentiels que l’IA présente pour la sécurité et les droits fondamentaux.
Ce programme doit maintenant faire l'objet de discussions au Parlement européen et avec les Etats membres de l'Union européenne.
Les risques de l'intelligence artificielle identifiés par l'UE
Trois principaux points considérés comme risques élevés sont traités par la Commission. A commencer par les systèmes d’identification biométrique à distance dans les lieux publics. Ces dispositifs devraient être prohibés à l’exception de certains cas, en particulier celui des forces de l’ordre pour la lutte antiterroriste et la sécurité publique.
Les systèmes de crédit social, c'est-à -dire, des systèmes de notation de la population (à l'image de ceux utilisés en Chine), constituent un autre risque. Ces méthodes servant à manipuler les comportements, convictions ou les actes des citoyens seront donc totalement interdites.
Enfin, les technologies permettant de choisir des citoyens selon des critères non fondés seront également prohibées. Nous pouvons retrouver ces procédures dans le domaine du recrutement professionnel ou scolaire, ou dans les systèmes de priorisation des services d’urgence.
Premiers retours sur ces propositions
Thierry Breton souhaite avec ce programme attirer les entreprises du monde entier vers l’Europe à l’aide de “la plus grande quantité de données industrielles créées sur la planète”. D’un autre côté Orsolya Reich de l’ONG Union pour les libertés civiles en Europe déclare : “L’UE doit adopter une position plus ferme (…) et interdire la surveillance indiscriminée de la population sans autoriser d’exceptions”.
