Le Conseil de l’Europe signe le tout premier traité contraignant sur l’intelligence artificielle

Le premier traité contraignant sur l’intelligence artificielle (IA), ouvert aux états non-européens, est le fruit du travail du Comité sur l’intelligence artificielle (CAI). Il s’applique ainsi à l’utilisation des systèmes d’intelligence artificielle par les pouvoirs publics ainsi que les entreprises qui agissent pour eux, et les acteurs privés. Et vis à garantir le respect des droits de l'homme, de démocratie et d'État de droit. Pour la réalisation du texte, le CAI a réuni 46 États membres du Conseil de l’Europe, l’Union européenne, 11 États non-membres et des représentants du secteur privé, du monde universitaire ou encore de la société civile.

Mesures d’évaluation et de surveillance

Le traité, conçu sous forme de convention-cadre, prévoit deux manières de s’y conformer pour les acteurs du secteur privé afin de répondre aux spécificités juridiques des signataires. “Les parties peuvent choisir d’être directement soumises aux dispositions applicables de la convention ou, à défaut, prendre d’autres mesures pour se conformer aux dispositions du traité, sans déroger à leurs obligations internationales en matière de protection des droits de l’homme, de la démocratie et de l’État de droit.”

Lire aussi : AI Act : le Parlement européen adopte la loi de régulation de l’intelligence artificielle

Concrètement, les signataires s’engagent à mettre en place des garde-fous, à adopter des mesures d'évaluation, de surveillance et, si besoin, d’interdiction ou de moratoire pour garantir que l’utilisation des IA ne va pas à l’encontre des droits de l’homme. Ils devront aussi “déterminer les responsabilités et établir l’obligation de rendre des comptes en cas d’impacts négatifs”, explique le Conseil de l’Europe. Création de voies de recours pour les citoyens, obligation d’information, lutte contre les ingérences démocratiques… Ce traité est pour la première fois contraignant vis-à-vis des usages de l’intelligence artificielle.

La convention-cadre ouverte à la signature dès le 5 septembre

“Les parties à la convention ne seront pas tenues d’appliquer les dispositions du traité aux activités liées à la protection des intérêts de sécurité nationale, mais elles devront veiller à ce que ces activités soient menées dans le respect des institutions et processus démocratiques et du droit international.” Par ailleurs, il ne s’applique pas non plus aux questions de défense nationale, ni aux activités de R&D. “Sauf si la mise à l’essai de systèmes d’IA est susceptible d’interférer avec les droits de l’homme, la démocratie et l’État de droit”, précise le Conseil de l’Europe.

Lire aussi : Le marché européen de l'IA frôlera les 50 milliards de dollars en 2024

Concernant l’application de ce traité, les parties prenantes devront mettre en place un suivi sous la forme d’une conférence. Ainsi, un mécanisme de contrôle indépendant sera chargé de veiller au respect de la convention. Les signataires sont aussi tenus de sensibiliser, de mener des débats publics et des consultations sur l’utilisation de ces technologies. 

La convention-cadre sera ouverte à la signature à l’occasion d’une conférence des ministres de la justice qui se tiendra à Vilnius, en Lituanie, le 5 septembre prochain. À suivre...