Outils numériques et service public : quels sont les défis éthiques et sociétaux ? Rencontre avec Raphaël Maurel

 Découvrez toutes les newsletters thématiques gratuites d'Archimag dédiées aux professionnels de la transformation numérique, des bibliothèques, des archives, de la veille et de la documentation.

Au sommaire :

• Dossier : L'IA et les nouvelles technos pour un meilleur service public
• "Les services publics ont perdu des compétences" : entretien avec Raphaël Maurel, secrétaire général de l’Observatoire de l’éthique publique
• Numérique et dématérialisation au service des métiers de la justice : de la Procédure Pénale Numérique à la dématérialisation du casier judiciaire
• IA, data mining, cyberenquête : l’administration s’équipe face à la fraude
• Désinformation et cyberattaques : l’État se penche sur ses datas, avec l’aide de Viginum et de l’Anssi
• Montrouge, plus proche de ses usagers grâce à une application de gestion de la relation citoyen (GRC)

Qu'est ce que l'Observatoire de l'éthique politique ?

L’Observatoire (OEP) est un laboratoire d’idées fondé sur la philosophie de la transparence constructive. Composé de parlementaires et d’universitaires, l’Observatoire travaille depuis 2018 à l’identification de zones d’ombre ou de zones grises dans l’éthique publique, afin de proposer des solutions concrètes pour améliorer la transparence publique, clarifier les statuts des élus ou des collaborateurs, ou encore donner des ressources pour fonder une culture de l’éthique incluant une réflexion sur les nécessaires limites de la transparence.

Le travail de l’OEP a débuté sur l’éthique publique : Parlement, Gouvernement, haute fonction publique, collectivités locales. Depuis plusieurs années, nous étendons notre réflexion à des corolaires, comme l’éthique des affaires - car l’entreprise est une institution politique - et l’éthique du numérique, indispensable à la compréhension des enjeux contemporains. 

Quels sont les principaux défis éthiques et sociétaux liés à l’utilisation des outils numériques dans les services publics ?

Ils sont si nombreux qu’il est difficile de les mentionner tous. L’un d’entre eux est certainement la "conditionnalité numérique", expression utilisée par Caroline Lequesne-Roth dans ses travaux au sein de l’Observatoire pour désigner les difficultés d’accès aux outils numériques par certaines catégories d’administrés.

Lire aussi : L’État peut-il imposer aux usagers d’accomplir des démarches administratives en ligne ?

L’illectronisme n’est pas un phénomène nouveau, mais persiste. L’intelligence artificielle, notamment générative (mais pas exclusivement), creuse encore les inégalités. Et ce qui était déjà un ravin (l’utilisation quotidienne d’internet versus l’absence d’utilisation de tout outil numérique) devient un abysse (utilisation quotidienne de ChatGPT et d’autres outils d’IA versus la difficulté à envoyer un courriel).

On peut aussi mentionner le défi des biais algorithmiques, qui soulèvent de nombreuses difficultés concrètes, la question de la protection des données personnelles, celle de la gouvernance des institutions et des outils du numérique, souvent privée (internet, Icann…), ou encore la question de l’impact écologique des outils numériques, qui reste mal connue et qui constitue un enjeu majeur d’éthique environnementale. Je pense par exemple au coût écologique des "fermes" de minage dans le contexte des crypto-actifs.

Comment peut-on garantir la transparence de ces outils ?

On peut dégager quelques lignes de force applicables à la plupart des situations. La plus importante réside peut-être dans le questionnement éthique, cher à Paul Ricœur : il faut parvenir à une "culture de la transparence" qui implique, dès la conception des outils, une réflexion sur la transparence de l’information et du fonctionnement (transparence by design).

Les outils numériques sont devenus bien trop complexes pour que leur fonctionnement technique soit parfaitement compréhensible par les citoyennes et citoyens, qui ne voient parfois pas les enjeux de responsabilité qui découlent de leur utilisation. Il faut donc réfléchir à la manière dont il est possible d’informer des bases nécessaires permettant à chacune et à chacun de faire un choix - celui d’utiliser ou non un outil.

Cela passe notamment par des obligations de transparence et d’information à la charge des constructeurs et des fournisseurs de services numériques, comme cela est peu à peu en cours en France, en grande partie à l’initiative de l’Union européenne, mais aussi par une politique éducative adaptée au niveau national.

Lire aussi : 1,3 milliard d’euros pour la transition numérique et la cybersécurité en Europe

Il y a aussi, en corollaire, une réflexion à mener sur la détechnicisation de ces enjeux pour les porter à la connaissance du grand public. Le questionnement éthique doit aussi pouvoir mener à refuser l’utilisation et la généralisation de certains outils, par exemple lorsque les biais possibles sont trop importants.

C’est ce que plaide l’OEP, par exemple, concernant la généralisation de la reconnaissance biométrique dans l’espace public. Mais il faut que les décideurs comprennent l’intégralité des enjeux techniques, politiques, économiques, éthiques et juridiques des nouveaux outils qui émergent pour se donner la réelle capacité de refuser leur utilisation - ici à des fins sécuritaires.

Les services publics sont-ils "armés" pour faire face au développement des nouvelles technologies ?

Non ! Cela rejoint une réflexion évoquée plus haut : à force d’externaliser des compétences, les services publics en ont perdu. Il faut les retrouver, ce qui implique là encore - et notamment - une politique éducative au numérique très ambitieuse.

Pour ne prendre qu’un exemple, alors même que les bases de la cybersécurité et de la protection des données personnelles ne sont enseignées ni à l’école ni à l’entrée dans la fonction publique, le nombre de cyberattaques explose et la sécurité numérique des services publics devient un enjeu quotidien.

Lire aussi : ChatGPT, Bard... 3 conseils pour protéger ses données personnelles

La formation et la culture du numérique responsable sont les enjeux de cette première moitié du siècle, d’autant qu’il faudra se préparer aux prochaines évolutions. Nous vivrons probablement une nouvelle révolution quantique dans les prochaines décennies : anticipons-là, avec les outils de l’éthique.