Jean-Gabriel Ganascia : "Les ambitions des géants du web sont politiques : ils souhaitent remplacer les Etats"

Entretien avec Jean-Gabriel Ganascia, professeur à l'université Perre-et-Marie-Curie ​et chercheur en intelligence artificielle au laboratoire informatique de Paris 6. Il est également président du comité d'éthique du CNRS et vient de publier "Le mythe de la singularité", aux Éditions Seuil. 

Qu'est-ce que la singularité technologique ?

Il s'agit d'une théorie née dans les années 70 chez certains auteurs de science-fiction. Celle-ci avance que la technologie progresse tellement vite qu'il existera un jour un moment critique où les machines deviendront plus intelligentes que les humains et que cette catastrophe devrait intervenir en 2045. Cette théorie a été reprise par l'écrivain Vernor Vinge dans les années 90, puis plus récemment par l'ingénieur Raymond Kurzweil. 

Certains partisans de cette théorie pensent que les machines vont nous dépasser et nous détruire. Cette vision pessimiste est partagée notamment par Stephen Hawking, lequel s'applique régulièrement à nous avertir des dangers que l'on encourt. D'autres sont persuadés que nous pourrons nous greffer à ces machines ultra intelligentes en y téléchargeant par exemple notre esprit et que nous nous rapprocherons ainsi de l'immortalité. C'est une vision plus « optimiste », avancée notamment par Raymond Kurzweil. 

Dans votre ouvrage, vous rapprochez cette théorie de la gnose. Pourquoi ?

Il s'agit selon moi d'annonces apocalyptiques qui ne sont plus vraiment de l'ordre du rationnel, c'est pourquoi je me suis demandé si cela relevait d'une pensée religieuse, ou du moins spirituelle. Je pense qu'il s'agit plutôt de ce que l'on appelait la gnose, que de la religion, qui elle relie les gens entre eux et est généralement associée à une notion de transcendance.

Dans la singularité technologique, il n'y a ni paradis ni résurrection des morts, et seuls ceux qui auront accès à ces technologies par une forme de connaissance arriveront à vivre suffisamment longtemps pour peut-être atteindre l'immortalité et une forme de salut. Je trouvais important de montrer qu'il y avait entre science et singularité un rapport qui ressemblait à celui de la religion et des théories gnostiques.  

Pourquoi les arguments des partisans de cette théorie ne tiennent-ils pas ?

Ces arguments sont de deux ordres :

Les uns, d'ordre évolutionniste, affirment que les technologies transforment la nature. Ces arguments reposent sur l'idée que les machines se perfectionnent à un rythme exponentiel, c'est-à-dire que leurs performances doublent tous les 18 mois (selon la loi de Moore). Pourtant, nous ne sommes absolument pas sûrs que ce rythme va se poursuivre indéfiniment et rien ne prouve non plus que les machines hyper rapides deviendraient plus intelligentes que nous si l'accroissement de leur vitesse et de leurs capacités de stockage devait se poursuivre. De plus, je ne vois pas ce qui permet de faire d'une loi qui serait valable dans le domaine de la technologie depuis 50 ans une loi universelle et fondamentale.

Pour illustrer leur argumentation, les partisans de cette théorie prennent pour exemple certaines étapes de l'évolution (l'origine de la vie, les premiers mammifères, l'homme, les cathédrales, la technologie, etc.). Ils affirment qu'entre ces étapes, la complexité augmente de façon exponentielle, que les échelles de temps diminuent elles aussi sur un rythme exponentiel et que la technologie n'est qu'un petit maillon dans cette grande course de l'évolution. Selon eux, il y a eu l'homme et après l'homme il y aura les robots. Cette théorie repose sur des étapes choisies empiriquement : si l'on en prend d'autres, comme les grandes extinctions de masse, qui vont souvent de pair avec une naissance, nous n'avons plus du tout quelque chose d'exponentiel. On en recense six sur terre et la dernière correspond à l'extinction des dinosaures qui a permis aux mammifères de se développer. Leurs arguments ne tiennent donc pas.

Et l'autre approche ?

Les autres arguments reposent sur les performances de l'apprentissage machine. Selon ceux-ci, les machines vont s'améliorer d'elles-mêmes par apprentissage jusqu'à finalement prendre leur autonomie. Dans mon ouvrage, j'ai donc tenu à rappeler quelles sont les limitations intrinsèques à ce type d'apprentissage. Il n'est en effet absolument pas imaginable que les machines puissent ainsi se perfectionner de façon infinie simplement par apprentissage, tout simplement parce que le deep learning est un apprentissage supervisé : la machine suit les leçons que les hommes lui enseignent.

D'ailleurs, prenons l'exemple des grandes révolutions scientifiques - changements de paradigmes - qui définissent notre capacité à découvrir des choses nouvelles que l'on ne savait au départ pas nommer, par exemple, la révolution copernicienne, le darwinisme ou encore la découverte de la neurotransmission. Elles représentent des ruptures ayant amené des champs disciplinaires à se réorganiser et, pour l'instant, nous n'avons encore aucune idée de la façon de faire faire cela automatiquement à des machines.

Comment expliquez-vous que les géants du web adhèrent à cette théorie ?

Ce qui est étrange en effet, c'est que les entreprises qui développent le plus ces technologies nous avertissent de leurs dangers tout en affirmant que ce sont elles qui vont nous sauver... Ou en tout cas tenter d'adoucir notre sort. 

Je pense qu'il y a d'abord chez leurs dirigeants, qui sont arrivés très jeunes à des sommets, une certaine ivresse de la démesure. De plus, ils pointent du doigt le fameux point de rupture de la technologie que j'évoquais précédemment en affirmant que, puisque celle-ci se déploie de façon autonome, on ne peut l'éviter et qu'ils n'y ont aucune part de responsabilité. D'ailleurs, ils mettent en place des comités d'éthique pour nous faire croire qu'ils n'y sont pour rien et qu'ils sont les plus généreux qui puissent exister.

Je considère surtout que des ambitions politiques très fortes se cachent derrière leur discours. En alimentant la théorie de la singularité, ils envoient un message très marquant et facile d'accès pour que les gens ne cessent de se poser des questions à ce sujet et l'alimentent à leur tour. Ces fables visent à brouiller la réalité et à masquer les vrais dangers qui sont d'ordre politique. 

Selon moi, leur réel objectif est de progressivement remplacer les États. Ils proposent d'ailleurs déjà d'assumer certains attributs de la souveraineté à leur place, comme en Grèce où Google Maps va se charger gratuitement d'établir le cadastre qui n'existait pas, ou encore les réseaux sociaux qui développent des logiciels de reconnaissance faciale capables d'attester de l'identité d'un individu bien mieux que les États eux-mêmes qui ne disposeront jamais des millions d'images nécessaires à la mise en place de ces technologies. Et le problème, c'est que nous, citoyens et consommateurs, sommes pris entre ces différentes ambitions. 

Quelles sont vos prédictions pour l'intelligence artificielle ? 

Ce que je vois, c'est que les technologies de traitement de l'information, qui sont déjà centrales, vont jouer un rôle toujours plus important. D'autre part, je suis persuadé que la question cruciale ne sera bientôt plus l'automatisation de la machine, mais plutôt la conception des machines avec lesquelles on va interagir. Selon moi, ce qu'il va falloir aménager dans le futur, c'est le partenariat de l'homme et de la machine.

Dans le même temps, je pense qu'il y a des enjeux politiques et sociaux majeurs liés au développement des technologies et que cela risque de déstructurer un certain nombre d'organisations. Nous traversons déjà, selon moi, une période d'instabilité due à des incompréhensions. Par exemple, la question du travail, qui est très souvent posée, est extrêmement sérieuse et souvent mal appréhendée. Beaucoup pensent en effet que les machines vont mettre les gens au chômage. En réalité, c'est plus compliqué que cela : certes, les machines permettent de délocaliser le travail et transforment les métiers au point que certains d'entre eux vont être automatisés et n'auront donc plus lieu d'être. Mais ce qui est très important aujourd'hui, c'est de donner la possibilité et l'envie à tous les hommes de se former et que cela soit inclus dans le temps de travail. On ne peut désormais plus comptabiliser le temps de travail en temps passé devant l'établi, car il faut lire, se former, réfléchir et progresser. Il n'y a pas moins de travail, mais c'est un travail moins pénible, différent et qui demande de nouvelles capacités. Il ne faut donc pas être pessimiste : soyons plutôt réalistes sur les opportunités du futur et sur les défis qu'il faudra aborder.