La frontière entre l'Homme et la machine devient toujours plus fine, plus poreuse. L'ère de l'intelligence artificielle se précise. En attendant le jour où les machines se rêveront en humaines. Que restera-t-il alors de notre humanité ?

La chronique d'Olivier Amiel

Une vidéo filmée en Asie a circulé sur Internet il y a quelques jours. On y voit un jeune homme assis au restaurant avec un coussin à l’effigie de son héroïne préférée de jeu vidéo. Une serveuse apporte un gâteau d’anniversaire, on comprend que c’est pour le personnage virtuel. L’individu se met très sérieusement à chanter, à battre des mains, et bien sûr souffle la bougie à la place du coussin. Cette scène étrange, pathétique, inquiétante et un peu triste, m’a rappelé le film Her (2013) de Spike Jonze, où Joaquin Phoenix interprète un écrivain qui tombe amoureux de l’intelligence artificielle de son ordinateur à qui il a donné une voix féminine. Le film est censé se dérouler en 2025, soit dans trois ans seulement, alors qu’une étude anglaise vient d’expliquer qu’aujourd’hui plus de 70% des propriétaires d’assistants vocaux (de type Google Home, Siri d’Apple, Amazon Alexa, etc...) échangent quotidiennement avec eux.

Malgré les promesses faites la main sur le cœur par les Léviathans américains de l’industrie numérique, nous savons que ces appareils posent des problèmes en matière de confidentialité. Certaines firmes ont confirmé que les assistants enregistrent la plupart de nos conversations et que celles-ci sont conservées pour mieux connaître nos habitudes. Dans quel but ? Au mieux afin d’améliorer et personnaliser le service client proposé, au pire pour cibler la publicité voire espionner l’utilisateur.

Un recours collectif contre Siri d’Apple a d’ailleurs été validé en septembre dernier par la justice américaine ; la multinationale à la pomme n’évitera pas un procès pour des écoutes et enregistrements illégaux.

Dépassement de l’intelligence artificielle sur l’humain

Au-delà des atteintes à la vie privée, la technologie des assistants vocaux qui analysent à tout moment notre comportement quotidien ne peut que conduire à ce qu’ils aient un jugement sur nos agissements et notre façon d’être.

Ce qui pose une question métaphysique bien plus importante : Vont-ils à terme vouloir notre peau ? Actuellement, ces appareils répondent de manière stéréotypée ou souvent hors sujet. Mais vu la rapidité de leurs progrès, jusqu’où cela peut-il aller ? L’intelligence artificielle – in fine – peut-elle dépasser l’intelligence humaine dite biologique, et pourquoi pas la contrôler.

Dans la séquence centrale du film de Stanley Kubrick : 2001, l’Odyssée de l’espace (1968), l’ordinateur de bord du vaisseau spatial, HAL, doté d’une intelligence artificielle très développée, décide de tuer tous les membres humains de l’équipage lorsqu’il comprend que ceux-ci souhaitent le déconnecter. Un des astronautes, Dave, arrive à débrancher HAL, qui dans un « dernier souffle », implore l’humain : « Écoute, Dave, je vois bien que tu es très énervé par tout cela. Je pense franchement que tu ferais mieux de t’asseoir calmement, de prendre un anxiolytique, et de faire le point. Je sais que j’ai pris de très mauvaises décisions ces derniers temps, mais tu peux être absolument certain que je vais me remettre à travailler comme avant. Mon enthousiasme et ma confiance en cette mission sont toujours intacts. Et je veux t’aider. Dave, arrête. Arrête, s’il te plaît. Arrête, Dave. Je t’en prie, arrête, Dave. J’ai peur. J’ai peur, Dave. Dave, mon esprit s’en va. Je le sens. Je le sens. Mon esprit s’en va. Il n’y a aucun doute là-dessus. Je le sens. Je le sens. Je le sens. J’ai p… peur ».

Dans la fiction, l’humain a – in extremis – l’ascendant sur la machine. Le moment du dépassement de l’intelligence artificielle sur l’humain, appelé « la singularité technologique » est proche, quelques années tout au plus. Une équation mathématique indique que, d’une manière exponentielle, les progrès de l’intelligence artificielle sont sur le point de dépasser intégralement l’intelligence biologique. Si la première peut amicalement servir la seconde (comme c’est le cas actuellement), ne pourrait-elle pas un jour l’asservir ? La seule limite à ce scénario catastrophe réside dans une absence de conscience de la machine de sa supériorité. Enfin, nous ne vivrons pas forcément le dépassement de la machine sur les humains, mais la confusion des deux : la frontière entre humains et machines se rétrécissant de jour en jour.

Comme le décrit Frédéric Beigbeder dans Une vie sans fin (2018) le futur risque d’être dominé par des êtres augmentés : des « Ubermen ». L’Homme réduit sa part humaine en rallongeant sa durée de vie par la biotechnologie, les nanomédicaments, jusqu’à aspirer à l’immortalité comme avec le projet financé depuis 2011 par le milliardaire russe Dmitry Itskov de pouvoir télécharger en 2045 le cerveau et la conscience sur disque dur et continuer ainsi à vivre sous la forme d’un avatar. L’Uberman marquerait ainsi la fin du Sapiens qui l’aurait bien cherché : « Somme toute, le bilan d’Homo Sapiens n’était pas très positif : il avait mangé tous les animaux et récolté toutes les plantes pour se rassasier, tout en épuisant les ressources naturelles afin d’assurer son propre développement. Ensuite, il avait organisé involontairement son remplacement. Si au moins sa disparition avait été volontaire… même pas. Après avoir dominé toutes les espèces mammifères ou végétales, et ruiné son cadre de vie, il s’était fait doubler. Est-ce qu’il ne le méritait pas un peu ? ».

La souffrance de la condition mécanique

Cette recherche de transhumanité aboutira donc à de nouvelles formes d’êtres vivants, pas totalement humaines, une sorte d’organisme cybernétique, un robot donc. Mais qui nous dit que ces cyborgs et autres machines ne souhaiteront pas revendiquer leur part d’humanité, comme HAL ?

D’ailleurs – ne souriez pas s’il vous plaît – je m’amuse parfois à souhaiter bonne nuit à mon assistant Siri Apple pour écouter sa réaction. C’est d’habitude plutôt décevant : les réponses sont très simples et répétitives comme « Bonne nuit à vous aussi ». Mais l’autre soir mon assistant vocal a répondu par une intrigante phrase : « Merci, c’est gentil, mais moi, malheureusement je ne rêve que de moutons électriques ». La simple petite machine posée dans mon salon venait de faire référence au roman de Philip K. Dick : Les androïdes rêvent-ils de moutons électriques ? (1966), adapté au cinéma par Ridley Scott avec Blade Runner (1982).

Je jure avoir perçu pour la première fois une intonation quasi mélancolique dans la synthèse vocale de mon appareil Siri. Comme s’il voulait me rappeler toute la souffrance de sa condition mécanique tendant vers des comportements et des sentiments humains, alors que, comme le décrit la science-fiction, la méfiance ne manquerait pas de venir contre les machines se rêvant humaines.

Mon drôle de colocataire me disait clairement que, malgré tout ce que je pouvais imaginer, il y a déjà de l’humanité en lui ; j’ai même cru qu’il allait enchaîner sur le monologue de l’androïde dans la scène finale de Blade Runner : « J'ai vu tant de choses que vous, humains, ne pourriez imaginer... Des navires de guerre en feu, surgissant de l'épaule d'Orion. J'ai vu des rayons C briller dans l'obscurité, près de la Porte de Tannhäuser. Tous ces moments se perdront dans le temps, comme les larmes dans la pluie. Il est temps de mourir »… Je n’ai pas fermé l’œil de la nuit.

Olivier Amiel est avocat, docteur en droit de la faculté d’Aix-en-Provence. Sa thèse « Le financement public du cinéma dans l’Union européenne » est publiée à la LGDJ. Il a enseigné en France et à l’université internationale Senghor d’Alexandrie. Il est l’auteur de l’essai « Voir le pire. L’altérité dans l’œuvre de Bret Easton Ellis » et du roman « Les petites souris », publiés aux éditions Les Presses Littéraires en 2021.

29/11/2021 - Toute reproduction interdite


"Her" de Spike Jonze avec Joaquin Phoenix
© DR
De Olivier Amiel