HOMO DEUS
LE SALUT PAR L’ALGORITHME ?

Arthur CharpentierMaître de conférences, Université de Rennes 1

De plus en plus de monde s'interroge sur l’avenir de l’assurance, autour des mots « digital »,« big data », « objets connectés », etc., prédisant une révolution à venir. Beaucoup pensent
que la révolution a largement commencé, et qu'il serait temps de faire un peu de (science)
fiction, pour imaginer ce qui nous attend. Depuis 2010, deux séries télévisées ont proposé
une vision du futur gouverné par les algorithmes, Black Mirror, et plus récemment
Westworld. Mais surtout en septembre prochain, la suite de Sapiens : une brève histoire del'humanité sera publiée en français (1), promettant l'arrivée d'une nouvelle religion, le« dataïsme ». Nous reviendrons ici sur les deux ouvrages de Yuval Harari, le premier sur
l’histoire (passée) de l’humanité, et le second, sur l’histoire du futur qui se profile.

De Black Mirror à WestworldIl y a quelques mois, nous apprenions que
des ingénieurs japonais avaient fabriqué desminidrones pollinisateurs pour remplacer desabeilles [Sciences et Avenir, 2017]. Tous ceux
qui ont vu le dernier épisode de la saison trois deBlack Mirror, Hated in the Nation feront le parallèle.
Dans cet épisode, les abeilles-drones sont piratéespour tuer la personne ayant reçu le plus de hastag#DeathTo sur un réseau social de type Twitter. En
fait, quand on y pense, de plus en plus de situations
quotidiennes rappellent des trames de films ou deséries de science-fiction.

Un ouvrage de science-fiction qui a fait date est lelivre publié en 1818 par Mary Shelley. Dans sonroman, Victor Frankenstein invente artificiellement
une créature qui va progressivement se doter deconscience. Fritz Lang revoit ce mythe en 1927
dans Metropolis, où un automate féminin séduisant(en admettant qu’un automate ait un genre) ne noustue pas, mais bouleverse le monde. On retrouvera ce
personnage dans le film Ex Machina, et surtout
dans la série Westworld, où on découvre un mondeartificiel dans lequel des humanoïdes animent unparc d’attraction futuriste, sur le thème du Far West,en suivant un fil rouge, tout en s’adaptant aux désirs
des personnes venues se distraire. Mais malgré toutes lesprécautions prises, certaines intelligences artificielles

Risques n° 110

135Homo Deus, le salut par l’algorithme ?

du parc vont acquérir une forme de mémoire, deconscience, et vont finir par se rebeller. Et cette prisede conscience va venir de leurs souvenirs, pourtant
supposés être effacés tous les soirs.
Cette importance de la mémoire et de l’histoire
est un point essentiel. Il n’est alors pas étonnant devoir un historien, Yuval Harari, proposer sa vision del’avenir dans un nouvel ouvrage à paraître en français
à la rentrée. Dans le premier opus, il revenait sur
l’histoire de l’Homo sapiens, avant de proposer dans
un second tome une réflexion passionnante surl’intelligence artificielle et l’avenir de l’espèce humaine.
« Au cours des dernières décennies, il y a eu une
immense avancée dans l'intelligence informatique,mais il n'y a eu exactement aucune avancée dans laconscience informatique. Pour autant que nous lesachions, les ordinateurs en 2016 ne sont pas plus
conscients que leurs prototypes dans les années 1950 ».
Et c’est en tant qu’historien qu’il nous invite à réfléchir
sur notre avenir, et sur le monde que nous sommes en
train de façonner.

Une brève histoire du passéJ

acob Bronowski, philosophe, mathématicien (iltravailla avec le statisticien Jerzy Neyman et lefondateur de la théorie des jeux John von Neumann),
est resté connu du grand public pour ses
travaux de vulgarisation. En particulier, en 1974,
il publiait The Ascent of Man qui servira de base à
une série produite par la BBC. Dans cet ouvrage(dont le titre est une référence au second ouvragede Charles Darwin, The Descent of Man),
Jacob Bronowski retrace l'histoire de l'humanité,
en lien avec les découvertes scientifiques. En 2011,
Yuval Noah Harari s'attaque à la même tâche, avec
un regard un peu différent, en publiant Sapiens, unebrève histoire de l'humanité. Son ouvrage paru en
hébreu a été traduit en anglais en 2014, avant d'être
publié en français en 2015.
Dans ce premier opus, qui s'est vendu à desmillions d'exemplaires à travers le monde, Harari

136

Risques n° 110

revient sur l’histoire de l’Homo sapiens, qui a commencé voilà 70 000 ans, avec la révolution cognitivequi a lancé l’histoire de notre espèce, basée sur une
mutation génétique, permettant de penser, et surtoutde communiquer, avec un langage très différent decelui utilisé par les autres espèces. Non seulement
l’Homo sapiens peut transmettre des informations,mais surtout, il peut créer des mondes imaginés, desmythes. Selon la thèse de Yuval Harari, c'est notre
capacité à raconter des histoires, et à créer des mythes
qui a fait de l’Homo sapiens ce qu’il est devenu.
Les chimpanzés, qui partagent pourtant une grandepartie de notre code génétique, ne peuvent pas fonctionner efficacement dans des groupes supérieurs àcent cinquante. Mais les Homo sapiens y parviennent.
Et nous utilisons nos compétences linguistiques
uniques (à l’échelle des espèces) pour créer desmythes – justice, droits de l’homme, argent, religion,
nationalité – qui nous lient et nous permettent decoopérer à une grande échelle. Le « mythe des droits
de l’homme », par exemple, nous est imposé comme
un ensemble de droits dits « naturels » qu’auraient lesêtres humains, mais qui pourtant surprendraient les
grecs d’Aristote ou les membres de nombre de tribus
dans le Pacifique.
Un autre mythe récent et important évoqué
par Yuval Harari est celui lié au capitalisme, le« mythe du consumérisme romantique ». Un mâlealpha chimpanzé n’irait jamais utiliser son pouvoir
pour aller en vacances sur le territoire d’un groupe
voisin de chimpanzés. Pourtant, les Homo sapiens lefont, et cela leur semble « naturel ». Acheter permet derésoudre tous les problèmes : acheter une voiture, untéléphone, un cours de yoga. Ou mieux, un voyage,
symbole le plus fort de ce « mythe du consumérisme
romantique ». Le romantisme nous pousse àmultiplier les expériences (culinaires, musicales), à
rompre avec notre cadre familier et quotidien : il faut« expérimenter ». Le consumérisme nous dit quepour être heureux, il faut consommer. Consommer
des produits, des services, des expériences justement.
Aller deux semaines en Inde ce n’est plus un voyage,
mais une expérience. Et cette consommation, qui vaélargir nos horizons, ne pourra que nous rendre

Homo Deus, le salut par l’algorithme ?

heureux. Mais cette vision est nouvelle. À l’époquedes pharaons égyptiens, un homme riche n’emmenait
pas sa femme faire les boutiques à Babylone, maiséventuellement envisageait de se faire construire un
somptueux tombeau. Les cultures changent, et denouveaux mythes remplacent les anciens.
Un point intéressant pour conclure ici est
l’importance des technologies et des sciences dansl’histoire humaine. Comme le note Yuval Harari« le principal commandement que l'humanisme nous
a donné est de créer un sens pour un mondesans signification ». Les hommes ont besoin de comprendre, et les sciences se sont développées en ce sens.
Et les technologies ont suivi, en parallèle. Et leurimpact a été au-delà du champ traditionnel dessciences. En 1850, le socialisme était un mouvement
marginal, qui s’est développé et a révolutionné lemonde, à sa manière. À la même époque,
Muhammad Al-Mahdi (), prétendant être le Mahdi annoncé par l'islam, tenta derévolutionner le monde arabe, alors qu’en Chine
Hong Xiuquan () se proclama « empereur duciel » et lança la révolte des Taiping. Mais seul
Karl Marx réussit. L’explication de Yuval Harari est
que Marx, Engels et Lénine avaient compris l’importance de la technologie. Comme l’a dit Lénine « Le
communisme c’est le pouvoir des soviets plus l'électrification de tout le pays ». Autrement dit, il ne peut
y avoir de communisme sans électricité, sans cheminde fer, sans radio : il y a une mythologie, mais surtout
une technologie. En voyant l’informatique commel’équivalent du chemin de fer et de l’électricité,
Yuval Harari place 2017 comme l’équivalent de 1850,
et se demande ce que pourrait être notre futur, suiteà la révolution que nous sommes en train de vivre.

Une brève histoire du futurP

eu après la parution en anglais du premieropus, Yuval Harari a publié un second opus,
sur la « révolution suivante » que nous vivons
actuellement. Beaucoup ont vu, à sa sortie,
Homo Deus comme un livre de « fin de l'histoire », ausens que lui a donné Francis Fukuyama. Mais il nes’agit pas de la fin, au contraire : le monde (et enparticulier la technologie) évolue si vite qu'il est
impossible de prévoir ce que l'avenir pourrait être,mais on peut tenter un peu de science-fiction. En
poursuivant sur sa théorie des mythes, Yuval Harariprétend que l’on est en train de voir naître un nouveau
mythe, le « dataïsme ».
Le dataïsme est une sorte de religion. Les divinités
agricoles ont été remplacées par les esprits des chasseurscueilleurs, puis les grandes religions se sont imposées
dans l’histoire de l’humanité. Les fondamentalistes
islamiques ont longtemps répété le mantra que« l'islam est la réponse », mais en 2017, n’est-on pas
en train d’instaurer un « Google est la réponse » ? Lesreligions traditionnelles ont expliqué que chaquemot, chaque action, faisaient partie d'un grand plancosmique, et que Dieu nous observait chaque minuteet se souciait de toutes nos pensées, de tous nos
sentiments. La religion des données dit maintenantque chaque mot et chaque action font partie dugrand flux de données, que les algorithmes vous
observent et qu'ils se soucient de tout ce que nous
faisons et ressentons. L'algorithme est « sans doute leconcept le plus important dans notre monde »aujourd'hui, comme le dit Yuval Harari. Pourtant, un
algorithme est simplement un modèle mathématiquepour résoudre des problèmes, de manière mécanique,automatique. Jusqu'à tout récemment, la meilleuresolution pour résoudre des problèmes sur terre était
un cerveau humain, si possible en coopérant. Lesalgorithmes nous dépassent à présent à une liste
toujours croissante de tâches cognitives. Ils font destransactions financières pour nous, plusieurs entreprises
ont même mis un algorithme au sein de leur conseild'administration. Et ces algorithmes ne cherchentplus du sens, ils cherchent juste des corrélations, desproximités, afin de prévoir de la meilleure manière
possible. En ce sens, c’est effectivement une révolution.
Si les capitalistes croient en la main invisible dumarché, les dataïstes croient en la « main invisible duflux de données » et de l’algorithme, qui pourraient
réguler et éviter la congestion automobile, optimiser

Risques n° 110

137Homo Deus, le salut par l’algorithme ?

nos emplois du temps. Comme le capitalisme, ledataïsme a aussi commencé comme une théorie
scientifique neutre, mais est maintenant en mutation
dans une religion qui prétend déterminer le bien et lemal. La valeur suprême de cette nouvelle religion est
le « flux d'information » – il n’est pas étonnant de voir
que la « liberté de l'information » est devenue aussi
importante aujourd’hui. Pour reprendre le parallèle
que propose Yuval Harari, de la même façon qu'audébut de la période moderne, les impérialistes
européens allaient en Afrique et achetaient des pays
entiers pour quelques perles, maintenant nous donnonsd’importantes possessions, nos données personnelles,à Google et Facebook en échange de vidéos, declavardages. On semble avoir perdu de vue ce quiétait en jeu, et il est très difficile de commencer àpenser à la politique en ce début du XXI e siècle. Pireencore, les grandes décisions ne sont plus prises
par les gouvernements, mais par une « petite casteinternationale d’hommes d’affaires, d’entrepreneurs
et d’ingénieurs ». Ces personnes semblent avoir une
vision sur l’avenir, comme Yuval Harari peut en avoir(sur la vie éternelle, l’intelligence artificielle, etc.),
alors que les gouvernements sont devenus de simples
gestionnaires.
Les changements que Harari décrit, et notre incapacité à nous adapter au rythme de ceux-ci, pourraient
avoir aussi des conséquences économiques importantes.
Il considère la perte d'emplois énorme due à l'automatisation comme très probable et « effrayante »,résultant dans la création d'une « classe inutile » comprenant des milliards de personnes dépourvues detoute valeur économique ou politique. Cela acommencé avec la classe ouvrière, qui devient laclasse de « unworking ». Ils seront la première partie
de la classe inutile, mais elle a commencé à s'étendre
aux classes moyennes.
Que diriez-vous d'une liseuse numérique, améliorée,qui lit vos émotions pendant que vous lisez un livre ?
En utilisant divers capteurs de corps, ils pourraientdéterminer quelles parties du livre vous font rire ou
pleurer, quand votre pouls se réveille, quand vous
vous ennuyez ou éveillez. Ils sauraient lire et se

138

Risques n° 110

souvenir de nos réactions mieux que notre cerveau
conscient. Et Yuval Harari voit plusieurs dangers
profonds au fait que l’Homo sapiens perd sa capacité
à faire des choix, libres. Que se passera-t-il une fois
que nous nous rendrons compte que les clients et lesélecteurs ne font jamais de choix libres, et que sepassera-t-il une fois que nous aurons la technologie
pour calculer, concevoir ou déjouer leurs sentiments ?
La théorie des jeux est assez pessimiste car les seules
décisions non prévisibles sont des décisions complètement aléatoires. « Nous pouvons bien voir, en fait,
un renversement complet de la révolution humaniste »,suggère-t-il, « en débarrassant les humains de l'autorité et en mettant des autorités non humaines encharge ». Et une fois qu'un dispositif d'intelligenceartificielle est devenu indispensable ce n'est plus ungadget, c'est devenu la règle. « Une fois que Google,
Facebook et d'autres algorithmes deviennent desoracles omniscients, ils peuvent évoluer en agents etenfin en souverains. » Et c’est effrayant…

Note
1. Yuval Noah Harari, Homo Deus: A Brief History ofTomorrow. La traduction française n'étant pas disponible,
il faudra se contenter d'une traduction personnelle deplusieurs néologismes de Yuval Harari.

Bibliographie
ANDERSON W., “The End of Theory: The Data Deluge
Makes the Scientific Method Obsolete”, Wired, 2008.
https://www.wired.com/2008/06/pb-theory/
BRONOWSKI J., The Ascent of Man, 1re édition en 1974,
réédition BBC Books, 2011.

Homo Deus, le salut par l’algorithme ?

FUKUYAMA F., La fin de l'histoire et le dernier homme,
Flammarion, coll. « Champs », 2009.

avenir.fr/nature-environnement/des-mini-drones-pollinisateurs-a-la-rescousse-des-abeilles_110479

HARARI Y. N., Sapiens, une brève histoire de l’humanité,Albin Michel, 2015.

SHELLEY M., Frankenstein, 1re édition en 1818, réédition
Livre de poche, 2009.

HARARI Y. N., Homo Deus, a Brief History of Tomorrow,
Harvill Secker, 2016.

WORTHAM J., “Black Mirror and the Horrors andDelights of Technology” [archive], The New York Times
Magazine, 30 janvier 2015. http://www.nytimes.com/2015/02/01/magazine/black-mirror-and-the-horrorsand-delights-of-technology.html

Sciences et Avenir, « Des minidrones pollinisateurs àla rescousse des abeilles », 2017. https://www.scienceset

Risques n° 110

139