Homo deus

**HARARI Yuval Noah, *Homo deus*, Paris, éditions Albin Michel, 2017**

"La connaissance étant devenue la ressource économique la plus importante, la rentabilité de la guerre a décliné, et les guerres se sont de plus en plus cantonnées aux parties du monde - comme le Moyen-Orient et l'Afrique centrale - qui reposent encore sur des économies à l'ancienne, à base matérielle." (p.26)

"Les générations antérieures envisageaient la paix comme l'absence temporaire de guerre. Aujourd'hui, la paix, c'est l'invraisemblance de la guerre." (p.26)

"C'est essentiellement grâce à une croissance économique phénoménale, qui nous assure une abondance de vivres, de médicaments, d'énergie et de matières premières, que nous sommes parvenus à dominer la famine, les épidémies et la guerre. Or cette même croissance déstabilise l'équilibre écologique de multiples façons que nous commençons tout juste à explorer." (p.31)

"La science et la culture moderne ont une tout autre approche de la vie et de la mort.Elle ne voient pas en elle un mystère métaphysique et certainement pas la source du sens de la vie. Pour les modernes, la mort est plutôt un problème technique que nous pouvons et devons résoudre." (p.33)

"La mort est devenue une cause presque automatique de poursuites et d'enquêtes." (p.35)

"Aussi longtemps que les gens ont cru la mort inévitable, ils se sont exercés assez tôt à refouler le désir de vivre à jamais, ou l'ont attelé à des objectifs de substitution. Les gens veulent vivre à jamais, alors ils composent une symphonie "immortelle" ; ils recherchent la "gloire éternelle" dans une guerre, voire sacrifient leur vie pour que leur âme "jouisse de la félicité éternelle au paradis". La peur et la mort alimentent largement notre créativité artistique, notre engagement politique et notre piété religieuse." (p.40)

"Le droit à la poursuite du bonheur, initialement envisagé comme un frein à la puissance de l'Etat, s'est imperceptiblement métamorphosé en droit au bonheur, comme si les êtres humains avaient le droit naturel d'être heureux, et comme si tout ce qui nous laisse insatisfait était une violation de nos droits humains fondamentaux, obligeant l'Etat à intervenir." (p.43)

"Au niveau psychologique, le bonheur dépend des attentes plutôt que de conditions objectives." (p.46)

"Nous ne réagissons jamais aux évènements du monde extérieur, seulement aux sensations physiques." (p.47)

"L'Etat espère réguler la poursuite biochimique du bonheur en séparant les "mauvaises" manipulations des "bonnes"." (p.52)

"Il y a deux mille trois cent ans, Epicure avertit ses disciples : la poursuite immodérée du plaisir pourrait bien les rendre non pas heureux, mais misérables.Deux siècles auparavant, Bouddha avait soutenu une idée encore plus radicale, affirmant que la poursuite des sensations agréables était en fait la racine même de la souffrance." (p.53)

"Dans la quête de la santé, du bonheur et du pouvoir, les hommes se mettront à modifier peu à peu un de leurs traits, puis un autre, et encore un autre, jusqu'à ce qu'ils ne soient plus humains." (p.61)

"Il n'existe pas de différence claire entre la guérison et l'amélioration." (p.64)

"Certains systèmes complexes, comme la météo, sont indifférents à nos prédictions. A l'inverse, le développement humain est un processus qui y réagit. En fait, meilleures sont nos prévisions, plus elles engendrent des réactions." (p.69)

"Tel est le paradoxe de la connaissance historique. Une connaissance qui n'a pas d'effet sur les comportements est inutile. Mais si elle les change, elle perd vite sa pertinence. Plus nous avons de données et mieux nous comprenons l'histoire, plus vite l'histoire change de cap, et plus vite notre savoir se périme." (p.71)

"Dans le cosmos animiste, tout le monde dialoguait avec tout le monde." (p.106)

"Au cours de la révolution agricole, l'humanité avait réduit au silence les animaux et les plantes, et transformé le grand opéra animiste en un dialogue entre l'homme et les dieux. Au cours de la révolution scientifique, l'homme réduisit aussi les dieux au silence." (p.111)

"L'humanité se retrouva seule sur une scène vide, à soliloquer, ne négociant avec personne, et acquérant d'immenses pouvoirs sans la moindre obligation en retour." (p.111)

"Toute expérience subjective possède deux caractéristiques fondamentales : la sensation et le désir." (p.123)

"Alors même que l'envoi et la réception de chaque signal électrique sont un simple phénomène biochimique, l'interaction entre tous ces signaux créé quelque chose d'autrement plus complexe : le flux de conscience." (p.125)

"Mieux nous comprenons le cerveau, plus l'esprit paraît superflu." (p.128)

"Si un chercheur prétend que les expériences subjectives ne sont pas pertinentes, il lui appartient d'expliquer sans se référer à la moindre expérience subjective pourquoi la torture et le viol sont condamnables." (p.134)

"(...) la conscience pourrait bien être une sorte de pollution mentale produite par l'activation de réseaux de neurones complexes. Elle ne fait rien. Elle est simplement là." (p.134)

"Partant de l'hypothèse que nous pouvons croire les hommes quand ils se déclarent conscients, nous pouvons identifier les signatures de la conscience humaine, puis les utiliser afin de "prouver" que les humains sont bel et bien conscients. Mais si une intelligence artificielle se dit consciente, devons-nous la croire ?" (p.136)

"Turing savait d'expérience que peu importe au fond qui vous êtes vraiment : ce qui compte, c'est ce que les autres pensent de vous." (p.138)

"Loin d'obéir à une logique mathématique froide, la conduite des Sapiens se conforme à une logique sociale chaude." (p.158)

"Nous refusons les offres injustes parce que ceux qui les ont docilement acceptées n'ont pas survécu à l'âge de pierre." (p.158)

"Les Sapiens se servent souvent de marqueurs visuels tels qu'un turban, une barbe ou un costume-cravate pour dire : "Vous pouvez me faire confiance, je crois à la même histoire que vous." (p.161)

"Les Sapiens sont les maîtres du monde parce qu'eux seuls peuvent tisser une toile de sens intersubjective : une toile de lois, de forces, d'entités et de lieux qui n'existent que dans leur imagination commune." (p.168)

"Si l'écrit fut sans doute conçu comme un modeste moyen de décrire la réalité, il devint peu à peu un instrument puissant pour la remodeler. Quand les rapports officiels se heurtaient à la réalité objective, c'était souvent la réalité qui devait céder. Quiconque à jamais eu affaire au fisc, au système éducatif ou à toute autre bureaucratie complexe sait que la vérité n'importe guère." (p.185)

"Les histoires ne sont que des outils. Elles ne doivent pas devenir nos buts ni nos étalons. Quand nous oublions qu'elles ne sont que des fictions, nous perdons tout contact avec la réalité." (p.196)

"Nous croyons toujours à "la vérité" ; les superstitions, ce sont les croyances des autres." (p.199)

"La religion est un deal, la spiritualité un voyage. La religion donne une description complète du monde et nous offre un contrat bien défini aux objectifs prédéterminés. (...) les personnes en quête de spiritualité (...) sont décidées à suivre la grande question où qu'elle les mène, et pas simplement aux endroits qu'elles connaissent bien ou souhaitent visiter." (p.203)

"(...) est qualifié de "spirituel" tout voyage au cours duquel nous mettons en doute les conventions et les deals du monde ordinaire pour nous aventurer vers une destination inconnue." (p.204)

"Si tu rencontres le Bouddha en chemin, tue-le", dit-on dans le bouddhisme zen. Autrement dit, si, dans ton cheminement spirituel, tu rencontres les idées rigides et les lois figées du bouddhisme institutionnalisé, tu dois aussi t'en libérer." (p.204)

Sam Harris : "(...) la science est toujours à même de résoudre des dilemmes éthiques, parce que les valeurs humaines dissimulent toujours en elles des énoncés factuels." (p.215)

"La religion s'intéresse avant tout à l'ordre. Son but est de créer et de maintenir la structure sociale. Quand à la science, c'est d'abord le pouvoir qui l'intéresse. Par la recherche, elle ambitionne d'acquérir le pouvoir de guérir les maladies, de mener des guerres et de produire des vivres." (p.217)

"La modernité est en fait un deal étonnamment simple. Tout le contrat peut se résumer en une seule phrase : les hommes acceptent d'abandonner le sens en échange du pouvoir." (p.219)

"La plus grande découverte scientifique a été la découverte de l'ignorance." (p.233)

"Des millénaires durant, les sociétés se sont efforcées de freiner les désirs individuels et de promouvoir une sorte d'équilibre. (...) La modernité a incité les gens à vouloir plus, et a démantelé les disciplines séculaires qui tempéraient la cupidité." (p.239)

"Nous connaissons certes des crises économiques épisodiques et des guerres internationales, mais, à long terme, le capitalisme ne s'est pas seulement imposé, il a aussi réussi à surmonter la famine, les épidémies et la guerre. Des millénaires durant, prêtres, rabbins et muftis nous avaient expliqué que les hommes n'y parviendraient pas par leurs propres efforts. Puis sont venus les banquiers, les investisseurs et les industriels : en deux siècles, ils y sont arrivés !" (p.240)

"Le deal moderne nous offre le pouvoir à condition que nous renoncions à notre croyance en un grand plan cosmique qui donne sens à la vie. (...) si les hommes parviennent tant bien que mal à trouver un sens sans le fonder sur quelque grand plan cosmique, cela ne vaut pas rupture du contrat." (p.243)

"Tel est le premier commandement de l'humanisme : créer du sens pour un monde qui en est dépourvu." (p.244)

"Sens et autorité vont toujours de pair." (p.245)

"Au début du XIXe siècle, Wilhelm von Humboldt - un des principaux architectes du système éducatif moderne - disait que le but de l'existence est de "distiller la plus large expérience possible de la vie en sagesse", et qu'il n'y a qu'un seul sommet dans la vie, "avoir pris dans sa sensibilité la mesure de tout ce qui est humain". (p.262)

"La plupart du temps, les élections démocratiques ne marchent qu'au sein de populations préalablement unies par quelque lien, comme des croyances religieuses partagées ou des mythes nationaux. C'est une méthode pour régler les désaccords entre des personnes qui s'accordent sur le fond." (p.273)

"Dès la naissance, riches et pauvres subissent un lavage de cerveau. On apprend aux riches à mépriser les pauvres, et aux pauvres à mépriser leurs véritables intérêts." (p.275)

"L'islam radical peut bien promettre un ancrage de certitude dans un monde de tempête technologiques et économiques, mais pour affronter une tempête il faut une carte et un gouvernail, pas seulement une ancre." (p.293)

"Le pape Pie IX (...) institua le principe inédit de l'infaillibilité pontificale, suivant lequel le pape ne peut jamais se tromper en matière de foi." (p.294)

"La Bible reste une source d'autorité, alors même qu'elle n'est plus une source d'inspiration." (p.299)

"Je ne choisis pas mes désirs. Je ne fais que les sentir, et agir en conséquence." (p.307)

"Pour que le libéralisme ait du sens, je dois avoir un vrai moi, et un seul, car si j'avais plus d'une voix authentique, comment saurais-je quelle voix écouter au bureau de vote, au supermarché ou sur le marché matrimonial ?" (p.312)

"Le moi unique et authentique est aussi réel que l'âme éternelle, le Père Noël ou le lapin de Pâques. Si je regarde au fond de moi, l'unité apparente que je tiens pour acquise se dissout en une cacophonie de voix contradictoires." (p.313)

"(...) Gazzaniga conclut que l'hémisphère gauche du cerveau est le siège non seulement de nos facultés verbales mais aussi d'un interprète intérieur qui ne cesse de donner du sens à notre vie, en utilisant des indices partiels afin de concocter des histoires plausibles." (p.315)

"(...) l'existence d'au moins deux "moi" différents en nous : le moi qui fait l'expérience et celui qui raconte." (p.316)

"Chaque fois que le narrateur évalue nos expériences, il néglige leur durée et adopte la règle "sommet-fin" : il ne se souvient que du moment fort et du moment final pour évaluer l'expérience entière en fonction de leur moyenne." (p.317)

"En fait, du point de vue du moi narrateur, le médecin devrait ajouter quelques minutes parfaitement superflues de douleur amortie à l'extrême fin du test parce que cela rendrait le souvenir de l'ensemble bien moins traumatisant." (p.318)

"A vrai dire, le moi expérimentateur et le moi narrateur ne sont pas entièrement séparés : ce sont des entités étroitement entremêlées. Pour ses histoires, le moi narrateur se sert de nos expériences comme de matières premières importantes, mais pas exclusives. Et ces histoires, à leur tour, façonnent ce que ressent vraiment le moi expérimentateur." (p.320)

"La plupart d'entre nous nous identifions néanmoins à notre moi narrateur." (p.320)

"Paradoxalement, plus nous consentons de sacrifices pour une histoire imaginaire, plus nous nous y accrochons avec ténacité, parce que nous voulons désespérément donner du sens à ces sacrifices et aux souffrances que nous avons causées." (p.322)

"S'il est difficile pour un homme politique d'annoncer à des parents que leur fils est mort pour rien, il encore plus douloureux pour les parents de se l'avouer à eux-mêmes - et c'est encore plus dur pour les victimes." (p.323)

"Si vous voulez que les gens croient à des entités imaginaires comme les dieux et les nations, faites en sorte qu'ils leur sacrifient quelque chose de précieux." (p.324)

"(...) le moi narrateur préférerait de beaucoup continuer de souffrir à l'avenir, à seule fin de n'être pas obligé d'admettre que sa souffrance passée n'avait aucun sens. Finalement, si nous voulons être quittes de nos erreurs passées, notre moi narrateur doit inventer une intrigue qui imprimera un sens à ses erreurs." (p.325)

"Les libéraux soutiennent le marché et les élections démocratiques parce que, selon eux, tout être humain est un individu unique et précieux, dont le libre choix est la source ultime de l'autorité." (p.329)

"Dans bien des cas, sinon la plupart, c'était l'argument économique, plutôt que moral, qui persuadait les tyrans et les juntes de libéraliser." (p.333)

"Tandis que les algorithmes chassent les hommes du marché du travail, la richesse et le pouvoir pourraient bien se concentrer entre les mains de la minuscule élite qui possède les algorithmes tout-puissants, ce qui créerait une inégalité sociale et politique sans précédent." (p.347)

"Les critiques continuèrent de soutenir que la musique d'EMI était techniquement excellente, mais qu'il lui manquait quelque chose. Elle était trop précise, dénuée de profondeur, sans âme. Mais quand les gens entendaient les compositions d'EMI sans en connaître la provenance, ils les louaient souvent précisément pour leur expressivité et leur puissance émotionnelle." (p.350)

"La probabilité que des algorithmes informatiques évincent les archéologues en 2033 n'est que de 0,7%, parce que leur travail requiert des types très élaborés de reconnaissance de forme et ne produit pas d'immenses profits." (p.351)

"Un scénario populaire imagine une société qui conçoit la première superintelligence artificielle et la soumet à un test innocent, comme le calcul de Pi. Avant que quiconque ne se rende compte de ce qui arrive, l'intelligence artificielle s'empare de la planète, élimine l'espèce humaine, lance une campagne de conquête jusqu'aux confins de la galaxie, et transforme la totalité de l'univers connu en un superordinateur géant qui, des milliards et des milliards d'années durant, calcule Pi avec toujours plus de précision. Après tout, telle est la mission divine que lui a donné son créateur." (p.352)

"Si vous souhaitez obéir au vieil adage "connais-toi toi-même", ne perdez pas votre temps avec la philosophie, la méditation ou la psychanalyse : recueillez plutôt vos données biométriques, laissez les algorithmes les analyser pour vous et vous dire qui vous êtes et ce que vous devez faire." (p.356)

"Aujourd'hui, la plupart des sociétés et des Etats rendent hommage à mon individualité et promettent de m'offrir des médicaments, un enseignement et des divertissements sur mesure. Pour ce faire, cependant, les sociétés et les gouvernements ont d'abord besoin de me décomposer en sous-systèmes biochimiques, de surveiller ces sous-systèmes avec des capteurs omniprésents et de déchiffrer leur activité par de puissants algorithmes. Au fil de ce processus, il apparaîtra que l'individu n'est qu'une chimère religieuse." (p.371)

"La solution libérale aux inégalités sociales consiste à transférer une valeur égale aux différentes expériences humaines, au lieu d'essayer de créer les mêmes expériences pour tout le monde." (p.372)

"Soigner les malades était un projet égalitaire, parce que cela supposait l'existence d'un étalon normatif de la santé physiques et mentale dont tout le monde pouvait et devait jouir. (...) En revanche, optimiser les sujets en bonne santé est un projet élitiste : il rejette l'idée d'une norme universelle valable pour tous à donner à certains un avantage sur les autres." (p.374)

"Au XXe siècle, la médecine a profité aux masses parce que ce siècle était l'ère des masses." (p.374)

"Contrairement au XXe siècle, où les élites avaient tout intérêt à régler les problèmes des pauvres parce qu'ils étaient militairement et économiquement vitaux, au XXIe siècle la stratégie la plus efficace (bien qu'implacable) pourrait être de se débarrasser des voitures inutiles de troisième et de foncer avec les seules voitures de première." (p.375)

"Les nouveaux projets du XXIe siècle - l'immortalité, le bonheur suprême et la divinité - espèrent aussi servir toute l'humanité. Mais ces projets visant non pas à sauvegarder la norme, mais à la dépasser, ils pourraient bien se solder par la création d'une nouvelle caste de surhommes qui, laissant de côté ses racines libérales, ne traitera pas mieux les hommes ordinaires que les Européens du XIXe siècle ne traitaient les Africains." (p.376)

"La culture occidentale moderne se distingue donc par l'absence d'une classe spécialisée de personnes cherchant à connaître des états mentaux extraordinaires. Quiconque est tenté de le faire passe pour un toxicomane, un malade mental et un charlatan." (p.382)

"Le système nous a peut-être poussés dans cette direction, parce qu'il récompense généralement nos décisions plutôt que nos doutes. Or une vie de décisions fermes et de solutions rapides peut se révéler plus pauvre et superficielle qu'une vie de doutes et de contradictions." (p.389)

"Le système peut préférer des humains déclassés, non pas parce qu'ils possèderaient des dons surhumains, mais parce qu'ils seraient dépourvus de certaines qualités humaines réellement perturbantes qui gênent le système et le ralentissent. Tout paysan le sait : c'est généralement la chèvre la plus futée du troupeau qui crée le plus d'ennuis ; c'est pour cela que la révolution agricole a abaissé les capacités mentales des animaux." (p.390)

"Réduire au silence les bruits gênants dans ma tête à l'air d'une merveilleuse idée, sous réserve qu'elle me permette finalement d'entendre mon authentique moi profond. Mais s'il n'y a pas de moi authentique, comment décider quelles voix éteindre et lesquelles amplifier." (p.392)

"Le techno-humanisme est ici confronté à un dilemme insoluble. Il tient la volonté humaine pour la chose au monde la plus importante, et pousse donc l'humanité à élaborer des technologies qui puissent la contrôler et la remodeler. (...) Or, si nous obtenions un tel contrôle, le techno-humanisme ne saurait qu'en faire car l'être humain sacré ne deviendrait plus qu'un produit manufacturé parmi d'autres." (p.393)

"Pour le dataïsme [la religion des data], l'univers consiste en flux de données (data), et sa contribution au traitement des données détermine la valeur de tout phénomène ou entité." (p.395)

"Il est dangereux de confier notre avenir aux forces du marché, parce que ces forces font ce qui est bon pour le marché et non ce qui est bon l'humanité ou pour le monde." (p.405)

"Nous imaginons souvent que la démocratie et le marché ont gagné parce qu'ils étaient "bons". En vérité, ils ont gagné parce qu'ils ont amélioré le système global de traitement des données." (p.409)

"Ne confondons pas la liberté de l'information avec le vieil idéal libéral de la liberté d'expression. La liberté d'expression a été donnée aux hommes, et protégerait leur droit de penser et de dire ce qu'ils voulaient - dont le droit de se taire et de garder les pensées pour eux. La liberté de l'information, en revanche, n'est pas donnée aux hommes, mais à l'information." (p.411)

"Pour les vrais croyants, être déconnecté du flux de données, c'est risquer de perdre le sens même de la vie. A quoi bon faire expérimenter quoi que ce soit si personne n'en sait rien et si ça ne contribue aucunement à l'échange global d'informations." (p.414)

"Quand vous lisez la Bible, vous bénéficiez des conseils d'une poignée de prêtres et de rabbis qui vivaient dans l'ancienne Jérusalem. A l'opposé, quand vous écoutez vos sentiments, vous suivez un algorithme que l'évolution a élaboré sur des millions d'années et qui a résisté aux tests de contrôle de qualité les plus sévères de la sélection naturelle. Vos sentiments sont la voix de millions d'ancêtres qui ont réussi à survivre et à se reproduire dans un milieu impitoyable." (p.421)