# The Social Dilemma

Gloria Origgi

► To cite this version:

Gloria Origgi. The Social Dilemma. Cités, 2025, 104 (4), pp.149-157. hal-05535084

HAL Id: hal-05535084

https://hal.science/hal-05535084v1

Submitted on 3 Mar 2026

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons CC BY 4.0 - Attribution - International License
### Gloria Origgi (Institut Nicod - CNRS - École Normale Supérieure)

Aujourd'hui, une multitude de problèmes sociaux, de dysfonctionnements politiques et de pathologies individuelles sont souvent attribués aux réseaux sociaux. Cette perception s'est intensifiée après la pandémie de COVID-19, la propagande russe liée à l'invasion de l'Ukraine en 2022 et la réélection de Donald Trump. De plus, de nombreuses études ont été menées sur les effets des réseaux sociaux sur la radicalisation politique dans plusieurs démocraties et sur le bien-être des jeunes. Parmi ces recherches, le livre influent du psychologue américain Jonathan Haidt, *La génération anxieuse* (Arènes, 2025), en est un exemple marquant.

Ce désenchantement envers les réseaux sociaux a principalement débuté en 2016, lors de la première victoire de Donald Trump et du référendum britannique sur le Brexit, qui a conduit à la sortie du Royaume-Uni de l'Union européenne après une campagne largement orchestrée sur les réseaux sociaux et fondée sur de fausses informations (Gorodnichenko, 2021). Les élections de Trump en 2016 ont également été partiellement influencées par la propagande sur les réseaux (Allcott & Gentzkow, 2017).

Cependant, lors de leur émergence, les réseaux sociaux avaient été salués comme une opportunité extraordinaire de libérer la parole, d'autonomiser les masses et de favoriser des dynamiques collectives positives, telles que les révolutions arabes à partir de 2011 et le mouvement mondial de dénonciation du harcèlement sexuel, #MeToo, en 2017. Jamais auparavant les individus n'avaient eu un accès aussi large à la parole publique, la possibilité de se connecter avec des personnes à l'autre bout du monde, et la capacité de dénoncer les impostures de leurs politiciens et des médias traditionnels. Cependant, cet enthousiasme s'est rapidement estompé, car les effets néfastes des réseaux sociaux ont rapidement surpassé leurs avantages potentiels, noyant les comportements collectifs constructifs dans une marée de propagande, d'usages commerciaux d'Internet, d'incitations à des comportements narcissiques (comme le partage d'informations personnelles : photos, promotion de « succès » individuels, etc.) et d'exploitation des « passions tristes » des citoyens : ressentiment, colère, envie.

Les raisons de cette déception collective sont multiples : la désinformation et la propagande omniprésentes sur les réseaux, le modèle économique en place, la dérégulation de la parole publique et le discours de haine, les effets d'écho (des communautés qui ne communiquent qu'entre elles, sans jamais être exposées à des points de vue différents), ainsi que le format addictif de l'information (courtes vidéos sélectionnées pour vous selon des critères de « pertinence », incitant à consommer toujours plus de contenu). Toutefois, aucune de ces raisons n'est aussi fondamentale que la structure technique même de ces réseaux, qui, dès leur essor, ont cherché à contrôler le comportement humain.

La dénonciation de l'addiction inhérente aux réseaux sociaux et des dangers de leur modèle commercial est parfaitement illustrée par le documentaire de 2020, *The Social Dilemma*, toujours disponible sur Netflix, qui constitue une critique acerbe de l'ensemble de l'industrie technologique californienne. Le film se compose d'une série d'entretiens avec des acteurs majeurs de la Silicon Valley ayant quitté des postes de responsabilité dans des entreprises telles que Google, Facebook, Instagram et Twitter pour des raisons éthiques. Il s'ouvre sur une citation frappante de Sophocle :
« Rien d'important n'entre dans la vie des mortels sans une malédiction. » En effet, tous les intervenants tentent d'expliquer que l'euphorie initiale suscité par la création des réseaux sociaux au début des années 2000 était perçue comme positive : ces innovations étaient envisagées par l'industrie technologique comme des améliorations de la vie des gens, de leur capacité à communiquer et à se connecter au-delà des barrières nationales, sociales ou culturelles. Le slogan de Facebook à sa création en 2004 était : *Connecting People* (Connecter les gens). Nous nous trouvons donc dans un monde où les conséquences inattendues de ces technologies apparaissent, alors qu'elles étaient annoncées comme un progrès pour l'humanité. Qu'est-ce qui a mal tourné ? Tout d'abord, le documentaire met en lumière quelque chose que nous aurions tous dû réaliser dès le début : personne ne paie pour les produits offerts par ces entreprises, que ce soit pour les services de Google ou pour les applications de Facebook, Instagram, ou Twitter. Or, il est impossible d'être le client d'une industrie si l'on ne paie pas pour ses produits. La naïveté collective avec laquelle le monde entier s'est lancé dans l'utilisation de services gratuits, comme la messagerie Google ou les applications, a constitué la première erreur fatale qui nous a conduits à l'enfer que nous connaissons aujourd'hui. Si nous ne payons pas un produit, nous ne sommes pas les clients ; nous devenons nous-mêmes le produit de cette industrie. Ceux qui paient pour l'accès aux réseaux sont en réalité les entreprises qui font de la publicité sur ces plateformes. Ce sont elles les véritables clientes, pas nous, les utilisateurs. Notre « travail » gratuit consiste à fournir des données (publications, messages, connexions, temps d'engagement) qui seront traitées pour optimiser le ciblage des publicités. Le modèle économique était donc défectueux dès le départ : offrir le produit pour transformer les utilisateurs en produits.

De plus, ces entreprises monétisent une caractéristique particulière de leurs utilisateurs : leur attention. L'attention est une faculté psychologique qui permet de sélectionner et de concentrer ses ressources mentales sur des stimuli ou des tâches jugées pertinents, tout en ignorant les autres informations disponibles dans l'environnement. Selon William James (1890), figure majeure de la psychologie, l'attention est « la prise de possession par l'esprit, sous une forme claire et vive, d'un objet ou d'une suite de pensées parmi plusieurs qui sont présents simultanément [...]. Elle implique le retrait de certains objets afin de traiter plus efficacement les autres. » Toutes ces entreprises et applications sont en concurrence pour capter l'attention des utilisateurs. Leur objectif est donc de créer les conditions pour l'engagement des utilisateurs, de vendre aux annonceurs le temps d'engagement des utilisateurs et d'assurer un ciblage toujours plus sophistiqué des annonces publicitaires, grâce à l'intelligence artificielle. Pour parvenir à cela, les entreprises technologiques se rendent compte qu'elles ont besoin d'un volume de données conséquent. Les données sur nos comportements deviennent ainsi l'or du nouveau millénaire, générant une richesse sans précédent, comme l'a décrit Shoshana Zuboff (2022), qui a participé au documentaire, en évoquant le *capitalisme de la surveillance*. Selon Zuboff, le marché technologique commerce des « contrats à terme humains », similaires à ceux utilisés en finance pour le bétail, le blé et d'autres produits, mais appliqués aujourd'hui aux humains, à leurs données et, par conséquent, à leurs comportements. Rien de ce que font ces entreprises n'est destiné à nous : nous sommes tout simplement la matière première indispensable à toute transaction. L'objectif de ceux qui programment ces réseaux est de maximiser la collecte de données et le temps d'engagement (qui permet de générer encore plus de données). Chacune de nos actions en ligne est enregistrée : quelles images nous
regardons, combien de temps, quels messages nous envoyons. Grâce à des
logiciels puissants d'intelligence artificielle, il est possible d'inférer de nos
comportements si nous nous sentons seuls, anxieux, nostalgiques d'une relation
passée, en quête d'une nouvelle relation, ou en colère à propos d'un événement
politique dans notre pays, ainsi que notre âge, notre classe sociale, notre niveau
d'instruction, notre type de personnalité, si nous sommes extravertis ou introvertis,
etc. Ce vaste réservoir de données entre dans le système avec très peu de
supervision humaine. Le système apprend ainsi à faire des prédictions de plus en
plus précises sur qui nous sommes et comment nous allons agir, une information
précieuse pour les annonceurs qui peuvent ainsi cibler de manière toujours plus
affinée leurs messages.

Cependant, ce mécanisme, bien qu'intuitif, n'a pas été expliqué aux utilisateurs, et
les institutions n'ont pas été alertées sur les usages potentiels de nos données. La
protection des utilisateurs s'est principalement concentrée sur l'interdiction de la
vente des données sans consentement (par exemple, de nombreuses clauses de la
législation connue sous le nom de RGPD sont consacrées à cela). Mais Facebook
n'a pas un intérêt majeur à vendre nos données. En réalité, ce qu'il fait avec ces
données, c'est de créer des modèles hyper-sophistiqués pour prédire les attitudes et
comportements de chaque utilisateur. Celui qui a le modèle le plus raffiné l'emporte.
Chaque entreprise de ce secteur a trois objectifs fondamentaux : l'engagement, c'est-
à-dire vous maintenir le plus longtemps possible en ligne ; la croissance, c'est-à-dire
s'assurer que vous partagiez des informations, que vous vous connectiez avec de
nouveaux « amis » et, en somme, que la communauté avec laquelle vous
interagissez s'agrandisse ; et la monétisation, c'est-à-dire garantir que toutes ces
actions soient rentabilisées par l'entreprise capable de vous cibler avec des
publicités pertinentes. Toutes les fonctionnalités de ces réseaux, du « like » au «
share », en passant par la restitution d'informations passées (les « mémoires »),
visent ces trois objectifs. Aucune législation n'a été mise en place pour protéger les
utilisateurs de l'exploitation totale de leurs données dans le but de construire des
modèles algorithmiques prédictifs de leur comportement. Ni pour protéger leur
attention, une ressource précieuse qui aurait pourtant dû alerter le monde de
l'éducation tout autant que le monde du travail, car un employé distrait pendant
plusieurs heures par les réseaux sociaux est un employé moins efficace. Aujourd'hui,
une des plaintes majeures concernant les réseaux sociaux est la désinformation
qu'ils génèrent dans nos vies. De lourds programmes de vérification des faits et
d'esprit critique sont envisagés dans plusieurs pays pour limiter les effets néfastes de
la désinformation. Cependant, ce qui n'est remis en question nulle part, c'est la
structure fondamentalement manipulatrice des réseaux, qui engendrent des «
marionnettes » humaines dont les préférences et attitudes sont entièrement
contrôlées. Avec de tels acteurs sur les réseaux, entièrement manipulés, la
désinformation devient une conséquence inévitable, et il est vain de tenter de la
combattre en se concentrant uniquement sur une fake news ou un post
propandiste. La désinformation est une conséquence profonde de la manipulation
algorithmique : elle ne peut être combattue qu'en s'attaquant à la structure même des
réseaux.

Bien que les algorithmes ne soient pas totalement contrôlés par une personne
précise chez Facebook ou Twitter, la plupart des membres du petit groupe
d'ingénieurs de la tech qui pilotent les milliards d'utilisateurs de ces réseaux sociaux
ont étudié des techniques de persuasion. Selon les témoignages du documentaire,
les cours de Technologie persuasive de la prestigieuse université de Stanford, qui
ont formé les plus grands noms de la technologie, ont été suivis par les ingénieurs
les plus influents de la Silicon Valley. Ces cours enseignent à manipuler la partie du
cerveau dont nous ne sommes pas conscients, celle qui désire ardemment une
récompense (qui peut être un simple nouvel e-mail ou une notification Facebook).

Ce modèle de persuasion et d'extraction de profits à partir des faiblesses des
utilisateurs est omniprésent au sein de la Silicon Valley. Il n'est pas remis en
question, n'est pas réglementé, comme le soulignent tous les acteurs du *Social
Dilemma*. Les conséquences désastreuses de ce modèle, non seulement sur la
santé mentale des plus jeunes, mais aussi sur la polarisation politique dans de
nombreuses démocraties, la propagation de fausses informations et de théories du
complot, ainsi que la radicalisation de certains groupes, sont prévisibles.
Contrairement à d'autres modèles d'interaction sur Internet, comme Wikipedia, nous
savons que sur les réseaux sociaux, chacun lit des informations différentes,
sélectionnées pour lui par les algorithmes en fonction de son profil. Ces informations
sont ensuite partagées avec des individus également choisis par les algorithmes,
augmentant ainsi les chances de trouver des personnes ayant des idées similaires.
Cela crée un monde artificiel de faits qui ne sont que le résultat de la manipulation
algorithmique, nous éloignant de la notion même d'une vérité indépendante de nos
préférences.

Le documentaire conclut sur une note d'espoir mitigée : ces technologies ne sont pas
ancrées dans les lois de la physique. Elles sont le fruit d'un modèle économique qui,
bien qu'il n'ait pas été remis en question, peut évoluer lorsque les ravages sur
l'humanité seront reconnus, notamment par ceux qui détiennent le pouvoir de
légiférer pour atténuer les effets néfastes des réseaux sociaux. Protéger l'attention,
la rationalité, la quête de vérité et le partage informé d'opinions avec autrui est un
objectif atteignable sur lequel nous devons travailler de manière urgente.

Bibliographie

* Hunt Allcott, Matthew Gentzkow (2017). “Social Media and Fake News in the 2016 Election”. *Journal of Economic Perspectives*, vol. 31, no. 2, pp. 211–36.

* Yuriy Gorodnichenko, Tho Pham, Oleksandr Talavera (2021). “Social media, sentiment and public opinions: Evidence from #Brexit and #USElection”. *European Economic Review*, vol. 136.

* William James (1890). *Principles of Psychology*. Henry Holt & Company, New York.

* Shoshana Zuboff (2022). *L'âge du capitalisme de surveillance*. Zulma.