Sens public

Sens
[public]

# Les Conquérants : comment les plateformes colonisent l'espace attentionnel

## Facebook ou l'école des fans

Gérard Wormser

2018

Facebook. L'école des fans

URI : https://id.erudit.org/iderudit/1059048ar

DOI : https://doi.org/10.7202/1059048ar

Aller au sommaire du numéro

Éditeur(s)

Département des littératures de langue française

ISSN

2104-3272 (numérique)

Découvrir la revue

### Citer cet article

Wormser, G. (2018). Les Conquérants : comment les plateformes colonisent l'espace attentionnel : facebook ou l'école des fans. *Sens public*. https://doi.org/10.7202/1059048ar

### Résumé de l'article

Plus l'influence des GAFA se fait forte, et plus nous prenons conscience de la fragilité des sociétés démocratiques qui les ont engendrés. Le déclin de la presse et du journalisme professionnel accroît le risque de manipulations de grande ampleur dont la foule ne sait comment se prémunir. Les plus grandes entreprises du numérique sont conscientes des risques qu'elles nous font courir à tous, mais ne savent ni ne peuvent les conjurer dans le cadre de la concurrence acharnée qui les oblige à chercher toujours davantage de moyens pour capter l'attention de chacun.

Creative Commons Attribution-ShareAlike 4.0 International (CC BY-SA 4.0) Sens Public, 2018

<figure><img src="image_1.png" /></figure>

Ce document est protégé par la loi sur le droit d'auteur. L'utilisation des services d'Érudit (y compris la reproduction) est assujettie à sa politique d'utilisation que vous pouvez consulter en ligne.

https://apropos.erudit.org/fr/usagers/politique-dutilisation/
Sens
[public]

Les Conquérants : comment les
plateformes colonisent l'espace
attentionnel

Facebook ou l'école des fans

Gérard Wormser

Publié le 19-10-2018

http://sens-public.org/article1345.html

<figure><img src="image_2.png" /></figure>

Creative Commons Attribution-ShareAlike 4.0 International (CC BY-SA
4.0)
Résumé

Plus l'influence des GAFA se fait forte, et plus nous prenons
conscience de la fragilité des sociétés démocratiques qui les ont
engendrés. Le déclin de la presse et du journalisme professionnel
accroît le risque de manipulations de grande ampleur dont la foule ne
sait comment se prémunir. Les plus grandes entreprises du numérique
sont conscientes des risques qu'elles nous font courir à tous, mais ne
savent ni ne peuvent les conjurer dans le cadre de la concurrence
acharnée qui les oblige à chercher toujours davantage de moyens pour
capter l'attention de chacun.

Abstract

The stronger the GAFA's influence, the more we become aware of
the fragility of the democratic societies that engendered them. The
decline of the press and professional journalism increases the risk of
large-scale manipulations that the crowd does not know how to guard
against. The largest digital companies are aware of the risks they pose
to us all, but do not know and can not stave off them in the context
of the fierce competition that forces them to seek ever more ways to
capture everyone's attention.

Mots-clés : monopoles, Mark Zuckerberg, presse, attention

Keywords: monopolies, Mark Zuckerberg, media, attention
Table des matières

<table><tr><td>Les Conquérants</td><td>4</td></tr><tr><td>Attiser les désirs et combler les annonceurs</td><td>7</td></tr><tr><td>McNamee / Facebook</td><td>17</td></tr><tr><td>Mark Zuckerberg, un Pangloss milliardaire?</td><td>26</td></tr><tr><td>Bibliographie</td><td>33</td></tr></table>
# Les Conquérants : comment les plateformes colonisent l'espace attentionnel

Gérard Wormser

Pour Marcello Vitali Rosati

Les grandes entreprises du numérique ont inscrit à leur panoplie certains services d'usage général dont chacun bénéficie : annuaires de liens, logiciels de traduction, plateformes d'échanges entre pairs, services d'archivages distants. Ils donnent accès à toutes sortes d'applications utiles pour se déplacer (cartes GPS), pour gérer ses dépenses et ses achats (interfaces bancaires, catalogues en tout genre, information « en temps réel » sur les promotions commerciales) et pour la vie administrative et culturelle (inscriptions universitaires ou gestion des contraventions, achat de places de spectacle, écoute musicale, achat de produits relativement rares et dispersés, comme les livres). Mais leur disponibilité même accroît les divergences entre les modes de vie des uns et des autres en fonction du temps et de la formation dont dispose chacun pour en tirer parti, tout comme en fonction des lieux d'usage. Aux uns les leviers pour stimuler un réseau professionnel réactif, aux autres une communication de base qui pallie la faible capillarité des services aux individus dans les territoires de moindre densité. De profondes transformations sociales sont en cours qui n'ont pas été programmées et dont les acteurs transnationaux que sont les grandes firmes du numérique sont à la fois les opérateurs et les bénéficiaires.

## Les Conquérants

Ce sont elles qui mènent le jeu. Les États se décident à percevoir les impôts dus par ces entreprises, mais la nouvelle législation américaine qui ne taxe plus ces rentrées qu'à une proportion de 10%, véritable amnistie fiscale, per-
met à Apple de rapporter aux USA plus de 300 milliards de bénéfices logés dans ses filiales internationales. Cela viendra alimenter de futurs dividendes et le succès du programme économique de Donald Trump. Ce dumping fiscal symbolise un tournant protectionniste de la mondialisation qui semble aux antipodes du discours public des dirigeants de ces plateformes! « *Building Global Community* » semble une publicité naïve comparée à la distribution des gains effectuée par une entreprise publicitaire comme Facebook. Que font les réseaux sociaux font à la société et à la politique? Quelle activité peut aujourd'hui se passer d'une exposition sur les réseaux? Par-delà même les boutiques, bien des gens dépendent à présent des revenus que peut leur procurer une activité en ligne – à travers des plateformes en tout genre. Tel jeune YouTubeur disposera de revenus publicitaires importants, tandis que d'autres restent sous la barre du nombre de vues requises par les publicitaires – et peut-être aussi de chartes de bienséance exprimées par ceux-ci. Une transgenre californienne, dont la monétisation des vidéos s'est réduite, l'exprime nettement :

> Ils chouchoutent vraiment les gens qui ont de l'argent, des vues et un public, et laissent en plan la création et le soutien des petits groupes qui se réunissent et partagent leurs vécus, exprime Erin Armstrong<fnref n="1" />.

*The Guardian* relate l'histoire de la première websérie développée avec succès sur YouTube il y a plus de dix ans. Il s'agissait à l'époque pour deux jeunes en formation à la California Arts Agency de se créer une popularité en ligne en jouant d'une identité d'emprunt « *lonelygirl15* », dont il leur fallait animer la vie quotidienne. Cette série remporta un vif succès et lorsque les auteurs de cette mise en scène furent identifiés, ils furent aussitôt financés par de grandes marques pour continuer d'animer leur série, ce qu'ils firent deux ans durant avant de passer à autre chose (Cresci 2016).

La concurrence fait rage entre les plateformes pour s'attirer les talents, générer du trafic et justifier des investissements publicitaires croissants. Fidji Simo, responsable de la publicité chez Facebook, qui animait en 2017 le Facebook Journalism Project de l'entreprise, énonce franchement les bases d'un

<footnote n="1">1. « *They really cater to the people who have the money, the views and the pull, and it's less about creating and supporting the small communities that come together and share their experiences.* » (Levin 2018)</footnote>
partage de la valeur entre les plateformes dominantes et les producteurs de contenus en tous genres :

> La meilleure façon pour les éditeurs de générer du revenu est de trouver des modèles économiques pérennes. Nous cherchons donc à aider les médias à créer de la valeur en restant indépendants, tout en utilisant les plateformes. [Q : Vous lancez Facebook Watch, qui proposera des vidéos originales. Allez-vous devenir éditeur?] Ce n'est pas notre objectif ultime : Facebook Watch est une plateforme sur laquelle n'importe quel créateur de contenus doit pouvoir publier des émissions, des séries... [...]Facebook est un nouveau type de plateforme. Ce n'est pas juste une entreprise de technologie. Nous avons énormément de responsabilités en raison de l'incidence que nous avons sur le monde. [...] Notre mission est très importante, ce n'est pas juste un slogan. Notre ancienne mission - « rendre le monde plus ouvert et connecté » - ne tra-duisait pas la valeur positive que la connexion du monde peut générer. Notre nouvelle mission - « rapprocher le monde » - est davantage liée aux valeurs de Facebook, qui veut non seulement connecter les gens mais aussi les rendre plus proches les uns des autres. Cette devise s'accompagne d'une autre phrase : « donner aux gens le pouvoir de construire des communautés ». Facebook s'est depuis sa création beaucoup concentré sur les amis et la famille des utilisateurs. Nous avons depuis réalisé que les communautés, au sens large, sont aussi très importantes pour associer des gens différents<fnref n="2" />.

Ainsi les chantres de la « communauté » sont-ils extrêmement tendus. Ils se livrent à une fuite en avant publicitaro-financière sans merci. Peut-on imaginer contradiction plus flagrante entre les « valeurs » professées et les comportements effectifs ? Créateur de Symphony, pépite de la communication sécurisée au succès exceptionnel, David Gurlé, un Français anciennement chez Microsoft, crée une nouvelle unité à Sophia-Antipolis : le coût d'un chercheur y est 60% moindre que dans la Silicon Valley, dit-il, et leur fidélité à l'entreprise est sans commune mesure avec la rotation infernale de règle en Californie, où chacun se met à la recherche de son prochain poste dès qu'il ou

<footnote n="2">2. Cette déclaration est contredite par les récentes évolutions de Facebook qui réduira la place de la presse dans son fil d'info personnalisé. Voir Piquard (2017).</footnote>
elle prend un nouveau poste (Chocron 2018). Construire des communautés
sur fond d'une concurrence effrénée entre individus et entreprises a toutes les
chances de rester un vœu pieux.

La cause est donc entendue : tout ce qui fait sensation continuera de circuler
sur les plateformes, les annonceurs y seront protégés <fnref n="3" /> et les producteurs de
contenus marginaux tolérés dans les zones grises d'une gratuité sans visibilité.
La neutralité du net n'a pas attendu la décision officielle des USA pour dis-
paraître des plateformes dominantes, où le Pew Research Institute constate
que la majorité des internautes s'informe (Shearer et Gottfried 2017). Chaque
plateforme cherche son positionnement : Snapchat réalise une performance
exceptionnelle en fédérant le segment le plus jeune de l'échantillon, aux ca-
ractéristiques diamétralement opposées à celles de LinkedIn (racheté par Mi-
crosoft), dont le public est le plus éduqué et le plus masculin. Facebook est
plébiscité par un public majoritairement féminin et plutôt « blanc » tandis
qu'Instagram, dont Facebook est propriétaire, accueille davantage des per-
sonnes à l'éducation moins poussée, qui se recrutent majoritairement dans les
groupes non blancs de la société américaine. Facebook aura fort à faire pour
rétablir sa crédibilité et démontrer sa neutralité face aux tendances d'une
société américaine à se polariser, ce que Zuckerberg lui-même dit craindre.
Mais, fait remarquer Julia Carrie Wong, s'il tenait à ce point au pluralisme,
Facebook cesserait de racheter des applis concurrentes et de copier Snapchat
ou Twitter... (Wong 2018a)

Attiser les désirs et combler les annonceurs

Le défi auquel Zuckerberg doit faire face est autrement plus sérieux que ce
qu'il admettait il y a deux ans (Bezat 2018). L'un de ses propres parrains
financiers mène depuis des mois une campagne de sensibilisation qui com-
mence à porter ses fruits. Qui eut cru que l'un des investisseurs les plus ex-
périmentés du secteur des technologies deviendrait un lanceur d'alerte tout
en restant actionnaire de Facebook ? Roger McNamee fait surgir une tout

<footnote n="3">3. Une preuve négative de cela : il était encore récemment possible d'utiliser quelque mot-clé que ce soit pour filtrer les récipiendaires des annonces ; ainsi le journal en ligne ProPublica a-t-il publié en septembre 2017 que Facebook laissait se propager des annonces explicitement destinées à des usagers antisémites. Cela démentait à l'évidence les propos de sa direction au sujet de ses responsabilité d'opérateur vis à vis d'un public de familles et de « meaningful communities ».</footnote>
autre image. Incapable d'éviter les manipulations de la part d'organisations intéressées à propager des rumeurs pour influencer l'opinion, Facebook aurait attendu plus d'un an pour commencer à réagir – et ce serait l'explication de la transformation en cours de ses algorithmes de classement. Des essais ayant eu lieu dès l'été 2017 dans de petits pays, et le retour donné par un journaliste serbe est clair : pour éviter les manipulations idéologiques, Facebook restreint la visibilité des nouvelles et des débats sur ses pages, en donne la priorité aux échanges privés et aux interactions de petits groupes plutôt qu'à la consultation de pages institutionnelles à faible diffusion. Cela élimine certes des intrusions indésirables, mais cela conduit à refermer le spectre des publications qui circulent et à renforcer l'isolement des petits médias. Sur ce point, Google restera un vecteur plus ouvert à ceux qui sont disposés à formuler leurs critères de recherche. Facebook a semble-t-il choisi de ne pas entrer sur un terrain qui le rendrait comptable des contenus qu'il diffuse. Ce recul stratégique est l'aveu d'une incapacité à contrôler et à différencier les contenus politiques ou polémiques des contenus litigieux ou haineux.

Ce repli sonne comme un premier succès pour la campagne menée par Roger McNamee. Cet investisseur, qui a conseillé en 2006 au jeune Mark Zuckerberg de rejeter une offre mirobolante de Yahoo!, lui a fait rencontrer Sheryl Sandberg et fut son mentor avant l'entrée en bourse. McNamee tient des propos virulents dans un article du *Washington Monthly*, où il raconte avoir été surpris dès le début de 2016 par la multiplication d'attaques exagérément polémiques présentes sur Facebook, ciblant Hillary Clinton depuis des comptes liés à la campagne de Bernie Sanders. On sait aujourd'hui que Facebook avait accueilli les conseillers de Trump pour les aider à peaufiner leurs instruments de campagne – Facebook l'aurait aussi offert à Clinton, qui a refusé, tout comme l'accès aux ciblages est offert aux grands comptes de la publicité.

La question de fond, qu'on évite trop souvent de poser, est si simple qu'on ne la voit plus : tout cela n'est-il pas la conséquence de la définition même des activités de relations publiques et d'influence dont Facebook est le centre ? Stimuler les réactions par le bouton « like » fut une incitation magistrale à multiplier les interactions entre personnes et à mesurer en permanence leur influence et leur cote. L'influence sociale, commerciale et politique décline un ensemble de préférences liées à des activités psychiquement gratifiantes, et son bruit est parfaitement mesurable par les algorithmes.
Ce thème de la manipulation psychique est un élément central de l'extra-
ordinaire popularité de Facebook et des autres plateformes auxquelles se
connectent en permanence des millions de gens, et tout autant pour com-
prendre la viralité comme l'objectif permanent de ces entreprises. Capter
l'attention est le but ultime des services qu'elles rendent :

Les gens kiffaient la stimulation immédiate liée au fait de donner
ou de recevoir une approbation publique, et Facebook collectait
des données qualifiées sur les préférences des usagers qui pou-
vaient être revendues aux annonceurs,

dit Justin Rosenberg, l'inventeur du bouton « Like » de Facebook. La sim-
plicité des moyens pour renforcer l'interaction est au cœur des applis. Ceux
qui les ont créées sont le mieux placés pour en mesurer l'impact :

Il est très courant pour les humains de développer des choses avec
les meilleures intentions, et de créer en retour des effets négatifs in-
volontaires » Rosenberg, qui a aussi contribué à créer Gchat pend-
dant une mission chez Google, et dirige maintenant à San Fran-
cisco la société Asana pour améliorer la productivité, se préoccupe
des effets psychiques sur les personnes qui, comme le montre la
recherche (Winnick 2016), touchent, balaient ou frappent leur té-
léphone 2,617 fois par jour. On se soucie de plus en plus du fait
qu'en même temps que ses effets addictifs, la technologie renforce
ce qu'on nommera « l'attention partielle continue », qui limite ra-
dicalement la concentration des gens et pourrait bien abaisser leur
QI. Une étude récente (Ward et al. 2017) a montré que la simple
présence d'un téléphone affecte la capacité cognitive – même si
l'appareil est fermé. <fnref n="4" />

<footnote n="4">4. « People enjoyed the short-term boost they got from giving or receiving social affirmation, while Facebook harvested valuable data about the preferences of users that could be sold to advertisers. [...] “It is very common,” Rosenberg says, “for humans to develop things with the best of intentions and for them to have unintended, negative consequences.” Rosenberg, who also helped create Gchat during a stint at Google, and now leads a San Francisco-based company that improves office productivity, appears most concerned about the psychological effects on people who, research shows, touch, swipe or tap their phone 2,617 times a day. There is growing concern that as well as addicting users, technology is contributing toward so-called “continuous partial attention”, severely limiting people’s ability to focus, and possibly lowering IQ. One recent study showed that the mere presence</footnote>
La propagande russe pour influencer les électeurs est donc la métonymie du fonctionnement d'ensemble des réseaux. Ce type d'intrusion n'est possible qu'en raison de la nature intrusive des ciblages qui exploitent nos faiblesses psychiques, aux dires mêmes d'anciens employés de Facebook, dont Sean Parker⁵. Tirant la leçon de son échec à faire changer Google de l'intérieur, Tristan Harris a donné des conférences, publié des articles, rencontré des parlementaires et monté une campagne pour conscientiser le public. Les procédés censés relancer notre activité en ligne convergent pour capter notre attention sans relâche, exploiter et renforcer notre demande narcissique (en nous fournissant des éléments pour attester notre existence et notre importance pour notre entourage proche ou distant) : c'est comme si chacun attendait chaque jour qu'on fête son anniversaire! Ce monde connecté a créé une norme selon laquelle chacun doit répondre sur-le-champ à toute sollicitation – avec pour effet de réduire notre capacité de concentration et nos interactions avec notre environnement physique, déjà thématisés par Nicholas Carr (2010). Le fameux « engagement » en ligne recherché par les réseaux transforme radicalement les conditions de la participation sociale. On s'associe à n'importe qui pour entrer dans une partie de jeu vidéo, mais nous ne nous risquerons plus à errer quelques quarts d'heure au hasard dans une ville. Quel bonheur de la trouvaille attirante pour qui a scénarisé par avance sa visite ? Une fois le guide de voyage devenu filtre d'évaluations en ligne qui conditionnent nos choix, sommés d'entrer dans une logique de tableaux de bord venus directement du monde managérial, comment prendre le risque d'une surprise ? Tristan Harris note le lien entre les comportements individuels et le champ social (au sens français) :

> Cela change notre démocratie et cela change notre aptitude à développer les conversations et les relations que nous voudrions avoir entre nous⁶.

*of smartphones damages cognitive capacity – even when the device is turned off.* » (Lewis 2017)

5. « It's a social-validation feedback loop ... exactly the kind of thing that a hacker like myself would come up with, because you're exploiting a vulnerability in human psychology. » (Solon 2017b)

6. « It's changing our democracy, and it's changing our ability to have the conversations and relationships that we want with each other.» Harris went public – giving talks, writing papers, meeting lawmakers and campaigning for reform after three years struggling to effect change inside Google's Mountain View headquarters. » (Lewis 2017) Harris est associé à McNamee dans leur campagne commune contre les risques personnels et collectifs que nous
Employé chez Google, il a suffi que Harris développe ses critiques pour être placardisé dans un service chargé de l'éthique dépourvu du moindre pouvoir dans l'entreprise. Il a fini par en sortir et a conclu qu'il n'y a pas besoin de supposer la moindre volonté de nuire pour établir des liens entre la persuasion et la marchandisation :

> L'entreprise peut savoir quand des ados se sentent « vulnérables », « nuls » ou « ont besoin d'une stimulation de confiance en soi ». Ce type d'infos granulaires, ajoute Harris, est typique du genre de boutons qu'on peut activer de manière individualisée. Les entreprises techno peuvent exploiter de telles fragilités pour rendre les personnes accros ; s'arrangeant par exemple pour que les « likes » reçus arrivent au moment où une personne se sent fragile ou en manque d'approbation, ou simplement s'ennuie. Et les mêmes techniques peuvent être vendues à qui paiera le plus. « Il n'y a pas d'éthique » dit-il. La société qui paiera Facebook pour utiliser ses leviers de persuasion peut être une entreprise d'automobiles ciblant des pubs adaptées aux dives types d'usagers cherchant une voiture neuve. Ou bien cela pourra être une ferme à trolls basée à Moscou tentant de retourner des électeurs dans un canton pivot du Wisconsin<fnref n="7" />.

Un autre ingénieur, reconverti dans la neurochirurgie, constate que les circuits de la dopamine sont activés par ces applis, mais fait remarquer ceci : « Il n'y a rien de fondamentalement nocif à faire revenir les gens vers votre produit. C'est le capitalisme »<fnref n="8" /> Mais James Williams, qui a créé avec Tristan Harris le site « Time well spent » et avait publié ses réflexions sur un blog avant

<footnote>font courir les plateformes.</footnote>

<footnote n="7">7. « The company can identify when teens feel “insecure”, “worthless” and “need a confidence boost”. Such granular information, Harris adds, is “a perfect model of what buttons you can push in a particular person”. Tech companies can exploit such vulnerabilities to keep people hooked; manipulating, for example, when people receive “likes” for their posts, ensuring they arrive when an individual is likely to feel vulnerable, or in need of approval, or maybe just bored. And the very same techniques can be sold to the highest bidder. “There’s no ethics”, he says. “A company paying Facebook to use its levers of persuasion could be a car business targeting tailored advertisements to different types of users who want a new vehicle. Or it could be a Moscow-based troll farm seeking to turn voters in a swing county in Wisconsin”. »</footnote>

<footnote n="8">8. « It is not inherently evil to bring people back to your product, It's capitalism. »</footnote>
l'élection de Trump <fnref n="9" />, est plus radical :

Cela privilégie nos impulsions sur nos intentions. Ce qui signifie privilégier ce qui est sensationnel sur ce qui est nuancé, mobilisant l'émotion, l'inquiétude et la colère. Les médias d'info travaillent de plus en plus comme des alliés des entreprises de technologies, ajoute Williams, et doivent jouer avec les règles de l'économie de l'attention pour « frapper, appâter et divertir pour survivre », et il lie à ces réactions la transformation du débat public « On s'est habitué nous mêmes à un style cognitif en permanence réactionnel et avons intériorisé la dynamique de ces médias. Si la politique est une expression de la volonté humaine, alors l'économie attentionnelle mine fondamentalement les thèses sur lesquelles repose la démocratie <fnref n="10" />.

Dès avant l'élection de Donald Trump, Williams écrivait :

> Il vaudrait mieux nommer les média sociaux « médias impulsifs ».
> L'abondance et l'immédiateté sans précédent d'information à l'ère
> numérique a fait de notre monde un flot incessant de nouveaux
> stimuli attentionnels <fnref n="11" />.

<footnote n="9">9. « However, even more interrobang-able than the prospect of a Trump presidency is the fact that those opposing his candidacy seem to have almost no understanding of the media dynamics that have enabled it to rise and thrive. Trump is perhaps the most straightforward embodiment of the dynamics of the so-called "attention economy" — the pervasive, all-out war over our attention in which all of our media have now been conscripted — that the world has yet seen. He is one of the geniuses of our time in the art of attentional manipulation. A better name for "social media" would be "impulsive media." The unprecedented abundance and instantaneity of information in the digital era has turned our world into a never-ending flow of novel attentional rewards. » (Williams 2016).</footnote>

<footnote n="10">10. « It privileges our impulses over our intentions. That means privileging what is sensational over what is nuanced, appealing to emotion, anger and outrage. The news media is increasingly working in service to tech companies, Williams adds, and must play by the rules of the attention economy to "sensationalise, bait and entertain in order to survive" », et il lie à ces réactions la transformation du débat public : « We've habituated ourselves into a perpetual cognitive style of outrage, by internalising the dynamics of the medium. If politics is an expression of our human will, on individual and collective levels, then the attention economy is directly undermining the assumptions that democracy rests on. » (Williams 2016).</footnote>

<footnote n="11">11. « A better name for "social media" would be "impulsive media." The unprecedented abundance and instantaneity of information in the digital era has turned our world into a never-ending flow of novel attentional rewards. » (Williams 2016).</footnote>
Facebook semble avoir perçu le message puisque le thème du « temps bien utilisé » fut celui du message de nouvel an de Zuckerberg. Cela montre bien, comme l'indiquait déjà Georg Simmel en 1900, que la concentration territo-riale est centrale pour comprendre la modernité. L'accélération capitaliste, le « tempo » selon Simmel, et sa critique la mieux pensée, partagent les mêmes ascenseurs et les mêmes parkings : parfois, seule la situation des ac-teurs permet de distinguer la bonne foi du cynisme. Quand, dans la foulée des révélations sur le piratage de Facebook par les fake news, la directrice générale de Facebook Sheryl Sandberg dit

> Notre absolue priorité est la sécurité des gens. Et on ne s'arrêtera pas tant que nous n'aurons pas toutes les assurances à ce sujet<fnref n="12" />,

nous savons que nous sommes dans la communication de crise. Il en va de même du propos officiel de Zuckerberg<fnref n="13" />, empreint en 2017 d'une candeur toute californienne :

> Habitant ici en Californie, nous ne sommes pas les mieux placés pour identifier les normes culturelles autour du monde. Au lieu de cela, nous avons besoin d'un système tel que nous puissions tous contribuer à en mettre en place les standards (Zuckerberg 2017).

<footnote n="12">12. « Facebook's chief operating officer said : "Keeping people safe is our top priority. We won't stop until we get it right". » (Aitkenhead 2017) Voir aussi (Gibbs 2017).</footnote>

<footnote n="13">13. « Building Global Community : Fourth, we're operating at such a large scale that even a small percent of errors causes a large number of bad experiences. We review over one hundred million pieces of content every month [...] Sitting here in California, we're not best positioned to identify the cultural norms around the world. Instead, we need a system where we can all contribute to setting the standards. Although this system is not fully developed, I want to share an idea of how this might work. The guiding principles are that the Community Standards should reflect the cultural norms of our community, that each person should see as little objectionable content as possible, and each person should be able to share what they want while being told they cannot share something as little as possible. The approach is to combine creating a large-scale democratic process to determine standards with AI to help enforce them. The idea is to give everyone in the community options for how they would like to set the content policy for themselves. Where is your line on nudity ? On violence ? On graphic content ? On profanity ? What you decide will be your personal settings. We will periodically ask you [...] Although we will still block content based on standards and local laws, our hope is that this system of personal controls and democratic referenda should minimize restrictions on what we can share. »</footnote>
L'idée même de possibles contradictions ou de conflit de valeurs est abolie. L'homologie de principe entre les participants d'une collectivité supposée intégrée (une communauté) semble aller de soi. En contrepoint, elle sous-entend que ceux qui ne s'y reconnaissent pas s'excluent d'eux-mêmes. C'est d'ailleurs ce que rappellera Julia Carrie Wong des débuts de Facebook à Harvard. Pour les premiers inscrits, les autres étudiants devinrent vite ceux qui restaient sur le côté (2018b). Cette attitude mimétique neutralise les différences par cantonnement : s'ils revendiquent des particularités, appliquons-leur une exception et conservons nos habitudes – chacun chez soi. Facebook pratique le style californien pour traiter les particularités. Il se plie aux nouvelles règles juridiques européennes tout en s'efforçant d'en « protéger » le plus possible de comptes. Cette placidité flexible reste centrée sur une ligne de compromis entre la maximisation des réactions en ligne et le respect de la légalité. Quand Zuckerberg écrit que

> chacun ne doit voir que le minimum de contenus alarmants selon lui et pouvoir en partager le plus possible en se heurtant au minimum d'interdiction de partager,

il évoque un processus « démocratique » qui s'appuiera sur l'intelligence artificielle. La censure au nom de normes dominantes devient donc la règle ! De là un renforcement assumé de la bulle de filtrage, seul résultat prévisible des algorithmes. Mais notre perplexité est grande en constatant que cette candeur toute californienne conduit Mark Zuckerberg à revendiquer une grande tolérance en matière d'opinions radicalement vindicatives et extrémistes. Zuckerberg passe sans solution de continuité du droit à l'erreur à l'excuse pour les pires calomnies. Au fond, une totale indifférence aux opinions d'autrui et l'opposition de principe à imputer une intention aux publications les plus vindicatives le poussent à se désintéresser de tout contenu infâme qui circule sur les pages de Facebook. Dans un entretien avec Kara Schwisher (2018), qui l'interroge sur l'espace accordé au négationnisme et la propagande mensongère sur Facebook, Zuckerberg répond que les menaces directes à l'encontre d'une personne identifiable peuvent faire l'objet d'une suppression, mais non la publication d'opinions haineuses s'abritant derrière des contre-vérités flagrantes :

> C'est difficile de fustiger une intention et de comprendre ce qu'est l'intention. Il me semble que, si repoussants que soient certains de ces cas, qu'en réalité moi aussi je commets des erreurs en
m'exprimant en public, et je suis sûr que vous aussi. Alors ce qu'on fera c'est de dire : « D'accord, vous avez votre page, et si vous ne tentez pas de fomenter la vindicte contre quelqu'un ou d'attaquer quelqu'un, alors vous pouvez publier ces contenus sur votre page, même si des gens peuvent être s'y opposer ou les tenir pour offensifs <fnref n="14" />. (Swisher 2018)

Les annonces de 2018 sont donc conformes à *Building Global Community*. Les standards culturels et la mention des choix individuels servent d'alibi pour une neutralité d'indifférence. Toute représentation, même minoritaire ou extrême, est miscible dans le consensus tiède d'une vie sempiternellement bercée par le bonheur de vibrer en harmonie avec sa « communauté ». Ces opinions minoritaires sont réputées être réduites à l'invisibilité du simple fait qu'elles restent cantonnées à de petits groupes. Mais cela n'empêche ni l'activisme en réseau ni la prolifération de stupidités et d'erreurs manifestes, et limite d'autant la diffusion de pages soucieuses de corriger les pires mensonges et d'informer le public. Sans doute est-ce l'un des motifs pour lesquels Zuckerberg voit Facebook comme un soutien des communautés traditionnelles, que la vie contemporaine a fragilisé. Le pompier pyromane restaure d'une main ce qu'il a réduit préalablement en cendres. Et pour des contenus excessivement violents ou provocateurs, pourquoi les protéger ? Ils ne rapportent guère en termes de publicité et peuvent circuler ailleurs. Mais Facebook mondialise une approche conquérante qui ne tient nullement compte des cultures. Il s'agit d'animer un marché et d'offrir un service standard fondé sur un puisant réseau de serveurs interconnectés qui met des millions d'usagers captifs à la disposition des annonceurs. Peu importe, à vrai dire, quelles sont les idées et les visions du monde de chacun, et il a été montré que parmi les mots-clés utilisables sur Facebook, il était possible, jusqu'à ce que cela ait été signalé, d'utiliser des termes clairement antisémites comme élément de ciblage (Solon 2017a).

La prose apologétique de Facebook a-t-elle une effectivité quelconque, hor-
mis celle de bercer les employés et les investisseurs ? Comment catégoriser les

<footnote n="14">14. « It's hard to impugn intent and to understand the intent. I just think, as abhorrent as some of those examples are, I think the reality is also that I get things wrong when I speak publicly. I'm sure you do. What we will do is we'll say, "Okay, you have your page, and if you're not trying to organize harm against someone, or attacking someone, then you can put up that content on your page, even if people might disagree with it or find it offensive." » (Swisher 2018)</footnote>
devoirs du réseau ? Leur liste est-elle cohérente ? Comment garantir la concordance de ces orientations proclamées avec les moyens dont Facebook dispose ou pourrait disposer ? Il aura fallu que la crise s'approfondisse vraiment pour que Zuckerberg parle d'une réflexion d'ordre normatif pour contrôler certains algorithmes (2018). Les textes portant sa signature laissent dubitatifs. Faute de pouvoir filtrer assez finement les contenus, et pour éviter toute mise en cause d'ordre rédactionnel, Facebook minore les contenus rédactionnels. Comment distinguer entre des récits sur le terrorisme et une propagande terroriste ? Sans même parler des multiples ambiguïtés et zones grises,

> Il est impossible pour des algorithmes seuls de gérer l'expérience humaine, et cela demande une grande maîtrise des cultures et des langues<fnref n="15" />

Certes la plupart des utilisateurs se satisferont des réglages rénovés par Facebook, la préoccupation dominante portant sur la qualité de sa connexion et de celle de ses proches. Mais l'exigence de publier sous son identité véritable interdit toute publication qui mettrait en danger ses auteurs dans des contextes professionnels ou de surveillance de toute nature. Toujours lié aux pouvoirs, Facebook n'accepte les expressions critiques que sous des formes édulcorées qui permettent aux pouvoirs de vanter leur tolérance. Ce n'est d'ailleurs que pour l'Europe que Facebook assouplit ses standards : exiger le débat public informé semble une anomalie propre au Vieux Continent. Ni l'Afrique ni l'Amérique latine ne sont présents dans le texte *Building Global Community* et l'Asie est présentée comme une région du monde où les normes restrictives continueront de s'appliquer. Facebook répond aux critiques des « lissages » qu'il pratique en invoquant l'inclusion communautaire : il s'agit de réduire les exceptions, exclusions et censures pour prendre en compte des dimensions moins conservatrices dans le traitement des images et des discours, à condition qu'elles ne créent pas de contestation. La diversité culturelle interdisant de satisfaire tous les usagers par une norme unique, il s'agirait d'aller vers un « contrôle personnel de notre présence en ligne »<fnref n="16" /> permettant d'activer

<footnote n="15">15. « *It's impossible for algorithms alone to manage human experience*," said Peter Friedman, CEO of LiveWorld, which provides moderation services to big brands. "*This is highly complex work*," Roberts said, "*and requires a mastery of many topics, current events, other cultures and languages, so it's interesting that it's so devalued*." Miller agrees: "*However clever Facebook is, so much of this is impressionistic and contextual and difficult to interpret*." » (Solon 2017a)</footnote>

<footnote n="16">16. « *a system of personal control over our experience* ».</footnote>
diverses options de réception et de partage des contenus désirés ou écartés
par chacun. Ces constats seraient le nouvel horizon de Facebook comme ser-
vice ouvert à « davantage de contenus informatifs de qualité et de contenus
historiques »<fnref n="17" />. L'histoire ne s'arrêtera pas là : un tribunal allemand vient
de révoquer au nom de la protection des données personnelles la règle de
Facebook interdisant de s'inscrire sous un pseudonyme (en cas d'enquête la
police pourrait toujours exiger la communication des IP) et la France exige de
connaître l'identité des annonceurs ayant fait passer des intox et le montant
des contrats passés avec Facebook.

McNamee / Facebook

Convaincu du péril qui guette la démocratie du fait de la radicalisation d'une
opinion publique influencée par des discours radicaux que rien ne vient tem-
pérer, McNamee a entrepris une campagne civique dont un article, intitulé
« Comment contrôler Facebook avant qu'il ne vous contrôle » (2018), est un
élément :

Mon habitude de stimuler l'engagement actif m'a permis de
remarquer qu'il se passait quelque chose de bizarre en février
2016. La primaire du parti démocrate se préparait dans le
New Hampshire, quand j'ai commencé à remarquer une marée
d'interventions stéréotypées (memes) méchamment misogynes et
anti-clintoniens émanant de groupes Facebook soutenant Bernie
Sanders. Je sais comment créer du flux et de la mobilisation <fnref n="18" />
sur Facebook. Ce n'était pas de la mobilisation. Cela se présen-
tait comme bien organisé, avec un budget publicitaire. Mais la
campagne de Sanders n'était sûrement pas stupide au point de
lancer elle-même ces memes. Je ne savais pas ce qui se passait,
mais je m'alarmai d'imaginer qu'on se servait de Facebook d'une
manière éloignée des intentions de ses fondateurs <fnref n="19" />.

<footnote n="17">17. « newsworthy & historical content ».</footnote>

<footnote n="18">18. « to build engagement organically ».</footnote>

<footnote n="19">19. « My familiarity with building organic engagement put me in a position to notice that something strange was going on in February 2016. The Democratic primary was getting under way in New Hampshire, and I started to notice a flood of viciously misogynistic anti-Clinton memes originating from Facebook groups supporting Bernie Sanders. I knew how to build engagement organically on Facebook. This was not organic. It appeared to be</footnote>
Repérant des phénomènes analogues dans la campagne du Brexit – on a beaucoup glosé à l’époque sur les arguments démagogiques de la campagne du « *leave* », mais sans suffisamment comprendre leur caractère viral sur les réseaux – Roger McNamee réfléchit à la profonde transformation de l’activité publicitaire / propagandiste intervenue avec la diffusion des *smartphones* et les algorithmes des réseaux sociaux. Pour faire bref, il considère que les ordinateurs personnels ne pouvaient pas l’emporter contre les médias traditionnels : rivés à un bureau ou faiblement connectés, ils laissaient les journaux, les radios et même la télévision accompagner chacun sans se confondre avec l’espace personnel. Tout a changé avec les *smartphones* et des réseaux sociaux permettant à chacun d’être partout connecté à son environnement préférentiel.

Les usagers les plus susceptibles de réagir aux messages pro-Brexit étaient probablement moins fortunés, et on pouvait les cibler pour pas trop cher. Le prix des pubs sur Facebook (et Google) est fixé par enchères, et le prix requis pour cibler les consommateurs du haut de l’échelle est tiré vers le haut par les entreprises qui tentent de leur vendre des choses. Par conséquent, Facebook était une plateforme bien plus efficace et moins coûteuse pour les pro-Brexit en terme de coût par usager atteint. Et les bulles de filtrage garantissaient que les gens situés côté pro-Brexit ne verraient pas souvent contredites leurs croyances fumeuses. Ce modèle de Facebook a peut-être eu le pouvoir de bouleverser un continent entier²⁰.

McNamee certifie qu’il a averti la direction de Facebook, que les réponses ont été évasives, du genre « on travaille beaucoup pour sécuriser Facebook ; en plus, on n’est pas une entreprise de média, on est pas responsables des

well organized, with an advertising budget. But surely the Sanders campaign wasn't stupid enough to be pushing the memes themselves. I didn't know what was going on, but I worried that Facebook was being used in ways that the founders did not intend. » (McNamee 2018)

20. « [...] the users most likely to respond to Leave's messages were probably less wealthy and therefore cheaper for the advertiser to target : the price of Facebook (and Google) ads is determined by auction, and the cost of targeting more upscale consumers gets bid up higher by actual businesses trying to sell them things. As a consequence, Facebook was a much cheaper and more effective platform for Leave in terms of cost per user reached. And filter bubbles would ensure that people on the Leave side would rarely have their questionable beliefs challenged. Facebook's model may have had the power to reshape an entire continent. »
contenus ». Dès lors, au printemps 2017, McNamee, effaré des renforcements de croyance liés à la bulle de filtrage, entreprend d'agir par lui-même.

L'usage d'algorithmes pour donner aux consommateurs « ce qu'ils attendent » mène chacun vers un flux infini de liens qui confirment les convictions préexistantes de chaque usager. Sur Facebook, c'est notre fil d'info, sur Google ce sont les réponses individuellement adaptées à nos requêtes. Au final, chacun voit une version différente de l'Internet conçue pour créer l'illusion que tous les autres sont d'accord avec nous. Les renforcements continus de nos convictions existantes ont pour effet d'enraciner plus profondément ces croyances tout en les rendant plus extrêmes et plus résistantes aux évidences contraires. Facebook accroît encore la force de ce concept avec sa mise en scène de « groupes » qui encourage les usagers aux idées similaires à se rassembler autour de leurs centres d'intérêts et convictions partagés. Même si cela profite réellement aux usagers, le profit maximum va aux annonceurs qui peuvent d'autant plus efficacement cibler les publics [...] de petits investissements dans la pub et les memes postés sur Facebook atteindront de la sorte des dizaines de millions de personnes. Des stratégies analogues sont mises en œuvre sur les autres plateformes, y compris Twitter. Développer ces deux techniques, les bots et les trolls, s'avère coûteux en temps et en argent, mais le retour sur investissement aura été superbe 21 !

Le point central est ici que la manière dont Facebook soutient l'émergence de « meaningful groups » permettant un ciblage publicitaire efficace est un point

<footnote n="21">21. « The use of algorithms to give consumers “what they want” leads to an unending stream of posts that confirm each user’s existing beliefs. On Facebook, it’s your news feed, while on Google it’s your individually customized search results. The result is that everyone sees a different version of the Internet tailored to create the illusion that everyone else agrees with them. Continuous reinforcement of existing beliefs tends to entrench those beliefs more deeply, while also making them more extreme and resistant to contrary facts. Facebook takes the concept one step further with its “groups” feature, which encourages like-minded users to congregate around shared interests or beliefs. While this ostensibly provides a benefit to users, the larger benefit goes to advertisers, who can target audiences even more effectively. [...] small investments in advertising and memes posted to Facebook groups would reach tens of millions of people. A similar strategy prevailed on other platforms, including Twitter. Both techniques, bots and trolls, take time and money to develop—but the payoff would have been huge. »</footnote>
d'entrée fonctionnel pour toute organisation qui tente d'infléchir le comporte-
ment des membres de ces groupes. La logique affinitaire de Facebook rendait
particulièrement effective les intrusions depuis des comptes ad hoc déployant
de multiples incitations qui seraient naïvement reprises et rediffusées par des
citoyens aux opinions extrêmes.

L'approche réglementaire très « laissez-faire » du gouvernement américain a permis aux plateformes d'Internet de mener des stratégies d'entreprises qui leur auraient été interdites dans les décennies antérieures. Personne ne les a empêchés d'utiliser la gratuité des leurs services pour centraliser l'Internet au point de se substituer ensuite à ses fonctions essentielles. Personne ne les a empêchés de siphonner les revenus des créateurs de contenus. Personne ne les a empêchés de stocker des données sur chaque élément de la vie en ligne de chaque internaute. Personne ne les a empêchés d'atteindre des parts de marchés jamais vues depuis l'époque de la Standard Oil. Personne ne les a empêchés de mettre en route des expériences sociales et psychologiques de grande envergure sur leurs utilisateurs. Personne ne leur a demandé de policer leurs plateformes. C'était vraiment une aubaine.

Une semaine avant l'élection de 2016, j'ai contacté Zuckerberg et Sandberg par e-mail, insistant sur l'obligation pour Facebook de s'assurer que sa plateforme ne soit pas exploitée par des acteurs nocifs. Chacun me répondit le lendemain, disant : Nous apprécions ta franchise, mais pensons que tu interprètes mal ces infos.
[...]

Mais nous avons vu où mène l'autodiscipline, et c'est moche. Mal-
heureusement, il n'y a pas de solution miracle pour réglementer.
L'étendue du problème requiert une réponse à plusieurs facettes.

En premier lieu, nous devons affronter la résistance aux faits
créée par les bulles de filtrage. Les sondages indiquent que le
tiers environ des Américains tiennent pour une intox l'interfé-
rence russe dans l'élection en dépit de l'unanimité des agences de
renseignement du pays pour dire le contraire. Aider ces gens à
accepter la vérité est une priorité. Je recommande d'obliger Fa-
cebook, Google, Twitter et d'autres à contacter individuellement
chacun de ceux qui ont été touchés par les contenus russes par un message disant : « Vous avez été manipulés comme nous par les Russes. Cela a vraiment eu lieu et en voici la preuve ». Le message inclurait chaque message reçu par la personne.

Cette idée, discutée avec mon collègue Tristan Harris, est fon-
dée sur son expérience des sectes. Pour déradicaliser un membre
d'une secte, il est essentiel que l'appel à agir vienne d'un autre
membre de la secte, idéalement de son chef. Les plateformes diront
que c'est trop cher. Facebook a signalé que jusqu'à 126 millions
d'Américains ont été affectés par les interventions russes sur sa
plateforme principale, à quoi s'ajoutent vingt autres millions sur
Instagram qui lui appartient. Additionnés, ces chiffres dépassent
le nombre des 137 millions d'Américains qui ont voté en 2016.
Facebook a proposé d'ouvrir un portail auquel on accéderait par
le biais de son centre d'assistance pour que les utilisateurs cu-
rieux puissent vérifier s'ils ont été atteints par les manips russes
modulo le bouquet de groupes Facebook créés par une ferme de
trolls. Mais cela est bien en deçà de ce qu'il faut faire pour préve-
nir les manipulations en 2018 et après. Il ne fait aucun doute que
les plateformes ont la capacité technique pour identifier et joindre
toute personne touchée. Quel qu'en soit le coût, les entreprises de
plateformes doivent se résoudre à le payer en compensation de
leur permissivité négligente face à ces manipulations.<fnref n="22" />

<footnote n="22">22. « Thanks to the U.S. government's laissez-faire approach to regulation, the Internet platforms were able to pursue business strategies that would not have been allowed in prior decades. No one stopped them from using free products to centralize the Internet and then replace its core functions. No one stopped them from siphoning off the profits of content creators. No one stopped them from gathering data on every aspect of every user's Internet life. No one stopped them from amassing market share not seen since the days of Standard Oil. No one stopped them from running massive social and psychological experiments on their users. No one demanded that they police their platforms. It has been a sweet deal. A week before the 2016 election, I emailed Zuckerberg and Sandberg, suggesting that Facebook had an obligation to ensure that its platform not be exploited by bad actors. They each responded the next day, saying: We appreciate you reaching out, but think you're misinterpreting the news. [...] But we've seen where self-regulation leads, and it isn't pretty. Unfortunately, there is no regulatory silver bullet. The scope of the problem requires a multi-pronged approach. First, we must address the resistance to facts created by filter bubbles. Polls suggest that about a third of Americans believe that Russian interference is fake news, despite unanimous agreement to the contrary by the country's</footnote>
McNamee se concentre dans la suite de son manifeste sur les aspects réglementaires. Son propos est d'une grande cohérence et ses idées ont déjà des effets sur le débat public : outre le fait que Facebook s'est fendu d'un message personnel à chacun des millions de gens dont l'identité a été ciblée par Cambridge Analytica et les sites de bots russes, Zuckerberg a du se justifier personnellement face au Congrès et au Parlement européen.

Ce n'est pas seulement important pour le public, mais tout autant pour une autre partie : les employés qui font tourner ces géants technologiques. Si nombre de ceux qui animent la Silicon Valley sont des libertariens exagérés, les gens qui y travaillent sont plutôt idéalistes. Ils veulent croire que ce qu'il font est bien. Contraindre des patrons des techs comme Mark Zuckerberg à justifier l'injustifiable, publiquement et sans la protection des porte-paroles ou du conseiller du président, ferait beaucoup pour /crever dégonfler percer/ aux yeux de leurs employés leur culte de la personnalité si soigneusement cultivé.

Ces deux remèdes ne seraient qu'un premier pas. Il nous faut aussi des contrôles réglementaires, ajoute McNamee. Il propose en substance de ban-

intelligence agencies. Helping those people accept the truth is a priority. I recommend that Facebook, Google, Twitter, and others be required to contact each person touched by Russian content with a personal message that says, "You, and we, were manipulated by the Russians. This really happened, and here is the evidence." The message would include every Russian message the user received. This idea, which originated with my colleague Tristan Harris, is based on experience with cults. When you want to deprogram a cult member, it is really important that the call to action come from another member of the cult, ideally the leader. The platforms will claim this is too onerous. Facebook has indicated that up to 126 million Americans were touched by the Russian manipulation on its core platform and another twenty million on Instagram, which it owns. Together those numbers exceed the 137 million Americans who voted in 2016. What Facebook has offered is a portal buried within its Help Center where curious users will be able to find out if they were touched by Russian manipulation through a handful of Facebook groups created by a single troll farm. This falls far short of what is necessary to prevent manipulation in 2018 and beyond. There's no doubt that the platforms have the technological capacity to reach out to every affected person. No matter the cost, platform companies must absorb it as the price for their carelessness in allowing the manipulation. Second, the chief executive officers of Facebook, Google, Twitter, and others—not just their lawyers—must testify before congressional committees in open session. » (McNamee 2018)

La citation « no one... » parodie Brecht : « Quand ils ont chassé les communistes, je n'ai rien dit... ».
nir les bots qui se présentent comme des personnes et de signaler toute base
de diffusion automatisée. Surtout, il réfléchit aux mesures anticoncentration
pour offrir à chacun de nouvelles alternatives : interdire toute nouvelle acqui-
sition de la part des principaux acteurs, publier les noms de ceux qui sont
derrière les sites de propagande, et aussi les critères de ciblage retenus par
les annonceurs pour sélectionner des profils d'utilisateurs, offrir à chacun le
droit de rejeter les actualisations et nouveaux termes contractuels, en sorte
de restaurer une diversité partout, donner une limite temporelle à l'exploita-
tion de nos données par la plateforme et rendre les utilisateurs maîtres de
celles-ci par défaut en leur donnant à tout moment le droit de les retirer. En
conclusion, McNamee écrit :

L'addiction à Facebook, YouTube et autres plateformes a un coût. La manipulation des élections a un coût. Une innovation en berne et la réduction de l'esprit d'entreprise a un coût. Tous ces coûts sont tangibles aujourd'hui. On peut les quantifier suffisamment bien pour juger que les coûts pour les consommateurs de la concentration de l'Internet sont injustifiablement élevés.

L'orientation proposée par McNamee va à l'encontre des propos tenus par ceux qui insistaient pour que Facebook reconnaisse son rôle éditorial dans l'analyse des contenus en circulation. Laissant ces questions de côté, McNamee tient à des excuses publiques et à une réglementation qui bannisse les comptes programmés pour adresser des messages ciblés à la cantonade sans qu'on sache qui les contrôle. Au-delà de la mise à disposition des algorithmes utilisés par les plateformes pour stimuler ou restreindre la diffusion des documents, il aborde surtout l'aspect industriel. Il prend au mot le plaidoyer de Zuckerberg et de ses proches qui se voient comme une entreprise de technologie, non comme éditeurs, et les évolutions annoncées renforcent cette dimension algorithmique : les éditeurs se plaignent déjà de la réduction du lекторat que leur procure Facebook. McNamee propose une révision radicale du contrat type de Facebook et des autres plateformes : si nous devions consentir explicitement à toute actualisation du programme et avions la possibilité de refuser certaines modifications, il en résulterait une diversité d'options fonctionnelles. Pour peu qu'une interopérabilité soit exigée des plateformes et que soit établi le droit pour chacun de faire disparaître ses données ou de les transférer vers tout autre réseau numérique de son choix, cela changerait le jeu et briserait l'impunité monopolistique. Le temps est venu, dit-il, de
restituer à l'Internet sa diversité perdue et de dégonfler la bulle boursière qui a accompagné la montée en puissance de monopoles comme ceux de Google et de Facebook. Leur appliquer des lois anticoncentration leur interdirait de ratisser le marché des innovations pour le stériliser et se l'approprier. Cette approche industrielle semble davantage à la hauteur du problème que toute mise en question morale ou demande de supervision des contenus qu'à l'évidence les responsables de Facebook sont incapables d'assurer.

À peine publiée, cette opinion de Roger McNamee se voit prise en tenaille entre deux réactions opposées. D'une part, les résultats financiers de Facebook font mentir les Cassandre. Les marchés laissent du temps à Zuckerberg pour corriger les défauts de sa plateforme<fnref n="23" /> : les investisseurs ont trop à perdre! Qui donc relaierait avec énergie les demandes politiquement ciblées de McNamee ? Ce dernier a toute chance de rester isolé. En contrepoint, une enquête du *New York Times* (Confessore et al. 2018) confirme que des dizaines de millions de faux comptes sont actifs sur Twitter et Facebook, dans le cadre d'un commerce de la notoriété. Ceux qui ont investi dans ce business de la notoriété en ont souvent obtenu des retombées publicitaires et financières considérables. Une parlementaire britannique a fêté sa nomination au conseil d'administration de Twitter en achetant 25 000 adresses (un rien dans ce monde), probablement pour affirmer sa position dans un conseil plus sélectif que la Chambre des Lords, à laquelle elle appartient. Le *NYT* évoque l'histoire rocambolesque d'une entreprise fantôme menée par un jeune hacker de 25 ans capable d'activer des millions de fausses identités en activant des comptes existants et en les détournant à l'insu de leurs titulaires, activité en partie sous-traitée aux Philippines... En l'occurrence, ce jeune hacker a fait fortune en revendant des millions d'adresses à des personnalités et en les rendant actives sur des bots, puis ses correspondants philippins tentent de lui prendre son affaire, ce qui finit par déclencher des fuites et sa chute. Twitter se gardait bien de vérifier la conformité des identités à ses chartes. Du trafic en plus et des profits pour ses usagers, cela valait mieux que de payer pour dégonfler cette bulle. C'est que le cœur des réseaux sociaux, c'est l'expérience-utilisateur<fnref n="24" />. Et tout semblait fonctionner. Twitter n'est sans

<footnote n="23">23. Une alerte boursière est intervenue en juillet 2018 lorsque Facebook a annoncé que la croissance de ses résultats n'accélérerait plus. Les ventes spectaculaires de ce jour-là ont permis à bon nombre de gestionnaires de concrétiser leurs gains, et l'action est en passe de retrouver ses sommets...</footnote>

<footnote n="24">24. « *They found, unsurprisingly, that social media is the predominant force impacting the political opinions of young people, referring to Facebook as being a "monopoly platform*</footnote>
doute pas un cas isolé²⁵.

for public life". They found that authoritarian regimes use it for social control, and in democracies, it is used for "computational propaganda either through broad efforts at opinion manipulation or targeted experiments on particular segments of the public". So, again, social control. The results and tactics may appear different, but the results are similar.

The paper also looks at how countries have tried to counter the impact. In the Ukraine, where citizens have been subjected to some of the "most globally advanced" tactics, responses have largely been from private organisations and there has been no unified government crackdown. Germany is the only country, the researchers believe, to have been proactive enough, even going so far as to consider implementing new laws that would see social networks fined for not complying – a measure that the UK is threatening to adopt to deal with the proliferation of hate speech online. But this could come with its own problems. "Governments want to task tech giants more and more to police online spaces, but we don't want tech giants to become even more powerful than they are," says Miller. "On the other hand we are worried about what is fake news and what is real news, but we haven't tolerated that amount of government intervention before. The government stays out of that." "Twitter has a direct interest in protecting the user experience and that definitely means shutting down gobby bots." For Twitter, though, Miller points out that any acknowledgement of the scale of the problem can be damaging. "When they released an estimate that they thought 10 per cent of Twitter users were bots, its share price toppled. We have got to do something about that market disincentive. They've got to find a way of being transparent without the share price collapsing."

The coauthors of the paper, Samuel Woolley and Philip Howard of the Oxford Internet Institute (« Computational Propaganda Worldwide : Executive Summary » 2017), have warned that whatever the means, social networks must do more. Warning that there are a series of important global events upcoming, including elections in Germany, Egypt, Brazil and Mexico, the pair emphasise how important it will be to allow the promotion of legitimate news from reputable sources.

"Ultimately, designing for democracy, in systematic ways, will help restore trust in social media systems. Computational propaganda is now one of the most powerful tools against democracy. Social media firms may not be creating this nasty content, but they are the platform for it. They need to significantly redesign themselves if democracy is going to survive social media."

The reports suggested an apparent disinterest from the social media firms in how their networks were being used. Facebook, for instance, leaves most of its anti-propaganda work to external organisations such as Snopes and the Associated Press, who operate semi-autonomous fact-checking teams aimed at marking viral news stories as true or false while Twitter's anti-bot systems are effective at fighting commercial activity on the site, but seem less able or willing to take down automated accounts engaging in political activity." (Clark 2017)

25. D'autant que le problème était connu : « For Twitter, though, Miller points out that any acknowledgement of the scale of the problem can be damaging. "When they released an estimate that they thought 10 per cent of Twitter users were bots, its share price toppled. We have got to do something about that market disincentive. They've got to find a way of being
## Mark Zuckerberg, un Pangloss milliardaire ?

Cette approche de l'expérience-utilisateur était au cœur d'un entretien de Zuckerberg avec Farhad Manjoo en avril 2014²⁶. À cette date, son appétit tous azimuts et son pragmatisme total sont criants. Interrogé sur l'aptitude de Facebook à innover après avoir échoué à racheter Snapchat, Zuckerberg vante les équipes créatives de Facebook. Il indique que

> Facebook n'est pas monoproduit [...] Sur les terminaux mobiles, les gens veulent des choses diverses. La facilité d'accès est capitale. Et tout autant le fait de contrôler les trucs qui vous envoient des messages. Et le matériel est vraiment petit. Dans le mobile, il y a tout à gagner à créer des expériences spécifiques de première qualité. C'est pourquoi notre intention avec les Creative Labs consiste vraiment à décompacter la grosse appli bleue. [...] Vous allez nous voir explorer des domaines pour lesquels nous sentions que nous manquions de place jusqu'ici.<fnref n="27" />

Démultiplier les applis, c'est la logique sur *smartphone*, ce qui menace toute position acquise. Zuckerberg entend donc coloniser le monde des applis en même temps qu'il veut déployer les possibilités de Facebook. Racheter Instagram et WhatsApp était stratégique pour éviter de laisser des concurrents s'installer. Il insiste sur le cœur de cible que constitue la vie personnelle des usagers. En même temps, il souhaiterait faire de Facebook le carrefour des informations – l'appli Paper et le Newsfeed en sont les instruments, dit-il en 2014. Tout à sa tentative de contrôler les communications mondiales (rôle notamment dévolu à la plateforme Internet.org, le *package* de connexion bas

<footnote>transparent without the share price collapsing.” [...] “Ultimately, designing for democracy, in systematic ways, will help restore trust in social media systems. Computational propaganda is now one of the most powerful tools against democracy. Social media firms may not be creating this nasty content, but they are the platform for it. They need to significantly redesign themselves if democracy is going to survive social media.” » (Clark 2017)</footnote>

<footnote n="26">26. Voir Manjoo (2014) et article connexe (Manjoo 2017).</footnote>

<footnote n="27">27. « Facebook is not one thing. [...] On mobile, people want different things. Ease of access is so important. So is having the ability to control which things you get notifications for. And the real estate is so small. In mobile there's a big premium on creating single-purpose first-class experiences. So what we're doing with Creative Labs is basically unbundling the big blue app. [...] You'll see us exploring new areas that we felt we didn't have the room to do before. » (Manjoo 2017)</footnote>
de gamme destiné par Facebook à casser les prix dans les pays en développement), Facebook a négligé de contrôler les contenus et leur circulation virale, d'autant que, côté développement, l'efficacité des moteurs de recherche sur applis mobiles est limitée :

> la vraie question sera celle de leur efficacité sur mobile une fois que la recherche de billets (posts) marchera. À mon avis, cela prendra cinq ans. Nous devons y penser dans la durée. En fait, on a vu que le domaine des messages est bien plus vaste que ce que nous pensions au début, et que les situations d'usage de WhatsApp et Messenger sont plus différenciés que nous le pensions à l'origine. Messenger est surtout fait pour papoter avec les amis et WhatsApp vient remplacer les SMS. Ces trucs semblent identiques, mais si on s'arrête aux nuances des modes d'utilisation des gens, chacun d'eux est géant sur deux marchés différents. [...] Du coup, ce que nous voulons, c'est construire un canal de distribution d'expériences attirantes pour les gens [...] Nous essayons d'explorer des trucs qui ne sont pas seulement liés à l'identité de Facebook. Et dans chacun d'eux, on ne se contente pas de partir et de consommer du contenu, on construit aussi des relations avec des gens, une construction orientée vers la compréhension des gens. [...] Et nous demandons à nos chefs de produits d'aller voyager dans un pays au marché émergent pour voir comment les gens qui se lancent sur l'Internet s'en servent. Ils apprennent toutes sortes de choses intéressantes. Les gens leur demandent par exemple « je vois qu'on me dit que je devrais installer mon mot de passe – c'est quoi un mot de passe ? » Pour nous, c'est un truc qui fait réfléchir<fnref n="28" />.

<footnote n="28">28. « The real question will be how effective it will be on mobile once post-search works. I think that's a five-year thing. We have to think about it over a longer period of time. We basically saw that the messaging space is bigger than we'd initially realized, and that the use cases that WhatsApp and Messenger have are more different than we had thought originally. Messenger is more about chatting with friends and WhatsApp is like an SMS replacement. Those things sound similar, but when you go into the nuances of how people use it, they are both very big in different markets.[...] So what we want to do is build a pipeline of experiences for people to have. It would be a mistake to compare any of them in different life cycles to other ones.</footnote>

<footnote>Q : Instagram and WhatsApp are not going to be branded as Facebook apps. So eventually part of your business will be apps that people don't think of as Facebook. Is that the</footnote>
Les réponses de Zuckerberg commencent à arriver. Le mot *fix* est au centre de la mission que se donne le fondateur de Facebook pour 2018. Contrôler et réparer. Cela sonne comme un aveu... mais Zuckerberg semble botter en touche ou attirer les investisseurs en leur parlant de cryptomonnaies ou de cryptage des données en conclusion d'un message dont il est dit qu'il touche des questions sociales et politiques! Zuckerberg parle de tenir des réunions avec des intellectuels, mais semble une fois de plus très en arrière de la main. S'il entend réparer Facebook et contrôler la situation, c'est bien évidemment pour maintenir la puissance de son groupe – tout l'inverse de ce que demande McNamee, ancien zélateur des réseaux sociaux devenu un opposant à leur monopole. Même si Zuckerberg consultait des philosophes et des chercheurs en sciences sociales, la question est de trancher entre une concentration toujours plus forte et un pluralisme organisationnel qui a disparu de l'Internet. Le billet de Zuckerberg est d'ailleurs un plaidoyer pour la centralisation, malgré l'évocation nostalgique de la diversité initiale de l'Internet.

L'une des questions actuellement les plus intéressantes pour la technologie est le débat centralisation versus décentralisation. Nombreux parmi nous sont ceux qui se sont tournés vers la technologie parce que nous croyons qu'elle peut être un facteur de décentralisation qui donne plus de pouvoir directement aux gens. (les cinq premiers mots qui orientent la mission de Facebook ont toujours été 'donner le pouvoir aux gens'). Dans les années 1990 et 2000, la plupart des gens croyaient que la

*way to think about the future of Facebook. Is it like a conglomerate?*

A : One of the things that we're trying to do with Creative Labs and all our experiences is explore things that aren't all tied to Facebook identity. Some things will be, but not everything will have to be, because there are some sets of experiences that are just better with other identities. I think you should expect to see more of that, where apps are going to be tied to different audiences that you can share with. [...] Private communication is a bigger space than people realize. You were asking if I was surprised that WhatsApp and Messenger's use cases were so different. They fit into this framework of private communication. That's what people like to do, and that's why there are so many different services. I think there is going to be even more stuff like that. [...] But in any of those you're not just sharing and consuming content, you are also building relationships with people and building an understanding of people. [...] One of the things that we do is ask product managers to go travel to an emerging-market country to see how people who are getting on the Internet use it. They learn the most interesting things. People ask questions like, "It says here I'm supposed to put in my password — what's a password?" For us, that's a mind-boggling thing. »
technologie serait une force décentralisatrice. Mais à présent,
bien des gens ont perdu leur foi dans ce credo. Avec la montée
d'un petit nombre de grandes entreprises de technologie – et
des gouvernements utilisant les technologie pour surveiller les
citoyens, beaucoup croient à présent que la technologie centralise
surtout le pouvoir, bien plus qu'elle ne le décentralise. Il y a
d'importantes contre-tendances à cela – comme le cryptage et
les cryptomonnaies – qui se saisissent du pouvoir des systèmes
centralisés pour le rendre aux gens. Mais ils comportent le risque
d'être plus difficiles à contrôler. Je suis motivé à aller plus loin et
à étudier les aspects positifs et négatifs de ces technologies, pour
savoir comment en faire le meilleur usage dans nos services<fnref n="29" />.

La question de la décentralisation du réseau est centrale. Zuckerberg a bien compris que la taille de Facebook et ses effets induits, tout comme son in-capacité à répondre de ses errements, créent la responsabilité exorbitante de contrôler tout ce qui se passe en ligne, en matière de vidéos, d'appels au meurtre ou de faussetés scientifiques par écrit, orales ou en images, sans parler des fraudes commerciales et autres manipulations ! Procéder à de tels contrôles dans le respect des libertés publiques est sans doute impossible, ou bien conduit en effet tout droit à bannir les mots qui fâchent et à censurer ce qui serait vu comme incorrect. Le plus grand réseau mondial serait en même temps une instance autoproclamée de police du discours, ce méga-éditeur que la firme de Zuckerberg ne veut pas être.

En attendant de faire du sur mesure, privilégier les échanges de proximité
sur les contenus tiers, hormis les publicités ciblées, payées et analysées, est

<footnote n="29">29. « One of the most interesting questions in technology right now is about centralization vs decentralization. A lot of us got into technology because we believe it can be a decentralizing force that puts more power in people's hands. (The first four words of Facebook's mission have always been "give people the power".) Back in the 1990s and 2000s, most people believed technology would be a decentralizing force.</footnote>

<footnote>But today, many people have lost faith in that promise. With the rise of a small number of big tech companies — and governments using technology to watch their citizens — many people now believe technology only centralizes power rather than decentralizes it.</footnote>

<footnote>There are important counter-trends to this — like encryption and cryptocurrency — that take power from centralized systems and put it back into people's hands. But they come with the risk of being harder to control. I'm interested to go deeper and study the positive and negative aspects of these technologies, and how best to use them in our services. »
(Zuckerberg 2018)</footnote>
un choix acceptable pour que Facebook retrouve une forme d'innocence. Les
éditeurs de presse seront à la peine pour assurer leur propre diffusion, car
la plupart des gens ne font rien d'autre en ligne que cliquer sur les liens
qu'ils reçoivent. Faire des recherches poussées pour s'informer est un luxe.
Ce créneau de l'information ne rapporte guère : Facebook peut l'abandonner
pour des secteurs plus profitables qui n'occasionnent pas de controverses 30.
Endiguer la concurrence que Snapchat, Netflix ou Spotify représentent en
bourse est l'objectif premier. Cela passe par la monétisation de WhatsApp
et de Messenger, la sécurité des données personnelles et la cryptographie

30. Le billet du 4 janvier 2018 en totalité : « Every year I take on a personal challenge to learn something new. I've visited every US state, run 365 miles, built an AI for my home, read 25 books, and learned Mandarin.

I started doing these challenges in 2009. That first year the economy was in a deep recession and Facebook was not yet profitable. We needed to get serious about making sure Facebook had a sustainable business model. It was a serious year, and I wore a tie every day as a reminder.

Today feels a lot like that first year. The world feels anxious and divided, and Facebook has a lot of work to do – whether it's protecting our community from abuse and hate, defending against interference by nation states, or making sure that time spent on Facebook is time well spent.

My personal challenge for 2018 is to focus on fixing these important issues. We won't prevent all mistakes or abuse, but we currently make too many errors enforcing our policies and preventing misuse of our tools. If we're successful this year then we'll end 2018 on a much better trajectory.

This may not seem like a personal challenge on its face, but I think I'll learn more by focusing intensely on these issues than I would by doing something completely separate. These issues touch on questions of history, civics, political philosophy, media, government, and of course technology. I'm looking forward to bringing groups of experts together to discuss and help work through these topics.

For example, one of the most interesting questions in technology right now is about centralization vs decentralization. A lot of us got into technology because we believe it can be a decentralizing force that puts more power in people's hands. (The first four words of Facebook's mission have always been "give people the power".) Back in the 1990s and 2000s, most people believed technology would be a decentralizing force.

But today, many people have lost faith in that promise. With the rise of a small number of big tech companies — and governments using technology to watch their citizens — many people now believe technology only centralizes power rather than decentralizes it.

There are important counter-trends to this — like encryption and cryptocurrency — that take power from centralized systems and put it back into people's hands. But they come with the risk of being harder to control. I'm interested to go deeper and study the positive and negative aspects of these technologies, and how best to use them in our services.

This will be a serious year of self-improvement and I'm looking forward to learning from working to fix our issues together. » (Zuckerberg 2018)
pour adosser Facebook aux plateformes commerciales (ne pas laisser filer Amazon !!) et créer une base de rencontres... Il faut convaincre les investisseurs que le taux de croissance de la firme va se maintenir.

Pourtant, McNamee rappelle que la négligence envers les contenus a un coût démocratique énorme. Faire circuler le « bruit » des échanges interpersonnels au lieu d'informer suffit à empêcher la conversation démocratique. On peut appeler cela formellement « désinformation » : il est clair qu'une fois l'habitude prise d'accéder aux informations sur les réseaux sociaux, les usagers ne reviendront pas vers les sites des journaux qui ont vu leur publicité phagocytée par Facebook et vivent (mal) d'abonnements. Le public captif des monopoles est indifférent à l'information et à la situation politique désespérante. Dès 2013, Yochai Benkler (2013) parlait de restaurer l'équilibre constitutionnel (« *Regaining our constitutional balance is the only victory worth winning* »), mais la fin de la neutralité du net montre que le balancier est allé dans l'autre direction. Plus que jamais, les secrets d'État et le secret des affaires sont protégés. La nébuleuse des fausses nouvelles et des intox que nous peinons à démentir nous détournent de pouvoir surveiller les pouvoirs réels. Le cofondateur d'Apple, Steve Wozniak, devenu un fervent supporteur de l'Electronic Frontier Foundation pour l'Internet ouvert et opposant de longue date au Patriot Act, qui étend de manière discrétionnaire les justifications d'une surveillance généralisée, reconnaissait en 2013 :

> nous n'avions pas réalisé qu'au sein du monde numérique, il y avait de multiples manières d'utiliser les technologies numériques pour nous contrôler, pour nous épier et pour rendre possibles des choses qui ne l'étaient pas. Aux temps anciens où nous postions des lettres, on les léchait, et quand on recevait une enveloppe en-core scellée, personne ne l'avait lue ; c'était de la communication privée. Maintenant, on nous dit, comme c'est du courrier électronique, cela ne peut pas rester privé, n'importe qui peut écouter <fnref n="31" />.

<footnote n="31">31. « *We didn't realise that in the digital world there were a lot of ways to use the digital technology to control us, to snoop on us, to make things possible that weren't. In the old days of mailing letters, you licked it, and when you got an envelope that was still sealed, nobody had seen it; you had private communication. Now they say, because it's email, it cannot be private; anyone can listen.* »</footnote>

<footnote>Asked about US surveillance programmes in an earlier interview with a Spanish technology news site, FayerWayer, Wozniak said : "*All these things about the constitution, that made us so good as people – they are kind of nothing*".</footnote>
Ces phrases sonnent comme une objection par anticipation aux propos de
Zuckerberg : la fuite en avant technologique est plutôt le problème que la
solution. Celle-ci passe par le respect de règles protégeant la vie privée des
intrusions de toute nature – qu’il s’agisse de surveillance ou de publicité, et
c’est la tendance adoptée par les instances régulatrices européennes. L’exp-
pansion sans borne des plateformes rencontre ainsi des obstacles politiques.
Mais cela ne rassure pas les éditeurs de presse, comme le signale, entre autres
personnes interrogées par le *New York Times*, l’éditeur de *Slate* :

> « Personne ne connaît exactement l'impact que cela aura, mais sous bien des aspects, cela ressemble à la fin de l'époque des infos distribuées », disait vendredi Jacob Weisberg, président et rédacteur en chef du groupe *Slate*. « Au long de l'année, tout le monde a vu baisser le flux sur Facebook, ils ont réduit l'exposition aux infos. Mais qu'ils aient engagé un changement si essentiel sur la plateforme — je ne pense pas que les gens l'avaient anticipé. » <fnref n="32" />

Les éditeurs craignent de perdre une part de leur lectorat et de leurs revenus publicitaires compte tenu des questions de régulation, de la restriction de l'accès direct aux pages des médias et des rapports financiers de Facebook avec la presse.

Voir Freedom Press, soutenu par Wozniak, qui fut le premier donateur de la Electronic Frontier Foundation.

Voir Timm (2018), à propos de James Dolan, ancien de la guerre d'Irak devenu ingé-
nieur en sécurité pour les whistleblowers, et ami d'Aaron Swartz.

<footnote>“They are all dissolved with the Patriot Act. There are all these laws that just say ‘we can secretly call anything terrorism and do anything we want, without the rights of courts to get in and say you are doing wrong things’. There’s not even a free open court any more. Read the constitution. I don’t know how this stuff happened. It’s so clear what the constitution says.” (Branigan 2013)</footnote>

<footnote n="32">32. « *Nobody knows exactly what impact it'll have, but in a lot of ways, it looks like the end of the social news era*”, Jacob Weisberg, the chairman and editor in chief of the *Slate* Group, said on Friday. “*Everybody's Facebook traffic has been declining all year, so they've been de-emphasizing news. But for them to make such a fundamental change in the platform — I don't think people were really anticipating it.*” » (Maheshwari et Ember 2018)</footnote>
Bibliographie

Aitkenhead, Decca. 2017. « Sheryl Sandberg : "Everyone looked at me like I was a ghost" ». *The Guardian*, avril. https://www.theguardian.com/technology/2017/apr/16/sheryl-sandberg-facebook-everyone-looked-at-me-like-a-ghost.

Benkler, Yochai. 2013. « Manning and Snowden light path for the US to return to its better self Yochai Benkler ». *The Guardian*, juillet. https://www.theguardian.com/commentisfree/2013/jul/26/manning-snowden-us-better-self.

Bezat, Jean-Michel. 2018. « « Mark Zuckerberg avance à l'aveugle dans l'arborescence qu'il a fait pousser » ». *Le Monde.fr*, janvier. https://www.lemonde.fr/idees/article/2018/01/08/mark-zuckerberg-avance-a-l-aveugle-dans-l-arborescence-qu-il-a-fait-pousser_5238790_3232.html.

Branigan, Tania. 2013. « Steve Wozniak : 'I felt about Edward Snowden the way I felt about Daniel Ellsberg' ». *The Guardian*, juin. https://www.theguardian.com/world/2013/jun/21/wozniak-guilty-nsa-surveillance-snowden.

Carr, Nicholas G. 2010. *The shallows what the Internet is doing to our brains*. New York, N.Y : Norton.

Chocron, Sandrine Cassini et Véronique. 2018. « La start-up américaine Symphony choisit la France pour se développer ». *Le Monde.fr*, janvier. https://www.lemonde.fr/economie/article/2018/01/11/la-start-up-americaine-symphony-choisit-la-france-pour-se-developper_5240570_3234.html.

Clark, Liat. 2017. « Twitter and Facebook have become 'vessels of propaganda and manipulation' ». *Wired UK*, juin. https://www.wired.co.uk/article/fake-news-propaganda-russia-us-germany.

« Computational Propaganda Worldwide : Executive Summary ». 2017. *The Computational Propaganda Project*. http://comprop.oii.ox.ac.uk/research/working-papers/computational-propaganda-worldwide-executive-summary/.

Confessore, Nicholas, Gabriel J. X. Dance, Rich Harris, et Mark Hansen. 2018. « The Follower Factory ». *The New York Times*, janvier. https://www.nytimes.com/interactive/2018/01/27/technology/social-media-bots.html, https://www.nytimes.com/interactive/2018/01/27/technology/social-
media-bots.html.

Cresci, Elena. 2016. « Lonelygirl15 : how one mysterious vlogger changed the internet ». *The Guardian*, juin. https://www.theguardian.com/technology/2016/jun/16/lonelygirl15-bree-video-blog-youtube.

Gibbs, Samuel. 2017. « Facebook Live : Zuckerberg adds 3,000 moderators in wake of murders ». *The Guardian*, mai. https://www.theguardian.com/technology/2017/may/03/facebook-live-zuckerberg-adds-3000-moderators-murders.

Levin, Sam. 2018. « YouTube's small creators pay price of policy changes after Logan Paul scandal ». *The Guardian*, janvier. https://www.theguardian.com/technology/2018/jan/18/youtube-creators-vloggers-ads-logan-paul.

Lewis, Paul. 2017. « 'Our minds can be hijacked' : the tech insiders who fear a smartphone dystopia ». *The Guardian*, octobre. https://www.theguardian.com/technology/2017/oct/05/smartphone-addiction-silicon-valley-dystopia.

Maheshwari, Sapna, et Sydney Ember. 2018. « The End of the Social News Era? Journalists Brace for Facebook's Big Change ». *The New York Times*, janvier. https://www.nytimes.com/2018/01/11/business/media/facebook-news-feed-media.html.

Manjoo, Farhad. 2014. « Can Facebook Innovate? A Conversation With Mark Zuckerberg ». *Bits Blog*. https://bits.blogs.nytimes.com/2014/04/16/can-facebook-innovate-a-conversation-with-mark-zuckerberg/.

———. 2017. « The Future of Facebook May Not Say “Facebook” ». *The New York Times*, décembre. https://www.nytimes.com/2014/04/17/technology/the-future-of-facebook-may-not-say-facebook.html.

McNamee, Roger. 2018. « How to fix Facebook—before it fixes us ». *Washington Monthly* January/February/March 2018 (janvier). https://washingtonmonthly.com/magazine/january-february-march-2018/how-to-fix-facebook-before-it-fixes-us/.

Piquard, Alexandre. 2017. « Fidji Simo : « Facebook n'est pas juste une entreprise de technologie» ». *Le Monde.fr*, septembre. https://www.lemonde.fr/economie/article/2017/09/11/fidji-simo-facebook-n-est-pas-juste-une-
entreprise-de-technologie_5183810_3234.html.

Shearer, Elisa, et Jeffrey Gottfried. 2017. « News Use Across Social Media Platforms 2017 ». *Pew Research Center's Journalism Project*. http://www.journalism.org/2017/09/07/news-use-across-social-media-platforms-2017/.

Solon, Olivia. 2017a. « To censor or sanction extreme content? Either way, Facebook can’t win ». *The Guardian*, mai. https://www.theguardian.com/news/2017/may/22/facebook-moderator-guidelines-extreme-content-analysis.

———. 2017b. « Ex-Facebook president Sean Parker : site made to exploit human 'vulnerability' ». *The Guardian*, novembre. https://www.theguardian.com/technology/2017/nov/09/facebook-sean-parker-vulnerability-brain-psychology.

Swisher, Kara. 2018. « Zuckerberg : The Recode interview ». *Recode*. https://www.recode.net/2018/7/18/17575156/mark-zuckerberg-interview-facebook-recode-kara-swisher.

Timm, Trevor. 2018. « A tribute to James Dolan, co-creator of SecureDrop, who has tragically passed away at age 36 ». *Freedom of the press foundation*. https://freedom.press/news/tribute-james-dolan-co-creator-securedrop-who-has-tragically-passed-away-age-36/.

Ward, Adrian F., Kristen Duke, Ayelet Gneezy, et Maarten W. Bos. 2017. « Brain Drain : The Mere Presence of One's Own Smartphone Reduces Available Cognitive Capacity ». *Journal of the Association for Consumer Research* 2 (2) : 140-54. doi :10.1086/691462.

Williams, James. 2016. « The Clickbait Candidate ». *Quillette*. https://quillette.com/2016/10/03/the-clickbait-candidate/.

Winnick, Michael. 2016. « Putting a Finger on Our Phone Obsession ». *dscout*. https://blog.dscout.com/mobile-touches.

Wong, Julia Carrie. 2018a. « Mark Zuckerberg sets toughest new year's goal yet : fixing Facebook ». *The Guardian*, janvier. https://www.theguardian.com/technology/2018/jan/04/facebook-mark-zuckerberg-new-years-resolution.

———. 2018b. « I was one of the first people on Facebook. I shouldn’t have trusted Mark Zuckerberg Julie Carrie Wong ». *The Guardian*, avril. https://www.theguardian.com/technology/2018/apr/17/facebook-people-
first-ever-mark-zuckerberg-harvard.

Zuckerberg, Mark. 2017. « Building Global Community ». *Facebook*. https://www.facebook.com/notes/mark-zuckerberg/building-global-community/10154544292806634/.

———. 2018. « Mark Zuckerberg - Statut du 4 janvier 2018 ». https://www.facebook.com/zuck/posts/10104380170714571.