# Fake News et complotisme sur YouTube: comment l'algorithme favorise la polarisation des opinions

Florian Dauphin

<figure><img src="image_1.png" /></figure>

## To cite this version:

Florian Dauphin. Fake News et complotisme sur YouTube: comment l'algorithme favorise la polarisation des opinions. Revue des Interactions Humaines Médiatisées, 2022, 23 (1). http://u-picardie.hal.science/hal-04437122

HAL Id: hal-04437122

https://u-picardie.hal.science/hal-04437122v1

Submitted on 6 Feb 2024

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_2.png" /></figure>
Revue des Interactions Humaines Médiatisées

Journal of Human Mediated Interactions

Rédacteurs en chef : Sylvie Leleu-Merviel & Khaldoun Zreik

Vol 23 - N°1/ 2022

(numéro spécial | special issue)

ISSN 2402-6522

Revue des Interactions
Humaines Médiatisées

Rédacteurs en chef :
Sylvie Leleu Merviel
Khaldoun Zreik

EUROPIA

© europia, 2021

15, avenue de Ségur,

75007 Paris - France

http://europia.org/RIHM | http://rihm.fr

Contact | e-mail : rihm@europia.org
# Revue des Interactions Humaines Médiatisées

## *Journal of Human Mediated Interactions*

### Rédacteurs en chef / Editors in chief

- Sylvie Leleu-Merviel, Université de Valenciennes et du Hainaut-Cambrésis, Laboratoire DeVisu

- Khaldoun Zreik, Université Paris 8, Laboratoire Paragraphe

### Comité éditorial / Editorial Board

- Thierry Baccino (Université Paris8, LUTIN - UMS-CNRS 2809, France)

- Karine Berthelot-Guiet (CELSA - Paris-Sorbonne GRIPIC, France)

- Pierre Boulanger (University of Alberta, Advanced Man-Machine Interface Laboratory, Canada)

- Jean-Jacques Boutaud (Université de Dijon, CIMEOS, France)

- Aline Chevalier (Université Paris Ouest Nanterre La Défense, CLLE-LTC, France)

- Stéphane Caro, (IUT Bordeaux Montaigne, France)

- Yves Chevalier (Université de Bretagne Sud, CERSIC -ERELLIF, France)

- Didier Courbet (Université de la Méditerranée Aix-Marseille II, Mediasic, France)

- Viviane Couzinet (Université de Toulouse3, LERASS, France)

- Milad Doueihi (Université de Laval - Chaire de recherche en Cultures numériques, Canada)

- Pierre Fastrez (Université Catholique de Louvain, GReMS, Belgique)

- Pascal Francq (Université Catholique de Louvain, ISU, Belgique)

- Bertrand Gervais (UQAM, Centre de Recherche sur le texte et l'imaginaire, Canada)

- Patrizia Laudati (Université Côte d'Azur, SICLAB Méditerranée, France)

- Catherine Loneux (Université de Rennes, CERSIC -ERELLIF, France)

- Marion G. Müller (Jacobs University Bremen, PIAV, Allemagne)

- Marcel O'Gormann (University of Waterloo, Critical Média Lab, Canada)

- Serge Proulx (UQAM, LabCMO, Canada)

- Jean-Marc Robert (Ecole Polytechnique de Montréal, Canada)

- Imad Saleh (Université Paris 8, CITU-Paragraphe, France)

- André Tricot (Université de Toulouse 2, CLLE - Lab. Travail & Cognition, France)

- Jean Vanderdonckt (Université Catholique de Louvain, LSM, Belgique)

- Alain Trognon (Université Nancy2, Laboratoire InterPsy, France)
# Revue des Interactions Humaines Médiatisées

## Journal of Human Mediated Interactions

Vol 23 - N°1 / 2022

(numéro spécial | special issue)

## Sommaire

### Editorial

Sylvie LELEU-MERVIEL, Khaldoun ZREIK (rédacteurs en chef) iv

Les *fake news* comme objet pour penser l'information dans son écosystème numérique

*Fake news as a tool to think news in an digital world*

Pauline AMIEL, Alexandre JOUX 1

*Fake news et publicisation d'une controverse médicale : le « cas Raoult » à l'heure de la pandémie de Covid-19*

*Fake news and publicizing a medical controversy; the “Raoult case” at the time of the Covid-19 pandemic.*

Stéphanie LUKASIK, Marc BASSONI 7

*Fake News et complotisme sur YouTube : comment l'algorithme favorise la polarisation des opinions*

*Fake news and conspiracy theories on YouTube: how algorithm promotes polarisation of opinions*

Florian DAUPHIN 17

Réinterroger les relations des unités journalistiques françaises de *fact-checking* avec les plateformes numériques : entre opportunismes et instrumentalisation

*Re-examining the relationships of French journalistic fact-checking units with digital platforms: between opportunism and instrumentalization*

Laurent BIGOT, Jérémie NICEY, Nicolas SOURISCE 29

Quand le *fact-checking* bouscule le rapport entre journalisme et vérité : une approche épistémologique

*When fact-checking challenges the relationship between journalism and truth: an epistemological approach*

Angelina TOURSEL, Philippe USEILLE 41

Fake News and the Corona Crisis in Germany: Public Broadcasting Counter Strategies on Instagram

*Fake News et la crise de la Corona en Allemagne : Stratégies de contre-attaque des médias publics sur Instagram*

Caja THIMM 55
The Brazilian fact-checking landscape under the platforms' guidance

*Le paysage de fact-checking au Brésil sous l'égide des plateformes*

Thales LELO

73
## Editorial

Ce numéro spécial de la *Revue des Interactions Humaines Médiatisées* revient à une formule invitée comme cela s'est déjà produit par le passé, pour la dernière fois en 2018.

Il s'agit donc d'un millésime atypique dans la production de la revue, qui abandonne temporairement sa forme habituelle de trois articles longs en varia. En effet, le numéro propose sept articles plus courts, qui sont des versions retravaillées et complétées de travaux sélectionnés parmi ceux présentés lors du colloque international « Journalisme et plateformes 2 : information, infomédiation et *fake news* » organisé par l'axe 4 de l'IMSIC et qui s'est tenu à l'École du Journalisme et de Communication de l'Université d'Aix-Marseille (EJCAM), à Marseille, du 20 au 22 janvier 2021. Ce colloque international est le deuxième volet d'un rendez-vous « Journalisme et plateformes » dont le premier volet, « de la symbiose à la dépendance », a été organisé par le LERASS à Toulouse en 2019.

L'ensemble est consacré aux fake news, au fact-checking et à l'éducation aux médias et à l'information. Le numéro a été coordonné par Pauline Amiel et Alexandre Joux, qui ont effectué tout le travail de reviewing et de supervision scientifique. Ils présentent l'ensemble du numéro dans l'article d'ouverture. Nous les remercions pour l'exigence dont ils ont fait preuve dans ce travail.

Nous vous souhaitons à toutes et à tous une très bonne lecture et nous vous remercions de votre fidélité.

Sylvie LELEU-MERVIEL et Khaldoun ZREIK
Rédacteurs en chef
# Fake News et complotisme sur YouTube :
comment l'algorithme favorise la polarisation
des opinions

*Fake news and conspiracy theories on YouTube: how algorithm
promotes polarisation of opinions*

Florian DAUPHIN (1)

(1) Laboratoire Habiter le Monde, Université de Picardie Jules Verne
florian.dauphin@u-picardie.fr

**Résumé.** En partant d'un état de l'art et d'une recherche qualitative menée auprès de youtubeurs, cet article met en évidence le fait que l'algorithme de recommandation des vidéos YouTube met en avant des contenus extrêmes, en particulier les discours conspirationnistes et les *fake news*. Outre le fait que l'algorithme privilégie objectivement ces contenus, il oriente également les pratiques des vidéastes vers une recherche du succès au travers d'une radicalisation de leur propos. Cet effet pervers est associé à une guérilla entre les communautés qui partagent des points de vue antagonistes et qui favorise la polarisation des opinions.
**Mots-clés.** fake news, complotisme, YouTube, algorithme.

**Abstract.** Based on a review of the state of the art and a qualitative research conducted with youtubers, this article highlights the fact that YouTube's algorithm recommendation for videos promotes extreme content conspiracy theories and fake news in particular. In addition to the fact that the algorithm objectively gives preference to such content, it also guides youtubers' practices towards a pursuit of success by radicalising what they post. This perverse effect is associated with guerrilla warfare between communities that share antagonistic points of view, encouraging polarisation of opinions.

**Keywords.** fake news, conspiracy theories, YouTube, algorithm.

# 1 Introduction

A l'instar des réseaux socionumériques, la plateforme vidéo YouTube joue un rôle important dans la formation de l'opinion publique, particulièrement chez les plus jeunes qui l'utilisent dans une optique de construction identitaire (Balleys, 2018; Dauphin, 2012), pour se divertir et aussi pour s'informer. Certains « youtubeurs » ont des audiences qui dépassent celles acquises sur les médias traditionnels et sont définis comme des « influenceurs », c'est-à-dire des
prescripteurs de produits, de pratiques, d'idées et de croyances. Ils opèrent dans tous les domaines : « lifestyle » (art de vivre), beauté, jeux vidéo, sciences, actualités, humour, etc. Parmi les youtubeurs à succès, certains promeuent dans leurs vidéos, directement ou non<fnref n="1" />, des fake news et des discours que l'on peut qualifier de complotistes. Notre objectif est d'analyser le succès des contenus jugés « complotistes » et des fake news qui les accompagnent sur la plateforme.

Par l'expression contemporaine de fake news, nous entendons à la fois les informations fallacieuses diffusées dans le but d'influencer l'opinion, mais aussi les rumeurs spontanées diffusées sans intention de duper autrui (Dauphin, 2019). Par le terme « complotisme », nous désignons des discours construits à des fins de dévoiler ce qui est perçu par les protagonistes comme des conspirations visant à nuire ou à influencer les individus. Les deux notions sont liées dans la mesure où les discours « complotistes » contiennent des fake news.

Le succès des discours complotistes et des fake news sur YouTube est devenu un problème public. Les accusations portées à l'encontre des plateformes (en particulier Facebook, TikTok, Twitter, YouTube) sont nombreuses et pointent la promotion des fausses informations et des discours conspirationnistes. Elles proviennent des journalistes, politiques et intellectuels. Parmi les critiques récurrentes, Internet et les réseaux socionumériques favoriseraient des « chambres d'écho » (Sunstein, 2018) et des « bulles de filtre » (Pariser, 2011) qui contribueraient à la polarisation et remettraient en cause la pluralité des points de vue propre aux démocraties (Habermas, 1993). Face à ces accusations et à l'apparition de nouvelles lois visant à encadrer les contenus numériques, des mesures ont été prises par les entreprises incriminées afin d'enrayer les contenus jugés « extrêmes » (Badouard, 2021 ; Roberts, 2019 ; Gillepsie, 2018 ; Myers-West, 2017). Malgré ces mesures, les discours complotistes et les fake news continuent de prospérer : c'est particulièrement le cas sur YouTube (Faddoul et al. 2020 ; Hussein et al., 2020).

Par une analyse de YouTube, nous voudrions éclaircir le lien complexe entre l'algorithme et le succès des vidéos complotistes et de désinformation. Après avoir décrit l'algorithme et sa logique, nous montrerons les effets pervers qu'il produit sur les acteurs concernés : d'une part, sur les consommateurs par les « biais cognitifs » qu'il induit, d'autre part sur les vidéastes dont les contenus s'inscrivent dans une logique de maximation des vues.

Outre un état de l'art de la question, notre méthodologie qualitative se fonde sur des entretiens semi-directifs réalisés auprès de 13 youtubeurs qui sont actifs contre les discours complotistes. Ils se revendiquent « sceptiques » et proposent des contenus vidéo où ils « debunk » (Dauphin, 2022), c'est-à-dire démystifient des croyances jugées fausses. Le but de ces entretiens est de saisir les représentations que les acteurs se font de l'algorithme et les pratiques qu'elles induisent.

## 2 Puissance et opacité de l'algorithme de recommandation de vidéos

L'algorithme de recommandation des vidéos de YouTube est au cœur des polémiques, comme le montre l'abondante littérature, presque exclusivement anglo-

<footnote n="1">¹ Selon une étude du Reuters Institute (2020) d'Oxford portant sur 225 fake news au sujet de la Covid 2019, 20 % d'entre elles seraient émises par des influenceurs (célébrités et politiciens) et 69 % de l'engagement des internautes (like, partage, commentaires, clics) seraient liés au pouvoir de prescription des influenceurs.</footnote>
saxonne, sur cette question<fnref n="2" />. C'est un article du quotidien britannique *The Guardian*<fnref n="3" /> en 2018 qui va largement médiatiser ce problème. L'article dénonce le fait que YouTube favorise, par son algorithme, la recommandation de vidéos comportant des discours conspirationnistes. Les critiques ne se contentent pas d'accuser YouTube de laisser passer ce type de contenus, mais vont jusqu'à dénoncer la promotion active qui en est faite. Cette accusation est notamment étayée par Guillaume Chaslot, un ancien programmeur français qui a travaillé pour YouTube sur l'algorithme. L'effet de l'algorithme de recommandation apparaît dominant dans les contenus que visionnent les consommateurs, car environ 70% des vues sur YouTube en sont issues<fnref n="4" />. Ce qui signifie que si l'usager a l'impression de choisir ce qu'il regarde, c'est en fait l'algorithme qui « décide » à sa place : par défaut, le lecteur va lire automatiquement la prochaine vidéo recommandée, ou bien le choix de la prochaine se fera généralement dans les propositions de recommandation liées en partie aux vidéos consultées antérieurement. Pour plus de clarté, une capture d'écran de la page d'accueil de YouTube (fig. 1) nous montre des vidéos qui nous sont directement recommandées<fnref n="5" /> et cela même sans avoir un compte Google ou être connecté (puisque la plateforme appartient à Google).

<figure><img src="image_3.png" /><figcaption>**Figure 1. Page d'accueil de YouTube**</figcaption></figure>

<footnote n="2">² La requête « YouTube algorithm recommendation » sur Google Scholar donne plus de 97 000 résultats.</footnote>

<footnote n="3">³ LEWIS, Paul, « Fiction is outperforming reality: how YouTube's algorithm distorts truth », *The Guardian*, 2018, [https://www.theguardian.com/technology/2018/feb/02/how-youtubes-algorithm-distorts-truth](https://www.theguardian.com/technology/2018/feb/02/how-youtubes-algorithm-distorts-truth), (consulté 16.12.2019).</footnote>

<footnote n="4">⁴ SOLSMAN, Joan E., « YouTube's AI is the Puppet Master Over Most of What You Watch », CNET, 2018, [https://www.cnet.com/news/youtube-ces-2018-neal-mohan/](https://www.cnet.com/news/youtube-ces-2018-neal-mohan/), (consulté 06.04.2020).</footnote>

<footnote n="5">⁵ Ici par rapport à mon enquête, les sujets qui touchent au « complotisme » sont mis en avant : Dieudonné, les pyramides et l'ésotérisme, etc.</footnote>
L'algorithme de recommandation va lancer automatiquement une vidéo dès la fin de la vidéo consultée. Pour donner un exemple, voici (fig. 2) une vidéo du Professeur Didier Raoult. Deux vidéos du Rassemblement national ou affiliées vont être recommandées lors du visionnage de la vidéo.

<figure><img src="image_4.png" /><figcaption>Figure 2. Exemple de recommandation de YouTube</figcaption></figure>

L'algorithme est nébuleux et forme une sorte de « boîte noire » (Bryant, 2020) comportant deux facettes : l'une aux effets maîtrisés par les ingénieurs et l'autre aux effets largement inconnus liés à l'apprentissage automatique de l'algorithme, qui n'est pas simplement une réponse programmée. Selon Bryant (Ibid., p. 85), « il est une combinaison opaque entre des directives programmées par des ingénieurs et des comportements d'utilisateurs appris qui ont évolué à travers un processus d'apprentissage automatique ». Chaque fois qu'un utilisateur autorise la lecture de l'une des vidéos suggérées, l'algorithme apprend qu'il existe une relation entre la vidéo regardée et la vidéo suggérée. Par conséquent, l'algorithme fonctionne de manière non anticipée et non nécessairement souhaitée par les créateurs. De fait, les orientations et les effets de l'algorithme de recommandation sont difficiles à comprendre. De nombreux tests ont été effectués par des chercheurs afin de comprendre son fonctionnement. La question est de savoir s'il vise à rendre les contenus proposés de plus en plus extrêmes. C'est la thèse qui semble être avérée dans plusieurs domaines : néo-nazis, alt-right (Ibid.), théories pseudoscientifiques et complotistes (Papadamou et al., 2020).

## 3 Le succès de l'algorithme mesuré par l'optimisation du visionnage et du clic : l'effet de « clôture informationnelle »

Lors d'une requête sur un moteur de recherche en fonction des mots clés utilisés, nous avons tendance à confirmer ce que nous pensons déjà. Ce phénomène est qualifié de biais de confirmation, c'est-à-dire la façon dont nous allons valider nos opinions, nos idées préconçues par rapport aux informations qui les confirment et à rejeter celles qui les infirment (Jones & Sugden, 2001). Ce biais est particulièrement présent sur des sujets controversés, où l'individu présentera une
résistance forte aux changements d'opinions ou de croyances. Lorsqu'il s'agit de s'informer sur un sujet qui demande une certaine complexité, ce phénomène que l'on peut qualifier de « clôture informationnelle » va s'amplifier car l'algorithme préconise un système clos d'informations qui vise à se confirmer. Ce système clos favorisé par les algorithmes de personnalisation a été nommé « bulle de filtres » par le militant américain Eli Pariser (2011). Ce dernier montre que deux individus qui utilisent le moteur de recherche Google n'auront pas le même ordre de propositions des résultats dans leur recherche, l'ordre dépend d'une multitude de facteurs (langue, localisation, historique de recherche, etc.). Ceci permet d'optimiser les recherches mais a également pour conséquence de nous enfermer dans nos convictions. Selon Pariser (Ibid.), les filtres de personnalisation constituent l'une des causes de la polarisation politique aux États-Unis entre les libéraux et les conservateurs. Ils favorisent une absence de débat entre des individus partageant des idées politiques différentes. Ce constat est remis en cause notamment par Fletcher et Nielsen (2018a ; 2018b). Selon eux, les individus qui utilisent les moteurs de recherche pour s'informer sont plus exposés à la diversité des points de vue que ceux qui n'y vont pas du tout. Le constat serait le même pour les médias sociaux, ceux qui les pratiquent sans volonté de s'informer seraient finalement davantage confrontés à des sources d'information variées que les individus qui ne les utilisent pas.

Sur YouTube, les variables démographiques de l'âge et du sexe, ainsi que l'historique des vues de l'utilisateur et ses requêtes dans le moteur de recherche sont prises en compte dans les recommandations (Covington et al., 2016). YouTube n'est donc pas un espace neutre et impartial. Le principe de recommandation met en avant des contenus au détriment d'autres. L'objectif n'est ni le savoir, ni la véracité des contenus mais le profit *via* un système de rémunération publicitaire. La visée de l'algorithme et la mesure de son efficacité est l'optimisation du temps de visionnage et du taux de clics afin que le consommateur visionne le plus de vidéos possibles et par conséquent de publicités, puisque la plus grande source de revenu provient des annonceurs (Ibid.). Bronner emploie l'expression de « théorème de la crédulité informationnelle » pour expliquer l'idée que « plus le nombre d'informations non sélectionnées sera important dans un espace social, plus la crédulité se propagera » (Bronner, 2013, p. 47-48). Dans cette conception, la recommandation favorise la crédulité face à l'information.

Conjointement aux bulles de filtres, c'est le phénomène de « chambre d'écho » (Sunstein, 2018) qui renforce les biais de confirmation. Cette expression vise à qualifier le fait qu'un groupe d'individus qui partagent une « homophilie de valeurs » (Lazarsfeld & Merton, 1954) va rechercher auprès de ses pairs des informations qui confirment ses idées, qui leur font écho. Dans ce contexte, les acteurs produisent et/ou partagent des contenus en se citant les uns les autres sur les différents réseaux socionumériques, créant ainsi une caisse de résonnance. Les phénomènes de « chambre d'écho » et de « bulle de filtre » sont largement liés dans la mesure où ils favorisent les biais de confirmation mais ils sont souvent confondus, alors que si le premier se situe dans une démarche active de sélection de l'information qui fait écho consciemment à ce que l'on pense de manière initiale, le second s'opère par les algorithmes à notre insu.

L'algorithme n'a évidemment pas d'idéologie et ne vise pas à convaincre d'une idéologie au détriment d'une autre mais de faire visionner des vidéos. Il vient renforcer le succès des vidéos qui ont déjà du succès au détriment d'autres, produisant un effet d'amplification.
4 Algorithme et biais de l'information disponible : quand les contenus extrêmes sont mis en avant et surreprésentés

Internet est un espace de lutte pour la visibilité, celle-ci étant essentielle dans la promotion des idées. Dans un espace de l'information concurrentiel, c'est *a priori* l'idée la plus visible, et donc la plus disponible, qui aura le plus de chances de rencontrer du succès auprès des internautes. Si l'on ne peut pas affirmer qu'une idée plus disponible est nécessairement plus propice à modifier l'opinion d'un individu qu'une idée moins présente, « l'effet de simple exposition » (Zajonc, 1968) est un biais cognitif qui semble en attester. Il s'agit du cas où plus un individu est exposé à un stimulus, dont les discours font partie, plus il aura de probabilité d'avoir un sentiment positif à son égard. Ce que nous pouvons qualifier de « biais de l'information disponible » sur YouTube est le fait que les résultats arrivant en tête et/ou les résultats majoritaires d'une recherche font ressortir des vidéos comportant des idées ou des croyances minoritaires, marginales dans les médias traditionnels ou par rapport à ce qui fait consensus dans l'opinion publique mais aussi dans les milieux scientifiques. Ainsi la disponibilité de l'offre informationnelle n'est pas représentative de l'opinion générale. Le biais de l'information disponible est différent du « biais de disponibilité » dans la mesure où ce dernier désigne un mode de raisonnement qui se fonde sur les informations directement disponibles dans la mémoire d'un individu sans qu'il en cherche de nouvelles. Le biais de l'information disponible ne se situe pas dans la mémoire mais dans l'offre d'une information disponible dans un média, ici YouTube. Les deux biais sont comparables puisque dans les deux cas il s'agit de ne pas chercher d'autres informations que celles immédiatement disponibles, afin de minimiser les efforts cognitifs.

YouTube se trouve ainsi surinvesti par des individus qui œuvrent en communauté et qui promevent des idées controversées ou fausses et contraires à celles de la majorité. Or, parce qu'ils sont mécaniquement surreprésentés, ils l'emportent aisément sur ceux qui soutiennent des discours qui font davantage consensus. Dans les domaines des idées « fausses » et controversées, les tenants des pseudo-sciences et des discours complotistes ont un fort désir de convaincre et militent ardemment pour leur cause. Le complotisme n'est pas une maladie mentale mais une vision politique, que l'on peut qualifier dans une certaine mesure de militante. Par exemple, sur YouTube, une étude de 2017 montrait que 65 % des vidéos portant sur les vaccins étaient contre et que seulement 20 % était pro-vaccins (le reste étant jugé neutre) (Yun-Ju Song & Gruzd, 2017). Pour donner l'exemple significatif d'une thèse complotiste qui rencontre une forte visibilité en France bien qu'en réalité minoritaire, les vidéos complotistes autour de la construction des pyramides sont très présentes et arrivent en tête des résultats des recherches avec la requête « pyramide » (cf. fig. 3).
<figure><img src="image_5.png" /><figcaption>Figure 3. Requête « pyramide » sur le moteur de recherche de YouTube</figcaption></figure>

Le documentaire intitulé « *La révélation des pyramides* » de Patrick Pooyard et de Jacques Grimault en 2010 rencontre encore un très grand succès en France sur YouTube. On peut apercevoir plus de 5 millions de vues. Le documentaire affirme que les pyramides auraient été fabriquées par une ancienne civilisation, technologiquement avancée et qu'il existe un complot visant à faire taire la vérité. De nombreux youtubeurs défendent cette thèse. Le biais de l'information disponible est ici manifeste. Une petite communauté de « croyants » apparaît particulièrement active sur les réseaux socionumériques.

Sans véritable réglementation (hormis des fermetures de comptes par mots clés et une faible modération humaine), des petits groupes d'utilisateurs qui ont des discours radicaux sur des sujets soumis à controverse ont constaté qu'ils pouvaient manipuler l'algorithme et prendre le contrôle sur la manière dont le contenu est mis en avant à la fois par l'optimisation des moteurs de recherche (« *Search Engine Optimization* ») et par des références directes et communes avec d'autres vidéos ou courants politiques. Ainsi l'algorithme entraîne-t-il des effets sur les créateurs de contenus qui donnent lieu à des stratégies, aussi bien dans les discours tenus par les youtubeurs que dans la confrontation avec leurs détracteurs.

## 5 Effets pervers des algorithmes : entre goût du « clash » et « guérilla » entre youtubeurs

Si l'algorithme de YouTube est secret et complexe, il est largement pris en compte et souvent « fantasmé » par les vidéos. Ces derniers le prennent en compte dans leur manière de construire leur discours, de réaliser et de poster leurs vidéos, car la visibilité de leur travail en dépend. Nos interviewés abordent systématiquement ce sujet lors des entretiens et plusieurs d'entre eux décrivent l'algorithme de YouTube comme le plus puissant de monde<fnref n="6" />. De fait, l'algorithme

<footnote n="6">⁶ En plus de nos 13 entretiens avec des youtubeurs, une enquête menée par les étudiants de la Licence de sciences de l'éducation à l'Université de Picardie Jules Verne dans le cadre d'un cours de méthodes qualitatives en atteste. Tous les youtubeurs prennent en compte</footnote>
influence le comportement des vidéos. Ces derniers ont pour objectif plus ou moins avoué d'être le plus possible visionné, partagé, commenté et « liké ». Les statistiques sont omniprésentes dans l'univers des youtubeurs. La plateforme encourage la production de contenus par la monétisation des vidéos. Les youtubeurs sont très attentifs à leur audience. Comme l'expliquent Beuscart et Mellet (2015, p. 90), « l'audience cumulée des vidéos, ainsi que le nombre total d'abonnés à la chaîne, sont très visibles et signalent immédiatement la notoriété acquise par le vidéaste ».

Par conséquent, les vidéos sont bien conscients que leur contenu doit se démarquer. Les vidéos qui comportent des pensées conspirationnistes et des *fake news* dans leur effet de dévoilement et de confrontation à un discours dominant apparaissent sensationnelles et sont privilégiées par rapport à des contenus jugés plus « vrais » mais moins accrocheurs. Même les vidéos qui tentent de démystifier des discours complotistes et des *fake news* reconnaissent que la confrontation - qu'ils qualifient de « clash » - fait nettement augmenter le nombre de vues de leurs vidéos. Cette course à l'audience (au « buzz ») a des effets pervers sur la manière dont les youtubeurs produisent des vidéos. Elle semble normaliser la pratique du « clash ». L'un des youtubeurs interviewés reconnaît que les vidéos de démystification (« debunk ») fonctionnent généralement mieux que les autres :

> Je dépasse à peine 40 000 abonnés, j'ai une toute petite communauté derrière moi. Mais presque 2 millions de vues, parce que c'est con à dire mais les vidéos de debunk, ça fonctionne. Et pour 40 000 abonnés, je dois avoir entre 300 et 500 000 vues sur les deux vidéos de debunk sur les pyramides.

Le « clash » est une stratégie conscientisée par les acteurs. Ce vidéaste poursuit :

> De toute façon, même si on est bienveillant, on s'en prend plein la gueule, donc ça ne sert à rien d'être gentil. Donc, j'ai mis mon costume de connard. J'ai utilisé de la punch-line, je leur ai rentré dedans. Ça les a fait réagir, c'était cool. Mais j'avais le choix et je savais que ça allait partir au clash. Et forcément le clash, ça attire les gens, c'est évident.

Cette conscientisation de la portée du « clash » dans la promotion de leurs vidéos nous semble particulièrement intéressante car elle semble fonctionner en miroir avec leur détracteurs — ceux qui diffusent des idées complotistes et des *fake news*. Les youtubeurs semblent être tentés de « radicaliser » leur point de vue et être dans la confrontation et l'excès à des fins de se démarquer et ils le justifient, à tort ou à raison, par l'algorithme de YouTube.

À cet effet pervers de la confrontation s'ajoute la disqualification des détracteurs par des moyens techniques. Les militants des idées extrêmes arrivent à être mis en avant par l'algorithme et à disqualifier leurs opposants. L'envie d'être mis en avant dans la recommandation et le moteur de recherche YouTube donne lieu à des stratégies de la part des militants pour promouvoir leurs idées face à leurs détracteurs. De fait, on assiste à une forme de « guérilla » sur YouTube entre les « complotistes » et les « anti-complotistes », qui passe par des campagnes de « dislike » (je n'aime pas) dans lesquelles il s'agit de mettre massivement des pouces en bas. Or plus le nombre de pouces en bas est élevé par rapport au nombre de pouces en haut, moins la vidéo sera visible. Pour donner un exemple de la visibilité

<footnote>l'algorithme dans leur manière de faire et de poster leurs vidéos, parfois en lui attribuant des caractéristiques improbables.</footnote>
des « like » et « dislike », voici (fig. 3) la présentation d'une vidéo d'un youtubeur de vulgarisation scientifique appelé Nota Bene. Ici on voit 27 000 j'aime et 646 je n'aime pas ce contenu.

<figure><img src="image_6.png" /><figcaption>**Figure 4.** Exemple de « like » et « dislike » d'une vidéo du youtubeur Nota Bene</figcaption></figure>

De fait, les détracteurs peuvent se regrouper et disliker massivement afin de rendre moins visibles les vidéos ciblées. Un youtubeur qui tente de démystifier des complots déclare :

> Ça nous ruine notre visibilité quand on se prend une attaque de plusieurs milliers de personnes qui nous mettent des dislikes sur toutes nos vidéos, ça fait baisser énormément notre visibilité. Parce que l'algorithme YouTube considère d'un coup qu'on est polémique et que plein de gens ne nous aiment pas. Donc, il faut nous mettre moins en avant.

L'invisibilité totale est une stratégie de censure opérée contre le camp adverse. Elle s'effectue par le « strike » qui est la suppression d'une vidéo et la démonétisation. Le « strike » est le signalement d'une vidéo pour non-respect de la charte de YouTube. Il entraîne la démonétisation des vidéos, c'est-à-dire que le youtubeur ne gagnera plus d'argent sur les publicités avant et pendant le lancement de ces vidéos. Nonobstant, les « strike » peuvent aussi conduire à la suppression de la vidéo, voire de la chaîne d'un youtubeur, ce qui est la pire des sanctions quand le youtubeur a réussi à se construire une communauté. Face à la haine des « complotistes », le risque de « strike » est particulièrement accru car il est employé comme une stratégie pour faire taire l'ennemi. Un démystificateur m'a expliqué comment un complotiste a failli réussir à faire supprimer sa chaîne en faisant valoir son copyright, car il avait diffusé de courts extraits d'une de ses vidéos pour déconstruire son discours.

Le risque d'être « striké » et démonétisé est bien présent et cela parfois de façon injuste, parfois même par la plateforme de façon automatique, via un algorithme, avant d'être vérifiée par un individu, comme en témoigne un vidéaste :
L'algorithmie détecte que je parle de sujets polémiques, sur les théories du complot. Donc, je peux beaucoup plus facilement me faire striker mes vidéos, ou des posts FB, pour partage de fake news. Alors que justement je les critiquais. Donc même s'il y a une vérification humaine, ça va durer 3 secondes, ils vont voir la question des théories du complot et ils vont supprimer. Ça veut dire que je ne vais plus toucher d'argent sur les publicités dessus.

## 6 Conclusion

Cet article n'a pas la prétention de trancher les questions de l'effet des « bulles de filtres » et des « chambres d'écho » qui font toujours débat sur les usages d'Internet et des réseaux socionumériques dans la formation de l'opinion publique. Il s'agit plutôt de pointer la complexité d'un algorithme qui joue un rôle important dans l'offre informationnelle que constitue aujourd'hui la plus grande plateforme de vidéos au monde – YouTube. Si cette question est abondamment traitée dans la littérature anglo-saxonne, elle est quasiment inexistante dans les études en France. Nous avons voulu proposer des pistes de réflexions sur les effets structurels de l'algorithme, en particulier dans la promotion et les usages de l'information et de la diffusion des idées, notamment les plus extrêmes. Au-delà des conséquences objectives de l'algorithme, nous montrons qu'il provoque également des effets subjectifs chez les protagonistes que la littérature existante laisse dans l'ombre. Les vidéastes ont des représentations liées à l'algorithme qui guident leur action, ils développent des stratégies d'adaptation par rapport à elles et les justifient.

Il faut souligner que face à une pression médiatique, citoyenne et politique sur son rôle actif dans la diffusion et l'adhésion au « complotisme », YouTube tente de réguler les discours complotistes et les *fake news* et se trouve confrontée à des contradictions pour apporter une réponse. Des moyens ont été mis en œuvre pour renvoyer les vidéos proposant de la désinformation à des informations jugées plus crédibles, notamment par des signets Wikipédia. Les « solutions » proposées pour affirmer sa légitimité et valoriser son image semblent largement inefficaces au regard des contradictions entre une idéologie libérale centrée sur la notion anglo-saxonne de *free speech*, un intérêt économique (temps d'usage et bénéfices publicitaires) et des contraintes sociotechniques.

De même, les youtubeurs sceptiques qui visent à démystifier les croyances jugées fausses reconnaissent avoir des difficultés à contrer les discours complotistes et la prolifération des *fake-news*. Le risque, conscientisé par les acteurs eux-mêmes, est l'effet « retour de flamme » (Nyhan & Reifler, 2010), c'est-à-dire la polarisation des individus qui adhèrent à la théorie déconstruite. Et « l'effet de primauté » (Asch, 1946) montre que les premiers éléments d'une série laissent une trace plus forte dans la mémoire, or les vidéos de démystification visent à expliquer d'abord les thèses complotistes ou les rumeurs avant de les déconstruire. La démarche selon les protagonistes ne semble pas réussir à faire changer d'idées les convaincus, mais peut être efficace pour les indécis. La question du rôle de YouTube dans la promotion des idées reste donc largement ouverte.

## Bibliographie

Asch, Salomon (1946). « Forming impressions of personality », *Journal of Abnormal & Social Psychology*, vol. 41, n° 3, 1946, p. 258-290.
Badouard, Romain (2021). « Modérer la parole sur les réseaux sociaux : Politiques des plateformes et régulation des contenus », *Réseaux*, vol. 1, n° 1, 2021, p. 87-120, [https://doi-org.merlin.u-picardie.fr/10.3917/res.225.0087].

Balleys, Claire (2018). « Comment les adolescents construisent leur identité avec YouTube et les médias sociaux », *Nectart*, vol. 1, n° 1, 2018, p. 124-133, [https://doi.org/10.3917/nect.006.0124].

Beuscart, Jean-Samuel & Mellet, Kevin (2015). « La conversion de la notoriété en ligne. Une étude des trajectoires de vidéastes pro-am », *Terrains & travaux*, vol. 26, n° 1, 2015, p. 83-104.

Bronner, Gérald (2013), *La démocratie des crédules*, Paris, Presses Universitaires de France.

Bryant, Lauren Valentino (2020). « The YouTube Algorithm and the Alt-Right Filter Bubble », *Open Information Science*, vol. 4, n° 1, 2020, p. 85-90, [https://doi.org/10.1515/opis-2020-0007].

Covington, Paul, Adams, Jay K., Sargin, (2016). « Erme, Deep Neural Networks for YouTube Recommendations », *Proc. of the 10th ACM Conference on Recommender Systems*, 2016.

Dauphin, Florian (2012). « Culture et pratiques numériques juvéniles : Quels usages pour quelles compétences ? », *Questions Vives*, vol. 7, n° 17, 2012, p. 37-52.

Dauphin, Florian (2019). « Les *Fake News* au prisme des théories sur les rumeurs et la propagande », *Études de communication*, vol. 53, n° 2, 2019, p. 15-32.

Dauphin, Florian (2022). « Succès et limites du *debunking* pour lutter contre la désinformation », *Questions de communication*, vol. 42, p. 315-332.

Faddoul, Marc, Chaslot, Guillaume & Farid, Hany, « A Longitudinal Analysis of YouTube's Promotion of Conspiracy Videos », in: arXiv preprint arXiv:2003.03318, 2020.

Fletcher, Richard & Nielsen, Rasmus Kleis (2018a). « Automated serendipity: The effect of using search engines on news repertoire balance and diversity », *Digital Journalism*, vol. 6, n° 8, 2018a, p. 976-989.

Fletcher, Richard & Nielsen, Rasmus Kleis (2018b). « Are people incidentally exposed to news on social media? A comparative analysis », *New media & society*, vol. 20, n° 7, 2018b, p. 2450-2468.

Gillepsie, Tarleton (2018). *Custodians of the Internet. Platforms, Content Moderation, and the Hidden Decisions That Shape Social Media*, New Haven, Conn., Yale University Press, 2018.

Habermas, Jürgen (1993). *L'Espace public. Archéologie de la publicité comme dimension constitutive de la société bourgeoise*, Paris, Payot.

Hussein, Eslam, Uneja, Prerna & Mitra, Tanushree (2020). « Measuring Misinformation in Video Search Platforms: An Audit Study on YouTube », *Proc. ACM Hum-Comput. Interact.* vol. 4, n° 48, 2020, p. 1-27, [https://doi.org/10.1145/3392854].

Jones, Martin & Sugden, Robert (2001). « Positive confirmation bias in the acquisition of information », *Theory and Decision*, vol. 50, n° 1, 2001, p. 59-99.
Lazarsfeld, Paul & Merton, Robert King (1954). Friendship as a social process: a substantive and methodological analysis, in BERGER, Morroe, ABEL, Theodore, PAGE, Charles H., dir., *Freedom and Control in Modern Society*, New York, Van Nostrand, 1954.

Myers West, Sarah (2017). « Raging Against the Machine: Network Gatekeeping and Collective Action on Social Media Platforms », *Media and Communication*, vol. 5, n° 3, 2017, p. 28-36.

Nyhan, Brendan & Reifler, Jason (2010). « When corrections fail: The persistence of political misperceptions », *Political Behavior*, vol. 32, n° 2, 2010, p. 303-330.

Papadamou, Kostantinos, Zannettou, Savvas, Blackburn, Jeremy, De Cristofaro, Emiliano, Stringhini, Gianluca & Sirivianos, Michael (2020). « Pseudoscientific content on YouTube: Assessing the effects of watch history on the recommendation algorithm », in: arXiv preprint arXiv:2010.11638, 2020, [https://arxiv.org/pdf/2010.11638v1.pdf].

Pariser, Eli (2011). *The Filter Bubble: What the Internet is Hiding from You*, New York, Penguin Press.

Reuters Institute (2020). « Types, sources, and claims of COVID-19 misinformation », [https://reutersinstitute.politics.ox.ac.uk/types-sources-and-claims-covid-19-misinformation].

Roberts, Sarah T. (2019). *Behind the Screen. Content Moderation in the Shadows of Social Media*, New Haven, Conn., Yale University Press.

Sunstein, Cass Robert (2018). *#Republic: Divided Democracy in the Age of Social Media*, Princeton, Princeton University Press, 2018.

Yun-Ju Song, Melodie & Gruzd, Anatoliy (2017). « Examining Sentiments and Popularity of Pro- and Anti-Vaccination Videos on YouTube », *Proc. ACM Hum.-Comput. Interact.*, n° 17, 2017, p. 1–8, [https://doi.org/10.1145/3097286.3097303].

Zajonc, Robert B. (1968). « Attitudinal effects of mere exposure », *Journal of Personality and Social Psychology*, vol. 9, n° 2, pt. 2, 1968, p. 1–27, [https://doi.org/10.1037/h0025848].