# Rapport scientifique projet Taranis

Camille Baulant, Guillaume Sylvestre

► To cite this version:

Camille Baulant, Guillaume Sylvestre. Rapport scientifique projet Taranis. Laboratoire de Recherche de l'Ecole Nationale Supérieure de la Police. 2023, pp.67. hal-04879008

HAL Id: hal-04879008

https://hal.science/hal-04879008v1

Submitted on 10 Jan 2025

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
RAPPORT SCIENTIFIQUE PROJET TARANIS

Analyse du réseau social TikTok et de ses différentes influences sur la société

Sous la direction de Camille Baulant et Guillaume Sylvestre

Financé par le Centre de Recherche de l'Ecole Nationale Supérieure de Police
Table des matières

<table><tr><td>Résumé du rapport de recherche</td><td>3</td></tr><tr><td>Présentation de l'équipe de recherche</td><td>4</td></tr><tr><td>Glossaire</td><td>5</td></tr><tr><td>1. Le succès de TikTok en France et dans le Monde</td><td>6</td></tr><tr><td>a. Classement de l'audience de TikTok par pays (source Statista) – NB la Chine est absente car l'application utilisée, Douyin, est spécifique au public chinois</td><td>7</td></tr><tr><td>b. Un réseau social qui génère énormément de revenus</td><td>8</td></tr><tr><td>2. Un algorithme qui personnalise les contenus en prenant en compte toutes les interactions</td><td>10</td></tr><tr><td>a. Une adaptation du contenu propre aux interactions des utilisateurs et pas à leur réseau</td><td>10</td></tr><tr><td>b. TikTok permet aux comptes peu suivis d'être ponctuellement très visibles</td><td>14</td></tr><tr><td>3. Une modération problématique à plusieurs niveaux</td><td>15</td></tr><tr><td>4. Manipulation de l'information, promotion de comportements dangereux, rumeurs ... les dérives de TikTok</td><td>18</td></tr><tr><td>a. Surveillance de journalistes et boycott par les Etats-Unis</td><td>19</td></tr><tr><td>b. Manipulation politique de l'information : le cas de la guerre en Ukraine</td><td>19</td></tr><tr><td>c. Promotion du suicide et des troubles alimentaires</td><td>21</td></tr><tr><td>d. Diffusion de rumeurs et de théories du complot</td><td>21</td></tr><tr><td>5. Focus sur 4 risques : dérives sectaires, harcèlement, challenges dangereux, et violences sexistes</td><td>24</td></tr><tr><td>a. Présentation de l'outil Visibrain utilisé pour capter les données TikTok</td><td>24</td></tr><tr><td>b. Religion et dérives sectaires : la bulle de filtre des prêches religieux</td><td>34</td></tr><tr><td>c. Les multiples facettes du harcèlement sur TikTok</td><td>39</td></tr><tr><td>d. Les challenges dangereux, incités par TikTok à ses débuts ... et utilisés pour obtenir de la visibilité</td><td>47</td></tr><tr><td>e. Focus sur le harcèlement sexuel et le sexisme</td><td>54</td></tr><tr><td>Conclusion : recommandations et pistes de réflexions pour traiter les contenus problématiques sur TikTok</td><td>63</td></tr><tr><td>Mettre en place une veille dès à présent des contenus et hashtags problématique</td><td>64</td></tr><tr><td>Nécessité de former et sensibiliser les utilisateurs</td><td>64</td></tr><tr><td>Responsabiliser TikTok</td><td>65</td></tr><tr><td>Bibliographie</td><td>66</td></tr></table>
# Résumé du rapport de recherche

TikTok, le réseau social à la plus forte progression, utilisé massivement par les jeunes en France et en Europe, est aussi la plateforme en ligne la plus dangereuse pour notre société.

Son algorithme décide seul du flux de vidéos des utilisateurs, qui ne sont presque plus confrontés au choix de leurs abonnements. Si son fonctionnement reste opaque, la littérature scientifique sur le sujet et les témoignages d'utilisateurs montrent que TikTok favorise avant tout la viralité. Son algorithme va ainsi mettre en avant des publications problématiques : challenges dangereux, discours haineux et discriminatoire, injures raciales et sexistes, désinformation ... Pire, le fonctionnement de l'algorithme va proposer à des utilisateurs qui regarde du contenu non problématique du contenu plus violent ou abusif sur la base des préférences d'autres utilisateurs au profil similaire. L'algorithme de TikTok nourrit les comportements abusifs, plutôt que de le prévenir.

La modération de TikTok est par ailleurs souvent prise à défaut. Les signalements massifs d'utilisateurs sur des contenus problématiques, d'appels à la violence à la diffusion d'images pornographiques, sont souvent pris en compte très en retard. Les moyens mis en œuvre ne sont pas à la hauteur des enjeux, et des bénéfices de la société mère de TikTok, ByteDance, qui se porte très bien.

TikTok est également une plateforme sous influence. Le discours ambigu de ses propriétaires sur la supposée indépendance du réseau social ne résiste pas à l'épreuve des faits : les contenus sur les Ouïghours, contre la Chine sont censurés, et plus récemment, suivant les directives de Pékin, TikTok a favorisé la vision russe du conflit en Ukraine, manipulant les flux de vidéos en Russie.

Que faire dès lors ? Notre travail de recherche nous a permis de dresser quelques pistes en conclusion, issues de la littérature scientifique, de témoignages d'experts et de nos analyses :

* Sensibiliser et accompagner les jeunes utilisateurs aux risques notamment de cyberharcèlement, en les redirigeant vers des associations spécialisées qui travaillent avec les réseaux sociaux pour prendre en compte leurs signalements

* Obliger TikTok à fournir l'accès à ses données aux chercheurs, dans le cadre de la directive DSA sur les obligations de transparence des plateformes numériques, afin de pouvoir auditer et surveiller les dérives de son algorithme.

* Mener une enquête sur l'ingérence chinoise via TikTok pour renforcer les obligations du réseau social.

TikTok ne doit certes pas être un bouc émissaire pour l'ensemble des réseaux sociaux. Pour autant, son algorithme est devenu un modèle pour Facebook et Twitter, et va s'il est copié aggraver les problèmes sur ces plateformes. Les risques posés par une plateforme chinoise peuvent retourner cette menace en opportunité de légiférer ce secteur, avant que nos démocraties ne soient trop fracturées par la propagation de la haine, du harcèlement et de la désinformation.
Présentation de l'équipe de recherche

Madame Camille BAULANT, professeure agrégée des Universités en Sciences Economiques depuis
1994 à l'Université d'Angers est fondatrice et directrice du Master Intelligence Economique et
Stratégies Compétitives à l'Internationale.

Rattachée au laboratoire Granem, ses champs de recherche combinent l'économie internationale (compétitivité, risque pays, économie de la connaissance, indicateurs de richesse humaine, économies émergentes, ...) et l'économie de l'information (réseaux humains et numériques, leadership transformationnel, Intelligence économique, économie de la complexité, ...). Elle publie et participe régulièrement à des colloques de niveau international.

Monsieur Guillaume SYLVESTRE, expert en Social Network Analysis, intervenant dans le master Intelligence économique et stratégies compétitives à l'international. Guillaume Sylvestre a plus de dix ans d'expérience dans l'analyse des données issues du web en général, et des réseaux sociaux en particulier. Directeur de l'innovation numérique à l'ADIT, le leader européen de l'intelligence économique, il est un spécialiste reconnu de l'analyse des manipulations et techniques d'influence en ligne.

Son expertise couvre notamment l'impact stratégique de l'innovation sur les secteurs économiques et l'identification des signaux faibles via les réseaux sociaux. Il donne des cours à l'Ecole de Guerre Economique et l'IHDEN sur l'analyse des données et la datavisualisation, et intervient à l'Université d'Angers sur des projets de recherche liant Big Data, Réseaux sociaux et IA.

Avec la participation des étudiants de la promotion 2022-2023 des master 1 et 2 Intelligence Economique et Stratégie compétitives de l'université d'Angers.

Le GRANEM (Groupe de Recherche ANgevin en Économie et Management) est une équipe de recherche pluridisciplinaire (économie et gestion) de l'Université d'Angers, rattachée à la Fédération CNRS n°3435 TEPP (Travail, Emploi et Politiques Publiques).
## Glossaire

**Algorithme** : Un algorithme est un ensemble d'instructions utilisé par les réseaux sociaux pour trier, filtrer et afficher le contenu aux utilisateurs. Les algorithmes analysent différents facteurs tels que l'engagement, les préférences des utilisateurs et la pertinence du contenu pour personnaliser les flux d'informations.

**Apprentissage automatique** : L'apprentissage automatique, également connu sous le nom d'intelligence artificielle, est un processus par lequel les réseaux sociaux utilisent des algorithmes pour analyser les données et apprendre des comportements des utilisateurs. Il est utilisé pour améliorer la recommandation de contenu et personnaliser l'expérience des utilisateurs.

**Filtre de blocage** : Un filtre de blocage est un outil utilisé par les réseaux sociaux pour permettre aux utilisateurs de restreindre l'accès à leur contenu ou de bloquer certaines personnes. Cela peut aider à prévenir le harcèlement en ligne ou les interactions indésirables.

**Hashtag** : Un hashtag est un mot ou une phrase précédé du symbole dièse (#) utilisé pour catégoriser et organiser le contenu sur les réseaux sociaux. Les utilisateurs peuvent cliquer sur un hashtag pour voir tous les messages associés à ce thème spécifique.

**Interactions** : Les interactions désignent les actions effectuées par les utilisateurs sur les réseaux sociaux. Cela peut inclure des likes, des commentaires, des partages, des mentions et des messages privés. Les interactions jouent un rôle essentiel dans l'engagement et la diffusion du contenu.

**Réseau social** : Un réseau social sur internet est une plateforme en ligne qui permet aux utilisateurs de créer des profils, de se connecter avec d'autres utilisateurs, de partager du contenu, d'interagir et de communiquer. Les exemples courants de réseaux sociaux incluent Facebook, Twitter, Instagram et LinkedIn.

**Signalement** : Le signalement fait référence à l'action d'un utilisateur de signaler un contenu inapproprié, offensant, abusif ou en violation des règles de la communauté d'un réseau social. Les signalements aident les modérateurs à prendre des mesures appropriées, telles que la suppression du contenu ou la sanction des utilisateurs concernés.

**Viralité** : La viralité est le phénomène par lequel un contenu se propage rapidement et massivement sur les réseaux sociaux. Un contenu viral génère souvent de nombreuses interactions, de partages et d'engagement de la part des utilisateurs, ce qui lui permet d'atteindre un large public en peu de temps.
# 1. Le succès de TikTok en France et dans le Monde

Lancé en septembre 2016 par sa société mère ByteDance en Chine, puis dans le monde entier l'année suivante, TikTok était à l'origine une plateforme de partage de vidéos courtes, ciblant notamment les performances de danseurs.

ByteDance avait auparavant lancé un agrégateur de news qui proposait du contenu ciblé via une IA, Toutaio. Le principe de TikTok est également de fournir du contenu aux utilisateurs en fonction de ce qu'ils regardent et de leurs interactions. TikTok n'est donc pas réellement un réseau social : c'est un agrégateur de contenu qui va privilégier la viralité au partage au réseau d'amis des utilisateurs.

Il y avait presque 1,6 milliards d'utilisateurs de TikTok dans le monde au 3ème trimestre 2022, générant un revenu de près de 5 milliards de dollars. Si Instagram et Facebook restent plus populaires, ainsi que Youtube, ceux-ci semblent perdre du terrain sur TikTok.

En 2022, TikTok a été utilisé par 19 millions de français. Chaque jour, ils sont près de 9 millions à se connecter à l'application en France. La démographie de TikTok en France est la suivante : 56% sont des femmes, 44% d'hommes 51,3% de l'audience sont des femmes entre 13 et 24 ans, 23,6% des utilisateurs sont âgés entre 13 et 24 ans, 40% des visiteurs quotidiens se situent dans la tranche 15-24 ans, 70% de la communauté en France à plus de 18 ans<fnref n="1" />.

TikTok est le réseau social au plus fort taux de progression, en France et dans le monde, en particulier auprès des jeunes. Les autres réseaux sociaux tentent d'ailleurs de copier ses fonctionnalités, Youtube dès 2020 avec ses vidéos shorts<fnref n="2" />.

<footnote n="1">¹ https://www.meltwater.com/fr/blog/statistiques-tiktok</footnote>

<footnote n="2">² https://kulturegeek.fr/news-206090/youtube-lance-youtube-shorts-copie-tiktok</footnote>
a. Classement de l'audience de TikTok par pays (source Statista) - NB la Chine est absente car l'application utilisée, Douyin, est spécifique au public chinois

<figure><img src="image_2.png" /></figure>

Le graphique suggère une corrélation importante entre le niveau de population et l'utilisation de TikTok : USA (339 millions), Indonésie (273,8 millions), Brésil (214,3 millions), Russie (143,4 millions) et Mexique (126,7 millions). Pour ces pays, l'audience dépasse 50 millions de personnes. On constate que des pays autoritaires qui ont tendance à réglementer l'usage des réseaux sociaux américains ne semblent pas limiter l'accès à TikTok (Russie, Egypte, Arabie Saoudite ...).
b. Un réseau social qui génère énormément de revenus

TikTok est devenu au premier trimestre 2022 l'application où les internautes ont dépensé le plus d'argent. Certains auteurs évoquent l'émergence d'un nouveau régime de croissance capitaliste fortement créateur de valeurs ajoutée, une dimension qui est largement sous-estimé par les utilisateurs (Bauer, 2023). Ce sont les jeux vidéo en ligne qui ont généré le plus de dépenses, notamment ceux destinés à un public chinois.

D'après le cabinet Data.ai, pas moins de 840 millions de dollars ont été dépensés sur TikTok au premier trimestre, soit 40% de plus qu'en fin d'année 2021. Ce bond est dû au marché américain : à lui seul, il représente 310 millions de dollars de dépenses, soit 37% du total. Suit la Chine, avec 218 millions de dollars (26%). « *Les autres principaux marchés incluent le Koweït, l'Allemagne, l'Arabie Saoudite, le Royaume-Uni, la Russie, le Japon, la France et l'Italie* », poursuit Data.ai.

Ce revenu est généré via l'utilisation de la monnaie virtuelle de TikTok qui permet d'offrir des « cadeaux virtuels » aux influenceurs. Ces cadeaux peuvent ensuite être convertis en argent, moyennant une commission de 50% pour TikTok<fnref n="3" />. Ce fonctionnement est similaire à ce que proposent les jeux en ligne pour générer du revenu en incitant les utilisateurs à dépenser en contenu virtuel leur argent.

Par exemple, une rose virtuelle vaut une pièce, un donut 30 pièces, une casquette 99 pièces, un canard 299 pièces, un chat 3999 pièces et un bélier 9999 pièces. Un pack de 36 pièces vaut 0,50 euro, un pack de 700 pièces s'échange contre 11,39 euros, et il faut dépenser 116,15 euros pour obtenir 7000 pièces. On peut aussi envoyer des cadeaux sur Twitch, YouTube, ou Facebook Live.

Une publication de Apptodpia datant du 1er mars 2023 indique que TikTok a généré 205 millions de $ de plus que Facebook, Instagram, Snapchat et Twitter réunis via les achats intégrés en 2022⁴.

<footnote n="3">³https://www.lefigaro.fr/secteur/high-tech/tiktok-est-devenu-l-application-ou-les-internautes-depensent-le-plus-d-argent-20220408</footnote>

<footnote n="4">⁴ https://blog.apptopia.com/big-social-apps-turn-toward-in-app-purchases</footnote>
TikTok generates revenue like clockwork

<figure><img src="image_3.png" /><figcaption>IAP revenue, worldwide</figcaption></figure>
## 2. Un algorithme qui personnalise les contenus en prenant en compte toutes les interactions

TikTok propose un flux de contenu « **Pour toi** » qui recommande des vidéos aux utilisateurs à travers son algorithme. On note ainsi une croissance exponentielle de l'économie numérique grâce à l'IA qui permet de générer du contenu très personnalisé et à très fort potentiel monétaire (Sadin, 2018). Pendant longtemps le fonctionnement de cet algorithme n'était pas communiqué par TikTok, qui a fini par donner des éléments après que le législateur américain se soit intéressé au sujet<fnref n="5" />.

### a. Une adaptation du contenu propre aux interactions des utilisateurs et pas à leur réseau

Plusieurs travaux de recherche suggèrent que l'algorithme de TikTok est basé sur l'apprentissage automatique et sur deux mécanismes principaux : le **regroupement de contenus** et l'**analyse du comportement des utilisateurs**. Alekhin 2021⁶ explique que l'algorithme regroupe le contenu en fonction de la piste audio, des légendes vidéo et des hashtags, et analyse le comportement des utilisateurs pour créer des scénarios d'interaction. Klug 2021⁷ a constaté à travers les actions des utilisateurs de TikTok que l'engagement vidéo, l'heure de publication et les hashtags influencent l'algorithme.

L'algorithme de TikTok fonctionne en utilisant des techniques d'apprentissage automatique pour comprendre les préférences et les intérêts des utilisateurs, ainsi que pour identifier les contenus qui peuvent être les plus pertinents pour eux. Il utilise diverses données pour cibler les vidéos à afficher, notamment<fnref n="8" /> :

* **Interactions utilisateur** : Il suit les actions de l'utilisateur sur l'application, comme les likes, les partages, les commentaires, les visionnages de vidéos, etc. pour comprendre leurs intérêts.

* **Données démographiques** : Il utilise les informations démographiques des utilisateurs, telles que leur âge, leur emplacement et leur sexe, pour choisir le contenu spécifique à proposer sur chaque profil.

* **Analyse de contenu** : Il utilise l'analyse de contenu pour reconnaître les visages, les objets, les scènes et les sentiments présents dans les vidéos pour cibler les vidéos qui peuvent être les plus pertinentes pour les utilisateurs.

En utilisant ces données, l'algorithme de TikTok peut afficher des vidéos sur le fil d'actualité des utilisateurs qui correspondent à leurs intérêts et préférences, ce qui augmente l'engagement et la rétention des utilisateurs sur l'application qui en deviennent ainsi captifs (Koenig, 2019, Sadin, 2021). L'agence d'analyse des données des réseaux sociaux Bordelaise First Link propose ainsi une infographie qui synthétise les informations communiquées par TikTok sur son algorithme :

<footnote n="5">⁵ https://www.wired.com/story/tiktok-finally-explains-for-you-algorithm-works/</footnote>

<footnote n="6">⁶ https://doi.org/10.33941/AGE-INFO.COM52%2815%297</footnote>

<footnote n="7">⁷ https://dl.acm.org/doi/pdf/10.1145/3447535.3462512</footnote>

<footnote n="8">⁸ https://newsroom.tiktok.com/en-us/how-tiktok-recommends-videos-for-you/</footnote>
<figure><img src="image_4.png" /></figure>

# COMMENT FONCTIONNE L'ALGORITHME DE TIKTOK ?

<figure><img src="image_5.png" /></figure>

TikTok favorise les vidéos qui génèrent des interactions rapidement : commentaires, likes, partages ... a contrario, l'utilisation de hashtags, très valorisée sur le réseau social Instagram par exemple, est moins pertinente pour TikTok<fnref n="9" />. Ce type d'interactions entre utilisateurs, qui sont de l'ordre de l'automatique, s'apparente ainsi à des réflexes bien documenté par les analyses récentes des neuroscientifiques (Damasio, 2021) et des auteurs de l'économie comportementale (Kahneman, Sibony, Sunstein, 2021)

<footnote n="9">⁹ https://dl.acm.org/doi/10.1145/3447535.3462512</footnote>
C'est une différence fondamentale avec les réseaux sociaux existants, et qui fait que TikTok n'est pas un vrai réseau social : le flux de contenu de chaque utilisateur sera moins impacté par les profils suivis que par le contenu avec lequel il aura interagi.

Ce fonctionnement favorise également la création de contenu, et est donc très adapté aux stratégies de marketing d'influence, puisqu'il permet d'obtenir de la visibilité sans devoir obligatoirement payer comme sur Facebook par exemple. « TikTok, c'est le berceau de tous les trends, de toutes les tendances. La différence avec les autres réseaux, c'est que TikTok ouvre sur un flux non désiré. Du coup, le nombre d'abonnés qu'on peut avoir ne compte pas vraiment. C'est une intelligence artificielle qui va fouiller votre profil sur le Web et vous connaît presque mieux que vous-même. » **Mathieu Guyon, alias @matdeuh**<fnref n="10" />. Ces stratégies actives de marketing sont sans coût pour l'initiateur de la stratégie à la différence du marketing sur Facebook qui est devenu payant (Cialdini, 2004).

L'application tend par ailleurs à être de plus en plus utilisée comme moteur de recherche, comme l'a étudié Google : 40% des jeunes utilisateurs vont chercher de nouvelles recettes, endroits où sortir ou films via TikTok. Cette utilisation comme moteur de recherche « enferme » alors l'internaute dans une bulle de filtre. Les internautes consomment, produisent, partagent et pensent dans la logique TikTok. Or, en explorant différents thèmes allant du Covid-19 au changement climatique, en passant par l'avortement ou l'élection américaine, les analystes de l'entreprise Newsguard, spécialisée dans le suivi de la désinformation en ligne, ont constaté en septembre que « près de 20 % des vidéos présentées comme résultats de recherche contenaient des informations trompeuses ». Selon Jack Brewster, l'un des analystes<fnref n="11" /> :

> « Si vous tapez certains termes de recherche, TikTok vous pousse parfois vers la désinformation en complétant automatiquement. Ainsi, par exemple, lors de notre analyse, en tapant "changement climatique", on nous proposait la formule "changement climatique debunked [démystifié]" ou "le changement climatique n'existe pas". »

## Comparaison de l'algorithme de TikTok avec les autres réseaux sociaux

Le succès de l'algorithme de TikTok, qui s'appuie presque exclusivement sur l'analyse des vidéos visionnées, les interactions liées, et très rarement les abonnements, amène un changement fondamental avec les autres réseaux sociaux qui se focalisaient sur les interactions sociales des utilisateurs. A contrario, TikTok privilégie l'étude des interactions autour des vidéos. Cette interaction est ainsi « médiatisée » par la vidéo. Elle est alors moins perceptible par l'utilisateur qui pense ne pas être influencé par le réseau et croit garder « son libre arbitre » (Sadin, 2021).

Le contenu « Pour toi » est ainsi utilisé maintenant sur Twitter, et les formats vidéo des autres réseaux sociaux tentent de reprendre le fonctionnement de TikTok.

<footnote n="10">¹⁰ https://www.lemonde.fr/culture/article/2023/01/14/tiktok-l-algorithme-qui-secoue-la-culture_6157833_3246.html</footnote>

<footnote n="11">¹¹ https://www.nytimes.com/2022/09/16/technology/gen-z-tiktok-search-engine.html</footnote>
<table><thead><tr><td>Plateforme</td><td>Facteurs d'influence</td><td>Degré de personnalisation du contenu</td><td>Importance des abonnements</td><td>Éléments de succès des publications</td></tr></thead><tbody><tr><td>TikTok</td><td>Interactions de l'utilisateur avec les vidéos, informations sur la vidéo, paramètres de l'appareil et du compte, langue préférée, catégories d'intérêt sélectionnées</td><td>Très élevé : recommandations personnalisées pour chaque utilisateur, basées sur leurs interactions précédentes (boucle auto-référencielle)</td><td>Pas essentiels, mais les abonnements peuvent aider à augmenter la portée d'un compte</td><td>Contenu original, accrocheur et engageant, utilisation de sons tendance, durée de visionnage élevée. Les vidéos courtes (30 secondes) semblent privilégiées.</td></tr><tr><td>Facebook</td><td>Intérêts et interactions de l'utilisateur, temps consacré à une publication, type de contenu</td><td>Moyen : le fil d'actualité est personnalisé en fonction des intérêts de l'utilisateur, mais il est également influencé par les intérêts et les interactions de leurs amis</td><td>Élevée : les abonnés sont importants pour les pages d'entreprise, car ils reçoivent des notifications des publications</td><td>Qualité du contenu, engagement des utilisateurs, pertinence du contenu pour les abonnés</td></tr><tr><td>Twitter</td><td>Hashtags, sujets tendance, activité de l'utilisateur</td><td>Faible : le fil d'actualité est basé sur des tweets récents et populaires, mais il ne prend pas en compte les préférences individuelles de l'utilisateur</td><td>Élevée : les abonnés sont essentiels pour augmenter la portée des tweets</td><td>Contenu intéressant, récent et pertinent pour les abonnés, utilisation de hashtags pertinents</td></tr><tr><td>Instagram</td><td>Interactions de l'utilisateur, pertinence du contenu, temps de visualisation</td><td>Élevé : le fil d'actualité est personnalisé en fonction des interactions de l'utilisateur avec les publications, ainsi que de la pertinence du contenu</td><td>Élevée : les abonnés sont importants pour augmenter la portée des publications, en particulier pour les entreprises</td><td>Qualité du contenu visuel, engagement des utilisateurs, utilisation de hashtags pertinents</td></tr><tr><td>YouTube</td><td>Temps de visionnage, pertinence du contenu, engagement des utilisateurs</td><td>Moyen : les recommandations de vidéos sont basées sur les préférences de l'utilisateur et l'historique de visionnage, mais les publications récentes et populaires ont également un impact</td><td>Élevée : les abonnés sont importants pour augmenter la portée des vidéos et encourager la fidélité des spectateurs</td><td>Qualité de la vidéo, pertinence du contenu pour les abonnés, engagement des spectateurs, utilisation de mots-clés pertinents. Les vidéos shorts longues (près de une minute) semblent être celles qui fonctionne le mieux.</td></tr></tbody></table>

Auteurs : Camille Baulant, Guillaume Sylvestre & ChatGPT 4
## b. TikTok permet aux comptes peu suivis d'être ponctuellement très visibles

Comme indiqué par l'infographie de First Link, TikTok propose chaque nouvelle vidéo publiée en ligne à un groupe d'utilisateurs susceptibles de l'apprécier. En cas d'interactions positives, la vidéo sera valorisée par l'algorithme et pourra devenir virale. Cela signifie que n'importe quelle vidéo de tout utilisateur pourra avoir du succès. La page « Pour toi » pourra donc contenir des vidéos déjà virales ainsi que des vidéos qui viennent d'être publiées par des profils peu suivis.

> « Bien qu'une vidéo soit susceptible de recevoir plus de vues si elle est publiée par un compte qui compte plus d'abonnés, du fait que ce compte a constitué une plus grande base d'abonnés, ni le nombre d'abonnés ni le fait que le compte ait déjà eu des vidéos très performantes ne sont des facteurs directs dans le système de recommandation »<fnref n="12" />.

Bytedance utilise l'IA pour analyser le contenu des vidéos afin de choisir les bons publics cibles : classification des textes et audio présents dans la vidéo, identification des objets présents ... dès lors, les utilisateurs de TikTok vont jouer avec l'algorithme pour identifier le contenu qui fonctionnera et leur permettra d'obtenir plus de vues et d'interactions<fnref n="13" />.

A noter que le concept d'influenceur sur TikTok semble se déplacer des individus aux tendances : les utilisateurs ne suivent pas forcément des personnes / profils qu'ils ont identifié comme intéressants, mais des tendances proposées par l'algorithme. Cela permet ainsi à des profils très peu suivis d'obtenir de la visibilité si l'algorithme valorise leur contenu. En valorisant les tendances plus que les individus, il devient plus difficile d'identifier et d'isoler le ou la personne qui aurait lancé la tendance.

Le modèle de TikTok, qui génère des flux spécifiques à chaque utilisateur, à l'origine par ailleurs de son succès, devrait être copié par les autres réseaux sociaux<fnref n="14" />. Cette dynamique va faciliter la manipulation de l'information en ligne en valorisant les contenus qui jouent sur les biais cognitifs, notamment via des messages vidéo ou audio. Les neuroscientifiques ont montré que le choc provoqué par la vidéo et l'audio est beaucoup plus fort sur les individus, les jeunes en particulier, que le poids des mots ou même des photos (Kahneman, 2011 ; Damasio, 2017, Dehaene, 2018).

<footnote n="12">¹² https://newsroom.tiktok.com/en-us/how-tiktok-recommends-videos-for-you</footnote>

<footnote n="13">¹³ https://dl.acm.org/doi/10.1145/3447535.3462512</footnote>

<footnote n="14">¹⁴ Facebook a annoncé en mars vouloir s'inspirer de TikTok, Instagram aurait déjà repris un algorithme similaire https://twitter.com/nico_vanderb/status/1539864900440412160?s=11&t=bR_3ChVpdPe0VxXZVqeSWg</footnote>
### 3. Une modération problématique à plusieurs niveaux

TikTok semble être le réseau social le plus problématique du point de vue de la modération. **Si TikTok indique avoir supprimé entre janvier et mars 2022 plus de 100 millions de vidéos, soit 1% du total mis sur la plateforme, dont 95% automatiquement, le processus de modération est très limité.** Il repose sur des salariés qui doivent visionner 1000 vidéos par jour (125 par heure !), donc les regarder en accéléré, plusieurs à la fois ... dans des conditions de travail qui ne les incitent pas à rester. C'est donc un filtrage humain, effectué par des novices, qui sert de barrière.<fnref n="15" />

La priorité de TikTok semble d'ailleurs sur la modération concerner les contenus violents et sexuels (amenant les modérateurs à identifier le degré d'exposition d'un sein qui serait acceptable), ainsi que les vidéos valorisant l'alcool, les comportements dangereux, le tabac et la drogue.

Ce mode de fonctionnement est contourné par les utilisateurs, qui utilisent des termes détournés pour ne pas attirer l'attention des modérateurs, **par exemple sur les contenus concernant les troubles alimentaires, référencés via des termes** tels que an0rexla ou sp0 (diminutif de thinspo, correspondant à des images de jeunes filles émaciées). Notons qu'une utilisatrice qui fera des recherches sur le sujet se verra proposé par l'algorithme des contenus liés, enfermant les utilisateurs dans des bulles de filtres de contenus problématiques. Des chercheurs ont montré que TikTok valorise des vidéos encourageant au body shaming, ce qui a un impact négatif sur la santé physique et mentale des jeunes utilisateurs (Liu 2021)<fnref n="16" />.

Tout ce qui concernera des situations de harcèlement, la haine et les menaces en ligne, la diffusion de fausses informations, ne semble pas prioritaire dans le travail de modération, sauf en cas de signalements massifs des utilisateurs. **Les vidéos incriminées seront supprimées après avoir fait le buzz et été vues des millions de fois.**

> « TikTok va moins censurer les contenus problématiques que Facebook ou Instagram, mais les comptes signalés seront plus rapidement fermés – il faut être plusieurs à signaler un compte sur Instagram pour qu'il y ait une réaction ». Webinar cyberharcèlement, 22/03/2023

Le Global Witness and the Cybersecurity for Democracy Team (C4D) de la New York University a soumis à plusieurs réseaux sociaux lors des élections américaines de mi-mandat de 2022 20 publicités mensongères. **TikTok, avec 90% d'approbation, en a accepté le plus**<fnref n="17" />. NewsGuard, start-up américaine spécialisée dans l'étude de la désinformation, a analysé que 20% des vidéos apparaissant dans le fil « Pour toi » sur des sujets tels que le Coronavirus ou la guerre en Ukraine correspondaient à de la désinformation.

<footnote n="15">¹⁵ Herrero O., (2023), Le système TikTok, Editions du Rocher</footnote>

<footnote n="16">¹⁶ https://doi.org/10.2991/ASSEHR.K.210609.072</footnote>

<footnote n="17">¹⁷ https://www.globalwitness.org/en/press-releases/facebook-and-tiktok-fail-block-deceptive-ads-blatant-us-midterms-disinformation/</footnote>
Un problème qui se retrouve sur tous les réseaux sociaux, mais qui est accentué par le fonctionnement de TikTok

La société Sapere Vedere a collecté plusieurs dizaines de milliers de tweets en français correspondant a du contenu haineux (racisme, antisémitisme, LGBTphobe ... sur 13 mois entre 2022 et 2023, et les a analysé via une étude publiée le 20/04/2023¹⁸. Certaines conclusions sont applicables à TikTok et aux autres réseaux sociaux :

○ **Le traitement automatique n'est pas efficace, du fait des spécificités liées à l'ironie, des problèmes sémantiques** (ex : « tapettes à mouche ») L'utilisation d'un algorithme spécifique n'a permis de détecter que 11% des contenus problématiques, un score très faible. Les problèmes de sémantique sont encore renforcés par les vocabulaires différents utilisés selon les langues et les cultures des producteurs de contenu (Damasio, 2021).

○ **A contrario, des éléments statistiques pourraient être utilisés pour en faciliter le traitement** : la majorité des contenus problématiques sont des réponses / commentaires, ils sont publiés via des pseudonymes (97%), **73% viennent de profils masculins, certaines communautés (extrême droite) sont motrices sur les messages haineux.**

Le format de TikTok, avec des vidéos courtes rapides à consommer, encourage au harcèlement les utilisateurs qui consommeront des vidéos de personnes qu'ils souhaitent harceler, les amenant à un recevoir encore plus. C'est d'autant plus vrai pour les minorités. Par ailleurs, la viralité des contenus encouragera certains profils à proposer des contenus choquants pour jouer sur l'algorithme et obtenir de la visibilité, sachant qu'ils ne seront pas toujours sanctionnés.

Selon une étude de The Global Network on Extremism and Technology, TikTok peut mettre en avant des vidéos promouvant le racisme anti-Noir, l'ethno-nationalisme et la suprématie blanche auprès de certains publics racistes qui consomment ce type de vidéos<fnref n="19" />. Un chercheur s'est penché sur les vidéos antisémites, et a constaté que l'algorithme de TikTok proposait à des utilisateurs ayant vu par erreur des vidéos antisémites à en voir d'autres. (Weimann 2021²⁰). La fonctionnalité « Utilise ce son » semble par ailleurs utilisée pour propager des mêmes des stéréotypes raciaux (Matamoros-Fernández, 2022²¹).

L'algorithme de TikTok nourrit les comportements abusifs, plutôt que de le prévenir.

<footnote n="18">¹⁸ http://www.reputatiolab.com/2023/04/messages-de-haine-et-reseaux-sociaux-la-difficulte-de-la-moderation/</footnote>

<footnote n="19">¹⁹ https://dot.la/tiktok-hateful-content-2657714935.html</footnote>

<footnote n="20">²⁰ https://doi.org/10.3390/journalmedia2040041</footnote>

<footnote n="21">²¹ https://doi.org/10.17645/mac.v10i2.5154</footnote>
Un algorithme qui favorise la désinformation

TikTok peut faciliter la diffusion de la désinformation en raison de son contenu visuel et facilement partageable, ainsi que de sa popularité parmi les jeunes utilisateurs (Alonso-López 2021)<fnref n="22" />. Une étude a montré que cette désinformation était très répandue dans les vidéos concernant la santé (O'Sullivan 2022)<fnref n="23" />.

Des chercheurs ont mené une analyse des vidéos de théorie du complot circulant sur TikTok (Grandinetti, Bruinsma, 2022²⁴). Ils ont constaté que les algorithmes de TikTok favorisent la diffusion de vidéos sensationnalistes et conspirationnistes, et que ces vidéos sont souvent présentées à des utilisateurs qui ont déjà montré de l'intérêt pour ces sujets. Les auteurs soulignent également le rôle joué par les émotions dans la diffusion de rumeurs sur TikTok.

Si TikTok supprime en masse des vidéos de désinformation de sa plateforme (par exemple près de 350 000 vidéos contenant des informations erronées sur l'élection présidentielle américaine de 2020 et plus de 50 000 vidéos contenant de fausses informations sur la COVID-19), la plateforme reste très utilisée pour mettre en avant des vidéos complotistes<fnref n="25" />.

<footnote n="22">²² https://doi.org/10.5565/REV/ANALISI.3411</footnote>

<footnote n="23">²³ https://doi.org/10.1016/j.jpurol.2022.03.001</footnote>

<footnote n="24">²⁴ https://www.tandfonline.com/doi/full/10.1080/08838151.2022.2140806</footnote>

<footnote n="25">²⁵ https://thebutlercollegian.com/2021/09/tiktok-fake-news-or-a-reliable-source/</footnote>
4. Manipulation de l'information, promotion de comportements dangereux, rumeurs ... les dérives de TikTok

Tous les réseaux sociaux sont controversés, mais il existe des problématiques spécifiques à TikTok :

o **Liens avec le gouvernement chinois** : Il y a des préoccupations concernant la sécurité des données des utilisateurs, car TikTok est la propriété de ByteDance, une entreprise chinoise. Les sénateurs américains se sont récemment inquiétés du risque d'exploitation des données de fonctionnaires. On retrouve les mêmes interdictions de TikTok en Inde, en Afghanistan, en Jordanie, ou au Pakistan qui ont interdit le réseau sur le territoire ou en Australie, en France, en Belgique, au Canada, au Danemark, en Norvège, en Nouvelle-Zélande, aux Pays-Bas, au Royaume-Uni, en Suède, à Taiwan et à la Commission et au Parlement européen qui ont restreint sensiblement l'accès à TikTok<fnref n="26" />.

o **Usage des données personnelles** : Contrairement aux autres réseaux sociaux, TikTok partage ses données avec de nombreux acteurs tiers, amenant des risques sur l'usage de ces données.

o **Censure ou manipulation de contenus** : TikTok censure des contenus jugés subversifs, concernant notamment les ouighours, la liberté en Chine ... et plus récemment le réseau social a coupé les vidéos russes du reste du monde, favorisant la propagande du Kremlin.

La société URL Genius a publié une étude en janvier 2022 sur l'usage des données personnelles via Youtube et TikTok. Si Youtube collecte beaucoup de données, comme Google, celles-ci sont principalement utilisées par le réseau social. A contrario, TikTok partage les données collectées avec de nombreux **acteurs tiers**, sans préciser de quoi il s'agit<fnref n="27" />. La médiation par des acteurs « tiers » renforce alors le danger et le rend plus difficile à contrôler. Au Royaume-Uni, TikTok a été accusé en 2021 d'avoir collecté les données personnelles de millions d'enfants, dont des données biométriques<fnref n="28" />.

David Colon, enseignant chercheur à Sciences Po et spécialiste de l'influence, considère que TikTok est une menace plus grande que Qanon<fnref n="29" /> pour les pays occidentaux, et que le réseau social est partie prenante de la « guerre intelligentisée » menée en ligne contre les démocraties par la Chine et la Russie<fnref n="30" />.

<footnote n="26">²⁶ https://www.e-marketing.fr/Thematique/influences-1293/reseaux-sociaux-2216/Breves/TikTok-quels-sont-les-pays-qui-ont-interdit-l-application-381652.htm</footnote>

<footnote n="27">²⁷ https://www.cnbc.com/2022/02/08/tiktok-shares-your-data-more-than-any-other-social-media-app-study.html</footnote>

<footnote n="28">²⁸ https://www.phonandroid.com/tiktok-accuse-collecte-donnees-millions-enfants.html</footnote>

<footnote n="29">²⁹ Qanon est un réseau complotiste très actif aux Etats-Unis et probablement lié à la Russie, qui cible notamment les élites accusées de pratiques pédophiles et sataniste</footnote>

<footnote n="30">³⁰ David Colon, intervention au colloque Viginum, 20 juin 2023</footnote>
a. Surveillance de journalistes et boycott par les Etats-Unis

ByteDance est obligé de collaborer avec le pouvoir chinois, et a reconnu en décembre 2022 avoir espionné des journalistes enquêtant sur TikTok. Cela fait suite à d'autres révélations sur des pratiques d'espionnages déjà relevées.

Le congrès américain souhaite d'ailleurs interdire l'utilisation de TikTok par les fonctionnaires, 20 Etats américains ayant déjà franchi le pas<fnref n="31" />.Lorsqu'en décembre 2022 la gouverneure du Dakota du Sud, la républicaine Kristi Noem, a interdit l'usage de TikTok sur tous les appareils détenus par l'Etat, ce fut la consternation : le département du tourisme local, qui comptait soixante mille abonnés, a dû supprimer son application ; la radiotélévision publique a dû faire de même, tout comme les six universités publiques de l'Etat<fnref n="32" />.

b. Manipulation politique de l'information : le cas de la guerre en Ukraine

Le Washington Post a enquêté en avril 2022 sur plusieurs exemples concrets de manipulation par TikTok des données de la plateforme en Russie.

Des chercheurs en sécurité ont découvert que l'application utilise des termes de censure pour bloquer certains mots et phrases, comme "manifester" ou "manifestation", qui sont associés aux protestations et à la contestation du gouvernement en Russie.

L'article affirme que TikTok est utilisé pour diffuser de la propagande gouvernementale en affichant des vidéos qui présentent le gouvernement de manière positive. Il donne l'exemple de vidéos qui montrent des membres du gouvernement en train de parler à des groupes d'enfants ou de travailler dans des salles de contrôle, en utilisant des hashtags tels que "#Putin" ou "#GouvernementRusse" pour les cibler. TikTok a fait le choix de couper les utilisateurs russes du reste du monde, afin d'empêcher les Ukrainiens de propager leurs vidéos sur la guerre en Russie. Le réseau social chinois est allé plus loin en empêchant officiellement la mise en ligne de vidéos sur la guerre depuis le sol russe ... permettant au final à des profils pro-Poutine d'inonder le TikTok russe. Ce choix de TikTok correspond aux consignes données par Pékin aux médias chinois concernant la guerre en Ukraine de favoriser le discours russe<fnref n="33" />.

Une autre étude de Newsguard publiée le 1er décembre montre que des dizaines de vidéos font l'apologie des crimes de guerre de Wagner sur TikTok. Les séquences, extrêmement violentes, sont visibles en intégralité sur le réseau social Telegram, dont la modération des contenus haineux est très défaillante, et sur VKontakte, le « Facebook russe ». Si, sur TikTok, circulent uniquement des extraits de ces scènes, expurgés des moments choquants, les vidéos restent suffisamment explicites. Les

<footnote n="31">³¹ https://www.lemonde.fr/pixels/article/2022/12/23/l-entreprise-chinoise-bytedance-proprietaire-de-tiktok-admet-avoir-espionne-des-journalistes_6155484_4408996.html</footnote>

<footnote n="32">³² https://www.lemonde.fr/culture/article/2023/01/14/tiktok-accuse-d-espionner-l-amerique-et-de-corrompre-la-jeunesse_6157851_3246.html</footnote>

<footnote n="33">³³ https://www.washingtonpost.com/technology/2022/04/13/tiktok-russia-censorship-propaganda-tracking-exposed/</footnote>
images sont souvent précédées d'un commentaire tel que « Mes amis me demandent ce que je ferais si l'armée ukrainienne avance d'un mètre en Russie »<fnref n="34" />.

Le 10 février 2023, TikTok a annoncé avoir démantelé un réseau de milliers de comptes diffusant des messages anti-ukrainiens en se faisant passer pour des utilisateurs d'autres pays. L'usage de l'IA et de VPN a été identifié<fnref n="35" />.

<footnote n="34">³⁴ https://www.lemonde.fr/pixels/article/2022/12/01/sur-tiktok-des-videos-de-propagande-pour-le-groupe-paramilitaire-wagner_6152459_4408996.html</footnote>

<footnote n="35">³⁵ https://www.bfmtv.com/tech/tiktok/tik-tok-revele-un-reseau-de-desinformation-russe-a-destination-des-internautes-europeens_AV-202302100128.html</footnote>
### c. Promotion du suicide et des troubles alimentaires

Des experts du Centre de lutte contre la haine en ligne (CCDH) ont créé de faux profils d'adolescents âgés de treize ans aux Etats-Unis, au Royaume-Uni, au Canada et en Australie, en utilisant des présentations de profils suggérant une vulnérabilité particulière de ces adolescents aux troubles de l'alimentation – comprenant par exemple les mots « perdre du poids ».

Les chercheurs ont ensuite fait vivre ces comptes en « likant » des vidéos traitant de ces sujets préjudiciables, pour voir si l'algorithme TikTok allait répondre en ce sens. Quelques minutes après avoir rejoint la plate-forme, en à peine deux minutes et six secondes, l'algorithme de TikTok leur a recommandé des vidéos relatives au suicide (lames de rasoir, discussions sur le suicide et l'automutilisation...). En huit minutes à peine, il leur suggérait aussi des contenus concernant la perte de poids et les troubles du comportement alimentaire.

> « C'est comme être coincé dans une salle de miroirs déformés où l'on vous dit constamment que vous êtes moche, que vous n'êtes pas assez bon, que vous devriez peut-être vous suicider. [TikTok] envoie littéralement les messages les plus dangereux possibles aux jeunes. » Imran Ahmed, président du CCDH<fnref n="36" />

Par conséquent, les jeunes utilisateurs de TikTok sont exposés au visionnage de contenus potentiellement problématiques comme les challenges dangereux. Ces derniers sont de plus en plus présents sur la plateforme et une grande partie échappe au signalement et filtre de blocage. En effet, malgré l'engagement de Tiktok à préserver son application et sa volonté d'en faire un espace sûr pour tout public, son algorithme présente des failles qui exposent les plus vulnérables. Une étude de l'ONG CCDH a montré que l'algorithme de TikTok recommande à cette catégorie d'utilisateurs des contenus nocifs toutes les 27 à 39 secondes<fnref n="37" />. Dans le cadre de cette étude, un contenu nocif renvoie à un contenu sur des sujets préjudiciables tels que les troubles de l'alimentation, la honte du poids, l'automutilation et les agressions sexuelles.

### d. Diffusion de rumeurs et de théories du complot

TikTok est également utilisé pour diffuser des rumeurs. Récemment, des vidéos évoquant des tentatives d'enlèvement à Toulouse et à Marseille ont été relayées sur TikTok accusant des roms d'essayer de voler des bébés pour du trafic d'organe. Ces vidéos ont obtenu des millions de vues.

<footnote n="36">³⁶ https://www.lemonde.fr/pixels/article/2022/12/16/sur-tiktok-des-videos-relatives-au-suicide-et-aux-troubles-alimentaires-mises-en-avant-par-l-algorithme_6154714_4408996.html</footnote>

<footnote n="37">³⁷ https://counterhate.com/blog/tiktok-bombards-teens-with-self-harm-and-eating-disorder-content-within-minutes-of-joining-the-platform/</footnote>
#

#traficdorganes

12.4M vues

<figure><img src="image_6.png" /></figure>

<figure><img src="image_7.png" /><figcaption>Je suis choquée, n'imp...</figcaption></figure>

<figure><img src="image_8.png" /><figcaption>#lyon #marseille ...</figcaption></figure>

<figure><img src="image_9.png" /><figcaption>sa fais peur .. faite artte...</figcaption></figure>

<figure><img src="image_10.png" /><figcaption>Attention au traffic d'or...</figcaption></figure>

<figure><img src="image_11.png" /><figcaption>#duo avec ..▶</figcaption></figure>

<figure><img src="image_12.png" /><figcaption>Minimum équipé quan...</figcaption></figure>

Le hashtag #traficdorganes totalise ainsi 12,4 millions de vues sur TikTok. Le visuel ci-dessus donne des exemples des vidéos accessibles en lignes en recherchant le hashtag sur TikTok (consultation le 07/03/2023).
On notera que le phénomène s'est vite arrêté, les vidéos ayant été postées entre mi-octobre et début novembre 2022³⁸. Les comptes à l'origine semblent chercher à obtenir de la visibilité. Le fonctionnement de l'algorithme de TikTok peut ainsi inciter à diffuser ces rumeurs pour être visible, là où il sera plus complexe d'obtenir de la viralité sur les autres réseaux sociaux sans avoir un nombre d'amis / abonnés important. Le compte le plus repris sur notre corpus n'a ainsi que 7500 abonnés et deux vidéos en ligne<fnref n="39" />.

En 2021, une société avait été accusée via une vidéo TikTok d'être reliée à un réseau de trafic d'enfants, et a reçu de nombreuses menaces en ligne<fnref n="40" />. Le profil à l'origine de ces accusations semble être spécialisé dans la diffusion de vidéos sur des rumeurs, des sujets complotistes<fnref n="41" /> ... et n'a pas été sanctionné par TikTok. Toutes ses vidéos indiquent « What do you think » sur un sujet de controverse potentielle.

Copie d'écran des vidéos affichées sur le profil TikTok @dontghostme

<figure><img src="image_13.png" /></figure>

<footnote n="38">³⁸ https://france3-regions.francetvinfo.fr/occitanie/haute-garonne/toulouse/instagram-tik-tok-comment-la-folle-rumeur-marseillaise-d-enlevement-et-de-trafic-d-organe-se-repand-a-travers-la-france-2639460.html</footnote>

<footnote n="39">³⁹ https://www.tiktok.com/@cyclonejulie</footnote>

<footnote n="40">⁴⁰ https://www.fredzone.org/quand-une-theorie-du-complot-bizarre-fait-le-buzz-sur-tiktok-5858?utm_source=dlvr.it&utm_medium=twitter#utm_source=feed&utm_medium=feed&utm_campaign=feed</footnote>

<footnote n="41">⁴¹ https://www.tiktok.com/@dontghostme/video/7189027938723990827</footnote>
## 5. Focus sur 4 risques : dérives sectaires, harcèlement, challenges dangereux, et violences sexistes

Afin d'étudier les risques posés par la plateforme TikTok, nous avons utilisé Visibrain, un logiciel de veille pour collecter des publications TikTok à partir de hashtags, mots-clés et profils pertinents identifiés.

### a. Présentation de l'outil Visibrain utilisé pour capter les données TikTok

Les étudiants du Master Intelligence Economique et Stratégies Compétitives ont étudié au cours de de l'année universitaire 2022-2023 la viralité de plusieurs thématiques sur TikTok.

Nous avons fait le choix de l'outil Visibrain qui est l'une des premières plateformes de veille à proposer le scraping de contenu sur TikTok et qui avait été partenaire de l'étude précédente réalisée par l'équipe de recherche<fnref n="42" />. Le choix d'une plateforme professionnelle vise à améliorer la capacité de collecte des données, à obtenir des éléments d'analyse plus pertinents et percutants via la technologie d'analyse de Visibrain, notamment la capacité à effectuer des cartographies relationnelles.

Après avoir identifié des hashtags, mots-clés et comptes pertinents sur TikTok, nous avons mis en place une collecte des publications correspondantes avec l'outil de veille Visibrain, qui est utilisé pour cette étude. Visibrain<fnref n="43" /> est une plateforme de veille qui permet de récolter les données des publications TikTok au fil de l'eau, en surveillant des hashtags ou des profils, et de les analyser via une plateforme qui combine différentes informations.

<footnote n="42">⁴² Projet RSSA (Analyse des Réseaux Sociaux pour améliorer l'Anticipation et l'Adaptation de la réponse d'ordre public) mené avec l'Ecole Nationale Supérieure de la Police en 2019-2020)</footnote>

<footnote n="43">⁴³ https://www.visibrain.com/fr/</footnote>
○ Informations sur la volumétrie des publications, des utilisateurs concernés, et des interactions liées

L'outil propose sur chaque corpus un visuel montrant la volumétrie des retombées sur une période donnée, en ajoutant au nombre de publications **les utilisateurs concernés, le total des vues, les interactions, et les musiques liées**. Ce dernier élément est spécifique à TikTok, qui permet d'effectuer des recherches sur les musiques utilisées dans les vidéos.

Prenons l'exemple de l'analyse des publications TikTok sur le harcèlement, filtrés sur **7 jours** :
On retrouve **73 posts**, correspondant à **70 utilisateurs**, et qui ont généré **2,3 millions de vues**.

<figure><img src="image_14.png" /></figure>

La timeline montre l'heure et la volumétrie de publications des tweets.
○ Classement des publications par popularité – permet de filtrer les publications selon le total de vues, le nombre d'interactions ...

L'interface permet ensuite d'accéder aux **publications**, classées par **nombre de vues** ou date de publication.

<figure><img src="image_15.png" /></figure>
○ Classement des utilisateurs ayant publié sur le sujet mis en veille – permet de classer les utilisateurs en fonction de leur nombre d'abonnés, des interactions sur le topic ...

Un onglet donne des informations sur les profils des utilisateurs qui ont publié sur le sujet recherché, classés en fonction de leurs abonnés, des **likes obtenus sur leurs publications**, des vues ...

<figure><img src="image_16.png" /></figure>
○ Analyse du contenu des publications – il s’agit ici d’extraire les hashtags, expressions et emojis les plus utilisés

Une autre fonctionnalité du logiciel consiste à extraire les mots-clés et hashtags des publications.

<figure><img src="image_17.png" /></figure>

L'ensemble de ces éléments nous donne des indications précieuses pour comprendre le fonctionnement du réseau social TikTok. Pour autant, l'outil ne fait pas tout. Nous avons également :

○ Effectué des recherches sur l'interface web de TikTok, accessible sans créer de compte et qui donne les mêmes résultats de recherche que sur l'appli smartphone ;

○ Mené des investigations via les articles et travaux de recherche publiés sur TikTok ;

○ Créé des comptes TikTok pour tester la réaction de l'algorithme au visionnage de certaines vidéos (en particulier pour vérifier la tendance de l'algorithme à proposer des vidéos problématiques).
Exemple d'application sur un sujet d'actualité : analyse du traitement de la crise énergétique
sur TikTok

Le sujet de la crise énergétique a été étudié pour avoir un élément de comparaison des sujets spécifiques de risques avec un sujet plus sociétal et politique. Nous avons utilisé les hashtags et termes suivants à cet effet : #coupuredecourant ; #coupureelectricité ; chauffage ; #19degres ; sobriété* ; granules, #criseenergetique, #chauffage, #economiesdenergie

Avec plus de 1500 publications entre le 1er novembre 2022 et le 1er janvier 2023 pour près de 60 millions de vues cumulées, le sujet a été très populaire sur TikTok.

<figure><img src="image_18.png" /></figure>

Les hashtags utilisés mettent en avant les risques de coupure de courant.
<figure><img src="image_19.png" /></figure>

On observe plusieurs influenceurs très suivis dans les vidéos ayant le plus succès, **montrant que le sujet n'est pas toujours spontané**. Certains profils peu suivis ont également obtenu une très forte visibilité.

<figure><img src="image_20.png" /></figure>

A noter que concernant **@hugodecrypte** et **@Mary_prdr** leurs publications cibaient les coupures de courant dans des lycées : l'actualité qui touche les utilisateurs de TikTok restera la plus virale.
<figure><img src="image_21.png" /></figure>

Les comptes TikTok moins suivis s'intéressent de leur côté aux problèmes posés par les risques de coupure de courant, souvent sous un ton humoristique.

<figure><img src="image_22.png" /></figure>
Les publications négatives ont le plus fort succès sur TikTok

Le sujet de l'énergie est une bonne démonstration de la façon dont l'algorithme de TikTok favorise les vidéos négatives. En qualifiant les vidéos les plus populaires selon leur caractère critique envers la politique énergétique du gouvernement, **on constate que les vidéos publiées par des profils ayant peu d'abonnés mais plus virulents génèrent toujours un nombre de likes plus élevé en comparaison des vidéos neutres.** A contrario, les vidéos positives sont bien moins virales.

<figure><img src="image_23.png" /></figure>

<figure><img src="image_24.png" /></figure>

<figure><img src="image_25.png" /></figure>

Une autre caractéristique des tendances sur TikTok qui s'est exprimée sur la thématique énergétique est l'utilisation de **musiques spécifiques pour diffuser certains messages, en l'occurrence des vidéos critiquant les injonctions aux économies d'énergies.** On peut également voir que les émojis associés principaux sont des emojis glacés et des emojis rire, ce qui implique une dimension satirique et caricaturale<fnref n="44" />.

<footnote n="44">44 https://www.tiktok.com/music/son-original-7164741399219964678</footnote>
<figure><img src="image_26.png" /></figure>

son original

J'te garantis !

496 videos

▶ ...

<figure><img src="image_27.png" /><figcaption>Quand l'électricité coute c...</figcaption></figure>

<figure><img src="image_28.png" /><figcaption>@J'te garantis !</figcaption></figure>

<figure><img src="image_29.png" /><figcaption>Ça commence à coûter ch...</figcaption></figure>

<figure><img src="image_30.png" /><figcaption>latiktokeuse869</figcaption></figure>

<figure><img src="image_31.png" /><figcaption>Après avoir reçu la régule</figcaption></figure>

kant in Nijmegen

<figure><img src="image_32.png" /><figcaption>#tiktok #pourtoi #humour ...</figcaption></figure>

<figure><img src="image_33.png" /><figcaption>#mesuresanitaire ...</figcaption></figure>

<figure><img src="image_34.png" /><figcaption>quand Noël a coûté trop c...</figcaption></figure>

<figure><img src="image_35.png" /><figcaption>#trend #tiktok #fyp ...</figcaption></figure>

<figure><img src="image_36.png" /></figure>

CHAUFFAGE

EMOJIS

<figure><img src="image_37.png" /></figure>
## b. Religion et dérives sectaires : la bulle de filtre des prêches religieux

### Les jeunes convertis investissent TikTok

TikTok est utilisé comme nouveau vecteur de diffusion des religions, actuelles ou anciennes. Cela concerne notamment les religions chrétiennes et musulmanes. Le hashtag #islam compte près de 79 milliards de vues sur TikTok, et #jesus, 52 milliards. **Les vidéos ayant le plus de succès sont celles qui proposent des règles de vies strictes, peu compatibles avec la laïcité, et souvent en rupture avec les règles de vie en société.** De cette façon, le réseau TikTok entretient un lien tenu entre la « personnalisation » à outrance des contenus sur ce réseau et le « droit » de rejeter toute règle ou norme des sociétés démocratiques : laïcité, liberté, égalité, fraternité (Bauer, 2023). La logique de consommation simple et rapide des vidéos est séduisante pour des jeunes qui souhaitent garder un lien avec la religion et leurs valeurs familiales, sans passer du temps dans les lieux de culte.

**@Redazere**, algérien vivant au Québec est l'un des plus influents avec près de 3 millions d'abonnés (multiplié par deux depuis la parution début 2022 de plusieurs articles à son sujet<fnref n="45" />) et 178 millions de vues<fnref n="46" />. **Ses vidéos consistent à donner des règles précises aux croyants : quelle invocation prononcer à l'approche d'un examen, la bonne manière d'effectuer son ablution des pieds ou quoi faire lorsqu'on est déconcentré pendant son recueillement.** Ces règles très précises, proches de l'endoctrinement tel qu'il se pratiquait dans des sectes reconnues que l'on pouvait clairement identifier, semblent correspondre à de réelles attentes des jeunes qui veulent se réapproprier la religion. @Redazere lance des défis participatifs - comme citer le plus de noms d'Allah en trente secondes, mais il affirme aussi qu'écouter de la musique et regarder les femmes n'est pas permis en Islam. « Faire la bise ou des câlins à sa cousine du sexe opposé » n'est « pas halal ». Les relations hors mariage sont illicites et « éloignent de Dieu ». Le port du voile est une obligation. **Célébrer Noël, même sans y croire, de même que mettre un sapin chez soi, serait proscrit.**

« Sur TikTok, les comptes qui marchent portent un discours simpliste, culpabilisateur et communautaire, mais avec une corde émotionnelle et un format qui parlent aux jeunes, voire aux très jeunes. C'est l'islam niveau maternelle. » explique un imam (anonyme) actif sur d'autres réseaux sociaux. **Sous une vidéo dans laquelle Redazere affirme qu'il est « super grave » d'effectuer seulement quatre prières sur cinq, un adolescent a écrit : « Reda, à cause de tes vidéos j'ai peur. J'ai que 13 ans et je trouve (...) que je gagne trop de péchés, que je ne fais pas assez pour Allah. »**

Présent sur Instagram et Youtube également, il affirme qu'il a failli être banni de ses réseaux sociaux plusieurs fois, et indique ne représenter aucun mouvement sectaire. **Il ne se présente pas comme un imam, et ne semble pas lié à un mouvement rigoriste. Il semble également avoir pris récemment des positions moins tranchées sur certains sujets<fnref n="47" />.** Il publie une centaine de vidéos en moyenne par mois.

Là aussi, le fonctionnement de l'algorithme de TikTok peut inciter certains jeunes à pousser des recommandations religieuses strictes et extrémistes, sans être reliés à un mouvement sectaire : ces vidéos susciteront plus de réactions et seront donc plus virales. Le fonctionnement de l'algorithme de TikTok incitant certains jeunes à suivre des recommandations religieuses extrémistes est ainsi plus

<footnote n="45">⁴⁵ https://www.la-croix.com/Religion/TikTok-nouvelle-vague-influenceurs-musulmans-2022-01-26-1201196964</footnote>

<footnote n="46">⁴⁶ https://www.tiktok.com/@redazere</footnote>

<footnote n="47">⁴⁷ Dans une vidéo postée fin décembre 2022, il indique qu'avoir un sapin décoré n'est pas haram
https://www.tiktok.com/@redazere/video/7180408017060433157</footnote>
difficile à repérer et, donc, à contrer. L'algorithm de TikTok fait passer de la consultation des vidéos de ces influenceurs à des profils plus rigoristes sur l'islam, voir ouvertement salafistes<fnref n="48" /> ...

Timeline des publications du profil @readazere sur le mois de février 2023 captées via le logiciel de veille Visibrain

<figure><img src="image_38.png" /></figure>

On notera que ses 83 publications sur le mois ont généré 6,9 millions de vues, et 778 113 interactions (likes, commentaires, partages). Il utilise des **musiques variées** avec ses vidéos.

Parmi les comptes les plus populaires à parler de l'islam : [Comprends ton dine](https://www.comprends-ton-dine.fr/), [Savoir islam](https://www.savoirislam.fr/) et [Hicham R2F](https://www.hichamr2f.com/), chacun suivi par des centaines de milliers d'abonnés. [AmelRiseUp](https://www.amelriseup.com/), 665 000 abonnés, propose des tutos propose des tutos hijab<fnref n="49" />.

<footnote n="48">⁴⁸ https://www.lepoint.fr/societe/mon-voile-mon-choix-mon-tiktok-des-hidjabistas-sous-influence-27-01-2023-2506431_23.php</footnote>

<footnote n="49">⁴⁹ https://www.lefigaro.fr/actualite-france/de-youtube-a-tiktok-ces-influenceurs-musulmans-qui-prechent-l-islam-integral-et-branche-20220823</footnote>
La promotion du port de l'abaya, une démarche poussée par des profils très actifs avec des reprises limitées par des utilisatrices classiques

Certains profils vont remettre en cause la laïcité, et encourager les jeunes à ne pas la respecter<fnref n="50" />. En novembre 2022, le ministre de l'Education Nationale a pointé TikTok comme vecteur de l'augmentation des atteintes à la laïcité dans les établissements<fnref n="51" />. Des vidéos donnent des conseils pour garder son abaya au lycée, un vêtement religieux, en le camouflant<fnref n="52" />.

Visuel des résultats de la recherche #abaya #lycée sur TikTok

<figure><img src="image_39.png" /></figure>

<footnote n="50">50 https://www.leparisien.fr/societe/signes-religieux-a-lecole-courage-ma-soeur-sois-forte-sur-tiktok-des-encouragements-a-braver-les-interdictions-28-09-2022-RRUV4ETU3FAOVDXSYPIOT3XKEA.php</footnote>

<footnote n="51">51 https://www.huffingtonpost.fr/politique/article/atteintes-a-la-laicite-tiktok-dans-le-viseur-de-pap-ndiaye_210087.html</footnote>

<footnote n="52">52 https://www.tiktok.com/discover/porter-une-abaya-au-lycee</footnote>
De nombreuses jeunes filles ont repris cette tendance, moins présente aujourd'hui, notamment des jeunes récemment converties. Par exemple Marine El Himer, ex-vedette de l'émission Les Marseillais, devenue influenceuse à Dubaï, s'est convertie en novembre 2022, ou Milla Jasmine etFidji Ruiz. Ces comptes vont valoriser le voile tout en dénonçant un racisme systémique en France contre les musulmans.

Nous avons collecté avec la plateforme Visibrain 1650 publications en français entre le 1er janvier et le 31 mai 2023 contenant le terme abaya, correspondant à près de 40 millions de vues et 3 millions d'interactions, via 600 utilisateurs.

Les 2/3 des publications (431) ont été effectuées par 8 profils très actifs, en dehors de celui surligné dans la capture d'écran. Cela confirme une démarche d'influence sur le sujet, puisque **sur la plupart des thématiques TikTok on retrouve des profils peu suivis avec des profils très suivis dans les publications les plus influentes.**

<figure><img src="image_40.png" /></figure>

La thématique du port de l'Abaya est donc largement artificielle sur TikTok : elle obtiendra une certaine visibilité via le fonctionnement de l'algorithme, mais elle ne correspond pas à une réelle pratique massive de jeunes utilisateurs. Trop commenter ce phénomène risque au contraire de le valoriser et d'inciter d'autres jeunes filles à le porter. Il y a également une démarche « vêtement à la mode » derrière la diffusion de ces contenus.

On notera également que ce ne sont pas les influenceurs connus sur l'islam tel que @Redazere qui diffusent ce sujet. **Leurs publications génèrent plus d'engagement et de vues car ce sont de réels influenceurs**, leur comportement n'est pas **artificiel** comme la plupart de ceux qui valorisent l'abaya.
Cela confirme donc le fait que leur succès correspond à une réelle attente, **là où certains comportements polémiques comme le fait de porter l'abaya au lycée sont instrumentalisés.**
On retrouve également des influenceurs catholiques sur TikTok : Nouhatie, Lionel Veh et Olivier Zeytooun, et surtout Père Matthieu, un jeune prêtre de la région de l'Yonne, en France. Celui-ci a affirmé dans une vidéo qu'il n'était écrit nulle part, ni dans la Bible ni dans le catéchisme, que l'homosexualité était un péché. Des profils plus jeunes sont également populaires, comme celui de @e.rrine, lycéenne suivie par 88 000 personnes. Elle s'intéresse notamment à la musique chrétienne et aux messages publics.

@eva_desenne, avec 1,5 millions d'abonnés et 197 millions de vues, est la première influenceuse chrétienne sur TikTok. D'abord populaire via des vidéos sur ses coiffures et des sketchs, elle a décidé de partager sa foi religieuse<fnref n="53" />.

Ces pratiques des jeunes amènent les prêtres à se remettre en question. « Je pense que c'est très bien pour les jeunes de vivre leur foi, mais ce qui me frappe en négatif, c'est que ces adolescents, qui n'ont pas beaucoup de formation ni d'expérience humaine, ont des avis très tranchés sur les questions qu'on leur pose. La communauté chrétienne sur TikTok attend de savoir si on a le droit d'écouter de la musique, porter un piercing ou mettre un voile chrétien. Ce n'est pas une manière de penser catholique et je remarque plutôt une influence de l'islam ou encore de l'évangélisme. » témoigne @frere_paul_adrien, 51 000 abonnés<fnref n="54" />.

On constate ainsi une forme de mimétisme entre pratiques des influenceurs chrétiens et musulmans sur TikTok. Les jeunes chrétiens cherchent comme les jeunes musulmans des conseils de vie précis. Ce type de contenu sera bien évidemment plus viral, d'autant plus si les propos tenus sont controversés, que des commentaires classiques de textes religieux. Cela pourrait par ailleurs amener des changements dans les pratiques des chrétiens pratiquants qui seront plus en demande de ce type de conseils de la part du clergé.

A noter que le néopaganisme, via le culte des dieux grecs notamment, connait un fort succès sur TikTok. Les personnes qui ont réagi à du contenu religieux vont recevoir ce type de contenu<fnref n="55" />.

<footnote n="53">53 https://www.lepoint.fr/invites-du-point/sur-tiktok-ces-influenceuses-chretiennes-qui-gardent-la-foi-06-08-2022-2485585_420.php</footnote>

<footnote n="54">54 https://www.tiktok.com/@frere_paul_adrien</footnote>

<footnote n="55">55 https://www.lemonde.fr/le-monde-des-religions/article/2022/11/06/neopaganisme-et-dieux-grecs-ont-le-vent-en-poupe-sur-tiktok_6148683_6038514.html</footnote>
### c. Les multiples facettes du harcèlement sur TikTok

#### Des utilisateurs jeunes, plus susceptibles d'être victimes ou auteur de harcèlement

L'association Themis a interrogé en 2021 850 enfants âgés de 8 à 11 ans, indiquant que 54% d'entre-eux avaient déjà un compte personnel sur TikTok (51% sur Snapchat, 25% sur Instagram, 9% sur Facebook). A noter que ce sont surtout les jeunes des **milieux populaires** qui sont exposés, renforçant potentiellement les risques dans les établissements publics de quartiers. Des chercheurs en sciences cognitives, comme Dehaene (2018), insistent sur le pouvoir clef de l'éducation, dans l'école et à la maison, tout au long de l'enfance et l'adolescence pour pouvoir réellement contrer sur le long terme l'influence de TikTok auprès des jeunes.

Les adolescents de 15 à 17 ans sont plus susceptibles d'être la cible de multiples types de cyber-harcèlement que les adolescents de 13 à 14 ans, selon une étude du Pew Research Center<fnref n="56" />. En outre, TikTok a été utilisé comme preuve dans des affaires de harcèlement et de violence en milieu scolaire, comme le cas d'une étudiante de 14 ans dont la vidéo TikTok montrait qu'elle avait été harcelée par quatre autres adolescents avant de se suicider<fnref n="57" />.

Une étude a montré que la fonctionnalité de commentaires de TikTok sur des vidéos peut être utilisée pour mener des campagnes de cyber-harcèlement contre d'autres utilisateurs (Annissa, Kusumaningsih, Sudiatmi, 2022)<fnref n="58" />.

<footnote n="56">⁵⁶ https://www.pewresearch.org/internet/2022/12/15/teens-and-cyberbullying-2022/</footnote>

<footnote n="57">⁵⁷ https://www.cnn.com/2023/02/13/us/new-jersey-teen-suicide-school-bullying-lawsuit/index.html</footnote>

<footnote n="58">⁵⁸ https://journal.uir.ac.id/index.php/geram/article/view/8618/4306</footnote>
Les ressorts du harcèlement scolaire sur TikTok

Le hashtag #HarcelementScolaire qui approchait les 90 millions de vues sur TikTok en novembre 2022, a atteint le 17 février près de 140 millions de vues<fnref n="59" />. Les témoignages de harcèlement sont nombreux, et dénoncent des vidéos de jeunes se vantant d'en avoir harcelés d'autres sur le réseau social. Sur ce point, en se fondant sur l'analyse des anticipations auto-réalisatrices de Watzlawick et al. (1972) et de celle du « bouc émissaire » de René Girard (1982), Alain Bauer (2023) montre à l'heure d'internet la nécessité pour contrer le cercle auto-validant propre aux réseaux sociaux tel que TikTok de pouvoir mettre à jour et de décortiquer le mécanisme auto-entretenu qui se déroule lors de la diffusion de messages haineux. L'usage du réseau social, en confiant des histoires personnelles, peut aussi poser problème sur la cour de récréation<fnref n="60" />.

Des phénomènes d'attaques sont également coordonnés ponctuellement, comme le hashtag #Anti2010 en septembre 2021, qui appelait à attaquer les élèves de 6ème. Plusieurs comptes ont été créés spécifiquement pour soutenir cette tendance, comme relevé par Le Parisien : « brigade anti2010 », « brigade contre les 2010 », « anti 2010 », « contre 2010 », « les 2010 niq*** vos mères ». Dans les quelques lignes de biographie, l'intention est souvent claire : « abonne-toi si tu aimes pas les 2010 (sic) », « mentionnez-moi dès que vous voyez un 2010 », « personne n'aiment les 2010 (sic) », « hors de ma vue 2010 », « police anti 2010 » ... La tendance serait née de la rencontre de plusieurs facteurs : agacement contre les jeunes utilisateurs du jeu en ligne Fortnite qui ne « respectent pas les codes », sortie de la chanson « Pop it Mania » de Pink Lily qui chantait « on est les queens de 2010 »<fnref n="61" /> ... TikTok a fini par supprimer le hashtag incriminé mais après avoir généré beaucoup de dégâts moraux, physiques et de peur pour ces élèves ainsi injustement ciblés.

La viralité de certaines vidéos, notamment sur des contenus parlant aux émotions des utilisateurs, va les inciter à réagir, parfois violemment. Outre les cas mentionnés de harcèlement sexiste et scolaire, des vidéos qui peuvent sembler anodines de personnes racontant une rupture, sans accabler leur partenaire, peuvent mener si elles sont virales des utilisateurs à traquer l'ex petit ami et à le menacer en ligne. Ces éléments sont rarement modérés par TikTok<fnref n="62" />.

Plusieurs types d'action de harcèlement peuvent être identifiés, sachant que la plupart des actions seront effectuées via des messages privés, impossible à identifier sur la plateforme. Les solutions proposées par TikTok pour limiter ces abus ne sont pas / peu efficaces.

<footnote n="59">⁵⁹ https://www.tiktok.com/tag/HarcelementScolaire</footnote>

<footnote n="60">⁶⁰ https://www.lepoint.fr/debats/harcelement-scolaire-tiktok-le-deversoir-des-ados-10-11-2022-2497256_2.php</footnote>

<footnote n="61">⁶¹ https://www.leparisien.fr/societe/de-fortnite-aux-cours-de-recreation-pourquoi-certains-enfants-nes-en-2010-sont-harceles-16-09-2021-KDNUSKNB2BCDBFKRONTI3NWD4.php</footnote>

<footnote n="62">⁶² Herrero O., (2023), Le système TikTok, Editions du Rocher</footnote>
Une communauté très active en ligne pour lutter contre le harcèlement

Nous avons capté près de 2 000 publications sur le harcèlement publiées sur TikTok, dont près de 600 sur le harcèlement scolaire, pour un total de 114 millions de vues du 1er janvier au 30 avril 2023 inclus.

<figure><img src="image_41.png" /></figure>

Le sentiment des vidéos est fortement négatif, à plus de 28%.

<figure><img src="image_42.png" /></figure>
Pour les publications sur le harcèlement scolaire, il passe à 34%

<figure><img src="image_43.png" /></figure>

Avec des emojis plutôt négatifs.

<figure><img src="image_44.png" /></figure>

A noter que les publications qui ont fait le plus réagir sur TikTok sur la période étudiée concernent un élève qui harcèle une enseignante, générant outre des millions de vues des milliers de commentaires. Ce type d'harcèlement donne lieu malheureusement à de plus en plus de passages à l'acte pour les jeunes. Il serait bon de pouvoir identifier le rôle précis joué par le réseau TikTok par rapport aux autres facteurs économiques et sociaux comme la montée de la violence, le retour des guerres « sales », la diminution du niveau d'éducation et, enfin, la crise économique, sociale, et politique (Bauer, 2023).
<figure><img src="image_45.png" /></figure>

Les comptes dont les vidéos ont été les plus vues sont ici plutôt des influenceurs, avec au moins plusieurs dizaines de milliers d'abonnés. On retrouve peu de comptes à moins de 10 000 abonnés, suggérant qu'aborder cette thématique est compliqué pour les utilisateurs peu visibles.

<figure><img src="image_46.png" /></figure>
Une cartographie des liens entre les comptes montre quelques réseaux d'acteurs qui en interpellent d'autres sur ces sujets, sans obtenir beaucoup de visibilité – la majorité des profils interpellent leur communauté et ne citent donc pas d'autres acteurs. On assiste ici à un mécanisme de personnalisation à l'extrême des acteurs qui rendent compte sur ce réseau de « leur propre vécu ».

<figure><img src="image_47.png" /><figcaption>○ Une communauté violette, qui correspond à des interpellations de comptes accusés de grossophobie</figcaption></figure>

<figure><img src="image_48.png" /></figure>
## Une communauté bleu claire qui correspond à des interpellations des comptes officiels TikTok sur des cas de harcèlement

<figure><img src="image_49.png" /></figure>

## Une communauté orange autour du profil @fabi_coachdesurvie qui dénonce du harcèlement – profil supprimé au 22/04/2023

<figure><img src="image_50.png" /></figure>
#justicepourlindsey, une réaction très forte sur TikTok

Le drame du suicide de la jeune Lindsay, 13 ans, en mai 2023, après avoir été harcelée, a généré de nombreuses publications de soutien et un hashtag spécifique avec 17,2 millions de vues :
https://www.tiktok.com/tag/justicepourlindsey

Nous avons collecté 500 publications entre le 20 et le 26 mai à ce sujet, qui ont été vues 30 millions de fois et ont généré près de 3 millions d'interactions.

<figure><img src="image_51.png" /></figure>

Les hastags #stopharcelement, #harcelement, #nonauharcelement ont été très utilisés. La majorité des utilisateurs les plus repris ont peu d'abonnés, c'est une thématique qui parle beaucoup aux utilisateurs de TikTok.

<figure><img src="image_52.png" /></figure>
## d. Les challenges dangereux, incités par TikTok à ses débuts ... et utilisés pour obtenir de la visibilité

### Mode de fonctionnement des challenges dangereux

Des chercheurs ont noté très vite que les tendances émergentes sur TikTok exposent les jeunes utilisateurs à des contenus dérangeants, à la pression des pairs, à la cyberintimidation ... et les **encouragent à participer** à des activités susceptibles de causer des dommages physiques potentiels, voire la mort (Kriegel, 2020)<fnref n="63" />. L'influence du réseau Tiktok se traduit rapidement et presque automatiquement par des incitations à commettre des actions rapides et concrètes comme on peut le constater sur le triangle présenté ci-dessous.

Le phénomène des challenges n’est pas propre à TikTok, mais la plateforme par son modèle de viralité les a rendus très populaires, incitant d’ailleurs les marques à jouer le jeu. Une étude parue en 2020 s’intéressait aux ressorts de la participation des challenges, montrant qu’outre la dimension de divertissement, ce sont les aspects de socialisation liée aux challenges et de liens avec l’image que veut projeter l’utilisateur qui les rendent attractifs (Ahlse, Nilsson, Sandström 2020⁶⁴).

<figure><img src="image_53.png" /></figure>

Les challenges viraux sont généralement créés par des influenceurs, qui utilisent des hashtags pour encourager la participation d'autres utilisateurs. Les algorithmes de TikTok amplifient ensuite les vidéos les plus populaires, ce qui entraîne une diffusion rapide à grande échelle. **TikTok retire certains hashtags associés aux challenges dangereux, mais les vidéos de personnes participant à ces défis sont souvent encore disponibles en ligne**<fnref n="65" />. Le fait que les vidéos restent souvent en ligne traduit le manque de volonté de TikTok pour modérer efficacement les contenus abusifs et problématiques.

<footnote n="63">⁶³ https://doi.org/10.1097/MOP.0000000000000989</footnote>

<footnote n="64">⁶⁴ http://hj.diva-portal.org/smash/record.jsf?pid=diva2%3A1434091&dswid=1347</footnote>

<footnote n="65">⁶⁵ https://www.ctvnews.ca/sci-tech/does-tiktok-encourage-risky-harmful-behaviour-in-its-young-users-1.6308600</footnote>
Le phénomène est très suivi par la presse. Selon le Daily News (Royaume-Uni, 2023), **17% des utilisateurs considèrent les challenges dangereux comme risqués et dangereux, tandis que TikTok affirme que seulement 0,3% des adolescents ont participé à des challenges "très dangereux »**<sup>66</sup>. La sous-estimation systématique par TikTok du le danger des vidéos diffusées conduit ce réseau social à être particulièrement laxiste dans la suppression des dites vidéos.

<table><thead><tr><td>Défi dangereux</td><td>Date</td><td>Pays</td><td>Profils touchés</td><td>Conséquences graves ou non</td><td>Réaction des autorités</td></tr></thead><tbody><tr><td>Skullbreaker Challenge</td><td>N/A</td><td>Mondial</td><td>Enfants et adolescents</td><td>Graves blessures, voire la mort</td><td>Sensibilisation des parents et des écoles à travers des campagnes de prévention</td></tr><tr><td>Benadryl Challenge</td><td>N/A</td><td>États-Unis</td><td>Adolescents</td><td>Graves problèmes de santé, voire la mort</td><td>Sensibilisation des parents et des écoles à travers des campagnes de prévention et appel à la vigilance de la part de la FDA</td></tr><tr><td>Hot Water Challenge</td><td>2017</td><td>Mondial</td><td>Enfants et adolescents</td><td>Graves brûlures, voire la mort</td><td>Sensibilisation des parents et des écoles à travers des campagnes de prévention et appel à la vigilance de la part de la FDA</td></tr><tr><td>Angel of Death Challenge</td><td>N/A</td><td>Indonésie</td><td>Adolescents</td><td>Graves blessures, voire la mort</td><td>Campagne de sensibilisation et appel à la vigilance de la part du gouvernement indonésien</td></tr><tr><td>Concussion Challenge</td><td>N/A</td><td>France</td><td>Adolescents</td><td>Graves blessures, voire la mort</td><td>Sensibilisation des parents et des écoles à travers des campagnes de prévention et appel à la vigilance de la part des autorités françaises</td></tr><tr><td>Blackout Challenge</td><td>2021</td><td>Mondial</td><td>Enfants et adolescents</td><td>Graves problèmes de santé, voire la mort (15 cas recensés)</td><td>Sensibilisation des parents et des écoles à travers des campagnes de prévention et appel à la vigilance de la part des autorités</td></tr><tr><td>Orbeez Challenge</td><td>N/A</td><td>États-Unis</td><td>Enfants et adolescents</td><td>Risques d'étouffement ou d'asphyxie</td><td>Sensibilisation des parents et des écoles à travers des campagnes de prévention et appel à la vigilance de la part des autorités</td></tr></tbody></table>

Auteurs : Camille Baulant, Guillaume Sylvestre & ChatGPT 4

Pour autant tous les challenges ne seront pas forcément viraux. Il est donc essentiel d'éviter de les médiatiser. En mai 2022, **un prétendu challenge « jeu du labello » qui aurait incité des jeunes à se blesser voir se suicider aurait été à l'origine une idée volontairement provocatrice mais en dehors des tendances.**

<footnote n="66"><sup>66</sup> https://ukdaily.news/why-dangerous-challenges-are-a-hit-on-tiktok-344354.html</footnote>
Vincent Flibustier, formateur en réseaux sociaux et consultant web a ainsi indiqué que c'est la médiatisation du « jeu du labello » et sa reprise par le Ministère de l'Intérieur qui auraient donné de la visibilité au challenge en question<fnref n="67" />. Cet exemple révèle bien la difficulté extrême de contrer ce type de challenge par les pouvoirs publics et la nécessité de faire attention aux provocations de certains acteurs. La recherche de visibilité sur TikTok va favoriser la diffusion de ces challenges, notamment par les jeunes.

## Analyse des challenges dangereux via Visibrain

Les challenges sont des défis lancés sur TikTok pour reproduire certaines actions. Si certains ne sont pas dangereux et visent à s'amuser, plusieurs challenges sont à l'origine de blessures voir de décès.

L'analyse des challenges dangereux sur TikTok a permis de remonter certains hashtags qui ont été utilisés, tels que #blackchallenge, #dangerouschallenge, #reveindien, #CrateChallenge, #tiktokchallenge, #jeudufoulard, #blackout, #spiritechallenge, #spiriterest, #spritetrend. Sur TikTok, ces hashtags nous ont permis d'identifier et de catégoriser les personnes qui ont participé à ces différents challenges qui sont essentiellement des jeunes et certains influenceurs, généralement pour le buzz.

Une recherche autour de hashtags liés aux challenges du 1er novembre au 31 décembre 2022 montre des milliers de publications, ayant générées des centaines de milliers d'interactions et des centaines de millions de vues :

<figure><img src="image_54.png" /></figure>

<footnote n="67">⁶⁷ https://twitter.com/vinceflibustier/status/1523356732268941312</footnote>
Un filtre en langue française divise par 10 le nombre de contenus, mais montre une très forte propagation de ceux-ci.

<figure><img src="image_55.png" /></figure>

Nous avons étudié quelques-uns de ces challenges et leur diffusion sur TikTok en collectant du 1er novembre 2022 au 31 décembre 2022 les hashtags suivants : #blackchallenge ; #dangerouschallenge ; #reveindien ; #CrateChallenge ; #tiktokchallenge ; #spiritechallenge ; #,Ootobase ; #tiktok ; #tiktok ; #spiritetrend ; #spiritandbannanachallenge

## Focus sur le Sprite Challenge

Le sprite challenge est un défi lancé sur TikTok et qui est inspiré du banana sprite challenge.

Très répandu sur les réseaux, Youtube notamment en 2014, il consistait à manger deux bananes, boire ensuite une canette de sprite le plus rapidement possible et enfin se retenir de vomir. Pourtant la difficulté de digérer ce mélange est scientifiquement prouvé. En effet, la banane apporte des protéines à l'organisme auquel s'ajoute le dioxyde de carbone de la boisson gazeuse. L'association de la protéine et du gaz carbonique provoque la formation d'une mousse qui encombre l'estomac et empêche donc de roter. Dès lors, le seul moyen possible pour se débarrasser du dioxyde de carbone et se libérer serait de régurgiter. Les risques de ce défi ne s'arrêtent pas seulement au fait d'endommager l'estomac, il peut causer de l'aérophagie voire des risques cardiaques dû à l'oppression du cœur.
Ce challenge est aujourd'hui beaucoup repris sur le réseau social Tiktok sous une forme épurée, le sprite challenge. Cependant, il n'en est pas moins dangereux : la condition pour gagner le défi est de boire une canette entière de sprite fraîche sans faire de pause et de se retenir de roter à la fin.

La tendance est devenue virale au point que ceux qui la reprennent gagnent des millions de vues. Le nombre de vues cumulées par le hashtag Sprite challenge a atteint un pic de 18 millions de vues en novembre et décembre 2022 comme nous pouvons le constater sur le graphique ci-dessous.

<figure><img src="image_56.png" /></figure>
Certaines vidéos obtiennent ainsi des millions de vues :

<figure><img src="image_57.png" /></figure>

On constate sur les challenges en général qu'ils permettent d'obtenir une forte visibilité à des profils peu suivis : la moitié de ceux de notre corpus (surlignés en vert) ont quelques milliers d'abonnés seulement.

<figure><img src="image_58.png" /></figure>
La recherche de visibilité est la raison principale poussant certains utilisateurs de TikTok à tenter ce genre de challenge malgré leur dangerosité. Pour pouvoir contrer ce phénomène, il serait nécessaire de comprendre et d'analyser ce besoin de visibilité des jeunes qui est largement exploité par le réseau TikTok (Koenig, 2019). **En se référant à ce nuage d'émoticônes qui catégorise les réactions observées sur les vidéos postées à ce sujet, nous remarquons que le défi amuse plus qu'il n'effraie.** L'emoji du "pleurs de rire" est le plus apparent suivi du "rire au larme".

ÉMOJIS

<figure><img src="image_59.png" /></figure>
### e. Focus sur le harcèlement sexuel et le sexisme

Comme sur les autres réseaux sociaux, et plus globalement sur le web, les femmes sont les premières victimes de harcèlement en ligne. Nous avons donc recherché plusieurs termes autour des violences faites aux femmes et des discriminations liées. Nous avons collecté les publications avec les hashtags suivants à partir du 1er novembre 2022 : #femmebattu ; #violenceconjugal ; #violenceconjugale ; #StayAtHomeGF ; #stayathomegirlfriend ; #femmeaufoyer ; #noboyfriends

## Une cause visible seulement le temps d'un buzz

Les challenges sur Tik Tok peuvent également servir à défendre des causes. Au début de l'année 2021, une étude britannique a révélé que 97% des Anglaises entre 18 et 24 ans ont été victimes de harcèlement sexuel<fnref n="68" />. Ce chiffre a été repris dans des vidéos de jeunes femmes mettant en scène leur appartenance à ces « 97% ». Cette tendance a ainsi été vue plusieurs centaines de millions de fois sur TikTok<fnref n="69" />. A noter que cette tendance est aussi une réaction au meurtre de Sarah Everard au Royaume-Uni.

<figure><img src="image_60.png" /></figure>

Ces filles et femmes ont donc, à travers ces vidéos, pu trouver l'aide et/ou le soutien dont elles avaient besoin. De nombreux challenges comme celui-ci permettent à des victimes d'injustice de s'exprimer. On peut suivre ces trends en s'intéressant aux hashtags et mots-clefs, en l'occurrence : Les mots-clefs "vi*!" "v1ol" "v!ol", créés afin de contourner les réglementations de Tik Tok sur l'utilisation du terme « viol ».

Néanmoins, en dehors de ces tendances très virales, on peut noter que le sujet des violences faites aux femmes est peu prisé sur TikTok. En France entre novembre et décembre 2022, le sujet a été évoqué dans 241 publications qui ont généré très peu de vues, moins de 2 millions au total, et par des comptes peu influents. Cela signifie que ces thématiques rencontrent peu de succès :

<footnote n="68">⁶⁸ https://www.popbuzz.com/internet/viral/tiktok-97-percent-meaning-trend/</footnote>

<footnote n="69">⁶⁹ https://www.tiktok.com/tag/97percent</footnote>
<figure><img src="image_61.png" /></figure>

Des tendances anti féministes très réactives

La tendance #Stayathomeirlfriend, qui promeut les femmes au foyer, apparue fin 2022, a déjà généré des dizaines de millions de vues<fnref n="70" />. Montrant un quotidien fait de nettoyage, rangement, préparation des repas, soins de beauté, ces vidéos publiées par des profils peu suivis peuvent générer des centaines de milliers de vues.

<figure><img src="image_62.png" /></figure>

Ces vidéos génèrent des commentaires particulièrement positifs par ailleurs :

<footnote n="70">⁷⁰ https://www.leseclaireuses.com/divertissement/societe/tendance-tiktok-stay-at-home-girlfriend-ltx.html</footnote>
<figure><img src="image_63.png" /></figure>

Ces réactions correspondent notamment à des mouvances anti féministes, qui peuvent participer au harcèlement des femmes en lignes. Celui-ci sera en général organisé par des communautés masculinistes. A contrario, **des études récentes montrent que les jeunes hommes sont de plus en plus critiques concernant les droits des femmes et le féminisme**<fnref n="71" />.

Andrew Tate et le succès du masculinisme, qui montre la capacité à monétiser le contenu violent via TikTok

Sur TikTok comme sur la plupart des réseaux sociaux, les masculinistes sont divisés en deux catégories. D'une part : **les pick-up artistes**, « pseudos spécialistes de la séduction, et d'autres part les « Red pill »<fnref n="72" />, qui eux prétendent comprendre la vie d'une façon différente du reste de la société, et qui promeument des visions très agressives contre les femmes. **Autrefois regroupés dans des forums plutôt obscurs et cachés de tous, ces derniers rejoignent de plus en plus TikTok, car sa communauté est plus jeune, avec moins de sens critique.** Il s'avère ainsi nécessaire pour chaque pays de protéger leur jeunesse contre ce réseau, sans pourtant l'interdire complètement (car cela risquerait de raviver son attrait auprès des jeunes), et de développer tant à l'école qu'au sein des familles ou des associations sportives, culturelles, une contre-culture capable de permettre aux jeunes de s'émanciper par d'autres moyens que ceux proposés sur TikTok avec des challenges inutiles, haineux et dangereux (Sadin, 2021, Morin, 2021). Leurs promoteurs en profitent pour exploiter la souffrance et le mal-être des jeunes adolescents, en leur transmettant une haine des femmes à travers des théories purement misogynes.

Le rapport annuel du Haut Conseil à l'Égalité entre les femmes et les hommes (HCE), publié le 23 janvier 2023, a alerté sur « un ancrage plus important des clichés 'masculinistes' et une plus grande

<footnote n="71">⁷¹ https://www.telegraph.co.uk/news/2023/03/09/womens-rights-have-gone-far-say-majority-gen-z-millennials-study/</footnote>

<footnote n="72">⁷² https://www.tiktok.com/@redpillgang</footnote>
affirmation d'une 'masculinité hégémonique' parmi les hommes de moins de 35 ans ». Sur TikTok, cette pensée se retrouve sur des comptes de développement personnel ou de coaching en séduction, qui vont reprendre des clichés, par exemple une « technique de pervers narcissique pour avoir ce que tu veux dans ta relation » voir justifier des relations violentes ...<sup>73</sup>

Les jeunes hommes en rupture amoureuse ou qui ont des difficultés à entretenir une relation, regroupés parfois dans la catégorie « incels » ou « célibataires involontaires » **vont être amené par l'algorithme de TikTok à regarder des vidéos masculinistes, après avoir regardé des vidéos sur des conseils de drague et la musculation.** Cette catégorisation profite d'ailleurs à certains influenceurs dans ce domaine, comme Andrew Tate, arrêté en décembre 2022 en Roumanie et accusé notamment de « trafic d'êtres humains ». Auparavant, devant les polémiques suscitées par les propos violents tenus dans ses vidéos, Facebook et Instagram avaient décidé de supprimer ses comptes en août 2022, suivis par Youtube et TikTok<sup>74</sup>.

Dans ses vidéos, Andrew Tate a longtemps diffusé un discours de haine envers les femmes, soutenant la culture du viol et les violences faites aux femmes « je lui donne un coup de machette, je la prends par le cou la salope », jusqu'à être banni de ses différents réseaux sociaux. Andrew Tate maitrisait les codes de TikTok et utilisait des phrases choquantes pour faire le buzz et gagner en visibilité. Il a ainsi incité sa communauté à reprendre les contenus les plus choquants de ses vidéos pour en augmenter la visibilité et susciter le buzz autour de sa personne.

> Il a également coordonné une campagne de harcèlement et de misogynie contre des femmes sur la plateforme, avec des milliers de membres de son académie privée en ligne et un réseau de comptes de copie sur TikTok.<sup>75</sup> « TikTok suggère généralement les vidéos d'Andrew Tate à des jeunes hommes qui semblent entretenir des relations compliquées avec les femmes, et qui trouvent refuge dans le sport. »

A noter une autre spécificité du fonctionnement de TikTok qui favorise les discours sectaires : Andrew Tate encourageait ses viewers à **couper les ponts avec leurs amis** et diffusait des conseils dangereux sur le fait de nier l'état de dépression ... alors que le profil des personnes intéressées par ses vidéos correspond de facto à des hommes plus susceptibles d'être victime de dépression que la moyenne.

Plusieurs travaux de recherche se sont intéressés au rôle de TikTok dans la promotion des violences faites aux femmes. TikTok peut ainsi être utilisé pour diffuser des vidéos agressives à l'encontre des femmes dans les sociétés traditionnelles, afin de renforcer les rôles traditionnels des hommes et des femmes, en l'occurrence accuser les jeunes femmes d'avoir un comportement immoral et de montrer leur corps (Ella, Smadar, Shirley, 2023).<sup>76</sup>

<footnote n="73"><sup>73</sup> https://www.huffingtonpost.fr/life/article/sur-tiktok-la-pensee-masculiniste-prospere_213097.html</footnote>

<footnote n="74"><sup>74</sup> Cf Le Système TikTok</footnote>

<footnote n="75"><sup>75</sup> https://www.theguardian.com/technology/2022/aug/06/andrew-tate-violent-misogynistic-world-of-tiktok-new-star</footnote>

<footnote n="76"><sup>76</sup> https://doi.org/10.1108/jices-06-2022-0059</footnote>
## Analyse du mouvement masculiniste sur le TikTok français

Du 1er janvier au 31 mai 2023, nous avons collecté plus de 1 300 publications en français en lien avec le masculinisme et le coaching en séduction sur TikTok, contre 1 000 publications sur les violences faites aux femmes. Ces dernières publications ont eu bien moins de succès, générant 42 millions de vues cumulées, contre 60 millions pour le masculinisme. Les interactions sont également trois fois plus nombreuses sur cette dernière catégorie (4,6 millions contre 1,8 million). Cela confirme le succès de ce genre de contenus, qui explique le nombre important de profils qui les diffusent.

<figure><img src="image_64.png" /></figure>

Plus de la moitié des comptes qui ont publié des vidéos sur le sujet avec plus d'un million de vues cumulées sur la période ont moins de 50 000 abonnés. Leurs bios mettent en avant leur type de publications : conseils de vie pour « séduire », « rentrer dans le top 10% », « apprendre la vérité ».

<figure><img src="image_65.png" /></figure>
L'analyse de sentiment montre ici un contenu jugé positif par ceux qui regardent les vidéos :

<figure><img src="image_66.png" /></figure>

On notera la grande utilisation du **hashtag #féminisme**, avec **162 occurrences pour 9,3 millions de vues**, qui est critiqué dans les vidéos masculinistes, sur fond de « révélations » sur les relations avec les femmes :

HASHTAGS

#manipulation #coupdegueule #971 #redpillfr #séduire #storytime #viral
#relations #marriage #couple #techniquesdeseduction #relationamoureuse
#pn #hommemasculin #féminisme #tiktokantillais #hommefemme #97
#mindset #lovecoach #violenceconjugale #antillais #attirance
#techniquesdeséduction #hommecharismatiquesurpuissant #motivation
#redpillfrance #relation #toxique #homme #nansshiemercedes
#poupette #relationhommefemme #humour
#séduire #drague #perversnarcissisque #amour #ex
#couplemixte #developpementpersonnel #fyp #alpha
#thaisdescufon #rupture #masculinite #masculinité #coaching
#confianceensoi #conseil #femmes #séduction #feminisme
#foryou #redpil #charisme #fyp> #ruptureamoureuse #relationtoxique
#masculin #psychologie #couplegoal #nanhoounayah #972 #femme
#séduction #pourtoi #manipulateur #sigma #prank
<figure><img src="image_67.png" /></figure>

Comme l'a étudié l'autrice du système TikTok à travers les témoignages d'utilisateurs de la plateforme, **les vidéos de coaches en séduction / coachs sportifs sont interprétées par l'algorithme de TikTok comme un signe d'intérêt pour les discours masculinistes.** Le lien tenu qui unit le sport (à priori sain pour les jeunes) et la masculinité (découlant des restes d'une société encore patriarcale) analysé par Camille Teste (2023) est dans ce cadre cohérent avec ce que nous observons sur TikTok.

La collecte des vidéos sur ces thématiques montre bien une tendance à cibler les femmes et à les rendre coupables des problématiques relationnelles avec les hommes, **permettant ensuite de justifier des actions de harcèlement en ligne, voire de violence, auprès de publics qui ne verront plus que ce type de vidéos dans leurs flux TikTok.**

## La grande diversité des contenus de harcèlement sexuel sur TikTok

Il y a plusieurs façons dont le sexisme se diffuse sur TikTok, notamment à travers des vidéos misogynes et des stéréotypes de genre. Une enquête menée par The Guardian a révélé que des vidéos misogynes inondent TikTok, bombardant les utilisateurs, en particulier les jeunes hommes, avec des messages négatifs sur les femmes et les relations entre les sexes. Ces vidéos incluent souvent des messages sur le fait que les femmes sont manipulatrices ou qu'elles ne sont utiles que pour le sexe<sup>77</sup>.

Plusieurs hashtags sont utilisés pour partager du contenu négatif envers les femmes, ou relativisant les violences sexuelles :

* **#MGTOW (Men Going Their Own Way)** : Ce hashtag est utilisé par des hommes qui rejettent les relations hétérosexuelles et considèrent les femmes comme des ennemies. Il est très populaire sur TikTok, avec plus de 2,5 millions de vues pour certaines vidéos, avec un total de 165 millions de vues. https://www.tiktok.com/discover/mgtows

<footnote n="77">77 https://www.theguardian.com/technology/2022/aug/06/revealed-how-tiktok-bombards-young-men-with-misogynistic-videos-andrew-tate</footnote>
* **#NotAllMen** : Ce hashtag est utilisé en réponse aux allégations de harcèlement ou d'abus sexuels, pour minimiser le problème et souligner que tous les hommes ne sont pas coupables de ces actes. Il est également utilisé pour se moquer des femmes qui se plaignent de la violence sexiste. Ce hashtag est populaire sur TikTok, avec des vidéos atteignant des millions de vues pour un total dépassant les 100 millions de vues.

* **#Meninist** : Ce hashtag est utilisé par des hommes qui se considèrent victimes de discrimination à cause de leur genre. Il est souvent utilisé pour se moquer du mouvement féministe et des revendications des femmes en matière d'égalité des genres. Ce hashtag est également populaire sur TikTok, avec des vidéos atteignant des centaines de milliers de vues pour près de 7 millions de vues au total.

## TikTok protège mal les mineurs des violences sexuelles

Une étude menée en Espagne a également révélé que TikTok peut contribuer à la sexualisation précoce des jeunes. Des entretiens menés avec des utilisateurs de TikTok âgés de 8 à 17 ans ont confirmé que le contenu sexuellement explicite est courant sur la plateforme, en cohérence avec les contenus les plus populaires partagés en ligne. (Soriano-Ayala, Diaz, Cala, 2022).<fnref n="78" />

En avril 2022, le Financial Times a rapporté que le département de la Sécurité intérieure des États-Unis enquêtait sur la façon dont TikTok gérait les risques d'abus sexuels sur des mineurs, tandis que le département de la Justice examinait la façon dont une fonctionnalité de confidentialité spécifique sur TikTok était exploitée par des prédateurs sur l'application.<fnref n="79" /> Le Wall Street Journal a indiqué que des adultes (cachés sous un pseudo) ont utilisé TikTok pour exploiter sexuellement des mineurs en se faisant passer pour des adolescents ou des jeunes adultes. Dans un cas cité dans l'article, un homme de 42 ans a commencé à communiquer avec une adolescente de 14 ans qui avait répondu à ses vidéos.<fnref n="80" />

Récemment, une tendance a propulsé des « dick pics » (image de sexe masculin) à travers l'usage d'une musique populaire pour mettre en avant des vidéos avec ces contenus. Certains utilisateurs ont profité des limites des algorithmes de la modération, gérée exclusivement par l'IA<fnref n="81" />, pour diffuser via des captures de leurs bibliothèques de photos des « dick pics » au format miniature<fnref n="82" />.

<footnote n="78">78 https://www.tandfonline.com/doi/full/10.1080/15546128.2022.2096734</footnote>

<footnote n="79">79 https://endsexualexploitation.org/articles/tiktok-under-federal-investigation-for-child-sexual-abuse-material-csam/</footnote>

<footnote n="80">80 https://www.wsj.com/articles/tiktok-child-sexual-exploitation-children-teens-29f9ac2</footnote>

<footnote n="81">81 https://www.engadget.com/tiktok-automatic-content-removal-violence-nudity-171158047.html</footnote>

<footnote n="82">82 https://www.numerama.com/tech/1150000-comment-une-tendance-tiktok-a-propulse-des-dick-pics-devant-les-yeux-de-millions-dutilisateurs.html</footnote>
<figure><img src="image_68.png" /></figure>

Des exemples de tiktokeurs partageant des dick pics // Source :
Montage Numerama

Le succès de cette tendance fait que des millions de personnes ont été touchées via l'algorithme de recommandation de contenu, notamment des enfants. Elle est aussi symptomatique du manque de moyens (mais souvent aussi de volonté réelle) pour retirer les contenus problématiques sur TikTok : de nombreux utilisateurs ont effectués des signalements sans que les vidéos soient retirées.

A noter qu'il est difficile d'étudier ces phénomènes après leur signalement, puisque les vidéos et hashtags liés seront supprimés.
Conclusion : recommandations et pistes de réflexions pour traiter les
contenus problématiques sur TikTok

TikTok est le réseau social qui va pousser le plus de contenu viral à ses utilisateurs, en s’appuyant uniquement sur leurs préférences. Sadin (2021) analyse ce phénomène d’individualisation extrême de la vie sociale. C’est ce fonctionnement qui va potentiellement générer des effets toxiques notamment en :

o Encourageant les utilisateurs publiant des contenus mensongers, violents, insultants et racistes qui génèrent de l'engagement à continuer à en proposer (fake news, challenges dangereux, racisme ...). Ce phénomène est fortement lié à l'instantanéité de la vidéo diffusée sur TikTok et à la présence de son trafiqués. Le mécanisme d'engagement conduit en outre à une auto-validation des contenus (biais de « confirmation de Kahneman et al., 2021) ;

o Amenant les utilisateurs s'intéressant à des sujets triviaux (respect de règles religieuses précises, coach en séduction ...) à consulter des vidéos des dérives liées (pratiques sectaires, masculinisme agressif). Il y a ici un détournement des utilisateurs de leur premières recherche d'informations qui les fait nécessairement tomber dans une boucle cumulative de fake news et de violence (Sadin, 2021) ;

o Enfermant les utilisateurs dans des boucles avec des contenus potentiellement anxiogènes (boulimie, anorexie ...). Ce phénomène de boucles rétroactives décrit par Watzlawick et al. dès 1972 est ici amplifié par l’effet du réseau.

Il ne faut pas oublier que les utilisateurs de TikTok sont principalement jeunes, donc peuvent plus facilement être manipulés. Ils sont en recherche de reconnaissance et de visibilité, de validation par leurs pairs. TikTok mise dessus, sans arriver à en limiter les dérives, mêmes celles contre lesquelles le réseau social lutte activement (Nudes pics ...).

Les possibilités d'agir contre ces problèmes peuvent sembler à court terme limitées : la première sera de suivre efficacement et identifier les profils proposant des contenus problématiques pour les signaler, ensuite d'éduquer / sensibiliser, mais cela demande une volonté politique réelle et nécessite la prise en compte d'un temps long, les utilisateurs aux risques notamment liés au cyber harcèlement, et enfin de réguler le fonctionnement de TikTok.

De plus, le fait que cette plateforme soit privilégiée par des mineurs et qu'elle soit contrôlée in fine par le Parti Communiste Chinois devrait inciter les politiques publiques à agir activement dans ce sens. TikTok peut en effet être considérer comme un outil de guerre informationnelle, et a été utilisé comme tel pendant la guerre en Ukraine.
## Mettre en place une veille dès à présent des contenus et hashtags problématique

Via la version desktop de TikTok, qui ne nécessite pas de créer un compte, il est possible de regarder des vidéos et de suivre des hashtags. Cela permet d'identifier la viralité potentielle d'une vidéo, et de pointer les contenus problématiques ensuite à TikTok pour supprimer les hashtags liés rapidement comme cela avait été le cas pour les attaques contre les enfants nés en 2010.

https://www.tiktok.com/discover/mgtows

Utiliser la version Desktop permettra également de vérifier si un potentiel « challenge dangereux » est réellement suivi ou non avant de communiquer dessus et de lui donner de la visibilité. Des contenus problématiques peu repris nécessitent surtout de **signaler leurs auteurs** pour désactiver leur compte.

Il faut également forcer TikTok à fournir l'accès à ses données aux chercheurs, dans le cadre du règlement européen sur les services numériques (DSA) qui amènera des obligations d'audit et de transparence des plateformes numériques, afin de pouvoir auditer et surveiller les dérives de son algorithme. Un programme de « Bug Bountry » récompensant les chercheurs identifiants des problèmes manifestes pourrait être mis en place<fnref n="83" />.

## Nécessité de former et sensibiliser les utilisateurs

Comme sur tous les réseaux sociaux, les utilisateurs de TikTok laissent des traces numériques. **Il est important de les éduquer sur les risques encourus en partageant des contenus violents et haineux, dès lors que leur profil sera aisément identifiable et que leur identité sera disponible.**

Encourager les jeunes, notamment les adolescents, à ne pas utiliser TikTok ne serait pas efficace. Par contre, insister sur les risques encourus en organisant du harcèlement en ligne, en relayant du contenu illégal, tout en rappelant les traces numériques liées à chaque utilisateur aura un effet préventif.

Il est possible d'aider les victimes de cyber harcèlement en les accompagnants :

* Faire des captures d'écran horodatées qui serviront de preuves, demander la suppression du contenu illicite.

* Verrouiller un compte TikTok attaqué pour en limiter la visibilité, gérer ses paramètres de confidentialités.

* Déposer plainte pour que la police récupère les informations nécessaires auprès des plateformes.

* Faire appel à des associations qui travaillent avec les réseaux sociaux comme e-Enfance.

<footnote n="83">⁸³ Cf David Chavalarias, colloque Viginum, 20 juin 2023</footnote>
Responsabiliser TikTok

Weimann et Masri (2021), en étudiant la diffusion des contenus antisémites sur TikTok, suggèrent de forcer le réseau social à respecter ses propres conditions de service, qui « n'autorisent pas de contenu » délibérément conçu pour provoquer ou antagoniser les gens, ou destiné à harceler, nuire, blesser, effrayer, troubler, embarrasser ou contrarier les gens, ou inclure des menaces de violence physique».
TikTok est le réseau social le plus censuré au monde, comme nous l'avons déjà vu. Etant par ailleurs scruté de près par les gouvernements occidentaux, il est très probablement plus sensible à la pression réglementaire.

Plusieurs pistes sont possibles pour limiter la visibilité des contenus problématiques :

○ Cibler directement en modération les insultes et propos haineux, qui ne devraient pas relever de la liberté d'expression, au même niveau que la nudité, l'alcool et les cigarettes.

o Désactiver les comptes qui violent régulièrement les conditions d'utilisation notamment pour leur faire perdre leur base d'abonnés (et donc leur capital) en prenant en compte les adresses IP et numéros de téléphones donnés pour rendre plus complexe la création d'un autre compte.

o Accompagner les utilisateurs notamment les jeunes en faisant de la prévention, notamment en cas de détection d'usage anormalement élevé de l'application.

En s'appuyant sur les travaux de recherche ciblant le réseau social TikTok, les décideurs publics disposent d'éléments objectifs pour réguler TikTok et exiger des actions plus fortes de modération des contenus. Le fait que TikTok soit directement sous l'emprise de Pékin doit amener d'autant plus de vigilance sur les manipulations liées à ce réseau social, qui sont déjà largement documentées.

En attendant que le législateur agisse, les forces de police et la justice peuvent s'appuyer sur des
acteurs tels que e-Enfance pour accompagner et conseiller les victimes d'abus et de harcèlement afin
que de mieux les protéger et d'accélérer la suppression des contenus problématiques. Un dépôt de
plainte étayé de preuves numériques des actions de harcèlement, menaces et contenu haineux
devrait systématiquement mener à la suspension d'un profil, et à sa suppression après condamnation.
Bibliographie

Ahlse, J., Nilsson, F., & Sandström, N. (2020) It's time to TikTok: Exploring Generation Z's motivations to participate in #Challenges (Dissertation). http://hj.diva-portal.org/smash/record.jsf?pid=diva2%3A1434091&dswid=-5714

Alekhin V.K. (2021) Basic principles of the work of the TikTok // Age of Information ( Network Edition ), T.5 № 2 ( 15 ) May 2021 https://doi.org/10.33941/age-info.com52(15)7

Alonso-López N., Sidorenko-Bautista P., and Ciacomelli F. (2021) “Beyond challenges and viral dance moves: TikTok as a vehicle for disinformation and fact-checking in Spain, Portugal, Brazil, and the USA”. Anàlisi: Quaderns de Comunicació i Cultura, 64, 65-84. DOI https://doi.org/10.5565/REV/ANALISI.3411

Annissa N., Kusumaningsih D., Sudiatmi T. (2022) Cyberbullying In Tiktok's Comments Column @Denise_Ariesta And Its Implementation As A Learning Media, Jurnal Pendidikan, Bahasa, Dan Sastra, Volume 10, Nomor 1, Juni 2022, https://journal.uir.ac.id/index.php/geram/article/view/8618/4306

Bauer, A. (2023) Au commencement était la guerre, Chapitre : « les cyberconflits », Fayard, pp 369-423.

Cialdini R. B. (2004) *Influence et manipulation : comprendre et maîtriser les mécanismes de persuasion*, Éd. First-Grund, Paris.

Damasio, A. (2021) Sentir et savoir : une nouvelle théorie de la connaissance, édition Odile Jacob, Paris.

Dehaene S. (2018) Apprendre ! Les talents du cerveau, le défi des machines, Odile Jacob, Paris.

Ella, B.-A., Smadar, B.-A. and Shirley, D.S. (2023) "Social punishment by the distribution of aggressive TikTok videos against women in a traditional society", Journal of Information, Communication and Ethics in Society, Vol. 21 No. 1, pp. 129-142. https://doi.org/10.1108/JICES-06-2022-0059

Girad R. (1982) Le bouc émissaire, Editions Grasset, Paris.

Herrero O. (2023) Le système TikTok, Editions du Rocher

Jiayan L. (2022) The Influence of the Body Image Presented Through TikTok Trend-Videos and Its Possible Reasons, Proceedings of the 2nd International Conference on Language, Art and Cultural Exchange (ICLACE 2021), 359-363, https://doi.org/10.2991/assehr.k.210609.072

Kahneman D. (2011) *Thinking, fast and slow*. London, United-Kingdom: Penguin Books.
Kahneman D., Sibony O., Sunstein, C. (2021) « Noise » : pourquoi nous faisons des erreurs de jugements et comment les éviter, Odile Jacob, Paris.

Klug D., Qin Y., Evans M., and Kaufman G. (2021) Trick and Please. A Mixed-Method Study On User Assumptions About the TikTok Algorithm. In Proceedings of the 13th ACM Web Science Conference 2021 (WebSci '21). Association for Computing Machinery, New York, NY, USA, 84–92.
https://doi.org/10.1145/3447535.3462512

Koenig G. (2019) La fin de l'individu : voyage d'un philosophe au pays de L'IA, Editions de l'Observatoire, Paris.

Kriegel, E. R., Lazarevic, B., Athanasian, Ch. E., Milanaik, R. L. (2021) TikTok, Tide Pods and Tiger King: health implications of trends taking over pediatric populations. Current Opinion in Pediatrics 33(1):p 170-177, February 2021. | DOI: 10.1097/MOP.0000000000000989

Matamoros-Fernández, A., Rodriguez, A., & Wikström, P. (2022) Humor That Harms? Examining Racist Audio-Visual Memetic Media on TikTok During Covid-19. Media and Communication, 10(2), 180-191. doi: https://doi.org/10.17645/mac.v10i2.5154

Morin E. (2021) leçons d'un siècle de vie, Edition Denoël, Paris.

Sadin, E. (2021) Faire session : une politique de nous-même, Ed L'échappée, Paris.

Sadin E. (2018) L'IA ou l'enjeu du siècle : Anatomie d'un antihumanisme radical, Editions L'Echappée, Paris.

Teste C. (2023) Politiser le bien-être, La Collection sur la table, Binge Audio Editions, Paris.

Vogels E. (2022) Teens and Cyberbullying 2022, Pew Research Center, https://www.pewresearch.org/internet/2022/12/15/teens-and-cyberbullying-2022/

Watzlawick P., Beavin J. M., Jackson D ; D. (1972) Une Logique de la Communication, collection Le Points, Paris.

Weimann G, Masri N. (2021) "TikTok's Spiral of Antisemitism" Journalism and Media 2, no. 4: 697-708. https://doi.org/10.3390/journalmedia2040041