LMI_Tome2_PEC2024.pdf — page 56

Pôle d’excellence cyber
56
La modération des contenus
Essai sur une nécessaire régulation de la 
conversation mondiale
Le point de départ.  L’intuition au départ de ma thèse 
tenait à ce que la modération des contenus en ligne est 
l’outil fonctionnel par lequel les réseaux sociaux régulent 
la conversation mondiale entre des milliards d’individus.  
Or, se livre sur ce terrain conversationnel une bataille 
des normativités.  Dans un camp, la normativité privée 
où règne le contrat et la technique, dans l’autre, l’État 
de droit en lutte pour protéger les libertés.  
 
Les objectifs.  Pour rendre compte de cette lutte pour le 
droit, il était essentiel de partir du terrain.  Observer et 
comprendre les pratiques de modération et leurs effets 
permet d’interroger l’immense pouvoir de ces géants du 
numérique et de le mettre en perspective avec celui de 
la puissance publique.  
Les résultats.  L’observation de terrain m’a conduit à 
identifier les fonctions de la modération qualifiées de 
juridiques au regard de leurs effets.  La première fonction 
est une fonction normative.  Les entreprises de réseaux 
sociaux édictent leurs propres règles de modération, 
définissant ainsi ce qui peut être dit, vu, lu et su.  Cela 
est rendu possible par le jeu du contrat.  En adhérant aux 
Conditions Générales d’Utilisation, l’utilisateur consent à se 
soumettre aux règles de la plateforme et accepte ainsi de 
renoncer, au moins partiellement, à sa liberté d’expression.  
L’enjeu est donc celui de la contractualisation de cette 
dernière.  L’analyse de ces règles montre un second effet 
qui tient à la standardisation de la conversation mondiale.  
En s’affranchissant largement des droits nationaux et en 
prenant la liberté d’interdire des contenus que le droit 
n’interdit pas mais qu’elles considèrent indésirables, ces 
entreprises créent leur propre standard d’expression.  
Plus fondamentalement, elles propagent un modèle de 
société fondé sur une vision du monde unique et partiale.  
 
L’autre fonction identifiée est une fonction quasi-
juridictionnelle par laquelle les réseaux sociaux se placent 
en arbitres de la conversation mondiale.  Ils contrôlent et 
sanctionnent les contenus dès lors qu’ils contreviendraient 
aux règles de modération ou à la loi.  Ce processus est 
structuré autour de procédures internes sophistiquées 
et s’appuie sur le recours toujours plus massif à des 
outils automatisés dont les limites ne peuvent qu’alarmer. 
 
Pour détecter les contenus déjà publiés sur leur interface, 
les réseaux sociaux utilisent une combinaison de hashing 
et de matching.  Les plateformes semblent d’ailleurs 
préférer le e-hashingnon-cryptographique, en particulier 
le hashing perceptuel, ou « p. hash », qui s’approcherait 
au mieux de la perception humaine.  On peut alors 
Julie CHARPENET
Maîtresse de conférences
Université Côte d’Azur
Membre du GREDEG-CNRS UMR 7321
et du projet DL4T
 Cet article s’inscrit dans une actualité brûlante, notamment au regard de la récente interpellation de Pavel 
Durov, fondateur de la messagerie chiffrée Telegram, pour complicité des crimes organisés via sa messagerie. 
Cela illustre le fait que les réseaux sociaux doivent se prêter au jeu dangereux de funambule sur la corde 
raide de la modération des contenus. D’un côté́, le trop. De l’autre, le pas assez. D’un côté, ils sont accusés 
de trop modérer et de porter atteinte à la liberté́ d’expression de leurs utilisateurs. De l’autre, une part de 
responsabilité́ a pu leur être attribuée, faute de modération des contenus, dans le massacre des Rohingyas, 
dans la révolution dite du Printemps arabe ou encore dans l’assassinat du professeur Samuel Paty. 
  La modération des contenus a ainsi des enjeux majeurs à de multiples niveaux : à l’échelle individuelle, 
collective, globale et locale. Quel pouvoir ! Quelle responsabilité !