LMI_Tome2_PEC2024.pdf — page 57

57
citer le système PhotoDNA de Microsoft et CSAI de 
YouTube qui visent à détecter des images à caractère 
pédopornographique, le système Content ID de Google 
qui détecte les contenus susceptibles de violer le droit 
d’auteur et ses droits voisins, ou encore les systèmes de 
p. hash de photos et vidéos, nommés PDQ, TMK et PDKF 
qu’utilise Facebook.  En revanche, pour les contenus 
nouveaux, les technologies reposent davantage sur la 
technique du machine learning, de la classification à la 
prédiction.  Ces outils sont entrainés sur une base de 
données afin de créer des scores prédictifs.  Ceux-ci 
tentent d’estimer la probabilité́ qu’un contenu enfreigne 
les règles de modération.  Schématiquement, un contenu 
similaire à des milliers d’autres contenus labélisés comme 
indésirables aura une forte probabilité́ d’être regardé 
à son tour comme indésirable et aura donc un score de 
risque élevé́.  
En fonction du score obtenu, le contenu est éventuellement 
signalé́ à un modérateur humain.  Plus le score est élevé́, 
plus le contenu est placé sur une liste prioritaire et devra 
faire l’objet d’un contrôle rapide par un modérateur 
humain.  Grâce à son entrainement, le système est 
également capable de prédire un score de confiance 
ou de certitude.  Ce score est l’évaluation par l’outil de 
son niveau de certitude quant au score précèdent : 
plus le score est élevé́, plus l’outil considère que son 
résultat est exact, plus il diminue, plus l’outil appelle à un 
contrôle humain.  Dans le cas où le score de confiance et 
le score de risque de violation des règles de modération 
sont tous deux très élevés, le système adopte lui-même 
une décision de modération à l’égard du contenu, sans 
contrôle humain.  L’automatisation du contrôle est ici 
à son paroxysme, en dépit des limites de ces outils, 
notamment en termes de biais algorithmiques.   
 
La réponse du droit.  La modération des contenus en 
ligne renouvelle tant l’exercice des libertés fondamentales 
dans les espaces conversationnels que son contrôle, 
appelant ainsi une réponse du droit.  Celle-ci n’est pas 
aisée.  Elle questionne la capacité d’un droit territorialisé 
à se saisir d’acteurs économiques qui se jouent des 
frontières, la capacité du droit à se saisir de la société 
algorithmique émergente et sa capacité à trouver le 
meilleur équilibre entre la sécurité, la liberté et l’innovation.  
Plus fondamentalement, c’est le rôle du droit et de tout 
le système judiciaire que la modération des contenus 
interroge.  Cela explique, pour l’essentiel, pourquoi le 
droit n’a appréhendé la modération des contenus que 
très récemment et donc que très tardivement.
Il y a 20 ans, la directive e-commerce posait les premiers 
jalons de la régulation des contenus en ligne.  Elle obligeait 
les intermédiaires techniques à intervenir sur les contenus 
illicites, au péril de leur responsabilité.  Mais les conditions 
de sa mise en œuvre était tellement difficiles à réunir 
en pratique que ces acteurs étaient dans un espace 
d’immunité largement critiqué.  A partir de l’année 2018, 
le paysage juridique s’est brusquement modifié.  Face à 
la prolifération exponentielle des contenus illicites sur 
les réseaux sociaux et à ses conséquences délétères, 
les instruments de Soft Law et les textes spéciaux se 
sont multipliés.  Tous faisaient de la modération des 
contenus un moyen efficace pour endiguer la diffusion 
des contenus illicites.  
L’attention semblait cependant cristallisée autour 
des seuls contenus illicites ; les contenus terroristes, 
pédopornographiques, haineux etc.   Mais s’attacher aux 
seuls contenus illicites était insuffisant.  La modération 
des contenus telle qu’opérée par les réseaux sociaux 
ne concerne pas uniquement les contenus illicites.  Elle 
concerne également des contenus que les plateformes 
considèrent à leur discrétion comme indésirables.  Or, 
c’est aussi - et peut-être surtout - dans cette zone grise 
que se joue l’exercice des libertés fondamentales et de 
la démocratie.  A ce titre, le Règlement européen sur les 
Services Numériques du 19 octobre 2022 (DSA) ne peut 
être que salué.  Il s’agit du premier texte qui appréhende 
la modération pour elle-même, c’est-à-dire par-delà 
les seuls contenus illicites.  Le DSA tend à encadrer les 
pratiques de modération en contraignant, particulièrement 
les grandes plateformes numériques, à respecter des 
obligations de conformité.  Les réseaux sociaux ont 
ainsi à mettre en place des procédures permettant 
d’offrir de plus grandes garanties contre les dérives de 
leurs pratiques de modération, sous la supervision des 
autorités de contrôle.  L’étude de ce dispositif en miroir des 
pratiques du terrain démontre toutefois que le législateur 
européen a, en réalité, consacré juridiquement un grand 
nombre des pratiques déjà mises en œuvre par les très 
grandes plateformes.   
Néanmoins, l’initiative du législateur européen souffre 
encore de limites.  D’une part, il utilise des instruments 
de la régulation économique, largement empruntés au 
secteur bancaire et financier, dans un domaine où les 
droits fondamentaux occupent une place centrale.  D’autre 
part, la régulation que le DSA met en œuvre contraint 
l’utilisateur à la passivité alors qu’ils auraient vocation à 
devenir acteurs de cette régulation tant son objectif est 
de garantir leurs droits.   C’est pourquoi, je propose la 
reconnaissance d’un droit subjectif à l’autodétermination 
communicationnelle, inspiré du droit à l’autodétermination 
informationnelle.  Un tel droit aurait le mérite de redonner 
aux utilisateurs le contrôle des contenus qu’ils diffusent 
et qu’ils consomment.