Le décès en direct du streameur Jean Pormanove, le 18 août, martyrisé par ses collègues pendant des mois sur la plateforme Kick, pose la question du contrôle des espaces numériques. Comment comprendre l’absence d’intervention des autorités publiques ? Comment limiter la diffusion d’images violentes sur les réseaux ? Entretien avec le chercheur Romain Badouard.

The Conversation : Avant le décès de Jean Pormanove, des signalements ont été faits à l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom), et la justice a ouvert une enquête en décembre 2024. On s’étonne que rien n’ait été fait pour stopper la production et la diffusion de la chaîne mettant en scène violences et humiliations devant des centaines de milliers d’internautes. Comment l’expliquez-vous ?

Romain Badouard : Ce drame illustre les dysfonctionnements de la régulation des contenus en ligne. On sait depuis les débuts de l’Internet grand public que réguler les contenus présente un certain nombre de difficultés, autant techniques que juridiques et culturelles. Avec la mise en place en 2024 du Digital Services Act (DSA) – le nouveau règlement européen sur la régulation des platesformes, on avait espoir que la régulation serait plus efficace. On se rend compte aujourd’hui qu’il y a encore des trous dans la raquette…

Pourquoi l’Arcom n’a-t-elle pas agi ?

R. B. : Dans les médias, on a accusé l’Arcom de ne rien avoir fait. Mais l’Arcom est une autorité administrative dont le but est de vérifier que les plateformes sont en conformité avec les différentes normes réglementaires. Elle n’a pas pour mission de surveiller les publications des internautes. Ceci dit, l’Arcom aurait pu sanctionner Kick sur la base de sa mission, notamment concernant ses manquements en termes de modération.

La défense de l’Arcom consiste à dire que Kick n’a pas de représentant sur le territoire français, donc que cette plateforme ne relevait pas de ses compétences. Or le droit européen stipule qu’un service numérique accessible sur le territoire européen doit respecter les lois en vigueur dans les États membres. Le DSA impose aussi que ces services aient un représentant sur les territoires où ils diffusent. Ce n’était pas le cas de Kick, alors que ça aurait dû l’être.

Par ailleurs, j’ai constaté que Kick publie effectivement des rapports de transparence sur la manière dont elle modère les contenus, comme l’y oblige le DSA. Mais dans ces rapports, il y a de nombreux manques : le rapport est très flou et très imprécis. On ne sait pas combien de modérateurs sont employés, comment l’intelligence artificielle est utilisée pour détecter les contenus illégaux, aucun chiffre sur le nombre de publications qui ont été retirées ni sur les sanctions qui ont été prises. À ce titre, la plateforme aurait pu être sanctionnée. Dans ce genre de situation, l’Arcom peut ouvrir une enquête administrative. Elle peut aussi infliger des amendes aux plateformes qui ne respectent pas les règles. Enfin, en dernier recours, elle peut exiger que les fournisseurs d’accès à Internet rendent la plateforme inaccessible depuis le territoire français.

Pourquoi ne s’est-il donc rien passé ?

R. B. : Sans doute parce qu’il est compliqué de prendre en charge les milliers de sites qui existent, sachant que toute l’attention médiatique et publique se concentre sur les très grandes plateformes – Instagram, Facebook, X, TikTok, YouTube… Les plus petites passent souvent sous les radars, sauf que, dans le cas de Kick, finalement, les audiences étaient importantes, les manquements connus, et d’autres signaux auraient dû alerter les autorités.

Pourquoi la justice n’a-t-elle pas non plus agi, malgré l’ouverture d’une procédure judiciaire et plusieurs interventions de police ?

R. B. : Dans cette affaire, l’institution censée surveiller les contenus, c’est Pharos, qui a des pouvoirs de police. Or Pharos a reçu des signalements concernant la chaîne Kick qui diffusait les streams de Jean Pormanove – 80 signalements d’après Mediapart, ce qui n’est pas rien. On sait que la police est descendue à plusieurs reprises sur les lieux du tournage, mais ces tournages ont continué et les contenus ont été diffusés, ce qui est assez étonnant.

Il faut sans doute prendre en compte le fait que Jean Pormanove, qui avait été entendu par la police, n’a jamais souhaité porter plainte. Il a confié aux enquêteurs qu’il était consentant par rapport à tous les châtiments qui lui étaient infligés. Cela complique un peu l’action de la justice…

Pour autant, cette situation de streamers qui font l’objet d’une enquête du parquet de Nice dès décembre 2024 et qui poursuivent leur production pendant des mois a beaucoup choqué, et c’est légitime.

**Comment imaginer un système plus efficace pour éviter ce type de situation ?

R. B. : Le nœud du problème est celui de la temporalité de la justice. Ni la police ni l’administration n’ont le pouvoir d’exiger la fermeture d’une plateforme en France : seule la justice a ce pouvoir – ce qui est une bonne chose pour notre démocratie. Or, la justice prend du temps pour enquêter, juger et sanctionner. Ce qui manque, c’est un moyen d’agir rapidement pour bloquer les contenus qui sont manifestement illégaux et dangereux.

Il est donc nécessaire de compléter l’arsenal juridique dans le domaine. L’une des pistes à explorer, c’est de donner des moyens à la justice pour prendre des décisions rapides, bloquer des contenus, des plateformes, des chaînes qui ont des comportements problématiques, au moins de manière temporaire, pendant qu’une enquête suit son cours.

Mais la justice agit déjà très rapidement dans certains cas, comme les vidéos terroristes ou pédopornographiques…

R. B. : Il faut savoir que les publications des internautes sur les plateformes relèvent de la législation sur la liberté d’expression. Mais il y a effectivement certaines exceptions à cette liberté d’expression : les contenus terroristes et la pédopornographie. Dans ces cas de figure, la justice peut agir beaucoup plus vite, et les plateformes doivent être capables de les retirer en moins d’une heure. Elles ont d’ailleurs mis en place des systèmes interplateformes pour repérer et effacer ces contenus en quelques minutes, voire quelques secondes. Donc, techniquement parlant, c’est possible.

Notons qu’il y a un autre cas de figure où la régulation est très efficace, c’est celle du droit d’auteur. Les plateformes ont été proactives, car elles redoutaient des procès d’ayants droit. Par exemple, sur YouTube, des systèmes automatiques détectent la réutilisation de contenus protégés par le droit d’auteur avant publication. Cela prouve que lorsqu’elles le veulent, les plateformes trouvent des solutions.

Le problème, lorsqu’il s’agit des publications quotidiennes des internautes, est toujours de trouver la bonne mesure entre lutte contre les contenus illégaux et protection de la liberté d’expression. Car une législation trop contraignante en la matière peut également avec des conséquences néfastes.

La diffusion de contenus violents, des suicides, d’humiliations, de discours de haine ne sont pas protégés par les principes de la liberté d’expression. Pourquoi seraient-ils tolérés sur Internet alors qu’ils sont sanctionnés par la loi dans d’autres contextes ?

R. B. : Effectivement, il s’agit d’actes interdits par la loi et les platesformes ont l’obligation d’empêcher leur diffusion. Les grosses platesformes commerciales le font, ou tentent de le faire, mais les plus petites – comme Kick – essayent de manière très malsaine de nourrir leur modèle économique de ce type de contenus, en visant un public particulier. Elles sont plus difficiles à surveiller, car elles sont nombreuses et moins visibles. Par ailleurs, selon la législation européenne, la surveillance des contenus incombe d’abord aux plateformes.

Ne serait-ce pas plus simple d’inverser la logique en demandant aux plateformes d’être responsable des contenus publiés comme des médias ? ou de mettre des amendes si dissuasives qu’elles joueraient le jeu de la modération ?

R. B. : Imaginer des amendes très fortes est possible et souhaitable. Au niveau européen, il y a eu des amendes importantes infligées par la Commission européenne à plusieurs géants du numérique, notamment pour abus de position dominante. La Commission nationale de l'informatique et des libertés (CNIL), en France, a imposé de lourdes amendes à Facebook et Google concernant la législation sur les données personnelles. Le DSA est en place depuis peu de temps, mais il doit donner des moyens d’agir et de sanctionner.

Alors, est-ce qu’il faudrait aussi considérer les plateformes comme responsables des contenus à l’instar des médias ? Actuellement, la législation française et européenne donne aux plateformes un statut intermédiaire : elles ne sont pas responsables des contenus, mais ont une responsabilité lorsque des contenus leur sont signalés. Elles doivent agir et doivent par ailleurs respecter une obligation de moyens pour détecter les contenus illégaux.

Si on considérait les plateformes comme légalement responsables des contenus de tous les streamers, cela serait tout de même problématique en termes de créativité et de liberté d’expression – tout ce qui a fait aussi la culture numérique depuis le début des années 2000. Il n’y a pas que des choses atroces mises en ligne, il y a aussi beaucoup de contenus de qualité, de partages d’informations, d’intelligence collective. Si on rend les plateformes responsables de toutes les publications des internautes, alors elles limiteront considérablement les moyens d’expression de ces derniers. On ne peut pas non plus évacuer le fait que ces plateformes sont très populaires, qu’elles sont utilisées par des centaines de millions de personnes. Si, du jour au lendemain, vous bridez TikTok, par exemple, et que la plateforme décide de se retirer du territoire français, vous allez faire beaucoup de mécontents – ce dont les responsables politiques ne veulent certainement pas.

Pour élargir aux grandes plateformes et au DSA, qu’est ce qui fonctionne et qu’est-ce qui ne fonctionne pas ? Il y a eu des plaintes contre TikTok liées à des suicides d’adolescents. Est-ce que le DSA est réellement efficace ?

R. B. : Le DSA est entré en vigueur en février 2024, on commence à avoir un peu de recul pour juger. Pour l’instant, concernant les obligations de transparence, les grandes plateformes ont plutôt obtempéré, elles communiquent sur leur modération, ce qu’elles retirent, comment elles s’y prennent, etc. On se rend compte qu’il y a de bons élèves et de mauvais élèves. Meta ou Google ont plutôt tendance à jouer le jeu parce qu’elles ont un intérêt financier à le faire. TikTok, c’est beaucoup plus problématique : il y a des doutes sur sa volonté de se mettre en conformité. Quant à X, la plateforme affirme ouvertement qu’elle ne respectera pas les règles et qu’elle n’a aucune intention de le faire – ce qui a amené la Commission européenne à ouvrir une enquête à son sujet.

Notons que, même pour les bons élèves, lorsqu’on entre dans le détail, on voit qu’il manque beaucoup d’informations dans les rapports – combien de modérateurs, quelles sanctions, comment fonctionnent leurs algorithmes, etc. La commission a tapé du poing sur la table à l’automne 2024 et elle impose désormais des critères plus précis pour les nouveaux rapports de transparence. Nous verrons en 2025 si les plateformes jouent finalement le jeu.

Quel serait le bilan des régulations mises en place ces dernières années ?

R. B. : On régule plus qu’avant, mais le bilan est mitigé. Le DSA est un progrès indéniable, avec des lacunes, par exemple lorsqu’il s’agit d’intervenir rapidement pour bloquer des contenus ou des plateformes, comme je l’ai déjà indiqué. Au niveau français, où l’on est censé réguler les plateformes de taille plus modeste, il y a aussi des progrès.

L’Arcom a eu de nouveaux pouvoirs dans le cadre du DSA en France – enquêtes, amendes, etc. Par ailleurs, la France a adopté une loi sur la sécurité de l’espace public numérique et imposé des règles qui n’étaient pas dans le DSA – par exemple, l’interdiction des sites pornographiques qui ne vérifient pas l’âge des utilisateurs.

On ne peut nier qu’il y a une volonté du politique de ne plus laisser l’espace public numérique sans régulation. Les lois existent, l’enjeu relève davantage de leur application.