<figure><img src="image_1.png" /></figure>

# Entre discours de haine en ligne et cyberharcèlement chez un public belge de 15 à 25 ans : une distinction de fait et de droit, mais une distinction pertinente en criminologie ?

Océane Gangi¹, Nadège Brassine² et Cécile Mathys³

¹ Chercheuse, Département de criminologie, Université de Liège, Belgique

² Doctorante, Département de criminologie, Université de Liège, Belgique

³ Professeure, Département de criminologie, Université de Liège, Belgique

Contact: oceane.gangi@uliege.be

## Résumé

À l'aune du Web 3.0, la zone d'ombre autour des definitions qualifiant les violences en ligne constitue un obstacle à leur bonne compréhension: haine en ligne, discours de haine et cyberharcèlement sont des termes qui peuvent autant se distinguer que se confondre. Ce constat nous a conduites à rencontrer, par le biais d'entretiens semi-directifs et selon un échantillon de cas multiples, quatorze Belges francophones âgés entre 15 et 25 ans (les digital natives) ayant été victimes, auteurs et/ou témoins de discours de haine en ligne, et présentant une diversité au niveau de l'origine ethnique, du genre, et de l'orientation sexuelle. L'objectif poursuivi est de connaître leurs expériences subjectives liées au discours de haine en ligne. Les résultats qualitatifs seront discutés selon le profil autorapporté par notre échantillon (victime, auteur, témoin, profil multiple) et mis au regard de la conduite de cyberharcèlement, mais également de l'usage de violences verbales, qui ressortent des entretiens menés. L'article se clôturera par une réflexion sur la multitude de formes de discours de haine en ligne exprimées par un échantillon de digital native et la nécessité de s'interroger sur les aspects définitoires de ces comportements, notamment afin de développer des politiques de prévention ciblées du discours de haine en ligne.

## Mots clés

cyber-violence, discours de haine en ligne, cyberharcèlement, jeunes adultes, recherche qualitative

Between online hate speech and cyberbullying in a 15-25-year-old Belgian population: a de facto and de jure distinction, but a relevant distinction in criminology ?

## Abstract

In the context of Web 3.0, the grey area surrounding the definitions of online violence is an obstacle to its proper understanding: online hate, hate speech, and cyberbullying are terms that can be interchangeable. This observation led us to meet, through semi-structured interviews and according to a multiple-case sample, fourteen French-speaking Belgians between 15 and 25 years old (the digital natives) who had been victims, perpetrators and/or bystanders of online hate speech, and who were diverse in terms of ethnicity, gender, and sexual orientation. The goal is to learn about their subjective experiences with online hate speech. The qualitative results will be discussed according to the self-reported profile of our sample (victim, perpetrator, bystander, multiple profile) and put in comparison with the conduct of cyberbullying, but also with the use of verbal violence, which emerges from the interviews conducted. The article will end with a reflection on the multitude of forms of online hate speech expressed by a sample of digital natives and the need to question the defining aspects of these behaviours, in particular in order to develop targeted prevention policies for online hate speech.

## Keywords

cyberviolence, online hate speech, cyberbullying, young adults, qualitative research

**Citation :** Gangi, O., Brassine, N. et Mathys, C. (2023) Entre discours de haine en ligne et cyberharcèlement chez un public belge de 15 à 25 ans : une distinction de fait et de droit, mais une distinction pertinente en criminologie ? *Criminologie, Forensique et Sécurité*, 1 (1) : 3620.
## Introduction

Les cyberviolences, ou violences en ligne, sont des comportements de plus en plus étudiés au sein de différentes disciplines, dont criminologiques, ce pour examiner tant le vécu des victimes que les motivations des auteurs. Au sein des cyberviolences, nous avons fait le choix d'étudier plus précisément le cyberharcèlement et le discours de haine en ligne au sein d'une population de digital natives<fnref n="1" /> (de 15 à 25 ans), cette population présentant des spécificités en termes d'usage du numérique et de leur relation avec celui-ci. En effet, le terme digital natives permet de désigner la première génération ayant grandi avec l'expansion d'internet (Bennett et al., 2008; Prensky, 2001). Selon l'étude de Prensky, les expériences liées au numérique des digital natives diffèrent sur plusieurs points en comparaison de celles des générations précédentes, appelées digital immigrants (2001), notamment par le rôle du numérique dans la communication entre les pairs (Keipi et al., 2017). Au vu de l'évolution de la technologie autour des années 2000 (Keipi et al., 2017), la tranche d'âge étudiée dans cette recherche est celle des 15 à 25 ans, soit des jeunes nés entre 1997 et 2007. Nous allons étudier la définition du cyberharcèlement, celle du discours de haine en ligne, pour ensuite identifier les différences.

Nous constatons que le cyberharcèlement peut différer, que ce soit au niveau de la diversité des actes exprimés (Willard et al., 2007), de leur intensité (Smith et al., 2008) ou encore au niveau de la cible visée (Smith et al., 2008), et qu'il est également encadré juridiquement. En Belgique, le cyberharcèlement est sanctionné par la combinaison de l'article réprimant le harcèlement et celui précisant l'utilisation de moyens électroniques<fnref n="2" />. Dans le cadre de cette étude, nous nous référons à la définition de Kowalski et Limber qui définit le cyberharcèlement comme « le harcèlement<fnref n="3" /> par l'utilisation de moyens électroniques (messageries instantanées, courriers électroniques, salons de discussion, sites internet, jeux en ligne, réseaux sociaux et messages textuels) » (Kowalski et Limber, 2013, p. 13). Le cyberharcèlement étant causé par des moyens technologiques, il se produit au sein de ce que l'on peut appeler l'espace numérique, terme auquel nous allons faire référence dans la présente étude.

Relatif au discours de haine en ligne, nous relevons que celui-ci est perçu comme l'utilisation d'un langage (agressif ou offensant) visant un groupe spécifique de personnes partageant une caractéristique commune (leur sexe, leur groupe ethnique, leurs croyances, leur religion ou leurs préférences politiques) (Chetty

et Alathur, 2018; Simpson, 2013; Zhang et Luo, 2019), alors que pour d'autres, il s'agirait plus largement d'exprimer sa haine d'un collectif (Hawdon et al., 2017). En outre, le discours de haine en ligne a pour conséquence l'exclusion du groupe (Hawdon et al., 2017). Relevons que la modalité d'expression, en ligne ou au sein de l'espace numérique, n'est ici étonnement pas nommée. D'un point de vue juridique<fnref n="4" />, les définitions encadrent davantage le discours de haine, sans toutefois, et à l'instar des définitions précédentes, prendre en compte spécifiquement la modalité de son expression, au sein de l'espace numérique (par le biais d'internet notamment).

Nous pouvons observer à ce stade deux distinctions entre le cyberharcèlement et le discours de haine en ligne. Premièrement, alors que le discours de haine en ligne est un comportement qui cible le groupe et qui touche les individus partageant les caractéristiques de ce groupe, le cyberharcèlement, en extension du harcèlement, est un comportement ciblant répétitivement un même individu. Ensuite, la modalité d'expression est clairement stipulée au sein des définitions criminologiques et juridiques concernant la conduite de cyberharcèlement, alors que ce n'est pas le cas pour le discours de haine en ligne. Dès lors, en ce qui concerne notre objet d'étude principal, le discours de haine en ligne, nous constatons un flou lié aux imprécisions légales et aux indicateurs comportementaux mobilisés : le discours de haine en ligne est-il un langage agressif dirigé vers un groupe spécifique, ou faut-il nécessairement la présence de sentiments de haine envers ce collectif ? Si tel est le cas, comment qualifier cette haine ? Est-ce que le discours de haine en ligne est une extension du discours de haine, à l'instar du cyberharcèlement et du harcèlement, qui se différencient par leur modalité d'expression ? Aussi, et de façon originale au sein de cette étude, nous nous proposons d'intégrer un nouveau point de vue sur ces conduites, celui des protagonistes impliqués (victime, auteur, témoin ou profil multiple), et particulièrement ceux âgés entre 15 et 25 ans. L'objectif de cette étude sera donc de sonder un échantillon de digital natives sur leurs expériences et définitions personnelles du discours de haine en ligne et du cyberharcèlement afin d'en examiner les interrelations perçues ou non.

## Méthodologie

Quatorze entretiens semi-directifs ont été menés avec un échantillon de Belges francophones âgés de 15 à 25 ans (moyenne d'âge = 19,85 ans) pour les questionner principalement<fnref n="5" /> sur leurs expériences face au discours de haine en ligne et leurs définitions de cette conduite. Nous avons construit notre guide d'entretien grâce à la littérature sur les violences en ligne et le discours de

<footnote n="1">¹ Si le terme a initialement caractérisé les personnes nées entre 1980 et 1994, nous avons fait le choix de cibler, à l'instar d'une étude récente de Harrison et ses collègues, les personnes « utilisant internet et les ressources digitales dans l'apprentissage à l'école primaire » (2020, p. 61).</footnote>

<footnote n="2">² Le harcèlement y est défini comme « [q]uiconque aura harcelé une personne alors qu'il savait ou aurait dû savoir qu'il affecterait gravement par ce comportement la tranquillité de la personne visée » (art 442bis CP belge). L'article 145, §3bis de la loi belge du 13 juin 2005 relative aux communications électroniques précise qu'est sanctionnée « la personne qui utilise un réseau ou un service de communications électroniques ou d'autres moyens de communications électroniques afin d'importuner son correspondant ou de provoquer des dommages ».</footnote>

<footnote n="3">³ Le harcèlement est, quant à lui, « des actes d'agression qui se répètent dans le temps et qui impliquent un déséquilibre de pouvoir entre l'aujourd'hui et ses cibles » (Olweus, 1993, pp 8-9).</footnote>

<footnote n="4">⁴ En Belgique, la recommandation 97(20) du Comité des Ministres sur le discours de haine considère que « [l]e terme ‘discours de haine’ doit être compris comme couvrant toutes formes d’expression qui propagent, incitent à, promeuent ou justifient la haine raciale, la xénophobie, l’antisémitisme ou d’autres formes de haine fondées sur l’intolérance, y compris l’intolérance qui s’exprime sous forme de nationalisme agressif et d’ethnocentrisme, de discrimination et d’hostilité à l’encontre des minorités, des immigrés et des personnes issues de l’immigration. »</footnote>

<footnote n="5">⁵ Cette étude est l'un des axes de recherche poursuivis au sein du projet belge @ntidote par les universités de Liège, d'Anvers et de Saint-Louis (Bruxelles). Ce projet a pour objectif d'étudier les cyberviolences et plus précisément le discours de haine en ligne et la diffusion non consensuelle d'images intimes.</footnote>
haine en ligne (Bautista-Ortuño et al., 2018; Costello et Hawdon, 2020; Meyer, 2010; Ortiz, 2021) et nous l'avons affiné à la suite de deux prétests avec des jeunes ayant les mêmes caractéristiques que l'échantillon visé, afin de s'assurer que les questions étaient compréhensibles. Notre guide d'entretien contenait une série de questions sur les expériences vécues avec le discours de haine en ligne, la manière dont ils définissent ce comportement et le statut autorapporté identifié.<fnref n="6" />

En accord avec la littérature sur le sujet et pour privilégier une diversité au sein de notre échantillon (en termes d'origine ethnique, de genre, d'orientation sexuelle et de statut autorapporté avec les conduites ciblées) (Bautista-Ortuño et al., 2018; Costello et al., 2019), nous avons utilisé l'échantillon de cas multiples et pris contact avec des écoles, des universités et des établissements spécialisés accueillant des mineurs avec des problèmes de comportement, en conflit avec la loi ou en difficultés familiales. La récolte des données a été validée par l'Université d'Anvers concernant les précautions éthiques liées à celle-ci.<fnref n="7" />

Nos entretiens se sont déroulés pour la plupart dans les locaux de l'Université de Liège, ainsi que dans les locaux de certains établissements spécialisés ou au domicile des participants, afin de faciliter la logistique de ces derniers. Tous les entretiens ont duré de 45 minutes à 1 heure 40 et ont été enregistrés afin de faciliter leur retranscription fidèle. Les entretiens et les retranscriptions ont été réalisés par une chercheuse principale et par une étudiante en Master en Criminologie qui a été supervisée par la chercheuse principale. Notre échantillon se compose de quatorze jeunes, neuf hommes et cinq femmes. Parmi eux, dix définissent leur orientation sexuelle comme hétérosexuelle, deux comme homosexuelle et deux comme bisexuelle. Cinq personnes sont exclusivement d'origine belge, une personne est d'origine belge et asiatique, trois sont d'origine européenne (non belge) et cinq sont d'origine africaine. L'entièreté des répondants se considère comme à minima témoins de discours de haine en ligne. Parmi eux, onze se sont définis également comme victimes et trois comme auteurs, dont deux combinant ces deux statuts (auteur-victime). Nous avons retranscrit la totalité des entretiens afin de permettre une catégorisation par analyse inductive. L'analyse inductive permet de conserver le sens des propos des interrogés tout en les liant à de la théorie existante, en fonction des résultats qui ont émergé (Blais et Martineau, 2007; Thomas, 2006). Les résultats présentés sont le fruit d'une précatégorisation et pourront donc évoluer dans les mois à venir.

# Résultats

## Interrelations entre discours de haine en ligne et cyberharcèlement

En ce qui concerne la définition usuelle donnée par nos participants, nos principaux résultats (préliminaires) indiquent des interrelations entre le discours de haine en ligne et le cyberharcèlement, et ce, pour l'entièreté de nos participants. Les définitions ne semblent pas différer en fonction de l'origine ethnique, du genre et de l'orientation sexuelle, mais les expériences décrites sont quelque peu divergentes en fonction du profil autorapporté (voir section suivante). Une participante, une femme belge de 20 ans, bisexuelle, dont le profil autorapporté est celui de victime et de témoin de discours de haine en ligne, donne une large définition du discours de haine en ligne, sans spécifier la modalité d'expression : « *Un discours de haine bah c'est dire quelque chose qui ne va pas plaire à la personne pour lui faire du mal, voilà* ». Une autre répondante, une femme belge de 21 ans, bisexuelle, dont le profil autorapporté est celui de victime et de témoin de discours de haine en ligne va préciser que « *[d]iscours de haine en ligne et harcèlement, c'est pareil parce qu'en fait le harcèlement, ça touche Internet, mais ça touche aussi les personnes de face donc en fait c'est juste que ça rassemble diverses possibilités de harcèlement* ». Ici, nous entrevoyons que la modalité d'expression est incluse, mais semble confondue avec la conduite de harcèlement et sa modalité en ligne qu'est le cyberharcèlement.

## Définitions et illustrations du discours de haine en ligne selon les profils autorapportés

Nous observons des différences de définition sur les éléments de compréhension de ce que constitue, pour nos participants, un discours de haine en ligne, ce en fonction de leur profil autorapporté. Ainsi, les répondants qui s'identifient comme auteurs de discours de haine en ligne décrivent des expériences de discours de haine au sein de l'espace numérique. Par exemple, une jeune française de 22 ans, homosexuelle, dont le profil autorapporté est auteur, victime et témoin : « [...] c'était un truc au millième degré je crois qui a été sur le fait que 'Les blancs, faudrait les gazer parce que parfois ils font des trucs vraiment trop abusé' [...] par soutien, j'ai relayé les trucs qu'elle disait et que les fachos critiquaient et qui pourraient être considérés comme de la haine anti-blancs ».

En outre, nos participants qui se considèrent auteurs parlent d'expériences d'insultes, principalement à l'encontre de personnes présentant une orientation sexuelle non hétérosexuelle et/ou incluant un critère racial. Par exemple, un jeune belge d'origine marocaine de 15 ans et hétérosexuel, dont le profil autorapporté est celui d'auteur et de témoin de discours de haine en ligne, explique en quoi il se qualifie d'auteur de discours de haine en ligne : « Oui, j'ai déjà commenté, 'sale pd', plusieurs fois. Ouais et je les insulte en plus. [...] j'ai écrit 'Sale pd', après y a un commentaire il a dit 'Qu'est-ce que ça change à ta vie ?' et moi j'ai dit 'Va sucer des b.... Ailleurs' ». Il précise : « ça m'arrive d'écrire "sale PD", c'est normal madame [...]. Par exemple, moi je les juge pas. Dans ma religion, c'est interdit de juger. Je ne les juge pas. Je juge leurs actes. Parce que si on laisse leurs actes passer, ça va être banalisé ».

Les répondants qui s'identifient comme victimes de discours de haine en ligne décrivent tous des expériences de cyberharcèlement. Pour illustration, une jeune belge de 20 ans, bisexuelle, dont

<footnote n="6">⁶ Par exemple : « Quelle est ton expérience personnelle avec le discours de haine en ligne ? » ; « Qu'est-ce que le discours de haine en ligne ? Si c'est plus facile pour toi, tu peux donner un exemple. Connais-tu un autre mot qui serait plus approprié pour nommer ce comportement ? » et « Après notre discussion concernant tes expériences en ligne, dans quel(s) rôle(s) te reconnaîtrais-tu le plus ? Une victime ? Un auteur ? Un témoin ? Une combinaison de plusieurs rôles ? ».</footnote>

<footnote n="7">⁷ Entre autres : explication de la recherche, écrit de consentement éclairé, stockage des données sécurisé, etc.</footnote>
le profil autorapporté est celui de victime et de témoin de discours de haine en ligne nous explique : « *Et en fait sur la photo, t'as une ombre, tu vois en dessous de mon bras ? Et tout le monde a cru que c'était mes poils. Et genre évidemment y a un con qui a mis 'Ah elle a des poils' et bah en dessous ça a suivi et ça a suivi et ça a suivi.* Je crois que j'étais à 450 commentaires je sais pas et genre il l'avait repartagé et tout le bazar en mode 'Ouais ça se rase pas les bras' ». En outre, certaines personnes décrivent des expériences d'insultes, comme la jeune fille française dont l'expérience d'auteure a été décrite ci-dessus : « *J'ai reçu quelques insultes là-dessus, j'ai déjà entendu 'salope', 'connasse', des choses comme ça'*. »

L'ensemble de nos répondants s'identifie comme témoin de discours de haine en ligne. Certains d'entre eux vont indiquer que le statut de témoin peut constituer aussi un statut de victime, comme un jeune belge d'origine marocaine de 17 ans, hétérosexuel, dont le profil autorapporté est celui de victime et de témoin de discours de haine en ligne : « *S'ils insultent l'Afrique, je suis aussi une victime !* ». Un autre répondant exprimera que les messages ciblant sa communauté ne le touchent pas personnellement : « *Je vais re-partager ouais pour montrer à des gens qu'il y a des gens qui sont cons. Mais juste pour ça [rires] Puis voilà sinon sans plus* » (homme belge d'origine guinéenne, 17 ans, hétérosexuel). Une autre répondante explique son rôle en tant que témoin : « *Et j'ai été témoin aussi de discours de haine et à ce moment-là bah c'est pas que je reste impassible parce que je défends maintenant parce que je sais ce que c'est maintenant et je me suis rendue compte maintenant. J'ai un peu grandi, donc je suis une témoin active* » (femme belge de 21 ans, bisexuelle, profil autorapporté de victime et de témoin).

## Représentation des auteurs de discours de haine en ligne

L'une des participantes, une femme française de 22 ans, homosexuelle, dont le profil autorapporté est celui d'auteur, de victime et de témoin de discours de haine en ligne, indique sa représentation de l'auteur de discours de haine en ligne : « *ça va être des bons gros mecs de 45 ans avec leur petit travail dans la compta qui vont être frustrés et qui vont dire 'Voilà, moi quand j'avais 20 ans on m'a piqué mon téléphone, maintenant c'est mon heure'* ». Un autre participant précise : « *Et pour moi la personnalité derrière, il faut quand même qu'il y ait une touche d'un être assez vicieux parce que... Ou alors suffisamment inconscient pour ne pas comprendre les dégâts que ça fait* » (homme belge de 22 ans, hétérosexuel, profil autorapporté de victime et de témoin). Certains participants parlent de la potentielle victimisation de l'auteur, comme un jeune homme de 16 ans, d'origine italienne, hétérosexuel, dont le profil autorapporté est celui de témoin : « *C'est une personne blessée qui se sent pas bien dans sa peau et qui veut remonter plusieurs personnes contre ce genre de personnes* », ou comme une femme belge de 23 ans, hétérosexuelle, dont le profil autorapporté est celui de victime et de témoin : « *Je vois plutôt une personne peut-être un peu isolée, peut-être isolée socialement, pas forcément au courant de certaines choses, donc un manque d'éducation* ».

Ces premiers résultats intergent sur l'existence potentielle de sentiments de haine, d'une volonté d'exclusion d'un groupe ou encore d'un dénigrement de certaines caractéristiques. Il apparaît plutôt des motivations individuelles perçues chez l'auteur, liées à une forme de régulation émotionnelle, même si un participant pointe une forme d'intentionnalité (« *être assez vicieux* »), mais sans en préciser l'objectif visé.

## Discussion

Nous avons fait le choix de présenter seulement quelques extraits des entretiens menés. Toutefois, l'ensemble de nos résultats vont dans le même sens en décrivant des interrelations entre discours de haine en ligne et cyberharcèlement, avec une prépondérance de violences verbales, au sein d'un échantillon de jeunes de 15 à 25 ans. Ainsi, le discours de haine en ligne est perçu par nos répondants comme un comportement large englobant le cyberharcèlement et le discours de haine, composé largement de violences verbales, elles-mêmes caractérisées par des insultes à l'encontre de minorités sexuelles et raciales.

Plus spécifiquement, nous retrouvons davantage d'expériences de cyberharcèlement perçues comme étant du discours de haine en ligne au sein du profil de victimes, tandis que les insultes semblent majoritairement identifiées comme étant une forme de discours de haine en ligne parmi l'ensemble de nos répondants, tous profils confondus. Nous relevons également que les témoins semblent avoir été eux-mêmes des victimes et/ou des auteurs du discours de haine en ligne; mettant la focale sur les interrelations quant aux statuts partagés au sein de l'espace numérique. Enfin, les représentations perçues quant aux profils des auteurs ne semblent pas renvoyer aux motivations ciblées par la littérature théorique.

## Tentatives d'explication : point de vue théorique

Nous constatons que les définitions présentées supra dans l'introduction théorique ont toutes le point commun de qualifier le discours de haine en ligne comme un comportement qui cible un groupe afin de toucher les individus présentant les caractéristiques de ce groupe. Le cyberharcèlement prend en compte les éléments de répétition d'un comportement à l'encontre d'un même individu. L'échantillon de digital natives rencontrés ne semble pas prendre en considération ces spécificités ou, en tous cas, ne pas faire de celles-ci un élément suffisamment discriminant que pour différencier ces deux conduites sur le plan de la victimisation, de la responsabilité ou de la perception de dommage. Selon les définitions et les expériences partagées par nos participants, le discours de haine en ligne semblerait prioritairement un comportement qui cible directement un individu (« sale PD », « salope », « ça se rase pas les bras ») et non un groupe. La perception de victimisation des individus assistant à cet échange de propos dépend elle des caractéristiques partagées avec la personne directement ciblée (orientation sexuelle, origine ethnique, genre). Aussi, l'aparente volonté des auteurs, ainsi que la volonté perçue de ceux-ci par les victimes et par les témoins, ne semblent donc pas viser l'entièreté du groupe partageant des caractéristiques similaires. Nous pouvons dès lors nous interroger sur l'intention de ces conduites telle que mentionnée par la littérature (Hawdon et al., 2017; Zhang et Luo, 2019), comprenant la volonté de propager de la haine ou encore de faire perdurer des préjugés, pouvant mener à l'exclusion d'un groupe.

Plus spécifiquement, beaucoup d'auteurs renseignent la menace symbolique<fnref n="8" /> comme source de motivation chez l'auteur de discours de haine en ligne (Baider, 2019; Burch, 2018; Costello et

<footnote n="8">⁸ La menace symbolique est une théorie qui présuppose la création d'un exo-groupe où l'autre devient une menace et peut faire émerger un sentiment de haine à son encontre (Sternberg et Sternberg, 2008).</footnote>
Hawdon, 2020). Or, au niveau des résultats obtenus, que ce soient les témoignages quant aux expériences vécues ou la représentation des auteurs de discours de haine en ligne, nous constatons que nos répondants n'indiquent pas en quoi les personnes ciblées constituent une menace pour eux ou pour leur groupe d'appartenance. Nous pouvons ici nous interroger sur ces résultats et émettre l'hypothèse que nos participants, du fait de leur âge, n'aient pas vécu suffisamment d'expériences négatives avec des personnes possédant des caractéristiques identitaires différentes des leurs. En effet, la construction identitaire se finalise vers la fin de l'adolescence, le début de l'âge adulte (Rocque, 2015). Notre échantillon avec une moyenne d'âge de 19,85 ans semble toujours en développement et peut-être pas encore suffisamment positionné par rapport à lui-même et ses potentiels groupes d'appartenance. Les observations réalisées renvoient plutôt à l'étude de Reichelmann et ses collègues qui indique que la majorité des participants (des jeunes de 18 à 25 ans de six pays différents) a été exposée à des discours haineux en ligne par accident et non par recherche intentionnelle (Reichelmann et al., 2021). Ainsi, nous pouvons nous demander si nos résultats ne constituent pas des éléments d'explication du phénomène. Il est probable que le manque d'élaboration dû au développement de la maturité, dont psychosocial (Mathys et al., 2022), mais également identitaire (Rocque, 2015), toujours en cours au sein d'une population de digital natives, puisse expliquer la grande variabilité de discours de haine exprimée par nos participants, dont les interrelations avec les conduites de cyberharcèlement observées. Par ailleurs, un critère similaire que nous retrouvons au sein des profils autorapportés de nos participants est la présence de violences verbales, exprimées sous forme d'insultes, notamment à l'encontre de minorités sexuelles et raciales. Cette modalité comportementale d'expression est peut-être ce qui peut rassembler le discours de haine en ligne et le cyberharcèlement, faisant tout deux parties des violences en ligne (Wachs et al., 2019). Aussi, même si notre étude cherchait initialement à cibler le discours de haine en ligne, force nous est de constater que plusieurs autres conduites y sont associées. Des études ultérieures pourraient examiner plus rigoureusement les liens entre ces trois conduites que sont le discours de haine en ligne, le cyberharcèlement, et les violences verbales, notamment en termes de prévalences selon les profils autorapportés.

## Tentatives d'explication : point de vue méthodologique

Nous pouvons également tenter de comprendre ces premiers résultats au regard de certaines limites méthodologiques présentes au sein de notre étude. Notre guide d'entretien est composé de questions sur les violences en ligne de manière générale, puis sur le discours de haine en ligne et sur la diffusion non-consensuelle d'images intimes. Il se pourrait que la multiplicité des thèmes abordés ait participé à diminuer la clarté de notre questionnaire et/ou à induire une prépondérance d'expériences partagées de violences en ligne, dont verbales, et de cyberharcèlement. Nous pouvons également mentionner le profil de l'échantillon rencontré, composé de 14 personnes, dont des jeunes en situation de vulnérabilités (sociales, familiales, etc.), qui ne reflètent pas l'ensemble des digital natives, et ne permettent pas la généralisation, outre la taille réduite de notre échantillon. Cependant, la force de notre étude tient à la diversité des profils rencontrés, tous concernés par le discours de haine en ligne, de façon agie, subie ou observée, et intégrant des caractéristiques personnelles

associées au discours de haine en ligne. Par ailleurs, les capacités d'élaboration de certains de nos participants nous questionnent (p. ex: « après y a un commentaire il a dit 'Qu'est-ce que ça change à ta vie?' et moi j'ai dit 'Va sucer des b.... Ailleurs ») et encourageraient à prendre en compte ce facteur dans des recherches ultérieures sur le discours de haine en ligne, que ce soit au sein d'un échantillon de digital natives comme la présente étude, mais également, en comparaison, un échantillon plus âgé. Nous pensons notamment aux implications quant à la perception et la qualification du discours de haine en ligne par les témoins et les victimes : est-ce que celui-ci serait perçu différemment, plus haineux par exemple, en fonction de l'argumentaire développé ?

## Implications

Ces résultats préliminaires permettent de réaffirmer l'importance des définitions des comportements exprimés. Pour certains auteurs, la spécificité de l'espace numérique est la permanence des messages, ce qui permet de qualifier de cyberharcèlement tout contenu, même sans que l'acte ne soit répété (Dooley et al., 2009, Kubizewski et al., 2015, Raskauskas et Stoltz, 2007, Slonje et Smith., 2008). Cette affirmation s'éloigne des définitions légales, mais se rapproche des éléments communiqués par nos participants. Il en est de même pour le terme « les mots qui blessent » qui est utilisé pour qualifier les expressions qui offensent une partie considérable du grand public et qui ont des conséquences pénales (Matsuda et al., 1993). En outre, l'utilisation du terme « discours de haine dissimulé » (Baider, 2019) permet de qualifier un contenu haineux implicite ou caché. Toutes ces nuances de vocable sont importantes, car elles peuvent avoir de multiples implications tant pour la reconnaissance du statut de victime, que pour discuter de la responsabilité des auteurs de ces conduites, ou encore concernant les témoins, largement présents au sein de notre échantillon et dont notre étude a mis en évidence la dualité de statut. Il est ainsi nécessaire de prendre en compte et de s'adapter au vocabulaire compris et utilisé par la population cible, ce afin d'obtenir des réponses valides permettant de saisir les nuances des conduites manifestées. Nous suggérons de poursuivre ces réflexions au travers d'études futures, incluant de façon transversale des individus de plus de 25 ans quant aux discours de haine en ligne produits, subis ou observés, et d'autres intégrant de façon longitudinale des adolescents de 15 ans jusqu'à 40 ans et plus. Enfin, la variabilité de profils des répondants (orientation sexuelle, genre, origine ethnique), associée à des lieux de recrutements diversifiés, nous semble une orientation à poursuivre.

## Conclusion

Notre étude nous a permis d'observer que les digital natives perçoivent des interrelations entre le discours de haine en ligne et le cyberharcèlement, avec la présence importante de violences verbales comme expression principale de ces conduites. Ce constat nous a conduites à nous questionner notamment sur les conséquences liées à la perception de victimisation, le statut dual de témoin et les motivations perçues du discours de haine en ligne. Au final se pose la question de la place des conduites que nous avons observées au sein de notre échantillon : sont-elles des conduites isolées et transitoires, prenant place dans la socialisation des adolescents et jeunes adultes de 15 à 25 ans par le biais du numérique ? Sont-elles l'expression balbutiante de comportements en devenir de discours de haine en ligne plus classiques,
et dès lors, permettraient de développer des axes de prévention ?
Où sont-elles encore une forme distincte de discours de haine
en ligne, associant des expériences de cyberharcèlement et de
violence verbale en ligne, mais exempt d'intentions d'expression
de haine et/ou de préjugés forts à l'encontre de caractéristiques
saillantes d'un collectif pouvant mener à de l'exclusion, et dont il
faudrait pourtant se préoccuper ?

Références

al Serhan, F et Elareshi, M. (2019). University students' awareness of social media use and hate speech in Jordan. *International Journal of Cyber Criminology*, 13(2), 548-563. https://doi.org/10.5281/zenodo.3709236

Bautista-Ortuño, R., Perea García, J., Rodríguez Gómez, N. et Castro Toledo, F. (2018). “May I offend you?” An experimental study on perceived offensiveness in online violent communication and hate speech. *International e-journal of criminal sciences*, 12. https://ojs.ehu.eus/index.php/inecs/article/view/19932

Baider, F. (2019). Le discours de haine dissimulée: le mépris pour humilier. *Déviance et société*, 43(3), 359-387. https://doi.org/10.3917/ds.433.0359

Bennett, S., Maton, K. et Kervin, L. (2008). The ‘Digital Natives’ Debate: A Critical Review of the Evidence. *British Journal of Educational Technology*, 39(5), 775-786. https://doi.org/10.1111/j.1467-8535.2007.00793.x

Blais, M. et Martineau, S. (2007). L'analyse inductive générale: description d'une démarche visant à donner un sens à des données brutes. *Recherches qualitatives*, 26(2), 1-18. https://doi.org/10.7202/1085369ar

Burch, L. (2018). "You are a parasite on the productive classes": online disablist hate speech in austere times. *Disability & Society*, 33(3), 392-415. https://doi.org/10.1080/09687599.2017.1411250

Chetty, N. et Alathur, S. (2018). Hate speech review in the context of online social networks. *Aggression and Violent Behavior*, 40, 108–118. https://doi.org/10.1016/j.avb.2018.05.003

Costello, M. et Hawdon, J. (2020). Hate Speech in Online Spaces. In The Palgrave Handbook of International Cybercrime and Cyberdeviance, 1397-1416. Springer International Publishing. https://doi.org/10.1007/978-3-319-78440-3_60

Costello, M., Hawdon, J., Bernatzky, C. et Mendes, K. (2019). Social Group Identity and Perceptions of Online Hate. *Sociological Inquiry*, 89(3), 427-452. https://doi.org/10.1111/soin.12274

Dooley, J., Pyżalski, J. et Cross, D. (2009). Cyberbullying Versus Face-to-Face Bullying: A Theoretical and Conceptual Review. *Zeitschrift Für Psychologie Mit Zeitschrift Für Angewandte Psychologie*, 217(4), 182-188. https://doi.org/10.1027/0044-3409.217.4.182

Hawdon, J., Oksanen, A. et Räsänen, P. (2017). Exposure to Online Hate in Four Nations: A Cross-National Consideration. *Deviant Behavior*, 38(3), 254-266. https://doi.org/10.1080/01639625.2016.1196985

Keipi, T., Nasi, M., Oksanen, A. et Rasanen, P. (2017). *Online hate and harmful content: cross-national perspectives*. (First edition) Routledge. https://doi.org/10.4324/9781315628370

Kowalski, R. et Limber, S. (2013). Psychological, Physical, and Academic Correlates of Cyberbullying and Traditional Bullying. *Journal of Adolescent Health*, 53(1), 13-20. https://doi.org/10.1016/j.jadohealth.2012.09.018

Mathys, C., Lenoir, P. et Damit, C. (2022). Interrelations entre l'âge et les conduites délinquantes: La question de la matu-rité psychosociale et ses implications. *Neuropsychiatrie de l'enfance et de l'adolescence*, 70(8), 427-435. https://doi.org/10.1016/j.neurenf.2022.01.004

Matsuda, M., Lawrence, C., Delgado, R. et Crenshaw, K. (1993). *Words that wound: Critical race theory, assaultive speech, and the first amendment*. Westview Press. https://scholarship.law.columbia.edu/books/287

Meyer, D. (2010). Evaluating the Severity of Hate-motivated Violence: Intersectional Differences among LGBT Hate Crime Victims. *Sociology (Oxford)*, 44(5), 980-995. https://doi.org/10.1177/0038038510375737

Olweus, D. (1993). Bullying at School: What We Know and What We Can Do. *British Journal of Educational Studies*, 42(4), 403-406. https://doi.org/10.2307/3121681

Ortiz, S. (2021). Racists without racism? From colourblind to entitlement racism online. *Ethnic and Racial Studies*, 44(14), 2637-2657. https://doi.org/10.1080/01419870.2020.1825758

Prensky, M. (2001). Digital Natives, Digital Immigrants: Part I. *On the Horizon*, 9(5), 1-6. https://www.learntechlib.org/p/104264/

Raskauskas, J. et Stoltz, A. (2007). Involvement in Traditional and Electronic Bullying Among Adolescents. *Developmental Psychology*, 43(3), 564-575. https://doi.org/10.1037/0012-1649.43.3.564

Reichelmann, A., Hawdon, J., Costello, M., Ryan, J., Blaya, C., Llorent, V., Oksanen, A., Räsänen, P. et Zych, I. (2021). Hate Knows No Boundaries: Online Hate in Six Nations. *Deviant Behavior*, 42(9), 1100-1111. https://doi.org/10.1080/01639625.2020.1722337

Rocque, M. (2015). The lost concept: The (re) emerging link between maturation and desistance from crime. *Criminology & Criminal Justice*, 15(3), 340-360. https://doi.org/10.1177/1748895814547710

Simpson, R. (2013). Dignity, harm, and hate speech. *Law and Philosophy*, 32(6), 701-728. https://doi.org/10.1007/s10982-012-9164-z

Slonje, R. et Smith, P. (2008). Cyberbullying: Another main type of bullying? *Scandinavian Journal of Psychology*, 49(2), 147-154. https://doi.org/10.1111/j.1467-9450.2007.00611.x

Smith, P., Mahdavi, J., Carvalho, M., Fisher, S., Russel, S. et Tippett, N. (2008). Cyberbullying: Its nature and impact in secondary school pupils. *Journal of Child Psychology and Psychiatry*, 49(4), 376-385. https://doi.org/10.1111/j.1469-7610.2007.01846.x
Sternberg, R. et Sternberg, K. (2008). *The nature of hate*. Cambridge University Press.

Thomas, D. (2006). A General Inductive Approach for Analyzing Qualitative Evaluation Data. *The American Journal of Evaluation*, 27(2), 237–246. https://doi.org/10.1177/1098214005283748

Wachs, S., Wright, M. et Vazsonyi, A. (2019). Understanding the overlap between cyberbullying and cyberhate perpetration: Moderating effects of toxic online disinhibition. *Criminal Behaviour and Mental Health*, 29(3), 179–188. https://doi.org/10.1002/cbm.2116

Willard, N., M.S et J.D.. (2007). The Authority and Responsibility of School Officials in Responding to Cyberbullying. *Journal of Adolescent Health*, 41(6), S64–S65. https://doi.org/10.1016/j.jadohealth.2007.08.013

Zhang, Z. et Luo, L. (2019). Hate speech detection: A solved problem? The challenging case of long tail on Twitter. *Semantic Web*, 10(5), 925–945. https://doi.org/10.3233/SW-180338