Hatebase - Global network building and artificial intelligence for multilingual hate speech monitoring Hatebase – Bâtir un réseau mondial et une intelligence artificielle pour la surveillance multilingue des discours haineux Hate speech is widely acknowledged as a precipitator of violence, particularly against vulnerable minorities. It contributes to societal polarization that can lead to instability and conflict. The impact of hate speech on fragile states has grown in recent years because of increased internet connectivity. This enables hate speech to be spread via social media, which contributes to persecution, armed conflict, and genocide in various countries. The sheer volume of hate speech circulating online exceeds the capabilities of human moderators, resulting in the need for increasingly effective automation. The pervasiveness of online hate speech also presents an opportunity, since these large volumes of data are potentially useful as indicators of spiraling instability and they can introduce the possibility of early intervention.

The Sentinel Project, a Canadian NGO that works to prevent genocide using an early-warning system, is implementing this project. The goal is to address online hate speech by focusing on technology, partnerships, and research. In terms of technology, the project will enhance the Hatebase database and monitoring platform, which incorporates elements of artificial intelligence and natural language processing to expand the breadth and capabilities of the algorithm that powers it. Developed by the Sentinel Project, the award-winning application is currently the world's largest structured repository of regionalized, multilingual hate speech.  

Partnership efforts will focus on building a global network of research nodes to assist with ongoing multilingual and contextual training on the platform. Research efforts will examine correlations between online hate speech and offline incidents, particularly in fragile contexts, and it will analyze how these can be used to inform mitigation responses to hate speech. Le discours haineux est largement reconnu comme un déclencheur de violence, en particulier contre les minorités vulnérables. Elle contribue à la polarisation sociale qui peut entraîner l’instabilité et les conflits. Les répercussions du discours haineux sur les États fragiles se sont accrues ces dernières années en raison de l’augmentation de la connectivité Internet. Cela permet de diffuser des propos haineux au moyen des médias sociaux, ce qui contribue à la persécution, aux conflits armés et au génocide dans divers pays. Le volume de discours haineux circulant en ligne dépasse les capacités des modérateurs humains, d’où la nécessité d’une automatisation toujours plus efficace. L’omniprésence des discours haineux en ligne est également une occasion à saisir, car ces grandes quantités de données sont potentiellement utiles comme indicateurs de l’instabilité croissante et elles peuvent offrir la possibilité d’une intervention précoce.

Le projet Sentinel, une ONG canadienne qui travaille à prévenir le génocide au moyen d’un système d’alerte rapide, met en œuvre ce projet. L’objectif est de lutter contre le discours haineux en ligne en mettant l’accent sur la technologie, les partenariats et la recherche. Sur le plan technologique, le projet améliorera la base de données et la plateforme de surveillance Hatebase, qui intègrent des éléments d’intelligence artificielle et de traitement du langage naturel pour élargir la portée et les capacités de l’algorithme qui l’alimente. Développée par le projet Sentinel, l’application primée est actuellement le plus grand répertoire structuré du monde de discours haineux régionaux et multilingues. 

Les démarches de partenariat seront axées sur la mise en place d’un réseau mondial de nœuds de recherche afin de contribuer à la formation multilingue et contextuelle continue sur la plateforme. Les efforts de recherche porteront sur les corrélations entre le discours haineux en ligne et les incidents hors ligne, en particulier dans les contextes fragiles, et sur la façon dont ces corrélations peuvent être utilisées pour éclairer les mesures d’atténuation du discours haineux.