Quelques observations sur la notion de biais dans les modèles de langue (2023)

Abstract: Cet article revient sur la notion de biais dans les modèles de langue. On montre à partir d’exemples tirés de modèles génératifs pour le français (de type GPT) qu’il est facile d’orienter, à partir de prompts précis, les textes générés vers des résultats potentiellement problématiques (avec des stéréotypes, des biais, etc.). Mais les actions à accomplir à partir de là ne sont pas neutres : le fait de débiaiser les modèles a un aspect positif mais pose aussi de nombreuses questions (comment décider ce qu’il faut corriger ? qui peut ou doit le décider ? par rapport à quelle norme?). Finalement, on montre que les questions posées ne sont pas seulement technologiques, mais avant tout sociales, et liées au contexte d’utilisation des applications visées.

## introduction les modèles de langues sont aujourd'hui omniprésents en traitement automatique des langues. ces modèles ont en effet rapidement obtenu les meilleures performances sur une large gamme de tâches, dans différentes langues. même si leurs disponibilités et leurs performances sont très liées à la quantité de données disponibles pour l'entraînement, ce type d'approche est devenu absolument prépondérant. dans cet article, on s'intéressera plus particulièrement aux modèles génératifs (de type gpt), dits aussi modèles auto-régressifs, pour le français. l'architecture globale de ces modèles (à base de transformers @xcite ) est aujourd'hui bien connue, mais leur fonctionnement interne reste dans les faits assez opaque. comme dit précédemment, leurs performances sont en grande partie liées aux données vues lors du pré-entraînement, mais les processus de généralisation au sein de ces modèles restent à explorer. ceci pose plusieurs questions : d'une part, sur le plan linguistique, quelles informations sont enregistrées dans ce type de modèles ? au-delà, quels processus de généralisation sont à l'oeuvre @xcite ? une question complémentaire est de déterminer comment gérer les informations dites subjectives au sein de ces modèles. comment modéliser les différences d'opinion, mais aussi, plus largement les préférences culturelles de chacun ? comment s'opèrent les généralisations à partir de ces éléments complexes (préférences, goûts) pour lesquels il n'y a pas qu'une seule solution (par exemple un même film va recevoir des revues positives et négatives) @xcite ? à l'heure actuelle, dans la plupart des modèles, toutes ces informations sont sur le même plan (c'est-à-dire que l'information subjective n'est pas traitée spécifiquement, notamment parce qu'il serait difficile de la détecter a priori parmi la masse de données considérée lors de l'apprentissage) et le contenu généré pourra varier assez aléatoirement en fonction du prompt (texte donné en amorce à la génération) et d'autres paramètres au sein du modèle. cet état de fait est malgré tout problématique car, comme on le sait, ce type de modèle non filtré peut facilement produire des propos misogynes, racistes ou injurieux. différentes techniques sont alors utilisées pour supprimer au maximum les éléments subjectifs problématiques (stéréotypes, biais, etc.) : d'une part lors de la sélection des sources utilisées pour l'entraînement, d'autre part en production, en aval de l'étape de génération de contenu. ainsi, la plupart des modèles reposent sur des ressources standards et supposées fiables (wikipedia), ou en partie nettoyées (common crawl), ou plus simplement provenant du web. c'est pourquoi la plupart des concepteurs d'applications utilisent en plus des programmes permettant de filtrer ce qui est produit par le modèle de langue (ou, comme avec chatgpt, l'interaction avec l'utilisateur) @xcite . c'est d'ailleurs un classique des systèmes de dialogue : même des systèmes simples de type eliza @xcite ) disposent d'un dictionnaire d'insultes avec des réponses pré-programmées coupant court à l'interaction (comme « merci de rester poli »). ces solutions sont toutefois partielles, et les recherches s'orientent vers un traitement plus fin de l'information subjective. a l'avenir, la question se posera par exemple d'avoir des modèles adaptés en fonction de l'utilisateur, pour tenir compte de ses goûts, de ses positions et de ses choix (ce qui n'est pas sans poser aussi des questions liées à la protection de la vie privée, ou bien encore celle des « bulles informationnelles » qui enferment les personnes dans leurs opinions, bonnes ou mauvaises, en leur évitant de voir d'autres points de vue @xcite ). en attendant, on peut remarquer que ces questions ont été abordées dans la littérature à travers la notion de biais. les biais sont par définition des éléments négatifs qu'il faudrait donc éliminer. un courant entier du domaine du tal est aujourd'hui consacré à débiaiser les modèles @xcite . en effet, personne ne veut de modèles racistes, misogynes ou discriminatoires foot_0 (qui, de plus, violeraient la loi). l'objectif est donc d'enlever les biais jusqu'à obtenir un modèle neutre, qui permettrait un usage moins discriminant. mais supprimer les biais implique qu'on sache les définir et les repérer (et implique aussi une norme par rapport à laquelle ces biais peuvent être identifiés). or, il semble peu probable que l'on puisse spécifier un monde sans biais, objectif, auquel on pourrait faire correspondre les modèles de langue une fois ceux-ci nettoyés des scores résultant de l'apprentissage. la notion d'objectivité dans ce domaine a déjà fait l'objet de critiques @xcite , justifiées à notre avis, mais cette discussion, fondamentale, est restée très secondaire et plutôt marginale jusqu'ici. nous souhaitons y revenir dans cet article. nous revenons brièvement sur la notion de biais dans la section 2, avant d'examiner plus en détail dans la section 3 le comportement de modèles de langue pour le français, en fonction de variations minimales dans le prompt (par exemple, en faisant varier des prénoms). les observations obtenues sont ensuite discutées et mises en perspective. on s'interrogera en particulier dans la section 4 sur les techniques utilisées pour enlever les biais, leur cadre d'utilisation et les implications sociétales de ce type de techniques. ## discussion nous avons montré dans la section précédente la présence de biais plus ou moins prononcés, dans trois modèles de langue disponibles et constituant l'état de l'art pour le français. on observe aussi des variations très importantes en fonction du prompt (le genre peut par exemple parfois jouer un rôle majeur, et non l'origine ethnique et sociale que pourrait suggérer le prénom utilisé dans le prompt, ou vice versa). nous revenons ici sur quelques observations qui nous semblent avoir une portée générale sur le domaine. ## conclusion cet article a permis de réexaminer la notion de biais. ceux-ci sont présents dans tous les modèles de langue, à des degrés divers, et on a vu que c'était aussi le cas pour les modèles génératifs pour le français que l'on a pu tester. ces biais sont inhérents aux données qui ont servi à l'apprentissage et une solution souvent proposée consiste à atténuer voire éliminer ces biais par des interventions ex-post sur les valeurs encodées dans les modèles eux-mêmes. ceci est bien évidemment nécessaire, ne serait-ce que pour éliminer des énoncés problématiques par rapport à la loi par exemple. mais nous avons aussi défendu dans cet article l'idée qu'au-delà des aspects techniques du filtrage, l'opération en elle-même pose des questions multiples : quels textes éliminer des corpus d'apprentissage, quels biais corriger, sur quelle base, en fonction de quel utilisateur type ? les biais sont évalués à l'aune de valeurs assez consensuelles dans nos sociétés, mais tout le monde ne partage pas le point de vue occidental sur bien des points (et même la loi n'est pas la même partout, elle dépend essentiellement du pays où l'on se trouve). les sciences sociales s'intéressent aussi de plus en plus à ces objets complexes que sont les modèles de langue, afin d'examiner quelles valeurs politiques, morales ou religieuses ils encodent. même si ces modèles reposent sur une base statistique, les textes qu'ils produisent ont, à leur corps défendant ou non, un contenu qui n'est pas neutre, car nos sociétés ne sont pas neutres. il faut donc renoncer à imaginer que des modèles objectifs, ou sans biais, soient possibles car ceci est un but par nature inatteignable, car illusoire. il faut donc filtrer les modèles, mais il faut surtout pousser à une plus grande transparence concernant la façon dont le filtrage est fait, en fonction des contextes d'utilisation de ces modèles.