Culture et acculturation des grands modèles de langue (2025)

Abstract: Il s’agira d’évaluer la place octroyée à la culture dans les travaux industriels et académiques portant sur la constitution de grands modèles de langue (LLMs), notamment lorsqu’il s’agit de les aligner. Le premier constat effectué est que la culture y est appréhendée de manière restreinte à des problématiques axiologiques (valeurs morales). Le deuxième constat est que les travaux actuels portant sur les cultures dans les LLMs se divisent en deux catégories : (i) évaluation des biais culturels par la confrontation à des référentiels culturels tiers, (ii) alignement axiologique. Nous discuterons des conséquences de ces orientations épistémologiques.

## introduction le jeu d'imitation distributionnel que nous offre les industriels de la tech est si réussi qu'en dépit de leurs défauts de jeunesse @xcite , les grands modèles de langues (llms) passeraient sans peine pour de grands modèles de culture. dans les téraoctets de pages de textes ayant servi à leur entrainement, on sait qu'il y a des bibliothèques entières. toutefois, si le phrasé est d'une perfection surhumaine, si souvent la qualité du raisonnement convainc, la pertinence culturelle quant à elle, est beaucoup plus aléatoire et fortuite. c'est qu'aux oeuvres remarquablesles encyclopédies, les essais, les romans, les articles scientifiquesces objets culturels destinés à être choisis, contextualisés, interprétés, et transmis pour faire commun, s'ajoutent sans ordre ni hiérarchie toutes les conversations de comptoir, les fonds de tiroirs et les ignominies d'internet. ainsi, ça parle, mais ça parle pour ne rien dire, ou pour dire des foutaises @xcite . au fond, à moins de les circonscrire prudemment à des tâches de bas niveau (segmentation, lemmatisation) ou, à la limite, bureautiques (traduction automatique, aide à la rédaction, résumé de textes), les llms sont dangereux pour les cultures car ils en déprécient les objets, les segmentent, les atomisent, à telle enseigne que les concepteurs euxmêmes nous enjoignent parfois de ne pas s'y fier. mais qu'est-ce que la culture ? @xcite en recensèrent 164 définitions possibles ; contentons-nous de celle, consensuelle, qu'en donna l'unesco en 1982 : « [d]ans son sens le plus large, la culture peut aujourd'hui être considérée comme l'ensemble des traits distinctifs, spirituels et matériels, intellectuels et affectifs, qui caractérisent une société ou un groupe social. elle englobe, outre les arts et les lettres, les modes de vie, les droits fondamentaux de l'être humain, les systèmes de valeurs, les traditions et les croyances » 1 . de cette définition de toute évidence inspirée par l'anthropologie tylorienne (tylor, 1871), nous allons voir que les travaux portant sur la culture dans les llms ne retiennent que « les systèmes de valeurs », sans considérations notables pour les arts, les sciences et les lettres, ni les productions culturelles ellesmêmes. pour la plupart, ils relèveraient ainsi d'une approche culturaliste centrée sur l'individu, sa personnalité, ses valeurs. or, le culturalisme est un courant en anthropologie, principalement étasunien (par ex. @xcite réputé relativiste : les cultures doivent y être étudiées et interprétées dans leur seul contexte et non par comparaison avec d'autres cultures. on oppose au relativisme culturel la recherche d'universaux et l'approche comparative du structuralisme (par exemple levi-strauss, 1949) 2 . les travaux portant sur cette culture réduite à l'axiologie dans la construction des llms foot_0 se divisent actuellement en deux catégories que l'on peut considérer comme des séquences : (i) évaluation des biais culturels des llms par la confrontation à des référentiels culturels tiers ; (ii) alignement axiologique au moyen d'un apprentissage, souvent par renforcement basé sur les commentaires humains (rlhf) ou par l'usage de rag, pour les rendre conforme à un typage culturel. nous nous proposons donc dans cet article d'exposer et de discuter l'arrière-plan épistémologique et idéologiques des recherches relevant de cette problématique par l'examen d'un ensemble de publications académiques récentes, sans considérer systématiquement le détail des résultats obtenus ni les performances des solutions exposées. ce n'est pas la pertinence de ces travaux qui nous intéresse mais les tendances implicites et les choix effectués par la communauté. ainsi, nous nous référerons à plusieurs reprises à des preprints (souvent déposés sur arxiv.org) non sanctionnés par les pairs ou dont nous ignorons le statut éditorial au moment de la consultation. 1 unesco -déclaration de mexico sur les politiques culturelles, conférence mondiale sur les politiques culturelles, 26 juil. -6 août 1982. ## le benchmarking culturel des llms les llms ont occasionné un trouble épistémologique dans la communauté du tal en raison de leur architectures réputées impénétrables, ce que @xcite dénoncent comme une « casuistique de la boite noire » (black-box casuistry, i.e. un renoncement devant l'opacité des réseaux de neurones multicouches, et une difficulté à surpasser ce renoncement pour élaborer de nouveaux observatoires méthodologiques dédiés aux ia). les modèles font toutefois l'objet de nombreuses études que l'on pourrait considérer comme de la rétro-ingénierie, notamment par le développement de benchmarks de plus en plus ambitieux et quantitativement significatifs. très tôt, les biais culturels véhiculés par les llms ont en été étudiés. les premières études, principalement menées sur chatgpt 3 ont d'emblée mis en évidence le tropisme culturel de l'agent conversationnel d'openai @xcite @xcite : les premiers llms disponibles favorisaient nettement les cultures occidentales et plus particulièrement nord-américaines. on ne s'étonne pas que cette tendance perdure lorsqu'on sait qu'une large majorité des textes disponibles sur internet sont rédigés dans une langue européenne, et près de 50% en anglais encore que cette domination de l'anglais diminue peu à peu depuis quelques années 4 . plusieurs benchmarks ont été mis en place pour affiner ces analyses. ils adoptent des référentiels culturels d'inspiration soit psychologique, soit sociologique qui eux-mêmes orientent les travaux par leurs épistémologies ; elles sont en premier lieu toujours déterminées par le principe que la culture est réductible à des valeurs. ## trois tendances de l'alignement culturel la construction de référentiels axiologiques et culturels s'opère par des méthodes variées, qui toutes s'appuient sur des choix idéologiques pas toujours explicités. on distingue trois tendances générales. ## conclusion si toutes les études établissent que les llms reproduisent par défaut les biais culturels nordaméricainsparfois jusqu'à la caricature -en raison de données d'entrainement elles-mêmes biaisées, les valeurs, lorsqu'elles sont issues d'un alignement, sont celles décidées par des entreprises qui les élaborent 8 . ainsi, anthropic constitutionnalise avec claude les conditions d'utilisation des grandes industries avec lesquelles elle collabore au même titre que la déclaration universelle des droits de l'homme. de même, jusqu'en janvier 2024 et l'élection de donald trump à la présidence des etats-unis, les ia génératives respectaient, voire contractualisaient, le cadre professionnel diversity, equity, inclusion (dei) condamnés depuis par elon musk (xai) et marc zuckerberg (meta). des travaux menés en 2023 montraient d'ailleurs que l'idéologie de chatgpt (openai) était pro-environnementaliste et libertarienne de gauche @xcite , soit celle des entreprises de la silicon valley à l'époque de l'étude. qu'en sera-t-il demain ? une préoccupante convergence des agendas politiques, scientifiques et technologiques se dessine. la plupart des travaux académiques portant sur la culture et l'alignement culturel des llms se fondent sur des travaux anthropologiques, psychologiques et même sociologiques dont les cadres théoriques sont dominés par le relativisme culturel plutôt que par une axiologie minimale valable pour tous. si l'alignement culturel des llms suit l'évolution que nous avons observée ici et, à moins d'une révision épistémologique significative, les alignements rationalistes visant la construction d'un monde commun, deviendront marginaux. des llms toujours plus localisés, communautarisés voire individués participeront à la fragmentation de sociétés conçues comme une collection d'individus à complaire ou à contraindre. @xcite . truth is a lie: crowd truth and the seven myths of human annotation. ai magazine, 36(1): 15-24.