Embeddings, topic models, LLM : un air de famille (2025)

Abstract: Word embeddings, topic models, LLMs: a family affair This article presents a study on terms denoting family relationships (brother, aunt, etc.) in French using three approaches: word embeddings, topic modeling, and pre-trained language models. The first two types of representations are built from the French version of Wikipedia, while the third is derived through direct interaction with ChatGPT. The aim is to compare how these three methods represent such terms, in two main ways: by evaluating them against a structural definition of family relations (in terms of features such as gender, lineage, etc.), and by comparing the topics associated with each term. These methods reveal different modes of structuring family-related vocabulary, while also underscoring the continued necessity of corpus-based and controlled analyses to obtain reliable results.

## introduction les termes de parenté (comme frère, mère, tante, etc.) constituent un champ lexical très fréquent dans les textes, qui permet d'accéder à des informations riches sur les positions qu'occupent les individus en termes de rôles et de normes sociales. comme d'autres champs lexicaux -noms de pays, de capitales ou de couleurs-ils forment des clusters distributionnels denses @xcite , comportant un ensemble relativement réduit de membres rassemblés par leur appartenance à une classe ontologique bien délimitée. le champ lexical de la famille se distingue néanmoins des autres par son caractère fortement structuré, puisqu'il s'organise selon des relations d'ascendance, de descendance, de germanité (descendants de mêmes parents), d'alliance, décrits de longue date par les sciences sociales @xcite . d'autres niveaux de structuration existent certainement pour les décrire, comme ceux induits par les rôles socialement attribués aux différents membres de la famille mais ils sont moins évidents et moins formalisés. la structuration par les relations de parenté découle directement du sens des termes familiaux comme le fait que mère désigne 'un géniteur de genre féminin'. les autres structurations sont en revanche déterminées par l'usage, reflet des rôles et des attributions des individus qui composent les familles. l'un des objectifs de notre étude est de mettre en évidence quelques-unes des propriétés qui organisent les familles mais ne peuvent pas être déduites des seules relations de parenté. nous proposons d'identifier ces relations et ces qualités au moyen de trois méthodes dont nous cherchons à comparer la pertinence vis-à de cet objectif. la première est fondée sur la similarité paradigmatique, et consiste à décrire les thématiques associées aux termes familiaux à partir d'une annotation manuelle de leurs voisins distributionnels calculés via des embeddings statiques. la deuxième exploite, dans une approche syntagmatique, les propriétés sémantiques des cooccurrents des termes familiaux, en ayant recours à une méthode de topic modeling (lda) pour thématiser les énoncés dans lesquels apparaissent les termes de la familles. la troisième méthode consiste à demander directement à un llm de proposer une caractérisation thématique des termes familiaux. la comparaison des résultats obtenus par ces 3 méthodes montre que les deux premières approches sont assez fortement corrélées, avec des résultats proches vis-à-vis des traits distinctifs de la parenté et des thématiques sémantiques qui émergent. les représentations fournies par le llm s'écartent fortement des précédentes, et montrent une grande versatilité. ce travail a été mené sur le français à partir du corpus des articles wikipedia, ce qui facilitera des études comparatives multilingues. après la présentation de travaux connexes, nous décrivons en section 3 le matériau sur lequel se base notre étude : le corpus, le lexique et les méthodes utilisées pour représenter les termes exprimant les relations familiales. la suite de l'article est consacrée à la comparaison de ces représentations et de la manière dont elles organisent les termes : en prenant comme référence l'organisation conceptuelle de la famille (section 4) et en identifiant les thématiques associées à chaque terme (section 5). ## travaux connexes cette étude s'inscrit dans la lignée de travaux comme ceux de @xcite qui s'intéressent à la capacité des modèles computationnels, et en particulier des embeddings de mots, à capter des informations sémantiques riches révélatrices de dimensions sociales et culturelles. le vocabulaire de la famille est un bon candidat car il est porteur de relations stéréotypiques entre les genres et les générations. peu de travaux de linguistique de corpus ont porté sur ce champ lexical, hormis, à notre connaissance, @xcite , qui s'intéressent aux noms de famille selon l'angle du genre dans des textes littéraires pour enfants. elles montrent comment l'étude comparée des noms father et mother est révélatrice d'usages linguistiques et de représentations sociales très contrastées. dans la présente étude, nous mobilisons des méthodes qui permettent de sonder à plus grande échelle ces représentations. la première est similaire à celle @xcite qui montrent comment les outils d'analyse distributionnelle permettent d'étudier de façon systématique l'organisation sémantique de classes de mots, en l'occurrence de noms d'action. @xcite proposent une étude comparable sur des noms d'agent. notre deuxième méthode s'inspire de celle @xcite qui ont fourni à des llm les sorties d'une analyse de type topic modeling pour générer des étiquettes décrivant les topics, et qui les ont comparées manuellement avec celles produites par des experts, avec un score de similarité satisfaisant. @xcite ont pour leur part comparé différentes techniques d'identification de thématiques dans de petits corpus, et notamment l'étiquetage des topics produits par une analyse lda, par des llm et par des humains utilisant différentes méthodes d'exploration, mais sans conclure sur l'existence d'un accord ou d'un désaccord. notre troisième méthode est comparable à celle de uchida (2024) qui a testé la capacité des llm génératifs à produire des listes de mots fréquents et des collocations courantes pour l'anglais, et comparé ces résultats à un corpus de référence (coca) avec un accord probant pour les phénomènes les plus fréquents. ## comparaison des différentes représentations dans cette section nous comparons les différentes représentations obtenues des 25 amorces, dans un première temps entre elles, puis en les confrontant à la structure inhérente aux concepts de la famille.