Lingua Libre à l’ère de l’automatisation: l’ I . A . au service du crowdsourcing d’un corpus oral (2025)

Abstract: Lingua Libre, projet participatif collectant de la production orale, a amassé plus de 380 heures d’enregistrements, 1 350 000 fichiers audio, dans près de 300 langues différentes. Le potentiel d’un tel jeu de données pour tester des hypothèses linguistiques ou pour des tâches d’ASR est prometteur, mais diminué par le manque d’harmonisation et de nettoyage systématique des données. Ce travail est un pas supplémentaire vers un jeu de données issu de Lingua Libre de grande qualité et standardisé. Ce travail révèle des disparités récurrentes entre les enregistrements et la transcription qui en est fournie. Ces erreurs, bien que rares, sont régulières, et potentiellement évitables. En effet, le modèle d’ASR Wav2Vec 2.0-Base après affinage est capable de détecter une large part de ces erreurs. Il pourrait être un puissant outil à la disposition du contributorat, pour les assister à la tâche de patrouille.

## introduction avec l'avènement du big data, la collecte de données fiables est devenue un enjeu majeur. cette qualité est d'autant plus recherchée que la quantité n'a plus grand-chose à offrir. le web a déjà été entièrement récupéré par de grandes entreprises telles que openai ou google @xcite , soulevant des interrogations quant à la propriété intellectuelle et pour des gains en performance qui s'amenuisent. dans ce contexte, les projets participatifs présentent de multiples avantages. les corpus qu'ils construisent sont en général libres de droit, permettant un accès et une utilisation possible au plus grand nombre. ils sont portés par une communauté et sont en conséquence peu coûteux. lorsqu'ils sont bien encadrés, ils peuvent aboutir à des jeux de données de grande qualité. un exemple récent de réussite du crowdsourcing dans le domaine de la reconnaissance automatique de la parole (asr) est le projet common voice @xcite . sa genèse débute en 2019, avec le constat que les données de production de parole présentent à la fois un coût prohibitif et tendent à oublier les langues qui ne sont pas dominantes. l'initiative a depuis recueilli plusieurs dizaines de milliers d'heures d'enregistrement dans plus de 150 langues différentes. il s'est aujourd'hui imposé comme un jeu de données incontournable pour la tâche de transcription automatique "speech-to-text". cette inflation de la taille des jeux de données s'est accompagnée d'une explosion en taille des modèles de deep learning qui utilisent ces jeux de données pour leur entraînement. pour les tâches d'asr, c'est wav2vec 2.0 @xcite qui, en 2020, ouvre la voie. il marque la première tentative fructueuse d'adapter l'apprentissage auto-supervisé au traitement automatique de la parole. ce franc succès peut être attribué à son architecture révolutionnaire à l'époque de son introduction. l'approche privilégiée du moment était de combiner une couche convolutive pour réduire la dimension des données d'entrées en frame. cette représentation quantisée pouvait ensuite être traitée par une couche récurrente, rnn @xcite , ou lstm, frame par frame. néanmoins, l'architecture même de ces réseaux récurrents les rend difficiles à paralléliser par nature. cette difficulté à la parallélisation les rend difficiles à implémenter à grande échelle sur de larges jeux de données et avec un grand nombre de paramètres. une des innovations de wav2vec 2.0 est de remplacer cette couche récurrente par une architecture transformer-encoder avec mécanisme d'attention. cette innovation est elle-même directement inspirée des progrès dans le traitement automatique des données textuelles par le modèle bert @xcite . elle permet dès 2020 d'atteindre des architectures de tailles encore jamais vues : 300 000 000 de paramètres en l'occurrence pour wav2vec 2.0 en version large. des années après la publication initiale, ses successeurs wav2vec xlsr @xcite comptent toujours parmi les modèles les plus performants pour les tâches d'asr allant de la transcription orthographique ou phonétique @xcite automatique à la vérification de locuteur @xcite . dans le même temps, d'autres architectures ont fait parler d'elles, comme son homologue whisper @xcite . on déploie alors des modèles dont les paramètres se comptent en milliards, entraînés sur des corpus de centaines de milliers d'heures. la tendance commence à s'inverser avec le dernier né de la famille wav2vec 2.0, mms @xcite dont l'une des prouesses citées dans l'abstract est de battre whisper au jeu de la transcription avec un dataset d'entraînement dix fois plus petit. il est notable que pour améliorer la qualité du jeu de données d'entraînement de mms, une version antérieure de wav2vec 2.0 a été utilisée pour la segmentation des enregistrements audio. il semble donc qu'avec de bons modèles, il est possible de construire de bons jeux de données qui à leur tour permettent d'entrainer de meilleurs modèles avec moins de données. un cercle vertueux semble possible, en tous cas jusqu'à un certain point. c'est dans ce contexte qu'évolue le projet lingua libre. débuté en 2018 dans un format proche de celui de common voice, il accumule aujourd'hui plusieurs centaines d'heures d'enregistrement dans un grand nombre de langues. avec une base de contributeurs et contributrices bénévoles active mais limitée par le temps et l'envergure du projet, se pose la question de l'automatisation partielle. l'ambition serait de construire un meilleur corpus avec un bon modèle pour entraîner un meilleur modèle et obtenir un meilleur corpus. ce processus permettrait entre autres d'économiser la précieuse énergie du contributorat. ## conclusion le jeu de données lingua libre a été présenté dans le détail. ses principales forces sont le libre accès de ces données et le grand volume de données disponible. ses principales faiblesses sont le manque de métadonnées à propos des locuteurs et l'absence d'un processus systématique de vérification des entrées en base de données. la qualité du jeu de données semble néanmoins bonne, avec un taux de transcriptions erronées estimé à moins de 1%. nous proposons ici une méthode simple pour partitionner le jeu de données pour de la transcription automatique. après affinage sur ce jeu de données, le modèle wav2vec lili montre de bonnes performances pour la tâche de transcription phonétique, surpassant wav2vec phoneme sur le jeu de test. à partir de ce modèle affiné, nous présentons une méthode de détection des erreurs de transcription des pistes audio. cette méthode vise à trier les entrées de la base par distance de levenshtein normalisée décroissante. les enregistrements ayant une distance de levenshtein normalisée élevée contiennent probablement une erreur de transcription ou un fort bruit de fond, signalant ainsi une inadéquation entre ce qui a été prononcé et ce qui devrait être prononcé dans l'enregistrement. cette méthode pourrait permettre un gain de temps considérable dans la correction des erreurs en base ainsi qu'une vérification continue de la qualité des nouvelles entrées. à l'avenir, il serait intéressant de comparer les performances sur de longues transcriptions avec et sans data-augmentation. il faudrait également entrainer le modèle plus longtemps pour obtenir la meilleure performance possible de sa part. reproduire l'expérience de gipfa pour une comparaison plus juste serait tout autant intéressant. peut-être également qu'un modèle aussi large que wav2vec 2.0 est inutile et qu'un modèle de dimension plus modeste serait suffisant pour cette tâche. les transcriptions phonétiques sont ici utilisées mais celles-ci présentent des limites handicapantes. notamment, certains mots ne disposent pas de prononciation indiquée dans le wiktionaire et ne peuvent donc être traités. il serait par conséquent instructif de reproduire l'expérience en exploitant les transcriptions orthographiques et de comparer la différence de performance. un système hybride pourrait être envisagé selon les résultats obtenus.