Modèles auto-supervisés de traitement de la parole pour le Créole Haitien (2025)

Abstract: Nous développons des modèles de traitement de la parole spécifiquement dédiés au créole haïtien (kreyòl), le positionnant ainsi comme une langue bien dotée en termes de modèles auto-supervisés de traitement de la parole. Pour ce faire, nous pré-entraînons des modèles monolingues WAV2VEC2BASE,WAV2VEC2-L ARGE etDATA 2VEC-AUDIO -BASEà partir de zéro, qui sont ensuite affinés pour une tâche de reconnaissance automatique de la parole. Nous comparons la performance de ces modèles avec des modèles affinés à partir de modèles multilingues (XLSR-53, XLSR2-300 M, MMS-1B) et monolingues basés sur le français (LEBENCHMARK 1 à 7K). Nos résultats démontrent l’efficacité du pré-entraînement monolingue, avec des performances pouvant rivaliser, voire surpasser, celle de grands modèles multilingues. Ce travail propose ainsi des modèles robustes de reconnaissance vocale pour le kreyòl , adaptables à d’autres créoles français des Caraïbes, contribuant ainsi au développement technologique de ces langues peu dotées.

## introduction le créole haïtien (kreyòl, ou kreyòl ayisyen) est la principale langue parlée en république d'haïti, avec environ 11 millions de locuteurs. elle est également parlée par la diaspora haïtienne, qui compte environ 2 millions de locuteurs, en particulier en amérique du nord. parlé dans un contexte de diglossie, le kreyòl a encore des difficultés à atteindre la parité avec le français, qui est considéré comme une variété plus prestigieuse, malgré les efforts déployés en haïti pour lui accorder un statut égal. dans cet article, nous présentons notre travail sur le développement de modèles auto-supervisés de traitement de la parole, entraînés exclusivement sur du kreyòl, foot_0 qui sont ensuite affinés sur une tâche de reconnaissance automatique de la parole (rap). les modèles monolingues que nous entraînons représentent une rupture par rapport aux approches antérieures pour cette langue, qui s'appuyaient exclusivement sur de l'apprentissage par transfert à partir de modèles multilingues, ou à partir de modèles monolingues d'une langue bien dotée et typologiquement proche, et plus spécifiquement de sa langue lexificatrice, le français. notre travail permet au kreyòl d'accéder à un statut égal à celui d'autres langues bien dotées telles que l'anglais @xcite , le français @xcite ou le chinois mandarin @xcite , qui disposent toutes de modèles monolingues dédiés. dans notre travail, nous montrons notamment que nos modèles monolingues sont compétitifs par rapport à des modèles de taille similaire entraînés par apprentissage par transfert pour la reconnaissance automatique de la parole, bien qu'ayant moins de paramètres et ayant été entraînés sur moins de données. au-delà de l'aspect technique, notre travail a un poids symbolique important. pendant trop longtemps, il a été affirmé que les langues créoles étaient destinées à disparaître au profit de leurs langues lexificatrice @xcite pour un examen critique), en l'occurrence, le français. ce processus a été théorisé sous la forme d'un cycle de décréolisation (cycle "@xmath0. notre travail montre que les créoles, et plus spécifiquement ici le kreyòl ayisyen, peuvent recevoir la même attention que les langues majeures et que les locuteurs de kreyòl devraient avoir et ont désormais, grâce à ce travail, un accès égal aux technologies de la parole pour leur langue, tout comme les locuteurs de langues bien dotées. ## contexte le domaine du traitement de la parole pour les langues créoles est relativement peu développé, comparé à d'autres langues telles que l'anglais ou le français, principalement en raison du manque de données accessibles. l'un des tout premiers corpus créés pour entraîner des modèles de traitement de la parole pour le kreyòl, et plus particulièrement pour entraîner des modèles de rap, a été réalisé dans le cadre du projet darpa diplomat à la fin des années 1990 @xcite , et est communément connu sous le nom de haiti-cmu. plus récemment, un plus grand corpus d'enregistrements a été collectée pour le programme iarpa babel, et est accessible par le biais du linguistic data consortium @xcite (voir section 3 pour plus de détails sur ces deux corpus). à notre connaissance, en dehors de ces deux corpus, il n'en existe pas ## conclusion ainsi dans ce travail, nous avons présenté trois modèles pré-entraînés de traitement de la parole pour le kreyòl basés sur les architectures wav2vec2-base, wav2vec2-large, et data2vec-audio-base. nous avons affiné ces modèles sur une tâche de reconnaissance de la parole et montré qu'ils obtenaient des résultats compétitifs par rapport à des modèles multilingues et monolingues de plus grande échelle. c'est la première fois que des modèles de cette envergure sont développés pour le kreyòl, l'établissant désormais comme une langue bien dotée en termes de modèles auto-supervisés de traitement de la parole. notre travail fournit ainsi les outils nécessaires pour une reconnaissance robuste de la parole, et des modèles sources pour l'apprentissage par transfert vers d'autres créoles caribéens basés sur le français, et contribue ainsi à accorder au kreyòl un statut égal à celui du français. nous espérons que les créolistes s'empareront de ces modèles pour transcrire leur données à grande échelle. nos modèles ont déjà été utilisés pour transcrire 1400 heures d'enregistrements de radio haiti, le tout en moins de 2 heures, permettant une étude sans précédent des phénomènes linguistiques du kreyòl.