W ord2 V ec vs LSA pour la détection des erreurs orthographiques produisant un dérèglement sémantique en arabe ( W ord2 V ec vs LSA for detecting semantic errors in A rabic language) (2018)

Abstract: Les mots en arabe sont très proches lexicalement les uns des autres. La probabilité de tomber sur un mot correct en commettant une erreur typographique est plus importante que pour le français ou pour l’anglais. Nous nous intéressons dans cet article à détecter les erreurs orthographiques plus précisément, celles générant des mots lexicalement corrects mais causant un dérèglement sémantique au niveau de la phrase. Nous décrivons et comparons deux méthodes se basant sur la représentation vectorielle du sens des mots. La première méthode utilise l’analyse sémantique latente (LSA). La seconde s’appuie sur le modèle Word2Vec et plus particulièrement l’architecture Skip-Gram. Les expérimentations ont montré que Skip-Gram surpasse LSA.

## introduction les erreurs orthographiques qui produisent des mots lexicalement corrects causant un dérèglement sémantique au sein du contexte où elles se trouvent peuvent être dues à des problèmes de performance (i.e. faute de frappe) ou à des problèmes d'ignorance (i.e. confusion avec un autre mot). quand l'erreur est due à une faute de frappe par exemple, le mot erroné est généralement proche lexicalement du mot correct, comme dans les exemples amusants suivants : exemple en français : erreur de substitution d'une lettre par une autre : exemple en arabe : interversion de deux lettres adjacentes ‫(ثروة)‬ ‫ثورة‬ ‫والده‬ ‫له‬ ‫ترك‬ /trk lh waldh vwrp (vrwp)/ son père lui a laissé une révolution (fortune) ces erreurs dites « sensibles au contexte », comptent environ 40% parmi toutes les erreurs orthographiques étudiées, selon @xcite . cette valeur assez importante a rendu l'étude de ce genre d'erreurs une nécessité en soi. en effet, plusieurs recherches ont été entreprises dans le but de remédier à ce problème notamment pour les langues indo-européennes telles que le français et l'anglais. toutefois, en arabe, rares sont les travaux qui se sont attelés à les traiter en dépit de l'importance de cette tâche. en effet, les mots arabes sont lexicalement proches les uns des autres. le risque de tomber sur un mot correct en commettant une erreur typographique (ajout d'une lettre, suppression d'une lettre, substitution d'une lettre par une autre et interversion de deux lettres adjacentes) est relativement important comme l'ont montré @xcite . selon ces auteurs le nombre moyen de formes voisines qui diffèrent d'une seule opération d'édition est de 26,5 pouvant atteindre un maximum de 185, valeur importante comparée à celle calculée pour la langue française égale à 3,5 et celle relative à l'anglais égale à 3. aussi, les auteurs nous renseignent sur la probabilité d'obtenir un mot correct lorsqu'une erreur est commise sur un mot. cette probabilité pour un mot arabe (5,79%) est 10 fois plus grande que pour un mot anglais (0,59%) et 14 fois plus grande que pour un mot français (0,39%). nous nous focalisons dans cet article sur la détection des erreurs orthographiques en arabe qui produisent des mots lexicalement et syntaxiquement corrects mais qui causent des incohérences sémantiques. nous utilisons et comparons à cet effet deux méthodes vectorielles qui permettent d'inférer le sens des mots à partir de leur distribution les uns par rapport aux autres, à savoir lsa @xcite et skip-gram @xcite . lsa est une méthode très utilisée pour représenter le sens, elle a été déjà utilisée pour détecter ce type d'erreurs avec quelques variantes au niveau de l'implémentation. la méthode word2vec, apparue ces dernières années, permet quant à elle de créer des vecteurs de sens utilisant des réseaux de neurones. ceci a pour principal avantage de faciliter l'utilisation de grandes quantités de données d'apprentissage. beaucoup de travaux ont été conduits utilisant word2vec mais, à notre connaissance, cette méthode n'a pas été auparavant testée pour détecter le type d'erreurs que nous visons. afin de restreindre les champs de nos investigations, nous émettons l'hypothèse de l'existence d'une seule erreur sémantique par phrase et par mot. cette erreur consisterait en une seule faute typographique générant un mot lexicalement et syntaxiquement correct, relevant de l'une des opérations d'édition citées précédemment. des statistiques ont en effet montré que l'une (seulement) de ces opérations est à l'origine d'une erreur orthographique dans 90% des cas @xcite . nous avons également considéré l'arabe moderne standard non voyellé car les écrits arabes sont généralement dépourvus de voyelles, c'est le cas des textes fréquemment rencontrés dans les journaux, les revues, les romans, etc. l'arabe voyellé concerne seulement quelques ouvrages poétiques ou littéraires didactiques ou encore le coran. d'autres chercheurs ne se sont pas restreints à des ensembles de confusion prédéfinis. ils ont utilisé le contexte pour détecter les erreurs sémantiques en appliquant des méthodes basées sur des informations sémantiques ou probabilistes. les résultats obtenus sont souvent moins bons, car la tâche est plus difficile. nous pouvons citer @xcite qui a appliqué une méthode trigramme et l'a testée sur 5 500 mots du british national corpus (un sous-ensemble des données d'apprentissage) avec 606 erreurs. les taux de rappel et de précision de détection sont respectivement de l'ordre de 72% et de 98%. lorsque cette méthode a été testée sur des données de test hors entraînement les résultats pour la détection ont été largement inférieurs avec un taux de rappel de 51% et un taux de précision de 5%. @xcite ont utilisé des mesures de distance sémantique dans wordnet pour détecter et corriger les malapropismes. une erreur est signalée lorsqu'une variante d'orthographe (tout mot dont la distance d'édition est 1 du mot d'origine) entraîne un nouveau mot sémantiquement plus proche au contexte. cette méthode a atteint une précision d'environ 23% lorsqu'elle a été testée sur environ 300 000 mots du corpus wall street journal de 1987-89, avec environ 1 400 malapropismes introduits aléatoirement à une fréquence d'environ un mot sur 200. plus récemment, @xcite a combiné une méthode statistique utilisant le modèle n-gram avec une méthode à base de connaissances utilisant wordnet, inspirée de celle de @xcite pour détecter les malapropismes en anglais et en allemand. la combinaison des deux méthodes s'est révélée avantageuse au niveau des taux de précision qui sont de l'ordre de 90%. les taux de rappel sont par contre faibles, ils sont d'environ 50% en moyenne. aussi, pour détecter les erreurs sémantiques, @xcite a proposé une méthode basée sur le raisonnement logique utilisant une ontologie du domaine. les taux de fmesure obtenus varient entre 58% et 90%. pour l'arabe, un seul travail, à notre connaissance, s'est intéressé à la détection des erreurs sémantiques. @xcite ont proposé un système multi-agents (sma) combinant quatre méthodes contextuelles dont lsa et n'utilisant pas d'ensemble de confusion. un système de vote permet de décider de la présence d'une erreur au sein d'une phrase. les taux de précision et de rappel rapportés pour environ 1400 erreurs sémantiques générées artificiellement sont respectivement de l'ordre de 90% et de 83%. ## une méthode à base de représentation vectorielle des mots pour détecter les erreurs sémantiques la majorité des chercheurs, en s'intéressant au problème des erreurs orthographiques sensibles au contexte, ont utilisé des ensembles de confusion. les résultats obtenus sont d'une manière générale très satisfaisants car la problématique est relativement simple. nous avons choisi dans ce travail de ne pas utiliser d'ensembles de confusion et de détecter toute erreur générant une incohérence sémantique au sein de son contexte. ce choix est doublement motivé. d'une part, nous avons voulu traiter le problème des erreurs sémantiques dans sa globalité et ne pas nous limiter à un ensemble restreint d'erreurs prédéfinies. d'autre part, nous pensons qu'utiliser des ensembles de confusion pour l'arabe ne serait pas très judicieux. en effet, due à la proximité lexicale des mots, les ensembles de confusion seraient nombreux et de taille importante. afin de détecter ces erreurs sémantiques, nous faisons appel à deux méthodes se basant sur la représentation vectorielle des mots, à savoir lsa et skip-gram. le modèle vectoriel n'est pas récent, il a en effet été introduit par (salton et al., 1975) en recherche documentaire. sa réhabilitation dans les recherches en taln est par contre relativement récente notamment avec l'apparition des plongements lexicaux (word embeddings). cette technique correspond à la représentation des mots par des vecteurs de nombres réels qui capturent leurs sens, leurs liens sémantiques et les différents contextes de leur utilisation. la représentation vectorielle des mots est principalement utilisée pour comparer les mots entre eux. elle a ceci de particulier que les mots apparaissant dans des contextes similaires, et donc liés sémantiquement, possèdent des vecteurs correspondants qui sont relativement peu distants dans l'espace vectoriel où ils sont définis. chacune des deux méthodes proposées fournit sa propre représentation vectorielle des mots en fonction de leurs contextes. nous calculons pour chaque mot à vérifier un coefficient de « validité sémantique » obtenu en comparant le vecteur de ce mot à tous les autres vecteurs-mot de la phrase. un mot est soupçonné d'erreur si son coefficient de validité sémantique est inférieur à un seuil (déterminé empiriquement et préalablement établi), autrement dit, s'il est jugé suffisamment distant de ses voisins. afin déterminer le coefficient de validité sémantique d'un mot ω (m i ) nous calculons la moyenne des distances angulaires entre le vecteur mot vm i et tous les n-1 vecteurs-mot dans la phrase (n étant le nombre de mots de la phrase) tout en privilégiant les mots contextuels les plus proches par rapport aux mots contextuels les plus éloignés. soit et @xmath0, …, m i-1 } et @xmath1, …, m n } respectivement le contexte gauche et droit du mot à analyser m i : cette distance est interprétée comme suit : "deux mots x and y sont sémantiquement proches si d(vx, vy) ≤ 45 °. lorsque d (vx, vy) > 45 °, la proximité sémantique est faible et pour 90° x et y n'ont aucune relation" @xcite . ## expérimentations et comparaison des résultats a cause de la non disponibilité de corpus contenant des erreurs naturelles correspondants à des mots appartenant au lexique, les travaux s'intéressant à la détection de ces erreurs ont été évalués dans leur majorité sur de erreurs générées de manière artificielle et introduites dans des corpus. ne disposant pas d'un tel corpus pour l'arabe et dans le souci de comparer notre travail avec ce qui a été déjà proposé pour traiter ce type d'erreurs dans cette langue, nous avons utilisé les mêmes corpus d'apprentissage et de test que @xcite 4.1 un exemple d'échec l'exemple suivant illustre un exemple d'erreur détectée à tort (faux positif) par les deux méthodes lsa et skip-gram : ‫االقتصاد‬ ‫لحاق‬ ‫لضمان‬ ‫بركب‬ ‫الحقيقية‬ ‫االقتصادية‬ ‫القوة‬ ‫وبناء‬ ‫االنتعاش‬ /… ldman lhaq alaqtsad brkb alantea$ wbna' alqwp alaqtsadyp alhqyqyp…/ … pour assurer que l'économie rattrape le convoi de la relance et la construction de la vraie force économique … l'expression " ‫لحاق‬ ... ‫بركب‬ "/lhaq …brkb /(rattraper le convoi) est une collocation non contiguë. les mots de la phrase n'ont pas de lien sémantique avec le terme " ‫ركب‬ "/ rkb /(convoi), c'est pourquoi sa validité sémantique a été jugée faible. ## conclusion nous avons présenté dans cet article deux méthodes vectorielles afin de détecter les erreurs orthographiques causant un dérèglement sémantique au niveau de la phrase, à savoir lsa et skip-gram. la méthode skip-gram a donné des résultats encourageants par rapport à l'état de l'art. elle a également montré sa supériorité par rapport à lsa aussi bien au niveau de la précision qu'au niveau du rappel. nous comptons vérifier cette supériorité, dans le futur proche en faisant varier les tailles des corpus d'apprentissage et aussi le type des textes et voir dans quelle mesure le domaine des textes peut-il influer sur les résultats. aussi, la correction automatique de ces erreurs en utilisant le contexte représente une perspective proche pour ce travail.