# La traduction automatique

Marie Puren

► To cite this version:

Marie Puren. La traduction automatique. Master. France. 2020. hal-03153323

HAL Id: hal-03153323

https://hal.science/hal-03153323v1

Submitted on 26 Feb 2021

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons CC BY 4.0 - Attribution - International License
CM 7 - LA TRADUCTION AUTOMATIQUE

Marie Puren

27 mars 2020

UVSQ | M1 ACPCI, ECMAH, EMAS, HCS, RCL
Introduction

Histoire de la traduction automatique

Principes de la traduction automatique

L'approche à base de règles

L'approche statistique

La traduction assistée par ordinateur

La révolution du Deep Learning

Limites et écueils
# INTRODUCTION
<figure><img src="image_2.png" /><figcaption>Ulrike Wuttke</figcaption></figure>

@UWuttke

Auf YouTube gibt es viele gute Yogavideos für
verschiedene Stufen zum zu Hause üben. Meine
liebsten #Yoga Channels sind von Mady Morrison (dt.)
und Yoga with Kassandra (engl.). Vielleicht bietet Eurer
lokales Yogastudio online Klassen an? Bleibt gesund &
Namaste!

<figure><img src="image_3.png" /></figure>

À l'origine en allemand et traduit par Google

Il existe de nombreuses bonnes vidéos de yoga pour
différents niveaux à pratiquer à la maison sur YouTube.
Ma chérie #Yoga Les chaînes sont de Mady Morrison
(allemand) et Yoga with Kassandra (anglais). Peut-être
que votre studio de yoga local propose des cours en
ligne? Restez en bonne santé et Namaste!

<figure><img src="image_4.png" /></figure>

7:19 AM · 23 mars 2020 · TweetDeck

FIGURE – Traduction automatique d'un tweet en allemand
## EXEMPLES

<figure><img src="image_5.png" /></figure>

**FIGURE** – Traduction automatique du début d'un article Wikipédia (résultats Google)
<figure><img src="image_6.png" /><figcaption>FIGURE – Traduction automatique avec DeepL</figcaption></figure>
- Traduction de textes. Exemple : [Google Traduction](https://www.google.com/traduction), [DeepL](https://deepL.com/)

- Reconnaissance vocale : traduction instantanée. Exemple : [Microsoft Azure](https://azure.microsoft.com/en-us/), [Skype Translator](https://skype.google.com/)

- Dictionnaires multilingues en ligne. Exemple : [bab.la](https://bab.la/), [Reverso](https://reverso.babbling.com/)

- Bases de données d'expressions idiomatiques. Exemple : [1000 images sur le bout de la langue](https://www.reverso.babbling.com/babbling/image/1000-images-sur-le-bout-de-la-langue/), [Linguee](https://linguee.fr/)

- Accès direct à de l'information dans une langue cible (exemple des résultats Google)

Traduction automatique dans un contexte général d'outillage connecté
# HISTOIRE DE LA TRADUCTION AUTOMATIQUE
* Dans les années 30 : premiers brevets pour des "machines de traduction"

* **Georges Artsrouni** : dictionnaire bilingue automatique utilisant du ruban perforé

* **Peter Trojanskij** : proposition incluant un dictionnaire bilingue et une méthode pour gérer les règles grammaticales entre les langues, basée sur l'Esperanto.

<figure><img src="image_7.png" /><figcaption>Machine de Georges Artsrouni</figcaption></figure>
* Après 2de GM : idée de développer une "machine à traduire"

* Premiers ordinateurs (cf. ENIAC dans cours sur l'IA) => possibilités nouvelles

* Traduction universelle = paix universelle

* 1949 : premières propositions de Warren Weawer pour traduire des textes en utilisant un ordinateur

* Années 50 : débuts des recherches dans des universités américaines
* 7 janvier 1954 : "Georgetown-IBM experiment" présente la première machine à traduire à IBM (New York) => possible seulement de traduire 250 mots et 49 phrases soigneusement choisis du russe vers l'anglais

<figure><img src="image_8.png" /><figcaption>FIGURE – Utilisation de la machine d'IBM</figcaption></figure>

* Mais des voix s'élèvent en disant que la traduction automatique = rêve pour longtemps, car trop d'ambiguités dans toutes les langues
* Effets positifs : stimulation de la recherche et des financements aux US et dans le monde

* Installation de systèmes de traduction automatique : US Air Force, Commission de l'énergie atomique des États-Unis, Communauté européenne de l'énergie atomique (Euratom)

* Malgré critiques, important besoin des renseignements

* US dans les années 60 : besoin de traduire massivement des textes en russe

* URSS : même besoin, pour traduire des textes en anglais

* Parallèlement : ordinateurs plus puissants => aide envisageable
* 1968 : création par le gouvernement américain de la société Systran (System Translation)

* Idée que l'on peut simplifier le problème en acceptant une traduction approximative

* Distinction de la recherche d'informations et de la production de documents

* Très difficile de produire un texte syntaxiquement parfait, mais plus facile de produire des traductions approximatives qui suffisent pour comprendre le sens d'un texte
* A partir des années 50 : approche à base de règles

* Utiliser des dictionnaires bilingues, associés à une analyse de la structure des langues visées

* Exemple de "il" en français : pronom personnel neutre ou masculin

* "Il fait beau" : "il" = pronom personnel neutre

* "Il est beau" : "il" = pronom personnel masculin

* Seule analyse grammaticale permet de différencier le sens de ces deux "il" et donc de "fait".
* Service de traduction devenu de plus en plus important au fur et à mesure des élargissements de l'Union Européenne

* De plus en plus de traducteurs professionnels qui s'aident de la machine

* Demande croissante avec l'explosion du Web dans les années 90 : de plus en plus de textes dans de plus en plus de langues différentes

* Demande encore plus importante avec l'explosion des réseaux sociaux : traduction instantanée de tweets, de posts, impossible à réaliser par des humains au vu du volume des données à traiter
LE SERVICE BABEL FISH DANS LES ANNÉES 90-2000

Premier service en ligne gratuit de traduction multilingue

• Décembre 1997 : lancement de AltaVista Translation Service par Digital Equipment Corporation (DEC) et Systran à l'adresse "babelfish.altavista.com"

• Babel Fish fait référence au "Poisson Babel" imaginé par Douglas Adams dans *Le Guide du voyageur galactique* (1978) : espèce de petit poisson extraterrestre qui, enfoncé dans l'oreille, permet de comprendre toutes les langues de l'univers

<figure><img src="image_9.png" /></figure>

Le "babelfish" dans le film
H2G2 : Le Guide du
voyageur galactique (2005)
* Performances peuvent laisser à désirer, mais permet de comprendre des documents en langue étrangère

* Utilisation de ce service par Google jusqu'en 2007

* Mai 2012 : remplacé par Bing Translator, jusqu'à son arrêt en juin 2013
• Limites du système basé sur les règles : sens des mots trop ambigü, dépend trop du contexte pour tout formaliser avec des règles

• Impossible de créer des règles permettant de déterminer le sens de tous les mots en contexte

• Les règles définies varient en fonction de leur utilisation et en fonction des unes et des autres

=> Les systèmes deviennent rapidement ingérables, dès qu'ils atteignent une grande taille.
* Apparition à la fin des années 80 de grands corpus bilingues : idée que ces corpus pourraient être utilisés comme base de connaissances géante => déterminer traductions futures à partir de traduction existantes

* Création de grands corpus bilngues "alignés" comme le Hansard canadien : transcriptions officielles des débats parlementaires canadiens - corpus bilingue français et en anglais, très précisément traduit

* Traduction statistique repose sur un corpus parallèle constitués de textes dans différentes langues et qui sont alignés = alignement met en relation des unités (paragraphes, phrases, mots)
- Problèmes difficiles à surmonter avec la traduction statistique : faiblesse du système provient de l'assemblage de mots/phrases provenant de textes traduits dans la langue cible => résultat peut être bancaire, incohérent

- Amélioration depuis les années 90 mais phrases très longues mal traduites

- Internet de plus en plus multilingue => demande de traduction ne fait que grandir

- Changement majeur avec l'arrivée de l'apprentissage profond dans le milieu des années 2010
* Apprentissage profond (Deep Learning) = type d'intelligence artificielle

* S'appuie sur des réseaux de neurones artificiels

* Avantage de l'apprentissage profond sur l'approche statistique : considère la phrase dans son entier c'est-à-dire que l'on ne traduit pas la phrase par fragments que l'on assemble ensuite.

* 2016 : Approche généralisée à l'ensemble des acteurs de la traduction automatique lorsque Google a annoncé le remplacement de son système de traduction basé sur approche statistique, par un modèle d'apprentissage profond

=> Apprentissage profond immédiatement imposé au vu de l'amélioration des résultats qu'il a apporté au service de traduction de Google
* 2017 : lancement de DeepL Translator, basé sur intelligence artificelle

* Société qui existe depuis 2009 : Linguee = premier moteur de recherche de traduction sur Internet

* Outil très populaire (en 2017, plus de 10 milliards de demandes, plus d'un milliard d'utilisateurs)

* Ne traduit pas un mot par son équivalent dans la langue cible mais fournit un mot dans son contexte avec des exemples

* Données proviennent de sites Web bilingues (par ex. brevets, textes du parlement européen, Unesco)

<figure><img src="image_10.png" /><figcaption>FIGURE - Exemples de traduction en contexte (Linguee)</figcaption></figure>
* Linguee : données d'entraînements pour DeepL

* Réseau neuronal de DeepL entraîné sur ces données grâce à un superordinateur installé en Islande

* Très grande puissance de calcul : 5.100.000.000.000.000
opréations par seconde, soit 1 million de mots traduits en moins d'une seconde

* Considéré comme meilleur système de traduction automatique actuellement

<figure><img src="image_11.png" /><figcaption>FIGURE - Evaluation par des traducteurs professionnels (fév. 2020)</figcaption></figure>
PRINCIPES DE LA TRADUCTION AUTOMATIQUE
• Assez rapidement (dès années 60), apparaît la nécessité de comprendre le sens de la phrase pour la traduire correctement

• Comprendre le sens de la phrase en contexte : même phrase pas exactement le même sens en fonction des autres phrases qui l'entourent

• Autrement dit : pas possible de faire de la traduction mot à mot
En français : terre = sol, planète, la côte vue de la mer ou encore une propriété agricole.

En anglais, traduction varie en fonction du contexte :

• La terre du jardin : "soil"

• Astronaute qui voit la Terre : "Earth!"

• Le terrain de tennis de Roland-Garros (terre battue) : "clay tennis court"

• Un marin qui voit la côte : "Land!"
- Basée sur utilisation de règles linguistiques + millions d'entrée de dictionnaire pour chaque paire de langues (langue source - langue cible)

- Utilisation de gigantesques dictionnaires et de nombreuses règles linguistiques

- Traduction réalisée au moyen d'un logiciel
1. Utilisation d'un dictionnaire qui mettra en correspondance chaque mot de la langue source avec un mot de la langue cible

2. Repérage des mots ou groupes de mots correspondant à diverses catégories grammaticales

3. Recherche dans les règles linguistiques celles qui se trouvent dans la phrase (sujet, verbe, complément, etc.)

4. Ensuite, recherche dans le dictionnaire de la langue cible et application aux groupes de mots équivalents les règles équivalentes

Exemple : "sit on something" = "siéger à quelque chose" (ou "être membre de quelque chose") quand le "quelque chose" n'est pas un objet.

Our senator sits on the subcommittee for foreign relations = Notre sénateur siège à la sous-commission pour les relations extérieures.
* Repose sur un corpus parallèle = ensemble de textes en plusieurs langues en relation de traduction mutuelle (chaque phrase est traduite dans chacune des autres langues)

* Plus ancien corpus parallèle : la pierre de Rosette, découverte en juillet 1799 par des soldats de l'armée de Bonaparte en Egypte

<figure><img src="image_12.png" /><figcaption>**FIGURE** – La pierre de Rosette (conservé au British Museum)</figcaption></figure>

* Porte un texte en grec et en égyptien, avec trois écritures (égyptien en hiéroglyphes, égyptien en écriture démotique et alphabet grec)

* A permis à Jean-François Champollion de déchiffrer en 1822 les hiéroglyphes égyptiens
<figure><img src="image_13.png" /></figure>

Corpus bi-phrases avec
alignement de mots

Corpus bilingue parallèle = contient des bi-phrases, c'est-à-dire des phrases en relation de traduction mutuelle (français - anglais)

Pour chaque bi-phrase : alignements mot à mot
Construction automatique d'un dictionnaire bilingue à partir de ces
bi-phrases

<table><tr><td>la</td><td>the</td><td>0.6</td></tr><tr><td>la</td><td>this</td><td>0.4</td></tr><tr><td>femme</td><td>woman</td><td>0.5</td></tr><tr><td>femme</td><td>wife</td><td>0.5</td></tr><tr><td>a sauté</td><td>jumped</td><td>0.85</td></tr><tr><td>a sauté</td><td>skipped</td><td>0.15</td></tr><tr><td>un repas</td><td>a meal</td><td>1.0</td></tr><tr><td>sauté un repas</td><td>skipped a meal</td><td>1.0</td></tr></table>
la | the | 0.6
la | this | 0.4

* Chaque ligne = une règle de traduction

* 1ère colonne = mot ou séquence de mots dans la langue source

* 2ème colonne = mot ou séquence de mots dans la langue cible

* 3ème colonne = score. Ici score du modèle de traduction c'est-à-dire la probabilité que ce mot soit traduit de cette manière

* "La" a une probabilité de 0.6 (60% des cas) d'être traduit par "The"

* "La" a une probabilité de 0.4 (40% des cas) d'être traduit par "This"
- Phrase à traduire = segmentée en unités (mots, séquences de mots et signes de ponctuation)

- Production d'hypothèses de traduction en utilisant les règles présentes dans le dictionnaire bilingue pour traduire les unités reconnues

- Nombreuses hypothèses de traduction générées en fonction de la segmentation des phrases, en fonction des traductions proposées pour chaque mot ou groupe de mots

- Chaque hypothèse associée à un score de traduction : la traduction finale retournée = celle avec le plus haut score
- Textes traduits = réserve de ressources non négligeable pour les nouvelles tâches de traduction, bon nombre de passages récurrents pouvant être similaires, voire identiques

- L'objectif d'une mémoire de traduction (translation memory) est de permettre un accès aussi aisé et efficace que possible à cette réserve

- Pour ce faire, phrases similaires dans les langues source et cible mises en correspondance (alignées) et triées par paires dans une base de données relationnelle.

- Même si la plupart des opérations sont effectuées en "arrière-plan", l'utilisation de la mémoire de traduction est censée accélérer le processus de traduction et améliorer la cohérence des textes traduits.

Dans ce cas, on ne parle pas de traduction automatique, mais de traduction automatisée par ordinateur (TAO)
- SDLTrados

- https://www.memoq.com/portal/fr/

- https://omegat.org/fr/ (Logiciel libre)
- Traduction automatique à base de règles

- Besoin d'un investissement humain important => ajout de ses propres terminologies, amélioration manuelle du système

- Système ingérable si on doit gérer un très grand nombre de règles

- Traduction automatique statistique :

- Pas très bon pour gérer les expressions peu usitées ou inconnues - idiomatismes, métaphores - (sources d'énormes erreurs) => très mauvais pour la traduction littéraire

- Très difficile de traduire des phrases courtes car il ne peut pas utiliser le contexte pour s'assurer de fournir l'hypothèse de traduction avec le meilleur score
LA RÉVOLUTION DU DEEP LEARNING
* Type d'intelligence artificielle dérivée du machine learning (apprentissage automatique)

* Deep learning = réseau de neurones profonds = réseau avec plusieurs couches de neurones

* Succès du deep learning aujourd'hui dû :

* Entraînement de plusieurs couches de neurones qui apprennent à apprendre => prendre des décisions

* Développement facilité par de grandes quantités de données d'entraînement disponibles (Web)

* Augmentation de capacité de calcul disponible des ordinateurs

* Algorithmes plus performants
* Machine apprend par elle-même en utilisant un réseau de neurones artificiels s'inspirant du cerveau humain

* Réseau composé de dizaines voire centaines de "couches" de neurones

* Chacune reçoit et interprète les informations de la couche précédente

* Ex. : reconnaissance des lettres avant de reconnaître les mots; reconnaissance d'un visage avant de chercher l'identité de la personne
* Années 1990 : Yann Le Cun propose les réseau de neurones convolutifs (CNNs ou Convolutional Neural Networks)

<figure><img src="image_14.png" /><figcaption>FIGURE – Architecture d'un réseau de neurones convolutifs</figcaption></figure>

* CNNs permettent des applications en vision par ordinateur

* Permettent 1ères applications industrielles de l'apprentissage profond

* Lecture des chèques et codes postaux grâce aux CNNs (10% environ)
· 2012 : Un réseau profond révolutionne la vision par ordinateur

· Un CNN, AlexNet, obtient des performances exceptionnelles sur ImageNet, une grande base de données d'images disponible en ligne.

=> CNNs reviennent sur le devant de la scène.
* Chaque couche reçoit et interprète les informations de la couche précédente

<figure><img src="image_15.png" /><figcaption>**FIGURE** – Fonctionnement d'un réseau de neurones convolutifs</figcaption></figure>

* Par exemple les neurones :

* De la première couche détectent des contours

* De la deuxième couche identifient des parties d'une voiture

* De la dernière couche extraient les caractéristiques d'une marque

* Au fur et à mesure : ajout d'informations
# POURQUOI PLUSIEURS COUCHES ?

- Utilisation de neurones spécialisés

- Par exemple un neurone détectera les contours verticaux

<figure><img src="image_16.png" /><figcaption>FIGURE - Détection des contours verticaux</figcaption></figure>
* Par exemple un neurone détectera les contours horizontaux

<figure><img src="image_17.png" /><figcaption>FIGURE - Détection des contours horizontaux</figcaption></figure>

* On obtient enfin un visage quand on superpose les contours verticaux et horizontaux
* Connaît ce que devrait être la sortie des neurones de la dernière couche (non-cachée)

* Entraînement du réseau de neurones jusqu'à ce que l'ordinateur donne la bonne réponse

* A chaque itération : "mauvaises" réponses éliminées et renvoyées vers les couches précédentes pour améliorer le modèle mathématique

<figure><img src="image_18.png" /></figure>

Processus d'autoapprentissage par essai-erreur
<figure><img src="image_19.png" /></figure>

Application à des données
inconnues

* Quand appliqué à d'autres cas, le modèle capable de reconnaître un chat, même si le concept de chat lui est inconnu

* Données de départ (d'entraînement) = essentielles. De la variété des données dépend la performance finale.
1. Procéder à une analyse contextuelle globale => sens des mots représentés par leur entourage

2. Regrouper les mots en ensembles larges, sémantiquement homogènes baptisés "plongements de mots" ("word embeddings" en anglais)

Avantage : on tient compte du contexte du mot considéré et du contexte des mots qui possèdent un sens proche => améliore considérablement la traduction des mots, notamment les mots rares
* Analyse hiérarchique de la phrase : on prend en compte le contexte de chaque mot, puis de chaque groupe de mots, puis de chaque phrase complète

* Représentation contextuelle dynamique car elle change pour chaque unité liguistique

* Succès de la méthode car se rapproche de la manière dont le cerveau humain comprend les mots et les phrases => le système infère les connaissances en faisant des rapprochements sémantiques entre les mots. Capable donc de produire des traductions plus pertinentes selon le contexte

Enfin on génère la phrase dans la langue cible.
LIMITES ET ÉCUEILS
• Technologie très gourmande en données => besoin de beaucoup de données pour obtenir de bons résultats

• Besoin d'avoir des corpus qui grandissent constamment pour tenir compte des évolutions des langues

• Utilisation grandissante par de nombreux utilisateurs => nouvelles données d'entraînement
# POUR QUELLES LANGUES ?

* Performance dépend de la quantité des données disponibles : domination de l'anglais

* Corpus parallèles de plusieurs millions de mots : peu probable que l'on dispose de corpus bilingues suffisants au delà d'une dizaine / quinzaine de langues

<figure><img src="image_20.png" /><figcaption>FIGURE – 11 langues disponibles avec DeepL</figcaption></figure>

* Bonnes performances du français à l'anglais, mais moins bonnes pour d'autres langues comme les traductions de l'arabe ou du chinois
* Plus facile de traduire un texte vers l'anglais : peu de variation des mots en anglais (genre, nombre voire temps verbal peu marqué)

* Bien plus compliqué en allemand ou en russe par exemple, car beaucoup d'informations attachées aux mots

* Implique analyse syntaxique du mot pour déterminer fonction du mot dans la phrase, cas, forme précise => beaucoup plus difficile.

* Solution souvent adoptée : passer d'abord par une traduction en anglais pour ensuite traduire dans la langue cible (méthode qui donne de meilleurs résultats)
• Polysémie. Ex. : léger = peu de poids, négligent, moeurs "légères"

• Néologismes. Ex. : traduction de "bisounours" = personne naïve (Dictionnaire Larousse) - vient de la série éponyme "Care Bears" en anglais

• Idiomatismes et métaphores. Ex. : "Courir ventre à terre" = "To run like the wind"

• Acronymes. Ex. OMC (Organisation mondiale du commerce) = WTO (World Trade Organization)

• Fautes d'orthographe
* Problème classique de la traduction automatique : traiter les mots inconnus du système

* Banal, mais toujours difficilement résolu

* Diverses solutions : translittération (par ex. remplacement des caractères cyrilliques par des caractères latins), copie directe (fonctionne pour un nom propre), analyse de la structure du mot si c'est possible, omission dans la traduction.
• Phrase à traduire : "Ce cocorico, c'est l'Agence bio qui le pousse" (Source : "La production bio monte en graine dans Libération")

• Google Traduction : "This cocorico is the organic agency that drives it".

• Deepl : "That crow, it's the Bio Agency that's pushing it".

• Idiomatisme ("cocorico")

• Comprendre qu'il s'agit de traduire "pousser (un cri)"

• "Agence Bio" ne veut pas dire "Agence biologique" mais nom propre
- Traduction automatique devient de plus en plus facilement automatisable

- Développement d'offres de traduction automatique avec pour objectif premier de faire des économies

- Pression financière s'intensifie sur les traducteurs : augmentation du nombre de mots à traduire par jour

- Outil de traduction automatique = vu comme concurrent / ennemi du traducteur et de la traductrice

- Pourtant, certaines tâches de traduction pas automatisables
# QUELLES CONSÉQUENCES POUR LES TRADUCTEURS ?

Besoin des humains pour faire de la post-edition

<figure><img src="image_21.png" /><figcaption>Ulrike Wuttke</figcaption></figure>

@UWuttke

Auf YouTube gibt es viele gute Yogavideos für verschiedene Stufen zum zu Hause üben. Meine liebsten #Yoga Channels sind von Mady Morrison (dt.) und Yoga with Kassandra (engl.). Vielleicht bietet Eurer lokales Yogastudio online Klassen an? Bleibt gesund & Namaste! 😊

À l'origine en allemand et traduit par Google

Il existe de nombreuses bonnes vidéos de yoga pour différents niveaux à pratiquer à la maison sur YouTube.

Ma chérie #Yoga Les chaînes sont de Mady Morrison (allemand) et Yoga with Kassandra (anglais). Peut-être que votre studio de yoga local propose des cours en ligne? Restez en bonne santé et Namaste! 😊

7:19 AM - 23 mars 2020 - TweetDeck

**FIGURE - La nécessité de reprendre et de reformuler**
Résultats bien meilleurs sur des textes non spécialisés. Certains domaines préservés :

- Traduction juridique

- Traduction médicale

- Communication interne à l'entreprise

- Plus généralement : ce qui a trait à l'innovation, c'est-à-dire où la terminologie est encore flottante