Advances in deep learning methods for speech recognition and understanding

Ce travail expose plusieurs études dans les domaines de     la reconnaissance de la parole et     compréhension du langage parlé.     La compréhension sémantique du langage parlé est un sous-domaine important     de l'intelligence artificielle.     Le traitement de la parole intéresse depuis longtemps les chercheurs,     puisque la parole est une des charactéristiques qui definit l'être humain.     Avec le développement du réseau neuronal artificiel,     le domaine a connu une évolution rapide     à la fois en terme de précision et de perception humaine.     Une autre étape importante a été franchie avec le développement     d'approches bout en bout.     De telles approches permettent une coadaptation de toutes     les parties du modèle, ce qui augmente ainsi les performances,     et ce qui simplifie la procédure d'entrainement.     Les modèles de bout en bout sont devenus réalisables avec la quantité croissante     de données disponibles, de ressources informatiques et,     surtout, avec de nombreux développements architecturaux innovateurs.     Néanmoins, les approches traditionnelles (qui ne sont pas bout en bout)     sont toujours pertinentes pour le traitement de la parole en raison     des données difficiles dans les environnements bruyants,     de la parole avec un accent et de la grande variété de dialectes.      Dans le premier travail, nous explorons la reconnaissance de la parole hybride     dans des environnements bruyants.     Nous proposons de traiter la reconnaissance de la parole,     qui fonctionne dans     un nouvel environnement composé de différents bruits inconnus,     comme une tâche d'adaptation de domaine.     Pour cela, nous utilisons la nouvelle technique à l'époque     de l'adaptation du domaine antagoniste.     En résumé, ces travaux antérieurs proposaient de former     des caractéristiques de manière à ce qu'elles soient distinctives     pour la tâche principale, mais non-distinctive pour la tâche secondaire.     Cette tâche secondaire est conçue pour être la tâche de reconnaissance de domaine.     Ainsi, les fonctionnalités entraînées sont invariantes vis-à-vis du domaine considéré.     Dans notre travail, nous adoptons cette technique et la modifions pour     la tâche de reconnaissance de la parole dans un environnement bruyant.      Dans le second travail, nous développons une méthode générale     pour la régularisation des réseaux génératif récurrents.     Il est connu que les réseaux récurrents ont souvent des difficultés à rester     sur le même chemin, lors de la production de sorties longues.     Bien qu'il soit possible d'utiliser des réseaux bidirectionnels pour     une meilleure traitement de séquences pour l'apprentissage des charactéristiques,     qui n'est pas applicable au cas génératif.     Nous avons développé un moyen d'améliorer la cohérence de     la production de longues séquences avec des réseaux récurrents.     Nous proposons un moyen de construire un modèle similaire à un réseau bidirectionnel.     L'idée centrale est d'utiliser une perte L2 entre     les réseaux récurrents génératifs vers l'avant et vers l'arrière.     Nous fournissons une évaluation expérimentale sur     une multitude de tâches et d'ensembles de données,     y compris la reconnaissance vocale,     le sous-titrage d'images et la modélisation du langage.      Dans le troisième article, nous étudions la possibilité de développer     un identificateur d'intention de bout en bout pour la compréhension du langage parlé.     La compréhension sémantique du langage parlé est une étape importante vers     le développement d'une intelligence artificielle de type humain.     Nous avons vu que les approches de bout en bout montrent     des performances élevées sur les tâches, y compris la traduction automatique et     la reconnaissance de la parole.     Nous nous inspirons des travaux antérieurs pour développer     un système de bout en bout pour la reconnaissance de l'intention.

Keyphrases: Apprentissage profond, Apprentissage automatique, Reconnaissance de la parole, Réseaux de neurones, Adaptation de domaine, Reconnaissance de la parole bruyante, Apprentissage antogoniste, Réseaux de neurones récurrents, Génération de séquences, Compréhension du langage vocal, Apprentissage de bout en bout