Approches pour l'apprentissage incrémental et la génération des images

Cette these explore deux sujets lies dans le contexte de l'apprentissage profond : l'apprentissage incremental et la generation des images. L'apprentissage incremental etudie l'entrainement des modeles dont la fonction objective evolue avec le temps (exemple : Ajout de nouvelles categories a une tâche de classification). La generation d'images cherche a apprendre une distribution d'images naturelles pour generer de nouvelles images ressemblant aux images de depart.L’apprentissage incremental est un probleme difficile du au phenomene appele l'oubli catastrophique : tout changement important de l’objectif au cours de l'entrainement provoque une grave degradation des connaissances acquises precedemment. Nous presentons un cadre d'apprentissage permettant d'introduire de nouvelles classes dans un reseau de detection d'objets. Il est base sur l’idee de la distillation du savoir pour lutter les effets de l’oubli catastrophique : une copie fixe du reseau evalue les anciens echantillons et sa sortie est reutilisee dans un objectif auxiliaire pour stabiliser l’apprentissage de nouvelles classes. Notre framework extrait ces echantillons d'anciennes classes a la volee a partir d'images entrantes, contrairement a d'autres solutions qui gardent un sous-ensemble d'echantillons en memoire.Pour la generation d’images, nous nous appuyons sur le modele du reseau adverse generatif (en anglais generative adversarial network ou GAN). Recemment, les GANs ont considerablement ameliore la qualite des images generees. Cependant, ils offrent une pauvre couverture de l'ensemble des donnees : alors que les echantillons individuels sont de grande qualite, certains modes de la distribution d'origine peuvent ne pas etre captures. De plus, contrairement a la mesure de vraisemblance couramment utilisee pour les modeles generatives, les methodes existantes d'evaluation GAN sont axees sur la qualite de l'image et n'evaluent donc pas la qualite de la couverture du jeu de donnees. Nous presentons deux approches pour resoudre ces problemes.La premiere approche evalue les GANs conditionnels a la classe en utilisant deux mesures complementaires basees sur la classification d'image - GAN-train et GAN-test, qui approchent respectivement le rappel (diversite) et la precision (qualite d'image) des GANs. Nous evaluons plusieurs approches GANs recentes en fonction de ces deux mesures et demontrons une difference de performance importante. De plus, nous observons que la difficulte croissante du jeu de donnees, de CIFAR10 a ImageNet, indique une correlation inverse avec la qualite des GANs, comme le montre clairement nos mesures.Inspires par notre etude des modeles GANs, la seconde approche applique explicitement la couverture d'un jeux de donnees pendant la phase d'entrainement de GAN. Nous developpons un modele generatif combinant la qualite d'image GAN et l'architecture VAE dans l'espace latente engendre par un modele base sur le flux, Real-NVP. Cela nous permet d’evaluer une vraisemblance correcte et d’assouplir simultanement l’hypothese d’independance dans l’espace RVB qui est courante pour les VAE. Nous obtenons le score Inception et la FID en concurrence avec les GANs a la pointe de la technologie, tout en maintenant une bonne vraisemblance pour cette classe de modeles.