Theory and algorithms for learning metrics with controlled behaviour. (Théorie et algorithmes pour l'apprentissage de métriques à comportement contrôlé)

De nombreux algorithmes en Apprentissage Automatique utilisent une notion de distance ou de similarite entre les exemples pour resoudre divers problemes tels que la classification, le partitionnement ou l'adaptation de domaine. En fonction des tâches considerees ces metriques devraient avoir des proprietes differentes mais les choisir manuellement peut-etre fastidieux et difficile. Une solution naturelle est alors d'adapter automatiquement ces metriques a la tâche consideree. Il s'agit alors d'un probleme connu sous le nom d'Apprentissage de Metriques et ou le but est principalement de trouver les meilleurs parametres d'une metrique respectant des contraintes specifiques. Les approches classiques dans ce domaine se focalisent habituellement sur l'apprentissage de distances de Mahalanobis ou de similarites bilineaires et l'une des principales limitations est le fait que le controle du comportement de ces metriques est souvent limite. De plus, si des travaux theoriques existent pour justifier de la capacite de generalisation des modeles appris, la plupart des approches ne presentent pas de telles garanties. Dans cette these nous proposons de nouveaux algorithmes pour apprendre des metriques a comportement controle et nous mettons l'accent sur les proprietes theoriques de ceux-ci. Nous proposons quatre contributions distinctes qui peuvent etre separees en deux parties: (i) controler la metrique apprise en utilisant une metrique de reference et (ii) controler la transformation induite par la metrique apprise. Notre premiere contribution est une approche locale d'apprentissage de metriques ou le but est de regresser une distance proportionnelle a la perception humaine des couleurs. Notre approche est justifiee theoriquement par des garanties en generalisation sur les metriques apprises. Dans notre deuxieme contribution nous nous sommes interesses a l'analyse theorique de l'interet d'utiliser une metrique de reference dans un terme de regularisation biaise pour aider lors du processus d'apprentissage. Nous proposons d'utiliser trois cadres theoriques differents qui nous permettent de deriver trois mesures differentes de l'apport de la metrique de reference. Ces mesures nous donnent un apercu de l'impact de la metrique de reference sur celle apprise. Dans notre troisieme contribution nous proposons un algorithme d'apprentissage de metriques ou la transformation induite est controlee. L'idee est que, plutot que d'utiliser des contraintes de similarite et de dissimilarite, chaque exemple est associe a un point virtuel qui appartient deja a l'espace induit par la metrique apprise. D'un point de vue theorique nous montrons que les metriques apprises de cette facon generalisent bien mais aussi que notre approche est liee a une methode plus classique d'apprentissage de metriques basee sur des contraintes de paires. Dans notre quatrieme contribution nous essayons aussi de controler la transformation induite par une metrique apprise. Cependant, plutot que considerer un controle individuel pour chaque exemple, nous proposons une approche plus globale en forcant la transformation a suivre une transformation geometrique associee a un probleme de transport optimal. D'un point de vue theorique nous proposons une discussion sur le lien entre la transformation associee a la metrique apprise et la transformation associee au probleme de transport optimal. D'un point de vue plus pratique nous montrons l'interet de notre approche pour l'adaptation de domaine mais aussi pour l'edition d'images