Adaptation de domaine en apprentissage automatique:Introduction et approche PAC-Bayésienne
Pascal Germain
Groupe de Recherche en Apprentissage Automatique de l'Université Laval

Travail conjoint avec
François Laviolette (Université Laval),
Emilie Morvant (Aix-Marseille Université),Amaury Habrard (Université Jean-Monnet de Saint-Étienne)
5 avril 2013

Plan de match
1) Classification classique vs adaptation de domaine
2) Problème de classification classique➢Représentation des données➢Classificateur à noyau➢Apprentissage PAC-Bayésien

3) Problème d'adaptation de domaine➢

Représentation des données➢

Divergence entre les domaines➢

Apprentissage PAC-Bayésien4) Résultats empiriques

Classification classiquevsAdaptation de domaine

Problème de classification classiqueDistribution source

Donnéesétiquetées

Algorithmed'apprentissage

ExempleClassificateur

Prédiction

Exemplecritiques de films-1+1+1

Algorithmed'apprentissage-1???

Classificateur+1+1

Problème d'adaptation de domaine
Distribution cible

Distribution source

Donnéesnon-étiquetéesDonnéesétiquetées

Algorithmed'apprentissage

ExempleClassificateur

Prédiction

Exemplecritiques de livres

critiques de films-1???

+1???

???

Algorithmed'apprentissage+1-1???

???

Classificateur-1+1

Problème declassification classiqueReprésentation des données●Chaque exemple est une paire– Description– Étiquette●Ensemble d'entraînement:

Distribution source

Classificateur à noyau (kernel)●

Classificateur linéaire: exprimé par un vecteur de poids●Noyau: Exprime un produit scalaire●

Classificateur à noyau: Classificateur linéaire dans un espace
augmenté exprimé comme une combinaison linéaire des exemples

Noyau Gaussien :Apprentissage PAC-Bayésien
Théorème PAC-Bayes (spécialisé aux classificateurs linéaires)●

Pour tout domaine●

Pour toute confiance●

Pour tout paramètre

Risque(Langford et Shawe-Taylor, 2002)(Catoni, 2007)

Risque empirique
Régularisateur

Apprentissage PAC-Bayésien
Théorème PAC-Bayes (spécialisé aux classificateurs linéaires)●(Langford et Shawe-Taylor, 2002)

Pour tout domaine●

Pour toute confiance●

Pour tout paramètre(Catoni, 2007)

RisqueRisque empirique
Régularisateur

Algorithme d'apprentissage

Étant donné un ensemble
Trouver ledequi minimise :(Germain et al., 2009)

exemples et un paramètre:Problèmed'adaptation de domaineReprésentation des données●

Exemples sources

Distribution source– Description– Étiquette●

Exemples cibles– Description– Étiquette

Distribution cibleReprésentation des données●

Exemples sources

Distribution source– Description– Étiquette●

Exemples cibles– Description– Étiquette●

Ensembles d'entraînement

Distribution cible

Quand l'adaptation est-elle possible?
●●●

Question : Dans quelle(s) situation(s) est-il
possible de s'adapter au domaine cible?
Réponse (partielle) : Lorsque les domainessource et cible sont « semblables ».
On a donc besoin d'une mesure permettant dequantifier la « distance » entre les distributions.

Divergence entre les distributions
Théorème
Soit

une distribution source etSoit

une famille de classificateurs. Pour tout

Risque cible(Ben-David et al., 2010)

une distribution cible.

Risque source, on aMeilleur risque conjoint
DivergenceDivergence entre les distributions
Nouveau théorème (spécialisé aux classificateurs linéaires)
Soit

une distribution source etPour tout

Risque cible

une distribution cible.

, représentant un classificateur linéaire, on a

Risque source

Meilleur risque cible
Mesure de capacitéd'adaptation
DivergenceApprentissage PAC-Bayésien
Nouveau théorème PAC-Bayes (spécialisé aux classificateurs linéaires)●

Pour tout domaines●

Pour toute confiance●

Pour tout paramètres

etet

avec

et

Algorithme d'apprentissage

Étant donné des ensembles et de exemples et deuxparamètres et , trouver le qui minimise :Risque source
empirique

Divergenceempirique

Régularisateur

Résultats empiriques

Problème jouet

10 degrés

30 degrés

50 degrésAmazon reviewscritiques de livres

critiques de films
-1???

+1???

???

Algorithmed'apprentissage+1-1???

???

Classificateur-1+1

Amazon reviews

Books

Dvds

Electronics

KitchenFin.