# Qualification du biais de données dans le processus de la science des données

Ginel Dorleon, Nathalie Bricon-Souf, Imen Megdiche, Olivier Teste

► To cite this version:

Ginel Dorleon, Nathalie Bricon-Souf, Imen Megdiche, Olivier Teste. Qualification du biais de données dans le processus de la science des données. Jérôme Azé; Vincent Lemaire. 21ème conférence Extraction et Gestion des Connaissances (EGC 2021), Jan 2021, Montpellier, France. RNTI: Revue des Nouvelles Technologies de l'Information, EGC 2021. Revue des Nouvelles Technologies de l'Information, RNTI-E-37, pp.515-516. hal-03333980

HAL Id: hal-03333980

https://hal.science/hal-03333980

Submitted on 16 Feb 2023

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
# Qualification du biais de données dans le processus de la science des données

¹Gine Dorleon*, ¹Imen Megdiche**

¹Nathalie Bricon-Souf***, ¹Olivier Teste****

¹Institut de Recherche en Informatique de Toulouse, Toulouse, France

*ginel.dorleon@irit.fr, **imen.megdiche@irit.fr,

***nathalie.souf@irit.fr, ****olivier.teste@irit.fr

Dans le contexte de l'apprentissage machine, les données constituent la principale res-
source pour guider les prises de décisions. Cependant, lorsque des biais existent dans les don-
nées, cela affecte de façon significative l'interprétation des décisions. Par biais, nous entendons
toute erreur survenue dans la collecte, le traitement ou l'utilisation des données due à des mé-
thodes ou à des algorithmes et qui peut conduire à des préjugés. Dans ce travail, notre étude
est basée sur la définition et la qualification du biais dans les données. À l'aide d'un processus
d'apprentissage, Fig.1, nous avons identifié les endroits sur le processus où les biais peuvent
survenir. Nous avons défini ces biais en appuyant sur des travaux existants puis nous avons
qualifié ces biais en utilisant le processus décrit à la Fig.1

<figure><img src="image_2.png" /><figcaption>FIG. 1 – Schéma représentant les trois étapes du processus</figcaption></figure>

Nous avons représenté ce processus en trois étapes afin de mieux illustrer les biais. Chaque
étape est dédiée à un objectif spécifique :

1. Collecte de Données : Cette étape contient les actions consacrées à recueillir des informations du monde réel tout en extrayant un échantillon d'une population. Trois types
Qualification du biais de données dans le processus de la science des données

de biais sont identifiés à cette étape. Le biais historique qui concerne les problèmes socio-techniques qui existent déjà dans l'environnement où les données sont collectées. Le biais d'échantillonnage qui est dû à un échantillonnage où les individus n'ont pas la même probabilité d'être sélectionnés. Le biais de représentation qui provient des critères utilisés pour échantillonner la population.

2. Préparation de Données : Cette étape contient les actions qui aident à mesurer et à sélectionner les caractéristiques pour construire un ensemble de données d'apprentissage. Deux types de biais sont identifiés à cette étape. Le biais de mesure qui provient de la façon dont nous choisisons et mesurons une caractéristique particulière. Le biais de la variable omise qui se produit lorsqu'une ou plusieurs caractéristiques importantes sont omises pendant la phase d'apprentissage du modèle.

3. Utilisation du Modèle : Cette étape regroupe les actions liées à l'entraînement, à l'évaluation et au déploiement du modèle. Trois types de biais sont identifiés. Le biais d'agrégation qui apparaît lorsque le modèle est utilisé sur des sous-groupes avec des distributions conditionnelles différentes. Le biais d'évaluation qui se produit lorsque les données d'évaluation utilisées pour évaluer le modèle ne représentent pas la population cible initiale. Enfin le biais de déploiement qui surgis s'il y a un décalage entre le problème que le modèle est conçu pour résoudre et la façon dont il est réellement utilisé.

Nous avons ensuite souligné les défis liés aux différentes étapes du processus d'apprentissage dans la science des donnés. Nous avons considéré ces défis sous 3 catégories : Imbalanced Data, Feature Selection, Model Deployment. Dans le tableau 1 ci-dessous, nous résumons ces défis et les biais respectifs susceptibles de découler de ces défis.

<table><caption>TAB. 1 – Défis et biais associés</caption><thead><tr><th>Défis / Biais</th><th>Histor.</th><th>Échantil.</th><th>Représ.</th><th>Mésur.</th><th>Var. Omise</th><th>Agréga.</th><th>Éval.</th><th>Déploi.</th></tr></thead><tbody><tr><td>Imbalanced Data</td><td>✓</td><td>✓</td><td>✓</td><td></td><td></td><td></td><td></td><td></td></tr><tr><td>Feature Select.</td><td></td><td></td><td></td><td>✓</td><td>✓</td><td></td><td></td><td></td></tr><tr><td>Model Deploy.</td><td></td><td></td><td></td><td></td><td></td><td>✓</td><td>✓</td><td>✓</td></tr></tbody></table>

Bien que nous ne proposions pas de nouvelles méthodes pour atténuer ces biais, nous avons cependant attiré l'attention, dans le tableau 2, sur des solutions antérieures qui cependant doivent être utilisées dans leur contexte respectif. Notre objectif est que cette revue soit un guide utile pour sensibiliser les lecteurs et motiver la recherche sur la notion de biais.

<table><caption>TAB. 2 – Solution existante relative (3e ligne du tableau) à chaque type de biais.</caption><thead><tr><th rowspan="2">Étape:</th><th colspan="2">Collecte de données</th><th colspan="2">Préparation de données</th><th colspan="2">Déploiement du modèle</th></tr><tr><th>Type de biais</th><th>Biais d'échantillonnage</th><th>Biais de représentation</th><th>Biais de mesure</th><th>Biais variable omise</th><th>Biais d'agrégation</th><th>Biais d'évaluation</th></tr></thead><tbody><tr><td>Solution existante</td><td>Ressampling</td><td>Reweighing</td><td>Ensemble feature selection</td><td>Double cross-validation</td><td>Multitask learning</td><td>Subgroup evaluation</td></tr></tbody></table>