# Plateformisation de l'apprentissage machine en épidémiologie : enjeux philosophiques

Éric Pardoux<fnref n="1" />, Thomas Guyet²

¹ CNRS & ENS Lyon, IHRIM & MFO

² INRIA Lyon

eric.pardoux@ens-lyon.fr ; thomas.guyet@inria.fr

## Résumé

L'épidémiologie se numérise massivement grâce la disponibilité croissante des données de santé. Elle tend à utiliser de plus en plus d'outils informatiques pour automatiser la réalisation d'études. Les enjeux éthiques de l'automatisation en santé sont bien connus, néanmoins leur résolution au sein du système même est complexe. À défaut de rendre un outil éthique, on s'interroge sur la possibilité et les moyens de systématiser une réflexion éthique dans la conception d'études épidémiologiques utilisant des données de santé. L'ambition de ce projet est de fournir une plateforme qui facilite la reproduction des études épidémiologiques tout en soutenant la réflexion éthique. Au travers de cet article prospectif, nous mêlons des réflexions techniques et philosophiques sur une telle plateforme.

## Mots-clés

Données de santé, Épidémiologie, Philosophie des techniques, FAIRification, Éthique de l'IA

## Abstract

Epidemiology is becoming massively digitized, thanks to the growing availability of health data. It tends to use more and more computerised tools to automate the conduct of studies. The ethical challenges of automation in healthcare are well known, but resolving them within the system itself is complex. Making the system itself ethical appears to be difficult, albeit impossible : the question is therefore whether and how it can instead foster ethical reflection in the design of epidemiological studies using health data. The ambition of this project is to provide a platform that facilitates study replication and supports ethical reflection. In this prospective article, we combine technical and philosophical reflections on such a platform.

## Keywords

Health data, Epidemiology, Philosophy of technology, FAIRification, AI ethics

# 1 Introduction

Les études épidémiologiques sont fondamentales pour la médecine fondée sur les preuves. Elles permettent de mettre

en évidence des liens entre des causes probables et des effets observés au cours de maladies et de pathologies. L'épidémiologie se numérise massivement ces dernières années grâce la disponibilité croissante des données de santé, ainsi que des progrès dans les moyens de calcul – au premier rang desquels l'intelligence artificielle (IA) et plus particulièrement le machine learning (ML).

Cette introduction de nouvelles techniques de traitement de données est annoncée comme révolutionnaire (1), que ce soit au niveau de l'identification des risques pour les personnes, de l'amélioration d'interventions ciblées ou encore de l'identification de nouveaux motifs précurseurs de pathologies dans les parcours de soin. Néanmoins, cette numérisation croissante n'efface pas les problèmes éthiques et scientifiques de l'épidémiologie, voire les augmente (2). Idéalement toute étude épidémiologique se doit d'être transparente – notamment quant aux données employées et aux traitements menés – et reproductible. Ceci tout en visant à maximiser les bénéfices pour la santé publique et à minimiser les éventuels nuisances, notamment envers des groupes particuliers au sein des populations, dont il s'agit à la fois de s'assurer la représentativité en fonction des problèmes adressés et leur consentement au réemploi de leurs données de santé. Concevoir une étude épidémiologique présente donc une réflexion dynamique plus large qu'un simple raisonnement statique sur des données populationnelles de santé<fnref n="1" />. La reproduction de résultats d'études épidémiologiques est rendue à l'heure actuelle difficile du fait de l'accès non garanti aux données ou encore de l'absence récurrente du contexte et des méta-données employées. Les pipelines de traitement de données peuvent ainsi s'avérer complexes à reconstruire indépendamment. Développer une plateforme centralisant ces éléments faciliterait la reproduction des études épidémiologiques.

L'ambition de notre projet est de fournir une plateforme qui permette de soutenir la réflexion épidémiologique autour des enjeux éthiques et scientifiques sans pour autant s'y substituer. Pour ce faire, le raisonnement épidémiolog-

<footnote n="1">1. Nous effectuons ici une distinction entre la réflexion, comprise comme l'activité générique cognitive de pensée à propos d'un sujet et de son contexte, et le raisonnement, compris comme suite d'arguments organisés suivant des principes et règles logiques – soit le sens classique du terme en IA : le contexte se limite aux (méta)données fournies au système.</footnote>
gique moderne, déjà fortement codifié dans le domaine de
la santé publique (3), est vu comme un workflow scienti-
fique (4), i.e. une suite d'opération de collecte de données et
d'analyses statistiques conduisant à la réponse à une ques-
tion précise. Il s'agit de traiter ces workflows suivant les
principes FAIR<fnref n="2" /> (5), tout en intégrant des outils facilitant
une conception éthique des études épidémiologiques à par-
tir des données de santé, au sein d'une seule plateforme.

Ces considérations ouvrent au plan de l'éthique, où elles
retrouvent les questions fondamentales de représentativité
et d'équité dans le traitement des données. De quelle fa-
çon pourraient-elles être incluses dans la plateforme ou au
contraire à quel point la responsabilité reste fonction du
cadre d'usage ? La FAIRification suffit-elle à répondre à ces
enjeux éthiques ? Ou bien le caractère éthique du système
algorithmique reste-t-il toujours à construire, avec l'aide de
ce dernier et contre ses dérives ?

Face aux enjeux visant à faire se rencontrer des parties pre-
nantes aux connaissances et intérêts variés<fnref n="3" />, la question est
celle de savoir comment faciliter une réflexion éthique sys-
tématique à défaut de rendre le système d'aide à la décision
éthique. En d'autres termes, la plateforme doit catalyser et
faciliter la réflexion éthique chez l'épidémiologiste, plutôt
que d'être éthique en elle-même.

## 2 Plateforme pour le raisonnement épidémiologique

L'opportunité d'exploiter les données médico-
administratives pour mener certaines recherches épi-
démiologiques (6) a conduit à développer l'utilisation
des méthodologies de l'analyse de données au sein de ce
domaine de recherche.

**Exemple 1** Prenons l'exemple d'une étude sur l'impact sur la survie en fonction du délai de prise en charge des patients pour exérèse pulmonaire suite au diagnostic d'un cancer du poumon. L'approche épidémiologique classique conduirait à collecter pendant plusieurs années des informations sur des patientes et patients qui seront opérées, puis à mener une étude statistique. Dans une approche utilisant des données de santé, nous utilisons des données historisées dans les entrepôts pour identifier des patients d'intérêts et mener l'étude statistique.

Dans les deux cas, il faut procéder en identifiant des pa-
tientes et patients d'intérêt, en collectant des informations
sur les délais entre le diagnostic et la chirurgie, et sur
le décès éventuel. Enfin, il faut mener une analyse de
survie. Dans le cas de l'utilisation des données médico-
administratives, toutes ces étapes peuvent être réalisées par
des outils informatiques : requêtes SQL et méthodes statis-
tiques.

Parfois l'identification de certains évènements d'intérêt né-
cessite des analyses plus poussées. En particulier, pour ré-
cupérer les informations de dates des chirurgies des pa-
tients et patientes, il peut être nécessaire d'utiliser des ou-
tils d'IA de traitement automatique du langage (TAL) pour
analyser les rapports médicaux (7).

Les spécificités de l'approche sur données médico-
administratives sont 1) d'exploiter des sources de données
massives pour répondre à une multitude de questions de
santé publique. C'est le cas en particulier du Système Na-
tional de Données de Santé (SNDS) ou des données hospi-
talières qui sont aujourd'hui utilisées dans de nombreuses
études; 2) d'utiliser une collection d'outils de traitement
génériques qui sont mobilisés pour pré-traiter, analyser et
présenter des données (requêtes à des bases de données,
traitements algorithmiques et statistiques, visualisations).
Ces deux caractéristiques rendent possibles une plateformi-
sation concrète de l'épidémiologie, par la réalisation d'une
plateforme logicielle au travers de laquelle les épidémiolo-
gistes pourraient concevoir et réaliser leurs études.

**Exemple 2** (Ex. 1 cont.) Aujourd'hui, pour conduire l'étude de notre exemple, c'est un ensemble d'outils et de code (e.g., R ou Python) qui sont utilisés de manière ad hoc et sans soucis de cohérence. Le ou la data scientist enchaîne manuellement les étapes de son projet (souvent à l'aide de fichiers intermédiaires). Une plateforme vise à structurer et normaliser ces différents outils et processus.

Les enjeux de la conception d'une telle plateforme sont :

- de permettre aux épidémiologistes, notamment par l'usage d'outils d'analyse avancés d'IA, de tirer au mieux partie des données existantes. Il s'agit de conserver une latitude de programmation et de parameterisation élevée lors des usages, laissant ainsi le champ des possibles le plus ouvert possible pour l'épidémiologiste. C'est un enjeu d'encapacitation.

- de faciliter la possibilité de partage entre les différentes études épidémiologiques qui seraient entreprises. On peut alors penser en particulier à des jeux de reproductibilité, ou à la conception de méta-analyses, classiquement menées en épidémiologie pour consolider les résultats des études.

- de favoriser une conception éthique des études épi-
démiologiques. En effet, on ne peut pas garantir
le caractère éthique d'un outil, néanmoins *via l'in-
tégration native de méthodes conformes aux ap-
proches FAIR* (8) d'une part et l'implémentation
d'outils de mesure de l'équité (9) ou de respect de
la vie privée (10) par exemple, nous rendons la pla-
teforme plus apte à soutenir la réflexion éthique de
l'épidémiologiste.

Pour mener des réflexions sur la conception d'une telle pla-
teforme, nous nous appuyons sur la philosophie des tech-
niques. En plus des approches FAIR, la démarche poursui-
vie au sein de ce projet se rapproche du *metadesign* (11,
12), qui consiste pour les concepteurs que nous sommes à

<footnote n="2">2. Ces principes visent à rendre les données Faciles à (re)trouver, Accessibles, Interopérables et Réutilisables, pour faciliter leur exploitation autant par les machines que par les individus.</footnote>

<footnote n="3">3. On pourra distinguer des nuances notamment entre chercheurs et chercheuses, *data scientists*, épidémiologistes, médecins de santé publique, décideurs et décideuses, la population ou encore les associations de patients et patientes. Ces entités ont toutes un intérêt dans les décisions de santé publique éclairées par l'épidémiologie.</footnote>
redonner la main sur le produit final du système (les *workflows*) aux posseusses et possesseurs du problème (les épidémiologistes) par le biais d'un outil ouvert et largement configurable.

## 3 Des études comme des workflows

On peut faire un parallèle entre une étude épidémiologique et un workflow computationnel scientifique. De manière générale, un workflow scientifique (5) est une description formelle de la réalisation d'un objectif scientifique comme un ensemble de tâches et leurs dépendances. De son côté, le workflow computationnel (13) permet la réalisation (automatique) des étapes d'un workflow, chacune de ces étapes étant un traitement computationnel. Dans la plupart des études épidémiologiques menées sur des données médicales administratives, on retrouve systématiquement les mêmes jalons : sélection de patients, transformation des données (*feature engineering*) et analyse des données. Ces étapes correspondent à celles classiques des études épidémiologiques. Elles se distinguent néanmoins par le fait qu'elles sont concrètement des traitements computationnels appliqués sur des données numériques (requêtes SQL, traitements algorithmiques). L'étude épidémiologique complète peut alors être vue comme un workflow computationnel. Le travail de l'épidémiologiste revient alors à concevoir un workflow qui répond à la question scientifique d'intérêt. Un premier objectif est de le décharger des contraintes techniques de la manipulation des données pour qu'il se focalise sur la réflexion épidémiologique.

Concrètement, la plateforme proposée se traduit par :

1) la définition d'un **formalisme générique pour la représentation de données**. Nous avons opté pour une représentation des données sous la forme d'une cohorte longitudinale. Un individu du jeu de données est un patient ou une patiente décrite par un ensemble d'attributs statiques et un parcours de soins (ensemble d'évènements datés). La cohorte est ainsi associée à un schéma de description des données (attributs statiques et dynamiques). Le schéma et les données pouvant être annotés par des méta-données, notamment leur provenance. L'utilisation de données non-structurées (documents textuels, images, etc.) sera intégrée comme attribut.

2) la spécification de la notion d'**étape d'un workflow**, i.e. un traitement "élémentaire" d'une cohorte. Dans notre spécification, un traitement transforme une cohorte (spécifiée par schéma *C*) dans une nouvelle cohorte (spécifiée par nouveau schéma *C'*) et réalisant également des modifications des données (et des méta-données). 4 Le traitement lui-même est implémenté sous la forme d'un script (e.g. Python).

3) un **éditeur de workflows** qui permet à l'épidémiologiste lors de l'utilisation de construire de manière interactive le * workflow* de son étude, de l'exécuter et de visualiser les résultats.

En complément, un ensemble de traitements de base sera fourni pour mettre en place des *workflows* usuels en épidémiologie. Les briques de bases des *workflows* à partir de parcours de soin comprennent (14) : le chargement de données, la sélection de patients, la sélection et transformation d'évènements, la détection d'évènements de santé.
Le déploiement d'outils à base de modèle d'IA<fnref n="5" /> comme étapes d'un workflow fait partie des évolutions attendues de notre plateforme. En particulier, leur utilisation doit permettre d'exploiter des contenus textuels ou d'images. Ils peuvent également servir à identifier des évènements de santé complexes à partir du parcours de soins. La documentation de ces traitements est importante car elle soulève des questions de provenance ou de biais qui doivent être expliquées pour l'interprétation des résultats d'une étude.

**Exemple 3** (Ex. 1 cont.) Reprenons maintenant l'exemple de l'étude sur les cancers du poumon menée sur un hôpital hospitalier dont on connaît le schéma de base de données. Ce que permet la plateforme proposée, c'est de représenter l'étude sous la forme d'un workflow computationnel. En pratique, il s'agit simplement d'un fichier (e.g., au format SnakeMake<fnref n="6" />) qui décrit l'enchainement des étapes et qui peut être exécutée de manière informatique. Chaque étape fait appel à un code spécifique et paramétrable issu d'une bibliothèque de codes usuels. Par exemple, l'outil de repérage des actes médicaux à base de TAL qui serait paramétrisé dans le workflow pour identifier les chirurgie d'exérèse pulmonaire pour sélectionner les patients et patients d'intérêt. Dans ce cas, le workflow conserverait le type et version du modèle TAL utilisé ainsi que l'ensemble des paramètres qui ont été utilisés. De la sorte, le workflow décrit complètement le processus et celui-ci peut être (re-)exécuter à la demande de manière identique.
Ce workflow aura été construit de manière interactive par l'épidémiologiste ou data scientist qui a choisi les traitements élémentaires et les a configurés pour obtenir l'étude souhaitée.

Certaines approches d'analyse de données médicales administratives s'apparentent à l'idée de concevoir des workflows computationnels sous la forme algébrique (14) ou logicielle (15, 16). Ces différentes approches apportent une formalisation propre des études épidémiologiques et facilitent l'automatisation des traitements. Elles restent néanmoins difficilement réutilisables par manque d'organisation du partage des ressources.

Un cas applicatif typique serait par exemple la recherche de nouveaux profils pathologiques à partir d'un corpus de données multimodales (textes, images, nombres...) obtenues à partir de dossiers de santé médico-administratifs ou encore des applications de repositionnement de médicaments. Traditionnellement, toutes les étapes décrites précédemment dans la génération d'un workflow répondant à ce genre

<footnote n="4">4. On met de côté des traitements spécifiques liés à l'import et à l'export des données du workflow.</footnote>

<footnote n="5">5. Un modèle d'IA est à comprendre ici comme obtenu par apprentissage automatique. La construction de tels modèles n'est pas l'objectif de notre plateforme : ils sont à construire en dehors et peuvent être utilisés pour enrichir les traitements de données de santé.</footnote>

<footnote n="6">6. https://snakemake.readthedocs.io</footnote>
d'études auraient été construites en grande partie ad hoc et conjointement entre épidémiologistes et personnes expertes en science des données. L'enjeu est de systématiser l'organisation de ses ressources (de données et de workflows), tout en favorisant la réflexion éthique et scientifique.

# 4 De l'outil FAIR au pro-éthique

Concevoir la plateforme selon un principe de metadesign – celui d'un bac à sable de développement de workflows épidémiologiques – permet d'accommoder ces enjeux organisationnels mais n'est pas suffisant. Suivre un principe d'open source, permettant la co-construction de modules intégrables, favorisera l'adéquation de la plateforme aux usages des épidémiologistes. Ceci rejoint pragmatiquement les enjeux d'explicabilité, récurrents dans le cadre de l'éthique de l'IA (17), en permettant à l'utilisation de recourir aux méthodes d'explicabilité les plus pertinentes contextuellement. Un partage des workflows et résultats obtenus sur la plateforme pourra être réalisé et formalisé différemment en fonction des attentes et des compétences scientifiques et techniques des différentes parties prenantes.

Notre proposition est de développer une plateforme pour concevoir des workflows computationnels en épidémiologie en s'appuyant sur des outils du web sémantique (format RDF (Resource Data Framework) pour la représentation du schéma des entrepôts, de représentation des méta-données, des workflows et de leurs étapes (18, 19); utilisation d'ontologies médicales pour enrichir la sémantique des descriptions) pour s'approcher au mieux des principes FAIR, qui soutiennent la transparence et la reproductibilité du traitement de données. Les workflows computationnels scientifiques ont déjà montré leur intérêt pour la FAIRification, notamment dans le cadre de l'analyse de données biologiques (8) et ont contribué à l'amélioration de la méthodologie en bioinformatique et à la standardisation de certains outils d'analyse.

L'utilisation d'outils du web sémantique vise ainsi à formaliser les notions de workflow en épidémiologie tout en permettant leur documentation par des méta-données facilitant leur réutilisation correcte. Les méthodologies et workflows employés par chaque étude seraient transposables aisément vers de nouveaux projets, favorisant la réutilisabilité et la comparaison. Ces propriétés sont ainsi dans la lignée des principes FAIR, promouvant transparence et reproductibilité.

**Exemple 4** Dans l'exemple de notre étude, l'utilisation d'une représentation en RDF permet de décrire des méta-données riches sur le workflow de manière standardisée (vial'utilisation d'ontologie) et chacune des étapes. Par ailleurs, c'est également toutes les méthodes de la librairie de traitements qui seraient enrichies de méta-données pour les rétrouver et les réutiliser d'une étude à l'autre.

Les enjeux éthiques liés au développement d'un tel projet ne se limitent toutefois pas à la transparence ni à sa reproductibilité, ni même au caractère co-construit de son développement. Nous reconnaissions la difficulté – voire l'impossibilité de principe – de rendre éthique un processus

d'automatisation, même partiel, de l'épidémiologie. L'enjeu devient de rendre le système non pas éthique mais *a minima* pro-éthique (20). Cette démarche de conception, proposée par Luciano Floridi, consiste à structurer uniquement l'information fournie lors de procédures décisionnelles, sans que cela n'entrave en rien les options pratiques associées à la décision effective. Le *metadesign* nous paraît donc être parfaitement adapté à ces fins : la plateforme devient avant tout une structure supportant la mise en place de workflows épidémiologiques. Dans une démarche pro-éthique, des informations sont données à l'épidémiologiste sur les contraintes statistiques, éthiques ou légales qui peuvent entourer les différentes briques de base mobiliées – données ou raisonnements par exemple. Le but n'est alors plus de faire en sorte que le système garantisse une conformité éthique universelle ou même seulement contextuelle, mais plutôt qu'il fournisse tous les éléments nécessaires à l'épidémiologiste pour construire un workflow performant en pleine connaissance des enjeux éthiques sousjacent. Cela nécessite ainsi de rajouter une couche informationnelle à tous les niveaux de la plateforme. Que ce soit sur la provenance des données – leur représentativité, les biais dans leur collecte, sur les contraintes portant sur certaines briques de bases des modèles à construire – hypothèses de répartition de population par exemple, ou encore sur les résultats mêmes en sortie de pipeline. Adopter une démarche pro-éthique requiert ainsi une objectivation non seulement du processus réflexif épidémiologique (quelles données sont nécessaires, pour quelles fins, au travers de quels traitements), mais également du processus de délibération éthique.

Concevoir une plateforme pour la conception pro-éthique de workflows demande ainsi un travail d'anticipation des briques de bases qui devraient pouvoir être intégrées au sein du système. Celui-ci se doit d'être l'intégration technique non seulement des spécifications nécessaires à la réflexion épidémiologique mais il doit également rendre aisément possible la réflexion et l'agir éthique. Cette exigence éthique est récurrente dans la littérature sur le développement responsable de l'IA et plus particulièrement du ML. L'éthique de l'IA est fréquemment fondée sur le suivi de grands principes généraux (21). Dans le cadre de projets particuliers, ces derniers s'avèrent souvent abstraits mais peuvent s'incarner sous forme de chartes éthiques fournissant un cadre plus adapté aux contextes d'usage. Si les chartes éthiques ont un rôle majeur à jouer dans la conception technique, cela se doit d'être reflété dans la documentation technique (22). De cette façon, tout un écosystème informationnel doit se former autour de l'objet technique, à la fois pour documenter sur ses possibilités, tout autant que pour mettre en garde sur ses potentiels mésages. En ce sens, le développement de la plateforme de façon pro-éthique devra passer par le développement d'une charte éthique fixant des exigences informationnelles sur chacun de ses éléments. Cela, non dans une visée de transparence pour elle-même mais dans l'objectif de produire une meilleure réflexion épidémiologique dans l'ensemble – éthiquement comme épistémiquement.
Augmenter le niveau d'information sur chacun des éléments de la plateforme n'est pas une réponse satisfaisante en soi. En effet, cela engendrait des problèmes d'interprétabilité communs à tous les systèmes dont l'échelle est trop grande pour être appréhendée cognitivement. L'automatisation partielle peut être possible à ce niveau également. C'est-à-dire en opérant une réflexion sur le workflow lui-même. L'utilisation d'une formalisation des workflows par des outils du web sémantique rend possible des raisonnements sur les workflows et leurs méta-données. L'exemple paradigmatique de ce genre d'implémentation est la quantification de l'équité (23) : si chaque traitement indiquait, au travers de ses méta-données, des mesures d'(in-)équité de ces traitements, il serait techniquement possible de quantifier des risques d'inéquité du workflow dans son intégralité. Il ne s'agit pas ici de faire en sorte de les optimiser en suivant des standards mathématiques arbitraires mais plutôt d'implémenter de façon native dans la plateforme diverses mesures d'équité permettant d'améliorer la prise en compte de conceptions diverses de l'équité<fnref n="7" /> par les systèmes que nous développons (24). Il est encore incertain que d'autres principes éthiques puissent se prêter à une formulation sous forme de métrique (23). Néanmoins, l'intégration a minima de mesures diverses de l'équité pourrait déjà informer l'épidémiologiste tout au long de sa conception pour favoriser certains choix de modules.

Dans cette situation encore, la possibilité de comparer différents workflows de traitement de données au sein d'un même cadre permet de faciliter à la fois l'optimisation en fonction de paramètres internes à un workflow donné mais également d'établir ensuite une comparaison entre études. L'enjeu est également de permettre d'identifier des moyens d'action en faveur de groupes traditionnellement défavorisés par les études épidémiologiques, tout en permettant une fouille automatisée des données qui pourrait mettre en avant des sous-populations négligées traditionnellement non identifiées.

Au global, une mise en place réussie de la plateforme telle que nous la concevons devrait ainsi permettre à la communauté des épidémiologistes de disposer d'un outil répondant à plusieurs besoins éthiques et scientifiques dans la conception de leurs études. Formalisation des raisonnements (et des hypothèses sous-jacentes), FAIRification et intégration de raisonnements sur la provenance ou encore l'équité, le tout couplé à des alertes concernant d'éventuels défauts dans le raisonnement statistique sont autant d'éléments qui enrichissent les capacités réflexives de l'épidémiologiste.

# 5 Discussion et perspectives

L'épidémiologie traverse actuellement une période de grandes transformations du fait de la numérisation massive de ses pratiques. Cela entraîne une nécessaire montée en compétences pour les épidémiologistes dans le but de mobiliser du mieux possible les données médico-administratives

à disposition. La conception d'une plateforme permettant la construction simplifiée de workflows épidémiologiques répond en partie à ces enjeux. La plateforme permet de conceptualiser la réflexion épidémiologique à trois niveaux. Premièrement, elle sert d'interface avec des bases de données existantes au travers d'un formalisme générique de représentation. Ensuite, le traitement de ces données est lui aussi formalisé sous forme d'étapes élémentaires de workflows, dont la structure doit être interopérable et documentée. Enfin, le workflow lui-même peut devenir l'objet de raisonnements, ouvrant à la possibilité de réflexions épistémologiques et éthiques, de comparaisons inter-workflows ou encore d'évaluation de la transformation opérée sur les données de la cohorte initiale. Ceci pourrait faciliter l'évaluation de la robustesse d'une hypothèse entre différents contextes, le croisement de jeux de données, la comparaison de différents workflows sur des populations variées et ainsi de suite, tout en associant des indications techniques et éthiques à chaque étude.

**Exemple 5** Dans le cas de l'étude du cancer, nous pouvons illustrer deux raisonnements automatiques qui pourraient être menés :

- identification de biais par l'analyse de la provenance : à partir d'un workflow, il est possible de remonter jusqu'aux modèles de machine learning qui ont été utilisés pour l'étude (par exemple, celui qui a servi à identifier les patients opérés). Admettons que le modèle a été décrit par des meta-données de description du jeu d'apprentissage et qu'elles mentionnent un déséquilibre de genre. Il est alors possible d'inférer (automatiquement) que le workflow s'appuie sur des modèles biaisés (et d'informer l'épidémiologiste en conséquent).

- explicitation de différences entre études. Si un autre workflow a été construit pour répondre à la même question, la mise à disposition des workflows permet 1) de répliquer l'autre méthodologie sur ses propres données pour identifier si les différences de résultats viennent des données ou du workflow et 2) de comparer formellement les workflows (comparaison de graphes) pour identifier ce qui diffère dans la méthodologie.

Concevoir la démarche de développement d'une plate-forme pour l'apprentissage machine en épidémiologique suivant une démarche de metadesign pro-éthique se démarque d'une croyance en la possibilité d'intégrer et de garantir l'éthique dans la technique même. La plateformation de l'épidémiologie telle que nous la concevons ne revient pas à s'assurer de la présence de garde-fous exhaustifs garantissant un caractère éthique sans faille à tous les futurs workflows produits via la plateforme. Concevoir une plateforme pour rendre éthique la conception d'études épidémiologiques implique donc avant tout pour la plateforme de favoriser la réflexion éthique chez l'épidémiologiste. En ce sens, les enjeux de documentation et de FAIRification se trouvent renforcés par le design pro-éthique. Ce dernier s'incarne dans le metadesign au travers de la synergie entre

<footnote n="7">7. Les mesures à prendre pour corriger un problème de parité statistique lié à des données historiquement biaisées ne seront pas les mêmes qu'un biais du traitement impliquant des faux négatifs ou positifs pour un groupe donné.</footnote>
simplification des outils de construction de *workflows* pour
des parties prenantes moins spécialistes et mise à dispo-
sition renforcée de l'information. Rendre pro-éthique une
plateforme épidémiologique comme nous les concevons ne
se substitue ni à une réflexion éthique constante ni à un
contrôle extérieur de son caractère éthique. Si elle n'offre
pas une garantie absolue d'une épidémiologie éthique, elle
fournira néanmoins un terreau fertile à cela. Aucun artifice
technique ou critère éthique supposé universel ne peut se
substituer à la réflexion éthique et scientifique de l'épédé-
miologiste peut mener en contexte. L'enjeu est ainsi d'ou-
tiller l'épidémiologie des meilleurs outils grâce aux der-
nières évolutions techniques. Les réflexions philosophiques
offertes ici sont préliminaires et ne sont en rien exhaustives.
D'autres enjeux philosophiques – paternalisme, asymétries
de connaissances, éthique globale... – seront à adresser lors
des futurs développements de la plateforme.

Remerciements

La thèse d'É. Pardoux est financée par le projet CNRS
Prime-80 ED-AIM.

Références

(1) WIENS, J. et SHENOY, E. S. (2017). Machine Learning for Healthcare : On the Verge of a Major Shift in Healthcare Epidemiology. *Clinical Infectious Diseases* 66, 149-153.

(2) SALERNO, J. et al. (2023). Current ethical and social issues in epidemiology. *Annals of Epidemiology* 80, 37-42.

(3) DAB, P. W. (1989). L 'ÉPIDÉMIOLOGIE. G. Brücker et D. Fassin, Santé publique. Aubin Imprimeur : Ligugé, Poitiers, 11-53.

(4) COHEN-BOULAKIA, S. et al. (2017). Scientific workflows for computational reproducibility in the life sciences : Status, challenges and opportunities. *Future Generation Computer Systems* 75, 284-298.

(5) WILKINSON, M. D. et al. (2016). The FAIR Guiding Principles for scientific data management and stewardship. *Scientific Data* 3.

(6) GOLDBERG, M. et al. (2008). Bases de données médico-administratives et épidémiologie : intérêts et limites. *Courrier des statistiques* 124, 59-70.

(7) SANGARIYAVANICH, E. et al. (2023). Systematic review of natural language processing for recurrent cancer detection from electronic medical records. *Informatics in Medicine Unlocked*, 101326.

(8) COHEN-BOULAKIA, S. et LEMOINE, F. (2024). Workflows for Bioinformatics Data Integration. *Biological Data Integration: Computer and Statistical Approaches*, 53-85.

(9) PESSACH, D. et SHMUELI, E. (2022). A review on fairness in machine learning. *ACM Computing Surveys (CSUR)* 55, 1-44.

(10) LIU, B. et al. (2021). When machine learning meets privacy : A survey and outlook. *ACM Computing Surveys (CSUR)* 54, 1-36.

(11) FISCHER, G. in *Human-Computer Interaction*, JACKO, J. A. et STEPHANIDIS, C., éd.; CRC : 2003, p. 88-92.

(12) GUENNEC, Y. L. (2016). Le métadesign, ou comment l'expérience doit échapper au designer. *Sciences du Design* 4, 124-127.

(13) GOBLE, C. et al. (2020). FAIR Computational Workflows. *Data Intelligence* 2, 108-121.

(14) GUYET, T. Enhancing sequential pattern mining with time and reasoning, thèse de doct., Université de Rennes 1, 2020.

(15) PETIT-JEAN, T. et al. eds-scikit : data analysis on OMOP databases.

(16) BACRY, E. et al. (2020). SCALPEL3 : a scalable open-source library for healthcare claims databases. *International Journal of Medical Informatics*, 104203.

(17) NAGAHISARCHOGHAEI, M. et al. (2023). An Empirical Survey on Explainable AI Technologies : Recent Trends, Use-Cases, and Categories from Technical and Application Perspectives. *Electronics* 12, 1092.

(18) BOWERS, S. et LUDÄSCHER, B. in *International Workshop on Data Integration in the Life Sciences*, 2004, p. 1-16.

(19) SAWADOGO, P., GUYET, T. et AUDUREAU, E. in *Santé et IA 2022*, 2022.

(20) FLORIDI, L. (2016). Tolerant Paternalism : Pro-ethical Design as a Resolution of the Dilemma of Tolerance. *Science and Engineering Ethics* 22, 1669-1688.

(21) JOBIN, A., IENCA, M. et VAYENA, E. (2019). The global landscape of AI ethics guidelines. *Nature Machine Intelligence* 1, 389-399.

(22) PISTILLI, G. et al. (2023). Stronger Together : on the Articulation of Ethical Charters, Legal Tools, and Technical Documentation in ML.

(23) PALUMBO, G., CARNEIRO, D. et ALVES, V. (2024). Objective metrics for ethical AI : a systematic literature review. *International Journal of Data Science and Analytics*.

(24) MITTELSTADT, B., WACHTER, S. et RUSSELL, C. The Unfairness of Fair Machine Learning : Levelling down and strict egalitarianism by default, 2023.