# Méthodes d'apprentissage faiblement supervisées pour la classification de patients à partir de données de cytométrie en flux

Pierre-André Mikem, Christine Keribin, Pascal Massart

► To cite this version:

Pierre-André Mikem, Christine Keribin, Pascal Massart. Méthodes d'apprentissage faiblement supervisées pour la classification de patients à partir de données de cytométrie en flux. JDS 2025 - 56ème édition des Journées de Statistiques, SFdS, Jun 2025, Marseille, France. hal-05407929

HAL Id: hal-05407929

https://hal.science/hal-05407929v1

Submitted on 9 Dec 2025

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
# MÉTHODES D'APPRENTISSAGE FAIBLEMENT SUPERVISÉES POUR LA CLASSIFICATION DE PATIENTS À PARTIR DE DONNÉES DE CYTOMÉTRIE EN FLUX

Pierre-André Mikem <fnref n="1" />,<fnref n="2" /> & Christine Keribin <fnref n="2" /> & Pascal Massart <fnref n="2" />

**Résumé.** La cytométrie en flux permet d'analyser des cellules pour détecter des anomalies associées à certaines maladies, mais l'absence d'annotations précises complique l'apprentissage supervisé. Nous proposons une approche faiblement supervisée basée sur le Multiple Instance Learning (MIL) pour classifier les patients selon leur état de santé. Dans ce cadre, chaque patient est représenté comme un bag contenant des cellules (instances), avec en général une annotation disponible uniquement au niveau du patient. Nous proposons deux méthodes principales. Dans une première, nous modélisons la distribution des cellules d'un patient avec un mélange de deux gaussiennes : une pour les cellules saines et une pour les cellules tu-morales. L'algorithme EM est utilisé pour déterminer l'annotation des cellules. Cependant, cette approche reste limitée par l'hypothèse de distributions simples. Afin de modéliser les distributions de façon plus flexible, nous proposons dans une seconde approche une méthode combinant auto-encodeur et mélange d'experts. Un auto-encodeur est utilisé pour projeter les cellules dans un espace latent réduit. Un modèle de mélange gaussien regroupe ensuite les cellules en sous-populations, chacune étant associée à un expert. Enfin, la classification d'un patient repose sur la moyenne pondérée des prédictions des experts appliquées à ses cellules. Nous montrerons l'apport de la représentation avec auto-encodeur pour traiter ces données et la comparerons avec d'autres méthodes de référence en MIL que nous appliquerons au cas de la cytométrie.

**Mots-clés.** Cytométrie en flux, Multiple Instance Learning, Auto-encodeur, Mélange d'experts

**Abstract.** Flow cytometry allows the analysis of cells to detect abnormalities associated with some diseases, but the lack of precise annotations complicates the learning. We propose a weakly supervised approach based on Multiple Instance Learning (MIL) to classify patients according to their health condition. Each patient is represented in this framework as a bag containing cells (instances), with annotations generally available at the patient level only. We propose two main methods. The first one models the patient's cell distribution with a mixture of two Gaussians: one for healthy cells and one for tumor cells. The EM algorithm is used to determine the annotation of the cells. However, this approach remains limited by the assumption of simple distributions. To model more flexible distributions, we propose a second approach that combines an autoencoder with a mixture of experts. The autoencoder is used to project cells into a reduced latent space. A Gaussian mixture model then regroups the cells into sub-populations, each associated with an expert. Finally, the patient classification is based on the weighted average of the experts' predictions on the cells. We will show the

<footnote n="1">¹ Metafora biosystems, Pépinière Paris Biotech Santé, France</footnote>

<footnote n="2">² Université Paris-Saclay, CNRS, Inria, Laboratoire de mathématiques d'Orsay, France</footnote>
benefits of using an autoencoder to represent these data and compare our approach with
other benchmark MIL methods applied to flow cytometry.

**Keywords.** Flow cytometry, Multiple Instance Learning, Autoencoder, Mixture of experts

# 1 Introduction

Certaines maladies telles que les cancers sont liées à des anomalies présentes dans le métabolisme des cellules. Une technique utilisée pour quantifier le métabolisme des cellules est appelée la cytométrie en flux. Elle consiste à faire passer les cellules à travers un laser, où leurs caractéristiques physiques (taille, granularité) et chimiques (marqueurs fluorescents) sont mesurées en temps réel. Les cellules sont ainsi caractérisées sur un ensemble de variables permettant d'identifier les différentes populations et sous-populations présentes dans un échantillon.

Dans ce projet, notre objectif est de développer des méthodes d'apprentissage automa-
tique afin de discriminer les patients selon le stade de gravité de leur maladie, tout en perme-
ttant d'extraire des schémas locaux (des cellules) représentatifs de cette gravité. Les données
de cytométrie dans ce contexte posent deux types de problème: d'une part l'hétérogénéité
des cellules tumorales, d'autre part la fiabilité de leurs annotations. Pour les résoudre, nous
proposons une approche par *Multiple Instance Learning*.

Le Multiple Instance Learning (MIL) [Carbonneau et al., 2018] est une méthode d'appren-
tissage supervisé conçue pour résoudre des problèmes où les données sont regroupées en *bags* (ensembles d'instances) avec un label global, mais sans information sur les labels individuels des instances. Le but du MIL est d'apprendre une fonction qui prédit correctement les labels des bags. Contrairement à l'apprentissage supervisé classique, où chaque instance est directement associée à un label, le MIL repose sur des hypothèses spécifiques pour relier le label d'un bag à l'existence d'une structure spécifique de ses instances (*concept*). L'article fondateur du MIL [Dietterich et al., 1997] propose l'hypothèse standard selon laquelle un bag est positif si au moins une de ses instances est positive. Cette hypothèse a été élargie et assouplie pour s'adapter à des problèmes nécessitant des relations plus complexes entre instances et bags [Foulds and Frank, 2010].

Les hypothèses de MIL utilisées dans la littérature dépendent du style de problème à résoudre et de l'application, mais nous pouvons distinguer principalement deux catégories de méthodes : 1) Les méthodes locales, qui classent d'abord les instances avant d'agréger leurs résultats pour prédire les labels des bags. 2) Les méthodes globales, qui considèrent directement les bags comme des entités uniques (par exemple, des distributions ou des nuages de points), définissent des métriques adaptées [Cheplygina et al., 2015] et utilisent des méthodes classiques comme les SVM [Andrews et al., 2002] pour les classer.

Le MIL trouve des applications variées, telles que l'analyse moléculaire et la classification
d'images [Dietterich et al., 1997, Andrews et al., 2002] et particulièrement au cours de ces dix dernières années, l'imagerie médicale [Cheplygina et al., 2019]. Ce gain d'intérêt est essentiellement dû à la volonté d'apprendre des concepts visuels complexes à partir de données peu annotées.

En cytométrie classique, [Laziri et al., 2023] proposent des méthodes de réduction de dimension à base de géométrie de l'information à partir de la mesure de quatre variables pour faire du clustering de patients sans visée prédictive. [Hacquard et al., 2023] ont défini un modèle de classification de mesures qu'ils ont appliqué à la classification de patients. D'autres se penchent vers une approche d'imagerie [Sahasrabudhe et al., 2020].

En considérant les patients comme des bags et les cellules comme des instances de ces bags, nous proposons d'utiliser le paradigme du MIL pour la classification de patients en cytométrie. Nous commencerons par illustrer la méthode en modélisant la distribution des cellules d'un bag par un simple modèle de mélange gaussien à deux composantes, avec une proportion variable selon les bags. Afin de capturer la complexité des données, nous introduirons ensuite une méthode qui repose sur l'extraction d'une structure sous-jacente des cellules à l'aide d'un auto-encodeur, structure exploitée par un mélange d'experts. Enfin, nous comparerons les performances des méthodes proposées à celles de méthodes existantes.

# 2 Modèles

A partir de données de cytométrie d'échantillons sanguins provenant de Metafora, nous souhaitons d'une part, pouvoir prédire l'état de santé d'un patient (positif (1) ou négatif (0) à la maladie), d'autre part déterminer des caractéristiques générales des cellules tumorales. Chaque patient est considéré comme un bag, étiqueté par son état de santé. Nous disposons de plus, pour quelques patients malades, de l'étiquetage (sain, tumoral) des cellules, instances du bag. Nous proposons deux modèles: l'un basé sur un gaussien mélange simple, pour fixer les ingrédients d'une méthode de MIL locale, l'autre entraînant un auto-encodeur pour capturer des patterns sous-jacents.

## 2.1 EM-MIL: un modèle de MIL par mélange simple

Nous considérons que chaque patient est un bag dont les cellules sont issues d'un modèle de mélange de deux gaussiennes, l'une représentant la composante des cellules saines, l'autre celle des cellules tumorales. La définition des composantes est partagée d'un bag à l'autre, la proportion dépendant du bag. Les labels des instances des bags sans annotations locales sont alors traités comme des variables latentes. Les probabilités a posteriori des instances sont ensuite utilisées pour la construction de la règle de décision au niveau du bag. C'est donc une méthode locale qui définit la classification d'un bag à partir de ses instances. Cette méthode très basique permet de dérouler l'ensemble des ingrédients du MIL. Elle étend les travaux de [Li et al., 2013] qui proposent une méthode de MIL par modèle de mélange de
## 2.1 EM-MIL: un modèle de MIL par mélange simple

contamination, mais avec la même proportion dans les différents bags.

De façon plus formelle, soit un ensemble de $n$ bags étiquetés $\{(X_i, Y_i), 1 \le i \le n\}$. L'étiquette $Y_i \in \{0,1\}$ est binaire et chaque bag $X_i \in \mathbb{R}^{m_i \times d}$ possède $m_i$ instances $X_{ij} \in \mathbb{R}^d, j = 1, \dots, m_i$. Nous supposons l'indépendance entre les bags d'une part, entre les instances d'un même bag d'autre part et posons un modèle de mélange à deux composantes gaussiennes $(1 - \pi_i)f_0 + \pi_i f_1$ où $f_0 \sim \mathcal{N}(\mu_0, \Sigma_0)$ représente la composante des cellules saines et $f_1 \sim \mathcal{N}(\mu_1, \Sigma_1)$ celle des cellules tumorales, $\pi_i$ étant la proportion de cellules tumorales. Pour un patient sain, $\pi_i = 0$. Lorsque les cellules d'un bag ne sont pas annotées, l'appartenance de la cellule $j$ du bag $i$ à l'une ou l'autre des composantes est gérée par la variable latente $Z_{ij} \in \{0,1\}$ telle que $P(Z_{ij} = 1) = \pi_i$. Dans le cas contraire, cette variable est connue et sa valeur est directement utilisée (apprentissage semi-supervisé). Les paramètres sont estimés par un algorithme EM [Dempster et al., 1977]. L'étape E consiste à calculer l'espérance des variables latentes conditionnellement aux observations et pour une valeur courante du paramètre. De façon classique:

$$t_{ij}^{(c)} = P(Z_{ij} = 1 | X_{ij}; \Theta^{(c)}) = \frac{\pi_i^{(c)} f_1(X_{ij}; \theta_1^{(c)})}{\pi_i^{(c)} f_1(X_{ij}; \theta_1^{(c)}) + (1 - \pi_i^{(c)}) f_0(X_{ij}; \theta_0^{(c)})}$$

À l'étape M, les proportions sont estimées par $\pi_i^{(c)} = \sum_{j=1}^{m_i} t_{ij}^{(c)}/m_i$ pour les bags de cellules non annotées et par la proportion de cellules tumorales pour les bags de cellules annotées. Les autres paramètres sont mis à jour avec les formules classiques, où les $t_{ij}^{(c)}$ sont remplacés par les valeurs observées des labels dans le cas de cellules annotées. Les $t_{ij}$ calculés sur toutes les cellules, annotées ou pas, sont ensuite utilisés pour définir une règle de décision de prédiction du label d'un bag. Il en existe plusieurs sortes [Li et al., 2013].

**La règle du produit.** Elle découle directement de la règle de Bayes et d'une factorisation de la probabilité jointe. Notons $\alpha$ la proportion des bags positifs dans le jeu d'entraînement.

$$\hat{Y}_i = \begin{cases} 1 & \text{si } \alpha^{(1-m_i)} \prod_j [P(Z_{ij} = 1 | X_{ij}) + \frac{\alpha - \pi_i \alpha}{1 - \pi_i \alpha} P(Z_{ij} = 0 | X_{ij})] \ge (1 - \alpha)^{(1-m_i)} \prod_j \frac{1-\alpha}{1-\pi_i \alpha} P(Z_{ij} = 0 | X_{ij}) \\ 0 & \text{sinon} \end{cases}$$

Bien que théoriquement justifiée, la règle du produit est très sensible à l'accumulation des erreurs d'estimation de probabilité. À la place, la règle de la somme, plus robuste aux erreurs, lui est préférée.

**La règle de la somme.** [Li et al., 2013] montre que la règle de la somme est obtenue par une approximation de la règle du produit. Elle revient à utiliser une moyenne pondérée des probabilités.

$$\hat{Y}_i = \begin{cases} 1 & \text{si } \alpha(1 - m_i) + \sum_j P(Z_{ij} = 1 | X_{ij}) + \frac{\alpha - \pi_i \alpha}{1 - \pi_i \alpha} P(Z_{ij} = 0 | X_{ij}) \ge (1 - \alpha)(1 - m_i) + \sum_j \frac{1 - \alpha}{1 - \pi_i \alpha} P(Z_{ij} = 0 | X_{ij}) \\ 0 & \text{sinon} \end{cases}$$
**La règle gamma.** Lorsque la règle de décision des instances détermine directement le label prédit $\hat{Z}_{ij}$ par 0 ou 1 sans passer par la modélisation du score $P(Z_{ij}|X_{ij})$, [Li et al., 2013] proposent de remplacer le score par le label prédit dans la règle somme. En posant $\gamma_i = \sum_j 1_{\{\hat{Z}_{ij}=1\}}/m_i$, la proportion d'instances prédites positives dans un bag $X_i$, la règle gamma s'écrit alors:

$$ \hat{Y}_i = 1 \text{ si } \gamma_i \ge \frac{(1 - \pi\alpha)(1 - 2\alpha)}{2(1 - \alpha)m_i} + \pi\alpha; \quad \hat{Y}_i = 0 \text{ sinon.} $$

## 2.2 Auto-encodeurs et Mélange d'experts

Le modèle de mélange simple à deux composantes reste limité par l'hypothèse (trop simple) de distributions gaussiennes. Pour dépasser cette limitation, nous explorons une approche plus flexible en utilisant des auto-encodeurs pour extraire une représentation pertinente des cellules, capturant ainsi des caractéristiques plus complexes. Nous appliquons ensuite un mélange d'experts sur cette structure latente pour améliorer la classification des patients.

### Auto-encodeurs

Un auto-encodeur est un réseau de neurones conçu pour encoder les données d'entrée dans une représentation compressée, puis les décoder pour reconstruire une représentation de sortie aussi similaire que possible à l'entrée. Le réseau se compose principalement de l'encodeur, qui compresse l'entrée, et du décodeur, qui la reconstruit. Les auto-encodeurs sont entraînés de manière non supervisée, ce qui leur permet d'apprendre des représentations informatives des données sans avoir besoin d'étiquettes.

Il existe plusieurs types d'auto-encodeurs dans la littérature. Pour nos expériences, nous avons utilisé l'auto-encodeur orthogonal (OAE) [Wang et al., 2019] qui permet de projeter les données sur des plans orthogonaux. Le problème d'optimisation s'écrit :

$$ \min_{\theta, \theta'} \|X - \hat{X}\|_{F} + \lambda \|H^{T}H - I\|_{F}^{2} $$

où $f_{\theta}(X) = H$ est le réseau de neurones représentant la fonction d'encodage et $g_{\theta'}(H) = \hat{X}$ celui représentant la fonction de décodage. Le paramètre $\lambda$ permet l'expression de la contrainte d'orthogonalité.

### Mélange d'experts

Le mélange d'experts (Mixture of Experts, MoE, [Gormley and Frühwirth-Schnatter, 2019]) est une approche d'apprentissage où plusieurs modèles spécialisés (experts) collaborent pour résoudre un problème complexe. Plutôt que d'utiliser un modèle unique, le MoE divise l'espace des données en sous-régions, chaque expert $\Phi_k$ se spécialisant sur une partie spécifique du problème. Dans notre cas, nous appliquons le MoE aux groupes de cellules révélés par la représentation latente de l'auto-encodeur. Nous attribuons à chaque expert un poids $w_k$ qui correspond à la proportion du groupe de cellules correspondant, reflétant ainsi son importance relative dans la classification. Cette approche permet une modélisation plus flexible en tenant compte de la complexité des sous-populations cellulaires et de leur impact sur l'état de gravité du patient. Nous proposons donc un processus en quatre étapes principales :
1. Extraction d'une représentation latente $H$ : un auto-encodeur projette les cellules dans un espace latent réduit à trois dimensions. Cette représentation permet de capturer les structures sous-jacentes complexes des données.

2. Clustering des cellules : dans cet espace latent, un modèle de mélange gaussien à $K$ composantes regroupe les cellules en sous-populations homogènes avec des proportions ou poids $w_k$ respectifs.

3. Classification par mélange d'experts : à chaque groupe de cellules est associé à un expert $\Phi_k$, modélisé ici par un ensemble d'arbres de décision (Gradient Boosting). Pour entraîner ces experts, le label $Z_{ij}$ attribué à chaque cellule $X_{ij}$ est le label observé pour les cellules provenant de bags de cellules annotées, l'état de gravité $Y_i$ du patient si ce n'est pas le cas. Le poids de chaque expert dans le mélange est déterminé par la proportion de cellules appartenant à son groupe. Le classifieur final pour une cellule est donc le suivant :

$$ \Phi^{(\text{MoE})}(X_{ij}) = \sum_{k=1}^{K} w_k \Phi_k(H_{ij}) $$

où $H_{ij} = f_{\theta}(X_{ij})$ est la représentation de l'instance $X_{ij}$ dans l'espace de l'auto-encodeur.

4. Prédiction de l'état d'un nouveau patient : les cellules sont d'abord projetées dans l'espace latent par l'auto-encodeur. Ensuite, chaque expert prédit l'état de gravité de toutes les cellules et la prédiction finale pour une cellule est calculée comme la moyenne pondérée des prédicitions des experts. Enfin, l'état global du patient est obtenu en utilisant les règles de décision définies en section 2.1.

# 3 Expérimentations numériques

Dans cette communication, nous présenterons les résultats de comparaison de ces méthodes sur des données simulées comme sur des données réelles. En particulier, nous montrerons la robustesse de la règle somme, même si elle n'est pas la règle théoriquement optimale. Sur un jeu de données d'une étude sur le Myélome multiple issu du laboratoire de Metafora, nous montrerons l'apport de la représentation par auto-encodeur, faisant apparaître une structure intéressante. Enfin, nous challengerons les méthodes locales présentées avec une méthode globale alliant MIL, réseaux de neurones et mécanisme d'attention, proposé par [Ilse et al., 2018].

# References

[Andrews et al., 2002] Andrews, S., Tsochantaridis, I., and Hofmann, T. (2002). Support vector machines for multiple-instance learning. *Advances in neural information processing systems*, 15.
[Carbonneau et al., 2018] Carbonneau, M.-A., Cheplygina, V., Granger, E., and Gagnon, G. (2018). Multiple instance learning: A survey of problem characteristics and applications. *Pattern Recognition*, 77:329-353.

[Cheplygina et al., 2019] Cheplygina, V., De Bruijne, M., and Pluim, J. P. (2019). Not-so-supervised: a survey of semi-supervised, multi-instance, and transfer learning in medical image analysis. *Medical image analysis*, 54:280-296.

[Cheplygina et al., 2015] Cheplygina, V., Tax, D. M., and Loog, M. (2015). Multiple instance learning with bag dissimilarities. *Pattern recognition*, 48(1):264-275.

[Dempster et al., 1977] Dempster, A. P., Laird, N. M., and Rubin, D. B. (1977). Maximum likelihood from incomplete data via the em algorithm. *Journal of the royal statistical society: series B (methodological)*, 39(1):1-22.

[Dietterich et al., 1997] Dietterich, T. G., Lathrop, R. H., and Lozano-Pérez, T. (1997). Solving the multiple instance problem with axis-parallel rectangles. *Artificial intelligence*, 89(1-2):31-71.

[Foulds and Frank, 2010] Foulds, J. and Frank, E. (2010). A review of multi-instance learning assumptions. *The knowledge engineering review*, 25(1):1-25.

[Gormley and Frühwirth-Schnatter, 2019] Gormley, I. C. and Frühwirth-Schnatter, S. (2019). Mixture of experts models. In *Handbook of mixture analysis*, pages 271-307. Chapman and Hall/CRC.

[Hacquard et al., 2023] Hacquard, O., Blanchard, G., and Levrard, C. (2023). Statistical learning on measures: an application to persistence diagrams. *arXiv preprint arXiv:2303.08456*.

[Ilse et al., 2018] Ilse, M., Tomczak, J., and Welling, M. (2018). Attention-based deep multiple instance learning. In *International conference on machine learning*, pages 2127-2136. PMLR.

[Laziri et al., 2023] Laziri, W., Allemand, F., Gégout-Petit, A., and Wantz-Mézières, S. (2023). Méthodes de réduction de dimension basées sur l'algorithme fine pour le clustering de patients à partir de données de cytométrie en flux. In *54es Journées de Statistiques de la SFDS*.

[Li et al., 2013] Li, Y., Tax, D. M., Duin, R. P., and Loog, M. (2013). Multiple-instance learning as a classifier combining problem. *Pattern recognition*, 46(3):865-874.

[Sahasrabudhe et al., 2020] Sahasrabudhe, M., Sujobert, P., Zacharaki, E. I., Maurin, E., Grange, B., Jallades, L., Paragios, N., and Vakalopoulou, M. (2020). Deep multi-instance learning using multi-modal data for diagnosis of lymphocytosis. *IEEE Journal of Biomedical and Health Informatics*, 25(6):2125-2136.

[Wang et al., 2019] Wang, W., Yang, D., Chen, F., Pang, Y., Huang, S., and Ge, Y. (2019). Clustering with orthogonal autoencoder. *IEEE Access*, 7:62421-62432.