# Extraction différentiable d'ensemble de motifs d'intervalle

Lamine Diop, Marc Plantevit

► To cite this version:

Lamine Diop, Marc Plantevit. Extraction différentiable d'ensemble de motifs d'intervalle. Extraction et Gestion de Connaissances (EGC'26), Jan 2026, Anglet (France), France. hal-05511161

HAL Id: hal-05511161

https://hal.science/hal-05511161v1

Submitted on 14 Feb 2026

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons CC BY 4.0 - Attribution - International License
# Extraction différentiable d'ensemble de motifs d'intervalles

Lamine Diop*, Marc Plantevit*

*Laboratoire de recherche de l'EPITA (LRE), Le Kremlin-Bicêtre FR-94276, France
{lamine.diop;marc.plantevit}@epita.fr

**Résumé.** L'exploration de motifs est une technique clé pour extraire des connaissances à partir de données complexes. Néanmoins, les méthodes traditionnelles basées sur l'énumération peinent souvent à passer à l'échelle et produisent de grands ensembles de motifs redondants ou trop génériques, limitant leur utilité pratique. Les récentes méthodes différentiables d'exploration de motifs offrent une alternative prometteuse en combinant architectures neuronales et contraintes symboliques pour apprendre des motifs compacts et interprétables. Toutefois, ces méthodes restent limitées aux données binaires. Dans ce travail, nous introduisons un nouveau cadre différentiable pour extraire des motifs d'intervalles directement à partir de données numériques. Notre approche préserve la sémantique des variables continues sans discrétisation ou binarisation, permettant la découverte d'ensembles de motifs concis et interprétables. Nous démontrons l'utilité de notre méthode pour la détection d'anomalies, atteignant des résultats à l'état de l'art sur plusieurs jeux de données de référence tout en garantissant scalabilité et interprétabilité.

## 1 Introduction

L'extraction de motifs sert à trouver des informations utiles et faciles à comprendre dans des ensembles de données complexes. Les méthodes classiques d'extraction de motifs (Zaki et al., 1997) fonctionnent bien dans certains cas, mais elles ont des limites : elles produisent souvent beaucoup de motifs, dont beaucoup sont trop généraux ou redondants, ce qui complique l'obtention d'un résumé clair des données.

Pour pallier cela, plusieurs approches ont cherché à produire des ensembles de motifs plus compacts et pertinents (De Bie, 2011; Gionis et al., 2007; Raedt et Zimmermann, 2007). Ces méthodes améliorent l'interprétabilité, mais elles peuvent être très coûteuses en calcul car elles reposent souvent sur des recherches exhaustives. Ce problème devient critique quand les données sont très nombreuses ou de très grande dimension, et pousse à l'utilisation d'heuristiques telles l'échantillonnage (Boley et al., 2012; Bosc et al., 2018; Dzyuba et al., 2017) ou à l'introduction d'hypothèses restrictives pour rendre la tâche faisable — au prix d'une applicabilité réduite.

Récemment, un nouveau cadre appelé "extraction de motifs différentiables" a été proposé (Fischer et Vreeken, 2021; Walter et al., 2024; Chataing et al., 2024). Ces méthodes combinent la puissance des réseaux de neurones avec des contraintes symboliques pour apprendre des
motifs lisibles par l'humain. Par exemple, Fischer et Vreeken (2021) présentent un autoencod-
deur binarisé qui utilise l'optimisation par descente de gradient pour découvrir des conjonc-
tions d'attributs formant des motifs interprétables. L'idée est d'apprendre une représentation
structurée et binaire qui reste compréhensible, tout en profitant de l'efficacité de l'optimisation
continue.

Dans ce travail, nous poussons cette idée plus loin en sortant du cadre des données binaires. Nous proposons un nouveau cadre différentiable pour découvrir des motifs sous forme d'intervalles dans des données numériques. Notre méthode extrait de bout en bout des représentations compactes et faciles à lire, sans avoir à discrétiser ou binariser les données au préalable. Les expériences montrent que notre approche permet d'extraire des ensembles de motifs interprétables dont la qualité est validée sur une "tâche en aval" de détection d'anomalies en obtenant des résultats état-de-l'art.

2 Travaux connexes

Les méthodes classiques d'extraction de motifs incluent Apriori (Agrawal et Srikant, 1994), Eclat (Zaki et al., 1997) et FP-Growth (Han et al., 2000). Elles servent à trouver des motifs fréquents dans des matrices binaires. Pour les données numériques, on trouve des extensions comme les *pattern structures* et la découverte de sous-groupes (Kaytoue et al., 2011; Lemerich et al., 2016; Belfodil et al., 2018) ou encore des méthodes d'échantillonnage en sortie (Bekkoucha et al., 2025).

Pour réduire les motifs redondants, des approches se focalisant sur la qualité des motifs ont été proposées. Parmi elles, des méthodes orientées compression comme KRIMP qui utilise le principe MDL (Vreeken et al., 2011). Les instanciations du cadre du *pattern set mining* visent des collections diverses et non redondantes (De Bie, 2011) vis-à-vis de connaissances *a priori*. Des tests statistiques servent à filtrer les motifs pertinents (Gionis et al., 2007). Ces méthodes restent toutefois coûteuses. L'espace de recherche croît exponentiellement. De plus, l'énumération exhaustive nécessite souvent un seuil de fréquence rendant peu réalisable un usage sur des jeux de données à grande dimension.

Issu de l'apprentissage neuro-symbolique, l'extraction de motifs différentiables évite l'énu-
mération exhaustive. Parallèlement, l'apprentissage de règles interprétables a suivi deux voies.
Les méthodes combinatoires extraient des règles conjonctives par optimisation (Chen et Rudin,
2018; Dash et al., 2018; Hayden et al., 2022; Lakkaraju et al., 2016; Proença et van Leeuwen,
2020). Les approches neuronales intègrent l'extraction de règles dans des réseaux (Dierckx
et al., 2023; Kusters et al., 2022; Wang et al., 2021, 2020). Ces méthodes visent surtout la
performance prédictive. Elles sont moins centrées sur la découverte descriptive de motifs.

Fischer et al. (Fischer et Vreeken, 2021) ont proposé un cadre différentiable majeur. Il combine réseaux neuronaux et contraintes symboliques pour découvrir des motifs interprétables à l'aide de l'optimisation par gradient. L'autoencodeur binarisé encode les données dans un espace latent structuré. Des travaux suivants (Walter et al., 2024; Chataing et al., 2024) ont affiné la méthode pour produire des règles de classification. Une limite majeure demeure : ces méthodes ciblent uniquement des données binaires et imposent une discrétisation des attributs numériques entraînant une perte d'information et une dégradation de la qualité des motifs.

Notre travail comble ce manque. Nous étendons l'extraction différentiable aux données
numériques. Nous proposons un cadre pour découvrir des motifs d'intervalles dans des espaces
continus via une optimisation différentiable. Cette approche évite la discrétisation et permet d'extraire des motifs plus précis et expressifs.

# 3 Fouille différentiable d'ensembles de motifs d'intervalles

**Formulation du problème.** Soit $\mathcal{D} = \{x^{(i)}\}_{i=1}^n \subset \mathbb{R}^d$ un jeu de données numérique composé de $N$ instances. Chaque vecteur d'entrée $x^{(i)} = (x_1^{(i)}, x_2^{(i)}, \dots, x_d^{(i)}) \in \mathbb{R}^d$ est un vecteur de caractéristiques réelles de dimension $d$. Sans perte de généralité, nous supposons que toutes les caractéristiques ont été normalisées sur l'intervalle $[-1, +1]$, ce qui permet d'interpréter de manière cohérente les bornes d'intervalle entre les différentes dimensions.

Un motif d'intervalles $\mathcal{X}_k \subseteq \mathbb{R}^d$ est spécifié en sélectionnant, pour chaque dimension de caractéristique $x_j$, un intervalle fermé $[c_{kj}, \bar{c}_{kj}]$. Formellement, $\mathcal{X}_k = \|_{j=1}^d [c_{kj}, \bar{c}_{kj}]$, c'est-à-dire la concatenation des intervalles le long de chaque dimension. Une instance $x^{(i)} \in \mathbb{R}^d$ est dite couverte par le motif $\mathcal{X}_k$, notée $x^{(i)} \in \mathcal{X}_k$ si et seulement si $\forall j \in \{1, \dots, d\}, \ c_{kj} \le x_j^{(i)} \le \bar{c}_{kj}$. Intuitivement, $\mathcal{X}_k$ définit une région hyper-rectangulaire dans l'espace des caractéristiques de dimension $d$. Pour un motif donné $\mathcal{X}_k$, sa couverture dans $\mathcal{D}$ est le sous-ensemble (éventuellement vide) des instances dont les vecteurs de caractéristiques sont couverts par $\mathcal{X}_k$: $cover(\mathcal{X}_k, \mathcal{D}) = \{x^{(i)} \in \mathcal{D} | x^{(i)} \in \mathcal{X}_k\}$.

Étant donné un jeu de données numérique $\mathcal{D}$, notre objectif est de trouver un ensemble de motifs d'intervalles $\mathcal{P}$ qui décrit les données. Une interprétation de cette notion consiste à dire qu'un ensemble de motifs est correct s'il permet de reconstruire $\mathcal{D}$. Évidemment, une solution naïve serait de retourner l'identité. Nous cherchons un ensemble réduit de motifs permettant une meilleure généralisation et également une meilleure interprétation de par sa taille réduite.

**Vue d'ensemble de DIPSMiner.** La Figure 1 donne une vue d'ensemble de notre méthode. DIPSMiner<fnref n="1" /> vise à identifier un ensemble de $K$ motifs d'intervalles permettant la reconstruction du jeu de données $\mathcal{D}$. Nous introduisons un mécanisme différentiable qui affine et active ces intervalles pendant l'entraînement, permettant au modèle d'ajuster les bornes d'intervalle de manière guidée par les données tout en conservant la régularité requise pour l'optimisation par gradient. DIPSMiner procède en trois étapes principales : (i) échantillonner un ensemble de $k$ motifs candidats à partir de $\mathcal{D}$; (ii) initialiser le réseau à l'aide de ces motifs, tout en les rendant différentiables en adoptant une représentation par centre et rayon; (iii) affiner les motifs d'intervalle initiaux afin de reconstruire fidèlement les données.

## 3.1 Représentation différentiable des motifs

Pour exploiter les motifs d'intervalles initialisés dans la couche de raffinage, il est nécessaire de modifier la représentation des intervalles. Plutôt que de représenter un intervalle par ses deux bornes, nous utilisons une représentation par centre et rayon afin de permettre leur raffinage de façon différentiable. Pour chaque motif $\mathcal{X}_k$ et caractéristique $x_j$, nous initialisons le centre $c_{kj}^{(0)}$ au milieu de l'intervalle correspondant. Ce positionnement garantit que l'activation initiale de l'intervalle est symétriquement située et recouvre pleinement la région de caractéristique visée : $c_{kj}^{(0)} = \frac{c_{kj} + \bar{c}_{kj}}{2}$. La largeur de l'intervalle doit aussi refléter le prior initial. Nous

<footnote n="1">1. DIPSMiner signifie Differentiable Interval Pattern Set Miner.</footnote>
Extraction différentiable d'ensemble de motifs d'intervalleles

<figure><img src="image_2.png" /><figcaption>FIG. 1 – Vue d'ensemble de notre cadre pour la reconstruction de données basée sur un ensemble différentiable de motifs d'intervalle. L'entrée $x \in \mathbb{R}^d$ est encodée en caractéristiques interprétables d'intervalle, qui sont décodées pour reconstruire $x$. Tous les paramètres d'intervalle et les poids du décodeur sont appris conjointement de bout en bout.</figcaption></figure>

définissons la demi-largeur initiale comme une proportion mise à l'échelle de la longueur totale de l'intervalle, contrôlée par un hyperparamètre scalaire $r_{init} : r_{init} \Delta_{kj}^{(0)} = \frac{\bar{c}_{kj} - c_{kj}}{2}$. En résolvant pour $\Delta_{kj}^{(0)}$ on obtient : $\Delta_{kj}^{(0)} = \frac{\bar{c}_{kj} - c_{kj}}{2r_{init}}$. Pour assurer la différentiabilité et la positivité bornée pendant l'entraînement, nous reparamétrons la largeur via la fonction softplus. Cela consiste à calculer le paramètre brut correspondant $\delta_{kj}^{(0)}$ par l'inverse de la softplus : $\delta_{kj}^{(0)} = \text{softplus}^{-1}(\Delta_{kj}^{(0)}) = \ln(e^{\Delta_{kj}^{(0)}} - 1)$. Ainsi, à l'initialisation : softplus($\delta_{kj}^{(0)}$) = $\Delta_{kj}^{(0)}$, ce qui permet à la couche de reproduire exactement les intervalles initiaux.

**L'encodeur : couche de raffinage des motifs d'intervallees.** Cette couche est au cœur de notre cadre : elle transforme des intervalles statiques, initialisés aléatoirement, en motifs adaptatifs capables de reconstruire le jeu de données. L'appartenance d'une instance $x$ à un intervalle est intrinsèquement non différentiable. Pour permettre un apprentissage de bout en bout, nous remplaçons les fonctions seuil par des approximations différentiables en utilisant des sigmoïdes à chaque borne. Pour une caractéristique $x_j$ et un motif $k$ nous posons $s_{kj}^{\text{low}}(x_j) = \sigma(\alpha(x_j - \underline{c}_{kj}))$, et $s_{kj}^{\text{up}}(x_j) = \sigma(\alpha(\bar{c}_{kj} - x_j))$, où $\sigma(z) = \frac{1}{1+e^{-z}}$ et $\alpha > 0$ (appris pendant l'entraînement) contrôle la raideur. Le produit $I_{kj}(x_j) = s_{kj}^{\text{low}}(x_j) \times s_{kj}^{\text{up}}(x_j)$ évalue l'appartenance (floue) à un intervalle : il est proche de 1 lorsque $x_j$ est bien à l'intérieur de $[\underline{c}_{kj}, \bar{c}_{kj}]$ et décroît progressivement en dehors. Pour encourager la compétition et la spécialisation explicite entre motifs, nous normalisons les scores sur l'ensemble des motifs. La formulation Log-Sum-Exp (LSE) crée un mécanisme de softmax compétitif qui transforme les compatibilités en une distribution de probabilité sur les K motifs :

$$f_k^{\text{LSE}}(x) = \frac{\exp\left(\sum_{j=1}^{d} \ln I_{kj}(x_j)\right)}{\sum_{i=1}^{K} \exp\left(\sum_{j=1}^{d} \ln I_{ij}(x_j)\right)}$$

Plutôt que des scores indépendants, cette formulation fait concourir directement les motifs — chacun “vote” pour un point en fonction de sa couverture d'intervalle, la softmax effectuant une sélection lissée du gagnant. Lorsque $\alpha \to \infty$, exactement un motif contenant le point prend la probabilité 1. Pour la découverte de motifs, LSE impose une partition compétitive de l'espace en territoires différentiables où les motifs se spécialisent pour expliquer au mieux les instances.
<caption>**Algorithm 1 Inférence : Reconstruction de la donnée**</caption>

**Require:** Instance $x^{(i)} \in \mathbb{R}^d$, paramètres entraînés $\{c_{kj}, \delta_{kj}, r_{\text{raw}}, \alpha_{\text{log}}\}$ et poids $\{W_\ell, b_\ell\}_{\ell=1}^L$
1: $r \leftarrow \text{softplus}(r_{\text{raw}})$, $\alpha \leftarrow \text{clamp}(e^{\alpha_{\text{log}}}, \alpha_{\text{min}}, \alpha_{\text{max}})$
2: **for** $k = 1$ to $K$, $j = 1$ to $d$ **do**
3:     $\Delta_{kj} \leftarrow \text{softplus}(\delta_{kj})$
4:     $\underline{c}_{kj} \leftarrow c_{kj} - r\Delta_{kj}$, $\bar{c}_{kj} \leftarrow c_{kj} + r\Delta_{kj}$
5:     $I_{kj}(x_j^{(i)}) \leftarrow s_{kj}^{\text{low}}(x_j^{(i)}) \times s_{kj}^{\text{up}}(x_j^{(i)})$
6:     $h^{(0)} \leftarrow [f_k^{\text{LSE}}(x_j^{(i)})]_{k=1}^K$
7:     **for** $\ell = 1$ to $L-1$ **do**
8:         $h^{(\ell)} \leftarrow \text{ReLU}(W_\ell h^{(\ell-1)} + b_\ell)$
9:     **return** $\hat{x}$ avec $\hat{x} \leftarrow W_L h^{(L-1)} + b_L$

**Reconstruction des données.** Le décodeur transforme le vecteur d'activations abstrait et de dimension $K$, $f(x) \in \mathbb{R}^K$, en une reconstruction fidèle de l'entrée originale $x \in \mathbb{R}^d$ à l'aide d'un perceptron multi-couches standard. L'algorithme 1 reconstruit un nouvel exemple en utilisant le modèle entraîné. Le processus calcule d'abord comment chaque caractéristique de l'entrée se conforme aux intervalles appris, puis agrège ces scores en une représentation compacte. Le réseau décodeur utilise cette représentation pour reconstruire l'entrée en une unique passe avant; la sortie $\hat{x}$ permet de calculer des erreurs de reconstruction par caractéristique ou par échantillon (utile, par exemple, pour la détection d'anomalies).

**Entraînement de l'autoencodeur.** L'algorithme 2 entraîne conjointement l'encodeur d'intervalles et le décodeur. Pour chaque lot, le modèle calcule les activations d'intervalle $I_{kj}(x_j)$, les agrège en représentations de motifs $f(x)$, puis reconstruit l'entrée via le décodeur. L'entraînement minimise la fonction de perte RMSE ($\mathcal{L}_{\text{RMSE}}$). À convergence, les paramètres $c_{kj}, \delta_{kj}, r_{\text{raw}}, \alpha_{\text{log}}$ définissent des intervalles raffinés $[\underline{c}_{kj}, \bar{c}_{kj}]$. Les poids du décodeur $W_\ell, b_\ell$ réalisent la transformation inverse des activations de motifs vers $\mathbb{R}^d$ par empilement d'opérateurs affines et non-linéarités. La descente de gradient ajuste ces paramètres pour minimiser l'erreur de reconstruction et assurer $\hat{x} \approx x$.

## 3.2 Garanties théoriques

**ReLU profond.** Tandis que l'approche de "soft-union" approxime directement des régions dans l'espace d'entrée, de nombreux modèles modernes projettent d'abord les entrées dans un espace latent appris avant de décoder. Pour justifier l'utilisation d'un décodeur compact basé sur ReLU dans notre couche d'intervalles, nous invoquons le résultat classique d'approximation universelle : toute application continue d'un domaine latent compact vers l'espace d'entrée peut être réalisée à une précision arbitraire par un réseau ReLU suffisamment large et profond. Le théorème 1 garantit donc que le choix d'un petit perceptron multi-couche (MLP) pour le décodeur ne limite pas l'expressivité.

**Théorème 1 (Approximation par ReLU profond)** Soit $\Omega \subset \mathbb{R}^K$ compact et soit $g : \Omega \to \mathbb{R}^d$ une fonction continue. Considérons un réseau ReLU de profondeur $L+1$,

$\hat{x}(z) = W^{(L+1)}\sigma(\dots\sigma(W^{(1)}z+b^{(1)})\dots) + b^{(L+1)}$, où $\sigma(u) = \max\{0, u\}$ agit élément-par-élément et la couche cachée $\ell$ a une largeur $H_\ell$. Alors, pour tout $\varepsilon > 0$ il existe des
<caption>**Algorithm 2** Entraînement de l'autoencodeur de données basé sur des intervalles</caption>

**Require:**
Jeu de données $\mathcal{D} = \{x^{(i)} \in \mathbb{R}^d\}_{i=1}^n$, K motifs, taux d'apprentissage $\eta$, taille du mini-lot $B$

1: &nbsp;&nbsp;&nbsp;&nbsp;Initialiser les paramètres de l'encodeur $\{c_{kj}, \delta_{kj}, r_{\text{raw}}, \alpha_{\text{log}}\}$ et les poids du décodeur $\{W_{\ell}, b_{\ell}\}_{\ell=1}^L$
2: &nbsp;&nbsp;&nbsp;&nbsp;**for** epoch $m = 1$ to num_epochs **do**
3: &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;Shuffle dataset
4: &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;**for** each mini-batch $\mathcal{B} \subseteq \mathcal{D}$ **do**
5: &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;$r \leftarrow \text{softplus}(r_{\text{raw}})$ et $\alpha \leftarrow \text{clamp}(e^{\alpha_{\text{log}}}, \alpha_{\text{min}}, \alpha_{\text{max}})$
6: &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;**for** each $x^{(i)} \in \mathcal{B}$ **do**
7: &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;**for** $k = 1$ à K, $j = 1$ à d **do**
8: &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;$\Delta_{kj} \leftarrow \text{softplus}(\delta_{kj})$
9: &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;$\underline{c}_{kj} \leftarrow c_{kj} - r\Delta_{kj}$, $\overline{c}_{kj} \leftarrow c_{kj} + r\Delta_{kj}$
10: &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;$I_{kj}(x_j^{(i)}) \leftarrow s_{kj}^{\text{low}}(x_j^{(i)}) \times s_{kj}^{\text{up}}(x_j^{(i)})$ &nbsp;&nbsp;&nbsp;&nbsp;▷ activation de l'attribut $j$ pour le motif $k$
11: &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;$h^{(0,i)} \leftarrow [f_k^{\text{LSE}}(x^{(i)})]_{k=1}^K$
12: &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;$h^{(\ell,i)} \leftarrow \text{ReLU}(W_{\ell}h^{(\ell-1,i)} + b_{\ell}) \quad \forall \ell \in [1..L-1]$
13: &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;$\hat{x}^{(i)} \leftarrow W_L h^{(L-1,i)} + b_L$
14: &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;Calculer $\mathcal{L}_{\text{RMSE}}$ et $\nabla \leftarrow \nabla_{\theta}\mathcal{L}$ &nbsp;&nbsp;&nbsp;&nbsp;▷ Calcul de la perte et optimisation
15: &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;optimizer.step()

**Ensure:** Encodeur $\{c_{kj}, \delta_{kj}, r_{\text{raw}}, \alpha_{\text{log}}\}$, Décodeur $\{W_{\ell}, b_{\ell}\}$

largeurs de couches $H_1, \dots, H_L$ suffisamment grandes et des paramètres $\{W^{(\ell)}, b^{(\ell)}\}_{\ell=1}^{L+1}$ tels que $\sup_{z \in \Omega} \|\hat{x}(z) - g(z)\| < \varepsilon$. La même assertion vaut pour tout décodeur latent paramétré de manière analogue.

**Unions de régions.** Les frontières de décision réelles sont souvent des formes complexes et non convexes dans $\mathbb{R}^d$. Toutefois, toute région compacte de ce type peut être approchée arbitrairement bien en prenant une union finie de régions simples (boules/intervalleles) puis en lissant cette union pour obtenir un indicateur différentiable. Le théorème 2 formalise cette intuition : en ajustant les rayons, centres et un paramètre de netteté $\alpha$, notre construction en “union floue” peut approcher la fonction caractéristique d’une région cible.

**Théorème 2 (Approximation par unions)** Soit $D \subset \mathbb{R}^d$ une région cible compacte, et soit $S \supset D$ un compact. Pour toute tolérance $\varepsilon > 0$, il existe $K \in \mathbb{N}$, $\{c_k\}_{k=1}^K \subset \mathbb{R}^d$, et $\{r_k\}_{k=1}^K \subset (0, \infty)^d$, $\alpha > 0$, tels que la fonction d’union définie par $F(x) = 1 - \prod_{k=1}^K [1 - \sigma(\alpha(1 - \|D_k^{-1}(x - c_k)\|_2))]$, avec $D_k = \text{diag}(r_{k,1}, \dots, r_{k,d})$, vérifie $\sup_{x \in S} |F(x) - \mathbf{1}_D(x)| \le \varepsilon$.

**Consistance d’erreur** Supposons que le modèle encodeur-décodeur partitionne l’espace d’entrée en $d$ intervalles (sous-espaces) interprétables sémantiquement, et que l’erreur de reconstruction à l’intérieur de chaque région soit bornée par $\epsilon_j < \tau$ avec une probabilité élevée. Alors, sous l’hypothèse d’indépendance des contributions des sous-espaces, la probabilité globale qu’un exemple soit reconstruit sous le seuil acceptable vérifie $\mathbb{P}(\epsilon < \tau) \ge 1 - \prod_{j=1}^d (1 - \mathbb{P}(\epsilon_j < \tau))$. Ainsi, la détection basée sur la reconstruction devient plus robuste à mesure que davantage de motifs d’intervalleles contribuent de façon consistante à des approximations précises — cela fournit une base théorique au critère d’anomalie fondé sur l’erreur moyenne.

**Optimisation par gradient de bout en bout.** En enchaînant tous les composants, la dérivée de la perte par rapport à un centre $c_{kj}$ s’écrit : $\frac{\partial \mathcal{L}}{\partial c_{kj}} = \sum_{k'} \frac{\partial \mathcal{L}}{\partial f_{k'}} \frac{\partial f_{k'}}{\partial s_{k'j}} \frac{\partial s_{k'j}}{\partial \ell_{k'j}} \frac{\partial \ell_{k'j}}{\partial c_{kj}}$, où chaque facteur
est strictement borné et non nul dans les régimes de fonctionnement considérés, garantissant
ainsi l'absence de gradient qui s'annule ou explose au cours de l'entraînement.

**Preuves** : Les preuves des théorèmes sont disponibles en annexe. Nous y avons également mis les détails théoriques sur la différentiabilité et la stabilité du gradient ainsi que les propriétés sur le comportement de notre métrique d'interprétabilité ICR.

# 4 Expérimentations

Dans cette section, nous évaluons DIPSMiner sur un cas d'utilisation réel — la détection d'anomalies — sur 17 jeux de données de référence. Nous analysons ensuite les performances de reconstruction sous contrainte de budget de motifs et comparons DIPSMiner aux approches de l'état de l'art sur la détection d'anomalies.<fnref n="2" />

<table><caption>TAB. 1 – Statistiques des jeux de données et mesures de performance (AUC, MAE et nombre optimal de motifs *K*).</caption><thead><tr><th>Dataset</th><th>#Instances</th><th>#Dim.</th><th>%Outlier</th><th>AUC</th><th>MAE</th><th>K</th></tr></thead><tbody><tr><td>arrhythmia</td><td>452</td><td>274</td><td>14.60</td><td>0.8233 ± 0.0225</td><td>0.1094 ± 0.0038</td><td>80</td></tr><tr><td>cardio</td><td>1831</td><td>21</td><td>9.61</td><td>0.9031 ± 0.0227</td><td>0.0921 ± 0.0082</td><td>10</td></tr><tr><td>glass</td><td>214</td><td>9</td><td>4.21</td><td>0.6711 ± 0.1562</td><td>0.2260 ± 0.0109</td><td>50</td></tr><tr><td>ionosphere</td><td>351</td><td>33</td><td>35.90</td><td>0.9086 ± 0.0313</td><td>0.1856 ± 0.0450</td><td>10</td></tr><tr><td>letter</td><td>1600</td><td>32</td><td>6.25</td><td>0.8052 ± 0.0395</td><td>0.1597 ± 0.0093</td><td>10</td></tr><tr><td>lympho</td><td>148</td><td>18</td><td>4.05</td><td>0.9838 ± 0.0187</td><td>0.4904 ± 0.0238</td><td>70</td></tr><tr><td>mnist</td><td>7603</td><td>100</td><td>9.21</td><td>0.9138 ± 0.0095</td><td>0.1073 ± 0.0017</td><td>80</td></tr><tr><td>musk</td><td>3062</td><td>166</td><td>3.17</td><td>1.0000 ± 0.0000</td><td>0.1437 ± 0.0055</td><td>10</td></tr><tr><td>optdigits</td><td>5216</td><td>64</td><td>2.88</td><td>0.9571 ± 0.0108</td><td>0.1296 ± 0.0023</td><td>80</td></tr><tr><td>pendigits</td><td>6870</td><td>16</td><td>2.27</td><td>0.9639 ± 0.0185</td><td>0.0232 ± 0.0057</td><td>200</td></tr><tr><td>pima</td><td>768</td><td>8</td><td>34.90</td><td>0.6874 ± 0.0218</td><td>0.1897 ± 0.0206</td><td>70</td></tr><tr><td>satellite</td><td>6435</td><td>36</td><td>31.64</td><td>0.8108 ± 0.0080</td><td>0.0424 ± 0.0023</td><td>100</td></tr><tr><td>satimage-2</td><td>5803</td><td>36</td><td>1.22</td><td>0.9982 ± 0.0011</td><td>0.0431 ± 0.0012</td><td>50</td></tr><tr><td>shuttle</td><td>49,097</td><td>9</td><td>7.15</td><td>0.9954 ± 0.0009</td><td>0.0017 ± 0.0003</td><td>200</td></tr><tr><td>vertebral</td><td>240</td><td>6</td><td>12.50</td><td>0.4456 ± 0.0863</td><td>0.2293 ± 0.0084</td><td>70</td></tr><tr><td>vowels</td><td>1456</td><td>12</td><td>3.43</td><td>0.9529 ± 0.0142</td><td>0.0961 ± 0.0174</td><td>70</td></tr><tr><td>wbc</td><td>378</td><td>30</td><td>5.56</td><td>0.9270 ± 0.0261</td><td>0.1396 ± 0.0035</td><td>200</td></tr></tbody></table>

## Protocole expérimental.

**Jeux de données** : Nous utilisons 17 jeux de données numériques publics (Zhao et al., 2019; Han et al., 2022), couvrant plusieurs domaines et variant par taille, dimension et taux d'anomalies (voir Tab. 1). Les caractéristiques sont normalisées par min-max dans [-1, 1]. L'entraînement n'utilise que les inliers ; l'évaluation inclut inliers et outliers.

**Baselines** : Nous comparons DIPSMiner à 12 méthodes de détection d'anomalies à l'état de l'art couvrant plusieurs familles : approches probabilistes (Sampling (Sugiyama et Borgwardt, 2013), ECOD (Li et al., 2022)), méthodes linéaires (KPCA (Hoffmann, 2007), OCSVM (Schölkopf et al., 2001)), techniques basées sur la proximité (HBOS (Goldstein et Dengel, 2012),

<footnote n="2">2. Le code et les jeux de données sont disponibles https://github.com/diopbsf/DiffInt</footnote>
Extraction différentiable d'ensemble de motifs d'intervalleles

CBLOF (He et al., 2003)), méthodes par ensemble (IForest (Liu et al., 2008), DIF (Xu et al., 2023)), architectures neuronales (AutoEncoder (Aggarwal, 2015), SO_GAAL et MO_GAAL (Liu et al., 2019)) et méthodes basées sur les graphes (LUNAR (Goodge et al., 2022)).

**Métrique d'interprétabilité :** Nous proposons la métrique *Interval Contrast Ratio (ICR)*. Pour un intervalle $[c_{kj}, \bar{c}_{kj}]$ du motif $(k, j)$, posons l'indicatrice $1_{kj}(x^{(i)}) = 1$ si $x_j^{(i)} \in [c_{kj}, \bar{c}_{kj}]$. On définit ensuite $P_{in}(k, j) = \sum_i 1_{kj}(x^{(i)})y_i$ et $N_{in}(k, j) = \sum_i 1_{kj}(x^{(i)})(1 - y_i)$ (et symétriquement $P_{out}$, $N_{out}$ pour l'extérieur). Les taux positifs intra/extra sont $R_{in} = \frac{P_{in}}{P_{in}+N_{in}}$ et $R_{out} = \frac{P_{out}}{P_{out}+N_{out}}$. L'ICR s'écrit alors $ICR_{kj} = \frac{R_{in}}{R_{in}+R_{out}} \in [0, 1]$, valeur proche de 1 si l'intervalle est fortement spécifique aux anomalies (beaucoup d'outliers et peu d'inliers), proche de 0 dans le cas contraire.

**Détails d'implémentation :** Nous entraînons jusqu'à 1,000 epochs avec une taille de mini-lot 64, en appliquant un early stopping avec patience 200 sur l'ensemble d'entraînement en se basant sur la MAE. L'optimiseur est Adam avec un taux d'apprentissage fixe de $5 \times 10^{-5}$. Notre auto-encodeur comporte deux couches entièrement connectées de 128 unités dans l'encodeur, symétriques dans le décodeur. Nous initialisons le rayon brut à $r_{raw} = 0.5$ et fixons $\alpha_{min} = 1$, $\alpha_{max} = 50$, contraignant ainsi le rayon médian échantillonné à $r = 1.0$. Cette configuration provient d'un réglage fin initial sur un ensemble de validation avec différentes valeurs pour chaque paramètre. Pour le diagramme CD, nous utilisons un niveau de confiance de 95%, le test post-hoc de Nemenyi avec correction de Holm. Toutes les expériences ont été réalisées sur un serveur Linux équipé de quatre GPU NVIDIA Quadro RTX 8000, de deux CPU (40 cœurs au total) et de 768 Go de RAM.

**Evaluation du temps d'exécution de DIPSMiner.** Les temps d'exécution de DIPSMiner sont indiqués dans Tab. 2. DIPSMiner reste efficace et pratique sur l'ensemble des jeux de données considérés. Les écarts-types observés traduisent une variabilité modérée liée à l'optimisation stochastique et à la complexité propre à chaque jeu. En plus de cela, s'ajoute l'arrêt anticipé si la RMSE reste stable au bout de 200 epochs. Enfin, DIPSMiner passe bien à l'échelle : il reste stable et performant même sur des jeux volumineux ou fortement dimensionnels, contrairement aux approches à base d'énumération dont le coût explose avec la taille des données.

<table><caption>TAB. 2 – Temps d'exécution (en secondes, CPU) de DIPSMiner avec 1,000 epochs maximum et 200 epochs de patience pour s'arrêter s'il n y a pas de gain de la fonction de perte.</caption><thead><tr><th>dataset</th><th>runtime (mean ± std)</th><th>dataset</th><th>runtime (mean ± std)</th></tr></thead><tbody><tr><td>arrhythmia</td><td>119.7157 ± 56.7880</td><td>pendigits</td><td>1179.3080 ± 15.4804</td></tr><tr><td>cardio</td><td>209.2349 ± 2.1330</td><td>pima</td><td>60.4678 ± 22.9206</td></tr><tr><td>glass</td><td>26.0887 ± 7.5437</td><td>satellite</td><td>746.2275 ± 16.7620</td></tr><tr><td>ionosphere</td><td>38.3178 ± 4.8018</td><td>satimage-2</td><td>897.1574 ± 5.3997</td></tr><tr><td>letter</td><td>214.7019 ± 12.8972</td><td>vertebral</td><td>27.2501 ± 7.5293</td></tr><tr><td>lympho</td><td>31.9668 ± 0.6395</td><td>shuttle</td><td>2049.2015 ± 8.9216</td></tr><tr><td>mnist</td><td>1532.2682 ± 28.9088</td><td>vowels</td><td>224.5761 ± 3.2827</td></tr><tr><td>musk</td><td>514.9326 ± 17.4282</td><td>wbc</td><td>81.8162 ± 2.5994</td></tr><tr><td>optdigits</td><td>945.3731 ± 16.7991</td><td></td><td></td></tr></tbody></table>
**Interprétabilité de DIPSMiner.** La Figure 2 illustre dans quelle mesure le meilleur motif basé sur LSE (selon la MAE) appris par le modèle englobe les points inliers sur des données non vues, donnant un aperçu de la capacité de généralisation du modèle en fonction de la qualité des motifs. Pour une meilleure interprétabilité tenant compte de la dimensionnalité, nous considérons pour chaque motif les top@5 meilleurs intervalles suivant la métrique basée sur l'ICR définie par $score_{kj} = (1 - ICR_{kj}) \times \log(1 + N_{in}(k, j))$ qui favorise les intervalles qui contiennent plus d'inliers que d'anomalies tout en y couvrant une bonne partie. Les décisions de DIPSMiner sur les jeux de données Ionosphere, Pima, satellite et satimage-2, ayant respectivement 33, 8, 36 et 36 attributs, ont été interprétées.

**Détection d'anomalies avec représentations par motifs.** Après entraînement, nous calculons les scores d'anomalie comme les erreurs de reconstruction sur les échantillons de test. Pour évaluer la variabilité, nous réentraînons chaque méthode en utilisant les paramètres par défaut de la bibliothèque PyOD<fnref n="3" /> (Zhao et al., 2019), avec une répartition 60/40 entraînement-test. Sur 10 répétitions, nous observons des scores AUC moyens stables et des écarts-types faibles, ce qui nous permet de rapporter la performance moyenne.

Le Tableau 1 montre les performances de DIPSMiner avec la fonction d'agrégation Log-Sum-Exp — sur 17 jeux de données de référence. Ces résultats montrent la robustesse et l'adaptabilité de l'agrégation LSE, en particulier sur des jeux complexes ou de haute dimension comme mnist, satellite et optdigits.

Pour situer DIPSMiner par rapport aux approches existantes, nous la comparons à douze méthodes d'état de l'art en détection d'anomalies. La Figure 3 présente un diagramme de Différence Critique (CD) basé sur les scores AUC-ROC sur l'ensemble des jeux. Bien que certaines différences avec des baselines ne soient pas statistiquement significatives, DIPSMiner figure systématiquement parmi les meilleures. Ces résultats valident l'efficacité et l'utilisabilité des motifs d'intervalles découverts par DIPSMiner.

# 5 Conclusion

Nous avons présenté DIPSMiner, un cadre différentiable pour l'extraction de motifs d'intervalles interprétables à partir de données numériques. Contrairement aux approches traditionnelles limitées par la discrétisation et la complexité de passage à l'échelle, DIPSMiner préserve la sémantique continue des attributs via un raffinement d'intervalles optimisé par gradient. Les expériences sur 17 jeux de données montrent que DIPSMiner, avec l'agrégation Log-Sum-Exp, atteint des performances de pointe face à 12 méthodes de référence, tout en produisant des motifs compacts et interprétables. Ces résultats confirment l'intérêt du pattern mining différentiable pour les données continues. À terme, nous envisageons d'étendre ce parradigme à d'autres tâches, telles que la classification et le clustering, en adaptant la sémantique des motifs à leurs objectifs spécifiques.

**Remerciements** : Ce travail a bénéficié du soutien de l'ANR (l'agence française de finance-ment de la recherche) dans le cadre du projet "PANDORA ANR-24-CE23-0950".

<footnote n="3">3. https://github.com/yzhao062/pyod</footnote>
Extraction différentiable d'ensemble de motifs d'intervalleles

<figure><img src="image_3.png" /><figcaption>FIG. 2 – Dispersion paire à paire pour les jeux de données test. Les instances du test sont en violet (inlier) ou jaune (outlier), et les rectangles verts indiquent les projections 2D des intervalles appris sur les données d'entraînement. Les panneaux diagonaux montrent les histo-grammes par classe pour chaque variable. La majorité des inliers se situe à l'intérieur de ces boîtes, confirmant que notre modèle LSE enferme étroitement les inliers malgré la difficulté globale de ces jeux de données.</figcaption></figure>

Références

Aggarwal, C. C. (2015). Outlier analysis. In *Data Mining*, pp. 237–263. Springer, Cham.

Agrawal, R. et R. Srikant (1994). Fast algorithms for mining association rules in large databases. In *VLDB'94.*, pp. 487–499.
<figure><img src="image_4.png" /><figcaption>FIG. 3 – Diagramme de différence critique (CD) sur l’AUC-ROC pour DIPSMiner avec la fonction d’agrégation LSE et les douze méthodes à l’état de l’art.</figcaption></figure>

Bekkoucha, D., A. Ouali, B. Crémilleux, et P. Boizumault (2025). Échantillonnage de motifs d’intervalle selon la fréquence. In *EGC 2025*, pp. 147–158.

Belfodil, A., A. Belfodil, et M. Kaytoue (2018). Anytime subgroup discovery in numerical domains with guarantees. In *ECML PKDD 2018*, pp. 500–516.

Boley, M., S. Moens, et T. Gärtner (2012). Linear space direct pattern sampling using coupling from the past. In *SIGKDD*, pp. 69–77.

Bosc, G., J. Boulicaut, C. Raïssi, et M. Kaytoue (2018). Anytime discovery of a diverse set of patterns with monte carlo tree search. *DAMI 32*(3), 604–650.

Chataing, T., J. Perez, M. Plantevit, et C. Robardet (2024). Diffversify : a scalable approach to differen- tiable pattern mining with coverage regularization. In *ECMLPKDD'24*, pp. 407–422.

Chen, C. et C. Rudin (2018). An optimization approach to learning falling rule lists. In *International conference on artificial intelligence and statistics*, pp. 604–612.

Dash, S., O. Gunluk, et D. Wei (2018). Boolean decision rules via column generation. *NeurIPS 31*.

De Bie, T. (2011). Maximum entropy models and subjective interestingness : an application to tiles in binary databases. *Data Min. Knowl. Discov.* **23**(3), 407–446.

Dierckx, L., R. Veroneze, et S. Nijssen (2023). Rl-net : Interpretable rule learning with neural networks. In *PAKDD*, pp. 95–107.

Dzyuba, V., M. van Leeuwen, et L. D. Raedt (2017). Flexible constrained sampling with guarantees for pattern mining. *Data Min. Knowl. Discov.* **31**(5), 1266–1293.

Fischer, J. et J. Vreeken (2021). Differentiable pattern set mining. In *SIGKDD*, pp. 383–392. ACM.

Gionis, A., H. Mannila, T. Mielikäinen, et P. Tsaparas (2007). Assessing data mining results via swap randomization. *ACM Trans. Knowl. Discov. Data* **1**(3), 14.

Goldstein, M. et A. Dengel (2012). Histogram-based outlier score (hbos) : A fast unsupervised anomaly detection algorithm. In *KI-2012 : Poster and Demo Track*, pp. 59–63.

Goodge, A., B. Hooi, S. Ng, et W.-S. Ng (2022). Lunar : Unifying local outlier detection methods via graph neural networks. In *Proceedings of the AAAI Conference on Artificial Intelligence*.

Han, J., J. Pei, et Y. Yin (2000). Mining frequent patterns without candidate generation. In *ACM SIGMOD*, pp. 1–12.

Han, S., X. Hu, H. Huang, M. Jiang, et Y. Zhao (2022). Adbench : Anomaly detection benchmark. In *NeurIPS*, Volume 35, pp. 32142–32159. Curran Associates, Inc.

Hayden, M., Z. Chudi, A. Reto, K. Ilias, C. Jacques, R. Cynthia, et S. Margo (2022). Fast sparse decision tree optimization via reference ensembles. In *AAAI*, Volume 36.
He, Z., X. Xu, et S. Deng (2003). Discovering cluster-based local outliers. Pattern Recognition Letters 24(9-10), 1641-1650.

Hoffmann, H. (2007). Kernel pca for novelty detection. Pattern Recognition 40(3), 863-874.

Kaytoue, M., S. O. Kuznetsov, et A. Napoli (2011). Revisiting numerical pattern mining with formal concept analysis. In IJCAI 2011, pp. 1342-1347.

Kusters, R., Y. Kim, M. Collery, C. d. S. Marie, et S. Gupta (2022). Differentiable rule induction with learned relational features. arXiv preprint arXiv:2201.06515.

Lakkaraju, H., S. H. Bach, et J. Leskovec (2016). Interpretable decision sets: A joint framework for description and prediction. In SIGKDD, pp. 1675-1684.

Lemmerich, F., M. Atzmueller, et F. Puppe (2016). Fast exhaustive subgroup discovery with numerical target concepts. Data Min. Knowl. Discov. 30(3), 711-762.

Li, Z., Y. Zhao, X. Hu, N. Botta, C. Ionescu, et H. G. Chen (2022). Ecod: Unsupervised outlier detection using empirical cumulative distribution functions. IEEE TKDE.

Liu, F. T., K. M. Ting, et Z.-H. Zhou (2008). Isolation forest. In International Conference on Data Mining, pp. 413-422.

Liu, Y., Z. Li, C. Zhou, Y. Jiang, J. Sun, M. Wang, et X. He (2019). Generative Adversarial Active Learning for Unsupervised Outlier Detection. IEEE Transactions on Knowledge and Data Engineering.

Proença, H. M. et M. van Leeuwen (2020). Interpretable multiclass classification by mdl-based rule lists. Information Sciences 512, 1372-1393.

Raedt, L. D. et A. Zimmermann (2007). Constraint-based pattern set mining. In SDM, pp. 237-248.

Schölkopf, B., J. C. Platt, J. Shawe-Taylor, A. J. Smola, et R. C. Williamson (2001). Estimating the support of a high-dimensional distribution. Neural Computation 13(7), 1443-1471.

Sugiyama, M. et K. Borgwardt (2013). Rapid distance-based outlier detection via sampling. In NeurIPS, Volume 26.

Vreeken, J., M. van Leeuwen, et A. Siebes (2011). Krimp: mining itemsets that compress. Data Min. Knowl. Discov. 23(1), 169-214.

Walter, N. P., J. Fischer, et J. Vreeken (2024). Finding Interpretable Class-Specific Patterns through Efficient Neural Search. In AAAI.

Wang, Z., W. Zhang, N. Liu, et J. Wang (2021). Scalable rule-based representation learning for interpretable classification. Advances in Neural Information Processing Systems 34, 30479-30491.

Wang, Z., W. Zhang, L. Ning, et J. Wang (2020). Transparent classification with multilayer logical perceptrons. In AAAI, Volume 34, pp. 6331-6339.

Xu, H., G. Pang, Y. Wang, et Y. Wang (2023). Deep isolation forest for anomaly detection. IEEE TKDE.

Zaki, M. J., S. Parthasarathy, M. Ogihara, et W. Li (1997). New algorithms for fast discovery of association rules. In SIGKDD, pp. 283-286.

Zhao, Y., Z. Nasrullah, et Z. Li (2019). Pyod: A toolbox for scalable outlier detection. JMLR 20(96).

Summary

Traditional pattern mining struggles with scalability and redundant results, and existing differentiable methods target only binary data. We introduce a differentiable framework that mines interval patterns directly from continuous features (no discretization), producing concise, interpretable patterns and strong, scalable performance for outlier detection.