# Des réseaux de neurones sur graphes auto-explicatifs basés sur la logique

Alessio Ragno, Marc Plantevit, C. Robardet

► To cite this version:

Alessio Ragno, Marc Plantevit, C. Robardet. Des réseaux de neurones sur graphes auto-explicatifs basés sur la logique. Extraction et Gestion de Connaissances (EGC'26), Jan 2026, Anglet, France. pp.481-488. hal-05511164

HAL Id: hal-05511164

https://hal.science/hal-05511164v1

Submitted on 14 Feb 2026

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons CC BY 4.0 - Attribution - International License
# Des réseaux de neurones sur graphes auto-explicatifs basés
sur la logique

Alessio Ragno*, Marc Plantevit**, Céline Robardet*

*INSA Lyon, CNRS, LIRIS UMR 5205, F-69621 Villeurbanne, France
{alessio.ragno, celine.robardet}@insa-lyon.fr

**EPITA Research Laboratory (LRE), F-94276, Le Kremlin-Bicêtre, France
marc.plantevit@epita.fr

**Résumé.** Les graphes sont des structures complexes et non euclidiennes qui nécessitent des modèles spécialisés comme les réseaux de neurones sur graphes (Graph Neural Networks, GNNs) pour capturer efficacement les motifs relationnels associés à la variable de classe. Cette complexité intrinsèque rend particulièrement difficile l'explication des décisions prises par les GNNs. La plupart des méthodes actuelles d'intelligence artificielle explicable (XAI) appliquées aux GNNs se concentrent sur l'identification de nuds influents ou l'extraction de sous-graphes pertinents, sans toutefois clarifier comment ces éléments contribuent réellement à la prédiction finale. Pour dépasser cette limite, les approches à base logique visent à dériver des règles explicites reflétant le raisonnement du modèle. Cependant, les méthodes logiques existantes demeurent majoritairement post-hoc et se limitent à la classification de graphes, laissant un manque important en matière d'architectures intrinsèquement explicables. Dans cet article, nous intégrons le raisonnement logique directement au sein du modèle d'apprentissage sur graphes. Nous introduisons LogiX-GIN, une nouvelle architecture de GNN auto-explicable qui incorpore des couches logiques afin de produire des règles logiques interprétables au cur même du processus d'apprentissage. Contrairement aux approches post-hoc, LogiX-GIN fournit des explications transparentes, fidèles et cohérentes avec les calculs internes du modèle. Évalué sur plusieurs tâches basées sur des graphes, LogiX-GIN atteint des performances prédictives compétitives tout en explicitant son processus décisionnel. Ces travaux ont été acceptés à NeurIPS 2025 (Ragno et al., 2025).

# 1 Introduction

Les réseaux de neurones sur graphes (GNNs) sont des modèles puissants pour l'apprentissage à partir de graphes, excellent dans des tâches comme la classification de nuds et de graphes (Scarselli et al., 2008). Cependant, leurs mécanismes de passage de messages rendent difficile l'interprétation de linfluence des composants du graphe sur les prédictions, limitant leur usage dans des contextes nécessitant de la transparence. Les approches d'IA explicable (XAI) pour GNNs se divisent en méthodes post-hoc et ante-hoc. Les premières expliquent un modèle déjà
entraîné en identifiant les éléments (nuds, arêtes, sous-graphes) influents (Ying et al., 2019; Pope et al., 2019). Ces méthodes, basées sur la perturbation, les gradients ou les concepts, offrent des explications locales mais manquent souvent de fidélité au raisonnement interne (Rudin, 2019). Les modèles ante-hoc, ou auto-explicables, intègrent directement l'interprétabilité dans l'apprentissage. Les GNNs auto-explicables (SE-GNNs) rendent leurs représentations intrinsèquement explicatives, mais les variantes topologiques (Miao et al., 2022; Ragno et al., 2022; Ragno et Capobianco, 2025) décrivent peu les règles logiques sous-jacentes (Müller et al., 2023; Pluska et al., 2024), tandis que d'autres se limitent aux caractéristiques des nuds (Azzolin et al., 2025). Les approches XAI logiques offrent une alternative, extrayant des règles compréhensibles définissant les interactions entre caractéristiques (Schnake et al., 2025). Appliquées aux GNNs, elles traduisent des espaces de caractéristiques en expressions booléennes décrivant des motifs de sous-graphes (Azzolin et al., 2023), mais restent pour linstant post-hoc ou fondées sur la distillation (Pluska et al., 2024). Des travaux récents sur les modèles logiques pour données tabulaires, tels que les réseaux expliqués par la logique (LENs) (Ciravegna et al., 2023) et les couches logique explicables et transparentes (TELL) (Ragno et al., 2024), montrent qu'il est possible d'extraire directement des règles logiques à partir des poids du réseau. Cependant, ces architectures ne gèrent pas la complexité relationnelle des graphes. Pour combler cette lacune, nous proposons une nouvelle architecture de GNN logiquement auto-explicable. Les bases reliant GNNs et logique formelle ont été établies par Barceló et al. (2020), montrant que certaines architectures expriment la logique modale graduée (GML) (De Rijke, 2000), capable de formuler des contraintes numériques sur les voisins d'un nud. Néanmoins, concevoir des GNNs produisant explicitement des règles GML reste un défi. Pour y parvenir, nous introduisons LogiX-GIN, une adaptation d'une architecture GIN (Xu et al., 2019) permettant d'extraire des règles GML. Le schéma dagrégation par somme assure la compatibilité avec la logique de comptage. Nous introduisons une fonction de prétraitement qui binarise les caractéristiques via des intervalles apprenables et remplaçons les activations sigmoïdes sur les poids, connues pour freiner la propagation du gradient, par un préentraînement par distillation à partir d'un GIN boîte noire, évitant ainsi l'annulation du gradient. Nos contributions sont : (i) LogiX-GIN, le premier GNN intégrant le raisonnement logique dans son architecture ; (ii) une nouvelle binarisation automatique des caractéristiques ; (iii) une stratégie de préentraînement multi-couches basée sur la logique ; (iv) une évaluation complète en termes d'interprétabilité et de performance ; (v) une implémentation open-source<fnref n="1" />. La suite de l'article présente l'état-de-l'art et le formalisme mathématique utilisé, la description de LogiX-GIN, une étude expérimentale, ainsi que les conclusions et perspectives. Cet article est une version courte de l'article publié à NeurIPS 2025 (Ragno et al., 2025) contenant plus de détails et résultats expérimentaux.

## 2 Préliminaires

Nous introduisons maintenant les concepts et notations clés qui sous-tendent notre approche, en mettant l'accent sur la manière dont chaque élément soutient notre GNN auto-explicable basé sur la logique. Nous commençons par formaliser les GNNs, le modèle de base sur lequel nous nous appuyons. Nous montrons ensuite comment des contraintes architecturales peuvent permettre l'extraction directe de règles logiques à partir de couches neuronales, en introduisant

<footnote n="1">1. Dépôt GitHub : https://github.com/spideralessio/LogiX-GIN</footnote>
les idées fondamentales de TELL. Enfin, nous présentons les fondements mathématiques de la GML, le système formel que nous utilisons pour exprimer les règles logiques produites par notre modèle.

**GNNs.** Les GNNs sont des réseaux de neurones conçus pour des données structurées en graphes. Ils fonctionnent généralement via le passage de messages, où à chaque couche $k$ un nud $v$ agrège des messages provenant de ses voisins et met à jour sa représentation. Formellement, ce processus peut sécrire comme suit :

$$h_v^{(k)} = \phi^{(k)}(h_v^{(k-1)}, \mu^{(k)}(h_u^{(k-1)}: u \in \mathcal{N}(v))), \quad (1)$$

Ici, $h_v^{(k)}$ désigne la représentation mise à jour du nud $v$ à la couche $k$, en utilisant celle de la couche $k-1$, $h_v^{(k-1)}$. Dans la première couche, $h_v^{(k-1)}$ correspond directement aux caractéristiques des nuds. La fonction de message $\mu^{(k)}$ agrège linformation du voisinage, et la fonction de mise à jour $\phi^{(k)}$ la combine avec l'état courant du nud. Comme les nuds d'un graphe nont pas dordre inhérent, la fonction dagrégation doit être invariante par permutation. Nous utilisons le modèle GIN, où la fonction dagrégation est la somme et la fonction de mise à jour est un perceptron multicouche (MLP), car cette combinaison a été théoriquement démontrée comme ayant le pouvoir discriminatif maximal parmi les GNNs à passage de messages. Lagrégation par somme permet de distinguer différentes structures de voisinage et la fonction de mise à jour MLP fournit la capacité d'expression nécessaire pour obtenir des représentations significatives, permettant à GIN d'approximer le test disomorphisme de graphes 1-WL (Weisfeiler-Lehman), qui constitue une référence solide pour distinguer des graphes non isomorphes.

**Couches logique explicables et transparentes (TELL).** TELL est un composant neuronal conçu pour être interprétable à travers une conversion directe en formules de logique du premier ordre. Il contraint une couche linéaire standard, avec $I$ neurones dentrée et $O$ neurones de sortie, en imposant des poids non négatifs et en appliquant une activation basée sur un seuil. Étant donné une entrée $X \in \mathbb{R}^I$, il calcule la sortie $y = \sigma(XW^+ + b) \in \mathbb{R}^O$. $W^+ \in \mathbb{R}^{I \times O}$ est une matrice de poids contrainte à navoir que des valeurs non négatives, $b \in \mathbb{R}^O$ est un biais, et $\sigma$ est la fonction dactivation sigmoïde. Une caractéristique clé de TELL est qu'il permet d'être interprété via des règles logiques. En considérant la $j$-ème sortie binaire $y^{\text{bin}}[j] = \mathbb{1}_{y[j]>0.5}$, celle-ci peut alors être associée à une règle en forme normale disjonctive (DNF) : $y^{\text{bin}}[j] = 1 \iff \sum_{i \in S} W^+[i, j] > -b[j]$. $S$ désigne les sous-ensembles minimaux (par rapport à inclusion densembles) de l'entrée suffisants pour activer le neurone $y[j]$ (Ragno et al., 2024). À partir de cela, $E_j = \bigvee_{S \in S_j} \bigwedge_{i \in S} x_i$ peut être défini comme la règle logique pour $y[j]$, où $S_j$ contient tous les sous-ensembles minimaux dentrées qui satisfont le seuil $-b[j]$. Cela garantit une correspondance directe et interprétable entre les paramètres du réseau et les expressions logiques.

**GML.** GML est une partie de la logique du premier ordre (FO) conçue pour décrire des propriétés de nuds, à base de comptage, dans des structures relationnelles comme les graphes. Elle restreint la quantification des propriétés au voisinage immédiat d'un nœud, garantissant une évaluation locale des formules. On considère un langage du premier ordre muni d'un symbole binaire $E(x, y)$ pour l'adjacence et d'un ensemble fini de prédicats unaires $P_1(x), \dots, P_I(x)$ représentant des propriétés de nuds. Une structure de graphe est donc $G = (V, E, \{P_i\}_{i \in I})$, où $V$ est l'ensemble des nuds, $E \subseteq V \times V$ une relation symétrique darêtes, et chaque $P_i \subseteq V$ l'interprétation d'un prédicat. Les formules GML, avec une variable libre $x$, sont définies
inductivement par :

$$ \varphi(x) ::= P(x) | \neg\psi(x) | \psi_1(x) \wedge \psi_2(x) | \psi_1(x) \vee \psi_2(x) | \exists^{\ge N} y (E(x, y) \wedge \psi_3(y)), \quad (2) $$

où $N \in \mathbb{N}_{>0}$ et les $\psi_i$ sont des formules GML. La sémantique suit la logique standard :

- $G, v \models P(x)$ si $v \in P$,

- $G, v \models \neg\psi(x)$ si $v$ ne satisfait pas $\psi(x)$,

- $G, v \models \psi_1(x) \wedge \psi_2(x)$ si $v$ satisfait les deux sous-formules,

- $G, v \models \psi_1(x) \vee \psi_2(x)$ si $v$ satisfait au moins l'une des

- $G, v \models \exists^{\ge N} y (E(x, y) \wedge \psi_3(y))$ si $v$ a au moins $N$ voisins $u$ tels que $(v, u) \in E$ et $G, u \models \psi_3(y)$.

Une propriété clé de la GML est que toute quantification est limitée par le prédicat dadjacence $E(x, y)$, ce qui restreint lévaluation de $\varphi(x)$ au voisinage de $v$. Ainsi, la GML est moins expressive que la FO complète, mais plus efficace et parfaitement adaptée à la modélisation de motifs locaux dans les graphes. Elle caractérise notamment la classe des propriétés de nuds calculables par certaines architectures de GNNs (Barceló et al., 2020). Des exemples de formules sont donnés dans (Ragno et al., 2025).

## 3 LogiX-GIN

Dans cette section, nous formalisons LogiX-GIN, une extension logique de GIN intégrant des transformations différentiables inspirées du raisonnement logique. Comme dans GIN, chaque couche agrège les embeddings des voisins par somme, mais LogiX-GIN introduit deux modules : (1) une fonction binaire apprenable $\beta$ qui applique un seuillage logique sur les agrégations, et (2) une transformation contrainte $\lambda$ garantissant la monotonie et la cohérence logique des activations. Le fonctionnement général de la $k$-ième couche est défini par :

$$ h_v^{(k)} = \lambda^{(k)} \left( \beta^{(k)} \left( \sum_{u \in \mathcal{N}(v) \cup v} h_u^{(k-1)} \right) \right). \quad (3) $$

Après agrégation, les représentations $a_v^{(k)} = \sum_{u \in \mathcal{N}(v) \cup v} h_u^{(k-1)}$ deviennent entières. Pour permettre un raisonnement logique différentiable, nous les binarisons à laide d'une fonction en escalier paramétrique de Fourier :

$$ \tilde{a}_v^{(k)} = \beta^{(k)}(a_v^{(k)}) = \text{clamp} \left( \frac{1}{2} \left( \frac{\sum_{i=0}^{\tau} \frac{\sin((2i+1)(a_v^{(k)} \odot \tilde{W}^{(k)} + \tilde{b}^{(k)}))}{2i+1}}{\sum_{i=0}^{\tau} \frac{\sin((2i+1)\pi/2)}{2i+1}} + 1 \right), 0, 1 \right), \quad (4) $$

où $\odot$ désigne le produit de Hadamard, $\tau$ est un hyperparamètre de température (fixé à 10), et $\tilde{W}^{(k)}, \tilde{b}^{(k)} \in \mathbb{R}_{>0}^d$ sont des paramètres apprenables. Cette fonction sactive lorsque les comptages tombent dans des intervalles apprenables, définissant ainsi des littéraux logiques sur les entrées agrégées. Les sorties binarisées $\tilde{a}_v^{(k)}$ sont ensuite transformées par :

$$ h_v^{(k)} = \lambda^{(k)}(\tilde{a}_v^{(k)}) = \sigma\left(\frac{\tilde{a}_v^{(k)} W^{(k)} + b^{(k)}}{\tau}\right), \quad (5) $$
où $W^{+(k)} \ge 0$ impose la monotonie des règles apprises, et $\tau = 10^{-4}$ contrôle la saturation. Ainsi, les poids positifs $W^{+(k)}$ permettent de retrouver des règles logiques du premier ordre sur les activations, analogues aux formules de GML. Le modèle complet comporte 5 couches LogiX-GIN séquentielles. Leurs sorties sont concatenées, puis agrégées via trois fonctions globales (somme, moyenne, maximum) afin dextraire des caractéristiques au niveau du graphe. Ces représentations sont ensuite passées à une couche TELL finale, qui apprend des règles logiques globales pour la prédiction. Pour stabiliser l'apprentissage, nous adoptons un préentraînement par distillation de connaissances. Un modèle GIN enseignant, utilisant des activations Gumbel-sigmaïdes, est dabord entraîné sur la même tâche. Ses activations intermédiaires servent alors à guider LogiX-GIN via une fonction de perte dentropie croisée entre les états cachés correspondants. Ce processus constitue un préentraînement couche par couche. Dans la seconde phase, le modèle LogiX-GIN est affiné par apprentissage supervisé standard, avec régularisation $L_1$ sur $W^+$ pour favoriser la parcimonie. Après entraînement, nous appliquons une procédure délagage post-hoc pour simplifier les règles apprises. Enfin, LogiX-GIN permet d'extraire des règles couche par couche, des règles globales sur la présence ou non de sous-graphes activant la prédiction finale, ainsi que des règles sur les attributs de nuds illustrant les contributions individuelles des nœuds. Des détails supplémentaires sont disponibles dans (Ragno et al., 2025).

# 4 Expériences

Dans cette section, nous présentons une évaluation approfondie de LogiX-GIN. Nous commençons par comparer ses performances de classification à celles de son homologue en boîte noire, puis analysons son interprétabilité en la confrontant aux approches de l'état de lart. Lanalyse se concentre sur les règles logiques couche par couche. Une étude complémentaire sur les règles logiques globales et les attributions de nuds est rapportée dans l'article NeurIPS (Ragno et al., 2025), en comparaison avec d'autres modèles auto-explicables et méthodes post-hoc. Étant donné que la couche GIN, à la base de notre architecture, a été conçue pour la classification de graphes, nous centrons principalement nos expériences sur cette tâche. Les expériences portent sur 7 jeux de données de graphes : graphes synthétiques<fnref n="2" /> et moléculaires/protéiques<fnref n="3" />. Nous effectuons une recherche en grille pour optimiser les hyperparamètres et rapportons les moyennes et écarts types sur 10 graines indépendantes, en utilisant les meilleurs paramètres validés. Dans Tab. 1, nous comparons la précision de LogiX-GIN à celle du modèle en boîte noire sur l'ensemble des jeux de données. Dans tous les cas, LogiX-GIN atteint une précision à moins de 3% de celle du modèle de référence, démontrant de solides performances malgré la lintégration de contraintes logiques. Cela montre que ces contraintes ont un impact limité sur la précision prédictive globale. Bien qu'un léger compromis en performance soit attendu, l'objectif principal reste d'accroître la transparence du modèle. Comme détaillé dans l'article NeurIPS (Ragno et al., 2025), LogiX-GIN atteint des performances à l'état de lart sur 5 jeux de données sur 7 par rapport aux autres approches auto-explicables. Dans la suite de cette section, nous nous concentrons sur l'interprétabilité de LogiX-GIN.

**Règles couche par couche.** Cette section illustre la fonctionnalité centrale de notre approche : l'inspection du modèle à chaque couche. La Fig. 1 montre un exemple réel des règles apprises par

<footnote n="2">2. BA2Motifs (Luo et al., 2020), BAMultiShapes (Azzolin et al., 2023)</footnote>

<footnote n="3">3. MUTAG (Debnath et al., 1991), Mutagenicity (Kazius et al., 2004), NCI1 (Wale et al., 2007), BBBP (Martins et al., 2012), PROTEINS (Dobson et Doig, 2003)</footnote>
Des réseaux de neurones sur graphes auto-explicatifs basés sur la logique

<table><caption>TAB. 1 – Précision sur la classification de graphes. Les valeurs sont rapportées comme $\mu \pm \sigma$ sur 10 graines. Nous indiquons la précision du modèle en boîte noire et de LogiX-GIN.</caption><thead><tr><td>Dataset</td><td>Black-box GIN</td><td>LogiX-GIN</td><td>Class. Obj.</td></tr></thead><tbody><tr><td>BAMultiShapes</td><td>100.00 ± 0.00</td><td>100.00 ± 0.00</td><td>Graph</td></tr><tr><td>BA2Motifs</td><td>100.00 ± 0.00</td><td>100.00 ± 0.00</td><td>Graph</td></tr><tr><td>BBBP</td><td>87.95 ± 2.07</td><td>85.90 ± 0.99</td><td>Graph</td></tr><tr><td>MUTAG</td><td>84.74 ± 8.02</td><td>82.63 ± 5.58</td><td>Graph</td></tr><tr><td>NCI1</td><td>81.87 ± 1.39</td><td>78.93 ± 1.51</td><td>Graph</td></tr><tr><td>PROTEINS</td><td>72.59 ± 3.04</td><td>72.05 ± 5.77</td><td>Graph</td></tr><tr><td>Mutagenicity</td><td>82.21 ± 1.87</td><td>79.31 ± 1.25</td><td>Graph</td></tr></tbody></table>

<figure><img src="image_2.png" /><figcaption>FIG. 1 – Explication couche par couche d'un modèle LogiX-GIN entraîné sur MUTAG.</figcaption></figure>

LogiX-GIN sur le jeu de données MUTAG, révélant comment le modèle prédit la mutagénicité moléculaire via un raisonnement fondé sur des règles. Bien que l'architecture comporte 5 couches convolutionnelles, seules 2 contribuent activement à la décision. La première extrait des caractéristiques de bas niveau (type datome, connectivité) utilisées pour détecter des groupes fonctionnels. Par exemple, la première règle (verte) identifie le groupe NO₂ en comptant les atomes dazote, doxygène et de carbone, tandis que la seconde (violette) repère des motifs aromatiques en analysant les carbones voisins et les atomes non carbonés connectés à un seul carbone. Une troisième caractéristique (orange), activée sur tous les nœuds, sert ensuite à compter les connexions dans la couche suivante. Dans la deuxième couche, ces informations sont combinées (rose) et la décision finale repose sur le nombre de nœuds activant cette caractéristique spécifique.

# 5 Conclusions

Nous avons introduit LogiX-GIN, une nouvelle architecture de GNN qui intègre le raisonnement logique directement dans ses couches afin d'atteindre l'auto-explicabilité. Nous avons démontré sa capacité unique à convertir chaque couche en formules logiques (GML), offrant ainsi une représentation fidèle et transparente du raisonnement du modèle. Les expériences
sur des jeux de données de classification de graphes et de nuds confirment que LogiX-GIN maintient des performances compétitives tout en apportant un nouveau niveau d'interprétabilité.

Malgré ces résultats prometteurs, des limites subsistent. L'expressivité du modèle est contrainte par l'absence de prise en compte des caractéristiques des arêtes et par les limites du formalisme GML. De plus, l'utilisation de la binarisation et le processus d'entraînement multi-étapes par distillation introduisent une complexité computationnelle significative, particulièrement pour les réseaux profonds.

Les travaux futurs devront se concentrer sur l'exploration d'architectures et de techniques d'optimisation plus évolutives et sur l'extension du modèle à des formalismes logiques plus expressifs ou à d'autres tâches sur graphes. L'intégration avec des techniques basées sur les prototypes est également une piste prometteuse pour renforcer l'interprétabilité.

**Remerciements** Ce travail a bénéficié du soutient de l'ANR (l'agence française de financement de la recherche) dans le cadre du programme France 2030, à travers le PEPR WAIT4 ANR-22-PEAE-0008, et les projets PANDORA ANR-24-CE23-0950 et "PORTRAIT ANR-22-CE23-0006".

## Références

Azzolin, S., A. Longa, P. Barbiero, P. Lio, A. Passerini, et al. (2023). Global explainability of gnns via logic combination of learned concepts. In *ICLR 2023*.

Azzolin, S., S. Malhotra, A. Passerini, et S. Teso (2025). Beyond topological self-explainable gnns: A formal explainability perspective. In *ICML 2025*.

Barceló, P., E. V. Kostylev, M. Monet, J. Pérez, J. Reutter, et J.-P. Silva (2020). The logical expressiveness of graph neural networks. In *ICLR 2020*.

Ciravegna, G., P. Barbiero, F. Giannini, M. Gori, P. Lió, M. Maggini, et S. Melacci (2023). Logic explained networks. *Artificial Intelligence*.

De Rijke, M. (2000). A note on graded modal logic. *Studia Logica*.

Debnath, A. K., R. L. Lopez de Compadre, G. Debnath, A. J. Shusterman, et C. Hansch (1991). Structure-activity relationship of mutagenic aromatic and heteroaromatic nitro compounds. correlation with molecular orbital energies and hydrophobicity. *Journal of Medicinal Chemistry*.

Dobson, P. D. et A. J. Doig (2003). Distinguishing enzyme structures from non-enzymes without alignments. *Journal of Molecular Biology*.

Kazius, J., R. McGuire, et R. Bursi (2004). Derivation and validation of toxicophores for mutagenicity prediction. *Journal of Medicinal Chemistry*.

Luo, D., W. Cheng, D. Xu, W. Yu, B. Zong, H. Chen, et X. Zhang (2020). Parameterized explainer for graph neural network. *NeurIPS 2020*.

Martins, I. F., A. L. Teixeira, L. Pinheiro, et A. O. Falcao (2012). A bayesian approach to in silico blood-brain barrier penetration modeling. *Journal of Chemical Information and Modeling*.
Miao, S., M. Liu, et P. Li (2022). Interpretable and generalizable graph learning via stochastic attention mechanism. In *ICML 2022*.

Müller, P., L. Faber, K. Martinkus, et R. Wattenhofer (2023). *Graphchef*: Learning the recipe of your dataset. In *ICML 3rd Workshop on Interpretable Machine Learning in Healthcare (IMLH)*.

Pluska, A., P. Welke, T. Gärtner, et S. MALHOTRA (2024). Logical distillation of graph neural networks. In *ICML 2024 Workshop on Mechanistic Interpretability*.

Pope, P. E., S. Kolouri, M. Rostami, C. E. Martin, et H. Hoffmann (2019). Explainability methods for graph convolutional neural networks. In *CVPR 2019*.

Ragno, A. et R. Capobianco (2025). *Impo*: Interpretable memory-based prototypical pooling. In *WSDM 2025*.

Ragno, A., B. La Rosa, et R. Capobianco (2022). Prototype-based interpretable graph neural networks. *IEEE Transactions on Artificial Intelligence*.

Ragno, A., M. Plantevit, et C. Robardet (2025). On logic-based self-explainable graph neural networks. In *NeurIPS 2025*.

Ragno, A., M. Plantevit, C. Robardet, R. Capobianco, et al. (2024). Transparent explainable logic layers. In *ECAI 2024*.

Rudin, C. (2019). Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. *Nature Machine Intelligence*.

Scarselli, F., M. Gori, A. C. Tsoi, M. Hagenbuchner, et G. Monfardini (2008). The graph neural network model. *IEEE transactions on neural networks*.

Schnake, T., F. R. Jafari, J. Lederer, P. Xiong, S. Nakajima, S. Gugler, G. Montavon, et K.-R. Müller (2025). Towards symbolic xaiexplanation through human understandable logical relationships between features. *Information Fusion*.

Wale, N., I. A. Watson, et G. Karypis (2007). Comparison of descriptor spaces for chemical compound retrieval and classification. *Knowledge and Information Systems*.

Xu, K., W. Hu, J. Leskovec, et S. Jegelka (2019). How powerful are graph neural networks? In *ICLR*.

Ying, Z., D. Bourgeois, J. You, M. Zitnik, et J. Leskovec (2019). *Gnnexplainer*: Generating explanations for graph neural networks. *NeurIPS 2019*.

## Summary

This work has been accepted at NeurIPS 2025 (Ragno et al., 2025). We address the lack of intrinsically explainable GNN architectures by introducing LogiX-GIN. This novel, self-explainable GNN architecture integrates logical reasoning directly through dedicated logic layers. Unlike limited post-hoc approaches, LogiX-GIN produces interpretable logical rules and provides faithful and transparent explanations that are perfectly consistent with its internal computations. We demonstrate that LogiX-GIN achieves competitive predictive performance across various graph tasks while clearly explicating its decision-making process.