<figure><img src="image_1.png" /></figure>

HAL
open science

# Extraction de relations multi-étiquettes en utilisant des modèles pré-entraînés et des couches de Transformer

Ngoc Luyen Le, Gildas Tagny Ngompé

► To cite this version:

Ngoc Luyen Le, Gildas Tagny Ngompé. Extraction de relations multi-étiquettes en utilisant des modèles pré-entraînés et des couches de Transformer. Actes de l'atelier TextMine 2025, La conférence Extraction et Gestion des Connaissances (EGC), Jan 2025, Strasbourg, France. hal-04919844

HAL Id: hal-04919844

https://hal.science/hal-04919844v1

Submitted on 29 Jan 2025

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_2.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
# Extraction de relations multi-étiquettes en utilisant des modèles pré-entraînés et des couches de Transformer

Ngoc Luyen Le *,** Gildas Tagny Ngompé

*Gamaizer.ia, 93340 Le Raincy, France

**Université de technologie de Compiègne, CNRS, Heudiasyc

(Heuristics and Diagnosis of Complex Systems), CS 60319 - 60203 Compiègne Cedex, France

**Résumé.** Nous présentons dans cet article le modèle BTransformer18, une architecture d'apprentissage profond conçue pour l'extraction de relations multi-étiquettes dans des textes en français. Notre approche combine les capacités de représentation contextuelle de modèles de langage pré-entraînés de la famille BERT, tels que BERT, RoBERTa, ainsi que leurs versions francophones CamemBERT et FlauBERT, avec la puissance des encodeurs Transformer pour capturer les dépendances à long terme entre les tokens. Les expérimentations menées sur le jeu de données du défi TextMine'25 montrent que notre modèle atteint des performances supérieures, en particulier en utilisant CamemBERT-Large, avec un score F1-macro de 0,654, surpassant les résultats obtenus avec FlauBERT-Large. Ces résultats démontrent l'efficacité de notre approche pour l'extraction automatique de relations complexes dans des rapports de renseignement.

## 1 Introduction

L'extraction de relations est une tâche fondamentale en traitement automatique du langage naturel (TALN), visant à identifier et classifier les relations sémantiques entre des entités nommées au sein d'un texte (Nasar et al., 2021). Dans le cas des rapports de renseignement, cette tâche revêt une importance particulière pour la structuration de l'information et la facilitation de l'analyse. Les approches traditionnelles reposent souvent sur des méthodes d'apprentissage supervisé nécessitant des ressources annotées considérables et peinent à capturer les relations complexes présentes dans les textes non structurés.

Le défi TextMine'25 (Prieur et al., 2024) fournit un jeu de données précieux pour faire progresser la recherche dans ce domaine. Ce jeu de données est composé de 800 rapports de renseignement factices en français, annotés avec des mentions d'entités, leurs types, attributs et relations. Il pose un défi significatif en raison de la complexité des relations et de la nécessité de modèles capables de gérer la classification multi-étiquettes.

Avec l'émergence des modèles de langage pré-entraînés, tels que ceux de la famille BERT, des améliorations significatives ont été réalisées dans diverses tâches de TALN. BERT (Devlin, 2018) et RoBERTa (Liu, 2019) ont établi de nouveaux standards pour la langue anglaise, tandis
que leurs équivalents francophones, CamemBERT (Martin et al., 2019) et FlauBERT (Le et al., 2019), ont été développés pour traiter les spécificités de la langue française. Ces modèles, membres de la famille BERT, exploitent un pré-entraînement à grande échelle sur des corpus massifs pour produire des embeddings contextualisés riches.

Parallèlement, les encodeurs Transformer (Vaswani, 2017; Wolf et al., 2020) ont démontré une capacité exceptionnelle à modéliser les dépendances à long terme dans les séquences grâce aux mécanismes d'attention. Combiner les forces des modèles de langage pré-entraînés et des encodeurs Transformer offre une direction prometteuse pour améliorer les capacités d'extrac- tion de relations.

Dans cet article, nous introduisons **BTransformer18**, un modèle qui intègre les modèles de langage pré-entraînés de la famille BERT avec des encodeurs Transformer pour l'extraction de relations multi-étiquettes dans des textes en français. Notre architecture comprend trois couches principales : **Embeddings Contextuels**, où nous obtenons les embeddings des tokens en utilisant des modèles comme CamemBERT et FlauBERT; **Encodeurs Transformer**, qui capturent les dépendances complexes entre les tokens; et **Agrégation et Classification**, où nous agrégeons les représentations et prédisons les relations.

Nous évaluons notre modèle sur le jeu de données du défi TextMine'25, en réalisant des expérimentations approfondies pour évaluer l'impact des différents modèles pré-entraînés sur la tâche. Nos résultats montrent que l'utilisation de **CamemBERT-Large** conduit à des gains de performance significatifs, atteignant un score F1-macro de 0,654, surpassant les modèles basés sur **FlauBERT-Large**.

Dans la section 2, nous détaillons notre approche proposée en décrivant l'architecture de **BTransformer18**. La section 3 présente le cadre expérimental, y compris le jeu de données, les étapes de prétraitement, les procédures d'entraînement, et des résultats de notre modèle. Enfin, dans la section 4, nous concluons et proposons des perspectives pour de futures recherches.

# 2 Approche proposée

Notre approche, illustrée dans la figure 1, s'appuie sur la logique de *fine-tuning* d'un modèle de langage pré-entraîné, composée d'un *body* (généraliste pour la langue ou le domaine) et d'une *head* (spécifique à la tâche d'extraction de relations). Dans notre modèle, le *body* est assuré par **CamemBERT-Large**, choisi pour sa spécialisation en français. La *head* de classification inclut une couche cachée basée sur l'architecture Transformer (Vaswani, 2017), permettant d'exploiter le mécanisme d'attention pour l'extraction de relations. La sortie est ensuite produite par une simple couche dense, qui assure la classification multi-label.

## 2.1 Embeddings contextuels

Un des modèles de langage pré-entraînés de la famille BERT (par exemple, BERT, CamemBERT, FlauBERT, etc.) est employé afin d'obtenir les embeddings contextuels des tokens du texte d'entrée. Soit $\mathbf{X} = [x_1, x_2, ..., x_T]$ la séquence de tokens, où $T$ est la longueur de la séquence. Ces modèles de langage pré-entraînés génère pour chaque token $x_t$ un embedding contextuel $h_t \in \mathbb{R}^d$, où $d$ est la dimension cachée du modèle, c'est-à-dire la taille du vecteur latent (par exemple, 768 pour la version BERT-base et 1024 pour la version BERT-Large).
$$H = [h_1, h_2, \dots, h_T] = \text{BERT}(X)$$

Les embeddings contextuels **H** désignent les représentations vectorielles produites par un modèle de langage pré-entraîné pour chaque *token* du texte d'entrée. Contrairement aux *word embeddings* classiques (tels que *word2vec* (Mikolov, 2013) ou *GloVe* (Pennington et al., 2014)), qui associent à chaque mot un unique vecteur indépendant du contexte, les embeddings contextuels tiennent compte du voisinage lexical et syntaxique. Ainsi, le même mot peut avoir des représentations différentes selon son sens et sa position dans la phrase.

<figure><img src="image_3.png" /><figcaption>FIG. 1 – Représentation schématique de l'architecture BTransformer18.</figcaption></figure>

## 2.2 Encodeurs transformer

Les embeddings contextuels **H** sont ensuite transmis à travers **L** couches d'encodeurs Transformer (Vaswani, 2017), afin de capturer les dépendances à long terme entre les tokens. Cette architecture permet de modéliser efficacement la structure du texte et de faire émerger des représentations de plus en plus riches à mesure que les couches s'empilent. Chaque couche $\ell$ transforme la représentation $Z^{(\ell-1)}$ en $Z^{(\ell)}$ comme suit :

$$Z^{(\ell)} = \text{TransformerEncoder}^{(\ell)}(Z^{(\ell-1)}), \quad \ell = 1, \dots, L, \qquad (1)$$

où $Z^{(0)} = H$. Le fonctionnement de chaque couche peut être décomposé en quatre étapes principales : Attention multi-têtes, 1er Add & Norm, Feed-forward positionnel et 2ème Add & Norm.

**Attention multi-têtes** : La première étape consiste à appliquer un mécanisme d'attention multi-têtes, noté MultiHeadAttention, sur $Z^{(\ell-1)}$ :

$$A^{(\ell)} = \text{MultiHeadAttention}(Z^{(\ell-1)}) \qquad (2)$$
Ce module scinde l'espace latent en plusieurs têtes d'attention, permettant au modèle de se focaliser sur différents aspects du contexte. L'attention proprement dite est calculée comme suit :

$$ \text{Attention}(\mathbf{Q}, \mathbf{K}, \mathbf{V}) = \text{softmax}\left(\frac{\mathbf{Q}\mathbf{K}^{\top}}{\sqrt{d_k}}\right)\mathbf{V}, \qquad (3) $$

où Q, K et V sont respectivement les matrices des requêtes, des clés et des valeurs, et $d_k$ la dimension des clés. Grâce à ce mécanisme, le modèle peut se focaliser sur diverses parties de la séquence, offrant ainsi une capture fine des dépendances sémantiques et syntaxiques.

**1er Add & Norm :** Une fois la matrice d'attention $A^{(\ell)}$ calculée, on l'additionne à l'entrée de la couche $Z^{(\ell-1)}$. Cette somme est ensuite normalisée :

$$ \mathbf{U}^{(\ell)} = \text{LayerNorm}(\mathbf{Z}^{(\ell-1)} + \mathbf{A}^{(\ell)}) \qquad (4) $$

L'addition permet de conserver les informations initiales (via le *skip connection*), tandis que la normalisation de couche (LayerNorm) (Ba, 2016) stabilise l'apprentissage et facilite la convergence.

**Feed-forward positionnel :** Chaque position dans $\mathbf{U}^{(\ell)}$ est ensuite traitée de manière indépendante par un réseau pleinement connecté, souvent appelé *position-wise feed-forward network* (FFN). On calcule :

$$ \mathbf{F}^{(\ell)} = \text{FFN}(\mathbf{U}^{(\ell)}) \qquad (5) $$

Ce réseau permet d'enrichir localement la représentation de chaque token, en transformant linéairement puis en appliquant une fonction d'activation non linéaire (par exemple, ReLU).

**2ème Add & Norm :** Enfin, on ajoute la sortie du feed-forward $\mathbf{F}^{(\ell)}$ à $\mathbf{U}^{(\ell)}$, puis on normalise à nouveau :

$$ \mathbf{Z}^{(\ell)} = \text{LayerNorm}(\mathbf{U}^{(\ell)} + \mathbf{F}^{(\ell)}) \qquad (6) $$

À l'issue de cette étape, on obtient la sortie finale de la $\ell$-ième couche, qui sert d'entrée à la couche suivante. En répétant ces opérations $L$ fois, l'encodeur Transformer parvient à agréger des informations à différentes échelles, améliorant ainsi sa capacité à modéliser les relations sémantiques et structurelles présentes dans la séquence d'entrée.

## 2.3 Agrégation et classification

La sortie du dernier encodeur Transformer est une séquence de représentations $\mathbf{Z}^{(L)} = [\mathbf{z}_1, \mathbf{z}_2, \dots, \mathbf{z}_T]$, où $\mathbf{z}_t \in \mathbb{R}^d$ représente la représentation contextuelle du $t$-ième token. Pour réduire cette séquence à un unique vecteur reflétant l'information globale, nous effectuons une agrégation par moyenne :

$$ \mathbf{z}_{\text{pool}} = \frac{1}{T} \sum_{t=1}^{T} \mathbf{z}_{t} \qquad (7) $$
Cette opération, appelée mean pooling, permet de combiner les informations contenues par chaque token, tout en préservant la structure sémantique globale de la séquence. Elle est souvent moins sensible au bruit que d'autres méthodes d'agrégation (telles que l'utilisation d'un jeton spécial [CLS]) et tend à mieux lisser les variations locales.

Une fois la représentation globale $z_{pool}$ obtenue, nous employons une couche de classification pour prédire les relations associées à la séquence. Plus précisément, nous appliquons une transformation linéaire, puis une fonction sigmoïde :

$$ \hat{y} = \sigma(\mathbf{W} \mathbf{z}_{pool} + \mathbf{b}), \qquad (8) $$

où $\mathbf{W} \in \mathbb{R}^{C \times d}$ et $\mathbf{b} \in \mathbb{R}^C$. Ici, $C$ désigne le nombre de classes de relations, et $\sigma$ est la fonction sigmoïde appliquée à chaque composante. La sortie $\hat{y} \in [0, 1]^C$ est alors interprétée comme un vecteur de probabilités indiquant la présence ou l'absence de chaque relation.

# 3 Expérimentations et résultats

Dans cette section, nous décrivons les expérimentations menées pour évaluer les performances de notre modèle BTransformer18 sur la tâche d'extraction de relations multi-étiquettes. Nous présentons d'abord le jeu de données utilisé, puis les détails de l'implémentation et des paramètres d'entraînement. Enfin, nous discutons des résultats obtenus.

## 3.1 Jeu de données et prétraitement des données

Le jeu de données utilisé pour les expérimentations est constitué de 800 rapports de renseignement factices fournis dans le cadre du défi TextMine'25 (Prieur et al., 2024). En général, les données d'entrée se composent d'un texte, des mentions et des types des entités ainsi que des attributs associés.

Par rapport à la tokenisation : les textes sont tokenisés en utilisant le tokenizer associé au modèle de language pré-entraîné, garantissant une correspondance optimale avec les embeddings. Les entités annotées sont alignées avec les tokens pour former des paires d'entités potentielles ($e_i, e_j$).

Sur la construction des Paires d'Entités : pour chaque document, nous générons toutes les paires possibles d'entités annotées, où $e_i$ et $e_j$ sont des entités du texte. Chaque paire est associée à un vecteur de labels multi-étiquettes $y_{ij} \in \{0, 1\}^C$, indiquant les relations existantes entre $e_i$ et $e_j$.

## 3.2 Entraînement du modèle

**Fonction de perte** : La Binary Cross-Entropy (BCE) est utilisée comme fonction de perte pour la classification multi-étiquettes. Cette fonction est définie par l'équation suivante :

$$ \mathcal{L} = -\frac{1}{N} \sum_{n=1}^{N} \sum_{c=1}^{C} [y_{nc} \log(\hat{y}_{nc}) + (1 - y_{nc}) \log(1 - \hat{y}_{nc})], $$
où N représente le nombre total de paires d'entités dans le lot d'entraînement, $y_{nc} \in \{0, 1\}$ est l'étiquette réelle pour la classe c, et $\hat{y}_{nc} \in [0, 1]$ est la probabilité prédite par le modèle pour cette classe.

**Optimisation :** L'optimisation du modèle est réalisée à l'aide de l'optimiseur AdamW (Loshchilov, 2017), avec un taux d'apprentissage initial $\alpha_0 = 2 \times 10^{-5}$. Un scheduler avec warm-up est appliqué pour ajuster dynamiquement le taux d'apprentissage au cours de l'entraînement. La mise à jour du taux d'apprentissage est donnée par :

$$ \alpha_t = \alpha_0 \times \min \left( \frac{t}{t_{\text{warmup}}}, 1 \right), $$

où t est le nombre d'itérations effectuées, et $t_{\text{warmup}}$ est le nombre d'itérations pendant la phase de warm-up.

**Régularisation :** Pour réduire le risque de surapprentissage, plusieurs techniques de régularisation sont intégrées dans l'architecture. Un dropout (Srivastava et al., 2014) avec un taux de $p = 0.1$ est appliqué dans les couches Transformer et la couche de classification. En parallèle, une régularisation L2 (pondération de décroissance) est utilisée sur les poids du modèle pour limiter leur amplitude et améliorer la généralisation.

**Évaluation :** Les performances du modèle sont mesurées à l'aide de métriques spécifiques à la classification multi-étiquettes. En particulier, la F1-mesure macro est employée pour évaluer la précision et le rappel moyens sur toutes les classes, pondérant chaque classe de manière égale (Prieur et al., 2024).

## 3.3 Résultats

Les résultats obtenus par notre modèle sont présentés dans le tableau 2, avec une comparaison entre deux modèles de langage pré-entraînés pour le français. Les expérimentations ont été réalisées en utilisant le modèle BTransformer18, en suivant les configurations et les hyperparamètres décrits dans la table 3.2.

Les résultats montrent que le modèle BTransformer18 utilisant CamemBERT-Large obtient un score de 0,654, tandis que celui utilisant FlaubERT-Large atteint un score de 0,620, indiquant une amélioration de 3,4 points de pourcentage grâce à l'intégration de CamemBERT-Large. Comme illustré dans la figure 2, les courbes d'entraînement de BTransformer18 avec CamemBERT montrent une convergence rapide des pertes d'entraînement et de validation au cours des premières époques, suivie d'une stabilisation. Simultanément, la F1-mesure macro de validation progresse rapidement avant d'atteindre un plateau, indiquant une amélioration significative des performances de classification multi-étiquettes. L'écart modéré entre les pertes d'entraînement et de validation met en évidence une bonne généralisation du modèle, sans signe de surapprentissage, même après plusieurs époques. Ces résultats sont l'efficacité de BTransformer18 à exploiter les représentations contextuelles riches de CamemBERT-Large, permettant d'apprendre des relations complexes tout en maintenant des performances stables sur les données de validation.
<table><caption>TAB. 1 – Hyperparamètres utilisés pour l'entraînement du modèle BTransformer18.</caption><thead><tr><td>Hyperparamètre</td><td>Valeur</td></tr></thead><tbody><tr><td>Modèle de base</td><td>CamembERT-Large</td></tr><tr><td>Taille des embeddings</td><td>1024</td></tr><tr><td>Nombre de couches Transformer</td><td>2</td></tr><tr><td>Nombre de têtes d'attention</td><td>8</td></tr><tr><td>Taux de dropout</td><td>0.1</td></tr><tr><td>Longueur maximale de séquence</td><td>150</td></tr><tr><td>Taille du batch (entraînement)</td><td>16</td></tr><tr><td>Taille du batch (validation)</td><td>16</td></tr><tr><td>Taux d'apprentissage initial (α₀)</td><td>2 × 10⁻⁵</td></tr><tr><td>Optimiseur</td><td>AdamW</td></tr><tr><td>Scheduler</td><td>Linear avec warm-up</td></tr><tr><td>Proportion du warm-up</td><td>10%</td></tr><tr><td>Nombre maximal d'époques</td><td>50</td></tr><tr><td>Patience pour l'arrêt anticipé</td><td>3</td></tr><tr><td>Classes de classification</td><td>37 (multi-étiquettes)</td></tr></tbody></table>

Les résultats suggèrent que le choix du modèle de langage pré-entraîné a un impact significatif sur les performances de l'extraction de relations multi-étiquettes. L'utilisation de CamembERT-Large semble offrir une meilleure représentation contextuelle pour les textes du défi, ce qui se traduit par une amélioration notable des performances.

Pour garantir la reproductibilité des résultats et permettre une exploration plus approfondie, le code source complet de l'implémentation est disponible publiquement sur le dépôt GitHub suivant : https://github.com/lengocluyen/relation_extraction_textmine25.

# 4 Conclusion et perspectives

Dans cet article, nous avons présenté le modèle BTransformer18, une architecture combinant des modèles de langage pré-entraînés francophones, tels que CamembERT-Large et FlaubERT-Large, avec des couches Transformer pour l'extraction de relations multi-étiquettes dans des rapports de renseignement. Les résultats expérimentaux ont démontré la supériorité de CamembERT-Large, qui a obtenu un score F1 macro supérieur à celui de FlaubERT-Large. L'analyse des courbes d'entraînement a mis en évidence une convergence rapide et une bonne
Extraction multi-étiquettes de relations en utilisant des couches de Transformer

<table><caption>TAB. 2 – Résultats des modèles sur le jeu de données du défi TextMine'25.</caption><thead><tr><td>Modèle</td><td>Score</td></tr></thead><tbody><tr><td>BTransformer18 (CamemBERT-Large)</td><td>0,654</td></tr><tr><td>BTransformer18 (FlauBERT-Large)</td><td>0,620</td></tr></tbody></table>

<figure><img src="image_4.png" /><figcaption>FIG. 2 – Évolution des pertes et de la F1-mesure macro de validation pour le modèle BTransformer18 avec CamemBERT-Large.</figcaption></figure>

généralisation, montrant l'efficacité du modèle pour capturer des relations complexes tout en évitant le surapprentissage. En exploitant les avancées récentes en traitement du langage naturel, notre modèle démontre sa capacité à relever le défi de l'extraction automatique de relations complexes, tout en maintenant une classification précise grâce aux couches Transformer.

Bien que les résultats obtenus soient prometteurs, plusieurs axes d'amélioration peuvent être explorés dans de futurs travaux. Tout d'abord, l'enrichissement des données avec des corpus supplémentaires ou annotés dans d'autres domaines pourrait renforcer la robustesse du modèle et améliorer sa généralisation. Par ailleurs, l'incorporation de graphes de connaissances ou l'utilisation de modèles d'apprentissage par graphes pourrait améliorer la modélisation des relations complexes entre entités. De plus, l'intégration de grands modèles de langage (Large
*Language Models*, LLMs), comme GPT (Achiam et al., 2023), Mistral (Jiang et al., 2023), LLama (Touvron et al., 2023), et des autres, pourrait offrir des représentations contextuelles encore plus riches et dynamiques, notamment pour des relations subtiles ou rares. Enfin, des techniques d'augmentation des données, combinées à des méthodes de régularisation avancées, ainsi qu'une optimisation des ressources computationnelles, permettraient de développer des modèles plus robustes et efficaces, adaptés à des applications en temps réel ou dans des environnements à ressources limitées. Ces pistes visent à élargir l'applicabilité du modèle tout en améliorant ses performances dans des tâches d'extraction de relations complexes.

Références

Achiam, J., S. Adler, S. Agarwal, L. Ahmad, I. Akkaya, F. L. Aleman, D. Almeida, J. Al-
tenschmidt, S. Altman, S. Anadkat, et al. (2023). Gpt-4 technical report. *arXiv preprint*
*arXiv:2303.08774*.

Ba, J. L. (2016). Layer normalization. *arXiv preprint arXiv:1607.06450*.

Devlin, J. (2018). Bert: Pre-training of deep bidirectional transformers for language understanding. *arXiv preprint arXiv:1810.04805*.

Jiang, A. Q., A. Sablayrolles, A. Mensch, C. Bamford, D. S. Chaplot, D. d. I. Casas, F. Bres-
sand, G. Lengyel, G. Lample, L. Saulnier, et al. (2023). Mistral 7b. *arXiv preprint*
*arXiv:2310.06825*.

Le, H., L. Vial, J. Frej, V. Segonne, M. Coavoux, B. Lecouteux, A. Allauzen, B. Crabbé, L. Besacier, et D. Schwab (2019). Flaubert : Unsupervised language model pre-training for french. *arXiv preprint arXiv:1912.05372*.

Liu, Y. (2019). Roberta : A robustly optimized bert pretraining approach. *arXiv preprint*
*arXiv:1907.11692 364*.

Loshchilov, I. (2017). Decoupled weight decay regularization. *arXiv preprint*
*arXiv:1711.05101*.

Martin, L., B. Muller, P. J. O. Suárez, Y. Dupont, L. Romary, É. V. de La Clergerie, D. Sed-
dah, et B. Sagot (2019). Camembert : a tasty french language model. *arXiv preprint*
*arXiv:1911.03894*.

Mikolov, T. (2013). Efficient estimation of word representations in vector space. *arXiv preprint*
*arXiv:1301.3781 3781*.

Nasar, Z., S. W. Jaffry, et M. K. Malik (2021). Named entity recognition and relation extrac-
tion : State-of-the-art. *ACM Computing Surveys (CSUR) 54*(1), 1–39.

Pennington, J., R. Socher, et C. D. Manning (2014). Glove : Global vectors for word repre-
sentation. In *Proceedings of the 2014 conference on empirical methods in natural language
processing (EMNLP)*, pp. 1532–1543.

Prieur, A., G. Gadek, A. Guille, H. Rawsthorne, P. Cuxac, et C. Lopez (2024). Défi textmine'25
– extraction de relations pour analyser des rapports de renseignement. *Actes de l'atelier
TextMine'25, Extraction et Gestion des Connaissances 2025 (EGC'25).*

Srivastava, N., G. Hinton, A. Krizhevsky, I. Sutskever, et R. Salakhutdinov (2014). Dropout : a simple way to prevent neural networks from overfitting. *The journal of machine learning*
research 15(1), 1929–1958.

Touvron, H., T. Lavril, G. Izacard, X. Martinet, M.-A. Lachaux, T. Lacroix, B. Rozière, N. Goyal, E. Hambro, F. Azhar, et al. (2023). Llama: Open and efficient foundation language models. *arXiv preprint arXiv:2302.13971*.

Vaswani, A. (2017). Attention is all you need. *Advances in Neural Information Processing Systems*.

Wolf, T., L. Debut, V. Sanh, J. Chaumond, C. Delangue, A. Moi, P. Cistac, T. Rault, R. Louf, M. Funtowicz, et al. (2020). Transformers: State-of-the-art natural language processing. In *Proceedings of the 2020 conference on empirical methods in natural language processing: system demonstrations*, pp. 38–45.

Summary

In this article, we present the BTransformer18 model, a deep learning architecture designed for multi-label relation extraction in French texts. Our approach combines the contextual representation capabilities of pre-trained language models from the BERT family—such as BERT, RoBERTa, and their French counterparts CamemBERT and FlauBERT—with the power of Transformer encoders to capture long-term dependencies between tokens. Experiments conducted on the dataset from the TextMine'25 challenge show that our model achieves superior performance, particularly when using CamemBERT-Large, with a macro F1 score of 0.654, surpassing the results obtained with FlauBERT-Large. These results demonstrate the effectiveness of our approach for the automatic extraction of complex relations in intelligence reports.