Brevet FR3162541A1 — publié le 20251128

L'invention concerne un procédé de gestion de l’entrainement d’un réseau neuronal. L'invention concerne également un dispositif informatique (100) mettant en œuvre un tel procédé. Figure pour l'abrégé : 1 Procédé et dispositif de gestion de l’entrainement d’un réseau de neurones artificiels Domaine technique de l'invention La présente invention concerne le domaine de l’apprentissage automatique. L'invention concerne en particulier un procédé de gestion de l’entraînement d’un réseau de neuronal pour la réalisation d’une tâche de classification. L'invention concerne également un dispositif informatique mettant en œuvre un tel procédé. État de la technique antérieure L’approche standard pour entraîner un réseau neuronal à la classification consiste à utiliser la perte softmax composée d'une couche softmax et d'une perte d'entropie croisée. Toutefois, il est largement observé que cette perte n’aide le réseau qu’à produire des caractéristiques séparables, mais pas suffisamment discriminantes. Dans de nombreux problèmes, la variation intraclasse est très importante, ce qui signifie que les échantillons de chaque classe sont très divers. Parallèlement, la séparabilité interclasse est faible, c'est-à-dire qu'il existe des échantillons provenant de classes différentes mais très similaires. Cela rend la prédiction beaucoup plus difficile. Par conséquent, pour obtenir une capacité de généralisation optimale, un bon outil d'apprentissage automatique en général, et un réseau neuronal en particulier, doit apprendre à produire des caractéristiques présentant une grande compacité intraclasse et une grande séparabilité interclasse. Dans certains travaux antérieurs, une perte de centre est appliquée parallèlement à la perte softmax standard. Cette perte encourage à minimiser directement la distance de chaque point à son centroïde de classe correspondant (dans l'espace des caractéristiques). Cependant, cela peut conduire à un effondrement des caractéristiques, où tous les échantillons de chaque classe se réduisent à un seul point. Dans d’autres travaux antérieurs, on souligne les avantages d'une grande marge dans le contexte de l'apprentissage profond. Cependant, ces travaux ignorent les termes de biais de la couche softmax, et par conséquent la marge peut être vue via des angles entre vecteurs au lieu de la distance euclidienne. En outre, ces travaux n'encouragent que la marge interclasse et la compacité intraclasse n'est pas prise en compte. Or, dans des scénarios où la variance est importante, la prise en compte de la compacité intraclasse s’avère nécessaire. L'invention vise à remédier à ces défauts. Elle a pour but de procurer une solution alternative pour l’entrainement d’un réseau neuronal qui peut être appliquée à tout outil d’apprentissage profond à réseau neuronal. Pour atteindre ce but, l'invention concerne, selon un premier aspect, un procédé de gestion, par un dispositif informatique, de l’entrainement d’un réseau neuronal, le procédé comprenant les étapes de : déterminer une première valeur de perte au moyen d’une fonction de perte discriminante appliquée à l’avant dernière couche dudit réseau, ladite fonction de perte discriminante comprenant un terme de compacité, un terme de séparabilité et un terme de régularisation ; déterminer une deuxième valeur de perte au moyen d’une fonction de perte softmax appliquée à la dernière couche dudit réseau ; déterminer une troisième valeur de perte en fonction de la première valeur de perte et de la deuxième valeur de perte. Selon une variante, ledit terme de compacité peut être établi en fonction de la distance L2 entre un échantillon d’une classe et le centroïde de la classe et en fonction d’un premier paramètre prédéfini. Selon une autre variante, ledit terme de séparabilité peut être déterminé en fonction d’une maximisation de la distance entre un centroïde d’une classe et une frontière de décision et en fonction d’un deuxième paramètre prédéfini. Selon encore une autre variante, ledit terme de régularisation peut être obtenu en déterminant le centroïde d’une classe sur la base d’un échantillon ou en fonction d’une variation entre une estimation du centroïde à un premier instant et une estimation du centroïde à un deuxième instant. Selon un deuxième aspect, l’invention concerne un dispositif de gestion de l’entrainement d’un réseau neuronal, le dispositif comprenant au moins une unité de traitement d’informations, comprenant au moins un processeur, et un support de stockage de données configurés pour mettre en œuvre un procédé tel que décrit ci-dessus. Selon un troisième aspect, l’invention concerne un programme d’ordinateur comprenant des instructions de code de programme pour l’exécution des étapes d’un procédé tel que décrit ci-dessus lorsque ledit programme est exécuté par au moins un processeur. Selon un quatrième aspect, l’invention concerne un support utilisable dans un ordinateur sur lequel un programme tel que décrit ci-dessus est enregistré. Brève description des figures D'autres caractéristiques et avantages de l'invention apparaîtront à l'examen de la description détaillée ci-après, et des figures annexées, dans lesquelles : FIG. 1 est un schéma illustrant la mise en œuvre d’un procédé selon l’invention ; FIG. 2 est un schéma fonctionnel d’un dispositif selon l’invention ; FIG. 3 est un logigramme des étapes d’un procédé selon l’invention ; FIG. 4 illustre des résultats expérimentaux de la mise en œuvre du procédé selon l’invention ; FIG. 5 illustre des résultats expérimentaux de la mise en œuvre du procédé selon l’invention ; et FIG. 6 illustre des résultats expérimentaux de la mise en œuvre du procédé selon l’invention. Description détaillée de l'invention Sur la FIG. 1 est illustré la mise en œuvre du procédé de gestion de l’entrainement d’un réseau neuronal selon l’invention. Selon l’invention, une fonction de perte discriminante est appliquée à l’avant dernière couche du réseau, juste avant la couche softmax. Comme cette fonction de perte discriminante n’est appliquée qu’à cette couche, elle peut avantageusement être utilisée avec n’importe quel réseau neuronal profond, pour un entrainement de bout en bout. Comme on le verra, cette fonction de perte discriminante combine deux termes distincts, un premier terme qui estime une perte de centre articulée et un deuxième terme estime une perte de marge. La perte de centre articulée est responsable de la compacité ; en minimisant cette perte, la compacité intraclasse des caractéristiques obtenues est maximisée. Elle incite en particulier à ce que la distance de chaque point à son centroïde soit plus petite qu'un paramètre positif prédéfini δ v . Cela permet d'éviter le phénomène d'effondrement. D'autre part, la perte de marge encourage à maximiser la marge de la classe. La marge de classe d'une classe donnée est définie comme la plus petite distance entre les échantillons de cette classe et sa frontière de décision la plus proche. À cette fin, on commence par dériver une formule analytique exacte pour les frontières de décision. Ensuite, au lieu de maximiser la marge de chaque échantillon d’entrainement par rapport aux frontières de décision, on calcule la formule analytique exacte du centroïde de la classe par rapport à la frontière de décision et on l’oblige à être plus grand qu'un paramètre prédéfini δ d . De manière avantageuse, une telle fonction de perte discriminante modélise simultanément la compacité de la classe et la marge par rapport aux frontières de décision dans un réseau softmax, au moyen d'une formule explicite, sans aucune approximation. Appliquée en parallèle à la perte softmax, elle renforce le pouvoir discriminant des caractéristiques. La compacité est assurée en imposant que la distance entre chaque point et son centroïde correspondant soit inférieure à un premier paramètre prédéfini δ v . La séparabilité est assurée en imposant que la distance entre chaque centroïde et les frontières de décision soit supérieure à un deuxième paramètre prédéfini δ d . En appliquant cette perte à l'avant-dernière couche, les frontières de décision peuvent être calculées explicitement (ce sont des hyperplans) et, par conséquent, la distance à ces frontières ou limites peut aussi être calculée explicitement. Enfin, la perte ainsi déterminée est combinée avec la perte softmax standard afin d’obtenir la perte totale pour gérer l’entraînement du réseau. De manière classique, la mise en œuvre du procédé selon l’invention décrite ci-dessus est effectuée au moyen d’un dispositif 100 de gestion de l’entrainement d’un réseau neuronal au sens de la présente invention, qui est illustré schématiquement sur la FIG. 2 . Il s’agit essentiellement d’un appareil informatique, qui comprend au moins une unité de traitement d’informations 101, comportant un ou plusieurs processeurs, un support de stockage de données 102, par exemple une mémoire volatile réinscriptible ou une mémoire non volatile réinscriptible, sur lequel est notamment enregistré un programme qui comprend des instructions de code de programme pour l’exécution des étapes du procédé selon l’invention décrit ci-après, et une interface d’entrée et sortie 103 permettant la réception et l’émission de données. Le dispositif 100 selon l’invention est, par exemple, un ordinateur, un serveur, un supercalculateur, ou une combinaison de l’un ou plusieurs de ces appareils, possiblement interconnectés au moyen d’un réseau de communication. Selon l’invention, les éléments décrits ci-dessus contribuent pour permettre la mise en œuvre d’un procédé de gestion de l’entrainement d’un réseau neuronal, tel que décrit ci-dessous en lien avec la FIG. 3 qui illustre au moyen d’un logigramme les étapes du procédé selon l’invention. Selon une première étape 301 du procédé selon l’invention, le dispositif 100 selon l’invention détermine une première valeur de perte au moyen d’une fonction de perte discriminante appliquée à l’avant dernière couche du réseau, cette fonction de perte discriminante comprenant un terme de compacité, un terme de séparabilité et un terme de régularisation. De manière préférentielle, le terme de compacité est établi en fonction de la distance L2 entre un échantillon d’une classe et le centroïde de la classe et en fonction d’un premier paramètre prédéfini (δ d ) . En outre, le terme de séparabilité est préférentiellement déterminé en fonction d’une maximisation de la distance entre un centroïde d’une classe et une frontière de décision et en fonction d’un deuxième paramètre prédéfini (δ v ). Par ailleurs, le terme de régularisation est préférablement obtenu en déterminant le centroïde d’une classe sur la base d’un échantillon ou en fonction d’une variation entre une estimation du centroïde d’une classe à un premier instant et une estimation du centroïde d’une classe à un deuxième instant. Ensuite, selon une deuxième étape 302 du procédé selon l’invention, le dispositif 100 selon l’invention détermine une deuxième valeur de perte au moyen d’une fonction de perte softmax appliquée à la dernière couche du réseau. Enfin, selon une troisième étape 303 du procédé selon l’invention, le dispositif 100 selon l’invention détermine une troisième valeur de perte en fonction de la première valeur de perte et de la deuxième valeur de perte. Pour plus de clarté, on va expliciter ci-dessous les bases qui établissent le contexte de l’invention. On considère un problème de classification avec C classes et un espace d'entrée X (il peut s'agir d'images, de séries temporelles, de vecteurs, etc.). Le réseau de neurones transforme les entrées en vecteurs de dimension fixe : fθ : X → F ⊆ R d , où θ est l'ensemble des paramètres du réseau de neurones et d est la dimension de l'espace des caractéristiques F. Par exemple, si on considère une entrée q ∈ X, sa caractéristique correspondante dans l'espace des caractéristiques F est x := fθ(q) ∈ F. Elle passe ensuite par une couche softmax constituée d'une transformation linéaire (Eq. (1)) et d'une fonction softmax (Eq. (2)) : où z i est la i ème composante du vecteur-colonne z. En notant g(x) = σ(W x + b), la prédiction est alors effectuée par la classe dont la valeur est maximale, c'est-à-dire yˆ = arg maxi σ(z)i = arg maxi zi . Dans l’approche standard, pour encourager le réseau neuronal à prédire le score maximal pour la bonne classe, la fonction de perte softmax est adoptée, càd. : où B est le mini-lot considéré, q est l'exemple d'entraînement avec son étiquette de vérité correspondante y ∈ {1, 2...C}. En minimisant cette fonction de perte par rapport à θ et (W, b), le réseau apprend à attribuer le score maximal à la bonne classe. On va maintenant détailler la fonction de perte discriminante qui, selon l’invention, est avantageusement appliquée à l’avant dernière couche du réseau neuronal. En considérant la paire de classes {i, j}, on a: où zi est la ième composante du vecteur-colonne z, Wi est la ième ligne de la matrice W. Soit Pij l'hyperplan défini par : On voit alors que zi > zj et zi D'après l'équation (3), pour une entrée de la classe i, nous voyons que la perte de softmax encourage zi > zj , ∀j = i, c'est-à-dire ‹Wi , x› + bi > ‹Wj , x› + bj, c'est-à-dire ‹Wi - Wj , x› + (bi - bj ) > 0. Par conséquent, la perte softmax oblige les caractéristiques à se trouver du bon côté par rapport aux hyperplans de décision et convient donc pour encourager les caractéristiques linéairement séparables. En outre, cette perte encourage les entrées de la même classe à produire des vecteurs de probabilité proches les uns des autres et proches du coin correspondant du simplexe unitaire. Cependant, nous remarquons une propriété de la fonction softmax : où z + ε désigne le vecteur tel que (z + ε)i = zi + ε. Par conséquent, même pour deux entrées de la même classe qui produisent exactement les mêmes vecteurs de probabilité, il n'est pas garanti que les caractéristiques de la même classe soient proches l'une de l'autre. Si c'est le cas, il s'agit d'une propriété intrinsèque des réseaux neuronaux suffisamment intelligents pour le faire, et non d'une conséquence de l'utilisation d'une perte de type "softmax". Comme déjà abordé plus haut, la compacité intraclasse est importante pour améliorer la capacité de généralisation du réseau. Il est donc souhaitable de disposer d'une perte qui encourage explicitement cette propriété pour les caractéristiques produites. C’est pourquoi on propose la fonction de perte discriminante selon l’invention telle qu’expliqué ci-dessous. Pour obtenir une meilleure classification, on se base sur deux facteurs: la compacité intraclasse et la séparabilité interclasse. Pour obtenir ces propriétés, on travaille dans l'espace des caractéristiques F. Dans de nombreux problèmes de classification, la variance intraclasse est très importante, car les échantillons d'une même classe sont très divers. Ainsi, en obligeant le réseau à cartographier les divers échantillons d'une même classe dans des représentations avec une compacité intraclasse, le réseau apprend les caractéristiques représentatives de chaque classe et ignore les détails non utiles (de sorte que leurs représentations sont proches). D'un autre côté, il existe des échantillons appartenant à des classes différentes mais très similaires, ce qui entraîne une mauvaise classification. C'est pourquoi on veut également apprendre une représentation avec une grande marge entre les classes. De cette manière, le réseau apprend quelles sont les caractéristiques qui font la différence entre les classes, ce qui permet de mieux classer les échantillons. Pour atteindre tous ces objectifs, la fonction de perte discriminante selon l’invention prend avantageusement la forme suivante : L discr = α · L comp + β · L marg + γ · L reg où L comp , L marg et L reg sont respectivement responsables de la compacité des classes, de la séparabilité interclasse et de la régularisation. On examine maintenant en détails ces trois termes. On considère le mini-lot courant B. On dénote C B comme l'ensemble des classes présentes dans B, C B c comme les exemples de la classe c dans B. Pour obtenir une meilleure compacité intraclasse, on applique : où : ||.|| est la distance L2 et [x]+ = max(0, x). m c est le centroïde de la classe c. Cette fonction n'est activée que si ||mc - x|| ≥ δv et s'annule lorsque ||mc - x|| Pour obtenir une meilleure séparabilité interclasse, on veut une fonction de perte qui impose une grande marge entre les classes tout en tenant compte des frontières de décision. Une stratégie simple consisterait à maximiser la distance de chaque échantillon à toutes les frontières de décision. Cependant, cette méthode est très coûteuse. Au lieu de cela, on maximise la distance de chaque centroïde aux frontières de décision par rapport à toutes les autres classes. La perte de marge est ainsi représentée comme suit : Ainsi, lorsque le centroïde mc est du bon côté de la frontière de décision, sign(g(mc)c - g(mc)i) > 0, et on minimise donc [δd - d(mc,Pci)]+, par conséquent d(mc,Pci) est encouragé à être plus grand que δd. Au contraire, si mc se trouve du mauvais côté de la frontière de décision, on minimise [δd + d(mc,Pci)]+. Cela oblige mc à passer du bon côté. Par conséquent, cette perte n'est désactivée que si le centroïde se trouve du bon côté par rapport aux frontières de décision et que sa distance par rapport aux frontières de décision est supérieure à δd. En outre, on opte pour l'opération d'agrégation maxi=c au lieu de meani=c. La raison pour cela est que certaines paires de classes sont plus faciles à séparer que d'autres. Par conséquent, si on utilise l'agrégation moyenne, en focalisant simplement sur les paires faciles et en ignorant les paires difficiles, la perte globale est toujours minimisée. Au contraire, avec l'agrégation max, on oblige le réseau neuronal à se concentrer sur les paires difficiles, afin qu'il puisse apprendre des caractéristiques plus utiles pour augmenter le pouvoir discriminant. On note que la distance de mc à l'hyperplan Pci (qui est la frontière de décision de la paire de classes (c, i)) peut être calculée explicitement comme suit : Ainsi, à ce stade, la fonction de perte discriminante selon l’invention encourage chaque centroïde à s'éloigner des frontières de décision. Cependant, il n'y a aucune garantie que les frontières de décision forment un espace proche, et les centroïdes résultants pourraient être poussés à l'infini. C’est pour solutionner ce problème que la fonction de perte discriminante selon l’invention contient un terme de régularisation, qui prend la forme suivante : Par ailleurs, on peut calculer le centroïde d’une classe de plusieurs manières. Une première manière consiste à utiliser un échantillon des éléments d’une classe. Du point de vue mathématique, cela revient à déterminer un centroïde d’une classe en résolvant : Une autre manière consiste à déterminer la variation entre une estimation du centroïde à un premier instant et une estimation du centroïde à un deuxième instant. Du point de vue mathématique, cela revient à résoudre : La FIG. 4 illustre des résultats expérimentaux réalisés sur l’ensemble de données CIFAR10. On évalue tout d’abord comment la fonction de perte discriminante selon l’invention permet d'améliorer la compacité des classes et la séparabilité interclasse par rapport à la perte softmax. Pour ce faire, on commence par entraîner le réseau sur l'ensemble d'entraînement de CIFAR10. Ensuite, on calcule les caractéristiques de l'ensemble de test. Enfin, on utilise la technique du t-SNE (Van der Maaten et Hinton 2008) pour visualiser les caractéristiques dans un espace en deux dimensions. Comme on le voit sur la partie supérieure gauche de la figure la perte softmax ne permet pas de séparer correctement les classes dans l'espace des caractéristiques. Au contraire, comme on le voit sur la partie supérieure droite de la figure, la fonction de perte discriminante selon l’invention permet une meilleure séparabilité interclasse. Ensuite, on évalue comment la fonction de perte discriminante selon l’invention aide le réseau à mieux se généraliser à l'ensemble de test en examinant la précision du test. On utilise seulement une portion de l'ensemble d'entraînement pour l'entraînement, puis on évalue sur l'ensemble de test complet, avec la perte softmax et la fonction de perte discriminante selon l’invention. Les résultats sont présentés dans le tableau reproduit sur la partie inférieure de la figure, avec les résultats de la perte softmax (L s ) à la deuxième ligne du tableau et les résultats de la fonction de perte discriminante selon l’invention à la troisième ligne du tableau (L discr ). On constate qu'à différents pourcentages de l'ensemble d'entraînement, le procédé selon l’invention est systématiquement plus performant que la perte softmax. De plus, avec seulement 60 % de l'ensemble d'entraînement, le procédé selon l’invention est déjà plus performant que la perte softmax en utilisant l'ensemble d'entraînement complet. Ce résultat prouve que la fonction de perte discriminante selon l’invention aide le réseau à mieux se généraliser en utilisant moins de données d'entraînement. La FIG. 5 illustre les mêmes expériences réalisées sur l’ensemble de données SVHN. Comme on le voit sur la figure, en comparant, à gauche, les résultats de la perte softmax et, à droite, ceux de la fonction de perte discriminante selon l’invention, on obtient une meilleure séparation et une meilleure compacité. En outre, comme on le voit sur le tableau illustré sur la partie inférieure de la figure, le procédé selon l’invention est systématiquement plus performant que la perte softmax. Fait remarquable, avec seulement 40 % de l'ensemble des données d'entraînement, le procédé selon l’invention donne déjà la même précision de test que le réseau softmax utilisant l'ensemble de données d'entraînement complet. Ce résultat prouve que la fonction de perte discriminante aide le réseau à mieux se généraliser en utilisant moins de données d'entraînement. Comme déjà évoqué, la fonction de perte discriminante selon l’invention est appliquée à l'avant-dernière couche du réseau (juste avant la couche softmax). Or, les réseaux de neurones sont généralement constitués de couches pouvant être regroupées en deux sous-ensembles. Un premier sous-ensemble de couches dédié à l'extraction de caractéristiques ("features extraction" en anglais), et un deuxième sous-ensemble, dédié à la classification, qui regroupe la ou les dernières couches du réseau de neurones. C’est en particulier à ce deuxième sous-ensemble que l’on fait référence lorsque l'on parle de la couche softmax. Il est donc intéressant de voir l'impact de cette fonction de perte sur le réseau global, car les résultats présentés dans les figures 4 et 5 correspondent justement à la caractéristique de l'avant-dernière couche. Par conséquent, on peut penser que la fonction de perte discriminante selon l’invention n'a d'impact que sur les couches entièrement connectées pour donner des caractéristiques discriminantes et qu'elle n'a pas ou peu d'impact sur l’extracteur de caractéristique. C'est pourquoi on applique la même technique t-SNE aux couches intermédiaires de l’extracteur de caractéristique. Dans les deux expériences ci-dessus, on a utilisé ResNet18 (He et al. 2016) comme extracteur de caractéristique, suivi de quelques couches entièrement connectées avant la couche softmax. ResNet18 comprend 4 blocs principaux, chacun donnant des sorties de dimension H × W × Ci , où H et W sont des dimensions spatiales (et dépendent donc de la dimension d'entrée), Ci est le nombre de canaux du bloc i (indépendant de la dimension d'entrée). On procède tout d'abord à une mise en commun des moyennes globales le long des dimensions spatiales afin d'obtenir un vecteur de caractéristiques de dimension Ci (pour chaque bloc i). Ensuite, le t-SNE est effectué comme pour l'avant-dernière couche. Les résultats pour CIFAR10 et SVHN sont présentés sur la FIG. 6 , en haut pour l’ensemble de données CIFAR 10 et en bas pour l’ensemble de données SVHN. Pour les deux ensembles de données, on observe qu'il n'y a pas de groupes distincts dans les deux premiers blocs. Cela est normal car il s'agit de couches peu profondes et aucune caractéristique sémantique n'est réellement capturée. Cependant, à partir du bloc 3, la fonction de perte discriminante selon l’invention semble aider le réseau à produire des grappes plus distinctives par rapport à la perte softmax. Et cet effet est bien observé pour le bloc 4 pour les deux ensembles de données. Cela implique que la fonction de perte discriminante selon l’invention n'a pas seulement un impact sur les caractéristiques de l'avant-dernière couche, mais qu'elle aide réellement le réseau à apprendre des caractéristiques plus discriminantes aux niveaux intermédiaires. En conclusion, la fonction de perte discriminante selon l’invention est utile pour l'apprentissage du réseau. Par conséquent, grâce au procédé et au dispositif selon l’invention décrits ci-dessus, une solution est fournie pour l’entrainement d’un réseau neuronal qui peut être appliquée à tout réseau d’apprentissage profond à réseau neuronal. Un réseau neuronal ainsi entrainé peut notamment être utilisé pour des tâches de classification diverses, par exemple, mais sans s’y limiter, pour des tâches de reconnaissance faciale, d’identification de panneau de signalisation, de reconnaissance de comportement de conduite d’un conducteur d’un véhicule, d’identification de type de revêtement de chaussée, de reconnaissance vocale etc. Procédé de gestion, par un dispositif informatique (100), de l’entrainement d’un réseau neuronal, caractérisé en ce que ledit procédé comprend les étapes de : déterminer une première valeur de perte au moyen d’une fonction de perte discriminante appliquée à l’avant dernière couche dudit réseau, ladite fonction de perte discriminante comprenant un terme de compacité, un terme de séparabilité et un terme de régularisation ; déterminer une deuxième valeur de perte au moyen d’une fonction de perte softmax appliquée à la dernière couche dudit réseau ; déterminer une troisième valeur de perte en fonction de la première valeur de perte et de la deuxième valeur de perte. Procédé selon la revendication 1, caractérisé en ce que ledit terme de compacité est établi en fonction de la distance L2 entre un échantillon d’une classe et le centroïde de la classe et en fonction d’un premier paramètre prédéfini. Procédé selon l'une des revendications précédentes, caractérisé en ce que ledit terme de séparabilité est déterminé en fonction d’une maximisation de la distance entre un centroïde d’une classe et une frontière de décision et en fonction d’un deuxième paramètre prédéfini. Procédé selon l'une des revendications précédentes, caractérisé en ce que ledit terme de régularisation est obtenu en déterminant le centroïde d’une classe sur la base d’un échantillon ou en fonction d’une variation entre une estimation du centroïde d’une classe à un premier instant et une estimation du centroïde d’une classe à un deuxième instant. Dispositif (100) de gestion de l’entrainement d’un réseau neuronal, caractérisé en ce que le dispositif comprend au moins une unité de traitement d’informations (101), comprenant au moins un processeur, et un support de stockage de données (102) configurés pour mettre en œuvre un procédé selon l’une quelconque des revendications précédentes. Programme d’ordinateur comprenant des instructions de code de programme pour l’exécution des étapes d’un procédé selon l’une quelconque des revendications 1 à 4 lorsque ledit programme est exécuté par au moins un processeur. Support utilisable dans un ordinateur, caractérisé en ce qu’un programme selon la revendication 6 y est enregistré.