Brevet FR2671209A1 — publié le 19920703

La présente invention se rapporte au domaine de réseaux électriques ayant pour but de simuler la fonction du cortex du cerveau humain Plus particulière- ment, l'invention concerne des réseaux multicouches pour résoudre des problèmes qui sont d'une nature non linéaire. Des réseaux neuronaux constituent une classe de circuits électroniques qui simulent des fonctions d'ordres élevés du cerveau, comme la mémoire, l'éduca- tion et/ou la perception et la reconnaissance Ces réseaux adoptent en principe un processus parallèle pour traiter des problèmes de reconnaissance et mappage de configura- tions qui peuvent être résolus en des millièmes parties du temps nécessité par un calculateur Von-Neuman conven- tionnel opérant avec des durées de cycles d'une seule instruction A titre d'introduction dans le domaine des réseaux neuronaux artificiels, on pourra se référer à un article de Richard P Lippmann, intitulé "An Intro- duction To Computing With Neural Nets", publié dans "IEEE ASSP Magazine", Avril 1987 Cet article décrit des réseaux couramment utilisés ainsi que des composants simples analogues à des neurones. Dans sa forme la plus simple, un réseau neuro- nal se présente généralement sous la forme d'une matrice composée de lignes horizontales qui se croisent et sont en contact avec un ensemble de lignes verticales Les lignes horizontales simulent la fonction d'axones dans le cortex du cerveau et sont utilisées comme des entrées. Les lignes verticales simulent la fonction de dendrites partant de neurones Chaque ligne verticale se termine dans un dispositif de sommation de tensions qui agit de façon à simuler la fonction du corps de cellules neuronales Ces réseaux sont fréquemment appelés des perceptrons monocouches et ont été conçus en tenant compte de leur capacité à apprendre à reconnaître des configurations simples Des exemples de tels réseaux et de leurs éléments de calcul sont décrits dans les brevets des Etats Unis d'Amérique N O 4 950 917; 4 904 881; 4 956 564; et 4 961 002, qui ont tous été délivrés au Déposant de la présente demande de brevet. Pour résoudre des problèmes qui ne sont pas linéairement dépendants, ou qui ne sont pas linéairement séparables, un réseau neuronal multicouche ( c'est-à-dire un perceptron multicouche) est nécessaire Des réseaux multicouches évitent un grand nombre des limitations imposées aux réseaux monocouches par le fait qu'ils comportent des couches additionnelles contenant des unités ou noeuds masqués qui ne sont pas directement connectés à la fois avec les noeuds d'entrée et de sor- tie A titre d'exemple, un réseau neuronal multicouche est décrit dans le brevet des Etats Unis d'Amérique n' 4 906 865, qui a également été délivré au Déposant de la présente invention Le nombre de couches dans le réseau est en relation directe avec la complexité du problème que le réseau est capable de résoudre Par exemple, un perceptron à trois couches est capable de produire des zones de décision arbitrairement complexes. Par le passé, un des inconvénients principaux de perceptrons multicouches a été que chacun des noeuds associés aux couches additionnelles comprend un ensemble correspondant de neurones Ces neurones remplissent usuellement des fonctions de sommation et Sigmoid Cepen- dant, du fait que les agencements électriques de neuro- nes ont tendance à occuper beaucoup de place, des réseaux multicouches se sont avérés inefficaces et d'une fabri- cation coûteuse En conséquence, il est nécessaire de créer des moyens permettant de réaliser un réseau neuronal multicouche en utilisant un nombre minimal de neurones. Un réseau neuronal analogique multicouche électriquement instructible et utilisant des neurones de sortie multiplexés va être décrit dans la suite. Le réseau traite des entrées qui sont organisées en deux groupes, à savoir un groupe externe et un groupe récurrent ( c'est-à-dire de réaction) Chaque couche du réseau comprend une matrice de cellules synoptiques organisées sous forme d'un groupe Les cellules synapti- ques proprement dites comprennent des dispositifs à grilles flottantes dans lesquelles le niveau de la charge électrique existant sur les grilles flottantes représente la pondération mémorisée du groupe synaptique De cette manière, chaque couche du réseau forme le produit interne d'un vecteur d'entrée ( soit externe, soit récurrent) et d'un vecteur de pondération mémorisée Plus précisé- ment, chaque couche du réseau effectue une multiplica- tion matricielle entre un vecteur d'entrée et une matrice de pondération; chaque élément du résultat étant un produit "scalaire" du vecteur d'entrée et d'un vecteur de pondération. Chacune des couches synaptiques du réseau est reliée à une pluralité de neurones qui produisent une sortie Sigmoid, ou "réponse neuronale" dérivée du traitement associé à l'une quelconque ou bien toutes les couches Ainsi les neurones de sortie sont multiple- xés avec chacune des couches synaptiques de telle sorte que les neurones soient effectivement réutilisés pour calculer le produit scalaire total pour chaque couche. En marche normale, un traitement est effectué séquentiel- lement sur une base couche-par-couche Cela signifie que le vecteur externe d'entrée couplé avec le premier groupe synaptique produit d'abord une réponse Sigmoid à la sortie de l'ensemble de neurones Ce signal de sortie est ensuite renvoyé à la couche suivante et aux couches successives du réseau sous la forme d'un vecteur d'entrée récurrent. Une fois que les sorties neuronales ont été renvoyées comme des entrées récurrentes à la couche suivante ( par exemple la seconde couche) du réseau, un traitement de la couche suivante peut commencer. Le signal de sortie obtenu par traitement de la seconde couche est engendré par les mêmes neurones que ceux utilisés dans le traitement de la première couche Pour empêcher le vecteur externe d'entrée appliqué au réseau de gêner un traitement de couches suivantes, ces entrées sont effectivement déconnectées du réseau au moyen de la déconnexion et de la mise hors fonction des tampons d'entrée et, ensuite, des lignes d'entrée. Chaque couche du réseau comprend un ensemble synaptique de polarisation fixée qui mémorise des élé- ments de pondération additionnels de polarisation fixée. Un changement des éléments pondérateurs de polarisation modifie la somme des courants engendrés dans les dendrites de chaque couche synaptique, en décalant ainsi le seuil de neurones En conséquence le réseau neuronal de la présente invention peut effectuer une opération sur N couches en utilisant des connexions récurrentes et un seul ensemble de neurones de sortie multiplexés. Selon d'autres caractéristiques du réseau neuronal multicouche conforme à l'invention: Le réseau neuronal comprend une première couche synap- tique pour multiplication d'un vecteur d'entrée avec un premier élément de pondération mémorisé; une secon- de couche synaptique pour la multiplication d'un vec- teur récurrent avec un second élément de pondération mémorisé; une pluralité de neurones obtenant un signal de sortie Sigmoid provenant de l'une ou l'autre ou bien des deux couches synaptiques précitées; des moyens pour un multiplexage desdits neurones entre lesdites première et seconde couches synaptiques. Chacune desdites couches synaptiques mémorise ses éléments de pondération respectifs sous la forme d'une valeur de transconductance analogique et chacune pro- duit un courant analogique de sortie qui est addition- né le long de dendrites reliées auxdits neurones. Les moyens de multiplexage précités comprennent un premier moyen- tampon pour un tamponnage dudit vecteur d'entrée, un second moyen-tampon pour un tamponnage dudit vecteur récurrent; et des moyens de commande pour commander lesdits premier et second tampons afin de découpler ledit vecteur d'entrée de ladite première couche synaptique pendant le traitement de la seconde couche et de découpler ledit vecteur récurrent pendant le traitement de la première couche. Le réseau comprend en outre un premier ensemble d'élé- ments de pondération de polarisation fixée qui est associé à ladite première couche synaptique pour modi- fier la somme des courants engendrés par ladite première couche synaptique; un second ensemble d'éléments de pondération de polarisation fixée associé à ladite seconde couche pour modifier la somme des courants engendrés par ladite seconde couche. L'invention concerne également un système de traitement à distribution en parallèle pour une corré- lation de l'adaptation entre deux ou plus de deux vec- teurs, ce système comprenant: un ensemble synaptique d'entrée pour calculer le produit scalaire d'un vecteur d'entrée et d'un premier vecteur de pondération mémorisé sous la forme d'une somme de courants; un ensemble synaptique de réaction pour calculer le produit scalaire d'un vecteur récurrent et d'un second vecteur de pondération mémorisé sous la la forme d'une somme de courants; une pluralité de neurones remplissant une fonction Sigmoid; des moyens pour multiplexer séquentiellement lesdits neurones entre lesdits ensembles d'entrée et de réaction de telle sorte que lesdits neurones opèrent d'abord sur la somme des courants engendrés par ledit ensemble d'entrée pour produire ledit vecteur récurrent, lesdits neurones opérant ensuite sur la somme des courants engendrés par ledit ensemble de réaction. Selon d'autres particularités de ce système de traitement: Lesdits moyens de multiplexage comprennent un premier moyen-tampon pour un tamponnage dudit vecteur d'entrée provenant dudit ensemble synaptique d'entrée; un second moyen-tampon pour un tamponnage dudit vecteur récurrent provenant dudit ensemble synaptique de réac- tion; des moyens de commande pour commander lesdits premier et second tampons afin de découpler ledit vecteur récurrent dudit ensemble de réaction pendant un traitement de la première couche et de découpler ledit vecteur d'entrée dudit ensemble d'entrée pendant un traitement de la seconde couche. Le système comprend en outre un premier ensemble d'élé- ments de pondération de polarisation fixée qui est associé audit ensemble synaptique d'entrée pour modi- fier la somme des courants engendrés par ledit ensemble d'entrée ainsi qu'un second ensemble d'éléments de pondération de polarisation fixée associé audit ensemble synaptique de réaction pour modifier la somme des courants engendrés par ledit ensemble de réaction. Lesdits ensembles d'entrée et de réaction comprennent chacun un ensemble de dispositifs à grilles flottantes électriquement programmables qui mémorisent lesdits premier et second éléments de pondération sous la forme de charges électriques. D'autres caractéristiques et avantages de l'invention seront mis en évidence dans la suite de la description, donnée à titre d'exemple non limitatif, en référence aux dessins annexés dans lesquels: la Figure 1 représente un perceptron multicou- che de l'art antérieur, comportant une couche d'unités masquées. La Figure 2 est une représentation schématique de la réalisation couramment préférée de la présente invention. La Figure 3 montre comment le perceptron multi- couche de la présente invention peut faire l'objet d'une expansion sous la forme de N couches séparées. La Figure 4 représente un schéma de circuit d'une réalisation des tampons des Figures 2 et 3. On va décrire un principe de multiplexage de neurones de sortie dans un système de traitement avec distribution en parallèle Dans la description suivante, de nombreux détails spécifiques sont indiqués, comme le nombre de couches, des connexions, des types de dispositifs, etc, pour bien comprendre la présente invention Cependant il sera évident pour des spécialis- tes de ce domaine que la présente invention peut être mise en oeuvre sans ces détails spécifiques Dans d'autres exemples, des structures bien connues comme des amplifi- cateurs neuronaux et des cellules synaptiques n'ont pas été précisés en détail afin d'éviter un obscurcisse- ment inutile de la présente invention. On va d'abord définir l'art antérieur Sur la Figure 1 est représenté un perceptron multicouche conventionnel dans lequel un vecteur d'entrée ui est appliqué à une série de noeuds d'entrée 10 Ces noeuds sont sélectivement connectés par plusieurs lignes 12 à une seconde série de noeuds 11 qui constituent la couche masquée du réseau Chaque ligne 12 correspond à une valeur dans l'ensemble synaptique Il est à noter également que chacun des noeuds 11 de la Figure 1 comporte un dispositif de sommation neuronal, ou neurone, qui est couramment excité électriquement en utilisant un amplificateur opérationnel Comme cela a été précédemment décrit, des amplificateurs opérationnels occupent un espace important et augmentent ainsi fortement les dimen- sions hors tout et le coût du réseau. Des noeuds 11 de la couche masquée sont reliés de façon analogue à une seconde série de noeuds 14 par l'intermédiaire de lignes 13 Les noeuds 14 comportent également des dispositifs de sommation neuronale dont la réponse représente une sortie de fonction Sigmoid Le problème principal se posant avec le réseau de l'art antérieur représenté sur la Figure 1 consiste en ce que chaque couche du perceptron multicouche néces- site une série de neurones de sortie spécialisés Pour un très grand ensemble comportant de multiples couches, la zone occupée par ces neurones devient excessivement grande Cela est notamment le cas lorsque le réseau est agencé comme un circuit intégré En conséquence le réseau neuronal multicouche de la Figure 1 est caracté- risé par son inefficacité. On va maintenant décrire la présente invention en référence aux Figures 2 à 4 Sur la Figure 2 est représentée la réalisation couramment préférée de la présente invention, o un vecteur d'entrée ui et une en- trée de polarisation VBIA Sl sont reliés par l'intermé- diaire d'un tampon d'entrée 19 à une pluralité corres- pondante de lignes horizontales 20 Les lignes 20 compren- nent les axones de l'ensemble Chaque ligne horizontale est sélectivement connectée à une ligne verticale de dendrites 17 par l'intermédiaire d'une cellule synapti- que 18 Les cellules synaptiques 18 mémorisent collecti- vement un vecteur de pondération W Chacune des lignes 1 J verticales 17 est représentée comme se terminant à un dispositif de sommation neuronale 24 Les dispositifs 24 additionnent les courants passant dans les lignes 17 et produisent à la sortie une tension qui est renvoyée à la couche suivante le long des lignes 25 Les lignes sont reliées à des lignes horizontales 21 associées à la seconde couche du réseau par l'intermédiaire de tampons de réaction 22. Il est à noter qu'en association à chaque niveau ou couche du réseau multicouche de la Figure 2, il intervient un terme de tension d'entrée de polari- sation, VBIAS, qui est relié de façon analogue, par l'intermédiaire d'une série de cellules synaptiques additionnelles 16, à chacune des lignes 17 du réseau. A titre d'exemple, le premier niveau du réseau représenté sur la Figure 2 comporte une tension d'entrée VBIASî qui est appliquée à l'ensemble par l'intermédiaire de cel- lules synaptiques 16 qui mémorisent des éléments pondéra- teurs de polarisation fixée Bil, B 12,, Blk' Les cellules synaptiques 16 sont intégralement identiques aux cellules 18, c'est-à-dire que les cellules 16 effec- tuent une multiplication entre le terme de polarisation d'entrée VBIASî et une série d'éléments de pondération de polarisation fixée ( c'est-à-dire Blk) Il est égale- ment à noter que la tension de polarisation d'entrée est mémorisée par des tampons 19. De façon analogue, le second niveau du réseau neuronal comporte un terme de tension d'entrée V BI As 2 qui est appliquée à des dendrites 17 par l'intermédiaire de cellules synaptiques 16 qui mémorisent des éléments de pondération de polarisation fixée B 21, B 22, B 2 i' Chacun de ces termes de polarisation représente une valeur fixée lorsque la couche associée du réseau est active Quand les tampons d'entrée associés 22 sont invalidés ( par l'intermédiaire d'un signal de comman- de ENABLE 2), à la fois les entrées de polarisation et récurrente présentes dans les lignes 25 sont déconnec- tées de l'ensemble du réseau Cela produit effectivement une désactivation du second niveau ou de la seconde couche du réseau de sorte que les entrées de réaction ne contribuent plus à faire passer du courant dans les lignes 17 reliées aux neurones 24. La même considération s'applique à la première couche du réseau, c'està-dire pendant un traitement de la seconde couche, le signal de commande ENABLE 1 étant utilisé pour invalider l'entrée de premier niveau provenant de l'ensemble Cet aspect de l'invention sera décrit de façon plus détaillée dans la suite. Un fonctionnement normal du réseau de la Figure 2 sera mieux décrit sous la forme d'un traitement avec distribution en parallèle, o chacun des neurones 24 remplit la fonction suivante: Sortie (On) = SigmoidlZ(Pondération(Wi)e Entrée(ui))+Z(B k VBIAS)J Ce calcul est une opération de "produit sca- laire" ou de "produit intérieur" qui est ultérieurement comprimé par une caractéristique de transfert Sigmoidal. En d'autres termes, le produit scalaire d'un vecteur d'entrée u et d'un vecteur de pondération mémorisé W est égal au produit de leurs longueurs par le cosinus de l'angle formé entre eux On obtient une seule quantité scalaire qui est établie pour montrer l'adaptation étroi- te entre les deux vecteurs Une paire de vecteurs aura le plus grand produit scalaire lorsque l'angle formé entre eux est le plus petit ( par exemple une meilleure adaptation) Dans le réseau de la Figure 2, chacun des neurones individuels 24 "lie" indépendamment un des deux, ou bien les deux vecteurs d'entrée et/ou récur- il rent avec les matrices de pondération correspondantes. ( Evidemment, il y a également des éléments de pondéra- tion additionnels de polarisation fixée qui sont associés à chaque niveau du réseau). Dans le réseau neuronal de la Figure 2, chacune des cellules synaptiques 18 mémorise des éléments de pondération sous la forme de valeurs de transconductance analogiques, produisant chacune un courant analogique de sortie à partir d'une tension analogique d'entrée et d'une tension de pondération mémorisée Habituelle- ment, les cellules 18 comprennent une paire de cellules EEPROM ordinaires de structure synaptique, bien que d'autres types de cellules synaptiques puissent aussi être utilisées Des courants engendrés par chacune des cellules synaptiques qui sont connectées le long d'une seule dendrite 17 sont additionnés pour former le courant d'entrée résultant appliqué à un corps de neurone 24. La "somme de courants" de dendrites est ensuite convertie en une tension par un neurone 24 qui produit à sa sortie la fonction Sigmoid Lorsque les deux ensembles d'entrée et de réaction sont actifs, la sortie neuronale transmise par les lignes 25 correspond à la somme des deux produits scalaires. Il est à noter que la fonction Sigmoid est une fonction de "seuil" o des produits scalaires infé- rieurs au seuil de sortie de neurone indiquent une mauvaise adaptation entre les vecteurs de pondération d'entrée et mémorisé Inversement, la sortie de neurone est grande pour des produits scalaires supérieurs au seuil de neurone Evidemment, un seuil de neurone peut être modifié indépendamment par l'algorithme d'éduca- tion qui est appliqué au réseau Cela permet d'adopter des critères différents d'adaptation pour différents vecteurs Une modification des pondérations unitaires de polarisation change la somme des courants, en décalant ainsi le seuil de neurone. Dans la configuration de la Figure 2, des sorties neuronales transmises par les lignes 25 sont appliquées par l'intermédiaire de tampons de réaction 22 à la seconde série de lignes horizontales 21 Les tampons de réaction 22 comprennent typiquement des dispo- sitifs de mémorisation ordinaires mais ils peuvent égale- ment remplir une fonction d'échantillonnage et de blocage pour un fonctionnement séquentiel du réseau neuronal La reconnaissance de la parole constitue une application o cette caractéristique est particulièrement utile puisque des données d'entrée sont collectées à différents moments Un réseau neuronal utilisant une architecture de réaction avec échantillonnage et blocage est décrit dans le brevet des Etats Unis d'Amérique N O 4 906 865. La Figure 4 représente une réalisation de tampons 19 et 22 pouvant être utilisés dans le réseau de la présente invention Dans le tampon de la Figure 4, des entrées individuelles sont reliées par l'intermé- diaire d'une ligne d'entrée 36 à un tampon ordinaire 37 comportant une sortie dans la ligne 44 La ligne 44 est à son tour reliée à un simple commutateur analogi- que 40, qui comprend une paire de transistors à effets de champ couplés en parallèle ( c'est-à-dire un transis- tor à canal-p et un transistor à canal-n) La grille du transistor à canal-n est reliée au noeud 38 tandis que la grille du transistor à canal-p est reliée au noeud 41 Le noeud 41 est également relié à la grille d'un transistor MOS à canal-n ordinaire 43 Les zones de source et de drain du transistor 43 sont connectées entre la masse et la ligne 45 La ligne 45 représente la sortie du commutateur analogique 40 La structure de tampon décrite ci-dessus est répétée pour tous les éléments d'entrée ou de polarisation correspondants qui sont associés à ce niveau particulier du réseau. Le fonctionnement du tampon de la Figure 4 se déroule de façon directe Le signal de validation (ENABLE) appliqué au noeud 38 commande le passage de la tension d'entrée présente dans la ligne 36 par l'inter- diaire de la ligne 45, reliée à l'ensemble synaptique. Quand le signal ENABLE est au niveau "haut" ( par exemple V), l'inverseur produit une tension de niveau "bas" ( par exemple OV) au noeud 41 Cela désactive le disposi- tif 43 et ferme le commutateur 40, en appliquant alors directement la tension d'entrée à l'ensemble A chaque fois que le signal ENABLE est au niveau bas, la condi- tion opposée se produit; notamment le commutateur 40 est ouvert et le dispositif 43 est activé, en faisant passer ainsi les lignes 45 au potentiel de masse En conséquence, les signaux de commande ENABLE 1 et ENABLE 2 sont utilisés dans le réseau de la présente invention pour produire efficacement un découplage des entrées externe ou récurrente par rapport à leur couche associée dans le réseau. Dans une opération typique de traitement multi- couche, le vecteur d'entrée externe u est initialement appliqué à l'ensemble synaptique de premier niveau. Pendant ce temps, l'ensemble de second niveau est essen- tiellement invalidé par invalidation des tampons de réaction 22, comme décrit ci-dessus La sortie de fonc- tion Sigmoid résultante apparaît dans les lignes 25. Cette sortie correspond à une multiplication du vecteur d'entrée ui par le vecteur de pondération mémorisé W i 1)i pour le premier niveau du réseau Cette sortie représente également l'entrée de réaction ou récurrente dans l'en- semble synaptique de second niveau. Une fois que l'entrée récurrente a été mémori- sée dans les tampons de réaction 22, l'ensemble de premier niveau est désactivé par invalidation des tampons d'entrée 19 ( par exemple signal ENABLE 1 = OV) Pendant ce temps, le second niveau de l'ensemble est activé par valida- tion des tampons de réaction 22 ( par exemple signal ENABLE 2 = 5 V) Maintenant, un traitement de second niveau peut commencer avec multiplication du vecteur d'entrée récurrent transmis par les lignes 21 par le vecteur de pondération mémorisé Wmn A la suite du traitement de la seconde couche, la sortie des neurones 24 représen- te le produit scalaire total du réseau. En conséquence, l'unique réseau neuronal ana- logique, électriquement éducable, de la Figure 2 peut effectuer une opération sur deux couches en utilisant des connexions récurrentes et des neurones multiplexés. En vue d'une répétition, pendant un traitement de la première couche, la sortie des neurones 24 reproduit une multiplication matricielle d'un vecteur d'entrée par le vecteur de pondération mémorisé dans le premier niveau de l'ensemble synaptique Une fois que le traite- ment de la seconde couche commence, les sorties de neuro- nes sont renvoyées comme des entrées récurrentes à l'en- semble de second niveau Pour empêcher les entrées exter- nes introduites dans le réseau de gêner un traitement de seconde couche, les entrées externes sont effectivement déconnectées de l'ensemble par invalidation des tampons d'entrée 19. Il est à noter que la caractéristique de réac- tion de la présente invention s'applique à une diversité de réseaux, notamment des agencements de réseaux Hopfield. En référence maintenant à la Figure 3, celle-ci représente un réseau neuronal à N couches utilisant des entrées récurrentes et des neurones multiplexés. La Figure 3 montre comment le principe de base de la présente invention peut être étendu à un réseau comportant plus de deux couches A titre d'exemple, l'ensemble synaptique de première couche 31 de la Figure 3 est représenté comme recevant des entrées ui et comme produi- sant une somme de courants le long de dendrites 17. La somme de courants est appliquée aux entrées de neuro- nes 24 Un ensemble d'éléments de pondération de polari- sation fixée 27 est également associé à l'ensemble synap- tique 31. Les couches restantes sont agencées d'une manière semblable à ce qui a été représenté sur la Figure 2; c'est-à-dire que les entrées récurrentes de la couche synaptique 32 ( comportant un ensemble de polarisation fixée associé 28) sont représentées par les sorties de neurones 24 renvoyées le long des lignes 25 Normale- ment, la réponse neuronale présente dans les lignes est le résultat du traitement de la couche précédente ( c'est-à-dire la couche 1) Comme cela est typiquement le cas pour un traitement de couches séquentielles, quand une des couches du réseau est activée, toutes les autres couches du réseau sont effectivement désac- tivées par une invalidation appropriée des entrées cor- respondantes commandées par les signaux ENABLEî 1 N et par les tampons 1-N. Par exemple, pendant le traitement de la secon- de couche, l'ensemble synaptique de première couche est invalidé en mêmetemps que les couches 3 à N Comme ci-dessus, une fois que le traitement de la seconde couche est terminé, cette couche ( c'est-à-dire la couche 2) est invalidée et la couche suivante dans la séquence est activée pour recevoir les entrées récurrentes four- nies par des neurones 24 par l'intermédiaire des lignes de réaction 25. Bien entendu l'invention n'est pas limitée aux exemples de réalisation ci-dessus décrits et repré- sentés, à partir desquels on pourra prévoir d'autres modes et d'autres formes de réalisation, sans pour cela sortir du cadre de l'invention. REVENDICATIONS 1 Réseau neuronal multicouche électriquement éducable, caractérisé en ce qu'il comprend: une première couche synaptique ( 1) pour multiplication d'un vecteur d'entrée (u ij) avec un premier élément de pondération mémorisé (W ij) une seconde couche synaptique ( 2) pour la multiplica- tion d'un vecteur récurrent (u ij) avec un second élément de pondération mémorisé (W ij) une pluralité de neurones ( 24) obtenant un signal de sortie Sigmoid provenant de l'une ou l'autre ou bien des deux couches synaptiques précitées ( 1, 2); des moyens de multiplexage desdits neurones ( 24) entre lesdites première et seconde couches synoptiques. 2 Réseau neuronal selon la revendication 1, caractérisé en ce que chacune desdites couches synaptiques ( 1, 2) mémorise ses éléments de pondération respectifs sous la forme d'une valeur de transconductance analogique et chacune produit un courant analogique de sortie qui est additionné le long de dendrites ( 17) reliées auxdits neurones ( 24). 3 Réseau neuronal selon la revendication 2, caractérisé en ce que lesdits moyens de multiplexage comprennent: un premier moyen-tampon ( 19) pour un tamponnage dudit vecteur d'entrée (u ij), un second moyen-tampon ( 22) pour un tamponnage dudit vecteur récurrent (u ij); et des moyens de commande pour commander lesdits premier et second tampons ( 19, 22) afin de découpler ledit vec- teur d'entrée de ladite première couche synaptique pen- dant le traitement de la seconde couche et de découpler ledit vecteur récurrent pendant le traitement de la première couche. 4 Réseau neuronal selon la revendication 3, caractérisé en ce qu'il comprend en outre: un premier ensemble ( 16) d'éléments de pondération de polarisation fixée qui est associé à ladite première couche synaptique ( 1) pour modifier la somme des courants engendrés par ladite première couche synaptique ( 1); un second ensemble ( 18) d'éléments de pondération de polarisation fixée associé à ladite seconde couche synaptique ( 2) pour modifier la somme des courants engen- drés par ladite seconde couche synaptique ( 2). Système de traitement à distribution en paral- lèle pour une corrélation de l'adaptation entre deux ou plus de deux vecteurs, caractérisé en ce qu'il comprend: un ensemble synaptique d'entrée ( 31) pour calculer le produit scalaire d'un vecteur d'entrée (u ij) et d'un premier vecteur de pondération mémorisé (W ij) sous la forme d'une somme de courants; un ensemble synaptique de réaction ( 32) pour calculer le produit scalaire d'un vecteur récurrent et d'un second vecteur de pondération mémorisé sous la forme d'une somme de courants; une pluralité de neurones ( 24) remplissant une fonction Sigmoid; des moyens pour multiplexer séquentiellement lesdits neurones ( 24) entre lesdits ensembles d'entrée et de réaction ( 31, 32) de telle sorte que lesdits neurones ( 24) opèrent d'abord sur la somme des courants engendrés par ledit ensemble d'entrée pour produire ledit vecteur récurrent, lesdits neurones opérant ensuite sur la somme des courants engendrés par ledit ensemble de réaction. 6 Système selon la revendication 5, caractérisé en ce que lesdits moyens de multiplexage comprennent: un premier moyen- tampon ( 19) pour un tamponnage dudit vecteur d'entrée provenant dudit ensemble synaptique d'entrée; un second moyen-tampon ( 22) pour un tamponnage dudit vecteur récurrent provenant dudit ensemble synaptique de réaction des moyens de commande pour commander lesdits premier et second tampons ( 19, 22) afin de découpler ledit vecteur récurrent dudit ensemble de réaction pendant un traitement de la première couche et de découpler ledit vecteur d'entrée dudit ensemble d'entrée pendant un traitement de la seconde couche. 7 Système selon la revendication 6, caractérisé en ce qu'il comprend en outre un premier ensemble d'élé- ments de pondération de polarisation fixée qui est asso- cié audit ensemble synaptique d'entrée pour modifier la somme des courants engendrés par ledit ensemble d'en trée ainsi qu'un second ensemble d'éléments de pondéra- tion de polarisation fixée associé audit ensemble synap- tique de réaction pour modifier la somme des courants engendrés par ledit ensemble de réaction. 8 Système selon la revendication 7, caractérisé en ce que lesdits ensembles d'entrée de réaction compren- nent chacun un ensemble de dispositifs à grilles flottan- tes ( 43) électriquement programmables, qui mémorisent lesdits premier et second éléments de pondération sous la forme de charges électriques. 9 Réseau neuronal analogique, électriquement éducable à N couches, dans lequel des signaux d'entrée sont organisés en deux groupes, un groupe externe et un groupe récurrent, chaque couche contenant un ensemble synaptique mémorisant un vecteur de pondération et un vecteur de polarisation fixée associé, ledit élément de pondération de polarisation fixée modifiant la somme des courants engendrés le long de dendrites ( 17) de chaque ensemble, ladite somme de courants représentant le produit scalaire entre l'un ou l'autre desdits signaux externes ou récurrents et ledit élément de pondération mémorisé, ledit réseau comportant également une série de neurones ( 24) pour calculer le produit scalaire global associé à chaque couche et un moyen de multiplexage utilisant lesdits neurones ( 24) pendant un traitement commençant par la première couche et progressant séquen- tiellement jusqu'à la N-ième couche, réseau caractérisé en ce qu'un traitement associé à une couche donnée se déroule indépendamment des signaux d'entrée appliqués à d'autres couches dudit réseau, la réponse neuronale associée à ladite couche donnée étant appliqués comme le signal d'entrée récurrent à la couche suivante à traiter dans ladite séquence. Réseau selon la revendication 9, caractérisé en ce que lesdits moyens de multiplexage comprennent plusieurs tampons d'entrée associés à chacune desdites couches dudit réseau, lesdits tampons étant commandés de façon à invalider sélectivement lesdits signaux d'en- trée externes et/ou récurrents en concordance avec ladite séquence de traitement.