# Exploitation des propriétés de saturation synaptique pour obtenir un neurone à fréquence spécifique

Guillaume Marthe, Claire Goursaud

► To cite this version:

Guillaume Marthe, Claire Goursaud. Exploitation des propriétés de saturation synaptique pour obtenir un neurone à fréquence spécifique. GRETSI 2023 - XXIX'eme Colloque Francophone de Traitement du Signal et des Images, Aug 2023, Grenoble, France. hal-04244910

HAL Id: hal-04244910

https://hal.science/hal-04244910v1

Submitted on 24 Oct 2023

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons CC BY 4.0 - Attribution - International License
# Exploitation des propriétés de saturation synaptique pour obtenir un neurone à fréquence spécifique

Guillaume MARTHE¹ Claire GOURSAUD¹

¹CITI, EA3720, Univ Lyon, INSA Lyon, Inria, 69621 Villeurbanne France

**Résumé** – Le principal frein au déploiement l'IoT reste la consommation énergétique des objets connectés. Plus précisément, les micro-contrôleurs consomment trop de puissance. Afin de remédier à ce problème, de nouveaux types de circuits ont été réalisés à partir de neurones à impulsions. Leurs calculs analogiques permettent une réduction drastique de la consommation. Cependant, le domaine de l'analogique rend difficile les opérations séquentielles sur des signaux entrants, nécessaires dans un grand nombre d'applications. Dans cet article, nous proposons d'utiliser un phénomène bio-inspiré appelé Interaction Synaptique afin de produire un filtre temporel. Nous proposons un modèle de synapses qui font que le neurone décharge pour une certaine plage de délais entre deux impulsions reçues, mais ne réagit pas si cet Inter-Spike Timing n'est pas compris dans la plage. Nous étudions les paramètres de ce modèle afin de comprendre comment adapter cette plage d'Inter-Spike Timings. L'originalité de ce papier est de proposer un nouveau moyen d'utiliser des séquences temporelles dans le domaine de l'analogique.

**Abstract** – Energy consumption remains the main limiting factor in many promising IoT applications. In particular, micro-controllers consume far too much power. In order to overcome this problem, new circuit designs have been proposed and the use of spiking neurons and analog computing has emerged as it allows a very significant consumption reduction. However, working in the analog domain brings difficulty to handle the sequential processing of incoming signals as is needed in many use cases. In this paper, we propose to use a bio-inspired phenomenon called Interacting Synapses to produce a time filter. We propose a model of synapses that makes the neuron fire for a specific range of delays between two incoming spikes, but not react when this Inter-Spike Timing is not in that range. We study the parameters of the model to understand how to adapt the Inter-Spike Timing. The originality of the paper is to propose a new way, in the analog domain, to deal with temporal sequences.

## 1 Introduction

L'internet des objets (IoT) a permis le développement d'un grand nombre d'applications pour le quotidien [1], mais leur consommation énergétique reste un problème critique. En effet, la durée de vie des noeuds est prévue pour être de plusieurs années, mais cela ne peut être atteint par les batteries si le noeud est toujours actif. Cependant, la majorité des objets de l'IoT a besoin d'un envoie de données seulement de manière sporadique. Ainsi, une des solutions mise en place pour limiter leur consommation est de leur permettre de s'endormir, et de ne se réveiller que lorsqu'ils avaient besoin d'interagir. Mais, il est important de conserver la capacité de s'adresser à un objet en particulier, à n'importe quel moment, sans dépendre d'une synchronisation du système complet. Cela peut être réalisé à l'aide d'un récepteur Wake-Up Radio (WuR), dont le rôle est de surveiller le canal en continu et de réveiller le récepteur principal seulement si un signal spécifique est reçu [2].

Jusqu'à présent, ces WuRs étaient réalisées à partir de micro-contrôleurs capable de réaliser de la reconnaissance de signature mais consommant des puissances autour de 200µW [3]. Cela apporte un gain par rapport à la consommation du récepteur principal, mais reste trop élevé pour permettre à la batterie de durer aussi longtemps que la durée de vie initialement prévue pour le noeud IoT [4].

Les réseaux de neurones à impulsions (SNN) sont une technologie très basse consommation qui émerge dans le domaine du traitement du signal. Ceux-ci sont principalement utilisés pour de la reconnaissance d'image, ou pour l'étude de l'activité cérébrale en neurosciences. Ces systèmes bio-inspirés

sont basés sur des transistors et reproduisent le comportement d'un neurone. Ils sont capables de calculer aussi vite que les machines actuelles, tout en consommant moins [5].

Pour réduire encore plus la consommation d'énergie, nous considérons dans ce travail des circuits purement analogiques qui reproduisent le comportement d'un neurone [6]. Jusqu'ici ces neurones ont été utilisés pour des approches combinatoires, qui ne comprennent pas de séquences temporelles. [7] Des applications séquentielles comme de la vision ou du traitement du signal étaient donc impossibles à réaliser. Dans ce papier nous montrons qu'il est quand même possible d'introduire cette dépendance temporelle. Pour cela, nous proposons d'exploiter le phénomène biologique appelé interaction synaptique, et son effet mémoire [8]. Nous exploitons ce phénomène afin que notre neurone réagisse à un rythme temporel particulier et évaluons l'impact des paramètres du neurone sur la sélectivité.

Ce papier est organisé comme suit : la section 2 présente le modèle du neurone et du système, ainsi que la manière dont ils ont été simulés. La section 3 décrit le comportement et l'implémentation du système. Le choix des paramètres et leur impact sont étudiés en section 4. La section 5 conclue le papier.

## 2 Modèles

### 2.1 Neurone LIF avec synapses classiques

Un neurone biologique reçoit des impulsions des synapses entrantes, les agrège dans sa tension membranaire, puis envoie une impulsion au suivant lorsque cette tension a atteint un seuil donné. Un neurone bio-inspiré est basé sur le même
principe. Il est modélisé par sa réponse à un train d'impulsions électriques. Sa tension interne varie en fonction du courant d'entrée. Il existe de nombreux modèles pour représenter la relation entre le courant d'entrée et la tension. Le modèle Leaky Integrate and Fire (LIF) est la référence, largement utilisé dans la littérature et est exprimé par :

$$C_m \frac{dv}{dt} = -g_L(v(t) - v_{rest}) + I(t) \quad (1)$$

avec $C_m$ la capacité de membrane, $v(t)$ le potentiel de membrane au temps $t$, $v_{rest} = -65mV$ le potentiel membranaire de repos, et $g_L$ la conductance de membrane. $I(t)$ modélise le courant synaptique d'entrée au cours du temps. Celui-ci peut être écrit, dans le cas où le signal d'entrée est une séquence d'impulsions, comme :

$$I(t) = \sum_{i} \delta(t - t_i) \quad (2)$$

avec $t_i$ correspondant aux différents temps d'envoi d'impulsion, et $\delta$ à la fonction de Dirac.

A chaque fois que la tension atteint le seuil $v_{th}$, une impulsion est envoyée au neurone suivant et la tension est réinitialisée à $v_{rest}$. La courbe grise de la Fig. 1a représente l'évolution temporelle de la tension lors de la réception d'une impulsion unique. Dans un neurone LIF, on observe une augmentation instantanée de la tension lors de la réception d'une impulsion, puis une décroissance exponentielle due aux fuites de tension.

## 2.2 LIF saturant

Le modèle LIF est un modèle utile mais simplifié. En effet, il existe un autre phénomène qui est habituellement négligé mais que nous allons ici exploiter : la saturation des synapses. Cela modélise le fait que les paramètres de la synapse sont temporairement modifiés après la réception d'une impulsion. Dans ce cas, le courant interne ne dépend plus que du courant d'entrée, mais également de ce qu'il s'est passé précédemment. Ainsi, dans le modèle SLIF (LIF saturant), $I(t)$ (2) est ici remplacé par $I_s(t)$ tel que :

$$I_s(t) = g_s(t)(E_s - v(t)) \quad (3)$$

Le courant synaptique dépend de la différence entre $v(t)$ et $E_s = 0mV$ le potentiel d'inversion synaptique. $g_s(t)$ est la conductance synaptique, variant au cours du temps et dépendant des séquences d'impulsions précédemment reçues. Cette variable est bornée entre 0 et sa valeur de saturation, fixée à 100pS pour nos simulations. Chaque fois qu'une synapse reçoit une impulsion, $g_s$ va augmenter jusqu'à sa borne supérieure, puis décroître exponentiellement selon :

$$\frac{dg_s(t)}{dt} = \frac{-g_s(t)}{\tau_s} \quad (4)$$

avec $\tau_s$ la constante de temps synaptique. Les conséquences de cette saturation sont que la tension est contrainte, et met plus de temps à atteindre la tension prévue comme on peut le voir sur la courbe grise en Fig. 1b par rapport à celle en 1a. Nous observons que la tension augmente doucement, puis décroît jusqu'à la tension de repos. Nous allons montrer comment cela peut être utilisé pour créer une mémoire à court terme pour des opérations temporelles.

<figure><img src="image_2.png" /><figcaption>FIGURE 1 : Réponse du neurone à différents ISTs</figcaption></figure>

## 3 Proposition

Notre objectif est d'utiliser cette structure neuronale pour décharger uniquement lors de la réception d'une cadence spécifique dans les trains d'impulsions reçus. Cela revient à sélectionner une période inter-impulsion précise. Pour cela, nous cherchons à atteindre une tension maximale si deux impulsions arrivent avec un temps inter-impulsion (IST) dans la plage prédéfinie.

Pour illustrer ce phénomène, nous envoyons deux impulsions consécutives à deux types de neurones LIF et SLIF, espacés de différents ISTs, qui représentent le temps entre la réception de ces deux impulsions. Les résultats sont présentés en Fig. 1a et 1b avec quatre courbes chacune. La plus à gauche (gris) a été obtenue en envoyant seulement une impulsion aux neurones. Les trois autres ont été obtenues en envoyant deux impulsions, avec un IST différent à chaque fois. Les trois ISTs sont, de gauche à droite : 0.5ms, 3ms et 7ms. Les positions des impulsions correspondantes sont reportées en haut pour référence.

Lorsqu'un neurone LIF classique reçoit une impulsion, son potentiel de membrane croît soudainement. Puis, son potentiel décroît dû au phénomène de fuite du modèle. Lorsqu'une seconde impulsion est reçue, le potentiel croît à nouveau de la même amplitude, instantanément. L'amplitude maximale est donc atteinte lorsque l'IST est minimal, car la tension a moins de temps pour décroître. A contrario, si la seconde impulsion est envoyée longtemps après la première, le potentiel a plus diminué, et la tension est plus basse que dans le premier cas. L'amplitude obtenue décroît lorsque l'IST augmente.

La réponse du SLIF dans les mêmes conditions est montrée en Fig. 1b. Avec l'ajout de synapses saturantes, si une seconde impulsion est reçue juste après la première (cf. courbe rouge), la synapse est toujours saturée et cette impulsion ne fait pas croître le potentiel de membrane autant que la première. Sur la deuxième courbe (noire), l'IST est optimal, la saturation synaptique ne limite pas l'impact de la seconde impulsion, et le phénomène de fuite n'a pas assez de temps pour trop diminuer la tension, l'amplitude sera donc optimale. Pour la
<figure><img src="image_3.png" /><figcaption>FIGURE 2 : Amplitude maximale atteinte par un SLIF et un LIF pour différents ISTs avec $C_m = 10^{-5} \mu F \cdot cm^{-2}$, $g_L = 5 \cdot 10^{-5} S \cdot cm^{-2}$ et $\tau_s = 0.9$ms</figcaption></figure>

<figure><img src="image_4.png" /><figcaption>FIGURE 3 : Amplitude maximale atteinte par un SLIF avec $C_m = 10^{-3} \mu F \cdot cm^{-2}$, $g_L = 10^{-5} S \cdot cm^{-2}$ et $\tau_s = 0.01$ms</figcaption></figure>

dernière courbe (verte), les impulsions sont trop espacées et le phénomène de fuite va faire décroître trop vite le potentiel avant la réception de la deuxième impulsion, ce qui va réduire l'amplitude maximale atteinte par la membrane. Ainsi, contrairement au LIF, l'augmentation d'amplitude du potentiel membranaire après la réception d'une deuxième impulsion n'est pas constante, et dépend de l'IST.

Nous avons tracé les amplitudes atteintes en fonction de l'IST en Fig. 2. Pour le LIF, nous avons une décroissance exponentielle. Pour le SLIF, nous pouvons voir que l'amplitude maximale est atteinte pour un IST de 3ms et qu'il y a deux phases. Pour de faibles ISTs, la saturation entraîne une diminution de l'amplitude par rapport à l'optimum, avec une augmentation quasi linéaire jusqu'à l'IST favori puis une décroissance due aux fuites du neurone.

Le neurone décharge si son amplitude dépasse le seuil fixé (représenté par la ligne hachurée). Le seuil va pouvoir être utilisé pour discriminer une fine plage de valeurs d'IST. Dans cette simulation, le neurone décharge si les impulsions reçues étaient espacées de 2 à 3.5 ms. La largeur de cette plage d'ISTs sera appelée Timewidth (TW). Pour mesurer le TW, on impose un seuil 0.1 mV sous l'amplitude maximale, et on regarde la plage d'ISTs qui font que la tension membranaire atteint ce seuil.

L'autre métrique importante est la marge qui correspond à la différence entre les amplitudes maximale et minimale atteintes par la tension pour les ISTs considérés. L'objectif est d'optimiser ce jeu de paramètres. On veut obtenir la plus grande marge (pour être plus robuste aux perturbations), tout en réduisant le TW (pour être plus précis sur les ISTs sélectionnés). L'IST favori à viser dépend de la fréquence de motif choisie.

Pour cela on peut jouer sur les paramètres des équations :

* $C_m$, la capacité de membrane qui permet de choisir les ordres de grandeur de la dynamique du neurone.

* $g_L$, la conductance du neurone qui régule la force du phénomène de fuite de la tension membranaire.

* $g_S$, la conductance synaptique. Sa valeur est impactée par sa constante de temps $\tau_S$ et modifie la vitesse d'évolution du potentiel de membrane lorsqu'une impulsion est reçue.

# 4 Étude paramétrique

Nous avons vu que le SLIF est un modèle qui permet de ne décharger que pour une plage spécifique d'ISTs, dépendant de nos paramètres. Nous étudions donc ici l'impact de ces paramètres sur la marge, le TW et l'IST favori. Pour ces études, nous avons choisi de fixer des valeurs de couples de paramètres à nos valeurs de référence, et d'observer les résultats en faisant varier à la fois un des paramètres du couple, et le paramètre libre. Nos couples de référence sont $C_m \cdot \tau_s = 10^{-3}$, $g_L \cdot \tau_s = 10^{-5}$ et $C_m \cdot g_L = 10^{-7}$.

## 4.1 Capacité de membrane $C_m$

$C_m$ impacte directement la dynamique du neurone, c'est pourquoi nous l'étudions en premier, afin de déterminer l'ordre de grandeur de l'IST favori. La capacité de membrane est directement multipliée à la dynamique du potentiel de membrane $\frac{dv}{dt}$. Nous pouvons voir en Fig. 4a lorsque $C_m$ augmente, que la marge maximale du potentiel de membrane augmente. Pour la Fig. 4d, on peut voir que l'on atteint une marge maximale pour une valeur de $C_m$ avoisinant $5 \cdot 10^{-3}$. On peut voir en Fig. 4b et 4e qu'on atteint un TW optimal, donc minimal, pour une valeur de $C_m$ avoisinant toujours $5 \cdot 10^{-3}$, et que le TW augmente si l'on s'éloigne de cette valeur. En Fig. 4c et 4f on peut observer deux comportements différents pour l'évolution de l'IST en fonction de $C_m$. Lorsque le produit $C_m \cdot \tau_s$ est constant, la croissance de $C_m$ entraîne la croissance de la valeur d'IST favori. On voit que lorsque $\tau_s$ est constant, on atteint une valeur maximale de cet IST pour une valeur de $C_m$ de $5 \cdot 10^{-3}$. L'impact de $\tau_s$ sur l'IST est donc moins important que celui de $C_m$, mais plus que celui de $g_L$.

## 4.2 Conductance de membrane $g_L$

$g_L$ est la conductance de membrane, qui définit la dynamique de la fuite de potentiel. Elle est directement proportionnelle à la décroissance exponentielle qui ramène à $v_{rest}$. Nous pouvons voir en Fig. 4a et 4d que lorsque $g_L$ augmente, la marge diminue, du fait de la fuite. Dans la même logique, on peut voir en Fig. 4b, 4c et 4f que l'augmentation de $g_L$ entraîne une augmentation du TW et une réduction de l'IST favori.

## 4.3 Constante de temps $\tau_s$

La valeur de $g_L$ est utilisée pour choisir la marge maximale que l'on souhaite atteindre. $\tau_s$ est la constante de temps de $g_s$, la conductance synaptique. Après la réception d'une impulsion, $g_s$ croît instantanément jusqu'à atteindre sa borne supérieure. Il va ensuite décroître jusqu'à sa borne inférieure. La vitesse de décroissance est régie par $\tau_s$. $g_s$ peut être associé à un poids dans notre modèle. Lorsque $\tau_s$ a une valeur basse, $g_s$ varie plus
<figure><img src="image_5.png" /><figcaption>(a) Marge maximale pour l'IST favori et $C_m \cdot \tau_s = 10^{-3}$</figcaption></figure>

<figure><img src="image_6.png" /><figcaption>(b) TW centré sur l'IST favori avec $g_L \cdot \tau_s = 10^{-5}$</figcaption></figure>

<figure><img src="image_7.png" /><figcaption>(c) IST favori pour $C_m \cdot \tau_s = 10^{-3}$</figcaption></figure>

<figure><img src="image_8.png" /><figcaption>(d) Marge maximale pour l'IST favori et $\tau_s \cdot g_L = 10^{-5}$</figcaption></figure>

<figure><img src="image_9.png" /><figcaption>(e) TW centré sur l'IST favori avec $g_L \cdot C_m = 10^{-7}$</figcaption></figure>

<figure><img src="image_10.png" /><figcaption>(f) IST favori pour $\tau_s \cdot g_L = 10^{-5}$</figcaption></figure>

<caption>FIGURE 4 : Evolution de l'amplitude, du TW et de l'IST favori en fonction de $C_m$, $g_L$ et $\tau_s$</caption>

vite et plus fort. Cela améliore l'effet de la seconde impulsion sur le potentiel de membrane, car $g_s$ sature moins que pour une plus grande valeur de $\tau_s$ comme on peut le voir en Fig. 4a et 4d. $\tau_s$ va donc influencer TW. Lorsqu'il augmente, $g_s$ varie moins, donc le potentiel diminue plus lentement, et le TW devient plus large. Il a moins d'impact que les autres paramètres sur la marge et l'IST, on choisit donc de définir sa valeur en dernier, pour choisir le TW sans affecter les autres métriques.

Enfin, il est intéressant de noter qu'il n'y a pas besoin de faire de compromis entre le choix de la marge et celui du TW, car améliorer l'un améliore également l'autre.

# 5 Conclusion

Dans cet article nous avons étudié un nouveau modèle de neurone impulsionnel bio-inspiré, basé sur des synapses saturantes, appelé SLIF. Nous avons montré que notre neurone répondait différemment selon l'Inter-Spike Timing entre les impulsions reçues. À la différence du LIF avec des synapses classiques, le SLIF permet d'atteindre une amplitude de tension membranaire maximale pour un IST configurable. Nous avons exploité ce phénomène naturel pour transformer un neurone impulsionnel et ses synapses en un filtre temporel qui émet une impulsion pour un IST choisi. Nous avons montré qu'il faut d'abord choisir $C_m$ puis $g_L$, puis $\tau_s$ pour paramétrer le système comme souhaité. Nos futurs travaux seront orientés sur l'analyse des SLIFs pour la discrimination de trains d'impulsions basée sur la cadence d'impulsion, afin de réaliser une Wake-Up Radio basse puissance.

# Références

[1] Rishika MEHTA, Jyoti SAHNI et Kavita KHANNA. "Inter-net of Things : Vision, Applications and Challenges". In : *Procedia Computer Science* 132 (2018), p. 1263-1269.

[2] Ilker DEMIRKOL, Cem ERSOY et Ertan ONUR. "Wake-up receivers for wireless sensor networks : benefits and challenges". In : *IEEE Wireless Communications* 16.4 (2009).

[3] Nafiseh Seyed MAZLOUM et Ove EDFORS. "Performance Analysis and Energy Optimization of Wake-Up Receiver Schemes for Wireless Low-Power Applications". In : *IEEE Transactions on Wireless Communications* (2014).

[4] Halil YETGIN et al. "A Survey of Network Lifetime Maximization Techniques in Wireless Sensor Networks". In : *IEEE Communications Surveys & Tutorials* 19.2 (2017).

[5] Ilias SOURIKOPOULOS et al. "A 4-fJ/Spike Artificial Neuron in 65 nm CMOS Technology". In : *Frontiers in Neuroscience* 11 (2017).

[6] F. DANNEVILLE et al. "A Sub-35 pW Axon-Hillock artificial neuron circuit". In : *Solid-State Electronics* 153 (2019), p. 88-92.

[7] Guillaume MARTHE, Claire GOURSAUD et Laurent CLAVIER. "Wake-up radio receiver based on Spiking Neurons for detecting activation sequence". In : *IEEE WCNC 2023. Mars 2023*.

[8] Cazé RD. "All neurons can perform linearly non-separable computations". In : *F1000Research* (2022).