# La convergence des neurotechnologies et du numérique dans l'éducation : Enjeux éthiques et sociétaux

Catherine Vidal

► To cite this version:

Catherine Vidal. La convergence des neurotechnologies et du numérique dans l'éducation : Enjeux éthiques et sociétaux. 2024, pp.1-35. inserm-04751560

HAL Id: inserm-04751560

https://inserm.hal.science/inserm-04751560v1

Submitted on 24 Oct 2024

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
<figure><img src="image_2.png" /></figure>

RÉPUBLIQUE
FRANÇAISE

Liberté

Égalité

Fraternité

Inserm

<figure><img src="image_3.png" /></figure>

La science pour la santé

From science to health

Comité d'éthique de l'Inserm

<figure><img src="image_4.png" /></figure>

Groupe
« Neurotechnologies et
Intelligence artificielle »

Note

La convergence des
neurotechnologies et du
numérique dans l'éducation :
Enjeux éthiques et sociétaux.

Rapporteure : Catherine Vidal

Octobre 2024
# La convergence des neurotechnologies et du numérique dans l'éducation :
## Enjeux éthiques et sociétaux

## Résumé

### Introduction : situation du sujet

#### 1. Les neurotechnologies dans l'éducation

1.1 Les neurotechnologies : définition et applications

1.2 Les neurotechnologies pour améliorer l'apprentissage : mythe et réalité

2.2.1 Le neurofeedback (NF)

*Neurofeedback et TDAH : bilan des essais cliniques*

*Le Neurofeedback et le "coaching" privé de l'apprentissage*

2.2.2 Stimulations cérébrales transcrâniennes

1.3 Les neurotechnologies dans l'éducation scolaire et universitaire

#### 2. Technologies numériques et intelligence artificielle dans l'éducation

2.1 EdTech et IAEd au service des élèves

*Le tutorat intelligent*

*L'IA pour aider les élèves à besoins spécifiques*

*Le Digital Game Based Learning (DGBL)*

*La Meta-Education*

2.2 EdTech et IAEd au service des enseignants et des institutions

*Learning analytics*

*Les outils numériques d'éducation : entre entreprises privées et secteur public*

2.3 L'évaluation des systèmes numériques d'éducation : une efficacité à démontrer

#### 3. Enjeux éthiques et sociétaux de la convergence des neurotechnologies et du numérique dans l'éducation

3.1 Protection de l'intégrité psychique et physique des élèves

3.2 Protection des droits numériques des mineurs

3.3 Protection de l'autonomie des systèmes éducatifs

3.4 Protection de l'environnement

#### 4. Recommandations

#### 5. Glossaire

#### 6. Références bibliographiques

6.1 Rapports institutionnels sur les enjeux éthiques du numérique dans l'éducation, les neurotechnologies et le métavers

6.2 Articles/Rapports publiés dans des revues scientifiques et sites internet référencés
"Le domaine de l'esprit et les informations qui lui sont associées doivent être protégés en tant que domaine privé par excellence, et être considéré comme le dernier territoire inaccessible à l'érosion de la confidentialité de l'information et à l'intrusion insidieuse de la société des données".

Marcello Ienca, directeur de l'unité de recherche sur l'éthique des systèmes intelligents, Collège des sciences humaines de l'EPFL (École polytechnique fédérale de Lausanne).

Ref : Conseil de Bioéthique du Conseil de l'Europe

Ienca M 2021, Défis communs en matière de droits de l'Homme soulevés par les différentes applications des neurotechnologies dans le domaine biomédical, https://rm.coe.int/report-final-fr/1680a43841.
Résumé

Les récents développements des technologies numériques et de l'intelligence artificielle (IA) dans le domaine de l'éducation (EdTech, IAEd) sont l'objet de préoccupations éthiques de la part des institutions internationales (UNESCO, Conseil de l'Europe, OCDE, UNICEF) et nationales (CCNE, CNIL, Ministère de l'Enseignement supérieur et de la Recherche). En effet, des questionnements spécifiques se posent en raison de leur usage dans le cadre scolaire chez les enfants/adolescents, concernant notamment l'impact sur le développement physique, psychologique et cognitif, et la protection du droit numérique pour les personnes mineures.

Un autre champ technologique émergeant en passe de bouleverser profondément les méthodes éducatives est celui des **neurotechnologies**. Ces technologies utilisent des dispositifs d'interface cerveau/machine (Brain Computer Interface) qui établissent une connexion avec le cerveau et permettent d'enregistrer et/ou de modifier l'activité neuronale. Leur application dans le domaine de l'éducation rend possible, par exemple, de mesurer en temps réel le degré d'attention et les états émotionnels des élèves, en vue d'utiliser cette mesure pour améliorer leurs performances d'apprentissage.

En effet, les neurotechnologies, qui sont issues du domaine de la recherche à des fins médicales, voient leurs usages étendus à d'autres sphères d'activités humaines: jeu vidéo, gestion du stress, du sommeil, surveillance des conducteurs de véhicule etc. Des dispositifs légers sans fil - casques/bandeaux munis d'électrodes, lunettes, capteurs auriculaires - sont disponibles dans le commerce pour capter les ondes cérébrales (EEG), les expressions faciales, la direction du regard, le rythme cardiaque etc. Ces technologies sont l'objet d'expérimentations dans le cadre scolaire et à la maison pour contrôler le comportement des élèves en situation d'apprentissage. Dans un futur proche, les recherches devraient permettre de mieux cerner les potentialités des neurotechnologies pour améliorer les capacités d'apprentissage des enfants, en particulier dans le cas de troubles du neurodéveloppement. Des approches telles que le "neurofeedback" et les "stimulations cérébrales transcraniennes" sont déjà utilisées depuis une dizaine d'années, notamment chez des enfants/adolescents souffrants de troubles de l'attention (TDAH). Or, d'après des publications récentes qui dressent le bilan de ces études, il ressort qu'elles sont majoritairement entachées de biais méthodologiques, ce qui ne permet pas de conclure sur l'efficacité thérapeutique de ces technologies pour le TDAH, ni sur leurs effets de dopage intellectuel. Néanmoins, le marché du "coaching scolaire" avec ses publicités non fondées scientifiquement est florissant sur internet.

La convergence entre les neurotechnologies, le numérique et l'IA dans l'éducation est pour bientôt. Dans ce contexte, il apparaît souhaitable d'anticiper les enjeux éthiques et sociétaux de ces développements technologiques qui ciblent en premier lieu les enfants et les adolescents. Une question importante concerne l'usage des neurotechnologies chez des sujets jeunes, avec le risque d'interférer avec la construction de l'identité et de la personnalité, alors que le cerveau est en cours de développement. D'autres sujets de vigilance concernent la protection des données cérébrales face aux risques d'ingérence dans la vie privée mentale des enfants, et l'exploitation non consentie de ces données qui doivent être considérées comme des données personnelles sensibles (Ienca et al. 2022). Des préoccupations connexes concernent le risque pour l'enseignement public d'être tributaire de systèmes technologiques privés et aussi les nuisances de l'environnement liées à l'usage massif du numérique dans l'éducation.
## Introduction : situation du sujet

Avec les récents développements des technologies numériques et de l'intelligence artificielle, leur utilisation dans le domaine de l'éducation (EdTech, IAEd) est en plein essor. De plus en plus nombreuses sont les plateformes en ligne (publiques et privées) qui visent à transformer les pratiques pédagogiques à l'aide du numérique : accès aux ressources éducatives en ligne, analyse des données de navigation de l'élève sur le web, parcours d'apprentissage adapté à chaque élève, organisation des enseignements dans et hors la classe etc.

Un autre champ technologique émergeant en passe de bouleverser profondément les méthodes éducatives est celui des neurotechnologies. Ces techniques sont issues des recherches sur les activités cérébrales qui sous-tendent les fonctions sensorielles, motrices et cognitives, en lien notamment avec les mécanismes d'apprentissage. Elles reposent sur des dispositifs d'interface cerveau/machine (Brain Computer Interface) qui établissent une connexion avec le cerveau et permettent d'enregistrer et/ou de modifier l'activité neuronale. Leur application dans le domaine de l'éducation rend possible de contrôler en temps réel l'attention et les états émotionnels des élèves, avec l'ambition affichée d'améliorer leurs performances d'apprentissage. Des expérimentations sont en cours dans des cadres scolaires et universitaires. D'autres applications concernent le domaine privé avec le coaching scolaire, notamment chez des enfants/adolescents souffrants de troubles de l'attention (TDAH).

La convergence entre les neurotechnologies, le numérique et l'IA dans l'éducation se profile dans un avenir proche. Dans ce contexte, l'objectif du groupe de travail du comité d'éthique de l'INSERM est de s'attacher à l'analyse des enjeux éthiques et sociétaux de ces développements technologiques qui ciblent en premier lieu les enfants et les adolescents. Une question importante concerne l'usage des neurotechnologies chez des sujets jeunes, avec le risque d'interférer avec la construction de l'identité et de la personnalité, alors que le cerveau est en cours de développement. D'autres sujets de vigilance concernent la protection des données cérébrales face aux risques d'ingérence dans la vie privée mentale des enfants et l'exploitation non consentie de leurs données personnelles. Des préoccupations connexes concernent le risque pour l'enseignement public d'être tributaire de systèmes technologiques privés et aussi les nuisances de l'environnement liées à l'usage massif du numérique dans l'éducation.
# 1. Les neurotechnologies dans l'éducation

La possibilité de contrôler le degré d'attention, de motivation ou de confusion des élèves est un objectif majeur dans le développement des interfaces numériques d'apprentissage. Cela implique d'associer à l'environnement numérique des systèmes de mesure de données biométriques : expression faciale, direction du regard, mouvements du corps, rythme cardiaque, réaction électrodermale, etc. A ces paramètres, s'ajoute l'enregistrement des ondes cérébrales, un outil de choix pour évaluer les dispositions mentales des élèves en temps réel.

## 1.1 Les neurotechnologies : définition et applications

Les neurotechnologies (NT) constituent un champ de recherche en plein essor qui associe les neurosciences et les technologies numériques. Selon la définition du Comité international de bioéthique (CIB) de l'UNESCO<fnref n="1" />, "la neurotechnologie est le domaine couvrant les dispositifs et procédures utilisés pour comprendre, visualiser, surveiller, étudier, évaluer, moduler la structure et le fonctionnement du système nerveux des êtres humains" (...) "les neurotechnologies peuvent aussi être considérées, plus largement, comme comprenant tout dispositif (applications, intelligence artificielle, mégadonnées, etc.) qui permet d'acquérir des connaissances sur l'activité cérébrale d'un individu et/ou d'influencer/modifier cette activité". Outre les outils techniques dédiés spécifiquement à l'exploration du cerveau, les neurotechnologies incluent les dispositifs de captation des paramètres physiologiques et comportementaux qui renseignent également sur les états cognitifs, affectifs et mentaux : mouvements des yeux, analyse de la voix, expressions faciales, rythme cardiaque, pression artérielle, etc.

Les interfaces cerveau/machine ou BCI (Brain Computer Interface) font appel à des technologies qui établissent une connexion avec le cerveau et permettent d'enregistrer et/ou de modifier l'activité neuronale<fnref n="2" />. Ces technologies innovantes sont utilisées dans la recherche et en clinique humaine, notamment pour compenser certains handicaps physiques et mentaux.

Les systèmes d'exploration des activités cérébrales les plus courants sont non invasifs: électroencéphalogramme (EEG), imagerie par résonnance magnétique (IRM), tomographie par émission de positons (PET), magnétoencéphalographie (MEG) etc. D'autres technologies utilisent des systèmes d'enregistrement miniaturisés (puces électroniques munies d'électrodes) placées sur le scalpe ou à la surface du cortex cérébral. Les ondes cérébrales enregistrées sont

<footnote n="1">¹ - UNESCO 2021 : Rapport du Comité international de bioéthique (CIB) sur les aspects éthiques des neurotechnologies, https://unesdoc.unesco.org/ark:/48223/pf0000378724 fre.</footnote>

<footnote n="2">² - La lettre de la Biomédecine 2023 : État des lieux de la recherche en neurotechnologies : un défi pour la bioéthique, https://www.agence-biomedecine.fr/IMG/pdf/1-lettre_de_la_biome_decine_vf_revue.pdf.</footnote>

<footnote>- OPECST Office parlementaire d'évaluation des choix scientifiques et technologiques 2022, Les neurotechnologies : défis scientifiques et éthiques. https://www.senat.fr/fileadmin/Office et delegations/OPECST/Notesscientifiques/OPECSTnote32.pdf.</footnote>
traitées par des algorithmes, ce qui permet par exemple à des patients paralysés de contrôler à distance un exosquelette ou un curseur d'ordinateur. Des procédures plus invasives consistent à implanter des électrodes de stimulation à l'intérieur du cerveau (par exemple pour réduire les symptômes dans la maladie de Parkinson) ou encore au niveau du nerf auditif ou de la rétine (neuroprothèses).

D'autres applications des neurotechnologies sortent du domaine médical et concernent le "bien-être personnel" et la surveillance des états mentaux (Alharbi 2023, Wexler 2019). De nombreuses sociétés commerciales proposent des dispositifs portables légers (sans fil) capables d'enregistrer les ondes cérébrales (EEG) : casques/bandeaux à visée récréative et de bien-être (jeux vidéo, gestion du stress, du sommeil, de la concentration), casques de surveillance des états de vigilance (conducteurs de véhicule, travailleurs à la chaine, militaires).

Des innovations récentes portent sur des lunettes, des capteurs intra-auriculaires, des bagues connectées qui sont d'usage plus aisé que les casques pour enregistrer l'EEG, les mouvements des yeux, le rythme cardiaque. Le marché mondial des neurotechnologies devrait atteindre 40 milliards de dollars à l'horizon 2026³.

Ainsi, dans le contexte actuel de diffusion populaire des neurotechnologies, on ne s'étonnera pas que le recours aux interfaces cerveau/machine dans le domaine de l'éducation suscite un intérêt croissant de la part des entreprises privées et aussi des institutions publiques (Williamson 2019, Wegemer 2019).

## 1.2 Les neurotechnologies pour améliorer l'apprentissage : mythe et réalité

Les bases neuronales de l'apprentissage sont l'objet depuis plusieurs décennies de recherches scientifiques abondantes. Celles-ci ont mis en évidence le rôle des processus attentionnels et émotionnels, détectés notamment par l'enregistrement des ondes cérébrales (Al-Nafjan 2017, Fontanillo Lopez 2020, Kosmyna 2019). C'est sur la base de ces travaux que sont développées les interfaces cerveau-machine afin d'optimiser les apprentissages. Les recherches visent d'une part les enfants/adolescents souffrant de troubles du neurodéveloppement (principalement TDAH, troubles dys), mais aussi les sujets sains dans l'objectif d'augmenter les capacités cognitives (Antal 2022, Wexler 2019, 2020, Williamson 2019. Les expérimentations les plus documentées ont recours au "neurofeedback" et aux "stimulations cérébrales transcraniennes".

### 1.2.1 Le neurofeedback (NF)

Le NF est une pratique d'entraînement cérébral basé sur l'enregistrement des activités cérébrales, notamment l'EEG, qui sont portées à la connaissance du sujet (feedback). Les ondes cérébrales sont enregistrées via des électrodes placées sur le cuir chevelu, amplifiées,

<footnote n="3">³ - www.neurotechreports.com/pages/execsum.html.</footnote>
numérisées puis présentées sous une forme visuelle (et/ou auditive) dans le contexte d'un jeu vidéo qui mobilise l'attention du sujet pour augmenter ses performances. Le sujet devient conscient de son activité cérébrale et peut au fil des sessions apprendre à la modifier en fonction d'une consigne, par exemple en privilégiant les ondes bêta rapides liées à l'attention ou les ondes thêta plus lentes associées à l'état de relaxation.

Le NF s'avère particulièrement utile dans certaines situations pathologiques en vue de compenser des handicaps physiques ou mentaux, par exemple chez les patients paralysés pour piloter un exosquelette ou contrôler un curseur sur un écran d'ordinateur pour communiquer avec l'extérieur. Des recherches sont en cours pour explorer des pistes thérapeutiques potentielles dans des affections neurologiques et psychiatriques : dépression, autisme, insomnie, épilepsie, déficit post-AVC etc. (Batail 2019).

## Neurofeedback et TDAH : bilan des essais cliniques

Un champ d'application du neurofeedback particulièrement étudié concerne les troubles du déficit de l'attention avec/ou sans hyperactivité (TDHA). Les résultats sont hautement controversés, comme le soulignent des revues et méta-analyses récentes (Kalokairinou 2022, Coghill 2021, Loriette 2021). Plusieurs études ont montré des effets positifs sur certains symptômes du TDAH chez des enfants et adolescents, avec notamment une réduction des périodes d'inattention allant de 6 à 12 mois (Arns 2020, Hasslinger 2022, Purper-Ouakil 2022, Van Doren 2019).

Cependant, la majorité de ces travaux présente des biais expérimentaux : pas d'essais randomisés en double aveugle, pas de groupes témoins, faible effectif de participants, protocole de neurofeedback non standard, etc. Ces biais ne permettent pas de conclure sur la réalité de l'efficacité thérapeutique du NF pour le TDAH.

L'équipe du laboratoire d'Eugene Arnold (Neurofeedback ADHD Collaborative Group NACG, Ohio University & National Institute of Mental Health NIH) est jusqu'à présent la seule à avoir mené un essai clinique randomisé en double aveugle sur un effectif suffisant (n=144 enfants de 7-10 ans) avec un protocole standard de NF (théta/béta) et un suivi longitudinal jusqu'à 13 mois et 25 mois (NACG 2021, 2023). Les résultats montrent des effets positifs sur le niveau d'attention mais pas de différences entre le groupe de patients soumis au NF et le groupe témoin de patients avec "sham NF" (NF simulé). Les auteurs en concluent que le gain d'attention observé est dû à la composante neurocognitive de l'entrainement et du conditionnement opérant et non pas à un effet physiologique spécifique du NF. Les travaux du groupe d'Anna Wexler (département d'éthique médicale, université de Pennsylvanie) plaident également en faveur d'un effet placebo du NF (Nagappan 2021, Kalokairinou 2022). De plus, les effets positifs observés sont modestes et significativement inférieurs aux traitements pharmacologiques (Loriette 2021, Purper-Ouakil 2021).

Dans une revue de 2023, le "European ADHD Guidelines Group" (Coghill 2023) insiste sur les difficultés d'évaluer l'efficacité des différentes approches à visée thérapeutique du TDAH, faute d'études menées avec des protocoles rigoureux. Pour ces raisons le NF ne figure pas dans les recommandations thérapeutiques. C'est aussi la position de la Haute Autorité de
Santé (HAS) dans ses notes de cadrage de 2020 et 2024. A noter que l'Académie américaine de pédiatrie qui était favorable au NF en 2011, ne l'est plus en 2019 dans la révision de sa note de recommandations (Wolraich 2019).

## Le Neurofeedback et le "coaching" privé de l'apprentissage

Parmi les applications du NF, un secteur en plein développement est celui de l'aide à l'apprentissage (coaching) pratiqué à domicile ou dans des cabinets privés. De nombreuses entreprises proposent des "solutions" pour augmenter les performances cognitives grâce au NF, chez des enfants présentant ou pas des troubles du neurodéveloppement.

Les discours promotionnels d'une majorité de sites internet laissent croire que le NF permet d'améliorer l'intelligence, la mémoire, l'attention, l'humeur etc. Ils vendent leurs services en se basant sur des arguments pseudoscientifiques susceptibles d'abuser non seulement le grand public mais aussi les personnels soignants et éducatifs non avertis. Ces dérives ont été analysées par l'équipe d'Anna Wexler dans un article intitulé " Neuroenhancement for sale: assessing the website claims of neurofeedback providers in the United States" (Wexler 2020). L'article souligne l'exploitation de la vulnérabilité de parents qui ont recours à des cabinets privés pour des séances de NF non couvertes par l'assurance maladie. Le coût des séances est estimé à 3000-10000$ (Thibault 2018). Des situations équivalentes existent en France où diverses structures privées autoproclamées "Institut", "Cabinet", "Clinique" proposent des séances de NF et aussi des formations pour devenir praticien de NF. En France comme à l'étranger, il n'y a pas de cadre légal limitant l'accès à la formation et à la pratique du NF. Il suffit de quelques heures de formation (de 14 à 36 heures, coût moyen 2000€) pour pratiquer le NF en cabinet et recevoir des patients (Pouch 2018). Certaines sociétés qui commercialisent le NF ciblent plus spécifiquement l'accompagnement scolaire à domicile en proposant des méthodes pédagogiques différentiées pour les enfants souffrants de troubles dys et TDAH.

Globalement, l'adhésion d'un certain public (parents, soignants) au NF tient au fait qu'il est présenté comme une alternative à l'approche médicamenteuse, sans effets secondaires indésirables et scientifiquement prouvé. Cet argumentaire promotionnel a été utilisé par la société "Neurocore" aux Etats-Unis, qui a été sanctionnée pour publicité mensongère par les agences de contrôle fédérales. L'affaire a été ébruitée dans les médias car un investisseur majeur dans Neurocore était la secrétaire d'Etat à l'Education de l'administration Trump, Betsy Devos, laissant planer le doute sur ses intentions d'introduire le NF dans les écoles publiques<fnref n="4" />.

<footnote n="4">⁴ https://www.washingtonpost.com/posteverything/wp/2017/05/26/betsy-devos-neurocore/. https://rationalwiki.org/wiki/Neurocore.</footnote>
### 1.2.2 Stimulations cérébrales transcraniennes

Ces techniques non invasives consistent à appliquer des stimulations électriques à travers le crâne afin de modifier l'activité des neurones des zones cérébrales sous-jacentes. Les recherches portent en particulier sur les stimulations transcrânienne par courant continu qui sont susceptibles d'applications thérapeutiques : troubles psychiatriques, dépression, douleurs chroniques, etc. (Antal 2022, Lefaucheur 2017). Dans la pratique, les stimulations sont réalisées via des casques légers munis d'électrodes et pilotés à distance pour contrôler l'intensité du courant et la durée des stimulations. Typiquement, les protocoles comprennent des séances de stimulation de 30 minutes, 2 à 5 fois par semaine pendant au moins 3 semaines.

Des revues et métanalyses d'expérimentations menées dans des populations pédiatriques souffrant de troubles du neurodéveloppement (autisme, TDAH, dyslexie, syndrome Gilles de la Tourette) montrent des effets globalement positifs (Antal 2022, Finisguerra 2019). Cependant, ces résultats ne permettent pas de conclure à l'efficacité réelle des stimulations en raison des biais méthodologiques récurrents dans la majorité des publications: trop peu de patients, absence de groupe témoin, manque de suivi à long terme pour évaluer l'efficacité dans la vie quotidienne, incertitude sur la propagation du courant électrique jusqu'au cerveau, etc. De plus, il existe des risques avérés d'effets secondaires négatifs : maux de tête, étourdissement, douleur du cou etc. (Lodewyk 2024). L'usage thérapeutique des stimulations transcraniennes par courant continu n'est approuvé ni par la FDA (Food and Drug Administration), ni par aucune organisation professionnelle de médecins, y compris en France.

Des études récentes menées rigoureusement ont testé les effets de la stimulation transcrânienne au niveau de différentes régions du cortex cérébral (préfrontal, frontal inférieur) chez de jeunes patients TDAH. Les résultats n'ont pas montré d'amélioration des symptômes cliniques ni des performances cognitives (Westwood 2021).

Chez les sujets sains, certaines études laissent entrevoir des applications pour augmenter les capacités de mémoire et d'apprentissage. Cependant, jusqu'à présent les lacunes méthodologiques dans les conditions d'expériences n'ont pas permis de conclure à l'efficacité de ces techniques de stimulation (Jwa 2023, Wexler 2020, Nagappan 2021). Quelques recherches menées avec des protocoles rigoureux ont analysé les effets de la stimulation transcrânienne au niveau du cortex préfrontal sur la mémoire épisodique et associative chez des adultes. Les résultats n'ont pas montré de différences entre les groupes stimulés et les groupes témoins dans les tests de mémoire (Bartl 2023, Habich 2020).

Il est frappant de constater le décalage entre le manque de validation scientifique des effets de la stimulations transcrânienne et le marché florissant du dopage intellectuel sur internet présent dans divers pays (USA, Canada, Suède, UK, France, etc). Des startups proposent des kits de stimulations transcraniennes par courant continu "clef en main" (casque, application sur smartphone/tablette, batteries) à partir de 300$. Leurs offres marketing pour accroitre les capacités cérébrales exploitent la crédulité des personnes vulnérables, notamment des parents qui sont face aux difficultés d'apprentissage de leurs enfants (Wurzmann 2016).
## 1.3 Les neurotechnologies dans l'éducation scolaire et universitaire

La convergence entre les neurotechnologies et le numérique dans l'éducation est en train de sortir des laboratoires pour investir les salles de classe et les campus. Jusqu'à récemment les études sur les activités cérébrales en situation d'apprentissage étaient cantonnées à des expérimentations menées en dehors du cadre scolaire. Depuis 2019, les recherches ont été déportées dans l'environnement éducatif concret des écoles primaires, secondaires et des universités.

La majorité des expérimentations concerne des étudiants à l'université (18-25 ans). Des études sur des petits groupes d'étudiants (n=20-30) montrent des corrélations entre l'amplitude et la fréquence des ondes cérébrales et le degré d'attention pendant les cours. Ces observations confirment nombre de recherches antérieures réalisées dans des conditions expérimentales de laboratoire (Grammer 2021, Ko 2017).

Les recherches menés dans les écoles secondaires sont essentiellement le fait de l'équipe de Suzanne Dikker au département de psychologie de l'université de New York (Bevilacqua 2019, Dikker 2017, 2020). Les résultats montrent que lorsque l'enseignement est dispensé dans la période de fin de matinée, il existe une plus forte corrélation entre le niveau d'attention, les performances d'apprentissage et les ondes EEG (ondes alpha de faible amplitude). On observe aussi un phénomène de synchronisation des EEG entre les élèves quand l'attention de l'ensemble de la classe est partagée. Les auteurs concluent à l'utilité de l'EEG pour analyser la dynamique des temps d'enseignement et des interactions dans la salle de classe.

A l'école primaire, les quelques études publiées à ce jour montrent des corrélations entre attention, ondes EEG et apprentissage (Vekety 2022, Xu K 2022). Cependant ces observations manquent de fiabilité en raison des conditions expérimentales non contrôlées telles que des artéfacts de mouvement et la fatigue des jeunes élèves (García-Monge 2023).

En conclusion, la démonstration scientifique et pédagogique de l'apport de l'enregistrement des ondes cérébrales en situation réelle d'apprentissage reste préliminaire et peu convaincante (García-Monge 2023, Xu J 2018). Les expérimentations sont menées sur des petits nombres d'élèves, en majorité adultes et très peu en bas âge, et la comparaison avec des groupes témoins fait souvent défaut. Les tests d'apprentissage sont limités (lecture, calculs) et non représentatifs des diverses fonctions cognitives mobilisées dans l'acquisition et la restitution des connaissances. De plus, la qualité des enregistrements EEG est souvent médiocre du fait de l'utilisation de casques du commerce peu onéreux.

Toutefois, ce manque de preuve scientifique ne diminue en rien l'intérêt des milieux académiques, des gouvernements et des sociétés privées dans le développement conjoint des neurotechnologies et du numérique dans l'éducation. Les États-Unis et la Chine sont les deux pays les plus avancés dans ce domaine.
## États-Unis

Aux États-Unis, depuis 20 ans, la thématique "Mind, Brain and Education" constitue une discipline universitaire à part entière, avec des centres de recherche, des journaux dédiés, des conférences internationales, des financements publics et privés<fnref n="5" />.

Les recherches actuelles tendent de plus en plus à intégrer des entreprises commerciales de neurotechnologies. Ainsi la start-up BrainCo (https://brainco.tech), développée au "Harvard Innovation Lab", est spécialisée dans le suivi de l'apprentissage pour des élèves de lycée via des ressources numériques personnalisées croisées avec des données EEG. BrainCo prétend que ses casques peuvent aider les enseignants à identifier les élèves qui ont besoin d'une aide supplémentaire. Les casques affichent une lumière bleue pour les élèves dont l'activité cérébrale est inférieure à la moyenne de la classe, jaune pour ceux qui se situent dans la moyenne et rouge pour ceux qui la dépassent (www.neuromakerstem.com/neuromaker-bci).

Nombre d'expérimentations sont menées dans des école privées américaines en partenariat avec des fabricants d'interfaces cerveau-machine. En Californie, l'école "Synapse School" collabore avec le "Brain wave learning center" de l'université de Stanford sur un programme d'optimisation de l'apprentissage chez les élèves équipés de casques EEG (www.synapseschool.org/innovation/blc).

L'entreprise Muse (https://chooseemuse.com/muse-research/) spécialisée dans les casques EEG est partenaire des écoles privées "Millennium School" (www.themillenniumschools.com/). Des expérimentations similaires sont menées par les entreprises telles que : NeurOptimal (https://neurooptimal.com/education-zengar/), Neurocore (www.neurocore.tv), Neurosky (http://neurosky.com/), SharpBrains (https://sharpbrains.com/pervasive-neurotechnology), Emotiv (www.emotiv.com/).

Dans la mouvance du développement du métavers, les concepteurs de casques mettent au point de nouvelles fonctionnalités pour incorporer les données biométriques à l'expérience immersive. Leur application dans le cadre d'apprentissages scolaires et universitaires est en cours d'expérimentation (Refaat El Said 2023).

Un des leaders en neurotechnologies, OpenBCI a conçu le casque Galea<fnref n="6" /> qui "possède les moyens de mesurer les émotions et les expressions faciales y compris le bonheur, l'anxiété, la dépression, la capacité d'attention et le niveau d'intérêt ". C'est le premier casque sur le marché qui intègre autant de paramètres biométriques : eye-tracking, électromyogramme, activité cardiaque, réponse électrodermale et EEG. Les fabricants de casques de réalité mixte (virtuelle + augmentée) devraient suivre cet exemple: Apple (Vision Pro), Meta (Quest 3), HTC (Vive XR Elite), Sony et aussi la startup française Lynx.

<footnote n="5">⁵ https://www.leARNINGANDtheBRAIN.com/BLOG/WHAT-IS-MIND-BRAIN-EDUCATION-DEFINING-THE-undefINABLE/</footnote>

<footnote n="6">⁶ https://OPENBCI.COM/COMMUNITY/INTRODUCING-GALEA-BCI-HMD-BIOSENSING</footnote>
## Chine

En Chine, une expérience menée par l'entreprise américaine BrainCo sur des enfants de 5-6 ans a fait grand bruit après un reportage du Wallstreet Journal en 2019⁷. Les élèves étaient équipés de casques EEG pour enregistrer leur activité cérébrale afin de surveiller leur attention. Les enseignants affirmaient que l'utilisation de ces casques conduisait les élèves à être plus disciplinés et à travailler davantage en classe (Ryckmans 2023). L'expérimentation de ce dispositif a été stoppée après une vague de critiques sur des médias d'état chinois et sur les réseaux sociaux.

Depuis 2019, d'autres projets éducatifs impliquant l'IA sont déployés en Chine. L'entreprise chinoise Squirrel AI<fnref n="8" />, leader dans l'EduTech et l'AIEdu, a mis en place dans plus de 60 000 écoles publiques un système d'IA qui suit l'apprentissage des élèves, notamment à travers l'interprétation des émotions détectées par une webcam. Le recours aux casques EEG est la prochaine étape.

Ces expérimentations recueillent l'adhésion du public : elles sont censées optimiser les chances de réussir l'examen national de l'entrée au collège, le GaoKao, considéré comme la condition de succès futur dans la vie professionnelle.

## 2. Technologies numériques (EdTech) et intelligence artificielle (IAEd) dans l'éducation

Ces technologies ont pour objectif d'améliorer l'apprentissage grâce à des données éducatives en ligne (Williamson 2024). Elles s'adressent aux élèves, aux enseignants et aux institutions d'enseignement.

### 2.1 EdTech et IAEd au service des élèves

#### Le tutorat intelligent

Parmi les nombreuses plateformes numériques actuellement développées pour l'éducation, le système de tutorat intelligent (STI) est le plus courant. L'objectif est d'apporter à l'élève un enseignement automatisé adapté à sa personnalité. Le STI analyse les données de navigation sur le web, les tâches réalisées, les erreurs, afin de générer des questionnaires adaptés dans un parcours personnalisé d'apprentissage en fonction des forces et des faiblesses de chaque élève (Bocquet 2023, Holmes 2022).

Un exemple illustratif de STI est celui développé par Google<fnref n="9" />. Le "Gooru Navigator for Learners", présenté comme un "GPS d'apprentissage interactif", guide les étudiants grâce aux

<footnote n="7">⁷ https://www.wsj.com/articles/chinas-efforts-to-lead-the-way-in-ai-start-in-its-classrooms-11571958181 - https://www.theguardian.com/world/2019/nov/01/chinese-primary-school-halts-trial-of-device-that-monitors-pupils-brainwaves.</footnote>

<footnote n="8">⁸ https://almostism.com/china-experiments-squirrel-ai-education.</footnote>

<footnote n="9">⁹ https://play.google.com/store/apps/details?id=org.gooru.student navi gator&hl=ln&gl=US.</footnote>
ressources issues des données de la plateforme. IBM, Apple, Microsoft et Adobe produisent également des applications éducatives assistées par l'IA (apprentissage des langues, résolutions de problèmes mathématiques) qui sont disponibles sur les principales boutiques d'applications. Aux Etats Unis, le marché de l'éducation numérique est estimé à 30 milliards de dollars en 2030 (GMI 2022).

## L'IA pour aider les élèves à besoins spécifiques

Certains systèmes EdTech disponibles dans le commerce ont été développés pour aider les élèves présentant des difficultés d'apprentissage en lien avec des troubles de l'attention : TDAH, dyslexie, dysgraphie ou encore les troubles du spectre autistique (Asselborn 2020, Lundy 2019, Porayska-Pomsta 2018). Ces dispositifs sont mis en place dans le cadre d'expérimentations pilotes. Leur efficacité reste à démontrer.

## Le Digital Game Based Learning (DGBL)

Il s'agit de simulations de réalité virtuelle et de réalité augmentée basées sur des jeux disponibles dans le commerce et adaptés à des contextes d'apprentissage éducatif (Ragni 2023). Le DGBL est présenté comme un outils de choix pour capturer l'attention de l'élève en transformant l'apprentissage en une activité ludique qui encourage le travail d'équipe entre élèves et les communications avec l'enseignant (Grudpan 2022).

## La Meta-Education

Les développements actuels de l'IAEd se déploient de plus en plus dans les espaces du métavers<fnref n="10" /> (Knox 2022). La Méta-Education est supposée simuler l'expérience physique en 3D de la salle de classe ou du campus. L'objectif est de transformer l'apprentissage en ligne, où l'élève est seul face à son écran, en une expérience collective et interactive (Refaat El Said 2023).

Microsoft, Meta et Google font des investissements massifs pour développer le métavers dans des projets éducatifs. La Chine, la Corée du sud et le Japon sont déjà très avancés dans le domaine.

En France, l'entreprise Méta<fnref n="11" /> a conclu un accord de partenariat en 2023 avec "France Immersive Learning", la première association française dédiée aux usages des technologies immersives. L'objectif est de développer l'usage du métavers dans l'apprentissage scolaire et universitaire et dans la formation professionnelle.

Des écoles d'enseignement supérieur (Neoma Business School, Metaverse College, Kwark Academy, Paris School of Technology & Business) proposent d'ores et déjà des formations qui se déroulent dans le métavers. L'argument du métavers est à même de séduire

<footnote n="10">¹⁰ - Comité National Pilote d'Éthique du Numérique C.N.P.E.N Avis n°9, Métavers : enjeux d'éthiques, avril 2024, https://www.ccne-ethique.fr/sites/default/files/2024-04/CNPEN_A9_Metavers_2024-02-29.pdf.</footnote>

<footnote n="11">¹¹ - https://about.fb.com/news/2023/04/how-the-metaverse-can-transform-education/.</footnote>
les étudiants avec une image avant-gardiste d'innovation pédagogique. Des programmes d'expérimentation sont en cours à l'ESCP (École supérieure de commerce de Paris) et à Sciences Po Paris<fnref n="12" />.

## 2.2 EdTech et IAEd au service des enseignants et des institutions

### Learning analytics

Aujourd'hui, de nombreuses recherches en sciences de l'éducation sont consacrées à l'analyse des apprentissages numériques ou "Learning Analytics" (Bonnin 2015, Labarthe 2018, Williamson 2024). Les traces numériques laissées par les élèves sont exploitées pour créer des modèles d'apprentissage plus performants qui s'adaptent automatiquement aux caractéristiques individuelles des élèves. Ils sont censés offrir aux enseignants de nouveaux outils pédagogiques, par exemple pour la construction de parcours d'apprentissage et la détection des élèves "décrocheurs".

### Les outils numériques d'éducation : entre entreprises privées et secteur public

Dans le secteur privé, l'application de Google<fnref n="13" /> "Workspace for Education" cible les enseignants et les établissements scolaires. L'objectif est de faciliter l'organisation de l'enseignement grâce à des outils numériques pour mieux collaborer et planifier les cours. L'offre permet aussi d'assurer la protection les données de l'établissement scolaire. Des expérimentations sont en cours pour l'automatisation de la notation des devoirs, la détection du plagiat et la surveillance des examens à distance (e-Proctoring). IBM (Watson Education Classroom), Microsoft, Adobe ont développé des systèmes similaires (Holmes 2022).

L'union européenne a lancé un plan d'action (2021-2027) en matière d'éducation numérique visant à soutenir l'adaptation des systèmes d'éducation et de formation des Etats membres à l'ère numérique. En 2022, ont été publiées des lignes directrices éthiques sur l'utilisation de l'intelligence artificielle et des données dans l'enseignement et l'apprentissage à l'intention des éducateurs<fnref n="14" />.

En France, le ministère de l'Éducation Nationale a mis en place le Réseau Canopé<fnref n="15" /> qui propose des ressources numériques pour la formation des enseignants. La période du confinement lié au Covid a vu croître le recours aux outils numériques d'éducation par les enseignants. A partir de 2000, la Direction générale de l'enseignement scolaire a mis à

<footnote n="12">¹² - https://start.lesechos.fr/apprendre/universites-ecoles/metavers-et-enseignement-gadget-ou-vraie-innovation-pedagogique-1409325.</footnote>

<footnote n="13">¹³ - https://edu.google.com/intl/ALL_fr/workspace-for-education/editions/overview/.</footnote>

<footnote n="14">¹⁴ - https://education.ec.europa.eu/fr/focus-topics/digital-education/action-plan.</footnote>

<footnote n="15">¹⁵ - https://www.reseau-canope.fr/congres-international-les-sciences-cognitives-dans-la-salle-de-classe/captations1551.html.</footnote>
disposition des ressources éducatives en ligne telles que Eduscol<fnref n="16" /> ou "Ma Classe à la Maison" du CNED<fnref n="17" /> (Centre national d'enseignement à distance).

D'après un rapport de 2020 du Comité d'éthique pour les données d'éducation<fnref n="18" />, la grande majorité des établissements scolaires français a choisi des logiciels et des plateformes numériques développés par des entreprises privées étrangères et ce, en raison de fonctionnalités plus performantes que celles des outils français du secteur public.

## 2.3 L'évaluation des systèmes numériques d'éducation : une efficacité qui reste à démontrer

Selon les conclusions de méta-analyses réalisées au cours des deux dernières décennies sur l'impact des technologies numériques dans l'apprentissage, on constate des effets positifs modestes en comparaison avec l'enseignement traditionnel (Refaat El Said 2023). Des études préliminaires sur le métavers suggèrent que l'environnement virtuel 3D est associé à un meilleur ancrage des informations en mémoire, favorisant ainsi les processus de rappel des connaissances et l'apprentissage (Almeida 2019).

De tels résultats doivent être relativisés, notamment faute d'évaluations indépendantes. Celles-ci sont en majorité menées par les entreprises commerciales d'EdTech, le plus souvent avec un nombre relativement faible d'apprenants.

En conclusion, en l'absence de données robustes sur l'efficacité de l'éducation numérique dont on dispose actuellement, de nombreuses interrogations demeurent, notamment celle de savoir si les traces digitales sont représentatives de l'acquisition de connaissances réellement utiles pour l'élève dans son parcours scolaire<fnref n="19" />. Les critères de diagnostic pour l'évaluation de la qualité d'une méthode d'enseignement et l'orientation des choix pédagogiques font défaut (Bocquet 2023, Holmes 2022, Williamson 2019, 2024).

Pourtant, les attentes sont grandes quant à l'impact futur du numérique dans l'éducation. Selon l'un des principaux entrepreneurs de l'IA, Kai-Fu Lee (ancien cadre supérieur chez Google, Microsoft, SGI et Apple) "Contrairement aux enseignants humains, qui doivent prendre en compte l'ensemble de la classe, un enseignant virtuel peut accorder une attention particulière à chaque élève, qu'il s'agisse de résoudre des problèmes de prononciation spécifiques, de s'entraîner aux multiplications ou de rédiger des essais. Un enseignant virtuel

<footnote n="16">¹⁶ - https://eduscol.education.fr/.</footnote>

<footnote n="17">¹⁷ - https://www.cned.fr/espace-presse/dispositif-de-continuite-pedagogique.</footnote>

<footnote n="18">¹⁸ - Comité d'éthique pour les données d'éducation, Avis n°2020-1 - Enjeux d'éthique des usages des données numériques d'éducation dans le contexte de la pandémie, https://www.education.gouv.fr/le-comite-d-ethique-pour-les-donnees-d-education-12146.</footnote>

<footnote n="19">¹⁹ - UNESCO. 2023. Rapport mondial de suivi sur l'éducation 2023 : Les technologies dans l'éducation – Qui est aux commandes? https://unesdoc.unesco.org/ark:/48223/pf0000388893/PDF/388893fre.pdf.multि.</footnote>
remarquera ce qui fait se dilater les pupilles d'un élève et ce qui fait tomber ses paupières" (cité dans Holmes 2022).

Dans de telles perspectives, l'automatisation de l'enseignement va de pair avec la **surveillance biométrique du comportement de l'élève en situation d'apprentissage**. Qu'il s'agisse du tutorat intelligent personnalisé ou de l'immersion interactive dans le métavers éducatif<fnref n="20" />, l'objectif d'une innovation pédagogique performante passe par la compréhension des réactions et des émotions des élèves grâce à la prise en compte des paramètres individuels physiques et comportementaux (Canal 2022, Marín-Morales 2020, Refaat El Said 2023).

## 3. Enjeux éthiques et sociétaux de la convergence des neurotechnologies et du numérique dans l'éducation

Les réflexions éthiques sur les neurotechnologies et le numérique dans l'éducation relèvent des principes fondamentaux tels que la protection des données cérébrales et de la vie privée, le consentement éclairé à des utilisations identifiées, le respect de l'autonomie cognitive et de la liberté de penser. Des questionnements spécifiques se posent en raison de leur usage dans le cadre scolaire chez les enfants/adolescents: impact sur leur développement psychique et physique, protection du droit numérique pour les personnes mineures. Des préoccupations connexes concernent le risque pour l'enseignement public d'être tributaire de systèmes technologiques privés et aussi les nuisances de l'environnement liées à l'usage massif du numérique dans l'éducation.

### 3.1 Protection de l'intégrité psychique et physique des élèves

Au stade actuel des développements technologiques, la captation des données biométriques (EEG, expressions du visage, direction du regard...) permet de renseigner sur l'activité du système nerveux, principalement en lien avec les niveaux d'attention et d'émotion.

Il est probable que dans un futur proche, la sophistication des dispositifs d'enregistrement et le traitement algorithmique des données par l'IA permettent de révéler plus précisément certains états mentaux et traits de personnalité. Ces données pourraient être utilisées pour définir des conditions d'apprentissage les mieux adaptées au profil cognitif de chaque élève. Les enfants présentant des troubles de l'attention en seraient les premiers bénéficiaires.

Le versant négatif est la possibilité d'accès à ces données par un tiers, avec le risque d'interférer avec l'intimité de la vie psychique de l'enfant et de l'influencer à d'autres fins que la réussite scolaire (Holmes 2022, Vidal 2022). Les données cérébrales sont des sources d'informations sujettes à convoitise pour des objectifs publicitaires, idéologiques ou autres

<footnote n="20">²⁰ - Comité National Pilote d'Éthique du Numérique C.N.P.E.N Avis n°9, Métavers : enjeux d'éthiques, avril 2024, https://www.ccne-ethique.fr/sites/default/files/2024-04/CNPENA9Metavers2024-02-29.pdf.
- https://about.fb.com/news/2023/04/how-the-metaverse-can-transform-education/.</footnote>
(assurances, entreprises, police, cybercriminalité) (cf les rapports UNESCO 2021, 2024, UNICEF 2021). La convergence de ces données avec d'autres données numériques pourrait se matérialiser par une surveillance et un ciblage personnalisé des enfants, propre à influencer leurs opinions, préférences, comportements...

De plus, l'association des outils neurotechnologies et numériques pose des questions non résolues concernant leur impact sur le cerveau, le développement cognitif des enfants et les risques pour leur santé (Gottschalk 2019, Holmes 2022, Williamson 2019, 2023, 2024). Les interfaces cerveau-machine (neurofeedback et stimulations transcrâniennes) pourraient potentiellement perturber la dynamique de la formation des circuits neuronaux à certaines périodes dites "critiques" du développement du cerveau, avec des effets néfastes sur le plan cognitif (mémoire, raisonnement) et émotionnel (maîtrise de soi).

Un autre sujet de vigilance est celui de "neuronormalisation" par des interventions sur le cerveau des enfants (conditionnement par neurofeedback, stimulations) pour le rendre conforme à des normes "standard". Un risque potentiel connexe est la "neurodiscrimination" fondée sur les "signatures neurales" qui ne seraient pas conformes aux normes cérébrales majoritaires, celles-ci étant définies à partir d'un échantillon de sujets de pays riches non représentatifs de la neurodiversité propre à tous les êtres humains (Ienca 2021, 2022). Leur utilisation par des groupes sectaires ou des gouvernements non-démocratiques est une menace potentielle.

Toutes ces questions soulèvent des défis éthiques et juridiques majeurs qui sont l'objet de mobilisations d'organismes internationaux - UNESCO, OCDE, Conseil de l'Europe - lesquels appellent à élaborer des cadres éthiques et réglementaires fondés sur les "neurodroits".

Dans un rapport de 2021, le Comité international de bioéthique de l'UNESCO<fnref n="21" /> (CIB) déclare: "Pour préserver les droits humains des personnes vulnérables, y compris leur autonomie et leur liberté, il est nécessaire de mettre en place des mesures de protection robustes. C'est tout particulièrement le cas s'agissant des enfants, dont l'exploitation des données cérébrales pourrait influencer de manière décisive non seulement la formation de leur personnalité (de leurs perceptions en tant qu'être humain) mais aussi leurs chances futures".

En France, une "Charte de développement responsable des neurotechnologies"<fnref n="22" /> a été élaborée en 2022 par le Ministère de l'enseignement supérieur et de la recherche, en conformité avec les recommandations de l'OCDE pour la protection des données personnelles. Elle a en particulier pour objectif de protéger les patients et les consommateurs contre des utilisations potentiellement abusives et malveillantes des données cérébrales, conduisant à une perte de liberté cognitive ou au non respect de la confidentialité de ces données.

<footnote n="21">21 - UNESCO – 2021 Comité international de bioéthique (CIB), rapport sur les aspects éthiques des neurotechnologies, https://unesdoc.unesco.org/ark:/48223/pf0000378724_fre.</footnote>

<footnote n="22">22 - https://www.enseignementsup-recherche.gouv.fr/fr/charte-de-developpement-responsable-des-neurotechnologies-87964.</footnote>
Une attention particulière aux enfants/adolescents devrait être mentionnée dans une prochaine version de la charte.

## Les neurodroits

Le terme neurodroit a été introduit pour la première fois en 2017 par des chercheurs en éthique médicale, Marcello Ienca (Université de Lauzanne) et Roberto Andorno (université de Zurich), dans un article intitulé "A new category of human rights: neurorights" (Ienca 2017a).

Les auteurs font valoir que "les possibilités ouvertes par les développements neurotechnologiques et leur application à divers aspects de la vie humaine nécessiteront une reconceptualisation de certains droits de l'Homme, voire la création de nouveaux droits pour protéger les personnes contre des dommages potentiels".

Les neurodroits sont classés en trois catégories principales :

- Droit à la vie privée mentale : nécessité de dispositions spécifiques pour protéger les informations privées contenues dans le cerveau.

- Droit à l'intégrité mentale : nécessité de protéger la personne contre les dommages psychologiques et les interférences mentales.

- Droit à la liberté de pensée, droit à la liberté cognitive et droit à l'identité personnelle : préserver et promouvoir la liberté de l'esprit humain, et empêcher ainsi toute manipulation extérieure.

Les organismes internationaux - UNESCO, OCDE, Conseil de l'Europe - reconnaissent les droits fondamentaux de tout individu à l'intégrité physique et mentale, au caractère privé de la vie mentale, à la liberté de penser et de décider, au droit de bénéficier des progrès de la science et des neurotechnologies, et le droit de décider librement et de manière responsable de l'utilisation des neurotechnologies, sans aucune forme de discrimination, de coercition ou de violence.

Le Chili est le premier pays au monde à avoir en adopté en octobre 2021 une loi qui reconnait les neurodroits et interdit l'exploitation des données cérébrales sans consentement.

- Ienca M 2021, Defis communs en matière de droits de l'homme soulevés par les différentes applications des neurotechnologies dans le domaine biomedical
Conseil de bioéthique du Conseil de l'Europe, https://rm.coe.int/report-final-fr/1680a43841.

- Ienca M, Andorno R (2017a) A new category of human rights: neurorights. http://blogs.biomedcentral.com/bmcblog/2017/04/26/new-category-human-rights-neurorights/.

- Ienca M, Andorno R (2017b) Towards new human rights in the age of neuroscience and neurotechnology. Life Sciences, Society and Policy, 13, 5, doi:10.1186/s40504-017-0050-1.

- Yuste R et al. (2021) It's Time for Neuro-Rights. Horizons, Journal of International Relations and Sustainable Development 18, 154-165.

En Europe, sur le plan réglementaire, l'application du Règlement Général sur la Protection des Données (RGPD) aux données cérébrales fait débat. Si ces données sont collectées dans un cadre non clinique, elles ne peuvent être qualifiées de "données de santé sensibles" que si elles
sont susceptibles de mettre en évidence une information relative à la santé des personnes. Dans
le cadre des usages privés personnels, elles ne relèveraient pas du RGPD. Or les risques de
violation de la vie privée mentale et de neurodiscrimination appellent à élargir les conditions
d'application du RGPD aux données cérébrales sans restriction<fnref n="23" /> (Ienca 2021).

Quelques pistes sont à considérer:

- Le caractère « sensible » des données cérébrales personnelles, au sens du RGPD, mériterait d'être reconnu

- La conformité à l'ensemble des grands principes de la protection des données personnelles doit être documentée et contrôlée (principe de finalité, de minimisation des données, de non-discrimination, caractère licite du traitement, droit à l'oubli...)

- Une réflexion multidisciplinaire devra s'engager pour analyser les meilleures conditions d'information et de recueil du consentement de l'enfant (Charte de New York des droits de l'enfant) ainsi que les conditions de conservation des données cérébrales collectées chez l'enfant avec le consentement de leurs représentants légaux. Quand l'enfant atteint ses 18 ans et devient à son tour majeur, redéfinir les conditions de nouveau consentement, de conservation et/ou d'élimination des données.

- Définir des cadres éthiques et responsables à destination des entreprises de neurotechnologies (transparence des mesures de protection des données cérébrales des mineurs, conditions de partage avec des tierces parties, etc), conformément au principe de "Privacy by design " porté par le RGPD.

Sur le plan international, un guide de recommandations de l'UNESCO<fnref n="24" /> est en cours de finalisation pour accompagner les Etats dans l'encadrement législatif du développement des neurotechnologies et la protection des neurodroits. Plus de 200 préconisations y figurent, dont la protection des enfants et adolescents.

La protection de l'intégrité physique des élèves est également un sujet de vigilance éthique<fnref n="25" />. Un consensus scientifique se dégage pour montrer que l'usage massif des écrans, l'immersion dans les mondes virtuels ont des impacts sur nos corps et nos cerveaux<fnref n="26" />. La généralisation à venir de leur utilisation à l'école présente des risques spécifiques pour des enfants et adolescents dont le système nerveux est encore en développement. Le système visuel

<footnote n="23">²³ - Conseil de l'Europe & OCDE, 2022 « Neurotechnologies et Droits de l'Homme : avons-nous besoin de nouveaux droits ? », https://rm.coe.int/round-table-report-fr/1680a969ee.</footnote>

<footnote>- UNESCO, 2023, The Risks and Challenges of Neurotechnologies for Human Rights, https://unesdoc.unesco.org/ark:/48223/pf0000384185.</footnote>

<footnote n="24">²⁴ - UNESCO 2024 Recommendations on the ethics of neurotechnology, https://www.unesco.org/en/ethics-neurotech/recommendation.</footnote>

<footnote n="25">²⁵ - UNESCO. 2023. Rapport mondial de suivi sur l'éducation : Les technologies dans l'éducation, Qui est aux commandes? https://unesdoc.unesco.org/ark:/48223/pf0000388893/PDF/388893fre.pdf multi.</footnote>

<footnote n="26">²⁶ - Bousquet-Bérard C, 2024 "Enfants et écrans. À la recherche du temps perdu, www.vie-publique.fr/rapport/293978-exposition-des-enfants-aux-ecrans-rapport-au-president-de-la-republique.</footnote>

<footnote>- ANSES (2021), Réalité virtuelle, réalité augmentée : quels risques, quelles bonnes pratiques adopter ? https://www.anses.fr/.</footnote>
est particulièrement vulnérable : la lumière bleue, le manque d'exposition à la lumière naturelle, la sollicitation de la vision de près, sont corrélés à une forte augmentation de la myopie dans le monde. L'isolement sensoriel et moteur vis à vis de l'environnement physique, la sédentarité, l'attraction pour les mondes virtuels coupent les jeunes des interactions sociales qui sont déterminantes dans leur développement cognitif et émotionnel<fnref n="27" />.

## 3.2 Protection des droits numériques des mineurs

En 2023, dans son rapport mondial de suivi sur l'éducation, l'UNESCO²⁴ souligne les lacunes de la réglementation sur la protection des données personnelles et de la vie privée des enfants :

> "Seuls 16 % des pays garantissent explicitement la confidentialité des données dans l'éducation par la loi. Selon une analyse, 89 % des 163 produits technologiques éducatifs recommandés pendant la pandémie pouvaient surveiller les enfants. En outre, 39 des 42 gouvernements ayant fourni un enseignement en ligne pendant la pandémie ont favorisé des utilisations qui mettaient en péril ou enfreignaient les droits des enfants".

Ce constat appelle à renforcer les droits numériques des mineurs (Holmes 2022). Les recommandations du laboratoire d'innovation numérique de la CNIL<fnref n="28" /> et du Défenseur des droits<fnref n="29" /> prévoient : "Les données personnelles de l'éducation, qui concernent essentiellement des mineurs, doivent bénéficier d'une protection toute particulière. Il convient de rappeler que, si les données personnelles d'éducation ne sont pas des données sensibles au sens du RGPD, elles peuvent le devenir par croisement avec d'autres données".

En France, la majorité numérique est à 15 ans, ce qui implique qu'à partir de cet âge, l'adolescent doit être informé de ses droits pour être en mesure de donner ou pas son consentement à l'utilisation de ses données numériques. Avant 15 ans, l'accord conjoint des titulaires de l'autorité parentale et de l'enfant est requis.

Protéger les enfants, c'est aussi les éduquer au numérique et leur donner les clés pour leur permettre de devenir acteurs de leur vie numérique.

Le rapport 2024 au Président de la République sur l'exposition des enfants aux écrans<fnref n="30" /> souligne que la formation au numérique des élèves et l'éducation aux médias et à l'information

<footnote n="27">²⁷ - UNICEF (2023), *The Metaverse, Extended Reality and Children*.</footnote>

<footnote n="28">²⁸ - CNIL, *Les droits numériques des mineurs 2021*, https://www.cnil.fr/fr/thematiques/les-droits-numeriques-des-mineurs.</footnote>

<footnote>- LINC ; laboratoire d'innovation numérique de la CNIL, https://linc.cnil.fr/affective-computing-des-casques-qui-analysent-le-cerveau.</footnote>

<footnote n="29">²⁹ - Défenseur des droits 2022 *Rapport La vie privée : un droit pour l'enfant*, https://juridique.defenseurdesdroits.fr/doc_num.php?explnum_id=21507.</footnote>

<footnote n="30">³⁰ - Bousquet-Bérard C, 2024 "Enfants et écrans. À la recherche du temps perdu", www.vie-publique.fr/rapport/293978-exposition-des-enfants-aux-ecrans-rapport-au-president-de-la-republique.</footnote>
- telles que formalisées par le ministère de l'éducation nationale - sont très insuffisantes et "passent à côté des enjeux propres à l'enfant et à son environnement numérique, au fonctionnement de son cerveau et à son rapport à l'information, à la réalité de ses usages quotidiens et de ses besoins".

### 3.3 Protection de l'autonomie des systèmes éducatifs

L'UNESCO en 2023 a publié un rapport à propos de "l'Ecole à l'heure de l'intelligence artificielle"<fnref n="31" /> avec des exemples venant de divers pays. Aux États-Unis, une analyse portant sur plus de deux millions d'élèves a révélé que les inégalités d'apprentissage s'étaient creusées lorsque l'enseignement avait été exclusivement dispensé à distance. Le rapport souligne que "la technologie ne doit en aucun cas se substituer aux enseignants qualifiés, qui guident le développement de leurs élèves en tant qu'individus et citoyens (...) pour réaliser l'égalité des chances numériques, encadrer l'utilisation de la technologie à l'école en s'appuyant sur les principes d'inclusion, d'équité, de qualité, et d'accessibilité".

Le rapport du Conseil de l'Europe<fnref n="32" /> confié à Wayne Holmes et al. en 2022 insiste sur le risque pour les écoles de devenir dépendantes des entreprises du numérique et de perdre leur autonomie, avec pour conséquence un enseignement public tributaire de la technologie du secteur privé n'ayant aucun compte à rendre (Selwyn 2019). De telles perspectives appellent à la vigilance face au risque de détourner les projets éducatifs de leur contenu collectif, culturel et social, et à la remise en question de l'autonomie des enseignants, en imposant des méthodes pédagogiques conçues pour répondre aux paramètres mesurés par les outils numériques des prestataires de services.

### 3.4 Protection de l'environnement

Selon une étude de l'ADEME et de l'Arcep<fnref n="33" /> en 2022, le numérique représente actuellement 3 à 4 % des émissions de gaz à effet de serre dans le monde et 2.5% en France. Ce chiffre pourrait augmenter de 60 % d'ici à 2040.

<footnote n="31">³¹ - UNESCO 2023, rapport sur l'école à l'heure de l'intelligence artificielle, https://unesdoc.unesco.org/ark:/48223/pf0000387029c.</footnote>

<footnote>- Williamson B 2023, En classe, l'IA doit rester à sa place
Courrier de l'Unesco : L'école à l'heure de l'intelligence artificielle, https://unesdoc.unesco.org/ark:/48223/pf0000387029/PDF/387029fre.pdf.multi.</footnote>

<footnote n="32">³² - Holmes W et al. 2022, Artificial intelligence and education : A critical view through the lens of human rights, democracy and the rule of law, Council of Europe, https://rm.coe.int/artificial-intelligence-and-education-a-critical-view-through-the-lens/1680a886bd.</footnote>

<footnote>- Bocquet F. 2023, État de l'art et de la pratique de l'intelligence artificielle dans l'éducation (Traduction de Holmes & Tuomi, 2022, Eur.J of Education, https://doi.org/10.1111/ejed.12533). https://edunumrech.hypotheses.org/8350.</footnote>

<footnote n="33">³³ - Etude Ademe – ARCEP 2022, https://www.arcep.fr/uploads/tx_gspublication/etude-numerique-environnement-ademe-arcep-note-synthese_janv2022.pdf.</footnote>
Il est probable que la généralisation de l'usage du numérique dans le cadre scolaire contribuera à accélérer la dégradation de l'environnement à l'échelle mondiale. Les neurotechnologies et le métavers sont hautement consommateurs d'énergie de par le volume des données collectées et leur traitement par l'IA<fnref n="34" />.

## 4. Recommandations

Ces recommandations s'inspirent des grands principes formulés dans différents rapports institutionnels sur les enjeux éthiques du numérique dans l'éducation, les neurotechnologies et le métavers.

- Réaliser et renouveler des études d'impact méthodologiquement rigoureuses sur l'usage présent et à venir, les bénéfices et les risques des nouvelles technologies numériques dans l'éducation (neurotechnologies, métavers, IA).

- Soutenir les recherches indépendantes sur l'usage des technologies numériques dans l'éducation chez les personnes potentiellement vulnérables (enfants, adolescents et sujets à besoins particuliers, notamment les élèves souffrant de troubles du neurodéveloppement) et sur les pratiques éducatives.

- Élaborer un code de conduite à destination des personnels de l'éducation pour l'usage des neurotechnologies et des innovations numériques dans le cadre scolaire chez des enfants/adolescents.

Un tel code devra poser comme principe que ces technologies ne doivent pas se substituer à l'intervention humaine, ni porter une atteinte excessive aux droits et libertés des enfants/adolescents dont l'autonomie et les neuro-droits doivent être protégés: consentement éclairé des mineurs et de leurs représentants légaux, protection de la vie privée, encadrement et transparence de leur utilisation, minimisation des données (pseudonymisation, voire anonymisation), adoption de mesures de sécurité permettant de garantir la confidentialité des données personnelles collectées, durée de conservation limitée des données.

- Définir un cadre éthique qui protège les enfants des injonctions sociales et de la pression des encadrants (parents, enseignants, éducateurs...) qui pourraient les pousser à utiliser les neurotechnologies en espérant augmenter leurs performances cognitives.

- Veiller à l'égalité d'accès pour tous les enfants/adolescents, aux nouvelles technologies dans le secteur éducatif, si elles devaient se généraliser. S'interroger sur le risque d'habituer

<footnote n="34">³⁴ - Comité National Pilote d'Éthique du Numérique (C.N.P.E.N.) Avis n°9, Métavers : enjeux d'éthiques, avril 2024, https://www.ccne-ethique.fr/sites/default/files/2024-04/CNPEN_A9_Metavers_2024-02-29.pdf.</footnote>
l'individu dès son plus jeune âge à une forme de contrôle quasi-permanent dont il ne sera plus
à même de percevoir le caractère intrusif.

- Implémenter la "Charte de développement responsable des neurotechnologies" (Ministère de l'enseignement supérieur et de la recherche) en prenant des mesures visant spécifiquement la protection des données cérébrales des enfants/adolescents qui font l'apprentissage de l'autonomie et dont la liberté inhérente à la construction et à l'épanouissement des individus doit être défendue.

- Mener une réflexion sur certaines finalités des neurotechnologies susceptibles d'être soumises à interdiction. Ainsi le Règlement européen sur l'IA<fnref n="35" /> (RIA) interdit des pratiques contraires aux valeurs de l'Union européenne et aux droits fondamentaux, tels que la reconnaissance des émotions sur le lieu de travail et dans les établissements d'enseignement.

- Définir des cadres de bonnes pratiques à destination des entreprises de neurotechnologies pour qu'elles soient contraintes à la transparence sur les mesures qu'elles prennent pour garantir la protection des données cérébrales des mineurs et ne pas les partager avec des tierces parties. Encourager à faire du « Privacy by design » un argument commercial (certification, label...)

- Adapter la réglementation pour que les concepteurs et exploitants des technologies numériques dans l'éducation soient contraintes de mettre en place des mécanismes de protection des mineurs contre le "hacking" des données cérébrales et le cyber-harcèlement.

- Évaluer la manière dont les réglementations existantes en Europe, telles que le RGPD, le DSA, le règlement européen sur l'IA, s'appliquent aux neurotechnologies et aux innovations numériques dans le cadre scolaire chez des enfants/adolescents.

- Organiser des campagnes d'information et de formation à l'usage des outils numériques (neurotechnologies, métavers, IA) à destination des élèves, parents, enseignants : avantages et dangers, notamment pour la santé.

<footnote n="35">³⁵ Loi européenne sur l'intelligence artificielle
- https://artificialintelligenceact.eu/fr/high-level-summary/.
- https://www.vie-publique.fr/questions-reponses/292157-intelligence-artificielle-le-cadre-juridique-european-en-6-questions.</footnote>
# 5. Glossaire

## Neurotechnologies

Les neurotechnologies (NT) constituent un domaine de recherche et d'innovation en plein essor qui associe les neurosciences et les technologies numériques. Selon la définition de l'UNESCO, les neurotechnologies concernent l'ensemble des dispositifs et procédures qui permettent d'acquérir des connaissances sur l'activité cérébrale d'un individu et/ou d'influencer/modifier cette activité.

## Interfaces cerveau-machine

Les NT utilisent des dispositifs d'interface cerveau/machine ou BCI (Brain computer interface), invasifs ou non, qui établissent une connexion avec le cerveau et permettent d'enregistrer et/ou de modifier l'activité neuronale. Ces dispositifs sont utilisés dans la recherche et en clinique humaine mais aussi en dehors du domaine médical : bien-être personnel, surveillance des états mentaux, éducation, etc.

## Neurofeedback

Pratique d'entraînement cérébral basé sur l'enregistrement des ondes cérébrales (EEG) qui sont portées à la connaissance du sujet. L'objectif est d'utiliser cette information pour apprendre à moduler ses propres ondes cérébrales en fonction d'une consigne (entrainement cognitif, contrôle du niveau de vigilance etc.). Les dispositifs d'enregistrement (casques, bandeaux munis d'électrodes) sont non invasifs et indolores.

Le neurofeedback est utilisé dans des situations pathologiques (contrôle cérébral d'un exosquelette chez les patients paralysés, focalisation de l'attention dans les troubles dépressifs etc). Son usage concerne aussi les sujets sains dans les "thérapies du bien-être" pour réguler son état de stress, son sommeil, sa concentration. Des expérimentations dans le cadre scolaire pour augmenter les capacités d'attention et d'apprentissage sont en cours.

## Stimulation transcranienne (STC)

Cette technique consiste à appliquer des impulsions électriques à travers le crâne au moyen d'électrodes afin de modifier l'activité des neurones des zones cérébrales sous-jacentes. Les applications cliniques des STC sont encore au stade expérimental (troubles psychiatriques, dépression, douleurs chroniques, etc). Jusqu'à présent, l'efficacité des STC pour augmenter les performances cognitives n'est pas démontrée.

## Métavers

Un métavers est un environnement numérique immersif donnant accès à des simulations de réalité virtuelle (RV) et/ou de réalité augmentée (RA) modélisées en 3D. L'utilisateur, équipé d'un casque muni de capteurs, peut déambuler via un avatar au sein de ces mondes et interagir avec d'autres avatars.
## Technologies de l'Éducation (EdTech)

Le terme désigne un secteur d'activité qui a pour objectif la transformation et l'enrichissement des pratiques pédagogiques à l'aide du numérique. Des plateformes d'enseignement en ligne, publiques ou privées, proposent des ressources, activités et services: accès à l'information, évaluation des apprentissages, individualisation des parcours de formation, organisation des enseignements dans et hors de la classe. Elles s'adressent aux élèves, aux enseignants et aux institutions d'enseignement.

## Learning analytics (analyse de l'apprentissage)

Discipline récente qui collecte et analyse les traces numériques laissées par les élèves pour créer des modèles d'apprentissage plus performants qui s'adaptent automatiquement aux individualités des élèves. Ils sont censés offrir aux enseignants de nouveaux outils pédagogiques, par exemple pour la construction de parcours d'apprentissage et la détection des élèves "décrocheurs".

## Neurodroits

Les neurodroits sont classés en trois catégories principales:

- droit à la vie privée mentale: nécessité de dispositions spécifiques pour protéger les informations privées contenues dans le cerveau.

- droit à l'intégrité mentale: nécessité de protéger la personne contre les dommages psychologiques et les interférences mentales.

- droit à la liberté de pensée, droit à la liberté cognitive et droit à l'identité personnelle: préserver et promouvoir la liberté de l'esprit humain, et empêcher ainsi toute manipulation extérieure.

## Règlement général sur la protection des données (RGPD)

Texte normatif européen régissant la protection des données à caractère personnel (Règlement UE 2016/679 du 27 avril 2016 relatif à la protection des données à caractère personnel et à la libre circulation de ces données).

## Données personnelles

Toute information se rapportant à une personne physique, identifiée ou identifiable, qui doit pouvoir en conserver la maîtrise.

Une personne physique peut être identifiée :

- directement (exemple : nom et prénom).

- indirectement (exemple : numéro de téléphone, de sécurité sociale, adresse postale, courriel, mais aussi la voix ou l'image).

L'identification d'une personne physique peut être réalisée :

- à partir d'une seule donnée (exemple : nom)

- à partir du croisement d'un ensemble de données (adresse, date de naissance, activités privées)

## Données sensibles

Sont considérées comme sensibles (article 9 du RGPD), les données qui font apparaître directement ou indirectement la santé (physique ou mentale), les données génétiques, biométriques aux fins d'identifier une personne physique de manière unique, les données qui
révèlent la vie sexuelle ou l'orientation sexuelle, l'origine ethnique, les opinions politiques, les convictions religieuses ou philosophiques.

Le règlement européen interdit de recueillir ou d'utiliser ces données, sauf, notamment,

- si la personne concernée a donné son consentement exprès (écrit, clair et explicite)

- si ces données sont nécessaires dans un but médical ou pour la recherche dans le domaine de la santé.

## Données de santé

Les données de santé sont des données à caractère personnel particulières car considérées comme sensibles. Elles font à ce titre l'objet d'une protection particulière par les textes (RGPD, loi Informatique et Libertés, code de la santé publique, etc.) afin de garantir le respect de la vie privée des personnes. N'entrent pas dans la notion de données de santé celles à partir desquelles aucune conséquence ne peut être tirée au regard de l'état de santé de la personne concernée.

# 6. Références bibliographiques

## 6.1 Rapports institutionnels sur les enjeux éthiques du numérique dans l'éducation, les neurotechnologies et le métavers

### International

- Commission Européenne 2022

Lignes directrices éthiques sur l'utilisation de l'intelligence artificielle (IA) et des données dans l'enseignement et l'apprentissage à l'intention des éducateurs,
https://education.ec.europa.eu/fr/focus-topics/digital-education/action-plan.

- Conseil de l'Europe 2022

Holmes W et al., Artificial intelligence and education: A critical view through the lens of human rights, democracy and the rule of law, Council of Europe,
https://rm.coe.int/artificial-intelligence-and-education-a-critical-view-through-the-lens/1680a886bd.

- Conseil de l'Europe & OCDE 2022

O'Sullivan S et al « Neurotechnologies et Droits de l'Homme : avons-nous besoin de nouveaux droits ? », https://rm.coe.int/round-table-report-fr/1680a969ee.

- Conseil de Bioéthique du Conseil de l'Europe 2021

Ienka M, Défis communs en matière de droits de l'homme soulevés par les différentes applications des neurotechnologies dans le domaine biomédical, https://rm.coe.int/report-final-fr/1680a43841.
- UNESCO 2021, Comité international de bioéthique (CIB), rapport sur les aspects éthiques des neurotechnologies, https://unesdoc.unesco.org/ark:/48223/pf0000378724.

- UNESCO 2021, IA et éducation : Miao F and Holmes W, Guide pour les décideurs politiques
https://www.unesco.org/gem-report/fr/technology.

- UNESCO 2023, Guide mondial pour l'IA générative dans l'éducation et la recherche,
https://www.unesco.org/fr/digital-education/ai-future-learning/guidance.

- UNESCO 2023, The Risks and Challenges of Neurotechnologies for Human Rights,
https://unesdoc.unesco.org/ark:/48223/pf0000384185.

- UNESCO 2023, Rapport mondial de suivi sur l'éducation : Les technologies dans l'éducation
Qui est aux commandes ?
https://unesdoc.unesco.org/ark:/48223/pf0000388893/PDF/388893fre.pdf.multi.

- UNESCO 2023, rapport sur l'école à l'heure de l'intelligence artificielle,
https://unesdoc.unesco.org/ark:/48223/pf0000387029c.

- UNESCO 2023. Williamson B, En classe, l'IA doit rester à sa place
Courrier de l'Unesco : L'école à l'heure de l'intelligence artificielle,
https://unesdoc.unesco.org/ark:/48223/pf0000387029/PDF/387029fre.pdf.multi.

- UNESCO 2024, Recommendations on the ethics of neurotechnology,
https://www.unesco.org/en/ethics-neurotech/recommendation.

- UNICEF 2021, Global insight data governance manifesto.
Byrne J, https://www.unicef.org/innocenti/media/1031/file/UNICEF, Global Insight Data
Governance Manifesto.pdf.

- UNICEF 2023, The Metaverse, Extended Reality and Children.
https://www.unicef.org/innocenti/media/756/file/UNICEF-Innocenti-Rapid-Analysis-Metaverse-XR-and-children-2023.pdf.pdf.

France

- Agence de la biomédecine 2023, Lettre n°2, La rencontre des neurosciences et de l'intelligence artificielle : une fusion aussi prometteuse que dangereuse,
https://www.agence-biomedecine.fr/IMG/pdf/2-lettre_de_la_biome_decine_vf_revue.pdf.

- Agence Nationale Sécurité Sanitaire Alimentaire ANSES 2021
Réalité virtuelle, réalité augmentée : quels risques, quelles bonnes pratiques adopter ?
https://www.anses.fr/.
- Commission nationale de l'informatique et des libertés CNIL 2023

+ Les droits numériques des mineurs,
https://www.cnil.fr/fr/thematiques/les-droits-numeriques-des-mineurs.

+ LINC ; laboratoire d'innovation numérique de la CNIL,
https://linc.cnil.fr/affective-computing-des-casques-qui-analysent-le-cerveau.

- Comité Consultatif National d'Ethique CCNE 2023

Avis 141 du CCNE et 4 du CNPEN "Diagnostic Médical et Intelligence Artificielle : Enjeux Ethiques", https://www.ccne-ethique.fr/fr/publications/avis-141-du-ccne-et-4-du-cnpen-diagnostic-medical-et-intelligence-artificielle-enjeux.

- Comité National Pilote d'Éthique du Numérique CNPEN 2024

Avis n°9, Métavers : enjeux d'éthiques, https://www.ccne-ethique.fr/sites/default/files/2024-04/CNPEN_A9_Metavers_2024-02-29.pdf.

- Comité d'Ethique pour les Données d'Éducation, 2023,

https://www.education.gouv.fr/le-comite-d-ethique-pour-les-donnees-d-education-12146.

+ Avis n°2023-2 - Les questions éthiques posées par le développement du métavers dans le domaine de l'éducation et ses conséquences sur l'utilisation des données d'éducation

+ Avis n°2020-1 - Enjeux d'éthique des usages des données numériques d'éducation dans le contexte de la pandémie

- Défenseur des droits 2022, Rapport : La vie privée : un droit pour l'enfant,
https://juridique.defenseurdesdroits.fr/doc_num.php?explnum_id=21507.

- Direction du Numérique pour l'Éducation 2023

+ Romero M. et al. 2023, Enseigner et apprendre à l'ère de l'intelligence artificielle Canopé, Livre blanc. Hal-04013223v2.

+ Apports de la recherche et enjeux pour les politiques publiques,
https://edunumrech.hypotheses.org/files/2023/05/MEN_DNE_brochure_IA_WEB.pdf.

- Gouvernement

+ Rapport au Président de la République 2024 :

Bousquet-Bérard C "Enfants et écrans. À la recherche du temps perdu",
www.vie-publique.fr/rapport/293978-exposition-des-enfants-aux-ecrans-rapport-au-president-de-la-republique.

+ Rapport de la mission exploratoire sur les métavers 2022,
https://www.vie-publique.fr/rapport/286878-mission-exploratoire-sur-les-metavers.

+ Direction générale des Entreprises. 2023. Éduquer à l'Intelligence artificielle. Stratégie nationale pour l'intelligence artificielle,
https://www.entreprises.gouv.fr/fr/numerique/enjeux/developer-ecosysteme-de-talents.
- Ministère de l'Enseignement Supérieur et de la Recherche 2022

Charte de développement responsable des neurotechnologies, https://www.enseignementsup-recherche.gouv.fr/fr/charte-de-developpement-responsable-des-neurotechnologies-87964.

- UNESCO 2023, Commission nationale française d'évaluation de l'impact éthique des neurotechnologies, brochure_neurotechnologies_26_09_1_.pdf (delegfrance.org)

## 6.2 Articles/Rapports publiés dans des revues scientifiques et sites internet référencés

Alharbi A (2023) Identifying Thematics in a Brain-Computer Interface Research, Computational Intelligence and Neuroscience, https://doi.org/10.1155/2023/2793211.

Al-Nafjan A et al. (2017) Review and classification of emotion recognition based on EEG brain-computer interface system research: a systematic review,"
Applied Sciences, 7, 1239-45.

Antal A et al. (2022) Non-invasive brain stimulation and neuroenhancement. Clin Neurophysiol Pract. 25, 146-165, doi: 10.1016/j.cnp.2022.05.002.

Arns M, et al. (2020) Neurofeedback and Attention-Deficit/Hyperactivity-Disorder (ADHD) in Children: Rating the Evidence and Proposed Guidelines. Appl Psychophysiol Biofeedback. 45, 39-48, doi: 10.1007/s10484-020-09455-2.

Arsalan A, Majid M (2022) A study on multi-class anxiety detection using wearable EEG headband. J Ambient Intell Human Comput 13, 5739-5749, https://doi.org/10.1007/s12652-021-03249-y.

Asselborn T, Chapatte M, Dillenbourg P (2020) Extending the spectrum of dysgraphia: A data driven strategy to estimate handwriting quality. Scientific Reports, 10, 3140, https://doi.org/10.1038/s41598-020-60011-8.

Bartl G, Allen P, Sandrini M. (2023) Left prefrontal tdcs during learning does not enhance subsequent verbal episodic memory in young adults: results from two double blind and sham-controlled experiments. Brain Sci. 13, 241, doi.org/10.3390/brainsci13020241.

Batail JM et al. (2019) EEG neurofeedback research: A fertile ground for psychiatry? Encephale. 45, 245-255, doi: 10.1016/j.encep.2019.02.001.

Bevilacqua D et al. (2019) Brain-to-Brain Synchrony and Learning Outcomes Vary by Student-Teacher Dynamics: Evidence from a Real-world Classroom Electroencephalography Study. J Cogn Neurosci, 31, 401-411, doi: https://doi.org/10.1162/jocn_a_01274.
Bonnin G, Boyer A (2015), Apport des Learning Analytics. Administration & éducation, Association Française des Acteurs de l'Éducation, 10.3917/admed.146.0125, hal-01259230v2

Bousquet-Bérard C (2024) « Enfants et écrans. À la recherche du temps perdu »
Rapport au Président de la République,
[www.vie-publique.fr/rapport/293978-exposition-des-enfants-aux-ecrans-rapport-au-president-de-la-republique](www.vie-publique.fr/rapport/293978-exposition-des-enfants-aux-ecrans-rapport-au-president-de-la-republique).

Canal FZ et al. (2022) Survey on facial emotion recognition techniques: A state-of-the-art literature review, Information Sciences, 582, 593-617.

Coghill D et al. (2023) The management of ADHD in children and adolescents: bringing evidence to the clinic: perspective from the European ADHD Guidelines Group (EAGG). Eur Child Adolesc Psychiatry. 32, 1337-1361, doi: 10.1007/s00787-021-01871-x.

Dikker S et al. (2020) Morning brain: real-world neural evidence that high school class times matter. Soc Cogn Affect Neurosci. 15, 1193-1202, doi: 10.1093/scan/nsaa142.

Dikker S et al. (2017) Brain-to-brain synchrony tracks real-world dynamic group interactions in the classroom. Curr Biol. 27, 1375-1380, doi: 10.1016/j.cub.2017.04.002.

Finisguerra A, Borgatti R, Urgesi C (2019) Non-invasive brain stimulation for the rehabilitation of children and adolescents with neurodevelopmental disorders: a systematic review. Front Psychol. 10, 135, doi: 10.3389/fpsyg.2019.00135.

Fontanillo Lopez C et al. (2020) Beyond technologies of electroencephalography-based brain-computer interfaces: a systematic review from commercial and ethical aspects, Frontiers in Neuroscience, 14, ID 611130.

García-Monge, A. et al. (2023) Potentialities and limitations of the use of EEG devices in educational contexts. Comunicar, 76, doi.org/10.3916/C76-2023-04.

GMI (2022) AI in Education market size & share, growth forecast 2022-2030. Global Market Insights Inc, https://www.gminsights.com/industry-analysis/artificial-intelligence-ai-in-education-market.

Gottschalk F (2019) Impacts of technology use on children: Exploring literature on the brain, cognition and well-being, Documents de travail de l'OCDE sur l'éducation, n° 195, Éditions OCDE, Paris, https://doi.org/10.1787/8296464e-en.

Grammer JK, et al. (2021) Effects of context on the neural correlates of attention in a college classroom. npj Sci. Learn. 6, 15, https://doi.org/10.1038/s41539-021-00094-8.
Grudpan S et al. (2022) Towards transforming game premise: validating an approach for developing cooperative serious games: an approach for developing cooperative serious games. Int. J. Ser. Games 9, 43–61, doi: 10.17083/ijsg.v9i3.502.

Guarini P et al. (2022) Applying gamification in learning processes: good practices and recommendations about how serious games can enhance students’ learning skills. Roma: Giornale Italiano di Educazione alla Salute, Sport e Didattica Inclusiva.

Habich A et al. (2020) No effect of anodal tdcs on verbal episodic memory performance and neurotransmitter levels in young and elderly participants. Neural Plast 22, 8896791, doi: 10.1155/2020/8896791.

Hasslinger J, Jonsson U, Bölte S (2022) Immediate and sustained effects of neurofeedback and working memory training on cognitive functions in children and adolescents with adhd: a multi-arm pragmatic randomized controlled trial. J Atten Disord. 26, 1492-1506, doi: 10.1177/10870547211063645.

Haute Autorité de Santé HAS (2020) Troubles du neurodéveloppement - Repérage et orientation des enfants à risqué, https://www.has-sante.fr/upload/docs/application/pdf/2020-.

Haute Autorité de Santé HAS (2024) Diagnostic et interventions thérapeutiques auprès des enfants et adolescents, https://www.has-sante.fr/jcms/p_3302482/fr/trouble-du-neurodeveloppement/-tdah-diagnostic-et-interventions-therapeutiques-aupres-des-enfants-et-adolescents.

Holmes W et al. (2022) Artificial intelligence and education: A critical view through the lens of human rights, democracy and the rule of law, Council of Europe, https://rm.coe.int/artificial-intelligence-and-education-a-critical-view-through-the-lens/1680a886bd.

Holmes W (2022) Ethics of AI in Education: Towards a Community-Wide Framework
International Journal of Artificial Intelligence in Education, 32, 504–526, https://doi.org/10.1007/s40593-021-00239-1.

Holmes W, Tuomi, I (2022) State of the art and practice in AI in education. European Journal of Education, n/a(n/a), https://doi.org/10.1111/ejed.12533.

Ienca M (2021/2023) On neurorights. Frontiers in Human Neuroscience, 15, doi.org/10.3389/fnhum.2021.701258.

Ienca M (2021) Défis communs en matière de droits de l'homme soulevés par les différentes applications des neurotechnologies dans le domaine biomedical
Conseil de Bioéthique du Conseil de l'Europe, https://rm.coe.int/report-final-fr/1680a43841.
Ienca M et al. (2022) Towards a governance framework for brain data. Neuroethics 15(2), doi: 10.1007/s12152-022-09498-8.

Ienca M, Andorno R (2017a) A new category of human rights: neurorights. Retrieved from http://blogs.biomedcentral.com/bmcblog/2017/04/26/new-category-human-rights-neurorights/.

Ienca M, Andorno R (2017b). Towards new human rights in the age of neuroscience and neurotechnology. Life Sciences, Society and Policy, 13, 5, doi: 10.1186/s40504-017-0050-1.

Jwa AS, Goodman JS, Glover GH. (2023) Inconsistencies in mapping current distribution in transcranial direct current stimulation. Front Neuroimaging. 16, 1069500, doi: 10.3389/fnimg.2022.1069500.

Kalokairinou L, Specker Sullivan L, Wexler A (2021) Neurofeedback as placebo: a case of unintentional deception? J Med Ethics. 48, 1037-1042, doi: 10.1136/medethics-2021-107435.

Kosmyna N et al. (2019) An EEG-Based Closed-Loop Biofeedback System for Real-Time Monitoring and Improvement of Engagement for Personalized Learning. Sensors (Basel) 19, 5200, doi: 10.3390/s19235200.

Knox J (2022) The Metaverse or the Serious Business of Tech Frontiers. Postdigital Science and Education 4, 207-215, https://doi.org/10.1007/s42438-022-00300-9.

Labarthe H et al. (2018) Analyzing the relationships between learning analytics, educational data mining and AI for education.

In Guin, N. & Kumar, A. (Eds.), ITS 2018 Workshop Proceedings (pp. 63-71).

Lefaucheur JP et al. (2017) Evidence-based guidelines on the therapeutic use of transcranial direct current stimulation (tDCS). Clin Neurophysiol. 128, 56-92, doi: 10.1016/j.clinph.2016.10.087.

Lodewyk K et al. (2024) Adverse event monitoring and reporting in pediatric neuromodulatory studies: A systematic review. J Psychiatr Res. 175, 359-367, doi: 10.1016/j.jpsychires.2024.05.035.

Loriette, C. et al. (2021) Neurofeedback for cognitive enhancement and intervention and brain plasticity. Revue Neurologique, 177, 1133-1144

Lundy L. et al. (2019) Two clicks forward and one click back: report on children with disabilities in the digital environment, Council of Europe, available at, https://rm.coe.int/two-clicks-forward-and-one-click-back-report-on-children-with-disabili/168098bd0f.
Marín-Morales JC et al. (2020) Emotion Recognition in Immersive Virtual Reality: From Statistics to Affective Computing. Sensors, 20, 5163.

Miao F, Holmes W (2021) UNESCO: IA et Education, Guide pour les décideurs politiques, https://www.unesco.org/gem-report/fr/technology.

Molenaar I (2022) Towards hybrid human-AI educational scenarios, European Journal of Education, 57(4).

Nagappan A, Kalokairinou L, Wexler A (2021) Ethical and Legal Considerations of Alternative Neurotherapies. AJOB Neurosci. 12, 257-269, doi:10.1080/21507740.2021.1896601.

Neurofeedback Collaborative Group NCG (2021) Double-blind placebo-controlled randomized clinical trial of neurofeedback for attention-deficit/hyperactivity disorder with 13-month follow-up. J Am Acad Child Adolesc Psychiatry. 60, 841-855, doi: 10.1016/j.jaac.2020.07.906.

Neurofeedback Collaborative Group NCG (2023) Neurofeedback for attention-deficit/hyperactivity disorder: 25-month follow-up of double-blind randomized controlled trial. J Am Acad Child Adolesc Psychiatry. 62, 435-446, doi: 10.1016/j.jaac.2022.07.862.

O'Sullivan S et al (2022) Neurotechnologies et Droits de l'Homme : avons-nous besoin de nouveaux droits ? Conseil de l'Europe & OCDE, https://rm.coe.int/round-table-report-fr/1680a969ee.

Peconio G et al. (2022) Educational and didactic use of serious games: applications in contemporary social life settings. Rome: Giornale Italiano di Educazione alla Salute, Sport e Didattica Inclusiva.

Porayska-Pomsta K et al. (2018) Blending human and artificial intelligence to support autistic children's social communication skills, ACM Transactions on Computer-Human Interaction (TOCHI), 25, 1-35.

Purper-Ouakil D et al. (2021) Personalized at-home neurofeedback compared to long-acting methylphenidate in children with ADHD: NEWROFEED, a European randomized noninferiority trial. J Child Psychol Psychiatry. 63, 187-198, doi: 10.1111/jcpp.13462.

Ragni B et al. (2023) The use of Digital Game-Based Learning (DGBL) in teachers' training: a scoping review, Front. Educ., 8, https://doi.org/10.3389/feduc.2023.1092022.

Ramírez-Moreno MA (2021) EEG-Based Tool for Prediction of University Students' Cognitive Performance in the Classroom. Brain Sci. 11, 698, doi: 10.3390/brainsci11060698.

Refaat El Said G (2023) Metaverse-based learning opportunities and challenges: a phenomenological metaverse human-computer interaction study
Electronics 2023, 12, 1379, https://doi.org/10.3390/electronics12061379.

Ryckmans, G (2023) La Chine utilise-t-elle l'intelligence artificielle pour contrôler le cerveau des élèves ? RTBF https://www.rtbf.be/article/la-chine-utilise-t-elle-l-intelligence-artificielle-pour-controler-le-cerveau-des-eleves-11198746.

Salehinejad MA et al. (2022) A systematic review of randomized controlled trials on efficacy and safety of transcranial direct current stimulation in major neurodevelopmental disorders: ADHD, autism, and dyslexia. Brain Behav. 12:e2724, doi: 10.1002/brb3.2724.

Schuijer JW et al. (2017) Transcranial electrical stimulation to enhance cognitive performance of healthy minors: a complex governance challenge.
Frontiers in Human Neuroscience, 11, 1–15, https://doi.org/10.3389/fnhum.2017.00142.

Selwyn N (2019) Should robots replace teachers?: AI and the future of education.
John Wiley Press

Sperling K et al. (2022) Still waiting for the automation of teaching: An exploration of machine learning in Swedish primary education using Actor-Network Theory, European Journal of Education 57, 584-600.

Tan SHJ et al. (2023) Is neuroimaging ready for the classroom? A systematic review of hyperscanning studies in learning. Neuroimage. 281:120367, doi: 10.1016/j.neuroimage.2023.120367. Epub 2023 Sep 7. PMID: 37689175.

Tang H et al. (2023) An EEG study on college students’ attention levels in a blended computer science class. Innovations in Education and Teaching International, 1–13, https://doi.org/10.1080/14703297.2023.2166562.

Tuomi I (2022) Artificial intelligence, 21st century competences, and socio-emotional learning in education: More than high-risk? European Journal of Education 57, 601-619.

Van Doren J et al. (2019) Sustained effects of neurofeedback in ADHD: a systematic review and meta-analysis. Eur Child Adolesc Psychiatry. 28, 293-305, doi: 10.1007/s00787-018-1121-4.

Vekety et al. (2022) Improved cognitive functioning of elementary school children: an exploratory pilot study. Brain Sci., 12, 103, doi: 10.3390/brainsci12010103.

Vidal C (2022) Neurotechnologies under the Eye of Bioethics.
Eneuro, 9, ENEURO-0072, doi: https://doi.org/10.1523/ENEURO.0072-22.2022.

Vuorikari R, HolmesW (2022) Citizens interacting with ai systems, publications office of the European Union, https://data.europa.eu/doi/10.2760/115376.
Wegemer C (2019) Brain-computer interfaces and education: the state of technology and imperatives for the future

International Journal of Learning Technology, doi: 10.1504/IJLT.2019.101848.

Westwood SJ et al. (2021) Transcranial direct current stimulation (tDCS) combined with cognitive training in adolescent boys with ADHD: a double blind, randomised, sham-controlled trial. Psychol Med. 6, 1-16, doi: 10.1017/S0033291721001859.

Wexler A, Thibault R (2019) Mind Reading or misleading? Assessing direct-to-consumer electroencephalography (EEG) devices marketed for wellness and their ethical and regulatory implications. Journal of Cognitive Enhancement 3, 131-137.

Wexler A et al. (2020) Neuroenhancement for sale: assessing the website claims of neurofeedback providers in the United States. J Cogn Enhanc. 4, 379-388, doi: 10.1007/s41465-020-00170-8.

Williamson B (2019) Brain data: scanning, scraping and sculpting the plastic learning brain through neurotechnology. Postdigit Sci Educ 1, 65-86, https://doi.org/10.1007/s41465-020-00170-8.

Williamson B (2023) En classe, l'IA doit rester à sa place

Courrier de l'Unesco : L'école à l'heure de l'intelligence artificielle,

https://unesdoc.unesco.org/ark:/48223/pf0000387029/PDF/387029fre.pdf multi.

Williamson B et al (2024) Digitalisation of Education in the Era of Algorithms, Automation and Artificial Intelligence, https://doi.org/10.4324/9781003359722.

Wolraich ML et al. (2019) AAP subcommittee on children and adolescents with attention-deficit/hyperactive disorder. Guideline for the diagnosis, evaluation, and treatment of attention-deficit/hyperactivity disorder in children and adolescents. Pediatrics. 144:e20192528.

Xu K et al. (2022) EEG data quality in real-world settings: examining neural correlates of attention in school-aged children.

Mind Brain Educ, 16, 221-227, doi: 10.1111/mbe.12314.

Xu J, Zhong B (2018) Review on portable EEG technology in educational research

Computers in Human Behavior, 81, 340-349

Yuste R, Genser J, Herrmann S (2021) It's time for neuro-rights. Horizons: Journal of International Relations and Sustainable Development, 18, 154-165.

Yuste R et al. (2017) Four ethical priorities for neurotechnologies and AI. Nature News, 551, 59.
<figure><img src="image_5.png" /></figure>

Inserm