# La formation à l'éthique du numérique dans l'enseignement supérieur (ingénierie et filières scientifiques) entre injonctions politiques et pratiques de terrain à l'heure de la crise écologique et de l'essor de l'intelligence artificielle. Quelles pistes d'évolution pour les formations ?

Léa Rogliano

## ► To cite this version:

Léa Rogliano. La formation à l'éthique du numérique dans l'enseignement supérieur (ingénierie et filières scientifiques) entre injonctions politiques et pratiques de terrain à l'heure de la crise écologique et de l'essor de l'intelligence artificielle. Quelles pistes d'évolution pour les formations ?: Une enquête de terrain menée en France dans le cadre d'un stage au CNPEN (Comité national pilote d'éthique du numérique). Sciences de l'Homme et Société. 2022. hal-03925832

HAL Id: hal-03925832

https://inria.hal.science/hal-03925832

Submitted on 5 Jan 2023

HAL is a multi-disciplinary open access archive for the deposit and dissemination of scientific research documents, whether they are published or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d'enseignement et de recherche français ou étrangers, des laboratoires publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
Mémoire présenté en vue de l'obtention du grade de Master 2.
Master en éthique
Finalité en Droit et médias

La formation à l'éthique du numérique
dans l'enseignement supérieur (ingénierie et filières scientifiques) entre injonctions
politiques et pratiques de terrain à l'heure de la crise écologique
et de l'essor de l'intelligence artificielle.
Quelles pistes d'évolution pour les formations ?

Une enquête de terrain menée en France dans le cadre d'un stage au CNPEN
(Comité national pilote d'éthique du numérique).

Léa ROGLIANO

Sous la direction de : Thomas BERNS

Lecteur/trice.s : Marie-Geneviève Pinsart, Tyler Reigeluth.

Année académique 2021-2022
Remerciements

Je tiens à remercier mon directeur de mémoire, Thomas Berns,
pour sa disponibilité, ses éclairages toujours francs et bienveillants,
et le désir d'approcher la philosophie,

Je tiens à remercier mes maîtres de stage, Catherine Tessier et
Claude Kirchner, pour leur disponibilité sans faille et leur
accompagnement qui m'ont formée au-delà de mes espérances.
Merci à Catherine Tessier pour sa rigueur au reflet d'une exigence
scientifique qui restera pour moi un modèle,

Je tiens à remercier toutes les personnes auditionnées qui m'ont
généreusement donné de leur temps pour répondre à mes questions
et de leur énergie pour relire les auditions et les annoter,

Je tiens à remercier, Jérôme Huon de Kermadec,
facilitateur de destin,

Je dédie ce travail à ma fille, Tara Millot, pour lui signifier le
bonheur que m'inspire sa génération, et lui transmettre l'espoir que
la découverte de l'éthique a généré en moi, en espérant qu'il dépasse
un plaisir intellectuel pour les années dans lesquelles elle vivra,

Je tiens à remercier avec amour mes proches qui m'ont tant
aidée en gardant ma fille, en me soutenant à toutes les étapes, en
relisant cet écrit, Paul Millot, Sylvie Mélis, Lionel Millot,
Martine Massias-Millot et Coralie Guaveia

Je tiens à remercier ceux et celles qui m'ont hébergée à Paris
pendant mon stage, Caroline et Franck Le breton, et Marion Collet.
## Note préliminaire sur l'écriture inclusive.

Ce mémoire se conforme au « Décret relatif au renforcement de la féminisation des noms de métier, fonction, grade ou titre et aux bonnes pratiques non discriminatoires quant au genre dans le cadre des communications officielles ou formelles » de la Communauté française de Belgique, entré en vigueur le 1er janvier 2022, qui inclut les documents de recherche dans ses cibles d'application. Ainsi, les noms de métiers, de fonction, de grade ou titre seront féminisés. Nous tenons particulièrement à cette féminisation des termes de métiers, de grade ou titre dans le cadre de notre mémoire, car les femmes sont sous-représentées dans les filières d'ingénierie et d'informatique. Comme nous le confiait une des personnes interrogées durant notre stage, la sous-représentation des femmes dans les métiers de l'informatique entraîne des problématiques éthiques, notamment par la création de biais dans les algorithmiques.

Ainsi, comme le sous-entend le décret, pour renvoyer à des ensembles qui comportent des hommes et des femmes, nous favorisons l'emploi de doubles formules abrégées pour gagner de l'espace et du confort de lecture plutôt que des formules doubles, juxtaposant le féminin et le masculin. Nous privilégions les termes épicènes, les termes collectifs et les formes passives, qui neutralisent l'opposition de genre. Les catégories de métiers scientifiques que nous mettons en avant étant aujourd'hui très fortement masculinisées, il nous semble que la mise en avant des formules doubles soient le plus à même de participer à l'évolution des représentations genrées<fnref n="1" />.

<footnote n="1">¹ L'article 2 du décret stipule : « *Le recours, pour des raisons d'économie, d'allègement ou de lisibilité, à l'acceptation générique de la forme masculine est de préférence réservé à la désignation des ensembles mixtes lorsque le caractère mixte de ces ensembles est préalablement établi de manière claire par le contexte, le texte ou le discours.* »</footnote>
# Chapitre II : Analyse et synthèse des auditions menées pendant le stage

A) L'importance du souci éthique selon les types d'établissements p. 30

B) Éthique et éthique du numérique dans les formations p. 31

C) Trois approches de l'enseignement d'éthique du numérique p. 33

D) Visées des cours selon les enseignants p. 33

E) Quatre plans de cours d'éthique du numérique p. 35

F) Pédagogies comparées p. 43

1. La part de la théorie et de la pratique p. 43

2. Connaissances / Compétences p. 44

3. La place de la philosophie p. 46

4. La question de l'adresse du public visé p. 47

5. Outils pédagogiques p. 48

G) La fronde des ingénieurs p. 48

H) L'orientation philosophico-politique des formations p. 49

I) La formation idéale à l'éthique du numérique selon les personnes auditionnées p. 51

J) L'éducation à l'éthique peut-elle être considérée comme contribuant à une innovation européenne ? p. 53

# QUATRIÈME PARTIE : LA PENSÉE ÉTHIQUE AU CARREFOUR DE L'ESSOR DES TECHNIQUES DE TRAITEMENT AUTOMATISÉ DE L'INFORMATION ET DE LA CRISE ENVIRONNEMENTALE. QUELLES CONSÉQUENCES POUR LA FORMATION À L'ÉTHIQUE DU NUMÉRIQUE DANS L'ENSEIGNEMENT SUPÉRIEUR ?

# Chapitre I : Les valeurs et les principes éthiques

A) La remise en question des valeurs éthiques héritées de la bioéthique p. 55

1. Le principe de bienfaisance p. 55

2. Le principe d'autonomie p. 58

3. La dignité humaine p. 64

B) Les principes propres à l'éthique du numérique et à l'éthique de l'IA p. 67

C) Exemple appliqué : Implémenter des valeurs éthiques dans un algorithme de reconnaissance faciale p. 71

1. Présentation du cas d'étude p. 72

2. À quels moments peut intervenir la valeur d'équité dans un processus de programmation en apprentissage machine ? p. 72

3. Que retenir de ce cas d'étude pour l'enseignement de l'éthique du numérique ? p. 76

a) Valeurs et principes : des concepts à éclairer dans le domaine de l'éthique de l'IA p. 76

b) Formuler des exigences opérationnelles p. 77

c) Identifier les parties prenantes p. 78
<table><tr><td>d) Recenser les valeurs</td><td>p. 79</td></tr><tr><td>e) Relation entre les valeurs</td><td>p. 80</td></tr><tr><td>4. Conclusion</td><td>p. 81</td></tr></table>

## Chapitre II : La place du corps et des émotions dans la pratique éthique à l'heure de la digitalisation des activités humaines et de la crise écologique

<table><tr><td>A) La rationalité en question</td><td>p. 84</td></tr><tr><td>B) Le corps médié</td><td>p. 87</td></tr><tr><td>C) La place du corps dans l'enseignement de l'éthique</td><td>p. 92</td></tr><tr><td>D) Exemples d'exercices pouvant être utilisés pour l'intégration de l'émotion, de la sensation et du corps dans l'enseignement de l'éthique du numérique</td><td>p. 94</td></tr></table>

## CINQUIÈME PARTIE : CONCLUSION ET RECOMMANDATIONS POUR L'AMÉLIORATION DES FORMATIONS À L'ÉTHIQUE DU NUMÉRIQUE.

<table><tr><td>A) Conclusion</td><td>p. 97</td></tr><tr><td>B) Sept recommandations pour la formation à l'éthique du numérique</td><td>p. 98</td></tr></table>

1. Pour la création d'une formation qualifiante pilote de pointe pluridisciplinaire en éthique de l'IA p. 98

2. Regrouper les professionnel·les du secteur pour penser les notions de compétences et de connaissances dans le cadre de la formation à l'éthique du numérique à destination des ingénieur·e·s et étudiant·e·s en informatique p. 99

3. Rendre une formation conséquente en éthique du numérique obligatoire pour les ingénieur·e·s et les étudiant·e·s en informatique p.100

4. Développer les recherches en éthique qui intègrent le non-humain et voir comment les transposer dans les formations à l'éthique du numérique dans une visée de soutenabilité environnementale p.100

5. Recenser et développer les recherches liant formation à l'éthique du numérique et soutenabilité environnementale. Favoriser les recherches intégrant des consultations avec des acteur·trice·s de terrain et des associations étudiantes afin de parvenir à la diffusion d'outils pédagogiques adaptés et concertés p.101

6. Développer des pédagogies intégrant le corps et les émotions dans l'enseignement de l'éthique p.102

7. Promouvoir l'enseignement de l'éthique du numérique en groupe et en présentiel (pour autant que le contexte sanitaire l'autorise) et instituer ce type d'enseignement comme le seul pouvant donner accès à une qualification en éthique p.102

<table><tr><td>Bibliographie</td><td>p.103</td></tr></table>
Deuxième volume : Volume d'annexes

<table><tr><td>Audition de Raja CHATILA</td><td>3</td></tr><tr><td>Audition de Christelle DIDIER</td><td>7</td></tr><tr><td>Audition de Gilles DOWEK</td><td>15</td></tr><tr><td>Audition de Yann FERGUSON</td><td>19</td></tr><tr><td>Document complémentaire : Grille éthico-technique</td><td>27</td></tr><tr><td>Audition d'Éric FOURNERET</td><td>29</td></tr><tr><td>Audition de Christine FROIDEVAUX</td><td>34</td></tr><tr><td>Audition d'Alexeï GRINBAUM</td><td>39</td></tr><tr><td>Audition de Mélanie GORNET</td><td>44</td></tr><tr><td>Audition de Thierry MÉNISSIER</td><td>48</td></tr><tr><td>Audition de Catherine TESSIER</td><td>52</td></tr></table>
INTRODUCTION

« En 1994-1995, nous étions deux à Lille à nous intéresser à l'éthique chez les ingénieurs. En France, je pense qu'il n'y avait personne d'autre qui associait le mot éthique et le mot ingénieur.<fnref n="2" />», voici ce que déclarait Christelle Didier, grande spécialiste de l'éthique de l'ingénierie en France, lors de l'audition que nous avons menée le 31 mars 2022. Aujourd'hui, dix-huit ans plus tard, l'association des deux mots est en passe de devenir un lieu commun.

Le mot « éthique » est abondamment utilisé dans les textes européens pour faire la promotion d'une intelligence artificielle « digne de confiance »<fnref n="3" />, que l'Union souhaite développer à la suite du RGPD adopté en 2016. Dans cet élan, en 2017, le député Cédric Villani appelait dans son rapport intitulé « Donner un sens à l'intelligence artificielle », réalisé à la demande du Premier ministre français, à « intégrer l'éthique dans la formation des ingénieurs et des chercheurs en IA »<fnref n="4" />. Cinq ans plus tard, la demande faite dans le rapport Villani semble porter ses fruits en France. Une quantité toujours plus importante d'écoles d'ingénieurs et d'universités en sciences proposent des cours d'éthique à leurs étudiant·e·s. La tendance est identique en Belgique.

Dans le cadre de ce master, nous avons eu la chance de faire un stage sur plusieurs mois au CNPEN<fnref n="5" />, le nouveau comité d'éthique du numérique français, créé en 2019, et en passe d'être entériné comme organe autonome. En discussion avec Catherine Tessier et Claude Kirchner (notre maitresse et notre maitre de stage), et en vertu de nos intérêts communs, il nous a été suggéré de travailler sur la formation à l'éthique du numérique des futur·e·s ingénieur·e·s dans le but de produire une liste de recommandations visant à améliorer les formations existantes, ce que nous ferons en conclusion de ce mémoire. Pour ce faire, nous avons mené une enquête de terrain composée d'une série de dix auditions majoritairement avec des enseignant·e·s en éthique d'écoles d'ingénieurs, ainsi qu'un expert en éducation et une étudiante en ingénierie. Nous nous sommes appuyée sur les expériences des enseignant·e·s et sur leur rôle d'intermédiaires entre les injonctions institutionnelles et les retours de terrain émanant des étudiant·e·s. Nous avons découvert à leur contact une diversité d'approches et une très forte inventivité du champ de l'enseignement de l'éthique du numérique.

Cette enquête de terrain nous a propulsée dans une recherche bien plus importante et formatrice que nous ne l'avions imaginée. En effet, elle sous-entendait l'articulation de domaines qui nous étaient majoritairement inconnus ; celui de l'éthique du numérique, celui de l'ingénierie et celui de la pédagogie de l'éthique.

<footnote n="2">² Audition de C. Didier, volume d'annexes du mémoire, p. 11.</footnote>

<footnote n="3">³ Groupe d'experts indépendants de haut niveau sur l'intelligence artificielle (GEHN IA), « Lignes directrices en matière d'éthique pour une IA digne de confiance », le 8 avril 2019, p. 4.</footnote>

<footnote n="4">⁴C. Villani, (mars 2018), « Donner un sens à l'intelligence artificielle. Pour une stratégie nationale européenne. », mission confiée par le Premier ministre français Édouard Philippe, mission parlementaire du 8 septembre 2017 au 8 mars 2018, p. 146.</footnote>

<footnote n="5">⁵ Comité national pilote d'éthique du numérique (français).</footnote>
Pour construire notre réflexion, nous avons été obligée d'avancer avec un grand nombre de flous inhérents à une discipline émergente. Par exemple, comment réfléchir à l'amélioration des formations à l'éthique du numérique sans préalablement définir ce qu'elle est. Or la définition de cette discipline est en construction. Le CNPEN, fondé il y a à peine trois ans, (alors que le CCNE<fnref n="6" /> existe depuis bientôt quarante ans) propose justement de caractériser, sans toutefois la circonscrire, l'éthique du numérique dans son premier ouvrage paru début 2022, intitulé *Pour une éthique du numérique*.<fnref n="7" /> Nous savons que la définition proposée par le comité a fait l'objet d'âpres discussions. Une des premières difficultés rencontrée dans ce mémoire, mais qui a constitué pour nous son intérêt, est la nouveauté de son champ d'étude.

L'éthique du numérique et/ou de l'IA<fnref n="8" /> est un champ de recherche extrêmement prolixe mais sur le terrain de l'éducation, la littérature francophone commence à peine à s'écrire. Nous voyons des publications importantes paraître depuis le début de l'année 2021, et savons que d'autres sont en préparation. Notons par exemple la sortie du premier référentiel de compétence proposé par une chercheuse et deux chercheurs québécois intitulé : « Former à l'éthique de l'intelligence artificielle en enseignement supérieur »<fnref n="9" /> sorti en février 2022. En Belgique, un atelier intitulé « AI Ethics in Belgian Higher Education (Engineering and Computer Sciences) », qui doit donner lieu à un rapport, a été annoncé et devrait être mis en place prochainement par FARI, AI Institute for the Commun Good. Un ouvrage intitulé *Éthique de la communication et de l'information. Une initiation philosophique en contexte technologique avancé*<fnref n="10" /> a été publié en 2021 par Thomas Berns et Tyler Reigeluth dans le prolongement de leur cours d'éthique de l'information et de la communication dispensé à l'ULB à destination de filières de SHS. Cet ouvrage propose une interprétation des enjeux de l'éthique du numérique sous l'angle de la communication et de l'information en lien avec les enjeux du calcul algorithmique. En France, Thierry Ménissier, qui dirige la chaire « éthique et IA », prépare également une publication autour de ses enseignements sur l'éthique de l'IA.

La littérature existante sur l'enseignement de l'éthique de numérique et/ou de l'IA est donc réduite, d'autant que nous nous sommes principalement intéressée à la France et à la Belgique. Cependant, une littérature plus fournie existe concernant la formation à l'éthique de l'ingénierie. Notons le travail de Christelle Didier, qui fait référence en la matière, avec entre autre son essai *Penser l'éthique des ingénieurs*<fnref n="11" /> en 2008, et les nombreux articles qu'elle a publiés à ce sujet, tel « Quels contenus pour un enseignement en éthique pour de futurs

<footnote n="6">⁶ Comité consultatif national d'éthique (français).</footnote>

<footnote n="7">⁷ CNPEN, *Pour une éthique du numérique*, Coordonné par Éric Germain, Claude Kirchner et Catherine Tessier, P.U.F, 2022.</footnote>

<footnote n="8">⁸ La majorité des textes internationaux encouragent à l'enseignement relatif à l'éthique de l'IA. En attendant que le débat académique soit tranché au sujet des différences ou de la similarité entre l'éthique de l'IA et l'éthique du numérique, nous avons pris le parti de considérer l'éthique de l'IA comme une partie de l'éthique du numérique.</footnote>

<footnote n="9">⁹ F. Bruneault, A. Sabourin-Laflamme, A. Mondoux, « Former à l'éthique de l'IA en enseignement supérieur : référentiel de compétence », [Référentiel de compétence], 2022, https://doi.org/10.31235/osf.io/38tfv</footnote>

<footnote n="10">¹⁰ T. Berns, T. Reigeluth, *Éthique de la communication et de l'information. Une initiation philosophique en contexte technologique avancé*, Bruxelles, Éditions de l'Université de Bruxelles, 2021.</footnote>

<footnote n="11">¹¹ C. Didier, *Penser l'éthique des ingénieurs*, Paris, P.U.F, 2008.</footnote>
ingénieurs ? Bilan après 10 ans d'expérience d'enseignement »<fnref n="12" />. Un autre ouvrage fait référence concernant la formation à l'éthique à destination des ingénieur·e·s. Il s'agit de Quelle éthique pour l'ingénieur ? de Laure Flandrin et Fanny Verrax publié en 2019. Cet ouvrage est d'autant plus important qu'il intègre les enjeux environnementaux et ceux de la responsabilité des ingénieur·e·s dans le cadre des dispositifs sociotechniques. Citons enfin, le manifeste du The Shift Project publié en mars 2022 et intitulé « Former l'ingénieur du XXIᵉ siècle », qui est axé sur les enjeux environnementaux.

La deuxième question que nous devions intégrer à nos réflexions est celle du public cible des formations à l'éthique du numérique. Nos maîtres de stage au CNPEN nous ont confié la mission de nous intéresser aux ingénieur·e·s, ce que nous avons fait dans notre étude de terrain en auditionnant des enseignant·e·s d'écoles d'ingénieurs, mais l'ingénierie convoque des domaines très larges alors que notre domaine d'étude est très spécifique. En outre, s'en tenir aux écoles d'ingénieurs excluait les étudiant·e·s des universités, notamment celles·ceux des filières informatiques, pour lesquels la formation à l'éthique du numérique semble toute indiquée. Par ailleurs, nous avons eu l'occasion d'auditionner Éric Fourneret, qui enseignant l'éthique pour les filières de management, affirme l'intérêt de la discipline pour ses étudiant·e·s, en particulier du fait qu'ils et elles seraient amenés à recruter ou à gérer du personnel à l'aide d'algorithmes. Cette difficulté est aussi une difficulté de fond : à quel point l'éthique du numérique est-elle une discipline transversale ? Quels peuvent être les liens entre une formation à l'éthique du numérique pour de futur·e·s roboticien·ne·s et une formation pour de futur·e·s étudiant·e·s en management ? Lorsque nous parlons d'un enseignement à l'éthique du numérique, l'entendons-nous comme un regroupement d'éthiques professionnelles lié au numérique ou comme l'enseignement d'une branche de l'éthique s'intéressant à un domaine ciblé de l'activité humaine ? Assumant une autre zone d'incertitude, nous avons pris le parti de présenter plusieurs types de formations qui s'adressent à des publics différents en présentant différents plans de cours et des retours d'expériences dans la partie du mémoire consacrée à l'étude de terrain. D'autre part, nous mettons en avant des formations qui pourraient voir le jour pour une catégorie plus restreinte d'étudiant·e·s impliqué·e·s dans les filières informatiques et de l'IA.

Notre troisième point d'intérêt touche à la rencontre des rationalités. Lors de nos auditions, la question de la défiance des ingénieur·e·s envers les disciplines issues des SHS a été développée. Le système éducatif sépare relativement tôt, et hiérarchise les élèves, entre la formation aux sciences dites dures et la formation aux sciences humaines et sociales. Pourtant, de plus en plus de textes, y compris dans les publications institutionnelles, tel le rapport Villani, préconisent de rendre plus poreuse l'approche des rationalités<fnref n="13" /> dans l'enseignement, c'est-à-

<footnote n="12">¹² C. Didier, « Quels contenus pour un enseignement en éthique pour de futurs ingénieurs ? Bilan après 10 ans d'expérience d'enseignement », dans B. Feltz, P. Goujon, B. Hériard Dubreuil, S. Lavelle, W. Lesch, *Éthique, technique et démocratie*, Éditions Academia, 2007, p. 271-287.</footnote>

<footnote n="13">¹³ Voir par exemple à la page 147 du rapport Villani : « À terme, l'objectif est de produire des diplômés qui disposent des compétences techniques nécessaires pour développer des systèmes efficaces et des compétences en sciences sociales pour comprendre l'impact de leurs développements sur la société et ses citoyens. À partir de cette exigence, on peut concevoir différentes maquettes de formation. On peut mettre en place un système de majeure/mineure dans les établissements d'enseignement supérieur, qui permet aux étudiants de choisir une</footnote>
dire l'appréhension du monde via différents types de connaissances, tels que le droit, les sciences, les techniques, l'éthique, la politique, l'économie... Proposer un cours d'éthique auprès d'ingénieur·e·s et d'étudiant·e·s des filières informatiques des universités est donc un espace ouvert à la rencontre entre différentes rationalités, un espace susceptible de déconstruire des visions par trop figées de la vérité. Nous avons sondé les formes possibles de cet espace au travers des témoignages des professionnel·le·s auditionné·e·s et, en nous confrontant nous-mêmes à l'approche détaillée d'un travail liant éthique et technique dans le domaine du machine learning, réalisé par une ingénieure, stagiaire au CNPEN avant nous, Mélanie Gornet. Cette expérience a été très formatrice, et nous a poussée à considérer plutôt qu'une défiance partagée, les difficultés que peuvent éprouver les étudiant·e·s des SHS à approcher un projet informatique très technique. Ainsi, nous intéressons-nous dans ce mémoire à penser la formation à l'éthique du numérique comme un point de rendez-vous nécessitant un effort équivalent du côté des ingénieur·e·s et des éthicien·ne·s (ainsi que les autres branches des SHS) devant *in fine* rendre être capable de collaborer à l'élaboration des technologies « centrées sur l'humain » dans le milieu professionnel.<fnref n="14" />

Enfin, ce mémoire s'inscrit dans un moment très particulier de l'ingénierie qui nous interpelle. Un phénomène inédit de fronde des étudiant·e·s se répand dans les écoles d'ingénieurs. De nombreux articles et ouvrages relatent un mécontentement et un désarroi grandissant quant aux orientations politiques de formations jugées « nocives pour la planète ».<fnref n="15" /> La crise écologique que nous traversons et le contexte difficile dû à la remise en question de notre économie basée majoritairement sur les énergies fossiles, génèrent, en particulier chez les nouvelles générations, une anxiété profonde. Le mot « écoanxiété » va d'ailleurs faire son apparition dans le dictionnaire Le Petit Robert 2023.<fnref n="16" /> La notion de progrès liée à l'avancée des techniques n'est plus un allant de soi, et les ingénieur·e·s les plus soucieux·euses du problème environnemental se trouvent plongé·e·s dans l'incertitude, car si la technique résout des problèmes, elle en crée également.<fnref n="17" /> L'enseignement de l'éthique pourrait-il participer à considérer ces émotions, et ne serait-ce pas de son devoir de le faire, dans la mesure où ces émotions transcrivent un souci existentiel profond et interrogent notre responsabilité morale collective ? Mais quelle éthique pouvons-nous mobiliser ? Quelle éthique pour le numérique au temps de la crise environnementale ?

Des réponses à ce questionnement traversent en filigrane les témoignages réunis dans ce mémoire. Thierry Ménissier dans un article intitulé « Quelle éthique pour l'IA ? »<fnref n="18" /> affirme

<footnote>discipline principale, par exemple l'informatique (majeure) et une discipline secondaire telle que le droit (mineure). »</footnote>

<footnote n="14">¹⁴ Groupe d'experts indépendants de haut niveau sur l'intelligence artificielle (GEHN IA), « Lignes directrices en matière d'éthique pour une IA digne de confiance », le 8 avril 2019, p. 12.</footnote>

<footnote n="15">¹⁵ Des agros qui bifurquent, *Appel à déserter – Remise des diplômes AgroParisTech 2022*, 10 mai 2022, YouTube, https://www.youtube.com/watch?v=SUOVOC2Kd50</footnote>

<footnote n="16">¹⁶ É. Falco, « NFT, Babtou, écoanxiété... Quels mots font leur entrée dans le dictionnaire Le Petit Robert 2023 ? », *Le Journal du Dimanche*, publié le 15 octobre 2022 à 15h37</footnote>

<footnote n="17">¹⁷ Audition de Christelle Didier, volume d'annexes du mémoire, p. 13.</footnote>

<footnote n="18">¹⁸ T. Ménissier, « Quelle éthique pour l'IA ? Naissance et développements de l'intelligence artificielle à Grenoble », [Colloque Académie Delphinale], *Naissance et développement de l'intelligence artificielle*, Grenoble, 10 octobre 2019.</footnote>
que l'essor de l'IA fait « travailler l'éthique sur elle-même ». Mais la crise environnementale convoque elle aussi l'éthique. Ainsi, tentons-nous de participer aux débats en cours afin d'envisager les dynamiques, les lignes de fracture et les tensions générées dans ce mouvement de la pensée éthique sur elle-même au carrefour entre la crise environnementale et l'essor des nouvelles technologies du traitement automatisé de l'information afin de donner corps à une éthique capable de nous aider à tourner notre regard vers le futur.
# PREMIÈRE PARTIE

## Terminologie

Cette partie de terminologie a pour but de donner des éléments de définition des termes que nous développerons au fil du mémoire. Pour certains, cela nous permettra de montrer l'angle que nous poursuivons. Pour d'autres, nous nous arrêterons sur les débats en cours quant à leur définition. Nous n'avons pas la prétention de circonscrire les différents champs que nous allons étudier mais au contraire d'en montrer l'épaisseur. Ainsi, nous nous baserons sur la définition du mot éthique de l'Académie française mettant en avant sa dimension réflexive. Concernant l'éthique du numérique, nous nous baserons sur la définition donnée par le CNPEN en France. Concernant l'éthique de l'IA, nous mettrons différentes approches en avant en nous demandant ce que cette appellation recouvre. En effet, si l'on entend abondamment parler d'éthique de l'IA, en trouver une définition est plus rare. Comment circonscrire le champ de l'éthique de l'IA ? Est-il différent de l'éthique du numérique ou en fait-il simplement partie ? Ces questions ne font pas consensus. Enfin, nous avons remarqué que des catégorisations de l'éthique en sous catégories étaient légion. L'éthique de l'ingénieur a, par exemple, une histoire propre qui peut l'instituer en une catégorie particulière. Les éclairages que nous proposons dans cette partie se verront complétés, discutés, mis en perspective tout au long de ce mémoire.

### A) Éclairages sur la définition du mot « éthique »

Lors de notre stage au CNPEN, la définition de l'Académie française du mot éthique m'a été indiquée comme faisant référence. L'éthique y est définie comme une « Réflexion relative aux conduites humaines et aux valeurs qui les fondent, menée en vue d'établir une doctrine, une science de la morale ». Si l'on accepte cette définition, l'usage de l'adjectif "éthique" est très largement dévoyé dans le langage courant. Ainsi, un projet ou un produit ne peuvent être « éthiques » car ils ne peuvent avoir « rapport aux conduites humaines et aux valeurs qui les fondent ».

La dimension réflexive de l'éthique est centrale dans l'éthique défendue par le CNPEN qui l'a reprise et mise en valeur dans son *Manifeste pour une éthique du numérique*<fnref n="19" /> en définissant l'éthique comme : « *une réflexion continue, évolutive, nourrie par l'histoire de la pensée et liée à une culture. Elle identifie et interroge les valeurs et les normes, met en évidence leurs éventuels conflits, pour éclairer des choix individuels ou collectifs.* »

<footnote n="19">¹⁹ Manifeste pour une éthique du numérique. CNPEN. Avril 2021.</footnote>
## B) Approches différenciées des mots « éthique » et « ethics » dans le monde anglophone et francophone

Pendant notre stage au CNPEN, nous avons eu la chance de côtoyer des membres du comité amenés à interagir au niveau international pour discuter et statuer sur des questions d'éthique du numérique. Deux personnes ont attiré notre attention sur la différence entre l'utilisation du terme "éthique" en français et "ethics" en anglais dans les institutions. L'utilisation anglaise du mot "ethics" permet plus aisément l'inclusion des règles de conduite et des codes déontologiques dans la définition du mot. Pour cette raison, la dimension réflexive mise en avant par le CNPEN tente d'éviter l'écueil qui viserait à réduire l'éthique à une série de normes à respecter.

Un article sémantique intitulé « "Éthique" et "morale" en français, en allemand et en anglais » contredit en partie la définition du Merriam Webster de l'utilisation du mot "ethics"<fnref n="20" /> et la vision des membres du CNPEN, vision que l'on ne peut pourtant pas contester au niveau de l'usage des mots, car étant le fruit d'expériences de terrain. Ainsi, nous profitons de l'occasion en ce début de mémoire pour développer ce point qui montre de façon presque symbolique la difficulté et la richesse du champ de la pensée éthique qui tend toujours vers des définitions impossibles tout en se nourrissant de zones grises fécondes.

Ernst Günther Schumacher, l'auteur de l'article, expose deux acceptions des termes en français et en anglais : l'approche des normes de conduite et la réflexion sur ces normes de conduite. Cependant, il conclut que : « *La réflexion systématique (descriptive et normative) sur les normes/règles de conduite est désignée en allemand par le mot Ethik et en anglais par le mot ethics, et ces deux termes restent normalement réservés à cette utilisation.* Les normes/règles de conduite elles-mêmes sont désignées par des termes tels que Sitten, Moral, ethic (au singulier) ou morals. Dans la sphère francophone, la distinction des deux niveaux d'analyse est moins évidente, donc moins facile, car les termes utilisés pour les deux niveaux peuvent être identiques. [...] La première observation révèle donc une remarquable différence (traditionnelle, mais aussi actuelle) de signification entre « éthique » d'un côté, et de l'autre, « Ethik » et « ethics » : « éthique » désigne plutôt des normes/règles de conduite au niveau individuel, tandis qu'« Ethik » et « ethics » désignent traditionnellement la réflexion systématique sur les normes/règles des individus, mais également de tout un système. »<fnref n="21" />

Nous émettons donc l'hypothèse que le fait que nous n'ayons qu'un terme en français puisse nous obliger à spécifier dans quel sens on l'emploie, et que cette définition de ce que l'on fait quand on fait de l'éthique devienne un terrain de bataille, entre ceux et celles, qui comme au CNPEN, défendent l'éthique comme un processus réflexif et délibératif et les autres, qui

<footnote n="20">²⁰ La définition d"*ethics*" du Merriam-Webster ne stipule pas le sens de l'éthique comme étant une pratique réflexive. De même "*ethical*", dans le sens N°3 « *conforming to accepted standards of conduct - ethical behavior* » n'existe pas en français.</footnote>

<footnote n="21">²¹ E. G. Schumacher, « “Éthique” et “morale” en français, en allemand et en anglais », *Revue du MAUSS*, 2006, vol. n° 28, no. 2, pp. 367-382, repères 32 à 38 de l'article en ligne. https://www.cairn.info/revue-du-mauss-2006-2-page-367.htm</footnote>
l'envisagent dans son sens normatif. Ainsi, notre vigilance par rapport au manquement de notre propre langue pourrait nous pousser à être particulièrement attentifs à la visée dans laquelle l'éthique est décrite dans les textes.

En ce qui concerne l'éthique de l'IA, Alexeï Grinbaum, dans l'audition que nous avons réalisée<fnref n="22" />, explique que les expressions « éthique de l'IA » ou « éthique du numérique » sont surtout relatives au contexte dans lequel elles sont utilisées. Dans le contexte francophone et germanophone, l'appellation éthique du numérique est plus commune. Dans le contexte anglophone, ou le contexte des publications à vocation internationale, le terme « digital ethics » est moins répandu que celui « d'AI ethics ». L'emploi des deux termes est selon lui donc à choisir en fonction de la visée de diffusion des articles.

### C) Éclairages sur la définition de l'« éthique du numérique »

Le Manifeste pour une éthique du numérique du CNPEN développe sa définition de l'éthique du numérique ainsi : « *Un questionnement éthique sur les sciences et les technologies peut se rapporter à des moments singuliers de l'existence humaine comme la procréation ou la mort, mais aussi concerner tout moment du quotidien. C'est le cas de l'éthique du numérique qui interroge en permanence nos valeurs à l'aune de situations inédites d'usage des technologies, avec une dimension radicalement nouvelle d'ubiquité et d'universalité de leurs effets. Ce regard éthique oblige le monde académique et celui de l'entreprise à formuler au fil de l'eau de nouvelles questions de recherche sur le numérique. Il oblige aussi l'ensemble de la société à revoir un corpus de valeurs et de normes qui apparaissent sous un nouveau jour : par exemple la transparence, la liberté de pensée ou le droit au respect de sa vie privée et familiale, de son domicile et de sa correspondance. La portée éminemment politique de l'éthique du numérique doit être soulignée : ces technologies et les modèles économiques qui les portent bouleversent les différents espaces de souveraineté.* »

Si l'on s'en tient à la définition donnée par le CNPEN, l'éthique du numérique est donc un questionnement qui épouse les évolutions des techniques numériques au fur et à mesure qu'elles bouleversent les valeurs et les normes précédemment en vigueur et ce, sur tous les aspects de la vie des sociétés, y compris politique. Cette vision de l'éthique du numérique comme une réflexion dynamique est très importante à souligner afin de la différencier d'une éthique instrumentale, qui a pour objet de valider la conformité des objets à des normes éthiques prédéfinies qui sont en cours d'élaboration au niveau européen pour l'intelligence artificielle.

### D) Éclairages sur la définition de l'« éthique de l'IA »

Le Manifeste pour une éthique du numérique précité explique que : « *le numérique a pour périmètre scientifique et technique, l'informatique, une partie des mathématiques, de la physique et des sciences cognitives ; il inclut la robotique et l'intelligence artificielle.* » Alors pourquoi parler d'éthique de l'IA ?

<footnote n="22">²² Audition d'A. Grinbaum, volume d'annexes du mémoire, p. 42.</footnote>
Comme nous l'avons relevé, il s'agit en partie d'usages culturels différents. Et aussi peut-être d'un effet de mode. L'IA étant un champ en pleine expansion, cristallisant beaucoup d'espoirs et de moyens financiers, le terme « éthique de l'IA » peut apparaître plus percutant pour trouver des fonds que celui d'éthique du numérique. Cependant, au-delà de ces éléments contextuels, existe-t-il des différences entre l'éthique de l'IA et l'éthique du numérique ? Peuvent-ils se recouper dans les mêmes formations ou doivent-ils faire l'objet de formations différentes ?

D'ores et déjà, nous remarquons que si l'on s'en tient à l'appellation « éthique de l'IA », les prochaines grandes innovations technologiques, comme l'informatique quantique, seront exclues, forçant soit à créer une nouvelle sous-catégorie soit à revenir à l'appellation plus générale d'éthique du numérique ou encore comme le propose l'Unesco, l'éthique des sciences et des technologies.

L'éthique de l'IA est d'autant plus difficile à définir que l'IA elle-même ne l'est pas précisément. Pour éclairer la notion d'IA, nous nous appuyons sur la Recommandation de l'Unesco qui, consciente du flou autour de cette notion, affirme ne pas chercher à en donner une définition unique « celle-ci étant appelée à évoluer en fonction des progrès technologiques ». L'Unesco décrit les systèmes d'IA comme « des technologies de traitement des informations qui intègrent des modèles et des algorithmes, lesquels génèrent une capacité d'apprentissage et d'exécution de tâches cognitives conduisant à des résultats tels que l'anticipation et la prise de décision dans des environnements matériels et virtuels » et pointe deux branches de cette technologie : « l'apprentissage automatique (l'apprentissage profond et l'apprentissage par renforcement) et le raisonnement automatique (la planification, la programmation, la représentation des connaissances et le raisonnement, et la recherche et l'optimisation). »<fnref n="23" />

De la même manière, l'Unesco ne cherche pas à définir ce qu'est l'éthique de l'IA et affirme son approche comme étant « une réflexion normative systématique, basée sur un cadre global, détaillé, multiculturel et évolutif de valeurs, de principes et d'actions interdépendants de nature à orienter les sociétés pour qu'elles apportent des réponses responsables aux conséquences connues et inconnues des impacts des technologies de l'IA sur les êtres humains, les sociétés, l'environnement et les écosystèmes, et leur offre une base pour accepter ou rejeter les technologies de l'IA. Elle considère l'éthique comme une base dynamique pour l'évaluation et l'orientation normatives des technologies de l'IA, en faisant de la dignité humaine, du bien-être et de la prévention des dommages des repères et en s'appuyant sur l'éthique des sciences et des technologies. »<fnref n="24" />

Ce travail de clarification de l'Unesco semble fondamental à deux titres. Premièrement, il a le mérite de faire référence au niveau mondial, et d'autre part, il se tire avec brio d'une

<footnote n="23">²³ Rapport de la commission sciences sociales et humaines (SHS), 41 C/73, Conférence générale de l'UNESCO, 41ᵉ session, Paris 2021, Annexe – page 4.</footnote>

<footnote n="24">²⁴ *Ibid*., Annexe – page 4.</footnote>
difficulté épistémologique en prenant note des flous existants tout en affirmant son approche à la fois de l'éthique et de l'éthique de l'IA et en y exposant clairement ses visées.

Nous aimerions enfin évoquer l'apport de Thierry Ménissier dans ce domaine afin de montrer que les débats sur ce sujet sont nourris et dynamiques également dans le milieu universitaire. Dans son article « Quelle éthique pour l'IA ? »<fnref n="25" /> publié en 2019, le philosophe et responsable de la chaire éthique & IA de l'institut multidisciplinaire en intelligence artificielle de Grenoble MIAI, pointe que la définition de l'éthique de l'IA, si elle est largement convoquée et attendue au niveau mondial, reste « tout sauf évidente ». Il relève une double interprétation possible de l'appellation « éthique de l'IA » et pose la question : « l'éthique appliquée à l'IA ou éthique pour l'IA dont on parle relève-t-elle de l'éthique générale, ou bien est-elle spécifique ? »<fnref n="26" /> T. Ménissier conclut que l'avancée de l'intelligence artificielle pousse l'éthique à « travailler sur elle-même » en posant à l'humanité des questions tout à fait inédites et préconise de ne pas clore trop rapidement le débat de ce qu'est cette éthique afin de « redonner voix [...] à un humain à la fois actif et responsable »<fnref n="27" /> dans un monde où l'automatisation s'accélère et touche un nombre grandissant de secteurs.

### E) Autres catégorisations de l'éthique l'éthique de l'IA rencontrées pendant le stage.

Nous poursuivons notre référence au travail de Thierry Ménissier en nous appuyant sur son audition où il évoque quatre catégories composant le champ de l'éthique de l'IA : l'éthique algorithmique, l'éthique artificielle, l'éthique du numérique et de la donnée, et l'éthique des usages. T. Ménissier pointe le fait que ces quatre éthiques mobilisent des professionnel·les de champs différents.

L'éthique algorithmique concerne les codeur·euse·s et les informaticien·ne·s qui implémentent les principes éthiques dans le code. C'est une branche qui touche à la connaissance informatique, c'est-à-dire aux façons dont s'opèrent ou devraient s'opérer les calculs. L'éthique artificielle est une discipline autonome qui concerne notamment la robotique sociale qui a pour vocation de programmer des machines non nuisibles pour l'humain. L'éthique du numérique et de la donnée concerne les sciences de l'information et de la communication (les réflexions sur l'IoT<fnref n="28" /> font partie de ce domaine). L'éthique des usages de

<footnote n="25">²⁵ T. Ménissier, « Quelle éthique pour l'IA ? Naissance et développements de l'intelligence artificielle à Grenoble », op. cit.</footnote>

<footnote n="26">²⁶ T. Ménissier, « Quelle éthique pour l'IA ? Naissance et développements de l'intelligence artificielle à Grenoble », op. cit., p. 2.</footnote>

<footnote n="27">²⁷ Nous citons ici l'extrait plus complet sur lequel nous nous appuyons : « Que l'éthique travaille sur elle-même, cela signifie qu'elle est conduite à distinguer et prioriser les formes d'éthique adéquates aux tâches à accomplir. Or, à l'heure actuelle, en dépit des apparences, personne ne peut dire avec certitude quelle forme d'éthique est exactement adéquate au traitement approfondi des situations engendrées par le développement de l'IA dans la société. Clore trop rapidement ce débat pourrait même conduire à un appauvissement préjudiciable à la cause que l'on veut promouvoir grâce à lui, à savoir, redonner voix, dans un monde en cours d'automatisation exponentielle, à un humain à la fois actif et responsable. »</footnote>

<footnote n="28">²⁸ L'IoT est l'abréviation de « Internet of Thing ». Il qualifie les objets connectés, intégrant capteurs, softwares et autres technologies capables de se connecter à d'autres terminaux. L'IoT est présent dans les objets quotidiens, comme certaines montres par exemple, mais aussi dans des outils industriels complexes. Le nombre d'objets connectés est en forte croissance (environ 7 milliards de terminaux IoT sont connectés aujourd'hui).</footnote>
l'IA est la branche de l'éthique qui mobilise de façon la plus évidente la philosophie politique et l'éthique philosophique.

Pour Thierry Ménissier, ces branches de l'éthique de l'IA sont complémentaires et doivent dialoguer pour parvenir à circonscrire les questionnements d'envergure qu'ouvre le déploiement de l'intelligence artificielle. L'éthique algorithmique et ses concepts associés (transparence, explicabilité, équité...), si on peut lui accorder une primauté, n'est pas suffisante pour une approche morale de ces réalités techniques, qui sont souvent transformées par leurs usages et dépassent le cadre pour lequel elles ont été conçues. En clair, les philosophes ont leur part à jouer. L'éthique, pour être effective, doit être distribuée et mêler sciences humaines et sociales et sciences dures.

## F) L'éthique de l'ingénieur·e

Pour conclure cette partie de terminologie, nous présentons une dernière sous-catégorie de l'éthique, l'éthique de l'ingénieur·e, afin d'opérer une clarification quant à notre sujet. Si ce mémoire cherche à comprendre comment former les ingénieur·e·s, une distinction importante s'opère entre « éthique du numérique » et « éthique de l'ingénieur·e ». L'éthique de l'ingénierie a sa propre histoire et sa propre visée. Comme le développe la chercheure française spécialisée sur ces questions, Christelle Didier, l'éthique de l'ingénieur·e est née aux États-Unis dans les années 1970. Elle a fait l'objet d'une politique de recherche volontariste et pluridisciplinaire qui a mené au développement d'ouvrages de référence pour la discipline et son enseignement.<fnref n="29" /> Christelle Didier note que si les manuels d'enseignement d'éthique de l'ingénieur·e sont courants aux États-Unis depuis des dizaines d'années, le premier ouvrage français équivalent a été publié en 2019.<fnref n="30" /> Cet ouvrage intitulé *Quelle éthique pour l'ingénieur ?* co-écrit par Fanny Verrax et Laure Flandrin, traite des enjeux de l'éthique de l'ingénieur·e aujourd'hui, au moment où le problème environnemental questionne fortement notre rapport à la technique. Dans cet ouvrage, sur lequel nous nous appuierons largement dans ce mémoire, de nombreuses problématiques propres à l'éthique du numérique sont évoquées, notamment dans la seconde partie de l'ouvrage intitulée « L'ouverture de l'éthique de l'ingénieur aux enjeux sociotechniques ». Cependant, si l'éthique de l'ingénieur·e emprunte et partage de nombreux thèmes de l'éthique du numérique, elle est spécifique à cette corporation. Si nous évoquons l'éthique de l'ingénierie dans ce mémoire, notre objet d'étude demeure l'éthique du numérique.

<footnote n="29">²⁹ Voir l'ouvrage, *Penser l'éthique des ingénieurs*, Presses Universitaires de France, Paris, 2015.</footnote>

<footnote n="30">³⁰ Audition de C. Didier, volume d'annexes du mémoire, p. 9.</footnote>
# DEUXIÈME PARTIE

## Incitations nationales et internationales à la formation à l'éthique du numérique à destination des ingénieurs·e·s.

La majorité des textes que nous allons évoquer désignent spécifiquement l'éthique de l'IA. Cependant, il nous semble que le terme éthique du numérique, plus générique, serait également propre à être utilisé. Dans cette partie, nous nous attacherons à montrer une tendance de plus en plus prononcée encourageant à la formation à l'éthique de l'IA/numérique. Nous nous appuierons sur des textes qui ont fait référence en France ainsi que sur les principaux textes règlementaires internationaux.

### A) Rapport de la CNIL (2017)

En 2017, la CNIL<fnref n="31" /> a été chargée par loi de mener une réflexion sur les questions éthiques et de société posées par les nouvelles technologies. Le 17 décembre, l'organisme publie son rapport de synthèse des débats publics qu'il a organisés, intitulé « Comment permettre à l'Homme de garder la main ? Rapport sur les enjeux éthiques des algorithmes et de l'intelligence artificielle ». Le document met en avant 6 recommandations opérationnelles.

La première de ces recommandations est de « Former à l'éthique tous les acteurs-maillons de la "chaîne algorithmique" (concepteurs·trices, professionnel·le·s, citoyen·ne·s) ».<fnref n="32" /> Dans ce cadre, il est évident que les étudiant·e·s et les ingénieur·e·s en informatique, étant les premier·ère·s de cordée de la chaîne de production algorithmique, devraient recevoir une formation à l'éthique. Le texte précise : « l'organisation concrète du travail et de l'économie tend à segmenter les tâches et à favoriser la tendance que peuvent avoir les individus à ignorer les implications de leur activité au-delà de leur silo. »<fnref n="33" /> En clair, la formation à l'éthique doit permettre aux professionnel·le·s et futur·e·s professionnel·le·s de situer leur travail dans le contexte socio-éco-politique dans lequel il s'inscrira afin de pouvoir prendre leurs responsabilités professionnelles et citoyennes. L'allusion à la formation éthique nécessaire aux utilisateur·trice·s d'algorithmes sous-entend aussi, dans le cadre de la présente recherche, que les ingénieur·e·s, non engagé·e·s dans l'informatique, mais qui seront confronté·e·s à l'intelligence artificielle, devraient aussi recevoir une formation à l'éthique, ce qui concernera

<footnote n="31">³¹ La Commission Nationale de l'Informatique et des Libertés (CNIL) a été créée par la loi "Informatique et Libertés" du 6 janvier 1978 en France.</footnote>

<footnote n="32">³² CNIL, « Comment permettre à l'homme de garder la main ? », synthèse du débat public animé par la CNIL dans le cadre de la mission de réflexion éthique confiée par la loi pour une république numérique, décembre 2017, p. 6.</footnote>

<footnote n="33">³³ Ibid. p. 55</footnote>
à l'avenir une large majorité. La demande en formation, si l'on suit la recommandation de la CNIL, devrait croître significativement dans les années à venir.

## B) Le rapport Villani (2018)

Le rapport Villani s'appuie en partie sur le rapport de la CNIL. Cependant, c'est le rapport Villani qui a réellement ancré l'importance de la formation à l'éthique en France, en particulier dans les écoles d'ingénieurs. Il est sans équivoque. Dans la partie 5 du document, une sous-partie est intitulée : « Intégrer l'éthique dans la formation des ingénieurs et chercheurs en IA ». La formation à l'éthique a pour vocation de créer un « cercle vertueux où la formation de professionnels plus responsables conduit au développement de technologies plus responsables ».<fnref n="34" /> Le rapport pointe la quasi absence de ce genre d'enseignement dans les écoles d'ingénieurs et les cursus informatiques des universités, « alors que le volume et la complexité des problématiques éthiques auxquels ces futurs diplômés seront confrontés ne cessent de croître, au rythme des avancées très rapides de l'IA. »

Le rapport est assez précis sur ce que devraient être ces enseignements d'éthique. Ceux-ci ne devraient pas se résumer à l'apprentissage de règlementations déontologiques mais « à transmettre aux futurs architectes de la société numérique les outils conceptuels pour identifier et confronter de manière responsable les problèmes éthiques et moraux rencontrés dans le cadre de leur activité professionnelle. » L'enseignement devrait également comporter une part d'enseignement pratique permettant aux étudiant·e·s de faire le lien entre les règlementations et leurs applications, notamment concernant la protection de la vie privée, de discrimination ou de propriété intellectuelle. Le rapport encourage fortement l'enseignement de sciences humaines et sociales, dont l'éthique fait partie, afin de rendre les étudiant·e·s capables d'anticiper les conséquences sociales de leur travail. Enfin, le rapport propose la mise en place d'un cursus divisé en disciplines mineures et majeures, afin que les étudiant·e·s en sciences puissent avoir accès à des cours de SHS en mineure.

Depuis le rapport Villani, l'importance de l'enseignement de l'éthique dans les écoles d'ingénieurs a été bien identifié en France et s'est significativement développé sans pour autant être totalement déployé.

## C) Recommandation de l'UNESCO sur l'éthique de l'intelligence artificielle (2021)

Le 24 novembre 2021, l'Unesco a adopté une recommandation ayant pour vocation d'être le premier instrument normatif mondial en terme d'intelligence artificielle.

<footnote n="34">³⁴ C. Villani, « Donner un sens à l'intelligence artificielle. Pour une stratégie nationale et européenne. », mission confiée par le Premier ministre français Édouard Philippe, mission parlementaire du 8 septembre 2017 au 8 mars 2018, p. 147.</footnote>
La question de l'éducation est récurrente dans le texte. Tout d'abord, comme un domaine d'intérêt spécifique à l'UNESCO mais aussi, au niveau normatif comme un principe. En effet, éducation et sensibilisation forment un seul principe au service des valeurs de l'organisation : droits de l'Homme, libertés fondamentales, dignité humaine, respect de l'environnement et des écosystèmes, diversité et inclusion, paix.

> Le principe intitulé « Sensibilisation et éducation » est composé des points 44 et 45 de la recommandation. Le point 44 mentionne la formation à l'éthique de l'IA à destination de tous les membres de la société « de sorte que tous les membres de la société puissent prendre des décisions éclairées concernant leur utilisation des systèmes d'IA et soient protégés contre toute influence indue. »<fnref n="35" />

La Recommandation de l'Unesco intègre l'éducation à ses domaines d'action stratégiques. Le domaine d'action stratégique numéro 8 intitulé « Éducation et recherche » comprend les points 101 à 111 dont nous faisons ici la synthèse.

L'éducation a plusieurs missions et celles-ci peuvent s'exercer via des organisations internationales, des établissements d'enseignement publics ou privés, des organismes privés et non gouvernementaux, les sociétés publiques et privées. Elle doit concourir à la réduction de la fracture numérique génératrice d'inégalités (point 101). Elle doit encourager l'acquisition de « compétences préalables » à l'éducation à l'IA parmi lesquelles figurent les compétences en éthique de l'IA (point 102). Elle doit sensibiliser aux avancées de l'IA, ses possibilités, ses défis et répercussions, en particulier sur les droits de l'Homme (point 103). Elle doit favoriser l'inclusivité, notamment pour les minorités, les personnes handicapées, les filles et les femmes (point 105). Elle doit promouvoir et soutenir la recherche sur l'IA, dont la recherche sur l'éthique de l'IA (point 107). L'éducation doit aussi permettre, à travers des chercheurs, intègres et formés à l'être, de produire des connaissances fiables.

La communauté des scientifiques est invitée à tenir compte des « considérations éthiques dans leurs conceptions, leurs produits et leurs publications », à être en mesure de « garantir une évaluation critique de la recherche sur l'IA et un suivi adéquat des éventuels mauvais usages et effets néfastes de l'IA » ainsi que de produire des conclusions « tirées d'approches, de modèles et de traitement axés sur les données »<fnref n="36" /> fiables et solides. Enfin, les entreprises privées sont encouragées à donner accès à leurs données dans un but de recherche.

Le paragraphe 106 est particulièrement clair. Il enjoint les États à mettre au point des programmes d'enseignement de l'éthique de l'IA pour tous les niveaux. Vu son importance, nous le retranscrivons intégralement :

<footnote n="35">³⁵ Rapport de la commission sciences sociales et humaines (SHS), 41 C/73, Conférence générale de l'UNESCO, 41ᵉ session, Paris 2021, Annexe – page 13.</footnote>

<footnote n="36">³⁶ Ibid. Annexe – page 24.</footnote>
« 106. Les États membres devraient mettre au point, conformément à leurs traditions et à leurs programmes d’éducation nationale, des programmes d’enseignement de l’éthique de l’IA pour tous les niveaux, et favoriser la collaboration croisée entre l’enseignement de compétences techniques dans le domaine de l’IA et les aspects humanistes, éthiques et sociaux de l’éducation de l’IA. Des cours en ligne et des ressources numériques concernant l’éducation à l’éthique de l’IA devraient être élaborés dans les langues locales, y compris les langues autochtones, et tenir compte de la diversité des environnements, en veillant notamment à l’accessibilité des formats utilisés pour les personnes handicapées. »

Le point 108 met en avant l'importance que la communauté scientifique qui travaille dans le marché de l'IA soit formée à l'éthique de l'IA.

« 108. Les États membres devraient veiller à ce que les chercheurs en IA possèdent une formation en éthique de la recherche et à ce qu'ils soient tenus de prendre en considération des aspects éthiques dans leurs conceptions, leurs produits et leurs publications, en particulier dans les analyses d'ensembles de données qu'ils utilisent, la façon dont ces ensembles sont annotés, la qualité et la portée des résultats, ainsi que les applications possibles ».

## D) Manifeste du The Shift Project (2022)

Le manifeste du The Shift Project (TSP) ne provient pas d'un organisme institutionnel mais d'une initiative privée. The Shift Project est un groupe de réflexion français, constitué en association, qui a pour objectif l'atténuation du changement climatique et la réduction de la dépendance aux énergies fossiles. Ce laboratoire d'idées a une influence croissante en France. Notons que l'association a participé au comité d'experts du "Débat national français sur la transition énergétique" en 2012, que le président de l'association, Jean-Marc Jancovici, a été nommé membre du Haut Conseil pour l'action climatique en 2018 et que l'association a publié en 2022 un plan de transformation de l'économie française (PTEF) qui établit un plan d'action secteur par secteur pour diminuer les émissions de CO2 conformément aux objectifs de l'accord de Paris.

The Shift Project a publié en mars 2022 un ensemble de documents sur la formation des ingénieurs·e·s intitulé « Former les ingénieurs du XXIe siècle. ». Cette recherche très poussée et très complète contient un manifeste, un guide méthodologique et un recueil de retours d'expérience. La compétence éthique est très présente dans les recommandations faites par The Shift Project (TSP) pour la formation des ingénieur·e·s aux enjeux socio-écologiques de notre siècle.

Ce manifeste appelle à opérer des changements dans les formations dès la rentrée 2022-2023. Pour ce faire, des documents sont disponibles de façon gratuite sur la page web de l'organisme. Ces documents ont été élaborés en partenariat avec le réseau d'écoles d'ingénieurs INSA qui totalise 10% des ingénieur·e·s formé·e·s en France, ce qui donne aux propositions une légitimité de terrain. La vision du TSP nous semble particulièrement importante dans le cadre de nos recherches car elle pointe le contexte particulier auquel nos sociétés sont
confrontées. Quelles connaissances et quelles compétences enseigner pour tendre vers la résilience ? Rappelons que les déclarations du GIEC donnent à l’Humanité trois ans pour réduire significativement ses émissions de CO2 si elle ne veut pas provoquer un réchauffement de plus de 2 degrés et ses catastrophes associées à l’horizon 2100.

L’éthique dans le projet du TSP est au service de la cause environnementale et les ingénieurs y sont ciblés pour leur savoir-faire technique qui, selon qu’il soit utilisé à bon ou mauvais escient, peut participer à réduire ou à augmenter l’impact carbone des produits et des services. Cet objectif est plus orienté que celui de la Commission européenne dans son Livre blanc où l’éthique a vocation à créer un « numérique responsable » sous des aspects multiples incluant le respect de la démocratie ou la dignité humaine. Dans les deux cas, c’est une vision de l’éthique considérée comme moteur de l’action qui prime.

Dans le projet du TSP, les cours d’éthique proposés doivent permettre de comprendre et de questionner les valeurs sous-jacentes aux prises de décision, d’examiner les éthiques en jeu (éthique des vertus, conséquentialisme...) et de définir la problématique, le dilemme. La compétence éthique sous-tend toute pédagogie car elle permet *in fine* de statuer sur la décision à prendre tel que l’indique le document issu du rapport « Former les ingénieurs du XXIe siècle. » reproduit ci-après. En outre, la vision éthique voulue du TSP induit une interrogation sur la finalité des objets. Dans une volonté de décroissance, le critère de l’utile passe en première ligne. Cet aspect est notable au regard de la majorité des textes normatifs en la matière.

<figure><img src="image_2.png" /></figure>

Reproduit avec l'autorisation de Damien Amichaud, chef de projet « éducation » chez The Shit Project.
E) Textes règlementaires européens.

À partir du document « Lignes directrices en matière d'éthique pour une IA digne de confiance », rédigé par le HLEG<fnref n="37" /> et publié en juin 2018 à l'IA Act qui devrait être finalisé et adopté dans toute l'Union européenne en 2024 entérinant le droit européen en matière d'IA, de nombreux règlements ont été élaborés. Nous avons cherché la trace d'incitations à l'enseignement de l'éthique de l'IA dans différents textes. À défaut de mentions précises, nous avons extrait des passages généraux qui pourront nous être utiles dans la suite de ce mémoire.

Dans le document « Lignes directrices en matière d'éthique pour une IA digne de confiance », une note en bas de page 25 stipule que « les universités européennes devraient jouer un rôle de premier plan dans la formation d'experts nécessaires dans le domaine de l'éthique. » Dans un autre registre, une partie du texte est consacrée aux méthodes non techniques pour parvenir à une IA digne de confiance<fnref n="38" />. Elle fait figurer l'éducation et la sensibilisation comme moyens de parvenir à cet objectif qu'elle qualifie « d'état d'esprit éthique »<fnref n="39" />. L'éducation et la formation ont pour visée de « veiller à la diffusion des connaissances sur les incidences potentielles des systèmes d'IA » et d« informer la population qu'elle peut participer à l'orientation du développement de la société »<fnref n="40" />. Le texte précise que la « condition préalable pour éduquer le public est de veiller à ce que les éthiciens possèdent les compétences et la formation requises dans ce domaine. »<fnref n="41" />, ce qui pointe un besoin de formation de spécialistes en éthique du numérique.

L'avis de la commission de la culture et de l'éducation du Parlement européen contenant des recommandations à la Commission sur le cadre des aspects éthiques de l'intelligence artificielle, de la robotique et des technologies afférentes, rendu public en septembre 2020, ne comporte pas de mention particulière à l'égard de la formation à l'éthique du numérique. En revanche, au niveau de l'enseignement en général, le texte affirme que si l'IA et la robotique peuvent être une plus-value dans l'enseignement, les systèmes basés sur ces technologies ne sauraient remplacer la relation traditionnelle avec les enseignant·e·s.<fnref n="42" /> Le texte mentionne la nécessité de sensibiliser au risque que l'IA puisse être utilisée pour manipuler l'opinion publique, comporter des biais, générer des risques de censure automatique et met en avant la nécessité « d'un cadre éthique pour protéger la liberté d'expression. » Le texte pointe également le danger que pourraient comporter certaines pratiques algorithmiques, telles que la reconnaissance faciale et la détection d'émotions à l'égard de la vitalité démocratique. <fnref n="43" /> Conséquemment, le texte recommande de sensibiliser le grand public y compris dans le secondaire pour « lui faire comprendre le rôle et les effets de l'IA [...], notamment pour ce qui

<footnote n="37">³⁷ Groupe d'experts indépendants de haut niveau sur l'intelligence artificielle (HLEG).</footnote>

<footnote n="38">³⁸ HLEG, « Lignes directrices en matière d'éthique pour une IA digne de confiance. », 2018, p. 29.</footnote>

<footnote n="39">³⁹ Ibid. p. 32.</footnote>

<footnote n="40">⁴⁰ Ibid. p. 29.</footnote>

<footnote n="41">⁴¹ Ibid. p. 29.</footnote>

<footnote n="42">⁴² Parlement européen, « Avis de la commission de la culture et de l'éducation à l'intention de la commission des affaires juridiques contenant des recommandations à la Commission sur le cadre des aspects éthiques de l'intelligence artificielle, de la robotique et des technologies afférentes. »(2020/2012(INL)), 03/09/2020, Point 5.</footnote>

<footnote n="43">⁴³ Ibid. Point 11</footnote>
est de l'utilisation des algorithmes et de leur incidence, entre autres, sur l'emploi et la vie
privée, ainsi que de la compréhension de la place occupée par les systèmes informatiques dans
la sélection, l'interprétation, le stockage et la représentation des données ». Cette
sensibilisation demande selon le texte de « développer de nouvelles formes d'esprit critique. »<fnref n="44" />

Enfin, qualifié de proposition historique par la vice-présidente exécutive de la
Commission chargée du numérique, Margrethe Vestager, l'IA Act est l'aboutissement des
efforts normatifs déployés par l'Europe en vue de mettre en place une intelligence artificielle
« made in Europe », à même de respecter les valeurs de l'Union et d'être compétitive sur le
plan international. Ce texte de proposition publié par la Commission européenne en avril 2021
s'intitule « règlement établissant des règles harmonisées en matière d'intelligence
artificielle ». Il doit être soumis au Parlement européen et au Conseil de l'Europe et devrait
entrer en vigueur dès 2024.

L'IA Act ne s'intéresse pas directement au domaine de l'éducation mais pose des lois
pour l'ensemble du secteur. Cependant, il nous semble utile de pointer la spécificité du
règlement européen qui distingue des catégories de systèmes d'IA en fonction de leur possible
dangerosité. Certains algorithmes sont jugés à haut risque et soumis à diverses obligations dont
celle de transparence. D'autres sont jugés peu risqués et soumis à une réglementation plus
légère. D'autres enfin, bien que peu nombreux, sont tout bonnement interdits. Il s'agit du crédit
social à la chinoise, de la reconnaissance faciale à la volée à des fins répressives et des
techniques subconscientes capables d'influencer le comportement des individus. Dans le cas de
formation à l'éthique du numérique, en particulier concernant de futurs concepteur·trice·s
d'algorithmes, il nous semble indispensable d'aborder les interdictions prévues par le règlement
car elles reflètent en creux les valeurs de l'Union Européenne. Discuter ces interdictions,
comme l'interdiction de la note sociale telle qu'elle se pratique en Chine, peut permettre de
montrer aux étudiant·e·s les applications possibles de ce genre de technologies et leurs
inadéquations avec les valeurs de l'Union : non-discrimination, liberté d'expression,
démocratie...

<footnote n="44">⁴⁴ *Ibid*., Point 12.</footnote>
# TROISIÈME PARTIE

## Enquête de terrain sur la formation à l'éthique du numérique à destination des ingénieurs·es en France

Cette partie a pour objet de synthétiser le travail effectué lors du stage obligatoire réalisé dans le cadre du master en Éthique de l'ULB. Accueillie au CNPEN à Paris, nous avons mené une série d'auditions pour sonder le terrain de l'enseignement de l'éthique du numérique en France. Cette partie met en lumière les apports des intervenantes et propose des résumer leurs propos. Nous nous appuierons sur les retours de ces professionnel·les pour établir dans la dernière partie de ce mémoire une liste de recommandations pour l'amélioration de la formation à l'éthique du numérique tel qu'il nous l'a été demandé dans le stage.

## Chapitre I : Description du stage et du terrain de recherche

### A) Description du contexte du stage

Nous avons été accueillie en stage au CNPEN (Comité national pilote d'éthique du numérique) entre le 12 octobre 2021 et le 30 avril 2022, par périodes, pour un total d'une trentaine de jours de travail sur place et en distanciel. Notre stage a été encadré par Claude Kirchner, qui dirige le CNPEN et Catherine Tessier, qui en est membre. Thomas Berns a assuré la supervision du stage à l'ULB.

Le CNPEN a été créé en décembre 2019 à la demande du Premier ministre français, Édouard Philippe. Ce comité pilote, placé sous l'égide du CCNE (Comité consultatif national d'éthique), devrait être prochainement pérennisé.

### B) Objet du stage

L'objet du stage a évolué au cours de celui-ci pour se focaliser sur la formation à l'éthique du numérique dans l'enseignement supérieur. Il s'agit de comprendre quelles sont les spécificités de l'éthique du numérique et comment l'enseigner à un public d'ingénieur·es et d'étudiant·es en informatique dans les universités en prenant en compte deux paramètres : la spécificité de la jeunesse actuelle, que nous qualifierions de génération Greta Thunberg, angoissée par les effets du dérèglement climatique et désirant œuvrer à un monde différent, et un contexte de développement technologique très intense, dont l'intelligence artificielle, qui déstabilise les structures sociales et politiques traditionnelles.
### C) Activités réalisées lors du stage

Nos activités pendant le stage ont été uniquement basées sur de la recherche. Elles ont consisté en trois points :

1 / Recherche et étude de la littérature existante sur les formations à l'éthique du numérique des ingénieurs, en particulier en France et en Europe ;

2 / Réalisation d'auditions, en particulier auprès des membres du Comité pilote, de responsables de formations d'ingénieur·e·s, d'ingénieur·e·s en formation ou en fonction et de responsables d'entreprises. Chaque audition (préparation, transcription, synthèse, validation et corrections) représente environ trois jours de travail ;

3 / Formulation de recommandations visant à améliorer, effectuer des changements, proposer des outils méthodologiques ou pédagogiques et des points à traiter pour développer la réflexion éthique, particulièrement dans le domaine du numérique, dans l'enseignement supérieur.

En outre, j'ai bénéficié de nombreux temps de discussion avec mes maîtres de stages qui m'ont accompagnée à chaque étape d'avancement de mes recherches, et j'ai eu la chance durant mes séjours à Paris d'assister aux réunions plénières du comité.

### D) Limites de la recherche menée pendant le stage.

La formation à l'éthique du numérique en France est un terrain est difficile à cerner. Si la formation à l'éthique de la recherche et à l'intégrité scientifique y sont obligatoires toutes disciplines confondues pour les doctorant·e·s depuis 2016, il est plus difficile de détecter les initiatives prises dans la formation spécifique à l'éthique du numérique. Comme il n'existe pas de publications recensant les formations à l'éthique du numérique, il faut sonder à l'aveugle en s'appuyant sur les réseaux des professionnel·le·s. J'ai été rassurée d'entendre que la même difficulté était apparue dans le travail de recherche des chercheur·e·s québécois·e·s qui ont élaboré le référentiel de compétence pour l'enseignement de l'éthique du numérique.45 Lors d'une conférence46 sur la sortie de cette publication, ils déclaraient avoir réalisé des entretiens d'enseignant·e·s sans avoir pu dresser un aperçu global.

De plus, comme nous l'avons évoqué dans la première partie consacrée à la terminologie, les champs de l'éthique du numérique et de l'éthique de l'IA sont en cours de définition. Cette indétermination rend difficile la classification de ce qu'est ou n'est pas un cours d'éthique du numérique et génère une hétérogénéité dans les contenus de cours.

L'étude du terrain est d'autant plus complexe qu'il n'existe pas de diplômes universitaires pour enseigner l'éthique du numérique. Ainsi, les personnes que j'ai auditionnées ont été engagées sur leur expertise professionnelle. Cette hétérogénéité des profils génère une

<footnote n="45">45 F. Bruneault, A. Sabourin-Laflamme, A. Mondoux, « Former à l'éthique de l'IA en enseignement supérieur : référentiel de compétences. », 5 mars 2022, https://doi.org/10.31235/osf.io/38tfv</footnote>

<footnote n="46">46 Conférence « Comment former à l'éthique de l'IA en enseignement supérieur : Présentation d'un référentiel de compétences », dans Les midis de l'éthique organisés par le CRÉ et OBVIA, évènement en ligne, 17/10/2021.</footnote>
forte inventivité pédagogique mais oblige à observer pratiquement autant de pédagogies que d'enseignant·e·s.

En outre, la littérature existante est très restreinte.<fnref n="47" /> Christelle Didier, une des plus grandes spécialistes de la formation des ingénieur·e·s en France, déclare dans son audition que le premier ouvrage français qui s'apparente à un manuel d'éthique à destination des ingénieur·e·s date de 2019.<fnref n="48" />

Par ailleurs, j'ai éprouvé une difficulté à situer les cibles des formations à l'éthique du numérique. Quels seraient les publics à former ? Le rapport Villani indique qu'il faut former aux enjeux éthiques du numérique « *les chercheurs, ingénieurs et entrepreneurs qui contribuent à la conception, au développement et à la commercialisation de systèmes d'IA* » dès le début de leur formation. Le rapport indique aussi la nécessité de former les juristes. Mais si nous nous cantonnons au cadre de l'ingénierie, le spectre est déjà très large. S'agirait-il de former toutes les ingénieur·e·s ou uniquement les ingénieur·e·s en informatique ? L'audition que j'ai menée avec Éric Fourneret, qui forme des ingénieur·e·s en management, semble être une parfaite illustration de ce problème. É. Fourneret me confiait que ses étudiant·e·s allaient être amenées à gérer le personnel d'entreprises à l'aide de logiciels utilisant de l'intelligence artificielle. Pour cette raison, la plupart d'entre eux·elles ne se sentaient pas responsables de la politique managériale de l'entreprise. É. Fourneret souhaitait les sensibiliser au fait que derrière les implémentations des programmes se jouait le sort de véritables personnes. D'autre part, lors d'une discussion, Claude Kircher me rappelait que quasiment tous les secteurs seraient bientôt concernés par le numérique et l'IA et que, par conséquent, dispenser des formations aux seules filières informatiques n'avait pour lui pas de sens sur le long terme. Il pointait aussi le besoin de formation pour les futurs expert·e·s de la Fonction publique chargée d'auditer les systèmes informatiques et les politiques mises en place à l'aide des technologies de l'IA.

Enfin, le fait que l'éthique du numérique soit une discipline transversale est encore en discussion. Gilles Dowek, dans l'audition que nous avons menée, pose la question de savoir si nous avons assez de recul pour mettre en avant des éléments conceptuels communs à toutes les branches techniques.<fnref n="49" /> Et si nous n'avons pas assez de recul, définir les compétences nécessaires à chaque secteur de l'ingénierie est très laborieux. Christelle Didier interroge d'ailleurs dans son audition la nécessité d'une double compétence pour enseigner l'éthique, ce qui rendrait très faible la proportion des enseignant·e·s aptes à enseigner. Ainsi, les frontières entre l'enseignement de l'éthique du numérique et l'éthique appliquée à des corps de métiers spécifiques sont encore à baliser.

### E) Liste des personnes auditionnées pendant le stage et biographies courtes.

Lors de notre stage, nous avons pu mener douze auditions. Nous en avons retenu dix pour ce mémoire. Nous avons éliminé une audition menée auprès d'un enseignant belge.

<footnote n="47">⁴⁷ Audition de C. Didier, volume d'annexes du mémoire, p. 9.</footnote>

<footnote n="48">⁴⁸ F. Verrax, L. Flandrin, *Quelle éthique pour l'ingénieur?*, Éditions Charles Léopold Mayer, 2019</footnote>

<footnote n="49">⁴⁹ Audition de G. Dowek, volume d'annexes du mémoire, p. 16.</footnote>
L'étude du terrain de l'enseignement de l'éthique du numérique en Belgique requerrait une étude spécifique étant donné les différentes communautés linguistiques, leurs sensibilités et références intellectuelles respectives quant à ces sujets. A aussi été éliminée l'audition d'une dirigeante d'une grande entreprise du numérique française, car si l'intérêt des grands groupes du numérique pour l'éthique serait utile à considérer dans une visée d'insertion professionnelle, cela sortait du cadre de cette recherche qui se focalise sur les enseignants et experts en éducation.

## Liste des personnes auditionnées :

- Raja Chatila

- Christelle Didier

- Gilles Dowek

- Yann Ferguson

- Éric Fourneret

- Christine Froidevaux

- Alexeï Grinbaum

- Mélanie Gornet

- Thierry Ménissier

- Catherine Tessier

## Biographies courtes :

### Raja Chatila

Raja Chatila est professeur émérite d'intelligence artificielle, de robotique et d'éthique à Sorbonne Université. Il est également président de l'Initiative mondiale IEEE sur l'éthique des systèmes autonomes et intelligents, co-président du groupe de travail sur l'IA responsable du PMIA (Partenariat mondial sur l'intelligence artificielle), membre du groupe d'experts européens sur l'intelligence artificielle et membre du CNPEN.

### Christelle Didier

Christelle Didier est maîtresse de conférences en sciences de l'Éducation à l'Université de Lille, membre du laboratoire CIREL-Proféor depuis octobre 2013. Christelle Didier a publié de nombreux ouvrages de référence sur l'éthique des ingénieurs dont *Penser l'éthique des ingénieurs et Les ingénieurs et l'éthique : Pour un regard sociologique*. Elle a enseigné pendant vingt ans l'éthique, la RSE<fnref n="50" />, et le développement durable dans diverses écoles d'ingénieurs. Évaluatrice dans plusieurs revues académiques (Technology and society, European Journal of engineering education, Engineering Studies), elle est directrice d'édition associée pour la collection « Philosophy of Technology and Engineering » aux éditions Springer et collabore régulièrement à la base documentaire « Techniques de l'ingénieur ».

<footnote n="50">⁵⁰ Responsabilité sociale des entreprises</footnote>
### Gilles Dowek

Chercheur à l'Inria, professeur à l'ENS de Paris-Saclay, membre du CNNum et membre du CNPEN. Informaticien, logicien et philosophe, il travaille en particulier sur la formalisation des mathématiques, le traitement des démonstrations, la physique du calcul, la sûreté aéronautique et l'enseignement, l'épistémologie et l'éthique de l'informatique. Gilles Dowek s'intéresse fortement aux questions d'éducation. Il a par exemple été membre du groupe d'experts constitué par le ministre de l'Éducation nationale pour proposer les programmes de la spécialité « Informatique et sciences du numérique » en terminale S, ce qui a abouti au programme publié au Bulletin officiel en octobre 2011.

### Yann Ferguson

Yann Ferguson enseigne à l'ICAM sur le site de Toulouse. Il est docteur en sociologie, chercheur leader à l'ICAM, expert au PMIA et responsable scientifique au LaborIA. Ses travaux portent sur l'analyse des effets pressentis de l'Intelligence Artificielle (IA) sur le travail. En 2018, il reçoit le Prix de la Fondation des sciences sociales, et a été classé parmi les deux cents français qui font « avancer l'intelligence artificielle en France et dans le monde » par le magazine *L'Usine Nouvelle*.

### Éric Fourneret

Éric Fourneret est maître de conférence en philosophie morale, philosophie de la technique et en bioéthique à l'Université catholique de Lille. Il a publié plusieurs ouvrages sur l'éthique médicale et l'euthanasie dont *Sommes-nous libres de vouloir mourir ?* publié chez Albin Michel en 2018. Il a été chercheur à l'Université Grenoble Alpes, au sein du laboratoire Braintech Lab (Inserm), sur le projet intitulé « Braincom » relatif à l'implantation de puces nanotechnologiques dans le cerveau pour la restauration de la parole chez des personnes victimes d'accident vasculaire cérébral ou de maladie grave. Il travaille depuis 2016 sur les implications éthiques du développement d'interfaces cerveau-ordinateur et de l'intelligence artificielle.

### Christine Froidevaux

Christine Froidevaux est professeure émérite d'informatique à l'université Paris Saclay, membre de l'équipe bio-informatique du LRI/LISN, département Science des Données. D'autre part, elle a été vice-présidente de la Société informatique de France (SIF), plus spécialement en charge de l'enseignement. Elle est actuellement membre du Comité National Pilote Éthique du Numérique (CNPEN) et membre du comité d'éthique pour les données d'éducation du Ministère de l'Éducation Nationale et de la Jeunesse.

### Alexeï Grinbaum

Alexeï Grinbaum est philosophe et physicien. Directeur de recherche au laboratoire Larsim du CEA-Saclay, il est spécialiste de l'information quantique. Depuis 2003, il s'intéresse aux questions éthiques liées aux nouvelles technologies, notamment aux nanotechnologies, à l'intelligence artificielle et à la robotique. Membre du Comité national pilote d'éthique du numérique (CNPEN) et de la Commission d'éthique de la recherche en numérique (Cerna), il est également expert de la Commission européenne et président du Comité opérationnel
d'éthique du numérique du CEA. Il a publié « Mécanique des étreintes » (Encre Marine, 2014) et « Les robots et le mal » (Desclée de Brouwer, 2019).

## Mélanie Gornet

Mélanie Gornet est une jeune ingénieure. Elle a obtenu son diplôme d'ingénieur à l'ISAE-SUPAERO en 2021 dans la filière « Sciences des Données et de la décision et NeuroIA ». Dans sa dernière année en école d'ingénieurs, elle a effectué un stage au CNPEN. Elle est actuellement en doctorat à Télécom Paris - Institut Polytechnique de Paris, en Économie, gestion et sciences sociales dans la spécialité « Régulation ». Sa thèse en cours a pour titre : « Rédaction d'exigences légales et éthiques pour des systèmes de reconnaissance d'images robustes, équitables et explicables ».

## Thierry Ménissier

Thierry Ménissier est philosophe, spécialisé en philosophie et en histoire des idées. Il est professeur des Universités, responsable de la chaire MIAI<fnref n="51" /> "éthique & IA" à l'Université Grenoble Alpes, chercheur à l'Institut de Philosophie de Grenoble (IPhiG). Il enseigne la philosophie à l'Institut d'Ingénierie et de Management (Grenoble IAE & Grenoble INP).

## Catherine Tessier

Catherine Tessier est chercheuse à l'ONERA à Toulouse et référente intégrité scientifique et éthique de la recherche de l'ONERA. Elle enseigne à l'ISAE-SUPAERO, école d'ingénieurs à vocation aéronautique et spatiale. Elle fait partie de plusieurs comités d'éthique : le CNPEN, le comité d'éthique de la défense, le comité opérationnel d'évaluation des risques légaux et éthiques d'Inria (COERLE). Elle a fait partie des vingt-quatre expert·e·s internationaux·ales mandaté·e·s pour rédiger le texte initial de la Recommandation de l'UNESCO sur l'intelligence artificielle, adoptée en novembre 2021.

# Chapitre II : Analyse et synthèse des auditions menées pendant le stage

## A) L'importance du souci éthique selon les types d'établissements

Lors de nos auditions, nous avons fait état d'une différence d'approche de l'enseignement de l'éthique entre les établissements confessionnels et les établissements non-confessionnels. Nous reprenons ici les propos de Yann Ferguson qui enseigne à l'ICAM sur le site de Toulouse.

L'ICAM (Institut Catholique des Arts et Métiers) est un groupe d'écoles privées à but non lucratif (statut EESPIG<fnref n="52" />) qui se déploie sur six campus en France (Vendée, Lille, Toulouse, Grand-Paris Sud, Nantes, Bretagne) et cinq à l'étranger (Brésil, Congo, Cameroun, Inde, RDC).

<footnote n="51">⁵¹ Le MIAI est un des quatre instituts interdisciplinaires d'Intelligence Artificielle français dans le cadre de la stratégie nationale pour l'intelligence artificielle en 2018.</footnote>

<footnote n="52">⁵² Ce statut, octroyé par l'État après audit, reconnaît le caractère désintéressé de l'activité d'enseignement.</footnote>
L'institution déclare sur son site web fonder ses enseignements sur « des valeurs humanistes très fortes, pour former des ingénieurs ouverts, conscients, engagés et acteurs de leur vie ». Yann Ferguson explique que l'engagement humanisme de l'école est un héritage des fondateurs de l'école à la fin du XIXe siècle qui, dans la lignée des patrons chrétiens sociaux, souhaitaient à la fois améliorer les conditions de vie des ouvriers et éviter une révolution socialiste. Cette forme d'humanisme, constituée par un souci humain dans l'industrie, est encore palpable dans les formations proposées par l'école qui comporte d'ailleurs un département nommé « Humanités ». La formation donnée par Yann Ferguson à l'ICAM intitulée « Éthique de l'ingénieur » est la plus longue que nous ayons répertoriée au cours de nos auditions, soit 48 heures. Elle est obligatoire et découpée en quatre séminaires de 12 heures.

En plus de la notion d'humanisme, Yann Ferguson explique que l'école d'obédience chrétienne s'inspire des textes du pape François, qui a consacré en 2011 une encyclique sur le concept d'« écologie intégrale », intitulée Laudato Si. Yann Ferguson déclare : « Dans ce texte, le pape a des mots spécifiques pour les formations techniques et scientifiques. Le message est que si l'humain reste la créature préférée de Dieu, ce qu'il fait subir aux autres espèces animales et végétales est intolérable. Aujourd'hui, la difficulté est de convaincre les chrétiens que l'humanisme à l'excès se fait au détriment de l'écologie et qu'il appartient aux sociétés industrielles de changer de paradigme et d'intégrer le vivant en général dans les réflexions scientifiques et les solutions techniques. Le pape François critique ce qu'il appelle "le solutionnisme" et remet en question l'idée que ce qui a été causé par la technique pourra être résolu par elle et prône un changement de mode de vie. [...] L'humanisme reste fort dans notre philosophie mais on nuance aujourd'hui cette notion à l'aulne de celle d'écologie. »<fnref n="53" /> L'écologie intégrale est l'axe de la stratégie de l'ICAM pour les cinq années à venir.

L'origine, la nature et la force du souci éthique varient selon la tradition et l'histoire des établissements. Selon l'expérience de Yann Ferguson, les écoles chrétiennes semblent plus enclines à dispenser des formations d'éthique d'un volume horaire conséquent.

Le positionnement de l'ICAM nous semble particulièrement intéressant. Premièrement, parce que l'écologie correspond aux préoccupations d'une jeunesse qui se voit l'héritière contrainte du dérèglement climatique et, deuxièmement, parce que l'école prend parti contre le solutionnisme technique. Or, les écoles d'ingénieurs semblent justement les mieux placées pour faire appel à la technique pour tenter de répondre aux problèmes écologiques. La différence entre le solutionnisme et les possibilités de concevoir des solutions techniques pour les problèmes environnementaux de notre temps est une source de questionnements intéressants que l'enseignement de l'éthique en école d'ingénieurs pourrait réfléchir.

## B) Éthique et éthique du numérique dans les formations

L'ICAM différencie cinq axes propres à l'enseignement de l'éthique en général. Cette distinction nous semble très utile pour tenter de dégager ce qu'est l'éthique du numérique et ce avec quoi elle doit nécessairement dialoguer.

<footnote n="53">⁵³ Audition de Yann Ferguson, volume d'annexes du mémoire, p. 19.</footnote>
Les cinq axes identifiés sont :

- Éthique et citoyenneté

- Éthique et management

- Éthique et technologie

- Éthique de l'entreprise

- Éthique de l'ingénieur

L'axe “Éthique de la citoyenneté” considère l'étudiant·e en tant que citoyen·ne en s'efforçant de renforcer les compétences discursives de l'individu : sa capacité à argumenter, à échanger, à bâtir des hiérarchies de valeurs...

L'axe “Éthique et management” prépare les étudiant·e·s aux dilemmes éthiques qu'ils ou elles pourraient rencontrer en tant que manager.

L'axe “Éthique et technologie” correspond plus particulièrement à ce que nous cherchons à cerner dans l'éthique du numérique. Il s'agit de s'interroger sur les développements technologiques à fort impact sociétal. Cependant, il existe de nombreuses façons d'interroger ces développements. Les interrogerons-nous à l'aulne de l'histoire de la technique, de la notion de progrès, en fonction des valeurs éthiques, d'impératifs politiques... ?

L'axe “Éthique de l'entreprise” évoque les démarches actuelles des entreprises en termes de RSE et autres normes visant à rendre leurs activités plus responsables socialement et environnementalement.

L'axe “Éthique de l'ingénieur” est une branche d'étude qui nous vient initialement des États-Unis,<fnref n="54" /> qui ont les premiers élaborés des chartes, des codes et publications sur la spécificité du métier d'ingénieur et ses enjeux éthiques.

En plus de ces cinq catégories, nous ajoutons “l'éthique de la recherche” pour les chercheur·e·s universitaires.

Ces classifications nous aident à situer notre questionnement. Cependant, nous nous rendons compte qu'il est difficile de séparer l'éthique du numérique de l'axe de l'éthique de la citoyenneté par exemple. En outre, si nous considérons l'éthique comme étant toujours en contexte, il est aussi difficile d'occulter l'axe “éthique et entreprise” vis-à-vis de futur·e·s travailleur·euse·s ou encore la question des règlementations incluant des valeurs éthiques.

Nous faisons le choix dans cette partie de nous intéresser principalement à l'axe “éthique et technologie” en affirmant cependant que les différents axes communiquent.

<footnote n="54">⁵⁴ Voir Christelle Didier, par exemple dans l'article « Les ingénieurs et l'éthique professionnelle. Pour une approche comparative de la déontologie », Charles Gadéa et Didier Demazières, *Sociologie des groupes professionnels. Acquis récents et nouveaux défis*, La Découverte, 2009, p. 208-218.</footnote>
### C) Trois approches de l'enseignement de l'éthique du numérique

Comme nous l'avons pointé dans la partie sur les difficultés et les limites de l'expérience de stage, l'enseignement de l'éthique du numérique n'est pas un champ institutionnalisé et les approches pédagogiques varient fortement. Nous avons relevé dans notre stage trois types d'approches d'enseignement que nous avons qualifiées de généraliste, d'appliquée et de transversale. Ces approches pédagogiques varient en fonction de la visée de l'enseignement, du public, de l'identité de l'enseignant·e, de la durée de la formation et du contexte.

L'approche généraliste propose de former les étudiant·e·s en tant qu'individu et citoyen·ne·e. Il s'agit ici avant tout de renforcer les compétences discursives, délibératives et l'esprit critique. Ces enseignements peuvent être dispensés devant tout type de public. Le choix d'exemples et de dilemmes correspondants aux différentes filières permet d'engager plus fortement les étudiant·e·s et d'orienter possiblement ce type de formation vers des problèmes éthiques liés au numérique.

L'approche appliquée développe une vision plus sectorielle de l'éthique du numérique (ou l'éthique de l'IA). Si le premier type d'approche peut s'adresser à un public plus large (ingénieur·e·s ou étudiant·e·s en sciences et informatique), l'approche appliquée s'adresse à un public spécifique (roboticien·ne·s, développeur·euse·s...).

Dans son audition, Christine Froidevaux envisage une troisième approche qu'elle qualifie de transversale. Pour C. Froidevaux, l'enseignement de l'éthique ne devrait pas être cloisonné dans un module à part mais irriguer tous les modules. Pour elle, le danger de dispenser un module d'éthique distinct est de faire croire aux étudiant·e·s qu'une fois la matière validée, ils ou elles en sont quittes avec l'éthique et oublient ce qui a été appris. Elle cite à titre de référence l'enseignement « intégré » pratiqué par l'université de Grenoble qui propose un module de 36 heures intitulé « La méthode scientifique » dispensé aux étudiant·e·s de master en informatique. Ce module est fondé sur les notions d'expérimentation, de reproductibilité, d'intégrité, de déontologie et d'éthique, et a pour objectif de développer l'esprit critique des étudiant·e·s. C. Froidevaux met aussi en avant l'importance de la pluridisciplinarité. Pour parler d'éthique du numérique, il faut selon elle intégrer des informaticien·ne·s, des roboticien·ne·s, des philosophes, des sociologues et des juristes.

### D) Visées des cours selon les enseignant·e·s

Nous allons ici passer en revue les visées ou objectifs principaux évoqués par les différents enseignant·e·s auditionné·e·s quant à leurs cours.

Pour Catherine Tessier, l'objectif principal d'un cours d'éthique est de « muscler le cerveau » afin de former les étudiant·e·s à la délibération éthique.<fnref n="55" /> Cela passe par savoir écouter l'argument de l'autre, produire des arguments, prendre en compte tous les facteurs, s'habituer

<footnote n="55">⁵⁵ Audition de C. Tessier, volume d'annexes du mémoire, p. 51.</footnote>
à ce qu'il n'existe pas une « bonne réponse ». Catherine Tessier précise que l'éthique est une
discipline nouvelle pour la vaste majorité de ses étudiant·e·s ingénieur·e·s. Elle sait que son
enseignement bouscule les façons de penser habituelles développées dans les autres disciplines
des cursus dans lesquels elle intervient. Il s'agit donc « d'ouvrir l'esprit » des étudiant·e·s à
d'autres façons de penser. L'éthique doit aussi pouvoir permettre aux étudiant·e·s de se poser
les bonnes questions. Elle déclare : « Il faut réfléchir collectivement et de manière globale, car
c'est un fait, nous n'allons plus pouvoir continuer comme ça. Il va falloir faire évoluer nos
modes de vie. Ce constat pèse sur les épaules de ceux qui créent, les ingénieurs qui vont
certainement devoir inventer différemment, c'est-à-dire en se posant les bonnes questions. »<fnref n="56" />

Alexeï Grinbaum souligne lui aussi que l'éthique est une occasion, somme toute assez rare,
pour les étudiant·e·s ingénieur·e·s de Paris-Saclay où il enseigne, d'envisager un autre type de
pensée. La visée de l'enseignement de l'éthique et de l'apprentissage de l'esprit critique est
principalement pour lui de permettre aux ingénieur·e·s de penser leurs productions dans la
société. Il souligne, pour y parvenir, l'importance de l'histoire de la pensée et déclare : « Le but
ultime est d'insérer une technologie inédite dans une culture humaine et dans la pensée éthique
qui lui est propre. [...] La difficulté est donc d'insérer ces outils techniques nouveaux dans la
continuité de notre réflexion, de notre tradition de pensée, de notre culture. [...] Faire cela,
l'ingénieur ne sait pas trop s'y prendre et c'est l'objectif ultime des formations à l'éthique. »<fnref n="57" />

Pour Raja Chatila, le rôle de l'éducation est avant tout de former des citoyen·ne·s responsables et l'éthique du numérique doit conséquemment former des ingénieur·e·s responsables, c'est-à-dire capables de s'interroger sur le sens de leurs actions et de leurs productions en ayant en conscience les valeurs éthiques. Ainsi, R. Chatila pointe avec dépit la disparition de l'histoire des sciences dans les programmes d'enseignement scientifique et l'absence de discussion des motivations des technologies et de leur impact sur la société.

Cette question de la finalité est aussi le cheval de bataille de Christelle Didier, sociologue des ingénieur·e·s, qui a enseigné l'éthique de l'ingénierie dans de nombreuses écoles d'ingénieurs pendant plus de dix ans. Son objectif revendiqué est de pousser les étudiant·e·s à s'interroger sur les conséquences de leurs futures activités sur différents plans : humain, social et environnemental. Christelle Didier pointe la tendance de cette catégorie socio-professionnelle à accepter de « ne pas avoir de vision des finalités des activités dans lesquelles ils s'engagent ».<fnref n="58" /> Or, les filières d'ingénieurs par leur prestige et les fonctions de pouvoir auxquelles elles mènent devraient moralement s'accompagner pour C. Didier d'une « exigence de curiosité » quant à leur part de responsabilité que la formation à l'éthique se doit d'accompagner.

Pour Christine Froidevaux, ce qui importe est de donner le goût et les outils nécessaires à la pratique de l'éthique aux étudiant·e·s en sciences afin qu'ils ou elles soient en mesure d'y avoir recours tout au long de leur carrière et, idéalement, de sensibiliser à leur tour aux

<footnote n="56">⁵⁶ Audition de C. Tessier, volume d'annexes du mémoire, p. 55.</footnote>

<footnote n="57">⁵⁷ Audition d'A. Grinbaum, volume d'annexes du mémoire, p. 42.</footnote>

<footnote n="58">⁵⁸ Voir audition de C. Didier, volume d'annexes du mémoire, p. 12.</footnote>
problématiques éthiques. C. Froidevaux définit l'éthique comme une quête à cultiver pour distinguer le possible du souhaitable.

Pour Yann Ferguson, la visée de l'enseignement éthique est de former l'ingénieur·e humaniste et écologiste de terrain. Pour lui, comme pour Christine Froidevaux, l'éthique devrait irriguer tous les champs d'enseignement et pouvoir venir en soutien au moment les plus opportuns dans l'action.

On retrouve chez Éric Fourneret le souci de R. Chatila pour la dimension citoyenne. É. Fourneret place une grande partie de ses efforts dans ce qu'il appelle une « remise à niveau méthodologique » de ses élèves. Celle-ci est axée sur le renforcement des compétences empathiques et de l'esprit critique. É. Fourneret déplore des lacunes argumentatives et de structuration du discours chez la plupart de ses étudiant·e·s. Or, ces compétences sont autant nécessaires à la vie démocratique qu'à la pratique de l'éthique, où il s'agit de construire une argumentation et d'être capable de prendre en considération des arguments différents des siens.

Enfin pour Thierry Ménissier, l'axe central est de former les ingénieur·e·s et scientifiques à la philosophie technique afin qu'ils ou elles comprennent que toutes leurs actions sont sous-tendues par un système sociotechnique et que la technique n'est pas neutre. Ainsi l'éthique de l'IA constitue un champ appliqué de l'éthique qui doit être réfléchi « à même l'objet », c'est-à-dire à partir de la compréhension d'un système technique particulier.

## E) Quatre plans de cours d'éthique du numérique

Dans cette partie, nous allons exposer les structures de quatre cours ayant trait en tout ou en partie à l'éthique du numérique :

* « Éthique de l'ingénieur » de Yann Ferguson proposé aux élèves de 4e année du parcours intégré de l'ICAM.

* « Épistémologie et éthique de l'intelligence artificielle et du numérique » d'Éric Fourneret dispensé aux élèves en Master 1 à la Faculté de gestion, économie et sciences de Lille (FGES).

* « Éléments pour une éthique de l'IA, du numérique et de la donnée » de Thierry Ménissier proposé dans le cadre de la formation doctorale de l'Université Grenoble Alpes (UGA).

* « Robots et éthique » de Catherine Tessier dispensé aux élèves en dernière année d'étude à l'ISAE-SUPAERO.

## « Éthique de l'ingénieur », Yann Ferguson

Ce cours a été développé par l'ICAM il y a sept ans. Toutes les formations de l'école bénéficient de ce cours d'un volume horaire de 48 h découpé en quatre séminaires de 12 h. Cet enseignement est obligatoire.
Yann Ferguson a donné pendant son audition le déroulé du cours qu’il dispense en 4ᵉ année du « parcours intégré » du site de Toulouse. Yann Ferguson souligne que depuis trois ans l’accent est mis sur le numérique dans tous les parcours<fnref n="59" />. Les autres sites de l’ICAM poursuivent les mêmes lignes directrices avec des modalités différentes.

## Module 1 : Introduction à l'éthique

Ce module introduit de grandes notions d'éthique telles que les valeurs morale et les dilemmes éthiques.

## Module 2 : Éthique de la technique.

Ce module interroge la notion de progrès en y adjoignant la question du coût humain, économique et écologique des progrès techniques. Cette partie s'appuie sur une grille de décision techno-éthique rédigée par un ensemble de chercheurs·e·s (dont Y. Ferguson) pouvant servir à évaluer les inventions. Dans le champ du numérique, l'école a pris le parti d'aborder l'IA, la réalité virtuelle, le transhumanisme, l'usine du futur, la géolocalisation, le véhicule autonome et l'imprimante 3D. Les élèves sont invités à l'aide de la grille technico-éthique à produire un avis argumenté sur une étude de cas, à la manière d'un comité d'éthique. Le but de cet exercice est de « ne de plus condamner les sociétés à découvrir les nuisances une fois qu'elles ont eu lieu et d'arriver à un âge adulte de la technologie dans lequel son utilisation est raisonnée ».<fnref n="60" /> C'est dans ce cadre que les élèves ont été invités à se pencher sur l'appel à contributions du CNPEN pour permettre une expression des parties prenantes et du public sur les enjeux éthiques liés aux agents conversationnels, en remplacement de la grille technico-éthique, « pour leur montrer qu'il y a un réel besoin au sein de la société de trouver des cadres éthiques pour se confronter aux technologies. »<fnref n="61" /> Depuis trois ans, les élèves doivent produire un essai personnel argumenté autour de l'impact de l'IA sur le marché du travail (sujet qui est la spécialité de Y. Ferguson). Des ateliers de confrontation de points de vue sont organisés. Dans un premier temps, les élèves forment de petits groupes et discutent entre eux. Dans un deuxième temps, des invités viennent écouter le point de vue des étudiant·e·s et les mettent à l'épreuve en leur donnant d'autres points de vue que les élèves doivent intégrer à leur essai.

## Module 3 : Éthique de l'entreprise

Ce module interroge la responsabilité sociétale de l'entreprise. L'enseignement s'appuie sur des dilemmes auxquels les élèves des promotions précédentes ont été confrontés pendant leur stage. Ces dilemmes anonymisés sont repris en cas d'école.

## Module 4 : Techniques de délibération

Ce module donne des outils de techniques de délibération développés avec l'aide d'experts·e·s. L'objectif est de montrer qu'un débat complexe sur un sujet complexe nécessite des compétences en délibération et de l'ingénierie de groupe et s'éloigne en ce sens de la polarisation des débats telle qu'induite par les réseaux sociaux. Yann Ferguson indique que l'acceptation du fait de pouvoir changer d'avis lorsqu'on a été convaincu par l'argumentation

<footnote n="59">⁵⁹ L'ICAM propose trois types de parcours : le parcours intégré, le parcours ouvert et le parcours apprentissage.</footnote>

<footnote n="60">⁶⁰ Audition de Y. Ferguson, volume d'annexes du mémoire, p. 20.</footnote>

<footnote n="61">⁶¹ Audition de Y. Ferguson, volume d'annexes du mémoire, p. 20.</footnote>
de l'autre ne va pas de soi pour une population étudiante majoritairement masculine, habituée à imposer ses points de vue et à être valorisée pour cela.

# « Épistémologie et éthique de l'intelligence artificielle et du numérique », Éric Fourneret

Dans un premier temps, Éric Fourneret transmet aux étudiant·e·s les trois théories normatives : déontologisme, éthique des vertus et conséquentialisme. En accord avec une vision pragmatique de l'enseignement, É. Fourneret s'attache à illustrer ces théories d'exemples que les étudiant·e·s peuvent avoir déjà rencontrés, par exemple en abordant les problèmes relatifs aux réseaux sociaux quant à l'utilisation des données personnelles ou au harcèlement en ligne.

Dans un second temps, É. Fourneret s'appuie sur l'actualité ou sur des produits culturels pour mettre en perspective les théories éthiques abordées. En 2021, il a utilisé le film de Spike Jonze, *Her*, que la majorité de ses étudiant·e·s avait déjà vu. Un travail d'analyse poussé du film a été entrepris. É. Fourneret a invité ses étudiant·e·s à repérer à quelle famille de l'éthique pouvaient être reliés les différents choix réalisés par le personnage principal. Ensuite, il leur a proposé d'inventer d'autres choix possibles relativement aux théories éthiques abordées. É. Fourneret pointe des lacunes importantes chez ses élèves au niveau argumentatif qui l'obligent à opérer une mise à niveau méthodologique au sein de laquelle il revient sur la problématisation, l'identification de la structure argumentative et les outils de l'argumentation afin de rendre ses étudiant·e·s capables de sortir de l'opinion.

À la fin du processus, É. Fourneret a demandé à ses étudiant·e·s de produire une courte dissertation dans laquelle ils et elles devaient identifier une ou deux problématiques liées au numérique dans le film, expliquer en quoi elles constituent un problème, quelle réponse est donnée dans le film et quelle autre réponse est possible, c'est-à-dire identifier les limites de toute solution dans le cadre de dilemmes. À cette occasion, É. Fourneret poursuit le rattrapage méthodologique en abordant la structuration d'un texte écrit.

D'autre part, É. Fourneret développe les capacités empathiques de ses étudiant·e·s en organisant des séances de discussion autour d'exposés où les étudiant·e·s sont conviée·e·s à défendre une position qu'ils ne partagent pas. Le choix du thème leur est laissé libre. À la fin de l'exposé, la classe est invitée à réagir, à poser des questions, à formuler des arguments inverses. L'évaluation ne porte pas uniquement sur celui ou celle qui présente l'exposé, mais sur l'auditoire et les interactions entre les intervenant·e·s et l'auditoire. L'évaluation s'établit sur des critères tels que la capacité des étudiant·e·s à s'écouter, à ne pas se couper la parole, à émettre de véritables arguments plutôt que de simples arguments d'autorité ou leurs opinions...

La volonté de É. Fourneret de travailler la compétence empathique est d'autant plus importante que son public se destine au management assisté par le numérique, métiers convoquant une forte dimension sociale et en pleine mutation. Ce travail va de pair avec un travail sur la pensée critique qui est développé dans la partie du cours consacrée à la méthodologie et qui se prolonge dans l'exercice du débat.
# « Éléments pour une éthique de l'IA, du numérique et de la donnée » par Thierry Ménissier

Ce module a été initié pour la première fois en juin 2021 et proposé pour le Collège Doctoral de l'Université Grenoble Alpes par la chaire éthique &IA. Ce module de 12 h a été donné sur deux journées découpées en 4 demi-journées.

## Plan du cours :

Introduction : Penser l'éthique de l'IA, du numérique et de la donnée dans un contexte d'innovation

A/ Qu'est-ce que l'innovation ? Un paradigme à part entière, qui s'est substitué à celui du progrès

B/ Les origines intellectuelles et les modalités particulières de l'innovation

C/ Atelier n°1 : *l'innovation peut-elle réellement se substituer au progrès ? Qu'est-ce qu'une innovation réellement améliorante ?*

1. L'IA, quel système technique ?

a. Qu'est-ce qu'un système technique ?

i. Un ensemble de techniques qui font système, de l'exploitation de l'énergie jusqu'aux usages :

1. Exemple 1 : le système mécanique de l'énergie naturelle

2. Exemple 2 : le système des énergies fossiles carbonées

3. Le système technique de l'IA. Atelier n°2 : *En quoi peut-on parler d'un système pour l'IA ?*

ii. Aucun système technique n'est jamais neutre : il reflète des intérêts et exprime plus ou moins clairement des valeurs

b. L'IA n'est pas n'importe quel système technique

i. Pour quelles raisons ?

1. Du fait des ambiguïtés et des fantasmes liés à l'IA :

a. « IA » : une mauvaise traduction, une métaphore, une hyperbole ?

b. Intelligence naturelle et artificielle : humains, animaux/végétaux, artefacts et les formes de l'intelligence naturelle : sciences, arts de l'interprétation, arts

2. Peut-on établir que la machine pense ?

a. Le test de Turing

b. La chambre chinoise de Searle

3. Intelligences naturelles et artificielles aux prises les unes avec les autres :

a. L'interaction humain/machine comme principe de la compréhension de l'IA

b. Un cas d'espèce : les relations entre IA et coaching

ii. Système technique de la calculabilité du réel :

1. Calculabilité : un type de pensée et une forme d'écriture deviennent prépondérants

2. La calculabilité peut-elle être intégrale ?
a. Calcul, simulations et réalité

b. Corrélation ne signifie pas causalité : l'illusion des data.

c. La revanche des sceptiques dans le monde de Descartes ?

2. Qu'est-ce que l'éthique ?

a. Difficultés à définir ce qu'est l'éthique

b. Revendiquer une approche éthique revient à assumer l'ambition d'être normatif

i. Qu'est-ce que la normativité ?

ii. Les différentes sortes de normativité et leurs relations

c. Les familles de l'éthique

i. Les familles modernes :

1. Déontisme

2. Utilitarisme et démarche « conséquentialiste »

3. Les limites des approches modernes

ii. Les familles anciennes :

1. Arétaïsme

2. Axiologisme

3. La résurgence de l'arétaïsme et de l'axiologisme dans les contextes contemporains

d. De la variété des parties prenantes à la « conversation civile »

i. Faire jouer un rôle à l'imagination dans le dialogue des parties prenantes :
Martha C. Nussbaum

ii. Pluraliser le jugement éthique

iii. Atelier n°3 : traiter un problème d'éthique générale à l'aide des différentes normativités et des 4 familles de l'éthique

3. Peut-il exister une éthique des systèmes techniques ?

a. De la notion de système technique à celle de dispositif sociotechnique :

i. L'insertion de tout objet technique au sein de sa société et de sa culture

ii. Les thèses de Leroi-Gourhan sur l'anthropologie des techniques

iii. Pour une éthique de l'innovation technique élargie. Atelier n°4 : imaginez un dispositif sociotechnique susceptible d'améliorer la valeur éthique d'un objet technique du passé ou actuellement existant.

b. Pour rendre éthique un système technique, une théorie de la justice distributive apparaît nécessaire

i. Qu'est-ce que la justice distributive ?

ii. La valeur d'équité

iii. Les 7 théories de la justice

1. Utilitarisme

2. Républicanisme / « méritocratisme »

3. Marxism

4. La « justice comme équité » de John Rawls

5. La réaction « libertarienne » : Nozick
6. Les « communautariens » : Sandel, Walzer, Taylor

7. La théorie des « capabilités » : Sen et Nussbaum

c. Atelier n°5 : inventez un dispositif sociotechnique complexe (ex. production et distribution d'énergie, alimentation, mobilité, Défense, etc.) régi par une des théories de la justice

4. Quelle éthique de l'IA ?

a. Peut-on, sur le plan éthique, aborder de la même manière l'IA, le numérique et la donnée ?

i. Définition approfondie de ces trois termes

1. Leurs différences sont à souligner

2. Quel « secteur » est le plus important ?

ii. Une hypothèse de travail : sectoriser des éthiques « régionales » spécialisées

b. Des éthiques pour l'IA :

i. Éthique algorithmique (computer ethics)

1. Étude des concepts et des valeurs de l'éthique algorithmique : explicabilité, interprétabilité, « reddition de comptes », transparence, fiabilité, confiance, équité, responsabilité.

2. Comment réaliser/faire appliquer ces valeurs ?

a. Les chartes et déclarations de valeurs pour l'éthique de l'IA

b. La prestation de serment des informaticien·ne·s. Atelier n°6 : imaginez 5 articles pour un serment d'Hippocrate des informaticiens et ses relations possibles avec un « ordre national ou international des informaticien.es »

ii. Éthique artificielle

1. Éthique artificielle et problèmes philosophiques posés par la robotique

2. Approfondissement : le test MIT « Moral Machine » / critique du primat de l'éthique utilitariste et du raisonnement conséquentialiste. Atelier n°7 : inventez un test d'éthique artificielle sans recours à l'utilitarisme conséquentialiste

iii. Éthique du numérique et de la donnée :

1. Introduction : les problèmes éthiques posés par le numérique et les données au sein de la société de l'information et de la communication

2. Approfondissement sur les plateformes en e-santé. Atelier n°8 : en vous documentant sur la dimension éthique des services et plateformes existants (ex : Doctissimo), énoncez plusieurs fonctionnements et règles éthiques pour une plateforme de e-santé que vous inventez.

iv. Éthique des usages de l'IA :

1. Sur la notion d'usages de l'IA

2. Un questionnement sur le rapport entre les pratiques et les finalités de l'IA : répondre à la question « Quels usages de l'IA sont capables de rendre les humains plus libres et plus accomplis ? »
3. Atelier n°9 : argumentez sur un problème éthique complexe comme ceux énoncés ci-dessous en mobilisant les 4 familles de l'éthique et les 7 théories de la justice.

## « Robots et éthique » de Catherine Tessier

Le cours « Robots et éthique » a été donné la première fois en 2016. Il est dispensé aux élèves en dernière année à ISAE-SUPAERO de la filière robotique. Il se composait initialement de 2 séances de 3 heures de cours magistraux complétés par une séance d'exercice de 2 heures. La séance d'exercices a disparu depuis.

Le contenu du cours se base entre autres sur le rapport de la CERNA N°1 intitulé « Éthique de la recherche en robotique ».

### 1. Déroulé du cours

Si le cours est qualifié de magistral, Catherine Tessier insiste sur son caractère interactif. Les élèves peuvent questionner l'enseignante, des discussions sur des sujets sont proposées dans le développement du cours (la durée des discussions est approximativement de 20 mn).

#### a. Parties introductives

La première partie pose les définitions de base propres à la robotique. Il s'agit de se demander par exemple « Pourquoi un robot est-il un objet particulier ? ».

La deuxième partie introduit l'éthique. Plutôt que de la définir, Catherine Tessier préfère procéder par la négative et exposer ce que l'éthique n'est pas : elle n'est ni le droit, ni la morale, ni une valeur. Catherine Tessier rappelle que l'éthique est une réflexion, tel que le définit le dictionnaire de l'Académie française et tel que le défend le CNPEN.

La troisième partie met en perspective les deux premières parties dans la question suivante : « En quoi le robot pose-t-il de nouvelles questions éthiques ? » Des exemples contemporains sont donnés. Ils soulèvent diverses questions éthiques qui peuvent afférer par exemple aux données personnelles, à la ressemblance de la machine avec le vivant, à l'« autonomie » de la machine...

#### b. Parties de développement :

Le corps du cours est découpé en trois parties :

- une réflexion éthique quant à la recherche en robotique elle-même;

- une réflexion éthique quant aux usages des robots, à leur place dans la société;

- une réflexion sur les techniques visant à embarquer de l'éthique dans un robot.
## Recherche en robotique

Cette partie s'intéresse en premier lieu à la visée des recherches en robotique. Est-il souhaitable de mener telle ou telle recherche spécifique ? Cette recherche comporte-t-elle des risques ? Existe-t-il des branches de la robotique qui posent des questions éthiques particulièrement aiguës ?

Cette partie traite ensuite des questions sous-jacentes à l'automatisation des fonctions décisionnelles, ainsi qu'à la question du vocabulaire employé dans la robotique, son écueil anthropomorphiste, la question du brouillage des frontières entre vivants et robots et la question des robots dits émotionnels. Il s'agit de réévaluer notre relation aux machines en évitant de tomber dans un rapport biaisé, basé sur une promotion de la machine pour ce qu'elle n'est pas, la plupart du temps une anthropomorphisation, qui revient à une imposture ontologique. Ces questionnements se retrouvent dans le rapport de la CERNA.

## Usages de la robotique

Cette partie évoque les usages de la robotique qui peuvent susciter des questionnements éthiques importants, tels que les robots de surveillance, les robots armés, les véhicules à conduite automatisée... Ces questionnements peuvent être de différents ordres, de la question des données personnelles à celles plus vastes de l'autonomie ou de la justice.

## Éthique embarquée

Cette partie interroge la possibilité de mettre en œuvre des connaissances relevant de l'éthique au sein de programmes informatiques. Il est à noter que Catherine Tessier est spécialisée sur ces questions et a développé des travaux sur ce sujet, notamment en co-dirigeant la thèse de Vincent Bonnemains intitulée « *Formal ethical reasoning and dilemma identification in a human-artificial agent system* ».$^{62}$

Catherine Tessier s'appuie dans son cours sur l'exemple classique du dilemme du trolley. C'est au cours de cette expérience de pensée que Catherine Tessier introduit les cadres de l'éthique normative : déontologisme, conséquentialisme, éthique des vertus et doctrine du double effet. Elle montre que l'éthique est toujours en contexte, c'est-à-dire qu'elle ne peut devenir effective que dans la réflexion qu'occasionne un cas concret ou imaginaire. Si l'on souhaite formaliser des connaissances relevant de l'éthique dans un langage mathématique, on arrivera vite à la conclusion que les termes sont difficiles à définir et impliquent des interprétations subjectives. Qu'est-ce qu'un effet positif ou négatif ? Qu'est-ce qu'une fin ? Un moyen ? Ainsi, Catherine Tessier conclut que la machine morale n'existe pas. En effet, les valeurs éthiques simulées dans un robot ne sont que des interprétations de concepts complexes. Catherine Tessier insiste sur le fait que la machine ne peut se substituer à un être humain et par conséquent être qualifiée de

<footnote>$^{62}$ Dans cette thèse, Vincent Bonnemains propose la formalisation de différentes théories éthiques en langage informatique et montre les possibilités et les limites de cette démarche.</footnote>
morale. De plus, la délibération éthique est un processus qui se construit dans une situation particulière. Son issue ne peut être fixée à l'avance car issue d'une réflexion commune. Il s'agit de « parler plutôt de machine incluant des connaissances relevant de la morale ou de l'éthique ».<sup>63</sup>

### c. Partie exercices

La partie exercices dure deux heures. Les étudiant·e·s sont invité·e·s à réfléchir, d'abord individuellement, puis en groupes, à une situation de dilemme moral mettant en jeu un robot. Il leur est demandé d'imaginer comment ils et elles coderaient ce robot pour qu'il agisse en accord avec certains cadres éthiques. Les étudiant·e·s sont invité·e·s à réfléchir à travers les grilles de lecture conséquentialiste, déontologique, selon la doctrine du double-effet et selon une grille de valeurs morales de leur choix à expliciter. Un rapport écrit relatant leurs délibérations est attendu pour la notation.

Catherine Tessier indique que cet exercice est difficile pour des élèves peu habitués à délibérer et à rédiger de cette manière.

## F) Pédagogies comparées

### 1. La part de la théorie et de la pratique

Lors de mes auditions, il a été très majoritairement formulé le fait que pour aborder l'éthique à destination d'un public d'ingénieur·e·s, il était préférable de privilégier la pratique à la théorie. C. Tessier déclare par exemple : « À mon avis, pour les ingénieurs, on peut en venir directement au fait sans passer par la culture générale ou l'histoire de l'éthique, ou seulement dans un deuxième temps. [...] Il faut les amener directement dans la pratique en leur présentant, par exemple, des situations de dilemmes. »<sup>64</sup> L'avis de C. Tessier se retrouve dans les auditions de G. Dowek et de M. Gornet qui, étudiante au moment de l'audition à l'ISAE-SUPAERO dans la filière informatique, affirmait que les élèves ingénieur·e·s en informatique, habitués aux enseignements mettant en avant des logiques à appliquer, ont plus de mal à entrer dans des concepts trop larges, sociologiques, philosophiques et autres, mais sont en attente de situer les enjeux éthiques et de comprendre leurs impacts réels dans la société.<sup>65</sup>

Cependant, on est en droit de se poser la question de savoir jusqu'à quel point il est possible ou désirable d'enseigner l'éthique sans s'arrêter sur les fondements théoriques de la discipline. Concrètement, on pourra se demander quelle doit être la place des théories éthiques traditionnelles issues de la philosophie. Sont-elles pertinentes dans un enseignement d'éthique du numérique ? Dans quelle mesure ? Et quelles sont les théories éthiques spécifiques à l'éthique du numérique.<sup>66</sup>

<footnote n="63"><sup>63</sup> Notes issues d'un entretien mené lors du stage.</footnote>

<footnote n="64"><sup>64</sup> Audition de C. Tessier, volume d'annexes du mémoire, p. 53.</footnote>

<footnote n="65"><sup>65</sup> Audition de M. Gornet, volume d'annexes du mémoire, p. 44.</footnote>

<footnote n="66"><sup>66</sup> Nous développerons ce point dans la partie IV, chapitre I, point B)</footnote>
La part consacrée aux enseignements théoriques varie assez fortement. Si les théories éthiques déontologique, conséquentialiste et de la vertu sont toujours évoquées, d'autres théories apparaissent. L'enseignement de C. Tessier travaille en profondeur sur l'éthique de l'usage, c'est-à-dire faire réfléchir les participant·e·s sur les dérives possibles des objets techniques qu'ils ou elles étudient dans leurs champs d'activité respectifs. Le cours de T. Ménissier consacre une demi-journée à l'exposition de cadres éthiques variés. Il introduit notamment des notions modernes telles que l'axiologisme et des penseur·euse·s contemporain·e·s tels que Martha Nussbaum. Son enseignement cherche à faire émerger une éthique spécifique à l'IA tout en apprenant à ses étudiant·e·s à se déplacer dans une pluralité de grilles de lecture éthique.

Du point de vue de la pratique, nous allons à présent nous interroger sur ce qui est entendu par « pratique éthique ». Les parties pratiques proposées par les enseignant·e·s sont de différentes natures. Si la pratique de la délibération éthique ressort dans les différents enseignements, différentes sensibilités sont palpables. Nous décelons chez C. Tessier un héritage habermassien mettant en avant une recherche de conciliation autour d'un débat collectif argumenté. É. Fourneret met de son côté en avant l'apprentissage de l'esprit critique et la pensée pragmatique. Nous repérons en outre dans son enseignement des techniques issues de la rhétorique tel que le dissoi logoi, lorsqu'il demande à ses étudiant·e·s d'argumenter une pensée qu'ils ou elles ne défendent pas eux·elles-mêmes. L'héritage pragmatique est aussi revendiqué par T. Ménissier dans sa volonté de mettre l'accent sur l'acquisition de compétences par ses étudiant·e·s et sa sensibilité pour le développement d'une approche corporelle et sensorielle.<fnref n="67" />

## 2. Connaissances / Compétences

Le questionnement que nous venons d'évoquer sur la part entre la théorie et la pratique revient à s'interroger sur l'approche de l'enseignement autour des notions de connaissances et de compétences. Nous nous appuyons dans ce paragraphe sur l'audition menée avec C. Didier qui nous a ouverte à ces problématiques appartenant aux sciences de l'éducation. Si cela peut sembler sortir du champ de l'éthique stricto sensu, il nous semble néanmoins indispensable de les évoquer dans le cadre d'une réflexion sur l'enseignement de l'éthique du numérique.

Pour C. Didier, si la notion de « compétence » est un allant de soi nord-américain, ce n'est pas le cas en France. Elle rappelle que, pour une grande part du monde universitaire français, la mise en avant de l'enseignement de « compétences » dévie la mission première de l'université quant à la transmission de savoirs vers une recherche de formation calibrée pour les besoins de l'entreprise. C. Didier estime que si la notion de compétence adaptée à l'enseignement de l'éthique mérite d'être réfléchie, on ne peut l'envisager sans la fonder sur un socle de connaissances solides. Or, la spécialiste pointe le manque, voire l'absence, de structures institutionnelles, de lieux identifiés et de revues de référence pour fonder la réflexion théorique en matière d'éthique du numérique en France, contrairement aux Pays-Bas où un

<footnote n="67">⁶⁷ Audition de T. Ménissier, volume d'annexes du mémoire, p. 49.</footnote>
laboratoire officie à cheval entre les quatre grandes universités de technologie du pays et mobilise cent cinquante chercheur·euse·s. Elle déclare : « *Pour créer des formations, on s'appuie sur les savoirs savants, qui sont les résultats de recherches qui ont une certaine robustesse, qui ont gagné de la reconnaissance à travers la communauté académique. Ensuite ces savoirs savants sont transformés en savoirs enseignables. Face aux étudiants, l'enseignant doit faire cette transposition didactique. Cela sous-entend qu'il y ait des savoirs savants. Or, il y a une difficulté à identifier où sont ces savoirs savants en éthique de l'ingénierie, de l'informatique... Le développement des compétences est une piste intéressante mais elle ne doit pas cacher le fait qu'on a besoin d'identifier les controverses académiques, les méthodes trouvées par les universitaires dans ce domaine.* »<fnref n="68" /> Par souci de justesse par rapport aux propos de C. Didier, nous citons une autre partie de son audition : « *Je ne dis pas qu'il n'y ait pas en France de personnes compétentes ayant développé des connaissances à ce sujet, je dis que les trouver demande un grand effort ! Moi, par exemple, on ne me trouve pas là où l'on devrait me trouver. Je n'exerce pas dans un lieu où l'on développerait des connaissances en éthique de l'ingénierie. J'exerce dans un laboratoire de sciences de l'éducation en tant que sociologue. Pourquoi ? Parce que quand j'étais en âge d'écrire une thèse, il n'existait rien.* » La sociologue souligne qu'à ce titre la situation n'a que très peu évolué.

Pour Christelle Didier, ce vide institutionnel est aussi un frein à la formation des formateur·trice·s en éthique du numérique. Or, Christelle Didier souligne un fort besoin et un risque pour les écoles de recruter du personnel n'ayant ni les compétences ni les connaissances nécessaires.

L'insistance de C. Didier sur la production de connaissances ne ressort pas dans les autres auditions, non parce que les avis seraient contraires, mais peut-être parce que la majorité des enseignant·e·s interrogé·e·s sont actif·ve·s dans la production desdites connaissances, sans pour autant que celles-ci parviennent à être restituées à la profession au sens large. D'autant que la tendance va majoritairement à la valorisation de la notion de compétence.

T. Ménissier considère par exemple que la transmission de connaissances, lorsqu'elle est destinée à des élèves ingénieur·e·s et des doctorant·e·s, ne peut se suffire à elle-même et doit également œuvrer à stimuler les compétences permettant de relier le savoir à l'action. Cet avis est largement partagé. Relier le savoir à l'action signifie par exemple être capable de repérer un dilemme éthique lorsqu'il se présente en contexte, ce qui n'est pas si évident qu'il y paraît.

Nous souhaitons pour finir évoquer l'enseignement d'une compétence plus originale, introduite par É. Fourneret : « *la compétence empathique* ». É. Fourneret déclare : « *Ma démarche en éthique est celle-ci : comment manager un groupe de personnes respectueusement. Et non pas, comment imposer sa vision des choses à un groupe de personnes. Je pense qu'il y a une dimension sociale éthique importante dans mon métier, qui est celle de faire des individus qui ne sont pas là pour écraser les autres, mais qui sont là pour les accompagner. Par conséquent, le développement des capacités empathiques est pour moi* »

<footnote n="68">⁶⁸ Audition de C. Didier, volume d'annexes du mémoire, p. 11.</footnote>
fondamental. ».<fnref n="69" /> La dimension sociale de l'éthique nous semble particulièrement intéressante dans la mesure où elle appelle à un « vivre ensemble » qui dépasse la pratique d'une éthique centrée sur l'individu. Cette compétence pose également la question de la place des compétences interpersonnelles dans l'enseignement de l'éthique du numérique. Au moment où l'intelligence artificielle automatise de nombreux champs d'activité, l'enseignement de l'empathie devient-elle une compétence relevant d'une nécessité morale nouvelle ?

### 3. La place de la philosophie

Comme nous l'avons déjà pointé, l'éthique du numérique ou/et l'éthique de l'IA sont des champs de recherche relativement jeunes et extrêmement actifs. Ainsi, de nombreux courants de recherches existent qui peuvent se référer à des philosophes et à des systèmes de pensée différents. Par ailleurs, et sûrement pour la première fois, l'éthique est mobilisée par les institutions dans une visée instrumentale ayant pour but d'accompagner le développement technologique européen. Or le temps de la philosophie n'a jamais été celui de l'industrie, et sa visée n'est pas instrumentale mais bien analytique. S'ouvre alors, à notre avis, un des questionnements principaux de l'enseignement de l'éthique du numérique : dans un tel contexte, que peut-il rester de la démarche philosophique ? Quelle place convient-il de lui donner ?

Nous allons dans cette partie nous arrêter sur la démarche de Thierry Ménissier qui prend le parti de la philosophie dans sa formation, « Éléments pour une éthique de l'IA, du numérique et de la donnée ». L'originalité de l'approche permet selon nous d'aborder tout aussi efficacement d'autres aspects de l'éthique de numérique et de faire participer les étudiant·e·s aux réflexions en cours dans le domaine de construction de l'éthique de l'IA<fnref n="70" />.

Cet enseignement mobilise en particulier les champs de la philosophie de la technique. Les alternances entre les moments de théorie et de pratique y sont présentes, comme dans les autres cours que nous avons recensés, mais le cours n'est pas introduit par un dilemme éthique. T. Ménissier lance le débat sur la technique et propose un cheminement de pensée où se succèdent les notions de progrès, la question de ce qu'est un système technique et la non-neutralité de la technique. Une fois ces grandes thématiques parcourues et discutées, elles sont corrélées avec les spécificités de l'IA, de la nature de cette nouvelle forme « d'intelligence » à l'interaction humain-machines et à la calculabilité du réel. C'est seulement dans un deuxième temps que sont introduites quatre théories éthiques ; le conséquentialisme, le déontisme et deux théories plus anciennes et moins communément enseignées, l'arétarisme et l'axiologisme. Ces théories ne sont pas mobilisées pour traiter d'un problème éthique à ce stade mais pour savoir si une éthique des systèmes technique est possible. En effet, l'éthique est pensée depuis l'Antiquité comme une aptitude strictement humaine en lien avec la cité et l'envisager pour un système technique ne va pas de soi. Il ne s'agit pas d'invalider le fait qu'un tel besoin émerge aujourd'hui mais d'interroger les bases de la réflexion à mener comme l'on dégage un terrain

<footnote n="69">⁶⁹ Audition d'É. Fourneret, volume d'annexes du mémoire, p. 30.</footnote>

<footnote n="70">⁷⁰ Nous avons assisté au séminaire intitulé « Éléments pour une éthique de l'IA, du numérique et de la donnée », dispensé du 1er au 3 juin 2021.</footnote>
avant de construire des fondations. C'est ainsi qu'est préparée la réflexion sur les dispositifs sociotechniques qui semble indispensable lorsque l'on veut réfléchir l'IA du point de vue éthique, sachant que le dispositif sous-entend par lui-même des valeurs de la société dans laquelle il se déploie, tel qu'a pu l'avancer Michel Foucault dans le cas du panoptique<sup>71</sup>. Ainsi Thierry Ménissier pousse ses étudiant·e·s à envisager des lieux que nous connaissons bien (les hôpitaux ou les gares...) comme des dispositifs sociotechniques puis de les mettre en rapport avec différentes théories de la justice.<sup>72</sup> T. Ménissier conclut sa formation par l'exposition de questionnement propres à l'éthique de l'IA en invitant ses étudiant·e·s à délibérer autour de problèmes éthiques complexes en la matière. Cette partie se veut clairement prospective et est intitulée avec un point d'interrogation « Quelle éthique de l'IA ? ».

L'enseignement de T. Ménissier mène à une pratique de l'éthique qui se dégage de la morale individuelle mais qui s'intéresse à la pensée éthique envisagée pour un collectif social. Dans cette perspective, il semble que les notions abordées de progrès et de dispositif sociotechnique (lié à la non-neutralité de la technique) soient un prérequis. Pour avoir participé nous-mêmes à cet enseignement, nous pouvons affirmer que loin d'être perdu·e·s, les personnes présentes, dont beaucoup d'ingénieur·e·s, ont pris beaucoup de plaisir à l'exercice car les notions philosophiques introduites résonnent toujours à l'épreuve de situations réelles, ce qui les éloigne d'une vision figée et rébarbative de l'enseignement de contenus théoriques.

En revanche, cette formation est dispensée à des doctorant·e·s et de surcroit, libres de s'y inscrire. La question se pose de savoir à quel niveau ce type de formation est envisageable et dans quelle formule (libre, optionnelle, obligatoire).

### 4. La question de l'adresse du public visé

> « Soit on vise à déterminer ces “honnêtes hommes” comme on disait au XVIe siècle, capables de parler de tout, avec ce côté humaniste, soit on veut former des gens à avoir des méthodes éthiques. Je pense que c'est très différent mais que ça communique et qu'il faut former les deux. » T. Ménissier.<sup>73</sup>

La composition des cours est fortement déterminée par la manière dont est envisagé le public. S'adressent-ils à un corps de métier, à une catégorie sociale, à une catégorie socio-professionnelle, à des citoyen·ne·s, ou à de futur·e·s travailleur·euse·s ? Dans l'optique où l'on s'adresse principalement à un corps de métier, tel que nous l'avons vu avec le cours dispensé par C. Tessier à destination des futur·e·s roboticien·ne·s, un vocabulaire spécifique devra être utilisé et des enjeux éthiques spécifiques proposés. Si l'on s'adresse à une catégorie sociale, c'est-à-dire tel que l'argumente C. Didier<sup>74</sup> à « des élites » ayant vocation à gérer des équipes

<footnote n="71"><sup>71</sup> M. Foucault. *Surveiller et Punir*. Gallimard. 1993.</footnote>

<footnote n="72"><sup>72</sup> Utilitarisme, Républicanisme (méritocratisme), Marxisme, La « justice comme équité » de John Rawls, La réaction « libertarienne » : R. Nozick, Les « communautariens » : M. Sandel, M. Walzer, C. Taylor, La théorie des « capabilités » : A. Sen et M. Nussbaum</footnote>

<footnote n="73"><sup>73</sup> Voire Audition de T. Ménissier, volume d'annexes du mémoire, p. 49.</footnote>

<footnote n="74"><sup>74</sup> Voire Audition de C. Didier, volume d'annexes du mémoire, p. 9.</footnote>
ou être dans des postes de direction, la dimension de responsabilité sera plus sensiblement mise en avant. Si l'on s'adresse à une catégorie socio-professionnelle, les ingénieurs en général, les outils déjà disponibles de l'éthique de l'ingénierie pourront être mis à profit. Si l'on s'adresse à des citoyens, tel que l'envisage par exemple R. Chatila, la réflexion sur les valeurs éthiques prendra le dessus, tel que la dignité humaine, la démocratie, la justice... Dans l'optique de la formation citoyenne, il sera aussi question, tel que le pratique É. Fourneret, d'augmenter la capacité argumentative des étudiants afin de gagner en autonomie intellectuelle. Enfin, si l'on privilégie la piste des futurs travailleurs, la notion de compétence sera mise en avant. Le savoir acquis devra pouvoir être mis en pratique et il deviendra nécessaire d'intégrer une partie sur la législation existante.

Il semble évident que les différentes adresses sont complémentaires, pourtant il nous semble important de les souligner pour mieux mettre au jour les différences d'approches entre les formations proposées et les possibles manières de les construire.

## 5. Outils pédagogiques

Nous avons relevé dans les auditions de nombreuses créations d'outils pédagogiques. Ces initiatives reflètent le dynamisme du champ de l'enseignement de l'éthique du numérique.

Nous développerons les outils favorisant un investissement corporel dans l'apprentissage dans la partie IV dans le paragraphe intitulé « Exemples d'exercices pouvant être utilisés pour l'intégration de l'émotion et du corps dans l'enseignement de l'éthique du numérique. ». Nous nous contentons ici de rappeler l'initiative de Y. Ferguson qui a créé, avec une équipe de chercheurs, une grille technico-éthique<sup>75</sup> rassemblant des questions auxquelles les étudiants sont invités à réfléchir concernant diverses inventions technologiques. Les questions sont relatives à différents points mettant en jeu les valeurs éthiques : les usages, les impacts sur l'humain, la société et la planète.

## G) La fronde des ingénieurs

La fronde des ingénieurs en France est de plus en plus relayée dans la presse française. Elle fait écho au refus d'une frange des étudiants à participer à un système jugé incompatible avec les impératifs de sobriété liés à la crise environnementale. Des interruptions d'études ou des refus de travailler dans des domaines jugés nocifs sont décrits comme étant de plus en plus fréquents. Ce phénomène apparaît en filigrane dans les auditions.

Yann Ferguson témoigne de la régularité avec laquelle des étudiants viennent à sa rencontre pour évoquer leur refus de poursuivre leur activité dans l'industrie et leur poursuite déçue d'une quête de sens. Y. Ferguson déplore la difficulté des unités d'enseignement à intégrer et développer le potentiel de ces étudiants et indique la nécessité de réenvisager le rôle des écoles. Il déclare : « On doit peut-être arrêter de se dire que notre rôle c'est de former

<footnote n="75"><sup>75</sup> Volume d'annexes du mémoire, p. 26.</footnote>
des ingénieurs pour l'industrie, mais de se dire que l'ingénierie est une compétence qui doit
porter des idées de progrès qui pourront être délivrées dans tous les domaines de la société,
qu'elles soient liées au domaine industriel ou au domaine associatif, liées à la technique ou
pas. »<fnref n="76" />

Catherine Tessier et Thierry Ménissier notent un engouement croissant pour les questions d'éthique qui croisent les problématiques environnementales. La quête de sens des étudiant·e·s les mène selon eux au désir de s'interroger et d'approcher de nouvelles façons de penser. T. Ménissier note une méfiance des jeunes ingénieur·e·s à l'égard de l'idée de « progrès industriel », qui se prolonge dans une méfiance envers le monde de l'entreprise et de l'industrie, qu'il affirme être identifiée par des cadres de haut niveau des grands groupes.<fnref n="77" />

Un article de Christelle Didier de 2020 relativise l'ampleur du phénomène de fronde. La chercheuse indique qu'il ne touche qu'un pourcentage modeste de la population des étudiant·e·s en ingénierie. <fnref n="78" /> Cependant, C. Didier affirme que si le phénomène de fronde est un « signal faible », il mérite par sa nouveauté la plus grande attention.

## H) L'orientation philosophico-politique des formations

Lors de la première audition que j'ai menée, Gilles Dowek a insisté sur la défiance d'une vaste partie des ingénieur·e·s à l'égard de la philosophie et des SHS et la nécessité de développer une approche de l'enseignement de l'éthique adaptée à ce public.

G. Dowek introduit dans son audition la question de l'orientation politico-philosophique des formations. Selon lui, les élèves ingénieur·e·s sont confrontés à un préjugé social assez fort qui repose sur « une dévalorisation générale de la technique »<fnref n="79" /> qui débouche sur une mise en accusation de la technique et des technicien·ne·s quant à l'état actuel du monde. Ce préjugé pousse en retour les ingénieur·e·s à considérer a priori les chercheur·e·s en SHS comme technocritiques. Pour cette raison, certains courants philosophiques, tel que l'école de Francfort<fnref n="80" />, ne sont pas appropriés pour séduire et intéresser un public d'ingénieur·e·s selon G. Dowek. En effet, plutôt que d'être perçues comme des portes ouvertes à la réflexion, ces approches pourraient être vues comme des attaques envers le métier lui-même et braquer les élèves.

Ainsi, afin de ne pas amener de débats qui pourraient donner l'impression de remettre en question la technique en tant que telle et donc les ingénieur·e·s en tant que tel·le·s, G. Dowek distingue deux manières d'aborder les problèmes de fond : la manière concrète et la manière abstraite. Prenons l'exemple où l'on souhaite aborder le bon ou le mauvais usage des

<footnote n="76">⁷⁶ Audition de Y. Ferguson, volume d'annexes du mémoire, p. 23.</footnote>

<footnote n="77">⁷⁷ Audition de T. Ménissier, volume d'annexes du mémoire, p. 50.</footnote>

<footnote n="78">⁷⁸ C. Didier, « Chercheurs de sens, discrètes sentinelles d'un monde qui vient. » *revue responsables*, MCC, 2020, 447, p. 14-15.</footnote>

<footnote n="79">⁷⁹ Audition de G. Dowek, volume d'annexes du mémoire, p. 15.</footnote>

<footnote n="80">⁸⁰ L'école de Francfort est un courant de pensée allemand des années 50 qui opère une critique sociale du capitalisme. Parmi les intellectuels impliqués dans ce courant de pensée, on peut citer Max Horkheimer, Theodor Adorno, Jürgen Habermas.</footnote>
technologies. La manière concrète serait par exemple d'interroger les étudiant·e·s sur le fait de savoir si les algorithmes d'analyse d'images peuvent servir à faire de l'analyse médicale sans servir à faire de la reconnaissance faciale. La manière abstraite consisterait à interroger la technologie elle-même en généralisant le problème, par exemple en posant la question : comment faire pour que les technologies soient vertueuses et non perverses ?

Nous ne souhaitons pas surinterpréter les propos de G. Dowek. Ainsi le paragraphe qui suit est un questionnement personnel quant au discours techno-critique et la question de la neutralité de la technique. Il paraît logique d'admettre que la pensée techno-critique ne soit pas la plus appropriée à l'égard à de futur·e·s acteur·trice·s du domaine de la technique. Nonobstant, la frontière entre discours techno-critique et critique de la technique est un terrain glissant qu'il convient de ne pas de confondre. La question de l'utilité, mise en avant par C. Tessier et R. Chatila, pourrait peut-être, si l'on n'y prend garde, être considérée comme techno-critique. D'autant plus que la dimension politique est particulièrement active aujourd'hui dans les écoles d'ingénieurs. Le phénomène de fronde que nous avons évoqué précédemment montre qu'une frange des étudiant·e·s rejettent l'instrumentalisation de la technique au service d'un modèle économique qu'il·elle·s jugent destructeur. Notons à ce titre l'exigence de la fédération « Ingénieurs sans frontières » qui a publié en 2014 un manifeste intitulé « Manifeste Pour une formation citoyenne des ingénieur·e·s » dans laquelle ils déclarent : « *Les techniques et méthodes enseignées définissent le plus souvent la rentabilité du capital comme priorité absolue, sans que ce but ne soit avoué ou remis en cause.* L'enseignement de la complexité socio-environnementale des choix techniques (controverses scientifiques, épistémologie, jeux de pouvoir,...) est trop souvent partiel dans les formations en ingénierie. Ceci impose à tort une vision dépolitisée et neutre de la technique et alimente une croyance dans le progrès technique universel. Nous demandons que le sens politique de la technique, c'est-à-dire le fait qu'elle incarne des choix de modèles de société, soit révélé au cours de la formation, la posture neutre étant également une posture politique.* »<fnref n="81" /> Il nous semble donc que, si le discours techno-critique n'est pas approprié, envisager la non-neutralité de la technique est indispensable. L'objection que nous pourrions faire à G. Dowek est la généralisation de sa vision du public des ingénieur·e·s qui est peut-être moins uniforme aujourd'hui qu'auparavant, au moment où la crise environnementale les place dans une position éthique difficile.

Si la dimension politique est discutable, il semble communément admis parmi les personnes auditionnées que le public des ingénieur·e·s est un public spécifique, pour lequel la dimension appliquée de l'enseignement éthique est centrale pour gagner leur intérêt, d'autant que la réflexion éthique est souvent une façon de penser nouvelle pour cette catégorie d'étudiant·e·s, qui peut les dérouter. Catherine Tessier relate par exemple que la délibération éthique peut parfois déclencher des réactions assez violentes, d'agacement ou de frustration, chez certain·e·s étudiant·e·s peu habitué·e·s à penser qu'il n'existe pas de réponse tranchée ou unique à un problème.<fnref n="82" /> De façon assez large, les enseignant·e·s recommandent, pour intéresser ces catégories d'élèves, d'éviter d'entrer en matière en exposant les théories philosophiques ou

<footnote n="81">⁸¹ Ingénieurs sans frontières, « Manifeste pour une formation citoyenne des ingénieur.es », p. 1.</footnote>

<footnote n="82">⁸² Audition de C. Tessier, volume d'annexes du mémoire, p. 54.</footnote>
éthiques et l'histoire de la pensée mais de privilégier les exemples appliqués. Cependant, les enseignant·e·s soulignent aussi chacun à leur manière des besoins théoriques touchant à l'histoire de la technique<sup>83</sup>, à l'histoire de la pensée<sup>84</sup>, aux théories éthiques<sup>85</sup> et aux théories philosophiques<sup>86</sup>. Nous voyons ici une zone grise particulièrement intéressante pour notre mémoire convoquant une série de questions : comment concilier les attentes du public des ingénieur·e·s avec la pratique de l'éthique et ses modes opératoires ? Comment réconcilier les ingénieur·e·s avec la philosophie ? Est-ce nécessaire ? Les formations doivent-elles apporter aux ingénieur·e·s ce qu'il·elle·s attendent ou au contraire assumer, comme le déclare C. Tessier, que « *le rôle de l'éthique est aussi de bousculer les façons communes de penser* »<sup>87</sup> ? Comment rétablir auprès d'étudiant·e·s sceptiques la valeur de la philosophie et de l'éthique en tant que sciences sans aborder en profondeur ses mécanismes et outils méthodologiques ?

## I) La formation idéale à l'éthique du numérique selon les personnes auditionnées

Nous avons posé aux personnes auditionnées la question de savoir quelle serait, à leur avis, la formation idéale à l'éthique du numérique.

Yann Ferguson développe dans son audition une vision novatrice de ce que devrait être l'enseignement de l'éthique. Pour lui, la principale chose à faire serait de cesser de décorréler enseignement technique et enseignement éthique. En ce sens, il rejoint la vision de Christine Froidevaux qui plaide pour un enseignement de l'éthique transversal où l'éthique serait une démarche propre à irriguer tous les domaines, et qui pourrait être activée à toutes les étapes en fonction des besoins.<sup>88</sup> Yann Ferguson décrit cette nouvelle approche de l'enseignement de l'éthique comme une « éthique embarquée ». Il déclare : « *L'éthique aurait un espace dédié beaucoup plus faible et un espace appliqué beaucoup plus fort. L'éthique devrait être embarquée dans tous les domaines de l'ingénierie, dans tous les programmes.* »<sup>89</sup>

La logique de projet est un autre aspect de la formation idéale imaginée par Yann Ferguson. Il cite à ce sujet les pédagogies basées sur le « problem based learning » qui donnent aux étudiant·e·s un problème concret à résoudre au fil duquel les élèves acquièrent dans la pratique différents savoirs. L'ICAM a fait le pari d'intégrer cette méthode assez nouvelle dans son cursus le plus expérimental intitulé « Parcours ouvert » où 30% des enseignements sont basés sur le « problem based learning ». L'ambition est de permettre de « former des ingénieurs qui soient plus compétents pour des problèmes éthiques, des questions d'innovation et d'interculturalité. »<sup>90</sup>

<footnote n="83"><sup>83</sup> Audition de G. Chatila, volume d'annexes du mémoire, p. 6.</footnote>

<footnote n="84"><sup>84</sup> Audition de G. Grinbaum, volume d'annexes du mémoire, p. 42.</footnote>

<footnote n="85"><sup>85</sup> Audition d'É. Fourneret, volume d'annexes du mémoire, p. 29.</footnote>

<footnote n="86"><sup>86</sup> Voir plan de cours de T. Ménissier.</footnote>

<footnote n="87"><sup>87</sup> Audition de C. Tessier, volume d'annexes du mémoire, p. 53.</footnote>

<footnote n="88"><sup>88</sup> Audition de C. Froidevaux, volume d'annexes du mémoire, p. 36.</footnote>

<footnote n="89"><sup>89</sup> Audition de Y. Ferguson, volume d'annexes du mémoire, p. 21.</footnote>

<footnote n="90"><sup>90</sup> Audition de Y. Ferguson, volume d'annexes du mémoire, p. 22.</footnote>
Dans cette logique, le corps professoral est envisagé comme un ensemble de représentants de disciplines différentes mobilisables dans le cadre du projet aux moments adéquats. Y. Ferguson parle « d'enseignement collégial » et déclare : « *Un cours d'IA se fera à plusieurs voix, la voix de l'historien, du sociologue s'il le faut, du juriste, du mathématicien, du développeur, de l'éthicien. Nous n'aurions plus de monologues mais des doubles voix où chacun reconnaît qu'il n'a pas la vérité mais seulement une partie.* »<sup>91</sup> Pour Y. Ferguson, la visée de cette formation idéale serait humaniste et écologiste et nécessiterait pour y parvenir une concertation entre les disciplines.

Cette vision de Y. Ferguson rejoint celle de Gilles Dowek en ce qu'elle recommande de fonctionner par projet et d'intégrer les ingénieurs à l'élaboration du programme dans une logique de co-construction. Cette co-construction pourrait s'imaginer dans le cadre proposé par Y. Ferguson en donnant la possibilité aux étudiants de faire appel aux enseignants au moment adéquat en fonction de l'avancée du projet et des difficultés rencontrées ou, en allant un pas plus loin, en demandant aux élèves de coconstruire la définition même du projet à développer.

Ces visions de formations très appliquées diffèrent de l'enseignement tel qu'il est majoritairement dispensé à l'heure actuelle. Une étude serait nécessaire pour comprendre à quel type de filière et d'étudiant·e·s ce mode d'apprentissage pourrait être bénéfique.

Nous allons maintenant nous pencher sur les formations idéales envisagées dans le prolongement d'une approche plus généraliste de l'enseignement de l'éthique du numérique.

Nous notons dans l'ensemble que les personnes auditionnées souhaiteraient un temps plus long pour leurs formations. Alexeï Grinbaum recommande que les ingénieurs qui se destinent aux métiers de l'informatique directement liés au secteur de l'IA bénéficient d'une formation plus longue de 24 h, 12 h lui paraissent suffisantes pour les autres étudiant·e·s.

Éric Fourneret déplore que l'enseignement d'éthique ne s'opère dans sa filière qu'à la quatrième année d'étude. Si sa formation peut paraître assez longue (24 heures) comparée à d'autres, elle ne lui permet « qu'un survol » car elle est ramassée sur une période de l'année, sans temps entre les cours pour laisser les élèves assimiler la matière. Elle est aussi trop courte selon É. Fourneret au vu des lacunes méthodologiques accumulées qui auraient dû être réglées bien plus tôt dans leur parcours scolaire.<sup>92</sup> Pour pallier ces lacunes, É. Fourneret préconise que les élèves reçoivent un enseignement de philosophie ou d'éthique dès la première année de leurs études à l'université.

Du côté des étudiant·e·s, Mélanie Gornet déclare que, si elle a grandement apprécié le cours d'éthique suivi avec Catherine Tessier, la nouveauté de ce type de pensée demanderait un peu plus de temps. Elle explique que l'identification d'un dilemme moral est un apprentissage en

<footnote n="91"><sup>91</sup> Audition de Y. Ferguson, volume d'annexes du mémoire, p. 21.</footnote>

<footnote n="92"><sup>92</sup> Audition d'É. Fourneret, volume d'annexes du mémoire, p. 29.</footnote>
soi et que le fait d'apprendre dans la délibération à dévier de sa position initiale ne va de soi pour un public autrement entraîné à trouver « la bonne solution » le plus rapidement possible.

Enfin, nous notons que si tous les enseignant·e·s ne s'accordent pas sur le moment où la formation en éthique devrait commencer, cela est dû à la structuration des études dans les différents lieux d'enseignement. En école d'ingénieurs, les trois premières années sont généralistes. Comme l'explique Christelle Didier<fnref n="93" />, les élèves ne sont pas encore à ce moment-là en prise avec le métier réel d'ingénieur·e et il est plus pertinent d'introduire des cours d'éthique quand les élèves ont commencé à faire des stages et à apprendre un cœur de métier, vision que partage Mélanie Gornet qui recommande que les cours d'éthique du numérique interviennent au moment où les étudiant·e·s se spécialisent afin que les élèves qui s'orientent vers les branches informatiques puissent en bénéficier et que les autres filières en soient dispensées. Les universités pourraient intégrer des cours de philosophie et/ou d'éthique plus tôt comme le recommande É. Fourneret.

## J) L'éducation à l'éthique peut-elle être considérée comme contribuant à une innovation européenne ?

En lien avec les incitations et efforts européens pour développer une innovation qualifiée de « responsable » pour laquelle le mot « éthique » revient largement, nous avons demandé aux personnes auditionnées leur avis sur le fait que l'éducation à l'éthique du numérique puisse participer, et même devenir un levier pour une innovation différente, notamment dans le champ de l'intelligence artificielle.

Les retours des personnes auditionnées s'accordent majoritairement à dire que l'éducation à l'éthique du numérique peut participer à une innovation (dans le sens de création de produits) différente. Cependant, ils mettent en avant de nombreuses nuances et mises en garde.

Pour Alexeï Grinbaum, les conversations, débats, recherches, études sur l'éthique ont déjà une influence sur le travail des ingénieur·e·s dans la mesure où l'on s'inquiète des biais possibles, qu'on les documente et qu'on tente d'y remédier. Si ce souci de l'éthique a eu un effet sur les ingénieur·e·s, on peut présumer qu'il ait déjà mené à l'élaboration de produits différents. Cependant, le but de l'enseignement de l'éthique ne peut être motivé par le fait de devenir un levier d'innovation car l'éthique n'est pas une gestion de risques mais bien une discipline intellectuelle de réflexion.

Raja Chatila met également en garde contre le terme d'innovation. Pour lui, le terme est trop souvent employé pour faire la promotion d'un produit à vendre en refusant les contraintes. Il déclare : « *L'innovation n'est pas une déesse à laquelle tout sacrifier* ».<fnref n="94" /> Cependant, l'éthique peut permettre une innovation différente en encourageant d'autres types d'innovations

<footnote n="93">⁹³ Audition de C. Didier, volume d'annexes du mémoire, p. 14.</footnote>

<footnote n="94">⁹⁴ Audition de R. Chatila, volume d'annexes du mémoire, p. 6.</footnote>
plus conformes aux valeurs européennes. En ce sens, l'éthique ne doit pas ralentir pas l'innovation mais l'orienter.

Catherine Tessier est dans la même ligne que Raja Chatila et défend que l'éthique n'est pas un obstacle mais qu'au contraire, elle peut mener à aller plus loin du point de vue technique.

Yann Ferguson met en valeur le fait qu'une formation à l'éthique va devenir un vrai plus pour les ingénieur·e·s. En effet, les règlementations européennes sur l'IA vont à courte échéance s'appliquer avec leur lot de normes à mettre en œuvre. La société est elle aussi plus demandeuse de produits plus respectueux de l'environnement, par exemple avec un souci de réparabilité, ou plus respectueux de la vie privée. Ainsi, les ingénieur·e·s capables de concevoir des produits avec des demandes sociales éthiques embarquées seront plus demandé·e·s.

Enfin, Mélanie Gornet souligne l'aspect géopolitique du vocabulaire choisi par une Europe cherchant à différencier ses productions technologiques de celles de ses concurrents américains et chinois. Si M. Gornet travaille à ce que l'éthique compte dans le développement informatique, elle reste sceptique sur la capacité européenne à rivaliser avec la puissance des outils créés par les Gafam.
# QUATRIÈME PARTIE

## La pensée éthique au carrefour de l'essor des techniques de traitement automatisé de l'information et de la crise environnementale.

## Quelles conséquences pour la formation à l'éthique du numérique dans l'enseignement supérieur ?

## Chapitre I : Les valeurs et principes éthiques

Mon stage au CNPEN m'a permis de ressentir l'effort collectif de l'institution pour définir et délimiter un nouveau champ de la pensée. En effet, un des paris du CNPEN est de spécifier les particularités de la réflexion éthique dans le domaine numérique par rapport à celui de la bioéthique, afin de s'en démarquer tout en assumant sa filiation. Pour rendre sa démarche visible, le CNPEN a publié en janvier 2022, après ses deux premières années d'existence, un ouvrage collectif intitulé *Pour une éthique du numérique*. Cet ouvrage<sup>95</sup> propose une série d'articles rédigés par les membres du comité, qui placent les fondations intellectuelles de l'institution, affirment ses ambitions, caractérisent et questionnent son objet d'étude. La question des valeurs éthiques traverse l'ouvrage. Il est question de se demander en quoi l'éthique du numérique remet en question, ou pas, les valeurs utilisées jusqu'à présent par la bioéthique, et quelles sont les valeurs nouvelles propres à l'éthique du numérique. Nous allons dans un premier temps nous appuyer sur les publications du CNPEN et d'autres sources pour traiter des discussions autour des valeurs héritées de la bioéthique. Nous aborderons les valeurs de bienfaisance, d'autonomie et de dignité humaine. Dans un second temps, nous envisagerons les valeurs propres au déploiement des produits numériques sur l'ensemble de leur cycle de vie en nous concentrant sur deux d'entre elles : l'explicabilité et la transparence. Nous finirons cette partie par la mise en avant des recherches d'une ingénieure française qui a travaillé sur les valeurs éthiques dans le cadre d'un projet utilisant de l'apprentissage machine. Sa démarche nous semble pouvoir faire modèle dans le cadre d'un enseignement d'éthique appliquée pour les filières informatiques, que nous développerons dans la partie de recommandations de ce mémoire.

### A. La remise en question des valeurs éthiques héritées de la bioéthique.

#### 1. Le principe de bienfaisance

Raja Chatila dans son article *Bioéthique et éthique du numérique : une hybridation paradoxale*<sup>96</sup>, revient sur l'histoire de la bioéthique. Il rappelle que le principe de bienfaisance

<footnote n="95"><sup>95</sup> Comité national pilote d'éthique du numérique - *Pour une éthique du numérique*. Coordonné par Éric Germain, Claude Kirchner, Catherine Tessier, PUF, février 2022, ISBN 978-2-13-083348-2</footnote>

<footnote n="96"><sup>96</sup> *Ibid.*, p. 27.</footnote>
est un héritage du sixième principe du code de Nuremberg, repris par la suite dans les trois principes du rapport Belmont, ainsi qu’un des quatre principes mis en avant par les philosophes américains Childress et Beauchamp<fnref n="97" />, auteurs de *Les principes de l’éthique biomédicale*, un ouvrage de référence pour la pratique médicale. Une fois ces rappels historiques effectués, R. Chatila pose le constat que le principe de bienfaisance, qui enjoint à pratiquer dans le cadre médical ce qui est bénéfique pour le patient, ne pourrait prétendre à la même définition dans le domaine du numérique.

Si l'on conçoit aisément que les traitements médicaux, liés par essence à la vie et à la mort des personnes, se doivent d'être dispensés dans une visée de bénéfice pour le patient, la question du bénéfice est sujette à discussion dans le traitement automatisé de l'information. Les innovations technologiques sont-elles toujours au bénéfice des utilisateurs (l'équivalent des patients en bioéthique) ? Plusieurs membres du comité, dont R. Chatila, soulèvent la question de la finalité des objets numériques et prennent un parti pris courageux, celui de la questionner. Catherine Tessier clôt son article intitulé *Parler du numérique et de son éthique : un questionnement... éthique* par un appel à poser la question du « au nom de quoi » dans les débats éthiques. Elle écrit : « *Si le numérique offre de formidables possibilités, il faut en interroger les techniques, les motivations, les besoins, et savoir identifier au nom de quoi, de quelle valeur, de quel principe, de quel besoin, est conçu un objet numérique. Car il n'est pas certain que la bienfaisance envers l'humanité soit toujours le moteur principal de sa conception et de sa diffusion dans la société.* »<fnref n="98" /> Poser la question de la raison d'être de l'objet est presque taboue tant le secteur numérique a fait de l'innovation son moteur de développement économique.

Poser la question du pourquoi implique, selon Raja Chatila, de privilégier la grille de lecture éthique déontologique sur la grille conséquentialiste car, selon lui, les traditions éthiques ne sont pas également capables d'envisager et de traiter la question de la finalité des objets. Il regrette qu'au niveau européen, la grille conséquentialiste semble avoir été privilégiée alors que le HLEG<fnref n="99" /> avait formulé préalablement sept exigences pour guider la conception des systèmes à base d'IA qui découlaient d'une vision déontologique. La conception déontologique, défendue par R. Chatila, sous-entend que des choses puissent être interdites par principe par la loi si elles sont reconnues non vertueuses, comme par exemple incompatibles avec la notion de dignité humaine comme l'ordonne l'impératif kantien : « *Agis de façon telle que tu traites l'humanité, aussi bien dans ta personne que dans toute autre, toujours en même temps comme fin, et jamais simplement comme moyen* ». C'est ainsi que le clonage humain a été interdit au niveau mondial<fnref n="100" />. À l'inverse, pour les défenseurs de l'éthique conséquentialiste, il n'y a pas

<footnote n="97">⁹⁷ Thomas Beauchamp, James Childress, *Principles of Biomedical Ethics*, New York, Oxford University Press, 2012, 7ᵉ éd.</footnote>

<footnote n="98">⁹⁸ C. Tessier, « Parler du numérique et de son éthique : un questionnement... éthique », dans CNPEN, *Pour une éthique du Numérique, op. cit.*, p.105.</footnote>

<footnote n="99">⁹⁹ Groupe d'experts de haut niveau sur l'intelligence artificielle en français (IA HLEG). Les sept exigences citées sont : l'action humaine et le contrôle humain, la robustesse technique et sécurité, le respect de la vie privée et gouvernance des données, la transparence, la diversité, non-discrimination et équité, le bien-être sociétal et environnemental et la responsabilité.</footnote>

<footnote n="100">¹⁰⁰ Le clonage humain a été interdit par l'Assemblée générale des Nations Unies le 8 mars 2005. Cependant, cette déclaration est non contraignante. À l'heure actuelle, aucun pays n'autorise formellement le clonage mais tous n'ont pas de lois s'y opposant, ce qui crée un flou juridique.</footnote>
de bonnes ou mauvaises actions a priori, c'est le différentiel entre leurs conséquences positives et négatives qui définit la valeur morale, ou la conformité si l'on parle d'objets. R. Chatila pointe le fait que l'éthique conséquentialiste choisie par la Commission européenne évacue la question de la finalité en se focalisant sur l'évaluation des processus. En effet, l'analyse des conséquences que peut recouvrer un objet technique ne pose pas la question de la désidérabilité de l'objet lui-même.

Ce questionnement sur la bienfaisance, c'est-à-dire sur la finalité d'une invention doit-elle être posée dans l'enseignement de l'éthique du numérique à destination des ingénieurs ?

Selon le manifeste du The Shift Project, elle doit l'être mais selon un modèle bénéfices-risques basé sur une logique de soutenabilité environnementale, qui sous-entend de bannir certaines innovations si elles ne sont pas justifiables au regard de la pollution qu'elles engendrent : « renoncer aux technologies zombies qui sont incompatibles avec les enjeux car elles utilisent des ressources non-renouvelables (énergies fossiles et matériaux limités), elles sont obsolescentes (durabilité minimale en état de marche) et encombrantes sous forme de déchet (durabilité maximale sous forme de déchet). Par exemple, certaines technologies numériques (6G, domotique généralisée...) ».<fnref n="101" />

L'ouvrage de Fanny Verrax et Laure Flandrin, *Quelle éthique pour l'ingénieur ?* invite également à poser la question de la finalité. Les autrices mettent en avant « l'éthique de la responsabilité » dans la lignée de la pensée d'Hans Jonas.

« L'éthique de la responsabilité » tourne le regard vers le futur et propose d'endosser nos responsabilités non pas uniquement pour les actions déjà accomplies mais pour celles qui devront l'être. Hans Jonas revisite l'impératif kantien et le reformule en une maxime appropriée aux enjeux de notre temps : « Agis de façon que les effets de ton action soient compatibles avec la Permanence d'une vie authentiquement humaine sur terre. »<fnref n="102" /> Cette maxime revisitée, contrairement aux apparences, est de type conséquentialiste, car elle prévient des conséquences à venir, mais avec un fondement téléologique. Elle diffère aussi de la déontologie kantienne dans la mesure où l'intention de l'agent n'est plus l'étalon de la décision éthique. En effet, le développement technologique humain a atteint un stade où la technique s'est constituée en réseaux. Dans ce contexte, les intentions d'un agent, même vertueuses, peuvent se transformer en catastrophe car l'échelle de déploiement du numérique et sa structure réseautique rendent impossible d'envisager toutes les conséquences d'une action. Selon Hans Jonas, au regard de la puissance de la technique moderne, l'ingénieur devrait régler son action sur le pire des scénarios et non sur les scénarios les plus optimistes. Il appelle à une « heuristique de la peur »<fnref n="103" /> ayant pour but d'anticiper les conséquences de nos inventions afin d'éviter le pire. F. Verrax et L. Flandrin attirent l'attention des ingénieurs sur leurs responsabilités vis-à-vis des générations futures mais prennent soin de la prolonger à toute la communauté sociale. Elles

<footnote n="101">¹⁰¹ The Shift Project, *Former l'ingénieur du XXIᵉ siècle*, Manifeste (2022), p. 80.</footnote>

<footnote n="102">¹⁰² J. Hans, *Le Principe responsabilité*, trad. fr. J. Greisch, Paris, Les éditions du Cerf, 2013, (reprise de l'édition de 1995), p. 40.</footnote>

<footnote n="103">¹⁰³ *Ibid.*, p. 65.</footnote>
écrivent : « Pour autant, la mise en œuvre du principe de responsabilité ne va pas de soi et la
technique est un sujet trop important pour être laissée aux seuls techniciens, ingénieurs et
industriels. Comme l'éthique économique, l'éthique des techniques ne concerne jamais
seulement les ingénieurs et engage le niveau de la responsabilité collective. »<fnref n="104" />. Pour parvenir
à cette responsabilité collective, elles en appellent à une démocratie technique où les
orientations technologiques pourraient être discutées dans l'espace social et où l'ingénieur e
serait un e citoyen ne responsable faisant le lien entre la société et les sciences.

Selon les textes que nous venons d'évoquer et dans la majorité des auditions d'enseignant·e·s menées, la question de l'utilité est clairement mise en avant. Mais si son besoin se fait entendre, cette question reste problématique car elle peut percuter certains intérêts économiques. Cependant, la période de crise environnementale et systémique que nous traversons entraîne de profondes remises en question et oblige les entreprises à se repositionner. Ainsi, la question de l'utilité sera-t-elle peut-être plus forte à l'avenir ? En attendant, R. Chatila souligne à regret que les écoles ne sont pas structurées à l'heure actuelle pour permettre aux futur·e·s ingénieur·e·s de se poser des questions telles que : À quoi ce que je fais va-t-il servir ? A-t-il une plus-value sociale ? Qu'apporte-t-il par rapport à ce qu'il y avait avant ?

Nous abondons dans le sens de R. Chatila à la lumière du phénomène de fronde qui apparaît de plus en plus fortement dans les écoles d'ingénieurs. Si la question du sens est pour cette génération une nécessité, l'aborder dans les formations semble être un devoir, autant moral que stratégique.

2. Le principe d'autonomie

Longtemps réservé à l'humain, le concept d'autonomie est aussi utilisé pour qualifier des machines fortement automatisées comme les robots et leurs fonctionnalités. Ce changement bouleverse en profondeur une humanité obligée de repenser ses fondamentaux et de s'adapter en très peu de temps à une approche radicalement nouvelle de son lien à la technique.

Fanny Verrax et Laure Flandrin dans Quelle éthique pour l'ingénieur ? se penchent sur notre rapport à la technique et écrivent : « Les objets techniques déjà utilisés par nos ancêtres (un couteau de cuisine, un instrument de musique, une machine à coudre, etc.) partagent tous une double caractéristique : l'humain qui utilise l'objet doit apprendre à s'en servir et améliore sa compétence en le faisant, tandis que l'objet reste inchangé (une guitare ne devient pas une meilleure guitare parce qu'elle a été utilisée pour de nombreux concerts ; son utilisateur, en revanche, devient meilleur guitariste). Aujourd'hui, les systèmes embarqués et certains outils informatiques présentent le profil inverse : le temps d'apprentissage de l'utilisateur est minime, alors que la technologie s'améliore au fur et à mesure qu'elle est utilisée, si bien que les machines apprennent à utiliser et à gérer les humains comme les humains ont appris pendant des siècles à se servir des machines. »<fnref n="105" /> L'argument des autrices souligne que le rapport traditionnel à l'outil crée une encapacitation du sujet qui tend à disparaître avec les outils

<footnote n="104">¹⁰⁴ F. Verrax, L. Flandrin, *Quelle éthique pour l'ingénieur ?*, Éd. Charles Léopold Mayer, 2019. p. 148.</footnote>

<footnote n="105">¹⁰⁵ *Ibid.*, p. 154.</footnote>
technologiques. Nous pourrions arguer que si la technologie s'améliore, c'est bien du fait d'humains qui y travaillent et que ce travail leur permet de développer de nouvelles compétences. Ainsi et afin de respecter les diverses positions, il est important dans cette réflexion de séparer l'encapacitation des utilisateurs-rice-s de celle des concepteurs-rice-s.

Nous allons nous intéresser aux distinctions opérées par F. Verrax et L. Flandrin pour penser la notion d'autonomie des utilisateurs-rice-s. La catégorisation qu'elles utilisent est issue des travaux de Bruno Gransche qui propose de distinguer plusieurs niveaux d'autonomie : l'autonomie opérationnelle, l'autonomie stratégique et l'autonomie normative.

Les autrices s'appuient, pour illustrer ces niveaux, sur l'exemple du véhicule dit autonome.106 L'autonomie normative est la capacité de choisir la finalité d'une action. Dans le cas de la voiture autonome, cela revient au choix du lieu où le passager désire se rendre. L'autonomie stratégique correspond au choix des stratégies pour réaliser cette finalité, dans notre cas, le choix du mode de transport. L'autonomie opérationnelle correspond au choix des moyens, par exemple le choix des routes. Dans le cas où l'automobiliste utilise un GPS pour se diriger et est assisté par un logiciel d'intelligence artificielle participatif, le conducteur « délègue »107 au logiciel son autonomie opérationnelle. Dans le cas de la voiture autonome, il « délègue », en plus de son autonomie opérationnelle, son autonomie stratégique. Enfin, si nous imaginons la possible existence d'un véhicule réellement autonome, dans le sens où, comme les humains, il serait doté d'une volonté propre – ce qui ne semble pas être l'objectif de l'objet, ni même possible – il perdrait également son autonomie normative. Le véhicule pourrait alors refuser de prendre telle route pour son propre bien, car trop cabossée par exemple. Nous voyons donc que l'utilisation d'un outil d'assistance fait perdre à l'utilisateur une part plus ou moins importante de son autonomie sur l'action de conduire.

Du point de vue de l'utilisateur, la question principale est finalement de savoir si la perte partielle de son autonomie lui confère un bénéfice autre ou pas ? Sur le marché du travail, un nombre grandissant de secteurs et de fonctions se trouvent mis en péril. Ainsi, des débats sont en cours dans le milieu de la médecine, de plus en plus enclin à avoir recours à des logiciels d'aide au diagnostic ou d'aide à la décision qui posent, entre autres, la question de la responsabilité du médecin, et parfois même de son utilité, comme par exemple dans le domaine de la radiologie. Aux États-Unis, le débat fait rage dans la sphère judiciaire où l'utilisation d'algorithmes d'aide à la décision, prenant en compte la probabilité de récidive, inquiète les praticiens sur le sens même de leur pratique et mène à certaines formes de discrimination comme le met en valeur l'ouvrage de Cathy O'Neil, *Algorithmes : la bombe à retardement*.108 S'il est certain que l'automatisation a toujours mis en péril des catégories d'emplois, la différence avec l'intelligence artificielle est qu'étrangement, pour la majorité des gens, la décision automatique apparaît moins susceptible d'erreur que la décision humaine. Cette

<footnote n="106">106 Ibid., p. 154-157.</footnote>

<footnote n="107">107 Le terme « déléguer » est remis en question et déconseillé dans l'avis n°2 du CNPEN intitulé *Le « véhicule autonome » : enjeux d'éthique*, p. 9.</footnote>

<footnote n="108">108 C. O'Neil, *Algorithmes : la bombe à retardement*, trad. fr. S. Marty, France, Les Arènes, décembre 2018, p. 133-162.</footnote>
confiance à l'égard des machines conduit les humains à remettre en question leur propres capacités.

La question de la possibilité pour les humains de conserver leurs compétences cognitives et décisionnelles s'ils ont moins d'occasions de les mobiliser se pose aujourd'hui. En avril 2021, le CNPEN recommande dans son second avis sur le « véhicule autonome » d'adapter « la formation au permis de conduire de l'utilisateur d'un véhicule à conduite automatisée non supervisé après avoir mené des études sur les compétences requises, les capacités effectives d'action, les informations pertinentes, l'interface humain-machine appropriée, et plus généralement sur la conception de l'habitacle. »<fnref n="109" /> Il apparaît donc que, contrairement à ce que l'on pourrait imaginer, l'utilisation d'un « véhicule autonome » ne sera d'aucun secours pour les personnes ne disposant pas d'un permis ou étant peu à l'aise à la conduite, ni pour ceux ou celles qui souhaiteraient lâcher la route des yeux pour regarder un bon film. Si un permis est imposé pour que l'humain puisse toujours intervenir en dernier ressort, on peut se demander d'autre part quelles sont les compétences nécessaires pour reprendre le contrôle d'un véhicule. Sont-elles différentes de celles nécessaires pour conduire le véhicule ? L'aptitude à la conduite se perd-elle ? Si oui, au bout de combien de temps ? Ces questions placent l'autonomie dans sa logique processuelle.

Un article de Laurène Mazeau, intitulé « *Intelligence artificielle et responsabilité civile : Le cas des logiciels d'aide à la décision en matière médicale* », montre les points de jonction entre *utilisateur·rice·s* et *concepteur·rice·s* sur le terrain liant autonomie et responsabilité juridique. Plus l'automatisation est reconnue, plus la responsabilité d'un dysfonctionnement peut être imputée à ceux et celles qui ont produit les outils. A contrario, moins elle est reconnue, plus elle peut être imputée aux *utilisateur·rice·s* qui utilisent le produit. Le degré d'autonomie laissée aux *utilisateur·rice·s* est donc crucial en terme de responsabilité. Ainsi, il existe de nombreuses règles et nuances pour répartir les niveaux d'autonomie. Par exemple, le fait que la prise de décision se distingue de l'automatisme. Laurène Mazeau écrit : « *Si une action est demandée à chaque instant à l'utilisateur, nous serons alors en présence d'un processus d'aide à la décision. L'utilisateur doit valider toutes les commandes mises en entrée du système. En d'autres termes, le processus d'aide à la décision propose et l'utilisateur dispose. En revanche, si l'utilisateur n'intervient que de façon ponctuelle, le processus pourra être considéré comme automatisé, régulé. Le processus global ne nécessite pas d'intervention humaine pour évoluer.* »<fnref n="110" /> La différence entre « à chaque instant » et « ponctuelle » peut être ténue et apparaît parmi d'autres distinctions comme une zone grise dans laquelle pourront justement s'insérer des questions d'ordre éthique.

La formation éthique à la valeur d'autonomie à destination des ingénieur·e·s, c'est-à-dire vers ceux et celles qui créent les produits numériques tout en étant *utilisateur·rice·s*, et en restant citoyen·ne·s, nous semble intervenir à plusieurs niveaux.

<footnote n="109">¹⁰⁹ CNPEN, « Le « véhicule autonome » : enjeux d'éthique », avis n°2, 2021, p. 6.</footnote>

<footnote n="110">¹¹⁰ MAZEAU Laurène, « Intelligence artificielle et responsabilité civile : Le cas des logiciels d'aide à la décision en matière médicale », *Revue pratique de la prospective et de l'innovation*, 2018, 1, p. 38-43.</footnote>
D'une part, dans un souci à l'égard des utilisateurs·rice·s et donc dans une perspective sociale large, comme le recommandant F. Verrax et L. Flandrin, qui ont listé une série de questions à poser aux étudiant·e·s à ce propos que nous retranscrivons ici car elles nous paraissent tout à fait adéquates : « *En quoi l'objet, la machine, le programme que je suis en train de concevoir ou de développer changent-ils le monde dans lequel nous vivons ? Ce nouveau monde est-il plus désirable ? En fonction de quels critères ? L'objet, la machine, le programme que je suis en train de concevoir ou de développer se substituent-ils à l'autonomie humaine ? Et plus précisément, à quel type d'autonomie (opérationnelle, stratégique, normative) ?* »<fnref n="111" /> Nous ajouterions à ces questions celle du droit à l'indétermination, qui débouche sur celui de pas choisir, de ne pas agir. La littérature existante sur la voiture autonome ne semble que très rarement prendre en compte le cas des utilisateurs·rice·s qui ne veulent aller nulle part en particulier. La grande littérature nous en offre en revanche de nombreux exemples, des « road trip » de Jack Kerouac à ceux de Jim Harrison. La littérature nous offre aussi un exemple magnifique d'indétermination à travers le personnage du scribe Bartelby d'Herman Melville qui a marqué des générations de lecteurs·rice·s par sa résistance passive à travers sa célèbre réplique « I would prefer not to ».

D'autre part, il nous semble important de faire le pont entre les questionnements de type sociétaux et philosophiques que nous venons d'interroger et les activités professionnelles des ingénieur·e·s, qui ont leur propres normes et acceptations du mot « autonomie ». Les machines « autonomes » sont amenées à se multiplier et les problèmes éthiques qu'elles poseront possiblement aux ingénieur·e·s seront toujours dans une zone grise. S'exercer à lier les problématiques sociétales à la pratique technique, par exemple au cours d'un projet, nous paraît à même d'inscrire le questionnement éthique des étudiant·e·s sur le long terme.

Nous aimerions clore cette partie sur une autre approche pédagogique possible de la notion d'autonomie qui s'appuierait sur un questionnement terminologique. En avril 2021, le CNPEN publie son second avis sur le « véhicule autonome ». Sa première préconisation est d'adopter l'appellation de « véhicule à conduite automatisée » dans les textes réglementaires plutôt que « véhicule autonome ».

Selon le comité, le terme « autonome », hérité du domaine de la robotique peut, utilisé dans la sphère sociale généraliste, générer une confusion entre les facultés humaines et les capacités des machines en les mettant sur un plan équivalent, ce qui revient à opérer une erreur ontologique. Le comité pointe en outre le risque qu'un discours inexact mène à des émotions injustifiées. Il écrit : « Cette ambiguïté est susceptible de produire des craintes ou des malentendus et de créer des attentes infondées : une entité « autonome », au sens étymologique, serait imprévisible par nature, prendrait « d'elle-même » des « initiatives » ou « déciderait » d'elle-même. »<fnref n="112" /> Or, les véhicules « autonomes » ne « décident pas », ils répondent aux instructions d'un programme ayant été codé par un humain. La deuxième idée mise à mal par le choix d'une expression mal appropriée serait la moralité elle-même, en tant que celle-ci est

<footnote n="111">¹¹¹ F. Verrax, L. Flandrin, *Quelle éthique pour l'ingénieur ?*, op. cit., p. 157.</footnote>

<footnote n="112">¹¹² CNPEN, « Le "véhicule autonome" : enjeux d'éthique », avis n°2, 2021, p. 9.</footnote>
une faculté strictement humaine. Rendre possible de « *projeter de la moralité* » sur une machine reviendrait à laisser le grand public se tromper et effectuer une anthropomorphisation mensongère de la technique. Le troisième concept mis à mal serait celui de responsabilité car, considérer qu'une voiture à conduite automatisée peut être un agent moral, revient à penser qu'elle pourrait être responsable d'un accident. Or, jusqu'à présent, seules les personnes peuvent être jugées responsables de leurs actes. Ces différentes raisons ont poussé le comité à formuler « *le besoin de soustraire le véhicule à conduite automatisée à de telles projections à travers une mise en récit explicitement différente de celle qui caractérise les accidents impliquant des conducteurs humains.* »<fnref n="113" />

Nous le voyons, la position du CNPEN s'attache à maintenir intacte la distinction entre l'humain et la machine et s'y emploie à travers le langage. Si le langage reste une propriété humaine, il convient de considérer ce que sa torsion pourrait produire de façon négative ou trompeuse sur l'humain. Soulignons que le choix de l'emploi de mots précis et justes pour qualifier ce que l'on veut qualifier est en soi une démarche d'autonomie intellectuelle.

Nous proposons dans les paragraphes suivants une prise de position différente de celle du CNPEN en considérant d'un point de vue rhétorique l'effet du choix des mots liés à l'autonomie sur le grand public. Nous nous appuyons sur une thèse réalisée par Céline Pieters intitulée *The words of Robotics: a Rhetorical Approach*.<fnref n="114" /> L'approche rhétorique nous semble particulièrement pertinente pour analyser la « mise en récit » différente demandée par le CNPEN, car comme science de la persuasion, la rhétorique admet que le langage ne peut décrire une chose « objectivement » (vision idéaliste) mais ne produit qu'une description située en fonction de l'auditoire à convaincre.

S'appuyant sur le travail d'Yves Jeanneret, spécialisé en sciences de l'information et de la communication, C. Pieters montre que la référence aux mythes a toujours été mobilisée dans le domaine de la robotique et de l'IA, non par simple facilité pour sa vulgarisation, mais comme étalon de l'ambition même de la discipline. Elle cite Yves Jeanneret : « [...] chaque article se place ouvertement dans la perspective du discours mythique, qu'il vise à s'en faire l'écho ou à le contester. [...] La discipline tire son ambiguïté, mais aussi son prestige, de ce lien au mythe. C'est d'ailleurs le mythe qui peut expliquer pourquoi nous finançons des recherches hautement spéculatives qui, pourtant, ne doivent pas être considérées comme un acte gratuit. »<fnref n="115" /> Le fantasme de la pleine autonomie, dans le cas de l'intelligence artificielle, est selon l'auteur constitutive de la discipline. Si les méthodes scientifiques se doivent d'être rigoureuses et sans affect, la motivation des scientifiques à travailler sur un sujet est formée sur une série de passions, d'idées sur le monde, parfois d'idéologies et de stratégies diverses pour faire émerger

<footnote n="113">¹¹³ *Ibid.*, p. 12.</footnote>

<footnote n="114">¹¹⁴ C. Pieters, *The words of robotics: a rhetorical approach*, Thèse de doctorat, INSA de Toulouse, Université libre de Bruxelles, 2020. English. (NNT : 2020ISAT0026)</footnote>

<footnote n="115">¹¹⁵ *Ibid.*, p. 56. Traduit de l'anglais : « «[...] each article openly places itself in the perspective of the mythical discourse, whether it aims to echo or to contest it. [...] The discipline derives its ambiguity, but also its prestige, from this bond to the myth. Moreover, it is the myth that can explain why we fund highly speculative research that, yet, is not to be considered as a gratuitous act. »</footnote>
un champ. Ainsi, la technique n’est jamais neutre et l’on pourrait arguer au CNPEN que le mot « autonome » reflète assez honnêtement les ambitions d’un secteur. Mais peut-être est-ce justement à cet endroit que le CNPEN entend protéger le vocabulaire des utilisateurs des fantaisies de ses créateurs ou du marketing de ses promoteurs ?

Céline Pieters poursuit et énonce deux stratégies rhétoriques courantes, celle du sensationnalisme et celle de la neutralité. Ces deux stratégies incarnent des positions antagonistes mais postulent finalement la même référence au mythe dans la robotique. Si l’on suit le raisonnement de C. Pieters, l’appellation de « véhicule à conduite automatisée » défendue par le CNPEN ferait partie de ce que l’on nomme une stratégie de la neutralité. Les éléments troubles ou potentiellement émotionnels du langage sont expurgés et remplacés par une expression technique qui s’apparente à une simple description. Le vocabulaire technique employé produit un effet d’objectivité, basé sur une conception des sciences et des mathématiques dégagée des émotions et du langage parlé, objective en somme. L’écueil de cette stratégie du neutre selon C. Pieters est de rendre le débat caduc. Elle écrit : « *Les données et les faits apparaissent d’abord comme pouvant clore le débat et “parler d’eux-mêmes” (s’ils sont donnés à des personnes capables de les comprendre, tout le monde sera alors d’accord sur ce qu’ils signifient)*<fnref n="116" />. » En d’autres termes, l’appellation « véhicule à conduite automatisée », en faisant disparaître le terme « autonome », pourrait clore les débats sur cette valeur. C. Pieters place son analyse des termes au carrefour de plusieurs épistémologies et évoque « l’épistémologie populaire » qu’elle définit comme la manière dont la population générale évalue « les notions épistémiques et les processus impliqués dans cette évaluation et s’intéresse aux principes et présupposés tacites qui sous-tendent et guident nos pratiques cognitives et linguistiques quotidiennes. »<fnref n="117" /> Ainsi, dans le cas de la différence entre « voiture autonome » et « voiture à conduite automatisée », nous pourrions déceler une segmentation entre deux types de connaissance et de publics, la connaissance scientifique et la connaissance non-scientifique. Selon Céline Pieters, la stratégie du neutre aurait pour effet d’écarter les non-spécialistes. Ainsi la « mise en récit » différente réclamée par le CNPEN pourrait éloigner les utilisateurs du problème de leur autonomie. En outre, nous pourrions émettre l’hypothèse que, loin d’être une erreur de langage, ou une reprise brute des vues d’une industrie ayant intérêt à vendre du rêve concernant l’autonomie de l’IA, le discours sensationnaliste adopté par la couche populaire soit une forme de répétition cathartique exprimant une angoisse de dépossession d’ordre émotionnelle et politique.

Notre objectif est de montrer que la discussion autour de la terminologie est loin d’être un sujet anecdotique et pourrait être reprise dans l’enseignement. La préconisation du CNPEN d’affirmer la terminologie comme une question éthique et de s’employer à repenser activement l’utilisation du vocabulaire lorsque des nouveaux champs d’interprétation émergent, nous semble être une démarche réflexive nécessaire à l’exercice du libre arbitre et de l’autonomie

<footnote n="116">¹¹⁶ *Ibid.*, p. 59. Traduit de l’anglais : « Data and facts appear at first as being able to close the debate and to “speak for themselves” (if they are given to people that can understand them, everyone will then agree on what they mean). »</footnote>

<footnote n="117">¹¹⁷ *Ibid.*, p. 56. Traduit de l’anglais : « the folk epistemology is concerned with the tacit principles and presuppositions that underlie and guide our everyday cognitive and linguistic practices [Gerken 2017] »</footnote>
intellectuelle. Cependant, la prise de position de C. Pieters selon laquelle la stratégie de la neutralité induit « des hypothèses implicites sur le langage qui soutiennent une conception erronée du langage et de la rationalité, et contraint les scientifiques eux-mêmes dans leur utilisation des mots »<fnref n="118" /> nous semble également digne d’intérêt. En effet, trancher sur un vocabulaire au moment où celui-ci outille une problématique sociale intense ne peut que dépasser la simple recherche du vocabulaire adéquat. Dans le cadre de l’enseignement, cette controverse nous semble une manière alternative intéressante d’ouvrir le sujet de l’autonomie humaine en attirant à dessein l’attention sur la question du narratif. En effet, les nouvelles technologies regorgent de terme discutables, tels qu’intelligence artificielle, réalité augmentée, téléphones intelligents… La question soulevée par l’avis n°2 du CNPEN : Convient-il d’utiliser « pour qualifier les capacités des systèmes informatiques fondés sur l’intelligence artificielle et la robotique, des termes explicitement différents de ceux qui sont utilisés pour qualifier les facultés humaines » ?<fnref n="119" /> nous semble pour cela particulièrement riche.

### 3. La dignité humaine

Dans leur article intitulé *La parole des agents artificiels : questions éthiques*,<fnref n="120" /> Laurence Devillers et Alexeï Grinbaum reviennent sur les réflexions qu’ils ont menées au sein du groupe de travail qui a donné lieu à la publication de l’avis n°3 du CNPEN intitulé *Agents conversationnels et enjeux d’éthique*, initié sur saisine du Premier ministre français en 2019 et rendu public en septembre 2021.

Un exemple développé dans cet avis a particulièrement marqué les esprits. Il s’agit de l’évocation des « deadbot ». Un « deadbot » est un robot conversationnel qui imite la parole et, dans les cas les plus avancés, l’aspect d’une personne décédée, à partir des données accumulées de son vivant. Laurence Devillers et Alexeï Grinbaum mentionnent que la société Microsoft a déposé un brevet « combinant un deadbot et un agent conversationnel de type transformateur »<fnref n="121" />. Le sujet est assez nouveau, sauf peut-être pour les amateurs de la fameuse série noire d’anticipation *Black Mirror*, qui a sorti un épisode sur ce thème en 2013, mettant en scène une jeune femme vivant avec un robot aux traits de son ex-compagnon.<fnref n="122" /> L’avis du CNPEN nous ramène au fait que ces questions ne sont plus de l’ordre de la fiction.

À travers l’exemple du « deadbot », L. Devillers et A. Grinbaum interrogent la valeur de dignité humaine de façon nouvelle et affirment que les questions éthiques que poseront les avatars numériques à l’avenir n’en sont qu’à leur début. Face au « deadbot », ils évoquent deux types de réactions : ceux pour qui le « deadbot » ne serait qu’une version moderne des

<footnote n="118">¹¹⁸ *Ibid.*, p. 60. Traduit de l’anglais : « In addition, this posture brings implicit assumptions about language that support an erroneous conception of language and rationality, as well as constraining the scientists themselves in their use of words. »</footnote>

<footnote n="119">¹¹⁹ CNPEN, « Le “véhicule autonome” : enjeux d’éthique », avis n°2, 2021, p. 9.</footnote>

<footnote n="120">¹²⁰ A. Grinbaum, L. Devillers, « La parole des agents artificiels : questions éthiques », CNPEN, *Pour une éthique du Numérique, op. cit.*, p. 185.</footnote>

<footnote n="121">¹²¹ Un transformateur est un type d’architecture de réseau neuronal.</footnote>

<footnote n="122">¹²² Owen Harris, “Be Right Back”, Black Miroir, épisode 1, saison 2, première diffusion le 11 février 2013 sur *Channel 4*.</footnote>
enregistrements, vidéos, photographies, ou tout procédé ayant pour objectif de garder trace des
personnes à travers le temps ; et ceux pour qui cette invention nuit à la dignité humaine et
devrait être interdite. Une différence est à noter par rapport aux enregistrements que nous
connaissions : le « deadbot » n'est pas limité à la répétition de paroles prononcées par la
personne mais en crée. C'est cette capacité de création qui pose de nouvelles questions. Est-il
acceptable de faire endosser à une personne décédée des propos qu'elle n'aurait jamais tenus
de son vivant ? Comme le rappellent Christine Froidevaux et Gilles Adda dans leur article
« Regards croisés sur la cybernétique et la bioéthique », « le droit à l'oubli pour ses données
personnelles (effacement de données numériques) est fondamental pour préserver la dignité de
la personne dans le temps<fnref n="123" />. »

Les exemples de réflexion quant à la valeur de dignité humaine dans le cadre de
déploiements numériques ne manquent pas. Si cette valeur est très souvent convoquée en lien
avec l“augmentation" de l'être humain avancée par les post et transhumanistes, des
problématiques apparaissent dans des domaines bien plus quotidiens, tel que le travail. Des
logiciels de commande vocale sont de plus en plus utilisés dans le commerce pour la logistique.
Les magasinier·ère·s reçoivent leurs ordres d'un logiciel de gestion possédant une voix de
synthèse leur indiquant les actions à accomplir, déplacer tel objet à tel endroit par exemple.
Articles de presse et documentaires<fnref n="124" /> relatent la souffrance de ces employé·e·s qui se sentent
quasiment réduit·e·s à l'état de robot. Si le film de Charlie Chaplin, *Les temps modernes*,
dénonçait dès 1936 un travail à la chaîne déshumanisant, le supérieur hiérarchique restait une
personne. L'interaction humain-machine pose également question dans le soin à la personne.
Est-ce traiter dignement une personne malade que de réduire au maximum les contacts
interpersonnels qu'elle peut avoir avec les soignant·e·s et les remplacer par des interactions
avec des robots ? L'augmentation du télétravail voit fleurir quant à lui un nouveau type de
contrôle sur les employé·e·s. L'entreprise Microsoft a, sous le tollé de l'opinion publique, cessé
de proposer l'outil « productivity score » qui mesurait le temps de présence des
travailleur·euse·s derrière leurs écrans pour le remplacer par un outil nommé « adoption score »
plus respectueux de la confidentialité des données des employé·e·s vis-à-vis de leurs
employeur·euse·s.

Or, la dignité humaine est le premier principe de la charte des droits fondamentaux de
l'Union européenne sur lequel le « Règlement du parlement européen et du conseil établissant
des règles harmonisées concernant l'intelligence artificielle<fnref n="125" /> » se fonde. Ainsi, si l'approche
européenne de l'intelligence artificielle a pour ambition de créer une technologie à l'image de
ses valeurs, la valeur de dignité est la première à observer. C'est également le cas au niveau du

<footnote n="123">¹²³ G. Ada, C. Froidevaux, « Regards croisés sur la cybernétique et la bioéthique », CNPEN, *Pour une éthique du Numérique*, op. cit., p. 46.</footnote>

<footnote n="124">¹²⁴ Voire par exemple : C. Quignon, « Dans les entreprises, l’essor du management par les algorithmes », *Le Monde*, publié le 20 février 2022 à 17h00 https://www.lemonde.fr/economie/article/2022/02/20/dans-les-entreprises-l-algorithme-prend-la-direction_6114517_3234.html.</footnote>

<footnote n="125">¹²⁵ Commission européenne (2021), « Proposition de Règlement du parlement européen et du conseil établissant des règles harmonisées concernant l'intelligence artificielle (Législation sur l'intelligence artificielle) et modifiant certains actes législatifs de l'Union », (2021/0106 (COD), avril 2021, Bruxelles.</footnote>