# Vers une régulation néodarwinienne de l'Intelligence artificielle centrée sur le concept de l" Ethics by Evolution "

Jérôme Béranger, Gauthier Chassang

<figure><img src="image_1.png" /></figure>

## To cite this version:

Jérôme Béranger, Gauthier Chassang. Vers une régulation néodarwinienne de l'Intelligence artificielle centrée sur le concept de l" Ethics by Evolution ". Éthique publique : Revue internationale d'éthique sociétale et gouvernementale, 2021, 23 (2), 20 p. 10.4000/ethiquepublique.6551 . hal-04324915

HAL Id: hal-04324915

https://ut3-toulouseinp.hal.science/hal-04324915v1

Submitted on 5 Dec 2023

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_2.png" /></figure>

Distributed under a Creative Commons CC BY 4.0 - Attribution - International License
# Vers une régulation néodarwinienne de l'Intelligence artificielle centrée sur le concept de l'« Ethics by Evolution »

Jérôme Béranger et Gauthier Chassang

<figure><img src="image_3.png" /></figure>

OpenEdition
Journals

## Édition électronique

URL : https://journals.openedition.org/ethiquepublique/6551

DOI : 10.4000/ethiquepublique.6551

ISSN : 1929-7017

## Éditeur

Éditions Nota bene

Ce document vous est offert par Université Fédérale Toulouse Midi-Pyrénées

<figure><img src="image_4.png" /></figure>

## Référence électronique

Jérôme Béranger et Gauthier Chassang, « Vers une régulation néodarwinienne de l'Intelligence artificielle centrée sur le concept de l'« Ethics by Evolution » », *Éthique publique* [En ligne], vol. 23, n° 2 | 2021, mis en ligne le 22 février 2022, consulté le 05 décembre 2023. URL : http://journals.openedition.org/ethiquepublique/6551 ; DOI : https://doi.org/10.4000/ethiquepublique.6551

Ce document a été généré automatiquement le 16 février 2023.

Le texte et les autres éléments (illustrations, fichiers annexes importés), sont « Tous droits réservés », sauf mention contraire.
# Vers une régulation néodarwinienne de l'Intelligence artificielle centrée sur le concept de l'« Ethics by Evolution »

Jérôme Béranger et Gauthier Chassang

1. Les algorithmes ont été introduits dans notre vie quotidienne sans que nous y ayons forcément prêté attention, et sans que nous soyons vraiment au courant de leur existence, de l'ampleur de leur utilisation, de leur pouvoir et des critères qu'ils formalisent pour accompagner nos existences, aider à la prise de décision, ou décider à notre place.

2. Un des aspects de cette révolution numérique (Floreoni, 2018: 87) s'appuie sur des technologies toujours plus puissantes et accessibles, ainsi que sur la puissance mathématique des algorithmes permettant de faire parler des ensembles de données très variés. Ces nouvelles technologies de l'information et la communication (NTIC) illustrées notamment par l'Intelligence artificielle (IA)¹ posent un important défi d'adaptation et de mise à niveau qui nécessite un management et un encadrement spécifique auprès des utilisateurs.

3. Cela passe nécessairement par une régulation éthique des systèmes algorithmiques qui a pour mission, d'une part, d'optimiser la gestion des risques informationnels au long cours, et d'autre part, d'améliorer continuellement l'activité et les comportements d'usage (Nye, 2008) de ces systèmes. La régulation éthique des systèmes algorithmiques est un levier qui favorise la fluidité des dispositifs relatifs au développement de l'activité ou des services proposés par une structure de droit privé (ex.: entreprise) ou public (ex.: administration d'État), grâce au renforcement d'un cadre opérationnel adapté à cette structure et au secteur d'activité concerné. La force de cette régulation se situe dans son aspect à la fois évolutif, transversal, et intégré au développement et à l'usage des dispositifs d'IA. La notion d'« Ethics by Evolution » que nous décrivons dans cet article provient d'une approche centrée sur la théorie néodarwinienne² de
l'évolution (ou théorie synthétique de l'évolution) que nous avons élargie et transposée aux artéfacts numériques. Pour cela, nous sommes partis de l'hypothèse que chaque application digitale intelligente pouvait être considérée comme un organisme vivant artificiel susceptible d'évoluer dans le temps en interagissant avec son environnement avec lequel il est interconnecté. Dans ces conditions, l'« Ethics by Evolution » intègre entre autres la théorie de l'évolution de Charles Darwin et la théorie de l'information de Claude Shannon. Notre approche est donc une synthèse néodarwinienne prenant en compte les sciences, les théories et les techniques (notamment logiques mathématiques, statistiques, probabilités, cognition, neurobiologie computationnelle (réseaux neuronaux), l'informatique, la robotique, la sémantique et l'épistémologie. Tout comme un projet digital, l'éthique étant par nature protéiforme, évolutive et flexible dans le temps, le concept de l'« Ethics by Evolution » permet de suivre l'évolution des systèmes pour sans cesse les requestionner au regard des valeurs humaines et morales.

4

Cette approche vise à améliorer la maîtrise et l'efficience des processus à l'œuvre pour concevoir, déployer, utiliser et surveiller des dispositifs algorithmiques innovants, au travers d'une approche globale et systémique s'adressant à toutes les strates de l'organisation concernée, du technicien et de l'ingénieur aux dirigeants, en passant par l'implication des personnes affectées par l'application d'IA envisagée. Cette démarche permet le respect ou la mise en place de principes et règles éthiques applicables, puis de normes de qualité, avec une vue d'ensemble du cycle de vie des applications numériques intelligentes, en conformité avec les textes de références disponibles, en particulier juridiques. Cette ambition nécessite des efforts et investissements particuliers qui peuvent parfois paraître contraignants, mais qui devraient être au cœur de la démarche d'innovation et de la responsabilité sociale des acteurs du numérique.

5

L'objet de notre article n'est pas d'analyser les concepts fondamentaux de l'éthique et de la morale, leurs présupposés épistémologiques et leur signification, mais d'apporter une approche nouvelle sur la structuration d'une éthique appliquée au numérique. Nos réflexions sont associées à l'éthique normative et non au domaine de la méta-éthique ou de l'éthique analytique.

6

Dans cette optique, après avoir identifié, dans un premier temps, les défis associés à un encadrement des traitements algorithmiques (Floridi et al., 2018), nous présenterons, dans un deuxième temps, le concept de l'« Ethics by Evolution » qui constitue le socle de notre réflexion. Cela nous amènera, dans un troisième temps, à l'élaboration d'un Vade-mecum de bonnes pratiques éthiques relatives à l'IA.

Défis relatifs à la régulation des systèmes
algorithmiques

7

L'émergence des NTIC et leur adoption progressive dans tous les secteurs d'activités économiques ont des répercussions, génèrent des enjeux et des risques considérables à tous les niveaux (Floridi et al., 2018). Cela transforme le monde dans son intégralité, depuis notre conception des systèmes informatiques désormais très complexes et évoluant souvent en réseaux, à la compréhension même des phénomènes économiques, sociaux, culturels, sanitaires fondée sur des données, des estimations statistiques ou des évaluations mathématiques parfois réductrices ou biaisées. Les biais de l'algorithme
peuvent résulter des biais cognitifs du programmeur, des biais statistiques (associés notamment aux données d'apprentissage aux variables omises, à la sélection, à l'endogénéité des données), des biais économiques ou encore des biais introduits par un environnement évolutif.

8. En passant par une approche plus technoc centrée où les valeurs et le bien-être de l'humain, y compris la protection de son environnement, tendent à ne plus être au centre des préoccupations, les responsables de projets digitaux risquent de développer ou d'introduire des technologies délétères en l'absence d'une réflexion éthique préalable dûment menée et documentée. En effet, l'introduction d'un dispositif d'IA au sein d'une organisation, par exemple, pour aider à la prise de décision quant à l'accès à un service, comporte des risques de discriminations importants qui peuvent être éliminés ou minimiser au moment du développement de l'IA mais aussi lors de son usage. À moyen terme, les décideurs humains risquent de trop se reposer sur la gestion algorithmique des activités, quitte à fragiliser les équilibres trouvés au travers de l'organisation traditionnelle des rapports humains internes et externes des structures envisageant une transformation numérique. L'introduction d'une technologie d'IA à un effet disrupteur particulier et crée de nouveaux modes organisationnels et relationnels qui risquent de rendre ces structures potentiellement plus instables, voire plus iniques, dans leur fonctionnement, diminuant ainsi à court ou long termes les avantages espérés de l'adoption de nouvelles technologies pourtant performantes. À cela s'ajoutent les risques illustrés par plusieurs exemples qui révèlent comment un usage mal intentionné ou accidentel des technologies fondées sur le Big Data (Helevi et Moed, 2012) peut transformer un algorithme en un outil à discriminer, silencieux et systémique (Colloc et Léry, 2008).

9. Les NTIC et l'IA modifient les rapports entre individus, les interactions sociales, les comportements économiques et même la personnalité des individus, en permettant de nouvelles « facilités » souvent très vite addictives, ceci rendant le déploiement de ces technologies, à toutes les strates d'organisation, particulièrement sensibles. À ces défis s'ajoutent également de nouveaux conflits sociétaux dans lesquels s'opposent différentes conceptions de la place que doit prendre la technologie dans nos sociétés. La critique du développement technologique et de son impact sur les valeurs historiques et fondamentales des sociétés démocratiques - telle que la protection de la dignité humaine et la protection de la vie privée - est importante et les questions qu'elle soulève doivent trouver un écho à l'échelle de chaque structure. Cette critique, souvent en retard sur le déploiement des technologies contestées (Jarrige, 2014), mérite d'être considérée avec sérieux, en amont du déploiement de la technologie et de l'adoption de politiques, et faire l'objet de processus délibératifs réguliers.

10. Ces débats devraient être organisés en considérant les positions collectives officielles exprimées par des institutions indépendantes (par exemple, un avis de Comités d'éthique nationaux ou de sociétés savantes) et, lorsque cela est possible, s'ouvrir au public, hors les murs de la structure. L'expression citoyenne, interne ou externe, devrait être libre et ses résultats dûment considérés, ce qui est encore trop peu le cas dans le cadre des sciences et technologies algorithmiques où les solutions ont tendance à être adoptées en « top-down », sans consultation des personnes concernées, des personnels, des administrés. Il existe quelques initiatives qui font exceptions comme celle de l'Université de Montréal qui a intégré la participation publique citoyenne dans l'élaboration de la Déclaration de Montréal proposant un premier cadre éthique pour le
développement de l'IA (Déclaration de Montréal, 2018). S'il est compréhensible qu'un débat public à large échelle puisse être délicat à organiser en termes de logistique, il est néanmoins regrettable que des initiatives plus modestes, à l'échelle d'une entreprise qui fait le pont entre l'aspect individuel et sociétal, ne soient pas plus répandues et intégrées dans la conception des algorithmes et des services algorithmiques, alors que le nombre de start-up dans le domaine et d'entreprises ayant recours aux algorithmes et à l'IA grimpe inexorablement, comme en France par exemple (Gros, 2019).

11 La plupart des NTIC dépendent de la disponibilité et de l'usage de grandes quantités de données, en particulier de données personnelles, ce qui pose des problèmes de transparence, d'autonomie des personnes concernées, de sécurité et de contrôle (Picard, 2017), lesquels sont parfois paradoxaux dans le contexte de l'IA (Burt, 2019) et nécessitent donc de (re)penser la gouvernance algorithmique sous un angle éthique, pour toute la société, mais tout particulièrement pour les acteurs qui conçoivent et déploient ces NTIC, l'un n'ayant pas à attendre l'autre pour se positionner, mais les deux devant avoir des approches compatibles. De grandes questions restent ouvertes au niveau collectif : quelle société se dessine au travers de la généralisation des NTIC (Markowetz et al., 2014) et des Big Data (Badillo et Pélissier, 2015) qui les alimentent ? Quelles formes de gouvernances peuvent se profiler à travers cette « datafication » ? La régulation autour des systèmes algorithmiques doit-elle s'appuyer sur une plus grande transparence des algorithmes afin d'en obtenir une plus grande loyauté, information pour les utilisateurs des outils et ceux qui sont les sujets d'une décision automatisée, et permettre le contrôle humain dans le respect des droits de l'homme ?

12 Qu'entraînerait exactement cette transparence pour les acteurs ? Et quels algorithmes devraient être transparents ? Dans une certaine mesure, ces questions se posent également au niveau de chaque structure (entreprise développant des systèmes d'IA, organismes publics ou privés adoptant des solutions d'IA, institutions et autorités responsables de réguler le domaine ci-après dénommés « pouvoirs publics ») et il est nécessaire de ne pas les négliger afin de forger une éthique propre à ces dernières qui soit compatible avec les attentes légitimes de la société et du contexte spécifique dans laquelle elles évoluent. Cette position éthique serait automatiquement évolutif et devrait donc être remise en question et éventuellement réajustée au niveau global de la structure ou par rapport à un produit ou service algorithmique spécifique.

13 Nos différentes recherches bibliographiques dans la littérature scientifique nationale et internationale dédiée à l'éthique appliquée au numérique, nous ont permis de mettre en évidence quarante défis qui composent les éléments fondateurs à adresser au travers d'une régulation éthique des systèmes de traitements algorithmiques et de l'IA (voir Figure 1). Ces enjeux devraient être considérés soit par les pouvoirs publics [PP], soit par les entreprises ou autres acteurs [EAA] de l'innovation ou structures concernées par l'adoption d'un système algorithmique, en particulier d'IA.

14 Nous avons répartis ces défis de manière égale, non hiérarchisée, selon huit paramètres généraux (Béranger, 2015) (Béranger, 2016) impactés par l'usage d'un système numérique algorithmique. Ces paramètres s'intéressent à l'aspect Structurel – Technologique – Stratégique – Méthodologique – Organisationnel – Réglementaire – Relationnel – Culturel d'une organisation et de ses activités. Il s'agira alors de déterminer les éléments critiques pour lesquels une analyse d'impact de la technologie à développer ou introduire devrait être menée. De cette analyse devraient découler des positionnements éthiques et des règles transparentes à respecter au cours des activités
concernées. Cette analyse ne devrait pas être figée et ne devrait pas constituer une
simple étape à la suite de laquelle les réflexions s'arrêtent et les règles établies sont
considérées comme acquises et invariables. En effet, les valeurs communes et les cadres
juridiques peuvent évoluer, se préciser, comme les attentes et les sensibilités sociétales,
vis-à-vis des technologies algorithmiques. Cela devrait faire l'objet d'une veille des
acteurs concernés [PP et EAA] afin d'être considéré. Cela pourrait nécessiter de
réinterroger les postulats éthiques et les règles qui en découlent et faire évoluer
l'approche adoptée par les organisations, requestionner leur activité, leur organisation
et l'acceptabilité des systèmes algorithmiques et d'IA qu'ils développent ou
introduisent.

## Cadre centré sur de l'« Ethics by Evolution »

15 Avec ce virage numérique qui s'accentue et les ruptures qui s'amplifient, un encadrement innovant s'impose afin d'accompagner au mieux cette transition digitale numérique de la société (Buttarelli, 2015: 25). Il est essentiel de s'intéresser aux algorithmes eux-mêmes et d'établir des préconisations pour de meilleures pratiques concernant leur construction, leur développement, leur usage et leur contrôle, tout en préservant le progrès technologique et les avantages sociétaux qui en découleraient. Ce cadre doit être animé sous un angle éthique (Davis et Patterson, 2012) en se basant sur la définition et l'évolution des bonnes pratiques humaines concernant les systèmes algorithmiques et autres technologies associées aux données numériques et sur l'intégration de mécanismes techniques ou organisationnels à même d'en garantir le respect dans les divers contextes d'usage de ces systèmes. Cette approche se fonde sur le concept de l'« Ethics by Design » (Béranger, 2015) qui est complété par le concept de l'« Ethics by Evolution »³. Cela suppose d'être en mesure d'assurer une vigilance permanente et organisée sur les créations technologiques auxquelles les acteurs publics et privés contribuent et sur les technologies d'IA tierces déjà utilisées, ou éligible à une utilisation, dans une structure et un contexte donné. Ceci implique également d'être en mesure revenir sur des choix importants voire à stopper un déploiement problématique. Cette gouvernance algorithmique éthique (Capeller et Simoulin, 2003) a pour finalité d'intégrer des principes et des valeurs humaines (Hervé, 2017) sur la conception, la mise en place et l'usage des IA afin d'établir un rapport de confiance, de réconcilier et de renforcer les relations de l'homme avec ces technologies, à l'échelle d'une nation comme d'une structure, d'une stratégie comme d'une technologie ou d'un service.

16 L'objet de ce chapitre est de lister et de définir les principaux critères éthiques qui pourraient constituer le socle d'un futur référentiel plus précis afin de tendre vers une IA au service de l'humain, pour prévenir et anticiper les dérives et les conséquences possibles du perfectionnement des systèmes algorithmiques (Eagle et Pentland, 2006; Zuboff, 2015).

17 Ce cadre d'analyse éthique autour du traitement algorithmique peut se découper selon six catégories d'éthiques interdépendantes et complémentaires qui façonnent notre approche « Ethics by Evolution » axée sur des évaluations itératives régulières ou liées à un changement substantiel du système algorithmique concerné (par exemple, les fonctionnalités). En tant que prérequis incontournable, la finalité du dispositif doit être clairement déterminée, licite, et transparente pour les parties prenantes à l'évaluation
des six aspects proposés ci-dessous. Cette approche éthique protéiforme devrait être de nature transversale et systémique et intégrer une première étape de réflexion au niveau méta-éthique dans laquelle l'acteur coordinateur des réflexions à mener définis, au regard de la finalité du système et de son usage, les notions, valeurs et cadres de référence qu'il mobilise : (voir Figure 1).

## L'éthique de la donnée

18 Identification des données traitées par l'algorithme et les échanges de celles-ci en vue de l'identification des valeurs éthiques et cadres juridiques applicables au traitement de ces données dans la poursuite des finalités déterminées en amont du développement ou de l'introduction du système algorithmique ou d'IA. Il s'agit du domaine qui concerne la nature et les caractéristiques relatives aux données numériques utilisées ou générées par le système. Cette évaluation éthique doit mener à une conception des mécanismes de supervision et de traçabilité des données.

## L'éthique de l'algorithme

19 Identification des briques composant l'algorithme de traitement des données et évaluation de leur caractère approprié. Les décisions relatives à cette évaluation sont de nature à adapter l'algorithme pour assurer la performance et la robustesse mathématiques du système, ces caractéristiques s'appliquant aux opérations et aux processus associés à l'exploitation des données numériques tout au long de leur cycle de vie. En d'autres termes, cette évaluation concerne le fonctionnement de l'algorithme de façon à pouvoir le justifier sur la base de références connues et à pouvoir comprendre et expliquer ce qu'il fait réellement, de manière transparente. Dans le contexte d'algorithmes liés à des réseaux de neurones artificiels souvent constitutifs de « boites noires » dont les arcanes sont difficilement compréhensibles par l'homme malgré une apparente performance, cette évaluation devrait servir à mettre en place des systèmes de surveillance et d'études du fonctionnement du système allant vers une maîtrise suffisante des aléas dans le respect des valeurs et règles éthiques et juridiques applicables, sans perdre de vue l'objectif d'explicabilité et de transparence des algorithmes.

## L'éthique des systèmes

20 Conception de l'ergonomie et de la fonctionnalité du système d'information, en adéquation avec les compétences et les pratiques de l'utilisateur. Cette évaluation doit concilier les besoins des utilisateurs avec les nécessités propres au bon fonctionnement du système dans la conception de l'architecture technologique. Ces aspects sont particulièrement importants dans le cadre des interfaces homme-machine et de la conception d'applications digitales.

## L'éthique de l'environnement

21 Analyse des diverses interactions et impacts en fonction de l'écosystème ambiant via des paramètres contextuels, écologiques et environnementaux, sociétaux, économiques, religieux, sanitaires, historiques, voir géopolitiques. Sont incluses ici, par exemple, les réflexions autour de la maîtrise des activités sous-traitées en dehors de
l'organisation concernée et les réflexions sur l'impact d'un dysfonctionnement des activités d'un sous-traitant qui serait critique pour le système (par exemple, l'externalisation du stockage des données d'apprentissage d'un système d'IA). Est également inclue l'évaluation des risques liée au fonctionnement du système qui s'insère dans un réseau technologique préétablit, public ou privé, souvent évolutif, des interdépendances et des risques liés à d'éventuelles faiblesses humaines ou techniques et de leur impact sur la robustesse, la sécurité, les droits et les libertés des utilisateurs ou autres personnes affectées par le système. Des mesures à même de mitiger ou éliminer les risques identifiés pourront alors être envisagées.

## L'éthique des pratiques

22

Explication sur la qualité des résultats de l'algorithme, la performance du dispositif par rapport à la finalité et les usages prévus ou constatés, ainsi que les éventuels ajustements nécessaires du système qui ont été apportés ou sont envisagés, par exemple au regard du traitement de données numériques et aux besoins du terrain. Cette réflexion devrait comprendre le recueil et l'analyse des retours d'expériences des utilisateurs ou personnes affectées par l'utilisation du système. La pratique repose sur l'usage des technologies, l'exposé clair de leur finalité, le démontage du raisonnement (de l'humain, développeur ou introducteur de la technologie, et de la machine apprenante), mais surtout sur l'incarnation de la relation interhumaine que la technologie vient faciliter, questionner ou perturber. Il n'existe pas une pratique, mais des pratiques. Les recommandations ne sont qu'un cadre théorique d'où s'échappe la masse de tous les cas particuliers qu'il s'agit d'analyser.

## L'éthique des décisions

23

Analyse des impacts sociétaux sur les personnes (utilisateurs ou personnes affectées par l'utilisation). On peut remarquer que les décisions peuvent se révéler lors de deux temporalités différentes du point de vue de l'organisation développant ou introduisant une technologie algorithmique ou d'IA dans ses activités. Premièrement, en amont de la conception d'une solution numérique, ces décisions sont de nature stratégique. Deuxièmement, de manière postérieure à l'élaboration de l'application numérique, ces décisions sont de nature opérationnelle. Les décisions prises par rapport aux caractéristiques techniques ou aux usages des technologies sont à distinguer des décisions résultant de l'usage de ces technologies, chacune posant des questions d'ordre éthique et juridique. Ainsi, l'éthique des décisions est intimement liée à l'éthique des pratiques. Dans certains contextes, l'utilisateur professionnel sera contraint de respecter des règles déontologiques que la technologie, à tout le moins, ne doit pas empêcher (par exemple, en médecine). Cette dernière devrait même être envisagée, si possible, en tant que facilitateur du respect de ces règles, et ce même si la pratique évolue par l'utilisation de la technologie. Dans d'autres contextes non professionnels, l'utilisateur, souvent consommateur, fera référence à ses propres valeurs ou jugements moraux. Ainsi il s'agirait d'envisager pour ce dernier une marge de manœuvre dans le paramétrage de la technologie pour qu'il puisse exprimer ses préférences dans les limites de la licéité et des contraintes morales qui s'imposent au fournisseur de la technologie concernée. Parfois, une telle marge de manœuvre ne sera pas possible. Dans tous les cas, une supervision humaine des décisions basées sur l'utilisation d'un système d'aide à la décision est préconisée. Elle serait en passe de
devenir obligatoire en droit de l'Union européenne, au vu de la dernière proposition de Règlement de l'Union en date du 21 avril 2021 (Union européenne, 2021).

<figure><img src="image_5.png" /><figcaption>Figure 1 : Structuration du concept de l'« Ethics by Evolution »</figcaption></figure>

24

Cette éthique systémique et multiforme nous apparaît intéressante afin de pouvoir, à moyen terme, évaluer les structures organisationnelles qui produisent ou utilisent des machines algorithmiques évolutives, sur l'éthique de leur conception, de leur gestion et leur usage. L'idée est donc à la fois de formuler et d'intégrer des principes et des règles éthiques dès la conception des outils technologiques, dans leur architecture même, incluant l'algorithme, ainsi que dans les structures de gouvernance associées au déploiement et à la surveillance de ces technologies, lesquelles devraient permettre des cycles d'évaluations organisés et inclusifs des aspects éthiques des technologies proposées. Cette approche permettrait aussi d'évaluer l'impact sociétal du développement et des usages à l'aune des conditions humaines mise en place par la structure productrice ou utilisatrice, de nature à identifier et résoudre les éventuels dilemmes éthiques, à garantir l'acceptabilité des systèmes, et à en réduire les risques dans ses contextes de destination.

## Recommandations « Ethics by Evolution » associées à l'IA

25

L'approche proposée ici nécessite de faire évoluer la gouvernance des organisations concernées pour permettre l'évaluation récurrente des technologies et d'assurer la transparence de ces activités. Cette démarche est ambitieuse et impose donc d'introduire des critères éthiques dans l'élaboration même des NTIC, dans ses applications et/ou dans son code source informatique, et d'en assurer le bon fonctionnement au travers d'une gouvernance effective, responsable et humaine.

26

Cette régulation néodarwinienne va devoir prendre en compte l'expérience passée et intégrer des indicateurs évolutifs découlant d'un environnement et d'un contexte sociotechnologique en perpétuelle mouvance (Gadamer, 1976; Habermas, 1984; Schwandt, 2000). Cet aspect évolutif est rendu possible par le fait qu'il y a une prise en compte régulière de nouvelles données déterminantes au fur et à mesure de
l'apprentissage-machine, qui influencent le fonctionnement et les résultats de l'IA. L'évaluation éthique des systèmes est alimentée par des données de l'activité en cours (voir « Ethics by Design ») et des données contextuelles (voir « Ethics by Evolution ») afin de déterminer les paramètres de fonctionnement du système, lesquels reflèteront, par défaut, les choix et décisions effectués en amont par l'organisation développant le système ou introduisant l'usage de ce dernier dans son périmètre d'activité. Un tel processus confirme un peu plus l'importance de l'humain dans cette approche évolutive. Ce dernier, maître de la définition des objectifs poursuivis avec la technologie concernée et surtout des critères éthiques appliqués, en est également responsable. Il devra pouvoir répondre des évolutions ou du comportement des machines engendrés lorsqu'il est développeur, ou répondre des impacts de l'intégration ou de l'usage d'un système algorithmique ou d'IA dans un contexte spécifique au sein duquel il a un pouvoir de décision.

27 En définitive, la mission de cette régulation évolutive est de rendre éthique et écoresponsable un système algorithmique sur le long terme, en lui associant une démarche responsable de développement et de contrôle organisée et efficace, et en développant des critères de bonnes pratiques, intégrables si possible dans l'algorithme, qui puissent être justifiés et auditables, par défaut. Toute action sur le paramétrage de ces critères devra être tracée et transparente pour tous les acteurs, y compris les autorités. Ainsi, il est essentiel d'établir des règles de gouvernance relatives aux projets d'innovations en sciences algorithmiques, notamment en IA et d'en assurer une veille, en amont mais surtout en aval du développement, en impliquant les acteurs du déploiement et les utilisateurs finaux, dans une dynamique cyclique. Plusieurs recommandations peuvent mettre sur la voie de l'approche « Ethics by Evolution » (voir ci-après). Nous reprendrons les abréviations utilisées plus haut dans la section 1 de l'article pour identifier les destinataires de ces recommandations.

## Recommandations relatives à une organisation permettant d'adopter l'approche « Ethics by evolution »

### Paramètre structurel

28 Mettre en place des processus qui permettent d'attester la loyauté des algorithmes, c'est-à-dire leur conformité à un cahier des charges préétabli et leur acceptabilité éthique. [EAA] [PP]

Exemples :

* Standardiser le protocole de recueil des données utilisées par le système et les prétraitements des données d'apprentissage ;

* Tracer le fonctionnement des algorithmes et modèles ;

* Utiliser des technologies de réingénierie d'algorithme qui permettent de vérifier l'aspect qualitatif du traitement de vos données.

29 Évaluer la qualité d'une information, et le taux de fiabilité du système algorithmique, afin d'optimiser son usage. [EAA] [PP]

Exemple :

* Processus de gestion de la qualité des données incluses dans les traitements algorithmiques et d'amélioration continue.
30 Développer une gouvernance nouvelle permettant d'envisager l'impact, positif comme négatif, du dispositif technologique et/ou des services liés, en amont et en aval de leur déploiement. [EAA] [PP]

Exemples :

* Plan de résilience de la structure en cas de panne, de conséquences indésirables du système ;

* Désignation d'un personnel interne aux organisations développant ou introduisant des systèmes algorithmiques ou d'IA dans leur périmètre d'activité avec pour mission unique d'assurer le pilotage des activités d'organisation, d'évaluation et de gestion de l'éthique des systèmes dans la dynamique « Ethics by design and evolution ».

31 Permettre une évaluation et un contrôle des interconnexions et interactions entre les différents systèmes de traitement, y compris vis-à-vis de la stratégie de valorisation des données numériques. [EAA] [PP]

Exemple :

* Intégrer une démarche d'amélioration continue insérant des process qualité qui s'attache à vérifier que les données sont appropriées pour une exploitation.

## Paramètre technologique

32 Développer des mesures validées pour contrôler la fiabilité des produits et services d'IA qui doivent être entreprises au niveau technique, organisationnel ou politique. Ces métriques serviraient de base à un système permettant des études comparatives (Benchmarking) piloté par le fournisseur des applications algorithmiques, en collaboration avec l'utilisateur et une surveillance de la part des autorités. [EAA]

Exemple :

* Réaliser une cartographie des différents processus qui permet de surveiller les potentiels dommages et violations autour du traitement des données.

33 Rédiger une fiche technique obligatoire décrivant avec précisions les données d'entrée, d'entrainement, de sortie et de validation du système, l'algorithme, le modèle d'apprentissage et les finalités du système. Cette fiche devrait répondre aux requis de transparence et d'explicabilité nécessaire pour être validée par un audit indépendant réalisé par une structure agrémentée par une autorité ou une agence nationale compétente. Tout système de traitement algorithmique serait livré avec une fiche technique et un rapport d'audit, obligatoire, préalable à son déploiement et à son utilisation et assortit d'une notice claire à destination des distributeurs (instructions sur le contexte et les limites associés à la distribution) et utilisateurs (instructions d'utilisation). Cet audit aura pour but d'attester de la conformité du système à sa fiche technique et aux référentiels pertinents. Dès lors, la documentation technique devrait inclure ou être associée à une description précisant les résultats d'une étude d'impact du dispositif par rapport aux usages et contextes d'utilisation prévus, et présentant clairement les limites de fiabilité et mesures palliatives associées, et les mécanismes de garanties et d'exercice des droits associés aux responsabilités du fabricant. [EAA]

Exemple :

* Instaurer des comités de pilotage destinés à encadrer et suivre le cheminement de la « data » au sein de la structure (voir Cartographie).

34 Vérifier que l'IA ne possède pas de manière autonome la capacité de pouvoir blesser, nuire, tromper voire détruire les êtres humains. Une course aux IA d'armements
mortelles basées sur l'IA devrait être interdite. [EAA] [PP]

Exemple :

* Instaurer un processus de garantie humaine pour surveiller les pratiques de l'IA.

## Paramètre stratégique

35 Avoir une politique de gestion des données fondée sur un nombre restreint et connu de principes s'inscrivant dans la durée et faisant l'objet de révisions régulières dont les conclusions sont tracées et ouvertes (Rial-Sebbag, 2009 : 339) dans une approche méta-éthique responsable. [EAA]

Exemple :

* Instaurer un dispositif qui vérifie régulièrement la mise à jour du recueil de vos données numériques.

36 Développer un « Studio IA » permettant de mutualiser des briques IA Open-Source et des compétences variées (équipe agile de développeurs, spécialistes de la donnée, chercheurs, étudiants) afin d'intégrer une démarche délibérative ouverte dans les projets portés. [EAA] [PP]

Exemple :

* Réaliser un inventaire des objectifs métiers poursuivis autour de vos données numériques.

37 Évaluer les finalités du système, son intérêt en réponse à un besoin réel connu et minimiser les impacts négatifs des dépendances internes et externes suscitées par le développement, le déploiement, l'usage et la maintenance des dispositifs d'IA. Ceci inclurait une analyse d'impact, prospective et rétrospective, du déploiement et de l'usage de la technologie dans son contexte de destination, qu'il s'agisse d'un impact socio-économique ou environnemental, l'objectif étant de privilégier les options respectueuses des objectifs du développement durable et socialement vertueux [EAA]

Exemple :

* Mettre en place des outils de supervision et de surveillance.

## Paramètre méthodologique

38 Permettre l'enregistrement et l'inventaire des outils algorithmiques développés, utilisés et/ou candidats à une utilisation dans la structure concernée afin d'en permettre une traçabilité et de l'introduire dans un processus itératif d'évaluations éthiques pendant tout son cycle de vie [EAA]

39 Adopter une procédure de prise de décision interne à chaque organisation portant sur les questions liées à l'éthique du développement ou du déploiement du système algorithmique ou d'IA. Cette procédure devrait être transparente et fondée sur une approche de prudence envers la portée des conséquences liées à l'usage de ces technologies visant, par exemple, à ne pas prendre de décisions sur des informations obsolètes ou peu fiables, sans consultations préalables des parties prenantes. [EAA]

Exemple :

* Réaliser un SWOT (Forces, Faiblesses, Opportunités, Menaces) autour des enjeux de votre traitement de données numériques.

40 Évaluer quelles tâches et fonctionnalités décisionnelles ne devraient pas être déléguées à Systèmes d'IA, grâce à l'utilisation de mécanismes participatifs pour assurer l'alignement sur les valeurs sociétales (Buttarelli, 2015), et pour favoriser la
compréhension des parties prenantes (y compris les utilisateurs ou personnes affectées par le système) et de l'opinion publique. Cette évaluation doit en particulier tenir compte de la législation en vigueur et des positions éthiques officielles exprimées par les organes représentatifs compétents (ex. : Comités d'éthique nationaux) pour mieux canaliser l'impact du système sur la société dans des proportions mesurées et acceptables. [EAA] [PP]

Exemple :

* Rédiger un code de déontologie ou/et une charte éthique autour des bonnes pratiques encadrant l'exploitation de vos données numériques.

41 Prévoir les méthodes nécessaires au maintien d'un effort permanent d'intelligibilité et de probité technique pour (re)donner confiance aux utilisateurs (Terry 2014), auditeurs et autorités [EAA]

42 Si pertinent et possible dans le système envisagé, avoir une méthode claire et validée d'anonymisation des données numériques depuis le code source. [EAA]

43 Envisager des exercices visant à tester les mesures de protection de la sécurité du système et en améliorer la robustesse une fois le système déployé. [EAA] [PP]

## Paramètre organisationnel

44 Développer un cadre et un service pour améliorer l'explicabilité des systèmes d'IA. La capacité pour les individus d'obtenir une explication factuelle, directe et claire du processus décisionnel employé par le système (s'il s'agit d'un système de prise de décisions automatisées) et par l'agent humain utilisateur (s'il s'agit d'un système d'aide à la décision). [EAA]

Exemple :

* Mettre en place des actions pour rendre transparent votre algorithme de traitement.

45 Organiser et définir clairement les rôles et responsabilités des acteurs internes de la structure en matière de gestion des systèmes et des données numériques (Béranger 2016). [EAA]

46 Mettre en place des pôles ou des départements de direction et de services, dirigés, par exemple, par un Chief Digital Ethics (CDE) qualifié, responsable de l'éthique du numérique, chargé de la mise en œuvre des politiques éthiques dans chaque organisation d'un réseau. [EAA] [PP]

Exemple :

* Établir un management adapté, accompagné par un processus de décisions établi.

47 Instaurer, en plus d'un personnel affecté à la mis en œuvre de la gestion éthique des activités algorithmiques comme évoqué plus haut, des comités de pilotage et d'éthique destinés à l'encadrement de l'usage des technologies algorithmiques et d'IA et au cheminement de la *Data* au sein de l'organisation. Exemple : Habilitations d'usages des technologies et d'accès aux données d'entrée, d'apprentissage et de sorties, aux algorithmes ; évaluation des demandes d'accès aux données ou aux systèmes de la part d'extérieur). [EAA]
## Paramètre réglementaire

48 Développer des instruments juridiques et des modèles contractuels pour jeter les bases d'une collaboration Homme-Machine fluide et enrichissante dans l'environnement de travail. [EAA] [PP]

49 Prévoir une politique d'ouverture des données numériques qui est mise en œuvre en interne et en externe d'une structure [EAA] [PP]

50 Évaluer si la réglementation en vigueur est suffisamment fondée sur l'éthique pour fournir un cadre législatif capable de suivre les évolutions technologiques. Cela peut inclure un ensemble de principes clés applicables aux situations d'urgence et/ou problèmes imprévus. [EAA] [PP]

51 Évaluer la capacité des institutions existantes, telles que les tribunaux civils nationaux, à instruire et juger les cas incluant des erreurs causés par les systèmes d'IA. Cette évaluation devrait porter sur la méthodologie et le fond des procédés et éventuelles décisions prises afin d'aider à mieux appréhender les responsabilités dès la conception et de réduire la négligence dans la gestion et la résolution des conflits. [PP]

52 Fixer des délais de prescription des actions en justice clairs et adaptés aux spécificités des systèmes algorithmiques et d'IA. [PP]

53 Ouvrir une procédure de référé devant une institution indépendante compétente du type Défenseur des droits et libertés, en charge de recevoir les requêtes citoyennes afin de les porter devant l'autorité d'audit ou de contrôle concernée. [PP]

54 Permettre la médiation systématique d'un tiers de confiance indépendant et neutre lors de tout conflit persistant ou de blocage concernant le déploiement ou l'usage d'un outil algorithmique ou d'IA. [EAA] [PP]

55 Favoriser l'établissement de mécanismes de droit souple (voir Recommandations éthiques) et le soutien aux développements d'un « État plateforme »⁴ (O'Reilly, 2011). [EAA] [PP]

## Paramètre relationnel

56 Renforcer la gouvernance et les droits des personnes en s'assurant constamment de la primauté des valeurs humaines et de la supervision humaine dans toute organisation et décision fondée sur l'IA. [EAA] [PP]

57 Développer un service de formation continue des acteurs afin de sensibiliser et guider le personnel technique et administratif des structures privées et publiques développant ou utilisant des technologies de traitements algorithmiques sur les enjeux et le cadre éthique et juridique auxquels ils sont assujettis. [EAA] [PP]

58 Rendre l'IA compréhensible en organisant la médiation humaine avec les utilisateurs. [EAA]

### Exemple :

* Sensibiliser et expliquer aux utilisateurs de l'IA, l'information qui est transmise par le système d'information.

59 Établir des documents vulgarisés et adaptés de nature réglementaire et contraigants à destination des utilisateurs et du public l'informant sur les technologies utilisées, la logique sous-tendant leur utilisation, la gouvernance et les droits garantis ainsi que les moyens de les exercer. Ceci inclut des moyens de communication efficaces avec les
utilisateurs et la conservation des modifications successives apportées à ces documents
à travers le temps (démarche d'accountability) [EEA]

Exemples :

* Formulaire de consentement libre et éclairé de la personne concernée par le traitement algorithmique qui puisse être dynamique ;

* Politique de protection de la vie privée et des données à caractère personnel courte et informative.

60 Créer un observatoire pour l'IA au niveau des organisations internationales comme l'ONU. L'observatoire aurait pour mission de suivre les développements dans tous les secteurs d'activité, d'assurer une information officielle et sourcée sur les projets technologiques internationaux du domaine, de fournir un forum pour alimenter le débat et le consensus, de fournir une base de référentiels techniques et éthiques internationaux, des recommandations et des directives d'action pour les développeurs, une base de donnée de labels reconnus, et des liens vers les différentes agences ou autorités compétentes au niveau des États qui sont chargés du contrôle et de la surveillance des technologies algorithmiques. Cet Observatoire réunirait des représentants des Observatoires existants et agirait comme un organisme consultatif auprès des Nations Unies. [PP]

## Paramètre culturel

61 Assurer une veille permanente sur les évolutions sociétales devant être considérées dans le développement et l'utilisation de l'IA. [EAA] [PP]

62 Veiller à ce que les concepteurs et les décideurs de l'IA restent socialement responsables, sensibles et engagés directement sur les influences potentielles des technologies de l'IA sur la société. [EAA] [PP]

63 Mettre en place les conditions nécessaires à l'expression citoyenne directe et à sa prise en compte argumentée sur les évolutions technologiques, éthiques et réglementaires de l'IA. [EAA] [PP]

64 Certaines recommandations peuvent être entreprises directement par les décideurs nationaux ou internationaux, en collaboration avec les parties prenantes⁵, là où pour d'autres, les décideurs peuvent jouer un rôle moteur, pour favoriser les efforts entrepris ou dirigés vers l'innovation dans la structuration de la responsabilité éthique.

65 Enfin, ces préconisations permettraient aux concepteurs de systèmes d'IA de mieux prendre en considération le respect des valeurs éthiques et des droits fondamentaux dans l'élaboration de ces systèmes algorithmiques qui serviront à mieux guider, gérer et rationnaliser les innovations, sur le long cours, en particulier dans ce domaine très complexe tendant régulièrement vers le désir de développer des IA évolutives, plus autonomes (aujourd'hui quasi inexistantes) agissant éventuellement en réseau. Le respect des politiques établies et leur conformité à des principes et droits fondamentaux supérieurs ont toujours nécessité la mise en place de mécanismes de contrôle internes à l'entreprise et/ou étatiques (Béranger, 2015). Mais la démarche d'« Ethics by Evolution » renforce l'intégrité scientifique, laquelle constitue une responsabilité éthique (Boisvert et al., 2003). En ce sens, toutes les initiatives de régulation éthique des applications d'IA renvoient à une obligation de rendre des comptes, en interne aux organisations, et envers les autorités de contrôle et le public.
Conclusion

66

L'émergence de l'IA est susceptible de masquer l'élaboration d'un projet sociétal, modelé en fonction des intérêts économiques, de la valeur d'usage et de l'accroissement du pouvoir des acteurs de l'innovation allant parfois à contresens d'un développement responsable et durable. Il faut dès lors être en mesure d'identifier les idéologies de l'innovation qui se présentent comme « état de la science » et de se prémunir contre ses dérives antidémocratiques ou nuisibles au développement de sociétés injustes. C'est d'autant plus impérieux que l'IA se structure par une approche parfois extrêmement réductrice de l'être humain et de la vie, au travers de la mise en données, sans réelle concertation, ce qui a des répercussions non seulement éthiques, mais également sociales, culturelles, politiques, anthropologiques et juridiques, allant dans le sens de l'instrumentalisation de l'humain dans un contexte d'économie de marché.

67

Dans ces conditions, il faut que l'humain soit poussé à identifier quels principes éthiques une machine intelligente doit suivre, selon quels critères et selon quelles situations. Cela nécessite de définir une relation plus étroite entre les gouvernements et les entreprises, à repenser le contrat social à l'aune du déploiement de l'IA. Il ne faut pas perdre de vue qu'actuellement l'IA dite « faible » 6 réalise essentiellement ce que son concepteur lui dit de faire, sur commande (bien que cela ne l'exempte pas d'erreurs). Il revient alors aux États et aux entreprises de faire un choix explicite et précis lors de l'élaboration de l'agent artificiel qui sera constitutif de l'approche éthique évolutive des innovations soutenues, en prenant en compte la variabilité des contextes. Ce positionnement devra transparaître dans la mise en œuvre des processus techniques de fonctionnement de l'IA et être explicité. Si l'harmonisation totale des pratiques semble illusoire, il est plus que jamais temps d'intégrer ces aspects au sein même des organisations responsables de l'innovation, y compris par des moyens coercitifs étatiques, et être prêt à voir émerger une pluralité de solutions. C'est le propre de l'évolution ! Les carences actuelles des cadres juridiques ne doivent pas laisser penser que l'IA évolue dans un contexte totalement dérégulé. L'IA devrait être conçue et développée de manière transparente de façon à réduire les inégalités, à renforcer l'autonomisation sociale et la réponse aux grands défis de l'humanité pour qu'elle s'inscrive d'emblée dans l'idée du progrès. C'est à partir de cette vision que l'Union européenne a présenté, le 21 avril 2021, sa future réglementation relative à une IA digne de confiance (Artificial Intelligence Act) conciliant tout à la fois la protection des individus, la sécurité juridique et l'innovation. Les nouvelles règles seront applicables dans tous les États membres. Basées sur les risques, les applications numériques intelligentes potentiellement dangereuses (risque de répercussions sur la vie privée ou professionnelle) seront assujetties à des règles strictes.

68

En définitive, l'« Ethics by Evolution » exige de réorganiser la place de la réflexion sociétale au sein de toutes les organisations, de mettre en place de nouvelles autorités ou agences compétentes, de nouveaux standards d'évaluation et d'audits d'accompagnement, et des moyens de responsabilisation des processus d'innovations technologiques. Dès lors, l'algorithmique et l'IA seraient le reflet technique d'une réponse organisée et délibérée aux dilemmes éthiques circonstanciés posés par ce système technologique.
BIBLIOGRAPHIE

BADILLO, Patrick-Yves et Nicolas PELISSIER (2015), « Usages et usagers de l'information numérique », *Revue française des sciences de l'information et de la communication*, n° 6, p. 4.

BÉRANGER, Jérôme (2015), *Les systèmes d'information en santé et l'éthique : d'Hippocrate à e-ppocr@te*, Londres, ISTE éditions.

BÉRANGER, Jérôme (2016), *Les Big Data et l'éthique : le cas de la datasphère médicale*, Londres, ISTE éditions.

BOISVERT, Yves et al. (2003), *Raisonnement éthique dans un contexte de marge de manœuvre accrue : clarification conceptuelle et aide à la décision*, Rapport de recherche, Secrétariat du Conseil du trésor, gouvernement du Québec, Centre d'expertise en gestion des ressources humaines.

BURT, Andrew (2019), *The AI transparency paradox*, Harvard Business Review.

BUTTARELLI, Giovanni (2015), « Vers une nouvelle éthique numérique : Données, dignité et technologie », Avis n° 4/2015, EDPS, Bruxelles, 11 septembre.

CAPELLER, Wanda et Vincent SIMOULIN (2003), « La gouvernance : du programme de recherche à la transdisciplinarité », *Droit et société*, vol. 2, n° 54, p. 301-305.

DAVIS, Kord et Doug PATTERSON (2012), *Ethics of Big Data: Balancing Risk and Innovation*, Sebastopol, Media, 28 septembre.

DÉCLARATION DE MONTRÉAL (2018), *La Déclaration de Montréal pour un développement responsable de l'intelligence artificielle*.

EAGLE, Nathan et Alex Sandy PENTLAND (2006), « Reality mining: sensing complex social systems », *Journal Personal and Ubiquitous Computing*, vol. 10, n° 4, p. 255-268.

FLOREONI, S. (2018), « L'Humain au cœur du digital », *Livre blanc ADEL intitulé Vade-mecum sur la gouvernance des traitements de données numériques*.

FLORIDI, Luciano et al. (2018), « Taken together, they yield 47 principles. An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommandations », *Minds and Machines*, vol. 28, n° 4, p. 689-707.

GADAMER, Hans-Georg (1976), *The historicity of understanding*, Harmondsworth, Penguin Books Ltd.

GROS, Maryse (2019), « L'IA déjà mise en œuvre dans 37 % des entreprises », *Le Monde Informatique*, 24 janvier.

HABERNAS, Jürgen (1984), « The theory of communicative action », *Volume 1: Reason and the rationalization of society*, Boston, Beacon.

HALEVI, Gali et Henk F. MOED (2012), « The Evolution of Big Data as a Research and Scientific Topic: Overview of the Literature », *Research Trends Issue*, p. 3.

HERVE, Christian (2017), « L'impératif éthique pour la médecine de demain, à l'aune de nos grands anciens », *Bulletin de l'Académie Nationale de Médecine*, 201, n° 4-5, séance du 9 mai, Communication, p. 1-8.

JARRIGE, François (2014), *Techno-critiques. Du refus des machines à la contestation des technosciences*, Paris, La Découverte.
KITCHIN, Rob (2014), « Big Data, New Epistemologies and Paradigm Shifts », *Big Data & 1 Society*,
1-12 avril-juin.

MARKOWETZ, Alexander *et al*. (2014), « Psycho-Informatics: Big Data shaping modern psychometrics », *Medical Hypotheses*, vol. 82, n° 4, p. 308.

NYE, David (2008), *Technologie & civilisation: 10 questions fondamentales liées aux technologies*, FYP, Limoges.

O'REILLY Tim (2011), « Government as a Platform », *Innovations: Technology, Governance, Globalization*, vol. 6, n° 1, p. 13-40.

PICARD, Florence (2017), « Une éthique du numérique centrée sur les citoyens et orientée vers des solutions techniques », *Livre Blanc ADEL, Vade-mecum sur la gouvernance des traitements de données numériques*.

RIAL-SEBBAG, Emmanuelle (2009), *Implications juridiques des Nouvelles formes de gouvernance en bio-technologie : l'exemple des biobanques utilisées en recherche*, Thèse, Toulouse, Université Paul Sabatier, Toulouse 3.

SCHWANDT, Thomas A. (2000), « Three epistemological stances for qualitative inquiry: Interpretivism, hermeneutics, and social constructionism », *Handbook of qualitative research*, Thousand Oaks, Sage, p. 189-214.

TERRY, Nicolas (2014), « Health privacy is difficult but not impossible in a post-hipaa data-driven world », *Chest*, vol. 146, n° 3, p. 835-840.

TOURRELLES, Jean-Marc (2004), *SIH : 1, 2, 3... partez !*, Rennes, Éditions ENSP.

UNION EUROPÉENNE (2021), Proposal for a Regulation of the european parliament and of the council laying down harmonised rules on artificial intelligence (artificial intelligence act) and amending certain union legislative acts, COM (2021) 206 final, Brussels, 21 April, Article 14.

ZUBOFF, Shoshana (2015), « Big Other: surveillance capitalism and the prospects of an information civilization », *Journal of Information Technology*, vol. 30, p. 75-89.

## NOTES

1. Ensemble de théories et de techniques développant des programmes informatiques complexes capables de simuler et d'imiter l'intelligence humaine en effectuant des tâches (raisonnement, apprentissage, etc.) et pouvant s'améliorer en fonction des informations collectées grâce à l'itération. Par exemple, les applications d'IA permettent aux entreprises d'affiner leurs offres, de proposer des expériences clients personnalisées, et d'anticiper les besoins des consommateurs mais aussi de les satisfaire.

2. A l'heure actuelle, l'adaptation des IA s'effectue par une sélection humaine des variables qui composent le code informatique. Dans un futur plus ou moins proche, on pourrait envisager que cette sélection s'effectuerait directement par l'IA qui sera auto-apprenante et évolutive (avec des variations aléatoires du code informatique).

3. Cette approche vise à intégrer des exigences et des préconisations éthiques, d'une part, dès la conception des NTIC jusqu'à leurs utilisations, et d'autre part, de manière évolutive dans le temps, en référence à l'état de l'art dans les domaines scientifique, technologique et socio-économique pertinents.
4. L'État plateforme est une conception de l'État comme une plateforme mettant à disposition de la société civile et des acteurs privés des ressources (ou des infrastructures) et laissant à ces derniers la liberté de développer des biens et des services finaux à l'aide de ces ressources.

5. Ces collaborations ne sont jamais simples à prévoir, à organiser et à mettre en place.

6. L'IA faible (Weak Artificial Intelligence) ou étroite (Narrow Artificial Intelligence) simule des facultés cognitives spécifiques comme la compréhension du langage naturel, la reconnaissance de la parole, ou la conduite automobile. Elle n'effectue que des tâches pour lesquelles elle est programmée. Elle est donc très spécialisée. C'est une machine pour laquelle le monde physique revêt un caractère un peu énigmatique, voire fantomatique, si tant est qu'elle le perçoive. Elle n'a même aucune conscience du temps passé. Cette IA est inintelligente et fonctionne uniquement à partir de scénarii préétablis par les concepteurs et les développeurs.

## RÉSUMÉS

Un climat de tension entremêlant engouement et inquiétude s'est installé envers le numérique et les développements de l'Intelligence artificielle (IA). Face aux enjeux grandissants qui entourent l'IA, une vision éthique et écoresponsable apparaît nécessaire afin de retrouver de la cohérence, du sens, et de la confiance dans l'approche de cette nouvelle technologie évolutive. La mise en place d'un système de normes éthiques illustré par des chartes et référentiels éthiques n'est pas simple à mettre en place, et suscite quelques questionnements et défis à relever en termes de planification, de temporalité et d'application concrète. Il apparaît alors essentiel d'instaurer une régulation éthique néodarwinienne systémique qui s'appuie sur des recommandations pragmatiques, en identifiant et en faisant évoluer des critères d'évaluation éthiques au fur et à mesure de l'apprentissage et de l'évolution de la machine, de ses algorithmes ou de ses autres paramètres fonctionnels, selon son environnement et ses usages : c'est ce que nous conceptualisons ici comme de l'« Ethics by Evolution ».

A climate of tension interweaving enthusiasm and concern has taken hold of digital technology and Artificial Intelligence (AI) developments. Faced with the growing challenges surrounding AI, an integrated ethical and eco-responsible vision appears necessary in order to regain consistency, meaning, and confidence in the approach of this new, quickly evolving technology. The establishment of a system of ethical standards illustrated by ethical charters and benchmarks is not easy to put in place, and raises some questions and challenges to be taken up in terms of planification, timing and concrete application. To this aim, it appears essential to establish a systemic neodarwinian ethical regulation based on pragmatic recommendations, by identifying and developing ethical evaluation criteria as the machine learns and evolves, as its algorithms or its other functional parameters evolves, according to its operational environment and its uses: this approach is conceptualized here as "Ethics by Evolution".

## INDEX

**Mots-clés** : régulation, éthique, intelligence artificielle, évolution

**Keywords** : regulation, ethics, artificial intelligence, evolution
# AUTEURS

## JÉRÔME BÉRANGER

Docteur en éthique du digital, Jérôme Béranger est dirigeant de la société ADELIAA spécialisée dans l'accompagnement et l'évaluation éthique des projets digitaux. Il est également chercheur associé au CERPOP – Inserm, UPS de l'Université de Toulouse III. Ses deux derniers ouvrages s'intitulent respectivement : *Quand l'Intelligence Artificielle s'éveillera* (Le Passeur, 2020), et *La responsabilité sociétale de l'intelligence artificielle* (ISTE éditions, 2021). Il siège dans plusieurs comités scientifiques ou d'éthique au sein de structures privées et publics nationaux. Enfin, il est membre du Conseil du numérique en santé, et siège au Conseil d'administration de la fondation Persée dont l'objectif est de soutenir la recherche scientifique et médicale en cancérologie.

## GAUTHIER CHASSANG

Gauthier Chassang est juriste en droit européen et international de la recherche à l'Inserm (CERPOP, UMR1295, Toulouse, France) au sein d'une équipe de recherche en bioéthique. Ses domaines d'expertise et de recherche portent sur le développement des technologies émergentes et l'analyse de leurs enjeux juridiques et éthiques, en particulier au regard des questions de gouvernance et de protection des droits et libertés fondamentales dans le domaine de la santé. Expert dans le domaine du droit au respect de la vie privée et à la protection des données à caractère personnel, il est membre de la Chaire UNESCO E2S (Éthique, Science et Société) portée par l'Université Fédérale de Toulouse (Groupe de travail : Éthique du numérique et de la robotique), et contribue à plusieurs instances d'évaluation éthique des projets de recherche en santé au niveau national et international. Ses compétences se sont essentiellement développées dans le domaine de l'encadrement des pratiques des biobanques de recherche, de la génomique, des technologies de l'information et de la communication et de l'intelligence artificielle.