# Évaluation éthique de l'impact du numérique : 10 ans plus tard, une typologie mise à jour pour la détermination des risques et de leurs vulnérabilités dans une perspective conséquentialiste

Jean-Yves Antoine, Anaïs Halftermeyer

<figure><img src="image_1.png" /></figure>

## To cite this version:

Jean-Yves Antoine, Anaïs Halftermeyer. Évaluation éthique de l'impact du numérique : 10 ans plus tard, une typologie mise à jour pour la détermination des risques et de leurs vulnérabilités dans une perspective conséquentialiste. Journée d'Etude "éthique et TAL", Karën Fort, Apr 2024, Nancy, France. hal-04990824

HAL Id: hal-04990824

https://hal.science/hal-04990824v1

Submitted on 14 Mar 2025

HAL is a multi-disciplinary open access archive for the deposit and dissemination of scientific research documents, whether they are published or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d'enseignement et de recherche français ou étrangers, des laboratoires publics ou privés.

<figure><img src="image_2.png" /></figure>
Évaluation éthique de l'impact du numérique : 10 ans plus tard,
une typologie mise à jour pour la détermination des risques et de
leurs vulnérabilités dans une perspective conséquentialiste.

Jean-Yves Antoine¹²*, Anaïs Halftermeyer²¹*

*Adresses mail: Jean-Yves.Antoine@univ-tours.fr, Anais.Halftermeyer@univ-orleans.fr

Abstract

This paper proposes to assess the ethical impacts of digital technologies by means of a risk analysis that relates to a consequentialist vision of ethics. This analysis relies on a typology of risk vulnerabilities that aims to cover all the potential impacts of any digital technology. The typology provides an evaluation grid for an ethical assessment of researches and applications, particularly in AI and NLP. It is structured as a hierarchy of vulnerability where the top classes are corresponding to environmental risks (geophysics and biodiversity), individual risk (physical, cognitive and psychological vulnerabilities) and societal risks (psychosocial and social vulnerabilities).

Keywords: consequentialism, ethical risks analysis, risk factor, vulnerability, criticity, digital technologies

# 1 Introduction

La récente apparition dans le débat public des grands modèles de langage et de l'IA générative a mis en exergue de manière particulièrement visible la question des enjeux éthiques posés par l'Intelligence Artificielle. Si l'importance de ces questions se trouve renforcée par l'explosion des applications de l'Intelligence Artificielle, ces enjeux ne sont pourtant pas nouveaux. Il y a ainsi près de 40 ans, Mason (1986) s'interrogeait sur l'ensemble des bonnes propriétés éthiques que se devait de respecter tout concepteur informatique. Les principes PAPA (Privacy, Accuracy, Property, Accessibility) qu'il a proposés alors sont toujours d'actualité. Avec l'émergence des techniques d'apprentissage automatique en Intelligence Artificielle, de nouveaux principes éthiques ont été progressivement considérés tels que par exemple l'équité (fairness) ou la transparence des modèles élaborés. Au vu de l'accélération des applications relevant de l'Intelligence Artificielle, il semble important que l'évaluation éthique des systèmes numériques (IA comprise) ne se contente pas de suivre l'évolution des techniques et la découverte de problèmes après déploiement. De fait, il semble intéressant que cette évaluation éthique puisse considérer une application numérique d'une manière proche de celle de tout autre artefact technique. Dans cette perspective, nous proposons un cadre d'analyse éthique préventif reposant sur deux idées principales :

* Définition d'une typologie de facteurs de risque guidée par la recherche des objets (environnement, individus, société...) pouvant subir l'impact d'une technologie donnée. Cette analyse de risque est conduite dans une démarche conséquentialiste qui ne doit pas être confondue avec une démarche utilitariste (Mill 1861). Notre propos n'est en effet pas de chercher une maximisation théorique du bien-être permis par la technologie, mais de caractériser des facteurs d'attention qui pourront servir au débat sur le déploiement et les conditions d'usage d'une technologie.

* Analyse éthique agnostique, au sens où la typologie de facteurs de risque est indépendante de l'état de l'art technologie numérique et peut s'appliquer à tout artefact technique<fnref n="1" />.

Notre démarche s'éloigne, sans s'opposer, des initiatives institutionnelles promues jusqu'à une date récente en matière d'évaluation de l'impact éthique des technologies numériques. Celles-ci reposaient en effet avant tout sur une vision éthique de type déontologique.

<footnote n="1">¹LIFAT, fédération ICVL, Université de Tours</footnote>

<footnote n="2">²LIFO, fédération ICVL, Université d'Orléans</footnote>

<footnote n="1">¹Notons toutefois que notre réflexion a effectivement été guidée par l'évolution du Traitement Automatique des Langues et de l'Intelligence Artificielle.</footnote>
## 2 Évaluation éthique de l'Intelligence Artificielle : recommandations et éthique déontologique

L'émergence des techniques d'apprentissage automatique a permis une vraie prise de conscience par la communauté informatique des impacts éthiques de l'Intelligence Artificielle et plus globalement du numérique. Ainsi, l'observation de biais de genre ou d'origine dans les données d'apprentissage et la reproduction des stéréotypes dont ils découlaient a conduit à donner une attention particulière à l'équité des modèles. La capacité de ces modèles à proposer une aide à la décision efficace mais peu explicable a également mis en avant la question de la transparence des modèles. Au fil des problèmes identifiés, les acteurs et actrices du numériques ont ainsi défini un ensemble de principes (privacy, property, accuracy, fairness, transparency, human-control, accessibility, responsibility...) qui ont été mis en avant, dans une démarche déontologique, comme devant être au centre des préoccupations d'une conception responsable des systèmes. Ces principes ont été regroupés dans une multitude de guides de recommandations, qui ont été aussi bien le fait de scientifiques réunis par des institutions nationales (Dittrich and Kenneally 2012, CNIL 2017) ou transnationales telles que l'UE (Council of the European Union 2024), l'UNESCO ou l'ONU (GEHN IA 2018,...) que par des industriels (The Future of Life Institute 2017)<fnref n="2" />. Jobin et al. (2019) propose un panorama très complet du foisonnement des initiatives de ce type. Plus récemment, ces guides ont été accompagnés d'outils méthodologiques proposant une évaluation du respect de ces recommandations déontologiques sous forme de questionnaires, pouvant conduire à la définition d'un score de qualité éthique. Un exemple parmi d'autres de ce type d'initiatives se retrouve par exemple dans l'Ethical Impact Assessment<fnref n="3" /> (EIA) tool proposé par l'UNESCO en 2023, ou bien encore dans l'Outil d'Évaluation de l'Incidence Algorithmique mis en place par l'État canadien<fnref n="4" />. Ces initiatives sont utiles à une conception responsable au sens où elles offrent un outillage méthodologique pratique pour analyser les implications éthiques des technologies que l'on développe. Elles proposent un cadre d'analyse à gros grain qui est également intéressant pour guider le débat et la décision politique et qui se focalise sur les préoccupations identifiées comme majeures par l'ensemble des acteurs et actrices du numérique. Ce type de démarche nous apparaît toutefois insuffisant pour répondre à certaines questions qui ne sauraient être ignorées :

* Les principes déontologiques définis dans ces recommandations sont tous issus de problèmes identifiés sur des technologies déployées. Ils peuvent dès lors passer à côté de points d'attention non encore identifiés ou de techniques émergentes.
* Ces principes mettent en exergue des préoccupations essentielles auxquelles il convient d'être très attentifs. Ils laissent toutefois de côté des préoccupations à grain plus fin qui pourraient de ce fait être ignorées. Les outils d'évaluation déontologique avec calcul de score reposant sur le respect de principes centraux pourrait ainsi laisser une impression erronée de sûreté éthique d'applications potentiellement problématiques.

C'est pour répondre à ces insuffisances que nous proposons un cadre d'évaluation conséquentialiste dont l'objectif est d'éclairer la conception en identifiant des sujets de préoccupation potentiellement ignorés. Ceci pour nourrir un débat éthique et non pas pour proposer une sorte de "certification" éthique. Ne visant pas les mêmes objectifs au-delà d'une conception responsable, approche déontologique et approche conséquentialiste nous apparaissent de ce point de vue complémentaires.

## 3 Typologie de risques pour une caractérisation conséquentialiste des impacts

L'éthique conséquentialiste suit une approche téléologique qui se focalise non pas sur des principes moraux à respecter, mais sur les conséquences de nos actions (ici, le développement mais également l'usage d'applications numériques). Les principes de précaution et de responsabilité, théorisés par Jonas (1979), relèvent de cette logique et répondent à notre démarche. Notre objectif est de définir un cadre systématique pour l'étude des impacts potentiels d'une technologie. L'idée est de caractériser ces impacts en terme de risques (positifs ou négatifs), à l'instar de l'analyse du risque industriel ou environnemental. Nous proposons ainsi de suivre un cadre normatif standard, comme par exemple les normes européennes (EN 292-1 et EN 1050) "relatives aux risques ayant incidence sur la santé humaine". Dans ce type de démarche, le risque est modélisé comme l'association de trois concepts :

* le facteur de risque, qui caractérise l'élément ou le processus susceptible de causer un risque, donc d'être la cause d'une situation indésirable (ici, le développement et/ou l'usage d'une technologie),

* la vulnérabilité, qui revient à décrire l'objet du risque, à savoir l'élément qui le subit et d'autre part ses conséquences,

<footnote n="2">²https://futureoflife.org/open-letter/ai-principles/</footnote>

<footnote n="3">³https://www.unesco.org/en/articles/ethical-impact-assessment-tool-recommendation-ethics-artificial-intelligence</footnote>

<footnote n="4">⁴https://www.canada.ca/fr/gouvernement/systeme/gouvernement-numerique/innovations-gouvernementales-numeriques/utilisation-responsable-ai/evaluation-incidence-algorithmique.html</footnote>
* la **criticité**, qui combine l'impact du risque (son effet ou sa gravité, pour reprendre le standard européen détaillé plus haut) avec sa probabilité d'occurrence. La question que l'on se pose ici est l'évaluation de l'impact des technologies que nous développons. Cette évaluation peut être expérimentale (étude statistique sur une population de test) ou subjective et introspective (retour d'expérience d'experts, par exemple). Une analyse sérieuse de la criticité est le plus souvent une entreprise lourde et ne peut être menée que si l'analyse des vulnérabilités a caractérisé préalablement en enjeu suffisamment sensible pour la justifier.

Dans le cadre de nos travaux, notre objectif n'est donc pas de conduire une évaluation complète (par exemple à la manière du calcul d'un "score éthique" utilitariste) mais d'aider les personnes impliquées dans la conception ou le déploiement d'une technologie à caractériser les points de préoccupation qui devront conduire éventuellement à une analyse plus poussée. Notre propos n'est donc pas de proposer une méthode pour estimer la criticité d'un risque éthique, mais de définir de manière exhaustive, les objets de vulnérabilité éthique d'un système. Notre cadre d'analyse se focalise donc sur l'étude des vulnérabilités liés à un système technique et repose sur une typologie hiérarchique de celles-ci, distinguant pour le premier niveau les risques *environnementaux*, *individuels* et *sociétaux*. Les niveaux inférieurs de la typologie concernent les conséquences spécifiques à chaque vulnérabilité. Par exemple, dans le cadre du risque *individuel*, on distingue les impacts (positifs comme négatifs) du système en termes d'impact *physique*, *cognitif* ou *psychique*. Chaque conséquence peut elle-même est subdivisée en sous-types d'impacts, afin de fournir une illustration de chaque branche et feuille pour guider une étude conséquentialiste.

# 4 Conclusion

Pour élaborer notre typologie de vulnérabilités, nous avons considéré dans un premier temps des nomenclatures médicales (classifications CIF, CIM ou DSM de l'OMS ou de l'APA) ou des études sociales établies en dehors de toute considération liées à l'usage d'artefacts techniques. Ce n'est que dans second temps que nous avons testé la validité de cette catégorisation par l'étude d'études documentant les effets liés à l'usage d'une grande diversité de systèmes numériques. La première version de cette typologie a été proposée il y a désormais 10 ans : Antoine et al. (2014); Lefeuvre et al. (2015); Lefeuvre-Halftermeyer et al. (2016). Nous l'avons réactualisée au fil de la découverte de nouveaux impacts relevés dans la littérature. L'arrivée de l'IA générative pose avec acuité de nouvelles préoccupations non envisagées par le passé. Cette arrivée subite nous a permis de valider la robustesse de notre typologie et nous sommes confiants dans sa capacité à proposer un cadre préventif d'analyse éthique dans le futur. Cette vision conséquentialiste des enjeux éthiques liés à la conception et au déploiement d'une technologie est restée très rare dans le domaine du numérique. Notre typologie se rapproche toutefois de deux propositions récentes de taxonomies d'impacts sociotechniques des systèmes numériques dans le domaine de la vision par ordinateur et/ou du traitement automatique des langues (Katzman et al. 2021; Shelby et al. 2023)<fnref n="5" />. Les taxonomies proposées par Katzman et al. (2021) et Shelby et al. (2023) nous semblent plus liées à la technologie que notre proposition, et sont marquées par un focus particulier sur le renforcement des biais sociaux dans la société. Les revues de la littérature menées dans ces études sont par contre impressionnantes par leur caractère exhaustif et systématisé. Notre intention est donc de reprendre toutes les études relevées dans ces synthèses pour éprouver notre taxonomie, avant d'en faire une publication publique et éventuellement participative sous forme d'une ontologie. Nous aimerions par ailleurs réfléchir à l'implémentation de cette taxonomie dans le cadre d'une analyse de risque menée dans le cadre de l'IA Act européen.

# References

Antoine, J.-Y., Labat, M.-E., Lefeuvre, A., and Toinard, C. (2014). Vers une méthode de maîtrise des risques dans l'informatisation de l'aide au handicap. In *Envirorisk'2014, Le forum de la gestion des risques technologiques, naturels et sanitaires*, Gestion des risques naturels, technologiques et sanitaires - Forum Envirorisk'2014, page 9 pages, Bourges, France. Cépaduès.

CNIL (2017). Comment permettre à l'homme de garder la main ? les enjeux éthiques des algorithmes et de l'intelligence artificielle. rapport de synthèse du débat public « éthique et numérique ». Technical report, CNIL.

Council of the European Union (2024). IA ACT. https://artificialintelligenceact.eu/fr/ai-act-explorer/.

Dittrich, D. and Kenneally, E. (2012). The menlo report: Ethical principles guiding information and communication technology research. SSRN Electronic Journal.

<footnote n="5">⁵Shelby et al. (2023) propose ainsi une catégorisation des préjudices potentiels des technologies numériques en 5 catégories distinctes : représentationnels, économiques, variation des performances des systèmes suivant les individus ou les catégories sociales, interpersonnels, sociétaux. Cette taxonomie est ensuite raffinée sur un second niveau de sous-types de préjudices potentiels. La démarche de Katzman et al. (2021) et celle de Shelby et al. (2023) sont ainsi très proches de la notre, et visent le même objectif : définir une check-list de préoccupations potentielles à étudier systématiquement dans la perspective d'une conception responsable.</footnote>
GEHN IA (2018). Lignes directrices en matière d'éthique pour une ia de confiance. Rapport du groupe d'experts indépendants de haut niveau sur l'intelligence artificielle constitué par la commission européenne. Technical report, Commission Européenne.

Jobin, A., Ienca, M., and Vayena, E. (2019). The global landscape of ai ethics guidelines. *Nature Machine Intelligence*, 1.

Jonas, H. (trad. fr. 1990; 1979). *Le principe responsabilité*. Champs Flammarion.

Katzman, J., Barocas, S., Blodgett, S. L., Laird, K., Scheuerman, M., and Wallach, H. (2021). Representational harms in image tagging. In *Beyond Fair Computer Vision Workshop at CVPR 2021*.

Lefeuvre, A., Antoine, J.-Y., and Allegre, W. (2015). Ethique conséquentialiste et traitement automatique des langues : une typologie de facteurs de risques adaptée aux technologies langagières. In *Atelier Ethique et TRaitemeNt Automatique des Langues (ETeRNAL’2015), conférence TALN’2015*, Actes de la 1e Ethique et TRaitemeNt Automatique des Langues (ETeRNAL’2015), Caen (France), pages 53–66, Caen, France.

Lefeuvre-Halftermeyer, A., Govaere, V., Antoine, J.-Y., Allegre, W., Pouplin, S., Departe, J.-P., Slimani, S., and Spagnulo, A. (2016). Typologie des risques pour une analyse éthique de l'impact des technologies du TAL [typology of risks for an ethical analysis of the impact of NLP technologies]. *Traitement Automatique des Langues*, 57(2):47-71.

Mason, R. (1986). *Four ethical issues of the information age*. Mis Quarterly.

Mill, J. (rééd. 1998; 1861). *Utilitarianism*. Oxford University Press.

Shelby, R., Rismani, S., Henne, K., Moon, A., Rostamzadeh, N., Nicholas, P., Yilla-Akbari, N., Gallegos, J., Smart, A., Garcia, E., and Virk, G. (2023). Sociotechnical harms of algorithmic systems: Scoping a taxonomy for harm reduction. In *Proceedings of the 2023 AAAI/ACM Conference on AI, Ethics, and Society*, AIES ’23. ACM.

The Future of Life Institute (2017). Asilomar AI Principles. https://futureoflife.org/open-letter/ai-principles/.