<figure><img src="image_1.png" /></figure>

# L'intelligence artificielle : un levier permettant de restaurer l'égalité ?

Jean-Pierre Béland

Volume 5, numéro 2, 2022

URI : https://id.erudit.org/iderudit/1089798ar

DOI : https://doi.org/10.7202/1089798ar

Aller au sommaire du numéro

Éditeur(s)

Programmes de bioéthique, École de santé publique de l'Université de Montréal

ISSN

2561-4665 (numérique)

Découvrir la revue

## Citer cet article

Béland, J.-P. (2022). L'intelligence artificielle : un levier permettant de restaurer l'égalité ? *Canadian Journal of Bioethics* / *Revue canadienne de bioéthique*, 5(2), 162-170. https://doi.org/10.7202/1089798ar

## Résumé de l'article

Le Journée d'étude « Pour des intelligences artificielles au service du corps vulnérable : Les contreforts de l'éthique et du droit » tenu en décembre 2021 à l'Université catholique de Lyon, en France, a permis d'explorer si l'intelligence artificielle (IA) pouvait être un levier permettant de restaurer l'égalité entre les pauvres et les riches, les femmes et les hommes, les handicapés, les sujets âgés? En contexte de pandémie Covid-19, cette question se pose partout, incluant diverses instances internationales, comme les Nations Unies (ONU) et l'Union internationale des communications (UTI). Cette question nécessite de faire une analyse d'impact (levier) de l'IA pouvant engendrer plus de justice sociale (réduction des inégalités). Comment produire une telle analyse pour que l'IA puisse bénéficier à toutes et à tous sans exclure des citoyennes et citoyens de communautés marginalisées? Le problème éthique difficile à résoudre est le suivant : jusqu'où l'impact de l'IA maximise-t-il la justice en réduisant les inégalités? Ici l'analyse repose sur la connaissance des dispositifs de l'IA pouvant avoir un impact réel ou négatif. Le but de cette présentation sera de montrer, à partir de notre cadre d'analyse d'impacts des technologies et de différents textes publiés, les forces et faiblesses de l'IA, pour répondre à cette question. En appliquant ce cadre de référence, nous procédons de la façon suivante : 1) situer le problème complexe des inégalités: celles qui sont de nature générationnelle et socioéconomique auxquelles l'IA n'a que peu d'impacts; des inégalités auxquelles l'IA peut avoir des impacts, dont l'inclusion numérique et les inégalités sociales; 2) situer la terminologie de l'IA : IA faible (algorithmes) ou complète (décisionnelle et autonome); 3) faire une analyse des inégalités : inclusion numérique et inégalités sociales montrant les forces et faiblesses de l'IA.

<figure><img src="image_2.png" /></figure>
<figure><img src="image_3.png" /></figure>

ACTES DE COLLOQUE / CONFERENCE PROCEEDINGS

# L'intelligence artificielle : un levier permettant de restaurer l'égalité?

Jean-Pierre Béland<sup>a,b</sup>

## Résumé

Le Journée d'étude « *Pour des intelligences artificielles au service du corps vulnérable : Les contreforts de l'éthique et du droit* » tenu en décembre 2021 à l'Université catholique de Lyon, en France, a permis d'explorer si l'intelligence artificielle (IA) pouvait être un levier permettant de restaurer l'égalité entre les pauvres et les riches, les femmes et les hommes, les handicapés, les sujets âgés? En contexte de pandémie Covid-19, cette question se pose partout, incluant diverses instances internationales, comme les Nations Unies (ONU) et l'Union internationale des communications (UTI). Cette question nécessite de faire une analyse d'impact (levier) de l'IA pouvant engendrer plus de justice sociale (réduction des inégalités). Comment produire une telle analyse pour que l'IA puisse bénéficier à toutes et à tous sans exclure des citoyennes et citoyens de communautés marginalisées? Le problème éthique difficile à résoudre est le suivant : jusqu'où l'impact de l'IA maximise-t-il la justice en réduisant les inégalités? Ici l'analyse repose sur la connaissance des dispositifs de l'IA pouvant avoir un impact réel ou négatif. Le but de cette présentation sera de montrer, à partir de notre cadre d'analyse d'impacts des technologies et de différents textes publiés, les forces et faiblesses de l'IA, pour répondre à cette question. En appliquant ce cadre de référence, nous procédons de la façon suivante : 1) situer le problème complexe des inégalités: celles qui sont de nature générationnelle et socioéconomique auxquelles l'IA n'a que peu d'impacts; des inégalités auxquelles l'IA peut avoir des impacts, dont l'inclusion numérique et les inégalités sociales; 2) situer la terminologie de l'IA : IA faible (algorithmes) ou complète (décisionnelle et autonome); 3) faire une analyse des inégalités : inclusion numérique et inégalités sociales montrant les forces et faiblesses de l'IA.

## Mots-clés

intelligence artificielle, inclusion numérique, inégalités sociales, évaluation éthique

## Abstract

The international conference "Pour des intelligences artificielles au service du corps vulnérable : Les contreforts de l'éthique et du droit" held in December 2021 at the Université catholique de Lyon, in France, explored whether artificial intelligence (AI) be a lever to restore equality between poor and rich, women and men, the disabled, the elderly? In the context of the Covid-19 pandemic, this question is being asked everywhere, including various international bodies, such as the United Nations (UN) and the International Communications Union (ICU). This question requires an impact analysis (leverage) of AI that can generate more social justice (reduction of inequalities). How can we produce such an analysis so that AI can benefit everyone without excluding citizens from marginalized communities? The difficult ethical problem to solve is the following: how far does the impact of AI maximize justice by reducing inequalities? Here the analysis relies on knowledge of AI features that can have a real or negative impact. The purpose of this paper will be to show, based on our framework for analyzing technology impacts and various published texts, the strengths and weaknesses of AI, to answer this question. Applying this framework, we proceed as follows: 1) situate the complex problem of inequalities: those that are generational and socio-economic in nature to which AI has little impact; inequalities to which AI can have an impact, including digital inclusion and social inequalities; 2) situate the terminology of AI: weak (algorithms) or complete (decisional and autonomous) AI; 3) do an analysis of inequalities: digital inclusion and social inequalities showing the strengths and weaknesses of AI.

## Keywords

artificial intelligence, digital inclusion, social inequalities, ethics review

## Affiliations

**Correspondance / Correspondence:** Jean-Pierre Béland, jpbeland@uqac.ca

Journée d'étude « *Pour des intelligences artificielles au service du corps vulnérable : les contreforts de l'éthique et du droit* »
Faculté de Droit, Université catholique de Lyon, Lyon, France, 3 décembre 2021.

## INTRODUCTION

Pendant la pandémie de Covid-19, la capacité à utiliser les technologies de l'intelligence artificielle (IA) et du numérique (comme l'ordinateur et l'internet) s'est révélée indispensable pour prévenir tout risque d'exclusion dans les populations vulnérables – qui comprennent non seulement les personnes âgées, mais toutes les personnes susceptibles d'être exposées au virus de la Covid-19 (1) –, et ce tant pour l'emploi et la scolarisation que pour l'accès à des soins de santé en ligne. Ces technologies ont l'avantage de procurer la puissance, la rapidité et la facilité d'accès dans l'acquisition, la gestion et l'échange d'informations, de textes, d'images et de sons, notamment pour se maintenir en bonne santé et aider les autres. Cependant, elles entraînent des effets négatifs tels que les fractures numériques entre les générations : « Les freins à l'inclusion numérique sont nombreux (illettrisme, coût élevé des télécommunications, absence de compte courant, absence de logement, méconnaissance d'Internet, défiance envers les technologies numériques, manque de compétences numériques de base. » (2). Cette situation des inégalités sociales et numériques en contexte de pandémie complexifie le processus politique

<figure><img src="image_4.png" /></figure>

<footnote><sup>a</sup> Programmes d'éthique, Département des sciences humaines et sociales, Laboratoire Nanobioéthique (NBÉ), Université du Québec à Chicoutimi, Chicoutimi, Québec, Canada</footnote>

<footnote><sup>b</sup> Institut interdisciplinaire d'innovation technologique (3it), Université de Sherbrooke, Sherbrooke, Québec, Canada</footnote>
et social de l'inclusion numérique qui vise à rendre le numérique accessible à chaque individu et à lui transmettre les compétences (3). Cette situation va-t-elle perdurer? Ne risque-t-elle pas même de s'aggraver en fonction de l'accélération du développement économique de l'IA et du numérique aujourd'hui? (4) Comment favoriser les avantages d'un tel développement tout en réduisant les inégalités entre les générations? Faut-il prôner l'urgence de ralentir en ouvrant le dialogue sur cette question? « S'il y a une urgence, c'est celle de ralentir et de faire émerger des conditions favorables à la participation des citoyens. Ainsi, il sera possible de trouver des réponses inclusives à des problématiques numériques qui demeurent avant tout sociales » (5).

C'est au cœur de ce contexte problématique de la pandémie Covid-19, lors d'un colloque international, le Journée d'étude « *Pour des intelligences artificielles au service du corps vulnérable : les contreforts de l'éthique et du droit* » tenu à l'Université catholique de Lyon (UCLY) en décembre 2021, que s'est logée la question philosophique de l'évaluation de l'IA au service de l'inclusion numérique qui puisse bénéficier à toutes et à tous sans exclure des citoyennes et citoyens des sociétés marginalisées : « L'intelligence artificielle (IA) peut-elle être un levier permettant de restaurer l'égalité entre les générations? » Cette question m'a été posée, suite à la présentation de notre projet de recherche, intitulé « Personnes vulnérables et intelligence artificielle » – il nous demande de faire une analyse d'impact (levier) de l'IA pouvant engendrer plus de justice sociale (réduction des inégalités sociales et numériques). Comment produire une telle analyse pour arriver à une décision qui répond le mieux possible à la question?

J'utiliserai comme cadre de référence une grille conceptuelle sous forme de « Processus d'analyse d'impact et d'acceptabilité » (6,7,8) qui est applicable dans l'évaluation de tous les développements technologiques. Ce processus d'évaluation renvoie à trois moments subséquents qui sont énumérés dans le tableau suivant.

<table><caption>Figure 1. Processus d'analyse d'impact et d'acceptabilité</caption><thead><tr><th></th><th></th></tr></thead><tbody><tr><td>Moment 1 : La détermination des impacts sur des enjeux</td><td><ul><li>Étape 1 : Identification de la source technologique pouvant avoir un impact sur un enjeu</li><li>Étape 2 : Identification d'un enjeu pouvant subir un impact de la source</li><li>Étape 3 : Détermination de l'impact réel ou négatif de la source sur l'enjeu</li></ul></td></tr><tr><td>Moment 2 : L'évaluation des impacts à partir des valeurs retenues</td><td><ul><li>Étape 1 : Qualification des impacts sur des enjeux en termes de valeur</li><li>Étape 2 : Jugement final d'évaluation d'un impact positif ou négatif</li></ul></td></tr><tr><td>Moment 3 : La pondération des jugements finaux d'évaluation en vue de la décision</td><td><ul><li>Étape 1 : Détermination du type de pondération retenue : acceptabilité des risques ou acceptabilité globale des impacts?</li><li>Étape 2 : Processus de pondération a) selon l'acceptabilité des risques, b) ou selon l'acceptabilité globale des impacts</li></ul></td></tr></tbody></table>

Les étapes de la structure logique de ma présentation portent ainsi sur une analyse d'impact de l'IA pouvant maximiser la justice en réduisant les inégalités. Car il faut bien considérer que l'enjeu de l'évaluation et de la pondération des impacts de l'IA, comme source technologique, est la maximisation de la justice en réduisant les inégalités. Le problème éthique difficile à résoudre est la question de savoir : jusqu'où l'impact de l'IA maximise-t-il la justice en réduisant les inégalités? Ici l'analyse d'impact repose sur la connaissance des dispositifs de l'IA comme source technologique pouvant avoir un impact réel ou négatif.

J'apporterai un élément de réponse à la question en procédant de la façon suivante :

1. Situer le problème complexe des inégalités: celles qui sont de nature générationnelle et socioéconomique auxquelles l'IA n'a que peu d'impacts; des inégalités auxquelles l'IA peut avoir des impacts, dont l'inclusion numérique et des inégalités sociales

2. Situer la terminologie de l'IA : IA faible (algorithmes) ou complète (décisionnelle et autonome)

3. Analyses d'inégalités : inclusion numérique et inégalités sociales montrant les forces et faiblesses de l'IA

4. Conclusion

## PROBLÈME COMPLEXE D'INÉGALITÉS

Jusqu'où l'impact de l'IA maximise-t-il la justice en réduisant les inégalités? Avant d'apporter une réponse à cette question, il nous faut d'abord présenter le problème des inégalités pour en montrer la complexité. Il s'agit de présenter en gros les types d'inégalités qui constituent en quelque sorte l'arrière-plan de l'analyse d'impact de l'IA. Nous retrouverons donc ici les enjeux d'inégalités qu'il faut traiter. Il faut considérer que l'écart d'égalité entre les riches / pauvres, femmes / hommes, personnes handicapées, sujets âgés, etc. a toujours existé. Autrement dit, l'égalité a un caractère utopique – elle n'a jamais existé. Comment l'IA, selon la question posée initialement, peut-elle être un levier permettant de restaurer l'égalité en comblant l'écart
entre les groupes et les générations? De plus, il appert aujourd'hui en contexte de pandémie COVID-19 que l'accélération du développement et de l'usage de l'IA et du numérique risque de creuser cet écart : « La rapidité d'adoption de la technologie numérique dépasse nos capacités de réaction politique et de gouvernance aux niveaux national, régional et mondial » (9). C'est pourquoi, en juin 2020, le Secrétaire général des Nations Unies a cherché à combler ces lacunes de la gouvernance numérique en appelant la communauté internationale à étendre la coopération numérique destinée à exploiter le meilleur de la technologie numérique tout en réduisant les risques d'aggraver les inégalités.

En utilisant le Rapport rédigé par Karine Gentelet et Alexandra Bahary-Dionne (septembre 2020), « Les angles morts des réponses technologiques à la pandémie Covid-19 Disjonctions entre les inégalités en santé et numériques structurantes de la marginalisation de certaines populations » (4), il semble donc utile ici de distinguer certaines formes d'inégalités liées au numérique qui ont été et sont encore omniprésentes dans nos sociétés telles :

* L'écart de penser et d'agir entre les générations qui peut être atténuées par des pratiques sociales intergénérationnelles.

* L'écart socioéconomique qui rend l'accès au numérique impossible pour certains.

Or ces inégalités trouveront davantage une réponse par des initiatives économiques. Il y a d'autres formes d'inégalités actuelles sur lesquelles il importe de porter notre attention :

* Des inégalités provenant du numérique : inégalité dans la capacité d'usage des dispositifs donnant accès au numérique :

* Manipulation de l'ordinateur, capacité de recherche internet

* Capacité d'analyse et de compréhension

* Des inégalités actuelles comme les rapports homme/femme

* Des inégalités sociales en médecine.

Dans le contexte actuel de la COVID-19, le rapport de Karine Gentelet et Alexandra Bahary-Dionne au Québec montre à partir d'analyse de cas qu'il s'agit des **inégalités sociales** bien réelles (4). Leur rapport recommande de faire une analyse d'impact de l'IA et du numérique pour mieux en encadrer le développement responsable et l'usage, et ce en ne prenant pas, par exemple, les objectifs du développement durable (notamment ceux liés à la pauvreté, aux inégalités en éducation et en santé, selon les Nations Unies) pour la réalité (10). Les objectifs du développement durable donnent seulement la marche à suivre pour parvenir à un avenir meilleur.

Le 11 juin 2020, le Secrétaire général des Nations Unies (ONU), António Guterres, avait déjà présenté une série de recommandations destinées à la communauté internationale, particulièrement le renforcement des compétences numériques et la formation ainsi que la coopération mondiale en matière d'intelligence artificielle, afin de contribuer à ce que toutes les personnes soient connectées, respectées et protégées à l'ère numérique, ce que nous pourrions appeler le **bien social**. Le point d'inflexion critique pour appeler la communauté internationale à étendre la coopération numérique (*Digital cooperation*) pour le bien social est que la pandémie Covid-19 a eu notamment pour effet « d'accélérer la numérisation et d'amplifier tant les opportunités que les défis » d'éliminer les inégalités impliquées par la technologie numérique :

> Les avantages de la technologie numérique mis en évidence par la pandémie – comme la collaboration dans la recherche d'un vaccin, le travail et l'apprentissage à distance, sans oublier le commerce électronique – traduisent également un écart de plus en plus profond entre les personnes qui sont connectées et celles qui ne le sont pas. Près de la moitié de la population mondiale – 46,4% selon l'Union internationale des télécommunications – ne profite pas de l'ère numérique faute de pouvoir se connecter à Internet. Les femmes sont touchées de manière disproportionnée : elles ne représentent en effet que 48% de connexions mondiales. En outre, de nouvelles vulnérabilités apparaissent parallèlement aux efforts pour connecter davantage de personnes : les cyber-attaques et la désinformation menacent ainsi les droits, la vie privée et la sécurité de chacun (9).

Tout cela nous aide finalement à cibler l'enjeu central pouvant subir l'impact de l'IA comme source technologique – l'IA peut favoriser l'inclusion numérique, mais il risque en même temps de creuser davantage l'écart numérique signe d'inégalités sociales. Tel est l'enjeu subissant l'impact de l'IA comme levier.

## DE QUELLE INTELLIGENCE PARLONS-NOUS EN ÉTHIQUE DE L'IA?

Le but, en répondant à cette question, est de situer la terminologie de l'IA comme source technologique pouvant avoir un impact sur un enjeu : IA faible (algorithmes) au sens restreint et l'IA complète (décisionnelle et autonome), et d'illustrer cette terminologie à partir d'exemples. Nous nous concentrerons ici sur les définitions, car dans certains cas l'IA faible est insuffisante, et on peut penser dans l'avenir à des IA plus complètes comme levier.

## L'IA faible au sens restreint

L'IA faible au sens restreint se distingue de l'IA forte au sens large complété en éthique de l'IA et en éthique des robots. Qu'est-ce que cette IA faible au sens restreint? Il s'agit de l'intelligence algorithmique de l'Internet.
## Exemple

Comme le rappelle la définition de l'IA au sens restreint du regroupement de recherche HumanIA à l'Université du Québec à Montréal :

> L'accumulation massive de données, la construction d'ordinateurs de plus en plus puissants, le développement d'algorithmes s'inspirant des « réseaux de neurones » du cerveau, l'apprentissage automatique et autres avancées dans le traitement des données ont spectaculairement accéléré la pénétration du numérique dans la vie privée et publique. Toutes ces techniques sont aujourd'hui regroupées sous ce qu'il est convenu d'appeler « l'intelligence artificielle » (IA) (11).

Cette intelligence artificielle est algorithmique. Mais qu'est-ce qu'un algorithme? Dans le domaine des mathématiques, dont le terme est originaire : « Un **algorithme est** composé d'instructions et d'opérations réalisées, dans un ordre précis, sur des données afin de produire un résultat et souvent résoudre un problème plus ou moins complexe. » (12) Mais les algorithmes ne servent pas seulement à résoudre des problèmes arithmétiques.

On peut distinguer :

* des algorithmes généralistes qui s'appliquent à toute donnée numérique ou non numérique : par exemple les algorithmes liés au chiffrement, ou qui permettent de les mémoriser ou de les transmettre;

* des algorithmes dédiés à un type particulier de données (par exemple, ceux liés au traitement des images) (13).

L'algorithme de l'IA faible désigne ainsi le traitement des données par un ordinateur. Le travail de l'algorithme au sein des mégadonnées sert à répondre aux questions des utilisateurs. Puisque l'IA est en développement, il faut toutefois éviter de confondre cette IA faible au sens restreint avec l'IA forte au sens large complété en éthique de l'IA et en éthique des robots.

## L'IA forte au sens large complété

L'IA forte est un objectif de travail en éthique de l'IA et en éthique de la robotique pour dépasser l'IA faible : Elle désigne la véritable « intelligence artificielle » comme il existe des intelligences naturelles, c'est-à-dire des entités capables de prendre des décisions de manière autonome en fonction d'une réflexion consciente.

### Exemple

Thierry Menissier, dans son article « Quelle éthique pour l'IA? » (2019), nous invite à réfléchir sur le fait que le travail algorithmique de l'IA faible au sein des mégadonnées (big data) n'est pas une véritable intelligence artificielle complétée au sens large :

> Nous entendons souvent par « intelligence artificielle » l'activité des algorithmes dont les opérations de calcul sont nourries par des flux de mégadonnées (big data) eux-mêmes engendrés par des capteurs variés. Ces technologies de calcul se complètent de deux prolongements qui engagent des éléments a priori étrangers à elles, prolongements qu'il est souvent difficile de distinguer ce qui relèverait de l'IA conçue en un sens restreint, c'est-à-dire seulement le travail algorithmique, et en un sens large, c'est-à-dire l'IA complétée: elles se fondent d'un côté sur les technologies de l'information et de la communication et appuient l'essor du numérique, et de l'autre elles s'expriment sous les diverses formes actuelles de la robotique. Ce système technique qu'aujourd'hui nous appelons IA, nous pourrions simplement le nommer « informatique avancée » ou « informatique augmentée par les données » ; ce n'est pas encore une véritable « intelligence artificielle » comme il existe des intelligences naturelles, c'est-à-dire des entités capables de prendre des décisions de manière autonome en fonction d'une réflexion consciente (14).

### Autre exemple

Dans *Moral Machines Teaching Robots Right from Wrong* (2009), Wallach et Allen permettent de distinguer différents types d'algorithme de robot selon deux Axes : l'**autonomie** et la **sensibilité éthique**.
<caption>Figure 2. Types d'algorithmes de robot</caption>

Adapté de Wallach et Allen (15, p.26)

<figure><img src="image_5.png" /></figure>

Selon ce schéma, les « today's (ro)bots », quand « bots » signifie un programme autonome de l'Internet et que vous pouvez programmer votre robot pour «stoker des données» dans des banques de données de votre choix, manque d'autonomie et de sensibilité éthique. Les robots n'auraient donc qu'une intelligence faible ou une « intelligence/sans conscience » de type algorithmique pour résoudre des problèmes. Il faudrait que l'innovation robotique évolue vers le développement et usage des robots *Artificial Moral Agents (AMAs)* entrant en interaction directe avec les humains pour leur rendre service en résolvant un problème (dilemme éthique) plus ou moins complexe. Comme Bekey le rapporte, dans *Robot Ethics*, ce robot *AMA* se trouve communément défini comme « a machine, situated in the world, *that senses, thinks and acts* » (16, p.18). Plusieurs types de robots *AMAs* sont présentement en développement : robots d'assistance aux personnes âgées, robots militaires, robots compagnons, robots éducatifs, robots de service dans le monde médical, etc. (17).

Mais, pour que ces robots s'intègrent dans la société, les deux Axes du développement sont l'autonomie et la sensibilité éthique. Prenant l'intelligence humaine comme modèle, Wallach et Allen soutiennent que les robots humanoïdes en développement ont besoin d'une autonomie croissante leur permettant de prendre des décisions par eux-mêmes afin de rendre les services pour lesquels ils ont été conçus. Afin d'être acceptés et intégrés dans la société, ils doivent également avoir une sensibilité éthique, c'est-à-dire une capacité de tenir compte des impacts (conséquences positives et négatives) de leurs décisions algorithmiques sur les autres pour ne pas leur nuire. Plus un robot acquiert de l'autonomie, plus il doit être capable de sensibilité éthique afin d'être accepté par les humains (individus et sociétés) avec lesquels il réagit. Mais ce robot AMA ayant une « full moral agency » n'a pas une simple intelligence algorithmique (comme une IA faible), mais une « IA forte » qui est semblable à « l'intelligence / conscience » des humains pour résoudre, par exemple, des problèmes d'iniquités algorithmiques dans la vie sociale. C'est pourquoi, selon Wallach et Allen, les « Full AMAs » sont encore des « vaporware », c'est-à-dire une simple promesse commerciale que personne ne sait comment accomplir (« Full AMAs are still 'vaporware' – a promise no ones knows how to fulfill. ») (16, p.125).

## ANALYSES D'INÉGALITÉS : INCLUSIONS NUMÉRIQUES ET INÉGALITÉS SOCIALES MONTRANT LES FORCES ET FAIBLESSES DE L'IA

L'IA serait-elle un levier de l'inclusion numérique? Disons hypothétiquement oui. Mais jusqu'où l'IA peut-elle être utile pour l'inclusion numérique? Il est difficile de faire une analyse d'impact tant que l'on n'a pas de détails sur la forme d'IA (source technologique) qui sera utilisée : s'agit-il de l'algorithme, s'agit-il d'IA complet? Les magazines de l'Union internationale des communications (ITU en anglais), les ITUNewsMagazines sur « L'intelligence artificielle au service du bien social » serviront de référence, parce qu'ils appellent les acteurs concernés – les promoteurs, les chercheurs, les entrepreneurs qui sont des parties prenantes – à innover en développant et en faisant l'usage de l'IA pour atteindre le bien social (la finalité ou la visée partagée) comme la promesse d'un avenir numérique pour toutes et tous (justice sociale) (18-20). Les titres mêmes de ces ITUNewsMagazines supposent que les personnes (parties prenantes) qui innovent doivent concevoir l'IA au service du bien social en vue d'innover, autrement dit avoir des idées du bien social comme idéal, avoir un concept d'IA au service du bien social, mettre au monde un produit, le tester et faire des choix par rapport au marché visé, entendre le retour des clients ou futurs clients, orienter sa conception du futur produit en conséquence.
Par exemple, l'IA/Machine Learning in 5G Challenge (2020) (21) en développement et en usage au service du bien social vise l'inclusion numérique comme un moyen d'y arriver. Peut-être que le développement d'un tel « robot éducatif » programmable pourrait aider à favoriser l'apprentissage pour résoudre les inégalités mentionné plus tôt. Cependant, avoir une intention (but, direction, envie qu'a une personne ou un groupe d'agir, en vue d'atteindre un ou des objectifs fixés à l'avance de l'inclusion numérique) ne signifie pas qu'elle va se réaliser. L'inclusion numérique est un processus visant à ce que toutes les personnes soient connectées, respectées et protégées à l'ère numérique. L'Europe est tout particulièrement attentive à ce processus de l'inclusion numérique comme « l'e-inclusion qui n'est rien d'autre que l'inclusion sociale dans une société et une économie où le numérique joue un rôle essentiel. » (2) Pour le Conseil national du numérique (CNNUM), en France, l'e-inclusion soulève deux objectifs : « La réduction des inégalités et exclusions sociales en mobilisant le numérique; le numérique comme levier de transformation individuelle. » (2) La réduction des risques d'inégalités et exclusions sociales par l'IA au service du bien social demeure ainsi un défi à relever (« Challenge » de l'IA/Machine Learning) par l'atteinte des objectifs de l'inclusion numérique :

> Ainsi, l'inclusion numérique, ou e-inclusion, serait un processus qui viserait à rendre le numérique accessible à chaque individu, et à lui transmettre les compétences numériques qui seront un levier de son inclusion sociale et économique. Et la « digital literacy », qui occupe une place de premier ordre dans le lexique de l'inclusion numérique, est pour l'OCDE « l'aptitude à comprendre et à utiliser le numérique dans la vie courante, à la maison, au travail et dans la collectivité, en vue d'atteindre des buts personnels et d'étendre ses compétences et capacités (2).

Mais un tel objectif d'inclusion numérique soulève de nombreux défis pour le développement et l'usage de l'IA/machine au service du bien social. Les politiques des ITUNewsMagazines en partenariat avec l'ONU et l'UNESCO (Organisation des Nations Unies pour l'Éducation, la Science et la Culture) pourraient s'avérer inefficaces. Il y aurait bien des questions à se poser d'un point de vue pratique pour **connecter, respecter, et protéger** toutes les personnes en ligne.

# QUESTIONS À SE POSER POUR FAIRE L'ÉVALUATION

## Sur la dimension technique, technologique ou servicielle de l'IA

En quoi le dispositif (mécanisme) d'IA/Machine au service du bien social est-il innovant ?

* Est-ce parce qu'il réunit plusieurs personnes (parties prenantes) pour suivre les recommandations du Secrétaire général de l'ONU pour parvenir à une **connectivité universelle d'ici à 2030**? (9). Le secrétaire de l'ITU se demande : « Où en sommes-nous et que l'avenir nous réserve-t-il? » (19, p.9). Il faut toujours distinguer deux choses : le problème de l'accès qui est réel, mais dont la solution passe par le développement des sociétés et des investissements. Comme, par exemple, au Lac-Kénogami (Saguenay, Québec, Canada), où nous n'avons pas un bon service Internet aujourd'hui. Ce problème n'est pas un problème qui peut se résoudre par l'IA/Machine.

* Le problème central de l'IA/Machine Learning est le suivant : jusqu'où l'analyse de Big Data par le Deep Learning peut-il résoudre le problème des inégalités sociales? C'est une chose d'avoir beaucoup de données, mais autre chose que de pouvoir traiter ces données en analyse d'impact (positif et négatif) pour arriver à une décision responsable.

* Le fondement technique est donc le suivant : la capacité de l'IA « à réaliser des opérations à grande échelle » grâce à « sa puissance de calcul » capable de : « traiter des mégadonnées à grande échelle » et « produire des résultats à la vitesse requise pour pouvoir les communiquer à l'utilisateur final quasiment en temps réel, ce qui a rendu les applications telles que les logiciels de reconnaissance d'image et les assistants virtuels intelligents facilement accessibles à toute personne possédant un téléphone mobile, ou presque. » (19).

* Mais n'est-ce qu'une promesse économique? Le directeur de l'ITU, Chaesiub Lee, semble oublier le problème difficile à résoudre des inégalités sociales que les mégadonnées risquent encore de produire. Il ne faut surtout pas perdre de vue cette préoccupation éthique que nous avons en éthique de l'IA.

L'IA est-elle capable de réduire des iniquités sociales? L'IA faible au sens restreint, cette intelligence algorithmique sans conscience ne semble pas assez forte pour être capable de réduire : 1) les inégalités provenant du numérique : inégalités dans la capacité d'usage des dispositifs donnant accès au numérique; 2) les inégalités actuelles comme les rapports homme/femme; les inégalités sociales en médecine. L'analyse de deux exemples ci-dessous permettra d'illustrer les forces et faiblesses de l'IA comme levier.

### Exemple 1 : « L'IA au service de l'égalité hommes/femmes »

Cet exemple est le plus frappant que nous trouvons dans le recueil de l'ITUNewsMagazine. L'intelligence artificielle au service du bien social: des retombées mondiales s'inscrit dans la « session de réflexion » de spécialistes qui donnent leur avis sur « L'IA au service de l'égalité hommes/femmes » (20, p.34-36). Cette réflexion, faite en contexte de pandémie Covid-19, porte sur la question suivante : « Comment résoudre les problèmes des préjugés sexistes dans le domaine de l'intelligence artificielle? » Cette session de réflexion avec les parties prenantes vise ainsi à traiter les questions reliées à l'égalité hommes/femmes, et ce en raison du fait que le contexte de pandémie a exacerbé la crainte de l'impact négatif et réel de l'algorithme actuel du système de l'IA et du numérique sur l'enjeu de l'égalité sociale. De telles questions se posent actuellement dans le domaine de la recherche et du développement de l'IA, notamment en ce qui concerne les biais algorithmiques et le caractère inclusif des données. La session de réflexion sur ces questions cherche à identifier des solutions
d'IA propres à autonomiser les communautés qui ne sont pas suffisamment représentées et à instaurer un avenir fondé sur l'égalité pour toute l'humanité. Les avis des spécialistes sont les suivants :

* **Inclure les femmes à chaque étape.** Si nous voulons que l'intelligence artificielle contribue à accélérer les progrès pour relever l'un des plus grands défis de l'humanité, nous devrons œuvrer ensemble pour trouver une solution aux nombreux problèmes de discrimination sexiste qui se posent dans ce domaine. Mais comment y parvenir si la réflexion n'inclut pas des femmes à chaque étape du processus de l'inclusion? Les biais algorithmiques découlent en grande partie du fait « qu'à l'heure actuelle, il n'est pas tenu compte des femmes lors de l'élaboration de solutions d'intelligence artificielle ». Ce problème de manque de diversité est ancré dans les cultures. L'enjeu d'égalité sociale par l'inclusion des femmes pour édifier un monde qui est fait pour toutes et tous suppose qu'il ne faut pas répéter les erreurs du passé.

* **Chercher à obtenir des ensembles de données ouverts et fondés sur la collaboration numérique, et réévaluer ce que contiennent les données d'origine.** Les inégalités femmes/hommes commencent par les ensembles de données (mégadonnées). Ensuite, les algorithmes sont faussés et l'apprentissage automatique accentue les problèmes. De nombreux exemples de discriminations à l'égard des femmes apparaissent dans les données, les algorithmes et l'apprentissage automatique, dans le secteur bancaire et sur le marché de l'emploi en particulier. Nous devons chercher à obtenir des ensembles de données ouverts et fondés sur la collaboration, et réévaluer ce que contiennent les données d'origine. Cela est important pour les décideurs.

* **Introduire une dimension éthique dans le débat.** L'éthique devrait occuper une place centrale et fondamentale dans les cours techniques dispensés à ceux qui apprennent comment créer les solutions d'intelligence artificielle de demain. Nous devons avoir un débat de fond sur l'éthique et sur le monde que nous voulons vraiment créer.

* **Que pouvons-nous faire au niveau des politiques?** Le secteur public devrait envisager d'attribuer des fonds aux entreprises technologiques détenues par des femmes et au sein desquelles les équipes de développeurs sont dirigées par des femmes. Il s'agit ainsi d'élargir les horizons en étant en faveur « d'un peu plus de solutions employant l'intelligence artificielle au service du bien social. » Le problème n'est pas tant technique qu'humain comme levier d'insertion permettant de restaurer l'égalité entre les générations.

### Exemple 2 : « Médecine, algorithme et responsabilité » (22)

Il s'agit d'une conférence-action pour en savoir plus sur les algorithmes qui sont aujourd'hui capables de diagnostiquer ou prédire les évolutions d'une maladie. Grâce aux progrès récents de reconnaissance d'image, ils repèrent efficacement des anomalies dans le corps. Pourraient-ils devenir plus performants que l'humain? Cette question critique se pose parce qu'il existe aussi en contexte de pandémie des outils d'information sur la COVID-19 et des **algorithmes** cliniques sur l'identification des personnes à risque de vulnérabilité psychosociale (23). Ces algorithmes apportent une conclusion ou une aide à la décision. Cependant, le problème plus ou moins complexe est rapidement résolu. Les algorithmes ont le gros défaut d'être conçus pour ne considérer que le succès de leur résolution du problème :

> Ainsi, les bases de données qui fournissent la vision du « succès passé » peuvent, si elles sont incomplètes ou mal construites, provoquer des inégalités et des erreurs... C'est le cas, par exemple, pour les algorithmes médicaux qui se réfèrent à une base de données d'anciens patients majoritairement masculins et caucasiens. Ils ne peuvent alors traiter efficacement les données d'un-e patient-e avec des caractéristiques différentes (22).

Comment « Innover en conscience » (24) dans un tel contexte de collaboration humain/machine algorithmique en médecine afin éliminer les risques d'inégalités sociales, quand le problème de l'algorithme inconscient commence dans les bases de données qui sont incomplètes ou mal construites? Une innovation n'arrive pas dans un désert social : elle s'hybride à des usages et elle s'insère dans un contexte, comme celui de la COVID-19. Il y a bien des questions à se poser dans la pratique de l'innovation. Le guide pédagogique *Innover en conscience. Une approche par les usages responsables* (2021), créée dans le cadre du groupe interdisciplinaire de recherche internE³LS, à l'Université de Sherbrooke, est dédiée aux enjeux d'innovation. Il sera sans doute comme un accélérateur de l'innovation pour améliorer le travail de l'algorithme au service du bien social, alors qu'il y a plein de questions à se poser sur sa dimension technique, technologique, servicielle, sur les usages et sur les valeurs prioritaires défendues dans le projet. La valeur économique de l'algorithme n'est pas une raison d'oublier l'éthique de l'IA/Machine que nous n'avons fait qu'esquisser.

## CONCLUSION

L'IA est-elle la solution miracle? (22) Jusqu'où l'impact de l'IA parviendra-t-il à maximiser la justice (l'inclusion numérique) en réduisant les inégalités sociales? Toutes les étapes, selon la structure logique (Fig. 1), de ma présentation démontrent qu'il est difficile de faire une analyse d'impact de l'IA en général, mais qu'il faut regarder chaque dispositif de façon précise. À l'heure actuelle, comme avec bien d'autres technologies convergentes : Nano, Bio, Info, Cogno (convergence NBIC pour l'amélioration humaine grâce à l'accélération du développement de l'IA des robots et des nanorobots) (25-27), on promet le miracle, mais seule l'analyse d'impact de chaque dispositif permettra – si on peut, et surtout si on veut – de réduire les inégalités.
**Reçu/Received:** 15/11/2021

**Remerciements**

Il m'importe d'abord de remercier le professeur Georges A. Legault pour ces précieux conseils. Je remercie aussi tout particulièrement Frank Violet et Mathieu Guillermin, membres de l'Unité de recherche Confluences Sciences et Humanités de l'Université Catholique de Lyon, de m'avoir invité à présenter cette analyse pour initier le dialogue sur l'IA aux confins de l'égalité et l'injustice, avec le juriste Guillaume Rousset lors du colloque international « Pour des intelligences artificielles au service du corps vulnérable : Les contreforts de l'éthique et du droit » tenu à l'Université catholique de Lyon, le 3 décembre 2021.

**Conflits d'intérêts**

Aucun à déclarer

**Publié/Published:** 13/06/2022

**Acknowledgements**

First, I would like to thank Professor Georges A. Legault for his precious advice. I would also like to thank Frank Violet and Mathieu Guillermin, members of the Confluences Sciences et Humanities Research Unit at the Catholic University of Lyon, for inviting me to present this analysis in order to initiate a dialogue on AI at the frontiers of equality and injustice with the jurist Guillaume Rousset during the international seminar "Pour des intelligences artificielles au service du corps vulnérable : Les contreforts de l'éthique et du droit" held at the Catholic University of Lyon on December 3, 2021.

**Conflicts of Interest**

None to declare

**Édition/Editors:** Erica Monteferrante & Aliya Affdal

Les éditeurs suivent les recommandations et les procédures décrites dans le *Code of Conduct and Best Practice Guidelines for Journal Editors* de COPE. Plus précisément, ils travaillent pour s'assurer des plus hautes normes éthiques de la publication, y compris l'identification et la gestion des conflits d'intérêts (pour les éditeurs et pour les auteurs), la juste évaluation des manuscrits et la publication de manuscrits qui la répondent aux normes d'excellence de la revue.

The editors follow the recommendations and procedures outlined in the *COPE Code of Conduct and Best Practice Guidelines for Journal Editors*. Specifically, the editors will work to ensure the highest ethical standards of publication, including: the identification and management of conflicts of interest (for editors and for authors), the fair evaluation of manuscripts, and the publication of manuscripts that meet the journal's standards of excellence.

## RÉFÉRENCES

1. Agence de la santé publique du Canada. *Les populations vulnérables et la COVID-19. Gouvernement du Canada*. 2020.

2. Bouquet B, Jaeger M. *L'e-inclusion, un levier? Vie sociale*. 2015;3(1):185-192.

3. *Inclusion numérique*. Wikipédia.

4. Gentelet K, Bahary-Dionne A. *Les angles morts des réponses technologiques à la pandémie Covid-19 : Disjonctions entre les inégalités en santé et numériques structurantes de la marginalisation de certaines populations*. Observatoire international sur les impacts sociétaux de l'IA et du numérique. septembre 2020.

5. Gentelet K, Lambert S. *La justice sociale : l'angle mort de la révolution de l'intelligence artificielle*. The Conversation. 5 novembre 2021.

6. Patenaude J, Legault G-A, Beauvais J, et al. *Framework for the analysis of nanotechnologies' impacts and ethical acceptability : basis of an interdisciplinary approach for assessing novel technologies*. Science and Engineering Ethics. 2015;21:293-315.

7. Béland JP. Vivre-ensemble avec des robots. Qu'est-ce que la science-fiction d'Asimov nous raconte sur l'acceptabilité des impacts? Dans : Béland JP, Legault GA, éditeurs. Asimov et l'acceptabilité des robots. Québec : Presses de l'Université Laval; 2019. p. 34-41.

8. Béland JP. La personne transformée : comment peut-on mettre une limite? Dans : Béland JP, Daniel CÉ, éditeurs. La personne transformée Nouveaux enjeux éthiques et juridiques. Québec : Presses de l'Université Laval; 2019. P.147-195.

9. Nations Unies. *Le Secrétaire général de l'ONU appelle la communauté internationale à étendre la coopération numérique*. Centre régional d'information pour l'Europe occidentale. 2020.

10. Nations Unies. *Objectifs du développement durable*. 2021.

11. Gingras Y, Meurs MJ. *Intelligence artificielle : promesses économiques ou économie de la promesse? Acfas Magazine*. 11 décembre 2018.

12. *Qu'est-ce qu'un algorithme? Définition simple*. Google.

13. *Algorithme*. Wikipédia.

14. Menissier T. *Quelle éthique pour l'IA? Colloque de l'Académie Delphinale Grenoble*. 2019.

15. Wallach W, Allen C. Moral Machines Teaching Robots Right from Wrong. New York: Oxford University Press; 2009.

16. Bekey GA. Current trends in robotics: technology and ethics. Dans: Lin P, Abney PK, Bekey GA, éditeurs. Robot Ethics: The Ethical and Social Implications of Robotics. Cambridge, Massachusetts: The MIT Press; 2012.

17. Lin P. Introduction to robots ethics. Dans: Lin P, Abney PK, Bekey GA, éditeurs. Robot Ethics: The Ethical and Social Implications of Robotics. Cambridge, Massachusetts: The MIT Press; 2012.

18. ITUNewsMagazine. *L'intelligence artificielle au service du bien social*. 2018 (No. 1)

19. ITUNewsMagazine. *L'intelligence artificielle au service du bien social : la voie à suivre*. 2019 (No. 3).

20. ITUNewsMagazine. *L'intelligence artificielle au service du bien social : des retombées mondiales*. 2020 (No. 2).

21. ITUNewsMagazine. *AI/Machine Learning in 5G Lessons from de ITU Challenge*. 2020 (No. 5).

22. Coférence-Action. *Médecine, algorithme et responsabilité*. 22 janvier 2021.

23. MSSS. *Directives cliniques aux professionnels et au réseau pour la COVID-19*. 2020.
24. Verchère C, Patenaude J, Legault GA. *Innover en conscience. Une approche par les usages responsables.* Collection Les Manuels de l'Innovation. n° M1.1. Éditions Nullius in Verba; 2020.

25. Béland J-P, Patenaude J (2013). *Risk and the question of the acceptability of human enhancement: the humanist and transhumanist perspectives*. Dialogue. 2013;52(2): 377-394.

26. Béland J-P. Enjeux éthiques du développement de la robotique. Ethica. 2016;20(1):75-95.

27. Béland J-P, Legault G-A, Patenaude J. *Les enjeux identitaires de l'humain dans le débat philosophique sur la robotique humanoïde et l'amélioration humaine*. BioéthiqueOnline. 2014;3(14).