# Interrogation de l'universalité d'une éthique pour l'usage de l'IA au travers d'une lecture du code publié par Dubaï

Saïda Belouali, Yves Demazeau, Toumi Bouchentouf, Halima Brahmi

► To cite this version:

Saïda Belouali, Yves Demazeau, Toumi Bouchentouf, Halima Brahmi. Interrogation de l'universalité d'une éthique pour l'usage de l'IA au travers d'une lecture du code publié par Dubaï. Revue Ethique et Numérique, 2022, 1 (1), pp.1-17. hal-03605668

HAL Id: hal-03605668

https://hal.science/hal-03605668

Submitted on 11 Mar 2022

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

Public Domain
# Interrogation de l'universalité d'une éthique pour l'usage de l'IA au travers d'une lecture du code publié par Dubaï

Saïda BELOUALI<fnref n="1" />, Yves DEMAZEAU<fnref n="2" />, Toumi BOUCHENTOUF<fnref n="3" />, Halima BRAHMI<fnref n="4" />

## Contacts

s.belouali@ump.ac.ma
yves.demazeau@imag.fr
t.bouchentouf@ump.ac.ma

**Résumé :** Ce travail s'inscrit dans le cadre d'un projet d'étude global qui s'intéresse à travers une étude empirique à la question de l'universalité d'un code d'éthique permettant un développement et une utilisation responsable de l'IA ou le développement « d'algorithmes de confiance ».

A travers une approche comparative, nous questionnons l'idée de l'universalité d'un code qui homogénéiserait les principes éthiques sans se préoccuper des particularités culturelles qui pourrait intervenir dans la hiérarchisation des valeurs en

fonction de l'origine et des références morales d'un individu et d'une communauté. L'article questionne un code établi dans un environnement géo-socio-culturel qui selon nous, est représentatif de la culture arabo-berbéro-musulmane et le seul publié à ce jour. Il s'agira d'explorer le code adopté par Dubaï dans le cadre de *Smart Dubaï* en confrontation avec ceux de la Commission Européenne, de la Chine et de l'UNESCO. L'objectif est de prendre la mesure des différences et interroger l'idée de l'extension du sujet à l'universalisme en matière d'éthique appliquée à l'usage des systèmes intelligents.

**Mots-clés :** Intelligence artificielle | Ethique | Codes éthiques | pluriculturalisme

<footnote n="1">¹ ECLN, CLEHN, Université Mohammed Premier, Oujda, Maroc | Global AI Ethics Institute, Paris, France | Institut EuropIA, France.</footnote>

<footnote n="2">² CNRS | University of Southern Denmark.</footnote>

<footnote n="3">³ LARSA, Université Mohammed Premier, Oujda, Maroc.</footnote>

<footnote n="4">⁴ ECLN, CLEHN, Université Mohammed Premier, Oujda, Maroc.</footnote>
# 1. Introduction

La technologie a de plus en plus d'impact sur notre monde. Les systèmes numériques de cette ère sont davantage disruptifs et interrogent nos modèles moraux traditionnels. Le moi deviendra davantage numérique, les soldats seront augmentés et nos choix, nos achats, nos lectures et consultations sur internet seront de plus en plus guidés par des recommandations algorithmiques. Davantage de ressources cognitives et physiques seront transformées par l'IA. Les perspectives du *Hype Cycle for Emerging technologies* de 2020 [12] positionnent l'Intelligence Artificielle formative et la confiance dans les algorithmes parmi les technologies les plus influentes dans la décennie à venir. L'un des principaux enjeux est de définir les limites de ces technologies. Comment réguler et contrôler alors ces évolutions pour qu'elles ne deviennent pas fondamentalement invasives ?

# 2. Ere disruptive et nouvelles régulations morales

Dans le contexte du développement des systèmes intelligents, les limites de l'acceptabilité et de la validité morale

sont régulièrement déplacées, ce qui nécessite de nouvelles réflexions pour encadrer ces transformations. Les systèmes de valeurs se trouvent affectés et de nombreuses problématiques émergent et interpellent les choix qu'opèrent les humains en matière de systèmes intelligents.

Néanmoins, la question qu'il est intéressant de soulever face à la prolifération des codes éthiques<fnref n="5" /> nous semble-t-il, est celle-ci : sommes-nous tous égaux face aux impacts sociétaux de l'intelligence artificielle pour envisager une éthique unique et universelle ? La globalisation des principes éthiques de l'IA au-delà des considérations culturelles et particularités civilisationnelles ne poserait-elle pas un problème, et un problème éthique de surcroît ? Dans quelle mesure l'universalisation serait-elle possible et à quel prix ?

La pseudo-normalité dans le monde numérique crée l'illusion d'une évolution universaliste. Nous serions en phase de devenir citoyens d'un monde global où la présence/ trace numérique se meut doucement, sûrement en une subjectivité dont les contours se définiront aux rythmes des innovations

<footnote n="5">⁵ Voir en l'occurrence l'inventaire : AI Ethics Guidelines Global Inventory, *AlgorithmWatch*, disponible à</footnote>
et probablement encore au rythme de
l'essor de systèmes de plus en plus
intelligents. Mais cette « pseudo-
cohérence géoculturelle » en
construction semble encore une réalité
trop éloignée pour d'ores et déjà
envisager des mesures ou exigences
éthiques universelles pour le
maniement des technologies et l'usage
des systèmes intelligents. Le collectif
« doit nécessairement revêtir la
forme endogène et qualitative
d'un Nous qui s'appuie sur le travail
d'auto-affiliation et de mise en commun
que les membres eux-mêmes
effectuent, que ce soit de manière
irréfléchie ou réfléchie, implicite ou
explicite » [8]. Il continue en
l'occurrence, à se lire par les cadres
ethnique et religieux<fnref n="6" />. L'idéal déclaré
demeure largement ancré dans les
sociétés et les transformations sociales,
même si elles sont importantes,
n'affectent pas fondamentalement les
collectifs sociaux et communautaires. Il
en découle la pertinence d'une

interrogation de la régulation éthique
des usages de l'IA (individuels et
collectifs) à un niveau universel.

Dans cet article, nous questionnerons
en particulier, l'unique texte publié à ce
jour et qui émane d'un contexte qui
selon nous, pourrait être représentatif
de la culture arabo-berbéro-
musulmane. Il s'agira donc, d'explorer
les principes adoptés par Smart Dubaï
[16], en confrontation avec ceux de la
Commission Européenne [1], de la
Chine [3] et celui de l'UNESCO [6].

Le corpus comprendra donc quatre
entités. Le choix d'intégrer l'UNESCO
nous permet d'introduire dans la
perspective, une organisation qui est à
vocation universelle et qui, pour établir
son texte de principes a fait appel à un
panel élargi d'experts de référents
culturels distincts et a soumis la
proposition à une consultation
mondiale. Cette démarche est
également celle adoptée par la
Commission Européenne et Dubaï.

<footnote n="6">⁶ C'est la lecture que l'on peut faire de la carte culturelle d'Inglehart - Welzel qui présente en autres, la persistance des valeurs distinctives. L'analyse des données WVS réalisée par les auteurs de l'enquête, Ronald Inglehart et Christian Welzel affirme qu'il existe deux dimensions majeures de la variation interculturelle dans le monde : les valeurs traditionnelles versus valeurs séculières-rationnelles et les valeurs de survie versus valeurs d'expression de soi. Sur</footnote>

<footnote>cette carte, version WVS 7, il est possible de
distinguer à l'onglet gauche l'aire « Africain
Islamic » où l'on retrouve des pays comme le
Maroc, l'Arabie Saoudite, le Qatar, koweit, le
Yemen, la Turkie etc.
Nous noterons que Le WVS est une large
enquête chronologique sur les valeurs et une
source importante sur les référentiels de valeurs
des pays arabes et musulmans en comparaison
au reste du monde.</footnote>
Nous noterons que la proposition de l'UNESCO d'un texte regroupant 4 valeurs et 10 principes, semble la plus fournie en raison également de l'ensemble de la discussion et l'argumentaire qui précède l'adoption de chaque principe. La particularité du texte de l'UNESCO est qu'il est présenté comme un cadre universel de valeurs, de principes et d'actions pour guider les Etats dans la formulation de leur législation, de leurs politiques ou d'autres instruments, en l'occurrence les codes d'éthique de l'IA. L'UNESCO aspire à l'élaboration d'un instrument normatif mondial.

Nous préciserons que la Commission européenne a publié le 21 avril 2021 sa proposition de règlement [2]. Il ne sera plus question de décisions prises dans le cadre d'une délibération éthique quand on manipulera des systèmes intelligents mais bien d'un cadre juridique contraignant. Néanmoins l'adoption de ce cadre devrait suivre des procédures qui nécessiteront semble-t-il beaucoup de temps avant que le règlement n'entre en vigueur. Pour cette raison, nous allons nous limiter à considérer dans cet article, le document révisé et rendu public par la Commission Européenne en avril 2019 suite à une consultation ouverte. Il est clair que ces recommandations ne

représentent pas la position officielle de la Commission ni des Etats membres, il n'en demeure pas moins que ces recommandations constituent un document fondateur présenté comme « cadre pour parvenir à la réalisation d'une IA digne de confiance » [1].

Nous noterons, par ailleurs, que le guide des exigences en matière d'éthique de Dubaï est édité dans le cadre du programme Smart Dubaï. C'est une initiative globale qui vise comme objectif central de faire de la cité, la ville la « plus heureuse et la plus intelligente du monde » [16]. Une aspiration commune à une plénitude qui tire parti des nouvelles technologies pour plus d'efficacité et de rapidité lit-on sur le site officiel de l'initiative. Nous relevons dans ledit document, l'aspiration à faire du guide de l'éthique de L'IA de Dubaï un modèle universel et qu'il soit utilisé non pas uniquement dans le territoire mais « autour du monde » [16].

### 3. Variations éthiques et variations culturelles

Les principes tels qu'ils sont codifiés dans les différentes chartes ou déclarations, doivent-ils s'imposer à tous, est-il légitime de les imposer à tout un chacun ? Il est important de prendre
du recul par rapport à l'idée de l'universalité de l'éthique en matière d'IA pour examiner notamment son caractère contingent. La notion d'universel est en elle-même assez subjective. [5], [11].

L'IA nous mettra face à des dilemmes et nous obligera à opérer des choix. Face à un dilemme où les valeurs s'opposent, nous essayons de les ordonner en fonction de leur importance. C'est une étape essentielle pour essayer d'identifier la bonne action. Dans ces cas, les paramètres subjectifs peuvent conduire les humains à opérer définitivement un choix plutôt qu'un autre [10]. Pour ce faire, nous considérons : le référent des valeurs, le contexte, les normes en jeu dans la situation, les acteurs, et les conséquences envisagées. Mais chacun priorisera différemment. La priorisation s'effectue au sein d'une culture et en fonction de croyances et convictions fondées sur des valeurs propres. La théorie des valeurs considère les valeurs comme un système rationnel de préférences [13] [14], [19].

La problématique aujourd'hui est de savoir comment gérer cette tension

entre le fait que nous sommes plus que jamais proches, pareils et en même temps attachés à notre différence et à nos différences. Nous pouvons considérer les mêmes valeurs et les mêmes principes certes, mais face à un dilemme, nous hiérarchisons les valeurs différemment. Il en découle naturellement, que certaines valeurs sont partagées par tous et d'autres non, d'où la nécessité d'envisager les niveaux génériques et spécifiques dans l'analyse des codes d'éthique de l'IA.

La compréhension de la diversité induit une compréhension spécifique de la présence de tous les hommes sur terre et de la citoyenneté mondiale, si elle doit exister. « Chose certaine, l'idée d'un sujet universel abstrait surplombant les différences (reléguées à la sphère privée) et incarnant (ou édictant), du haut, l'intérêt général est aujourd'hui largement questionné. » [9].

Au regard de l'impact de l'IA lié notamment à la globalisation et à la complexité des problématiques qu'elle pose(ra) pour les êtres humains, il nous a semblé nécessaire de proposer une réflexion autour du texte des principes de Smart Dubaï<fnref n="7" /> pour le mettre en perspective avec d'autres approches

<footnote n="7">⁷ Smart Dubaï a été mis en place par le gouvernement émirati pour faire de Dubaï une</footnote>

<footnote>ville intelligente et améliorer les niveaux de bonheur pour ses habitants.</footnote>
culturelles et civilisationnelles. Le concept d'éthique mobilisé ici est pris dans le sens que lui confère Jean-Paul Terrenoire : l'éthique est en construction, en évolution et en devenir précédant les statuts, les codes déontologiques et les codes juridique [17].

### 4. Parallélisme entre les textes soumis à l'étude

La méthodologie consiste à analyser en l'occurrence les textes précités au travers d'une approche comparative. Notre approche est fondée sur deux points essentiels :

1. Procéder en adoptant une approche textuelle qui consistera à :

1.1. Rechercher les concordances sur le plan terminologique en relevant les lemmes qui sont utilisés dans les différents textes étudiés.

2. Procéder ensuite à un rapprochement entre les termes et syntagmes synonymes en mobilisant en cas de besoin, la théorie de la pertinence contextuelle pour mieux cerner les acceptations et signifiances mobilisées derrière les termes utilisés.

II. Notre approche est appliquée à un corpus pluriel avec un modèle préétabli.

La méthodologie permet la confrontation en essayant d'éviter tant que faire se peut, un cas de tropisme, puisque l'approche comparative nous permettra à la base, d'objectiver nos constatations et nos observations. En effet, les recommandations de l'UNESCO sont le texte qui aspire à "servir de base pour mettre les systèmes de l'IA au service de l'humanité des individus, des sociétés, de l'environnement et des écosystèmes et fournir un instrument normatif accepté au niveau mondial, et fournir aussi des orientations éthiques à tous les acteurs de l'IA" [6]. De surcroît, le texte de l'UNESCO ne s'applique absolument pas à un territoire précis. Nous l'utiliserons dans le cadre de cet article comme tel : un document à prétention universelle.

La question qui se pose à nous est celle qui nous permettra d'appréhender les convergences ou divergences qui peuvent être dégagées des différents codes d'éthique au travers d'un processus qui rendrait intelligible le rapprochement. Le concept essentiel que nous manipulons ici est l'éthique que nous définissons comme étant
« [...] plus clairement lié au caractère personnel de l'évaluation, de la délibération et du jugement, ainsi qu'à l'évolution des valeurs, des normes et des significations en fonction d'un contexte marqué par des innovations sociales et culturelles » [17]. L'éthique de l'intelligence artificielle qui est une partie de l'éthique générale et de l'éthique professionnelle cherche à « corriger » les biais potentiels induit par les algorithmes des systèmes intelligents.

Nous noterons de premier abord que les documents ne portent pas tous les mêmes intitulés.

1. Dubaï : Les principes éthiques et les lignes directrices de L'IA

2. UNESCO : Recommandation sur l'éthique de l'intelligence artificielle

3. CE : Lignes directrices en matière de l'éthique pour une IA digne de confiance

4. Chine : Principes de gouvernance de l'intelligence artificielle de nouvelle génération - Développer une intelligence artificielle responsable
Nous pouvons d'ores et déjà constaté que le terme « éthique » est utilisé en épithète et en substantif. En épithète, il suit le terme « principes ». Nous noterons, pour Dubaï, il est question de lignes directives et de gouvernance de la technologie de l'IA.

5. Capital sémantique et lexicologique des textes étudiés

Nous remarquerons d'emblée que hormis la Chine, l'ensemble des documents se proclame expressément de l'éthique de la technologie. La Chine emploie quant à elle le terme « IA responsable ».

En dehors des recommandations de l'UNESCO, qui se présente comme un document avec un ensemble de quatre valeurs et 10 principes éthiques, il est à noter que les documents de Dubaï et celui de la CE subdivisent les principes proposés en 4 principes relevant de l'éthique et complètent avec des exigences supplémentaires auxquelles ils ont associé des termes comme « confiance » et « responsable ». Le document chinois propose un ensemble de 7 principes liés au concept de « responsabilité ».
<figure><img src="image_1.png" /><figcaption>Figure 1
Catégories des principes par code étudiés</figcaption></figure>

D'emblée et à l'analyse de ces données, l'observateur peut être dérouté en raison d'une « confusion » conceptuelle qu'il est nécessaire de démêler pour faire une lecture appropriée de ces propositions et d'autres d'ailleurs. Qu'est-ce qui relève de l'éthique ? Si un des principes ne relève pas de l'éthique, de quoi relève-t-il ? Quand les experts de la CE proposent des principes qu'ils subdivisent en 4 principes éthiques et choisissent de classifier 4 autres sous la rubrique « Exigences essentielles », il est légitime de se poser la question à quoi fait-on référence en parlant d'exigences essentielles ? Les 4 principes dits éthiques ne sont-ils pas alors essentiels ? Quand le document de Dubaï présente des principes

éthiques et d'autres relevant de la « sécurité » ou de « l'humanité », à quel niveau de la réflexion morale sommes-nous ? Ces présentations et catégorisation posent un problème d'investissement théorique. Dans quel sens est employé le terme « éthique » ? Il est clair que lorsqu'on n'est pas face à de la régulation légale, nous sommes dans une phase d'éthique réflexive ou « d'éthique de l'autonomie » selon l'expression foucaldienne. Les choix sont opérés par les individus qui face aux problématiques morales et en absence d'un cadre réglementaire contraignant, s'auto-contrôlent et font les choix les plus adéquats avec le consensus communautaire auquel ils adhèrent. A ce niveau-là, le contrôle est raisonné et libre.

C'est donc la démarche qui est éthique. L'éthique intervient en amont des régulations contraignantes. On y a recours en absence de cadre légal. L'éthique correspond en même temps à la démarche individuelle face à une problématique morale et à la somme des choix moraux opérés face à des usages nouveaux et inédits. Le document établit les fondements d'une « IA digne de confiance » et spécifie que le chapitre intitulé « fondements d'une IA digne de confiance » relève du « domaine de l'éthique », de l'éthique
appliquée tout particulièrement. La différence opérée entre les principes et éthiques et les exigences (chapitre I et chapitre II) est établie selon le degré d'abstraction. Les exigences sont considérées comme davantage concrètes et relevant du domaine appliqué au cycle de vie d'un système intelligent ? Ce sont « des orientations relatives à la mise en œuvre et à la réalisation d'une IA digne de confiance, au moyen d'une liste de sept exigences qui devraient être respectées, s'appuyant sur les principes énoncés au chapitre I » [1].

Cette différenciation induit une interrogation : si l'on accepte que les principes éthiques soient moins que des normes mais un peu plus que l'absence de régulation, que sont les exigences ? Ont-elles un statut intermédiaire ?

> « Pour parvenir à une IA digne de confiance, il faut que les principes éthiques énoncés au chapitre I soient traduits en exigences concrètes. Ces exigences s'appliquent aux différentes parties prenantes participant au cycle de vie des systèmes d'IA : développeurs, prestataires et utilisateurs finaux, ainsi une la société au sens large » [1].

Il est clairement postulé que les principes éthiques devraient être traduits en exigences concrètes.

Ce choix sera également celui de Dubaï qui classifie les principes éthiques comme un élément parmi quatre autres « principes de l'IA » : « Ethique, Sécurité, Humanité et Inclusivité » [16]. Les 3 principes et orientations suivant l'Ethique, relèveraient alors, d'autres domaines.

Ces principes sont complémentaires aux principes éthiques énoncés en premier lieu. Il s'en suit qu'il y a un parallélisme conceptuel entre : ce que le document considère comme des domaines différents : Ethique/Sécurité/Humanité/Inclusivité.

## 6. Problématique conceptuelle

L'utilité des principes éthiques codifiés en charte ou livre blanc est de proposer des orientations pour ceux qui seront en mesure de prendre des décisions parce qu'ils feront face, dans l'exercice de leurs tâches, à des dilemmes ou enjeux éthiques dus aux usages de l'IA. Jean-Paul Terrenoire prévient qu'il ne faut pas « assigner trop vite un caractère moral à des jugements qui, en apparence, ou en première instance, participent d'un registre normatif différent » [17].

Il est vrai que, « aux côtés de la norme morale, peut être convoquée une norme
scientifique, technique, esthétique, juridique, ou économique. Marx l'avait déjà noté : chacune des sphères de la réalité sociale applique une norme différente et contraire à celle des autres sphères. La morale, par exemple, en applique une et l'économie une autre » [17].

Si l'on prend les principes énoncés sous la catégorie « Sécurité », nous relevons certains principes nommés sécurité et contrôlabilité. Il s'agirait alors de précautions techniques et/ou organisationnelles pour prévenir les méfaits ou les dangers de la conception et de l'usage d'un système intelligent. Ecarter donc le risque et garantir une sécurité optimale est considéré comme relevant d'un domaine autre que l'éthique. La Commission européenne fait le choix de présenter des orientations sous la forme de trois principes éthiques qui sont, nous dit-on déclinés en 7 exigences ; celles-ci deviennent alors, la base d'une liste « d'évaluation » (version pilote) utile aux développeurs et aux prestataires chargés de déploiement de systèmes d'IA.

Les textes de l'UNESCO et chinois présentent les principes sous une seule bannière. Le texte chinois parle d'une IA responsable et l'UNESCO de recommandations sur l'éthique de

l'Intelligence artificielle. Dans le contexte de l'élaboration de textes de recommandation pour une IA responsable ou de confiance, l'éthique ne peut être uniquement une qualification de l'action. Il s'agit de l'action elle-même. Edicter ou recommander un principe, c'est proposer une démarche éthique qui devrait aboutir à un agir ou une action conforme aux principes énoncés.

L'éthique est une délibération qui permet à ceux qui manipulent les systèmes intelligents de considérer des situations problématiques et de faire un choix en fonction du principe proposé par le texte, la charte ou le code. Quand on recommande le respect d'un principe comme celui de la « Sécurité » ou celui du « Respect de la liberté et de la dignité des humains », nous nous trouvons au niveau du contrôle par la délibération et la réflexion. Il en découle que c'est la démarche qui est éthique et non certains principes au détriment d'autres. De ce fait la distinction entre principes éthiques et d'autres dits techniques par exemple, semble curieuse. Les textes des principes exhortent à une réflexion éthique dans le but d'une maximisation morale et c'est l'ensemble des étapes de la démarche réflexive engagée qui permet cette maximisation [4]. Pour
choisir un agir adéquat en fonction du principe édicté qui est éthique, l'agent doit procéder à une délibération éthique qui permet de respecter les principes édictés par telle charte ou tel code. Les principes sont et restent moraux, les lister dans un livre

d'exigences ne changent pas leur nature.
<table><caption>Tableau I : Récapitulatif des principes et lignes directrices des guides de l'usage de l'IA étudiés</caption><thead><tr><th>Les principes éthiques et les lignes directives de L'IA</th><th></th><th></th><th>Recommandations sur l'Éthique de l'Intelligence artificielle</th><th>Lignes directrices en matière d'Éthique pour une IA digne de confiance</th><th></th><th>Recommandations sur l'Éthique de l'Intelligence artificielle</th><th>Principes de gouvernance de l'intelligence artificielle de nouvelle génération - Développer une intelligence artificielle responsable</th><th>Principes pour la gouvernance d'une IA responsable</th><th>Outil normatif</th></tr></thead><tbody><tr><td rowspan="10">Dubaï</td><td rowspan="4">Éthique</td><td>Équité</td><td>Équité et non-discrimination</td><td rowspan="4">Éthique</td><td>Respect de l'autonomie humaine</td><td>Surveillance et décision humaines</td><td rowspan="4">Chine</td><td rowspan="4">Principes pour la gouvernance d'une IA responsable</td><td rowspan="4">Harmonie et fraternité</td><td>V1 Respect protection et promotion de la dignité humaine, des droits de l'homme et des libertés fondamentales</td></tr><tr><td>Responsabilité</td><td>Responsabilité et redevabilité</td><td>Prévention de toute atteinte</td><td>Équité et non-discrimination</td><td>V2 Un environnement et un écosystème qui prospèrent</td></tr><tr><td>Transparence</td><td>Transparence et explicabilité</td><td>Équité</td><td>Équité et non-discrimination</td><td>V3 Assurer la diversité et l'inclusion</td></tr><tr><td>Explicabilité</td><td>Transparence et explicabilité</td><td>Explicabilité</td><td>Transparence et explicabilité</td><td>V4 Vivre dans des sociétés justes, pacifiques et interdépendantes</td></tr><tr><td rowspan="2">Sécurité</td><td>Süreté et sécurité</td><td>Süreté et sécurité</td><td rowspan="2">Commission Européenne</td><td>Action humaine et contrôle humain</td><td>Surveillance et décision humaines</td><td rowspan="2">Sécurité et contrôlabilité</td><td>Sureté et sécurité</td><td>1. Principes de proportionnalités et d'innocuité</td></tr><tr><td>Actions et contrôlabilité humaines</td><td>Surveillance et décision humaines</td><td>Robustesse technique et</td><td>Sureté et sécurité</td><td>2. Sureté et sécurité</td></tr><tr><td rowspan="2">Humanité</td><td>Gouvernance et surveillance humaines</td><td>Gouvernance et collaboration multipartites et adaptatives</td><td rowspan="2">Exigences essentielles (Concrètes)</td><td>Respect de la vie privée et gouvernance des données</td><td>Respect de la vie privée et protection des données</td><td rowspan="2">Coopération ouverte</td><td>Responsabilité et redevabilité</td><td>3. Equité et non-discrimination</td></tr><tr><td>Bénéfices et respect des valeurs humaines</td><td>Principes de proportionnalités et d'innocuité</td><td>Transparence</td><td>Transparence et explicabilité</td><td>Gouvernance et collaboration multipartites et adaptatives</td><td>4. Durabilité</td></tr><tr><td rowspan="3">Inclusivité</td><td>Respect de la liberté et de la dignité des humains</td><td></td><td></td><td>Diversité, non-discrimination et équité</td><td>Équité et non-discrimination</td><td rowspan="3"></td><td rowspan="3"></td><td rowspan="3"></td><td>5. Respect de la vie privée et protection des données</td></tr><tr><td>Respect de la vie privée et protection des données</td><td>Respect de la vie privée et protection des données</td><td>Bien-être sociétal et environnemental</td><td>Durabilité</td><td>6. Surveillance et décisions humaines</td></tr><tr><td>Sensibilisation et partage</td><td>Sensibilisation et éducation</td><td>Responsabilité</td><td>Responsabilité et redevabilité</td><td>7. Transparence et explicabilité</td></tr><tr><td></td><td>Coopération internationale</td><td></td><td></td><td></td><td></td><td></td><td></td><td></td><td>9. Sensibilisation et éducation</td></tr><tr><td></td><td></td><td></td><td></td><td></td><td></td><td></td><td></td><td></td><td>10. Gouvernance et collaboration multipartites et adaptatives</td></tr></tbody></table>

## 7. Référents moraux pour la construction du texte de Dubaï

Les textes éthiques sont conçus comme des orientations pour une prise de décision en vue d'une action adéquate conformément à des idéaux partagés et auxquels adhèrent le groupe ou la communauté concernés par le texte ou la charte en question.

Les principes édictés correspondraient en toute logique, à des valeurs partagées par le groupe qui adopte, édicte et publie des principes. Le concept de valeur renvoie d'ailleurs à une croyance dotée de stabilité qui dicte un mode singulier d'agir préférable à un autre. [13]. On sait également que le concept de préférence renvoie fondamentalement à la notion de comparaison et donc de choix. Les cultures ont des préférences tout comme les individus.

L'analyse comparative (Tableau I) montre que certains principes sont en
effet, partagés par toutes les entités étudiées. Il s'agit de cinq principes : Sûreté et sécurité, Equité et non-discrimination, Respect de la vie privée et protection des données, Transparence et explicabilité, Responsabilité et redevabilité.

Nous noterons que Dubaï partage 8 principes avec le texte publié par l'UNESCO. Le principe de Sensibilisation et éducation est uniquement choisi par l'UNESCO et Dubaï. Concernant les principes exclusifs, le texte de Dubaï en compte deux : Respect de la liberté et de la dignité des humains, et le principe Coopération internationale.

Nous noterons que même l'un des principes exclusifs s'inscrit dans une logique universaliste. La question à se poser ici, est de savoir si les principes choisis sont conformes aux valeurs et prescriptions culturelles d'un pays comme les Emirates Arabes Unis ?

La célèbre étude de Ronald Inglehart et Christian Welzel [7] a permis, comme soulevé plus haut, de distinguer des zones culturelles spécifiques : anciens pays communistes, pays confucianistes, pays anglophones, Europe catholique et

Europe protestante, Amérique latine, Afrique et Asie du Sud<fnref n="8" />. En toute logique, les Emirats Arabes Unis figuraient parmi des pays comme le Qatar, l'Arabie Saoudite. Ces pays se positionnent en bas au coin gauche de la carte des zones culturelles proposée. Cette position reflète selon la logique de cette enquête mondiale, un respect des valeurs traditionnelles par rapport aux valeurs laïques-rationnelles et un intérêt pour les valeurs de survie plutôt que pour celles d'expression de soi.

Cette étude empirique montre clairement que ces positionnements sont corrélés à des choix religieux, philosophiques et culturels. D'emblée, les questions fondamentales à poser sont relatives à la signification qu'octroie le texte de Smart Dubaï à ces principes sous-tendus par des valeurs propres et culturellement partagées par les Emiratis.

Que signifie par exemple « liberté et dignité des humains » dans le contexte d'un pays arabo-musulman ? La question ici n'est pas de dire que la liberté telle que pensée par ce pays devrait être paramétrée par rapport à la conception occidentale, loin de là !

<footnote n="8">⁸ Voir https://www.worldvaluessurvey.org/WVSNew sShow.jsp?ID=428, consultée le 4-05-2021. La</footnote>

<footnote>carte 2020 est la version provisoire de la carte WVS vague 7 avec la carte finale qui sera publiée à l'automne 2021 à la fin de la vague.</footnote>
La liberté n'aurait certainement pas la même signification partout et chez tous les peuples. Il est juste important de dire que les acceptations ne sont probablement pas les mêmes et derrière le choix des principes, ceux qui peuvent être partagés par tous les humains et peuvent être universels, et ceux qui sont spécifiques et exclusifs parce que propre à des consensus culturels et communautaires, il y a une priorisation et une hiérarchisation des valeurs en fonction d'une identité propre et une histoire spécifique.

Le texte de Dubaï semble à priori, ne contenir aucune référence spécifique à la culture ou valeurs des Emirats Arabes Unis. Aucun texte de référence ne renvoie directement ou indirectement aux choix culturels et religieux. Deux raisons sont possibles pour cette orientation :

- Le statut d'une ville comme Dubaï qui aspire à devenir internationale (Smart Dubaï).

- La question de l'éthique est en fait une non-question pour une société traditionnelle comme les Emirats Arabes Unis. Le texte publié serait dans ce sens, une standardisation nécessaire (marketing) pour un positionnement stratégique dans le domaine de l'IA.

L'éthique est un positionnement par rapport à un moral. Edicter des principes ne peut tolérer l'économie d'un vrai débat pour déterminer quelles sont les valeurs prioritaires pour un collectif quel qu'il soit. Les pays qui manipulent les systèmes intelligents et qui aspirent à se positionner sur de telles technologies doivent être conscients que les technologies sont transférables mais pas les systèmes de valeurs qui les accompagnent. Les questions relatives aux biais algorithmiques ne peuvent être prises en charge en Chine ou au Maroc comme ils pourraient l'être en Europe. Les différences sont liées, comme on l'a précisé plus haut, à la fois aux acceptations se trouvant derrière les termes utilisés ainsi qu'aux valeurs priorisées.

C'est une question de survie des cultures, des Etats et des communautés. L'IA pourrait être demain, un outil de souveraineté. Les Etats Unis, la Chine, l'Europe l'ont bien compris. Il est vital pour d'autres pays qui manipulent l'IA ou dont la population y recourt largement, de se poser la question de la pertinence de certains principes éthiques par rapport à leurs propres traditions culturelles.

## Conclusion
Le texte publié par Smart Dubaï recoupe largement le texte de l'UNESCO et reprend la majorité des principes qui y sont publiés. Il n'est pas non plus fondamentalement différent de ceux publiés par les autres entités. Les principes universels se profilent-ils ? Oui si l'on soumet l'ensemble des principes ainsi que les valeurs qui les sous-tendent à une analyse sémantique minutieuse qui permettrait de se rendre compte des acceptions octroyées aux termes par les différentes cultures. Le respect de la vie privée a-t-il la même signification en Chine, dans les EAU, aux USA et en Europe ? Les biais algorithmiques relatifs à l'équité ou à la transparence s'agrègent-ils de la même manière chez chaque concepteur et designer quel que soit son horizon cultuel ?

Pour l'anthropologue des algorithmes Nick Seaver [15], les algorithmes ne s'obtiennent pas uniquement par des processus rationnels, ils sont composés de pratiques humaines collectives. Les algorithmes sont de ce fait porteurs d'un système de valeurs et ne peuvent être neutres. Les principes qui doivent les réguler ne peuvent ignorer cette dimension. Il est également important de signaler que ces principes sont formalisés, comme précisé plus haut, à partir de certaines valeurs propres aux

cultures. Que peut-on déduire d'une formulation comme celle de « Respecter les droits des individus » ? Ne faudrait-il pas préciser de quel droit parle-t-on ? Ne sommes-nous pas dans la nécessité de faire des références associées aux principes et aux valeurs en même temps ? Pour pouvoir affirmer que les principes choisis par les différentes entités ont le même référent moral, il faudrait des investigations approfondies sur les textes préparatifs des codes ou chartes publiées, ces textes expliquent le raisonnement et exposent l'argumentaire qui ont été à l'origine des principes édictés. Dans les textes étudiés, hormis celui de l'UNESCO, les principes ne sont que rarement précédés d'un argumentaire.

Pour qu'il y ait une possibilité d'un débat interculturel et international autour de ces codes, qui ne peuvent à premier abord, être universels, il est primordial de comprendre le mécanisme par lequel les sociétés formalisent les valeurs et en arrivent à ces principes. Ce passage d'intellection obligé, permettra d'envisager des codes non avec une prétention universelle mais plutôt avec un souci de complémentarité.
## 8. Références

1. Commission européenne, Direction générale des réseaux de communication, du contenu et des technologies, Groupe d'experts indépendants de haut niveau, Lignes directrices en matière d'éthique pour une IA digne de confiance, Publications Office, 2019 [en ligne], Consultée le : 15 octobre 2020] Disponible à l'adresse : https://data.europa.eu/doi/10.2759/54071

2. Commission européenne, Règlement du parlement européen et du conseil Établissant des règles harmonisées concernant l'intelligence artificielle (législation sur l'intelligence artificielle) et modifiant certains actes législatifs de l'Union, [En ligne]. Consultée le : 21-4-2021. Disponible à l'adresse : https://eur-lex.europa.eu/legal-content/FR/TXT/HTML/?uri=CELEX:52021PC0206&from=EN

3. Comité professionnel national de gouvernance de l'intelligence artificielle de nouvelle génération, Principes de gouvernance de l'intelligence artificielle de nouvelle génération - Développer une intelligence artificielle responsable,

2019 [en ligne], Consultée le : 18 octobre 2020. Disponible à l'adresse https://mp.weixin.qq.com/s/JWRehPFXJJz Mu8ohlO2kQ

4. Belouali S., Belouali A., Saber M., Jaafar K., Belkasmi M.G. (2020) Ethics of AI or Ethical AI, Topical Point of View. In: El Moussati A., Kpalma K., Ghaouth Belkasmi M., Saber M., Guégan S. (eds) Advances in Smart Technologies Applications and Case Studies. SmartICT 2019. Lecture Notes in Electrical Engineering, vol 684. Springer, Cham. https://doi.org/10.1007/978-3-030-53187-4_58

5. El Mandjra, Mahdi. «Diversité culturelle : une question de survie », Futuribles, vol., no.202, 1995, pp.5-16

6. Groupe d'Experts ad hoc (GEAH) de l'UNESCO, Avant-projet de recommandation sur l'éthique de l'Intelligence Artificielle, [En ligne]. Consultée le : 15 octobre 2020. Disponible à : l'adresse : https://unesdoc.unesco.org/ark:/48223/pf0000373434_fre
7. Inglehart, Ronald. et Welzel, Christian. Carte culturelle d'Inglehart – Welzel, (1981), [en ligne], Disponible à l'adresse : https://www.worldvaluessu rvey.org/WVSNewsShow.jsp?ID=428

8. Kaufmann, Laurence, et Danny Trom. "Présentation". Kaufmann, Laurence, et Danny Trom. Qu'est-ce qu'un collectif ? Du commun à la politique. Paris : Éditions de l'École des hautes études en sciences sociales, 2010. (pp. 9-24) Web. <http://books.openedition.org/editio nsehess/11502>.

9. Leclerc, Karine. Genèse de la fragmentation contemporaine : de la tension entre l'universalisme et le particularisme dans la constitution du sujet politique, Thèse de doctorat en sociologie, Université du Québec à Montréal, 2007, 495p.

10. Legault, Georges A. « La délibération éthique au cœur de l'éthique appliquée », Revue française d'éthique appliquée, vol. 1, no. 1, 2016, pp. 37-44.

11. Maffesoli, Michel. « De l'universel au particulier », Diogène, vol. 215, no. 3, 2006, pp. 90-104.

12. Panetta, Kasey. 5 tendances à l'origine du cycle de Gartner Hype pour les technologies émergentes, 2020, consultée le 18-03-2021 sur : https://www.gartner.com/smarterwithga rt_ner/5-trends-drive-the-gartner-hype-cycle-for-emerging-technologies-2020/

13. Rokeach, Milton. The nature of human values. Free press., 1973, 438p.

14. Schwartz, Shalom H. « Les valeurs de base de la personne : théorie, mesures et applications », Revue française de sociologie, vol. 47, no. 4, 2006, pp. 929-968.

15. Seaver, Nick. "Algorithms as culture: Some tactics for the ethnography of algorithmic systems. Big data & society", Vol. 4 no.2, 2017, DOI; https://doi.org/10.1177/20539517177 38104

16. Smart Dubai, Principes et directives d'éthique de l'intelligence artificielle, [en ligne], 2018. Consultée le : 15 octobre 2020. Disponible à l'adresse : https://www.digitaldubai.ae/pdfview er/web/viewer.html?file=https://ww
w.digitaldubai.ae/docs/default-source/ai-ethics-resources/ai-ethics-ar.pdf?sfvrsn=a9081451_8

17. Terrenoire Jean-Paul. Sociologie de l'éthique professionnelle. contribution à la réflexion théorique. In: *Sociétés contemporaines* N°7, Septembre 1991. Ethique professionnelle. pp. 7-33.
DOI: https://doi.org/10.3406/socco.1991.1007

18. Traldi, Laura. 2018. Why technology needs ethics. In conversation with

Luciano Floridi. *Design@large* [en ligne]. 10 octobre 2018. [Consulté le 25 novembre 2020]. Disponible à

l'adresse : http://www.designatlarge.it/luciano-floridi-technology-needs-ethics/?lang=en.

19. Wach, Monique. Hammer Béatrice, La structure des valeurs est-elle universelle ? Genèse et validation du modèle compréhensif de Schwartz, L'Harmattan, 2003, 194p.