# Droit et soft ethics dans l'encadrement normatif de l'IA : une perspective pragmatiste

Andréane Sabourin Laflamme and Frédérick Bruneault

Volume 3, Number 1, 2022

## Normativité et intelligence artificielle

Artificial Intelligence and Normativity

URI: https://id.erudit.org/iderudit/1098935ar

DOI: https://doi.org/10.7202/1098935ar

See table of contents

Publisher(s)

UQÀM Département des sciences juridiques
UQÀM Faculté de science politique et de droit

ISSN

2563-9250 (digital)

Explore this journal

Cite this article

Sabourin Laflamme, A. & Bruneault, F. (2022). Droit et soft ethics dans l'encadrement normatif de l'IA : une perspective pragmatiste. *Communitas*, 3(1), 163-199. https://doi.org/10.7202/1098935ar

## Article abstract

In order to discuss the issues associated with artificial intelligence systems (AIS), publications in AI ethics have multiplied recently. While law and ethics work toward a common goal of fostering beneficial and responsible use of AI, these normative initiatives are distinct and must be appropriately situated in relation to each other. In this article, starting from a pragmatist perspective, we propose a reflection on the normative role of what Luciano Floridi calls “soft ethics” in relation to law. We will reflect on the characteristics it should have to play an effective normative role that is complementary to law, as well as on the internormative relations between ethics and law in the perspective of normative pluralism.
# Droit et soft ethics dans l'encadrement normatif de l'IA : une perspective pragmatiste

Andréane Sabourin Laflamme<fnref n="1" /> et Frédérick Bruneault²

## RÉSUMÉ

Dans l'objectif de discuter des enjeux associés aux systèmes d'intelligence artificielle (SIA), les publications en éthique de l'IA se sont multipliées récemment. Bien que le droit et l'éthique œuvrent pour un but commun, soit celui de favoriser une utilisation de l'IA qui soit bénéfique et responsable, ces initiatives normatives sont distinctes et doivent être situées adéquatement l'une par rapport à l'autre. Dans le cadre de cet article, partant d'une perspective pragmatiste, nous proposons une réflexion sur le rôle normatif de ce que Luciano Floridi appelle la soft ethics par rapport au droit. Nous réfléchirons aux caractéristiques qu'elle devrait posséder pour jouer un rôle normatif effectif qui soit complémentaire au droit ainsi qu'aux relations internormatives entre éthique et droit dans la perspective du pluralisme normatif.

**MOTS-CLÉS** : éthique, droit, intelligence artificielle, pragmatisme, pluralisme normatif

## ABSTRACT

In order to discuss the issues associated with artificial intelligence systems (AIS), publications in AI ethics have multiplied recently. While law and ethics work toward a common goal of fostering beneficial and responsible use of AI, these normative initiatives are distinct and must be appropriately situated in relation to each other. In this article, starting from a pragmatist perspective, we propose a reflection on the normative role of what Luciano Floridi calls "soft ethics" in relation to law. We will reflect on the characteristics it should have to play an effective normative role that is complementary to law, as well as on the internormative relations between ethics and law in the perspective of normative pluralism.

**KEYWORDS** : ethics, law, artificial intelligence, pragmatism, normative pluralism

<footnote n="1">¹ Professeure au Cégep André-Laurendeau (Montréal), département de philosophie et candidate au doctorat en droit, Université de Sherbrooke</footnote>
² Professeur au Cégep André-Laurendeau (Montréal), département de philosophie et professeur associé à l'École des médias, Université du Québec à Montréal
Introduction

Les systèmes d’intelligence artificielle (SIA) pénètrent de manière croissante
les sphères les plus intimes de nos existences. Nous commençons à peine à
mesurer l’ampleur des modifications que l’intégration de cette technologie à
notre quotidien opère sur nos modes de fonctionnement, les modalités de nos
rapports sociaux, nos milieux de travail, notre rapport à l’information, nos
mécanismes de prise de décision, notre identité individuelle et ultimement notre
autonomie. Si le développement fulgurant de l’IA suscite autant d’engouement
que d’appréhension, c’est qu’il y a autant de raisons valables d’être optimistes
que d’être inquiets quant aux impacts de cette technologie sur nos sociétés de
l’information. Il est par exemple tout à fait légitime d’être enthousiastes quant aux
avancées exceptionnelles permises par l’utilisation de l’IA dans le dépistage de
certains cancers (Savage, 2020) ou dans la lutte contre l’exploitation sexuelle en
ligne (Robidas, 2021), tout en étant aussi préoccupés – l’existence de biais
algorithmiques étant abondamment documentée (Eubanks, 2018; Noble, 2018)
– par l’utilisation d’algorithmes à des fins d’évaluation des risques de récidive pour
déterminer les conditions de remise en liberté des détenus dans certains systèmes
pénaux (Angwin et al., 2016). Bien que les SIA soient assujettis aux différents
régimes de droit existants – qu’on pense par exemple au droit contractuel, au
régime de responsabilité civile extracontractuel, au droit de la propriété
intellectuelle, aux droits de la personne ou aux dispositions législatives qui
protègent les renseignements personnels –, plusieurs de ces cadres, développés
avant l’intégration des SIA dans nos différentes sphères d’activités, s’avèrent à
certains égards inadaptés pour traiter les litiges associés à ces technologies
(Scassa, 2020). C’est dans ce contexte que s’inscrivent les nombreuses initiatives
en éthique de l’IA qui se sont multipliées au cours des dix dernières années. Les
publications académiques ayant pour objet l’éthique de l’IA – domaine qui s’est
récemment imposé comme une nouvelle branche de l’éthique appliquée – sont
si nombreuses qu’en faire une recension exhaustive requerrait des moyens
imposants. Outre les publications académiques et celles issues des médias
généralistes qui traitent de l’éthique de l’IA, dans l’objectif d’offrir des lignes
directrices qui permettraient de favoriser une utilisation éthique ou responsable
des SIA, un très grand nombre de déclarations et chartes présentant des principes
éthiques, des recommandations ou des lignes directrices a été publié au cours
des dernière années, et ce, à un rythme encore plus soutenu à partir de 2018
(Fjeld et al., 2020, p. 17). Qu’elles soient issues du monde académique,
d’organismes publics ou de l’industrie, ces déclarations ainsi que d’autres guides
et des codes d’éthique visent à poser les principes qui devraient encadrer la
conception et l’utilisation des SIA. Si le foisonnement qui caractérise ce champ
disciplinaire est certes réjouissant, car il témoigne de la préoccupation des
personnes issues de différents milieux pour les enjeux éthiques associés à l’IA ainsi
que d’une volonté de contribuer à favoriser une utilisation responsable de celle-
ci, il s'accompagne néanmoins d'une grande confusion, notamment en ce qui a trait à la définition de l'éthique de l'IA et au rôle normatif que celle-ci peut jouer dans l'encadrement de l'IA. De plus, la polysémie du terme « éthique » ainsi que le fait que l'éthique soit instrumentalisée par certaines organisations à des fins de relations publiques ont d'autant plus contribué à accentuer la confusion sur la fonction normative de l'éthique de l'IA, notamment par rapport au droit.

Parallèlement à ces démarches éthiques, et face à leurs limites et insuffisances (Floridi, 2021), plusieurs décideurs politiques, tant sur le plan supranational que national, régional et municipal, ont entrepris des réformes législatives dans l'objectif de limiter les impacts potentiellement préjudiciables de l'utilisation des SIA. En effet, depuis les dernières années, il semble que l'intérêt pour la règlementation de l'IA, que celle-ci se présente sous la forme de réformes législatives ou de nouveaux projets de lois et de règlements, se soit particulièrement accru. Compte tenu de la quantité phénoménale de données nécessaire à l'entrainement de SIA performants, et par conséquent des risques que cet appétit en données brutes pose pour la vie privée des personnes, plusieurs juridictions ont entrepris en priorité la modernisation des dispositions qui visent la protection des données personnelles. Le Règlement général sur la protection des données (RGPD)<fnref n="1" />, entré en vigueur dans l'Union européenne en 2018, fait à bien des égards office de figure de proue en la matière. Le Québec, avec l'adoption de la Loi sur la protection des renseignements personnels dans le secteur privé<fnref n="2" /> et le dépôt du projet de loi 19, qui vise à encadrer les renseignements de santé et de services sociaux<fnref n="3" />, est somme toute pionnier en Amérique du Nord en ce qui a trait à la protection légale des renseignements personnels. Au fédéral, bien que le projet de loi C-11⁴, qui visait à modifier de manière importante la Loi sur la protection des données personnelles et les documents électroniques<fnref n="5" />, soit tombé avec le déclenchement des dernières élections, il est légitime de s'attendre, compte tenu du consensus sur la désuétude de cette loi, à des développements en ce sens prochainement<fnref n="6" />. Si l'on peut certes se réjouir du fait que des efforts particuliers sont déployés en ce sens, il est certain que la protection des données personnelles, qui a mobilisé l'attention du législateur, constitue seulement un des nombreux enjeux relatifs à

<footnote n="1">¹ CE, Règlement (CE) 2016/679 du Parlement européen et du Conseil relatif à la protection des personnes physiques à l'égard du traitement des données à caractère personnel et à la libre circulation de ces données, [2016] JO, 119/1.</footnote>

<footnote n="2">² Loi sur la protection des renseignements personnels dans le secteur privé, RLRQ c P-39.1.</footnote>

<footnote n="3">³ PL 19, Loi sur les renseignements de santé et de services sociaux et modifiant diverses dispositions législatives, 2ᵉ sess., 42ᵉ lég., Québec, 2021 (sanctionné le 3 décembre 2021).</footnote>

<footnote n="4">⁴ PL C-11, Loi édictant la Loi sur la protection de la vie privée des consommateurs et la Loi sur le Tribunal de la protection des renseignements personnels et des données et apportant des modifications corrélatives et connexes à d'autres lois, 2ᵉ sess., 43ᵉ parl., 2020 (première lecture le 17 novembre 2020).</footnote>

<footnote n="5">⁵ Loi sur la protection des renseignements personnels et les documents électroniques, LRC 2000, c 5.</footnote>

<footnote n="6">⁶ Effectivement, en juin 2022, soit après la rédaction de cet article, le projet de Loi C-27 a été déposé. En plus d'édicter une Loi sur la protection de la vie privée des consommateurs et une Loi établissant un Tribunal de la protection des renseignements personnels et des données, le projet de Loi comporte également une Loi sur l'IA, ce qui constitue une initiative inédite au pays.</footnote>
l'IA identifiés au cours de dernières années (Tsamados, 2021)<fnref n="7" />. À la lumière des travaux qui traitent de la puissance normative des technologies (Hildebrandt, 2020; de Filippi; 2017; Lessig, 2006) et dans un contexte caractérisé par le contraste entre le rythme du développement technologique et celui des processus législatifs, les réflexions sur les limites du droit positif pour répondre à l'exigence d'encadrement normatif des phénomènes sociaux prennent tout leur sens (Chevallier, 2003; Mockle, 2002).

Bien que l'éthique et le droit visent essentiellement des objectifs communs, soit d'une part favoriser un développement responsable de l'IA qui soit bénéfique pour la société, les groupes et les individus, et d'autre part limiter les risques qui sont associés à son utilisation dans différents contextes, force est de constater que le dialogue s'avère parfois difficile entre ces deux champs disciplinaires. Il est effectivement possible d'observer que les travaux de recherche sur l'encadrement normatif de l'IA se font, pour la vaste majorité, soit dans un champ disciplinaire, soit dans l'autre, et que les approches cherchant à établir un dialogue entre ces disciplines sont encore peu nombreuses, ce qui constitue selon nous une lacune dans la discussion actuelle sur la gouvernance de l'IA. Si le droit et l'éthique constituent deux sources normatives distinctes qui ne doivent pas être confondues, leur apport est à notre avis essentiel à l'élaboration d'une gouvernance approprié et complète de l'IA. Notre objectif, dans le cadre de cet article, sera de répondre aux questions suivantes : comment définir et situer les différentes fonctions normatives de l'éthique par rapport au droit dans l'encadrement normatif de l'IA ? Comment penser l'effectivité complémentaire de ces sources normatives ? Quelle forme l'éthique devrait-elle prendre pour être en mesure de jouer un rôle normatif effectif complémentaire à celui du droit ? En quoi consiste son apport distinct, et quelles relations internormatives est-elle susceptible d'entretenir avec le droit étatique ?

Nous proposons de réfléchir à ces questions en prenant appui sur une distinction conceptuelle proposée par Luciano Floridi dans son article de 2018, « Soft ethics and the governance of the digital » (section 1). Il nous apparaît que la distinction qu'il opère entre *hard ethics* et *soft ethics* s'avère particulièrement utile pour distinguer deux fonctions de l'éthique de l'IA par rapport au droit et

<footnote n="7">⁷ Rappelons que n’est que très récemment que des cadres législatifs généraux spécifiquement consacrés à l’IA ont été proposés et que ceux-ci, qu’on pense au projet de règlement sur l’IA, adopté par la Commission européenne en avril 2021, au Algorithmic AI ACT ou à la Loi sur l’IA contenue dans le projet de Loi C-27, demeurent à l’étape de projets, leur adoption devant encore faire l’objet de nombreux débats au sein des différentes instances. Par ailleurs, même s’ils diffèrent à plusieurs égards, ces projets de lois préconisent une approche fondée sur l’évaluation des risques (risk-based approach), et il est probable que s’ils sont adoptés, seuls les SIA considérés à haut risque seront légalement assujettis à des processus d’évaluation strictes et par conséquent que la vaste majorité des SIA ne devront vraisemblablement pas être soumis à un processus exhaustif d’analyse d’impacts. S’ils sont adoptés, ces projets de loi constitueront donc une avancée importante pour l’encadrement normatif des SIA, mais leur portée sera dans les faits plutôt limitée. Or même s’ils ne sont pas considérés comme étant susceptibles de créer de graves préjudices, il faut rappeler, suivant Mökander et al. (2022), que les SIA qui sont considérés à moyen ou à faible risque peuvent soulever des problèmes éthiques et sociaux et qu’ils devraient également être soumis, même si cela n’est pas prescrit par la loi, à un examen approfondi préalablement à leur déploiement.</footnote>
pour circonscrire l'objet qui sera analysé dans le cadre de notre article. Nous nous intéresserons au rôle que peut jouer la soft ethics dans l'encadrement normatif de l'IA, soit à cette fonction que l'éthique peut occuper en aval du droit et dont l'objectif est d'évaluer, en contexte et au-delà du cadre législatif existant, les risques associés à un SIA particulier ainsi que de statuer sur la désirabilité de son déploiement. Nous chercherons dans un premier temps à circonscrire ce champ de l'éthique et à situer cette source de normativité par rapport à la hard ethics et au droit, dans la perspective du pluralisme normatif. Nous verrons comment le fait de penser que l'éthique de l'IA puisse vouloir se substituer au droit et lui faire compétition entrave la conception de ces sources de normativité dans une perspective de complémentarité. L'objectif sera ensuite de démontrer comment le cadre conceptuel qu'offre le pluralisme normatif permet de penser le droit et l'éthique comme deux sources normatives différentes ainsi que d'en saisir les rapports internormatifs. En effet, le pluralisme normatif permet de considérer ces différentes sources normatives dans une optique d'équipollence des normes (Bernheim, 2011) et ainsi d'en faire apparaître la complémentarité. De plus, dans la mesure où elle offre une perspective externe sur le droit et l'éthique, cette posture est caractérisée par l'importance accordée aux effets des normes sur les pratiques plutôt qu'aux conditions formelles de leur adoption. Cela présente l'avantage de nous permettre d'appréhender les normativités juridiques et éthiques à partir d'un point de vue unique ainsi que d'en entrevoir les interactions, plus précisément en les concevant à partir d'une posture pragmatiste.

Par la suite, nous porterons notre regard sur les caractéristiques essentielles d'une conception pragmatiste de l'éthique et nous verrons qu'une telle approche constitue un cadre d'analyse particulièrement utile pour réfléchir à l'encadrement normatif de l'IA (section 2). Nous pourrons alors souligner comment une telle éthique pragmatiste peut se matérialiser sous différentes formes de pratiques en évaluation éthique, en nous basant sur les travaux de Federica Lucivero. Nous mettrons ainsi en lumière les deux principales catégories d'approche que Lucivero identifie, soit celle typiquement associée à l'étude empirique des enjeux éthiques de l'IA – une approche propre aux sciences sociales que nous nommerons l'approche TA (Technology Assessment), inspirée des STS (Science and Technology Studies) –, et celle associée aux travaux typiquement rattachés à l'éthique institutionnelle. Nous soutiendrons, comme Lucivero le fait, que si l'approche TA présente un déficit normatif pour penser convenablement l'encadrement normatif de l'IA par la soft ethics, les approches classiques en éthique institutionnelle souffrent en revanche généralement d'un manque de perspective technique et sociologique. Nous défendrons ainsi l'idée que, pour que la soft ethics puisse aspirer à jouer un rôle normatif effectif et complémentaire au droit, il est nécessaire de développer une démarche en soft ethics de l'IA pouvant allier les avantages de chacune de ces approches, tout en évitant leurs limitations. Nous serons dès lors en mesure de bien situer le rôle de la soft ethics, tout en la distinguant clairement du droit et de la hard ethics, et en
envisageant les formes que peuvent prendre les interactions entre ces différentes
sources normatives (section 3).

# 1. Le rôle de la soft ethics dans la perspective du pluralisme normatif

## 1.1. Droit et éthique de l'IA : une relation confuse

Au cours des dernières années s'est installée une certaine méfiance à l'égard du rôle normatif que l'éthique aspire à jouer dans l'encadrement de l'IA. Critiquée, d'une part, parce qu'elle présente des principes abstraits, décontextualisés, consensuels et non définis et, d'autre part, parce qu'elle est dépourvue de force exécutoire, l'éthique de l'IA est parfois conçue comme inadéquate. Certains considèrent même que son rôle se limite à celui d'un rempart érigé par les entreprises dans le but de décourager les interventions législatives étatiques. En effet, ces dernières étant plus contraignantes, l'industrie tend, pour des raisons évidentes, à faire la promotion de formes plus souples d'autorégulation (Calo, 2018). Des études ont démontré que, bien que l'on puisse observer une certaine convergence entre les principes énoncés au sein des nombreuses déclarations, chartes, lignes directrices et codes d'éthique qui ont été publiés dernièrement (Jobin et al., 2019; Flejd et al., 2020; Floridi et Cowls, 2019), leur caractère abstrait ainsi que le fait qu'ils soient largement dénués de considérations techniques rendent leur interprétation et leur mise en œuvre problématiques. En effet, les effets normatifs des déclarations s'avèrent à l'heure actuelle assez limités (Hagendorff, 2020). Bien qu'il existe des mécanismes d'autorégulation tels que des codes de conduite ou d'éthique au sein même de certaines entreprises, des études récentes démontrent que les effets de ces codes sont pratiquement nuls s'ils ne sont pas intégrés dans la culture organisationnelle et définis précisément dans la pratique (Mittelstadt, 2019). Le risque que ces documents soient utilisés non pas comme des vecteurs de réel changement au sein des entreprises, mais plutôt comme stratégie de relation publique (phénomène que l'on qualifie communément de « ethics washing ») est donc bien réel (Bietti, 2021; Floridi, 2019). Version numérique du « greenwashing », un terme qui réfère aux pratiques de marketing de certaines organisations qui visent à « verdir » leur image, le terme « ethics bluewashing » est abondamment utilisé pour référer aux stratégies de relations publiques auxquelles recourent certaines corporations afin d'apparaitre plus « éthiques », alors que dans les faits, les principes proclamés en grande pompe n'ont aucun impact réel sur les pratiques (Vincent, 2019). Ce phénomène, qu'il est malheureusement impossible de nier, contribue à jeter le discrédit sur l'éthique de l'IA, qui en est venue à être considérée par certains observateurs comme une simple façade érigée par des organisations, qui brandissent fièrement codes, chartes et déclarations éthiques
afin de militer pour l'autorégulation, tandis qu'elles n'ont pas réellement
l'intention de modifier leurs pratiques. Face à cette récupération de l'éthique, nul
ne s'étonne que la méfiance à l'endroit de l'éthique de l'IA se radicalise parfois
en ce que Eletra Bietti (2021) qualifie de « ethics bashing ». En effet, certains en
viennent non seulement à considérer l'éthique de l'IA comme inadéquate pour
encadrer les pratiques en IA, mais la qualifient même de nuisible, au sens où elle
distrairait le législateur et le dissuaderait de procéder à des refontes législatives
qui seraient susceptibles d'avoir le mordant nécessaire pour produire de réels
effets normatifs, alors que les risques de violations des droits de la personne sont
manifestes dans plusieurs secteurs d'activités (Access Now, 2018). Face à ce
détournement éhonté de l'éthique, on ne peut faire autrement que de se désoler
de ces dérapages et du fait que cette instrumentalisation ait pour conséquence
la disqualification du rôle normatif de l'éthique dans la gouvernance de l'IA au
profit de l'intervention législative étatique, qui aspirerait à occuper une fonction
exclusive dans la gouvernance de l'IA. Ce phénomène accentue d'autant plus
la confusion généralisée qui caractérise l'état de la situation en éthique de l'IA.

Du point de vue de la philosophie morale, qui comprend bien entendu
l'éthique comme une branche de la philosophie construite sur la base d'un
héritage conceptuel riche et fructueux, il est d'autant plus regrettable de voir à
l'œuvre une telle récupération à des fins de « ethics washing », mais aussi,
conséquemment, de constater l'existence d'un tel désaveu de la contribution
que l'éthique pourrait offrir, d'une part, pour penser les principes et valeurs qui
devraient être au fondement des réformes législatives visant à favoriser un
encadrement plus approprié de l'IA et, d'autre part, pour conduire une analyse
pratique au-delà de ce que permet ou interdit le droit étatique, à savoir sur le
caractère souhaitable ou non de la conception, du déploiement et de
l'utilisation de SIA particuliers dans nos sociétés de l'information. Du point de vue
de l'éthique, le fait de présumer que le droit étatique serait en mesure d'assurer
à lui seul l'encadrement normatif de l'IA est problématique. En effet, dans cette
perspective, le développement d'instruments législatifs adéquats ne peut faire
l'économie d'une réflexion philosophique approfondie qui permettrait
d'identifier les enjeux éthiques associés à l'IA, d'évaluer les risques relatifs à ces
enjeux et de penser les valeurs et les principes éthiques qui devraient encadrer
les SIA. Bien qu'il soit impossible de nier que l'éthique de l'IA ait été
instrumentalisée, il est regrettable que ces dérapages aient eu pour effet qu'une
conception réductrice de cette discipline se soit propagée, éclipsant la fonction
normative que pourrait jouer l'éthique de l'IA et compromettant du même coup
la mise en place d'une gouvernance appropriée et complète de l'IA. Afin de
bien comprendre la place de l'éthique dans l'encadrement normatif de l'IA, il est
nécessaire de cesser de penser que l'éthique aspire à se substituer au droit ou à
lui faire compétition. Il faut au contraire la concevoir comme une source
normative différente et complémentaire au droit, lequel demeure néanmoins
essentiel et irremplaçable dans la gouvernance de l'IA. La réflexion sur la
nécessaire complémentarité entre l'éthique et le droit n'est certes pas inédite. Il nous apparaît néanmoins nécessaire d'y revenir dans ce contexte, compte tenu de la confusion actuelle autour de la définition et du rôle normatif de l'éthique de l'IA.

Il s'agit à présent de voir en quoi le pluralisme normatif s'avère particulièrement utile pour envisager l'éthique et le droit comme des ordres normatifs distincts qui, sans se faire compétition, peuvent œuvrer de manière conjointe (1.2) pour ensuite situer, à partir des catégories élaborées par Luciano Floridi, les différentes fonctions normatives que l'éthique peut jouer par rapport au droit (1.3).

## 1.2. Du pluralisme juridique au pluralisme normatif

La tradition du pluralisme en droit est d'une grande richesse et complexité, auxquelles il est impossible de rendre justice dans le cadre de cet article. En effet, si les nuances et variations revêtues par ce paradigme au cours de son histoire sont nombreuses, l'objectif ici est de tracer à grands traits l'architecture de ce cadre théorique, de circonscrire certains des concepts qui en sont issus et de discuter de l'apport que ceux-ci sont susceptibles d'offrir dans l'analyse de la fonction régulatrice de la *soft ethics* dans la gouvernance de l'IA. Bien que l'enseignement de la conception pluraliste de la normativité demeure encore marginal dans les facultés de droit, et que c'est très largement sous l'égide du paradigme moniste que les formations juridiques sont conçues et dispensées en Occident, il n'en demeure pas moins que la conception pluraliste des sources normatives bénéficie d'une solide tradition en théorie du droit et en sociologie du droit. Comme le font d'ailleurs remarquer certains théoriciens du droit qui se sont intéressés au droit médiéval (Benyekhlef, 2008), le pluralisme normatif a largement prévalu dans la période qui sépare la chute de l'Empire romain et celle de la formation de l'État moderne, et il était également – quoique dans une moindre mesure – présent dans l'Antiquité. Le sociologue Guy Rocher reproche en effet à certains auteurs qui se réclament de la doctrine pluraliste de la présenter comme s'ils l'avaient découverte « alors qu'ils ne faisaient, en réalité, que renouer avec une tradition juridique oubliée » (Rocher, 2019, p. 446) tandis que Karim Benyekhlef va jusqu'à « demander si le pluralisme n'est pas la règle, alors que le monisme n'embrasse, somme toute, sur le plan historique, qu'une courte période débutant au XIXe siècle » (Benyekhlef, 2008, p. 458). L'étude de l'histoire du droit occidental permet de constater que la conception moniste du droit, selon laquelle seul l'État peut être producteur de juridicité, est en fait relativement récente, et que cette conception est corolaire de la consolidation de l'État moderne (Berman, 1883). Cette approche théorique du droit s'exprime souvent sous la forme du positivisme juridique, qui n'admet dans le giron de la juridicité que le droit posé par l'État. Cette définition restreinte et désincarnée du droit
prend sa forme la plus radicale chez Hans Kelsen (1934), qui cherche à isoler le
droit à la fois des rapports sociaux et de la morale ainsi qu'à élaborer une théorie
pure du droit qui se voudrait autosuffisante, autoréférentielle et hermétique. Ainsi
considérée, la norme peut revêtir un caractère juridique uniquement si elle est le
produit du législateur et qu'elle a été adoptée suivant le processus formel
d'édiction des lois (Benyekhlef, 2008, p. 24). Or, malgré la prédominance de ce
paradigme, un nombre considérable de juristes et de sociologues en contestent
la pertinence depuis un certain temps déjà (Belley, 1998; Chevallier, 2003; Rocher,
2019). Selon certains juristes, nous assistons en effet, depuis les dernières
décennies, à un véritable changement de paradigme dans l'univers politico-
juridique : le gouvernement semble céder sa place à la gouvernance, et la
règlementation à la régulation (Ost et Van de Kerchove, 2002). Non seulement
l'État n'est-il plus considéré comme ayant le monopole de la production
normative, mais de plus en plus, celle-ci mobilise différents acteurs non étatiques
issus de la société civile, des groupes sociaux, du monde académique, des ONG,
des entreprises, etc. Dans la mesure où il est possible de constater l'érosion de la
souveraineté exclusive de l'État dans la production normative ainsi que la
naissance de normativités concurrentes autant sinon plus effectives que celles
issues du droit étatique, il semble que le monisme s'avère inadéquat pour rendre
compte du paysage normatif actuel – pluriel, fragmenté et désordonné –, mais
aussi pour penser la pluralité des sources normatives nécessaires à l'encadrement
de l'IA, notamment l'éthique. Selon certains détracteurs de la conception
moniste du droit, cette doctrine relève ni plus ni moins d'une fiction intellectuelle
qui « méconnaît les réalités sociales et politiques des normativités » (Benyekhlef,
2008, p. 44). S'inscrivant contre le monisme, qui sous-tend la doctrine positiviste,
le paradigme pluraliste admet la multiplicité des sources normatives et s'intéresse
aux formes que prennent les interactions entre ces sources, qu'elles soient issues
ou non de l'État. En observant le droit d'un point de vue externe, on constate que
celui-ci ne constitue qu'un mode de régulation sociale parmi d'autres (Rocher,
2016) et on est ainsi en mesure de reconnaitre le caractère effectif de différentes
formes de normativité dans la société, qu'elles soient juridiques, sociales,
technologiques ou éthiques. Les innovations technologiques constituent d'ailleurs
un lieu privilégié à la source de nouvelles normativités. Adopter une perspective
externe sur le droit, comme le font par exemple les sociologues, permet de le
considérer comme une source normative coexistant avec d'autres sources
normatives, perspective qui risque d'être écartée si l'on adopte un point de vue
strictement interne sur le droit, s'intéressant au premier abord à le circonscrire et
à en définir les règles internes.

Une autre caractéristique du pluralisme normatif est que, dans la mesure
où il admet une diversité d'ordres normatifs concurrents, il conduit presque
nécessairement à une réflexion sur l'internormativité. En fait, le pluralisme et
l'internormativité sont des concepts intimement liés et ils se renvoient l'un à
l'autre : l'admission de la pluralité de sources normatives pose forcément la
question de leurs interactions, alors que l'internormativité suppose
nécessairement l'existence de plusieurs ordres normatifs distincts. Guy Rocher
identifie deux manières différentes de concevoir l'internormativité. Dans un
premier sens plus restreint, l'internormativité peut être définie comme « le
passage d'une règle d'un ordre normatif vers un autre » (Rocher, 2019, p. 325).
Ainsi comprise, l'internormativité suppose l'incorporation de normes dans un
ordre qui accueille les règles édictées par un autre ordre. Dans un sens plus large,
Guy Rocher considère l'internormativité comme référant à « la dynamique des
contacts entre systèmes normatifs, aux rapports de pouvoir et aux modalités
d'interinfluence ou d'interaction qui peuvent être observées entre deux ou
plusieurs systèmes normatifs » (Rocher, 2019, p. 326). Dans un article paru en 2011,
Emmanuelle Bernheim a cherché à identifier les différentes perspectives
théoriques sur le pluralisme et sur l'internormativité qui ont été proposées en droit
et en sociologie. Selon l'autrice, dans la perspective interne du juriste – même
dans ses formes les plus audacieuses –, le pluralisme est le plus souvent conçu
comme étant juridique et ne permettant de penser l'internormativité que dans
une perspective d'inclusion ou d'exclusion, les normes extraétatiques étant soit
exclues du giron de la juridicité, soit rapatriées en son sein. Au pluralisme juridique
encore trop préoccupé par la définition et la circonscription de ce qui constitue
la juridicité, Bernheim oppose le pluralisme normatif, qui permet de concevoir les
normes, qu'elles soient juridiques ou non, dans une perspective d'équipollence,
échappant ainsi à la propension hiérarchique qui hante le pluralisme juridique.
Dans cette perspective, il apparaît que la seconde acception de
l'internormativité proposée par Rocher est préférable pour penser les ordres
normatifs sur un pied d'égalité, dans une perspective de complémentarité. En
effet, comme elle réfère au transfert normatif d'un système à un autre – le plus
souvent, selon Rocher, des ordres dits « alternatifs » vers l'ordre juridique – la
première définition témoigne d'une conception plus hiérarchique de la
normativité. L'avantage de la seconde conception de l'internormativité
proposée par Rocher est qu'elle permet de concevoir les interactions entre
l'ordre normatif de l'éthique et celui du droit, sans nécessairement limiter
l'examen de l'internormativité au transfert des normes du système normatif de
l'éthique à celui du droit. En effet, bien qu'elle n'exclue pas que des normes
puissent voyager d'un système à un autre, la seconde acception de
l'internormativité présuppose l'équipollence des normes et rend possible
l'analyse de la dimension sociopolitique de leurs points de contact, de leurs
chevauchements, de leurs enchevêtements et de leurs frictions. Cette
conception plus large de l'internormativité permet d'éviter une discussion sur
l'interaction entre les systèmes normatifs qui, somme toute, serait réduite à une
étude des modalités de l'absorption des normes dites alternatives par le droit
étatique. Cette conception du pluralisme et de l'internormativité ne servirait au
fond qu'à réaffirmer la primauté du droit étatique, qui n'accepterait la légitimité
et l'effectivité des autres sources normatives que dans la mesure où il les
rapatrierait en son sein. Selon Bernheim (2011), seul le pluralisme normatif est en
mesure de rendre compte de « l'effectivité normative réelle » des ordres
concurrents qui peuplent le paysage normatif actuel sans tenter de les réduire à
l'ordre juridique. Nous soutenons par ailleurs que cet intérêt pour l'effectivité
normative n'est pas sans rappeler les fondements du pragmatisme en théorie du
droit (Lenoble, 2007) puisque, dans la mesure où cette approche propose une
perspective empirique sur la norme et s'intéresse d'abord à l'expérience que l'on
en fait dans le monde vécu, elle permet de rendre compte de la pluralité des
sources normatives et de leur rôle respectif dans le contexte actuel. En fait, il nous
apparait, suivant Lenoble, que le « tournant pragmatiste en droit » entraine
« l'ouverture de l'analyse du concept de droit aux débats actuels en sciences
sociales, c'est-à-dire à la question normative de la souhaitable réorganisation de
nos modes de production des normes » (Lenoble, 2007, p. 7). L'intérêt de ce
tournant en théorie du droit est qu'il permet par conséquent de rendre compte
de la nécessaire diversité des sources normatives – telles que l'éthique – dans
l'encadrement normatif des pratiques. C'est par ailleurs une perspective
pragmatiste de l'éthique qui sera également mobilisée pour définir le rôle
normatif de la soft ethics de l'IA dans la seconde partie de cet article.

C'est aussi une approche similaire de la normativité qui est présupposée
dans la typologie que propose Luciano Floridi, auteur s'inscrivant lui-même
largement dans la mouvance du pragmatisme, pour penser la gouvernance du
numérique et qui servira à définir notre objet d'étude en éthique de l'IA, soit la
soft ethics. Nous pourrons dès lors préciser comment une approche pragmatiste
en soft ethics permet d'identifier certains écueils bien connus dans l'évaluation
éthique des systèmes sociotechniques (section 2), ce qui nous permettra de
préciser comment l'éthique de l'IA, nouvellement reconnue comme un champ
disciplinaire distinct de l'éthique appliquée, devrait s'appuyer sur une telle
démarche pragmatiste afin de participer de manière appropriée et
complémentaire au droit à l'encadrement normatif de l'IA.

1.3. Hard ethics, droit et soft ethics

Dans la mesure où l'éthique peut jouer différents rôles par rapport au droit,
il importe de bien définir ses différentes fonctions, ce qui permettra du même
coup de circonscrire le terrain plus précis de la discussion proposée dans cet
article. Pour ce faire, ce sont les outils conceptuels proposés dans un article de
Luciano Floridi sur la gouvernance du numérique, paru en 2018, qui seront mis à
profit. Cette discussion s'inscrit dans le cadre théorique de l'éthique de
l'information développé par Floridi (2013), qui constitue par ailleurs un apport
inédit au débat en éthique de l'IA, notamment parce qu'il répond à certaines
insuffisances des cadres éthiques classiques (Bruneault et Sabourin Laflamme,
2021, 2022). Compte tenu des limites de cet article, nous ne retiendrons pour les
fins de la discussion proposée ici qu'une distinction conceptuelle proposée par
Floridi (2018). Pour ce dernier, en raison des transformations profondes que le numérique en général et l'IA en particulier induisent sur nos modes de fonctionnement et également des nombreux risques qui y sont associés, il est impératif que nous développions un encadrement normatif adéquat de ces technologies, qui occuperont assurément une place croissante dans les sociétés de l'information dans lesquelles évolueront les générations qui nous succéderont. Bien que ces considérations sur la gouvernance du numérique aient une portée plus large que celle de notre objet d'étude, soit la gouvernance de l'IA, elles sont néanmoins d'une grande utilité pour en identifier les composantes et les situer les unes par rapport aux autres. D'abord, pour Floridi, la gouvernance du numérique ne devrait pas être considérée comme un synonyme de la règlementation du numérique. En fait, une telle adéquation relèverait d'une synecdoque fallacieuse dans laquelle la partie (la règlementation) serait indument substituée au tout (la gouvernance), masquant ainsi une partie essentielle de ce que Floridi appelle « la carte normative » de la gouvernance du numérique, soit l'éthique du numérique. En effet, la gouvernance du numérique ne se résume pas à l'élaboration de lois et de règlements : elle doit également inclure l'évaluation morale des enjeux associés à ces technologies, dans l'objectif de proposer des pistes de solutions particulières aux problèmes analysés, ce qui établit par ailleurs un lien direct entre son approche et la tradition pragmatiste. Selon Floridi, même la présence de mécanismes législatifs appropriés ne pourrait suffire à encadrer adéquatement le développement du numérique et de l'IA, ces mécanismes se limitant à déterminer ce qui est légal et illégal, sans se questionner sur les avenues qu'il serait plus souhaitable d'emprunter en ce qui a trait au développement technologique. C'est bien entendu l'éthique, puisant dans le riche héritage conceptuel de la philosophie morale, qui peut assumer cette fonction.

Pour Floridi, l'éthique du numérique se décline de deux façons dans son rapport au droit : ce qu'il nomme *hard ethics* et *soft ethics*. Il entend par *hard ethics* la discussion sur les devoirs et les responsabilités morales de chacun et, de manière plus générale, la réflexion sur les principes et valeurs qui devraient guider l'action morale. Pensée dans son rapport au droit dans la gouvernance du numérique, la fonction de la *hard ethics*, située à un niveau d'abstraction plus élevé, est de définir les principes qui devraient guider les réformes législatives visant à mieux encadrer la conception et le déploiement du numérique et de l'IA dans la société ainsi qu'à questionner la validité morale du cadre législatif en place. L'objectif de la *hard ethics* est alors d'évaluer la cohérence des lois en place avec les principes éthiques identifiés et de se prononcer sur leur pertinence ou sur la potentielle nécessité de les réformer. En ce sens, située en quelque sorte en amont du droit, la *hard ethics* pourrait être susceptible d'influencer les orientations du législateur et ainsi de façonner indirectement le droit posé. La *soft ethics* se situe pour sa part en aval du droit, c'est-à-dire qu'elle s'intéresse aux questions éthiques qui excèdent le terrain couvert par la règlementation et cherche par exemple à déterminer, par l'entremise de processus d'évaluation
éthique, au-delà de ce que permet ou interdit la loi, quels sont les
développements technologiques souhaitables et ceux qui ne le sont pas. La soft
ethics constitue donc un exercice pratique d'évaluation éthique des dispositifs
technologiques particuliers en situations concrètes. Ces réflexions peuvent en
outre être menées à partir d'analyses factuelles ou empiriques, au moyen de
processus d'évaluation des risques éthiques dans les milieux professionnels ou
d'outils d'aide à la prise de décision (Floridi et Strait, 2020). Selon lui, une
évaluation des risques et impacts éthiques conduite de manière appropriée dès
la conception des dispositifs technologiques est susceptible d'en orienter le
développement, et par conséquent d'avoir un effet normatif réel et effectif sur
les pratiques, par exemple là où le droit est silencieux ou absent. La soft ethics,
comprise comme source de régulation sociale, est ici clairement envisagée dans
une perspective pragmatiste et peut être pensée comme une source de
normativité complémentaire au droit dans le cadre du pluralisme normatif. Même
s'il faut garder en tête que ces deux fonctions de l'éthique couvrent le même
terrain normatif et que, comme nous le verrons en section 3, les interactions entre
soft et hard ethics peuvent être de plusieurs ordres, l'intérêt de la distinction
proposée par Floridi est qu'elle permet d'identifier et de situer deux fonctions
normatives distinctes de l'éthique par rapport au droit dans la gouvernance de
l'IA.

## 2. Soft ethics et gouvernance de l'IA

Il convient à présent de définir plus précisément la soft ethics afin de
déterminer quel rôle complémentaire celle-ci peut jouer face aux prescriptions
du droit. Nous chercherons d'abord à définir la soft ethics dans une perspective
pragmatiste et nous montrerons comment une telle définition permet d'éviter
certains écueils en éthique de l'IA (2.1). Nous pourrons par la suite évaluer quelles
démarches peuvent être entreprises en soft ethics, une fois le concept défini
correctement, afin de remplir cette fonction (2.2). Nous pourrons du même coup
mieux comprendre les relations qu'entretient la soft ethics avec la hard ethics
pour envisager de manière satisfaisante les rapports entre éthique et droit dans
l'encadrement normatif des SIA.

### 2.1 Soft ethics et éthique pragmatiste

En nous inspirant des travaux de Keulartz et al. (2002), nous pensons qu'il est
d'abord utile de présenter la spécificité de l'éthique pragmatiste en vue de
développer une soft ethics appropriée au rôle complémentaire au droit qu'elle
doit jouer dans l'encadrement normatif des SIA. Nous pouvons présenter l'intérêt
d'une telle démarche autour de trois grandes caractéristiques de l'approche
pragmatiste identifiées par les auteurs (Keulartz et al., 2002, p. 14), à savoir
i) l'antifondationalisme, ii) l'antidualisme et iii) l'antiscepticisme. Il convient de
préciser, avant toute chose, qu'il n'existe pas une lecture et une interprétation uniques des principes du pragmatisme. Il n'est évidemment pas possible, dans le cadre de ce texte, de rendre compte de l'ensemble des débats qui jalonnent le développement de cette approche en philosophie. Nous croyons cependant qu'il est possible de souligner certains éléments communs aux différentes approches pragmatistes, éléments qui permettent de comprendre le sens de la proposition de ce courant de pensée, tout en montrant les principaux concepts qui y sont associés. Nous reportons à un texte subséquent les discussions plus spécifiques des différentes approches et des différentes interprétations qu'il est possible de donner à ces principes généraux.

L'anti-fondationalisme des approches pragmatistes relève de leur nature faillibiliste. Le fallibilisme, idée qui a d'abord été développée par Charles Sanders Peirce, est une composante fondamentale de la philosophie pragmatiste (McDonald, 2014). Peirce affirme que chaque élément de connaissance que nous possédons peut être remis en question et révisé. En ce sens, il n'existe aucune prémisse fondamentale qui puisse unifier toutes nos connaissances et les établir comme indéniablement vraies (Keulartz et al., 2002, p. 14). Dans le cadre de l'évaluation éthique des SIA, ceci se traduit selon nous par l'idée qu'il faut rejeter une approche qui verrait dans un des grands principes définis par les approches classiques en éthique le fondement des autres obligations morales à partir desquelles nous pouvons procéder à cette évaluation éthique. À la différence des principales approches classiques en éthique (le déontologisme, le conséquentialisme et l'éthique des vertus), qui présupposent que le principe sur lequel elles sont basées est fondamental et constitue l'assise de toutes les autres obligations morales qui nous incombent, une conception pragmatiste l'éthique aspirera au développement ce que nous pourrions appeler, selon les termes de van den Hoven (2010), une mid-level theory adaptée au traitement des enjeux spécifiques liés aux SIA et qui évite de réduire le traitement de ces enjeux à la simple application des principes issus d'une théorie éthique classique particulière. Le fait de choisir l'application intégrale d'un cadre éthique classique spécifique présupposerait qu'il est possible de clore de manière définitive les débats qui ont jalonné l'histoire de la philosophie morale et de déterminer le principe unique qui devrait servir de fondement à l'ensemble de nos devoirs moraux, ce qui semble hautement improbable. Comme nous le verrons plus bas, cette première caractéristique de l'éthique pragmatiste permet d'éviter un des écueils traditionnellement associés à l'éthique institutionnelle, à savoir le principisme, soit la tendance à identifier des principes abstraits qu'il suffirait ensuite d'appliquer tels quels aux situations concrètes (Mittelstadt, 2019).

L'anti-dualisme qui caractérise les démarches pragmatistes est lié à leur rejet des oppositions conceptuelles classiques en philosophie. En effet, les pragmatistes rejettent la réification des notions et oppositions clés à partir desquelles nous nous comprenons et interprétons le monde ainsi que les conflits
philosophiques qui sont associés à ces dichotomies, comme par exemple l'opposition entre la fin et des moyens (Whitford, 2002). « Other well-known examples are the dualism of theory and practice, of consciousness and external reality, of duty and inclination and of fact and value » (Keulartz et al., 2002, p. 14). Bien que ces dichotomies soient sans doute utiles pour penser les réalités qu'elles abordent, leur caractère essentiel est remis en question par les penseurs pragmatistes, qui refusent de les traiter comme des entités substantielles. Dans la perspective pragmatiste, une telle réification a par ailleurs pour effet d'entraîner la discussion philosophique dans des débats interminables et inutiles, notamment sur la délimitation de ces sphères supposées fondamentalement différentes. En ce qui concerne l'évaluation éthique des SIA, il nous apparaît qu'il serait judicieux de reconsidérer au moins trois de ces dichotomies. D'abord, il y a celle entre les approches substantialistes et instrumentalistes de l'IA, qui opposent le déterminisme technologique à l'idée de neutralité technologique, comme nous l'avons démontré précédemment (Bruneault et Sabourin, 2021). Ensuite, il y a la dichotomie entre société et individu, qui oppose une réification de l'entité « société » face à l'individu pensé en tant qu'entité indépendante de toute affiliation sociale (voir Freitag, 2002). Finalement, il y a la dichotomie entre technologie et société, qui établit une distinction stricte entre le développement des appareils technologiques et l'évolution sociale. Dans tous ces cas, bien que ces distinctions soient assurément utiles pour nous permettre d'analyser les situations et de réfléchir aux problèmes qui peuvent être générés par le développement technologique en général et l'IA en particulier, il est primordial de s'abstenir de penser ces différents éléments comme s'il s'agissait de réalités substantielles indépendantes les unes des autres. Il est important de rappeler que les termes de ces différentes oppositions sont en relation et que les différentes formes que prennent ces interactions devraient être situées sur un spectre qui, bien qu'il comporte des tensions inhérentes, peut également être pensé comme le lieu de rapports co-évolutifs (Clausen et Yoshinaka, 2004). Ceci est crucial, à notre avis, pour considérer les questions spécifiques soulevées par les SIA afin d'éviter un des pièges de l'éthique de l'IA (et plus généralement de l'éthique), qui est de tout baser sur les actions et les décisions des individus en mettant au second plan l'aspect social des problèmes associés à ces technologies (Green, 2021).

L'anti-scepticisme des approches pragmatistes relève de la prépondérance du doute dans l'analyse philosophique, comme en témoignent les travaux de Peirce (1992) et Dewey (2011). Pour les pragmatistes, le fait de douter de nos connaissances doit être motivé par des situations problématiques spécifiques, ce qui permet d'éviter le scepticisme radical, selon lequel il convient de tenir une posture de doute universel (Bacon, 2012, p. 19). Bien que l'éthique pragmatiste rejette le fondationalisme et adopte plutôt une posture faillibiliste, comme nous l'avons vu plus haut, les théoriciens pragmatistes ne prétendent pas que nos responsabilités morales doivent être interprétées de manière relativiste.
En fait, les approches pragmatistes rejettent le scepticisme et soutiennent que toutes nos connaissances et nos croyances sont susceptibles d'être mises en doute, mais pas simultanément. Ainsi, l'éthique pragmatiste récuse la posture sceptique qui chercherait à remettre en cause tous les types de connaissances et tous les principes et préconise l'analyse critique de certaines connaissances ou principes particuliers dans le contexte spécifique où sont mobilisés ces éléments. Cette caractéristique met l'accent sur la notion d'enquête, qui est cruciale dans l'épistémologie pragmatiste (Talisse et Aikin, 2008), et qui nous semble particulièrement utile pour établir un processus d'évaluation approprié en soft ethics de l'IA. En effet, une enquête reposant sur une base théorique et cherchant à réexaminer les principes directeurs à partir desquels une telle enquête pourrait être faite apparaît donc essentielle à l'évaluation éthique, tout comme aux autres types de production de connaissances d'ailleurs. L'évaluation éthique des SIA doit donc être considérée comme une travail d'enquête qui consiste en un examen délibératif dont l'objectif est de résoudre des problématiques spécifiques tout en questionnant la validité et la pertinence des principes éthiques et des cadres conceptuels mobilisés dans l'évaluation éthique de ces avancées techniques. Il s'agit ainsi de partir des pratiques contextuelles et particulières en vue de susciter une enquête permettant de générer un travail conceptuel qui puisse aider à la fois à mieux comprendre les enjeux eux-mêmes et à trouver des solutions spécifiques à ces problématiques. Il est notamment possible d'interpréter dans cette lignée la proposition récente de Mark Coeckelberg (2021) sur une démarche inspirée de Dewey en métaéthique. Cette troisième caractéristique de l'éthique pragmatiste permet d'éviter en éthique de l'IA l'écueil du relativisme moral qui, face à l'impossibilité de trouver un cadre éthique pouvant fonder une fois pour toutes nos obligations morales en la matière, tire la conclusion qu'il n'y a simplement pas lieu d'avoir recours à ces cadres, les risque étant, en soft ethics de l'IA, de procéder à des évaluations éthiques ad hoc qui présentent – comme il en sera question plus loin – des lacunes importantes au plan de la justification normative tout en étant inévitablement orientées axiologiquement. Une définition pragmatiste de la soft ethics qui contourne le piège à la fois du fondationalisme et du scepticisme permettrait à l'éthique de l'IA d'éviter le problème du vacuum conceptuel, qui peut se présenter en éthique de la technologie et qui a d'ailleurs longtemps caractérisé la « computer ethics » (Tavani, 2010). Un autre problème est qu'une telle posture pourrait nous amener à conclure qu'il n'y a pas d'obligations morales à proprement parler, les seules contraintes liées au développement technologique n'étant ultimement que le produit de rapports de forces, ce qui dépouille le débat en éthique de l'IA de son substrat normatif pour le réduire à des enjeux d'acceptabilité de fait, par exemple.

Voilà pourquoi nous pensons qu'une approche pragmatiste devrait animer les travaux en soft ethics afin que celle-ci puisse jouer son rôle complémentaire au droit dans l'encadrement normatif des SIA. Notons au passage que Mireille
Hildebrandt (2020, p. 293), juriste spécialisée en droit de la technologie et dont la réflexion sur les interactions entre éthique et droit sera mobilisée dans la section suivante, privilégie, pour des raisons similaires à celles évoquées précédemment, une approche pragmatiste pour l'évaluation éthique des technologies. L'avantage d'une telle perspective est qu'elle permet d'allier des approches contextuelle et normative, tout en maintenant un équilibre cohérent entre certains éléments relevant de l'expertise nécessaire en la matière et une participation active des individus et des parties prenantes (voir à cet effet la proposition récente de Floridi et collaborateurs, qu'ils nomment « Ethics as a Service » (Morley et al., 2021)). Keulartz et al. (2002, p. 16) identifient trois avantages d'une telle approche, ce qui est également repris par Lucivero (2016, p. 159) dans son application pratique de l'éthique pragmatiste, dont il sera question dans la prochaine section. D'abord, cette approche permet de mesurer et d'apprécier les problèmes générés par l'utilisation des SIA en recadrant l'influence bidirectionnelle que ce développement technologique a sur le développement social et vice versa. Cette co évolution doit absolument être prise en compte pour faire une évaluation satisfaisante de ces questions. Ensuite, ce type d'approche met l'accent sur l'aspect prospectif du développement technologique et donc sur la nécessité d'évaluer les technologies non pas seulement en fonction des impacts immédiats, mais aussi en cherchant à évaluer de façon réaliste (tout en évitant les spéculations catastrophistes) les répercussions possibles du développement technologique (Floridi et Strait, 2020). Une des méthodes proposées par Keulartz et al. (2002, p. 17) et par Lucivero (2016, p. 161) consiste à évaluer des scénarios sociotechniques réalistes pour anticiper certaines utilisations potentielles (et possiblement impensées par les concepteurs) des technologies en développement soumises à une évaluation éthique. Enfin, une telle approche pragmatiste favorise le développement d'outils conceptuels inédits et le renouvellement du vocabulaire (notamment moral), ce qui permet de prendre la mesure des problèmes engendrés par les SIA, et ce, dans le contexte particulier où les applications d'IA sont utilisées, en ne faisant pas l'impasse sur les justifications normatives qui permettent de procéder à une évaluation éthique de ces innovations technologiques. C'est uniquement de cette façon, pensons-nous, que les approches en soft ethics pourront remplir la fonction essentielle qu'elles doivent combler de manière complémentaire au droit dans l'encadrement normatif des SIA, et ce, en traitant des questions qui vont nécessairement au-delà de ce que le droit doit encadrer, mais aussi en créant un contexte d'analyse qui permettra un travail d'influence mutuelle entre ces différentes sphères normatives devant conjointement s'alimenter en vue de mettre en place une relation d'internormativité. Avant de discuter de cette internormativité, nous présentons les travaux de Lucivero (2016) qui cherchent à penser l'évaluation éthique des innovations technologiques à partir du pragmatisme, ce qui nous permettra de montrer de quelle façon une telle approche peut être utile pour délimiter une soft ethics de l'IA.
## 2.2 Soft ethics et évaluation éthique des SIA

Si la *soft ethics* de l'IA s'est récemment consolidée en tant que champ disciplinaire distinct en éthique, au même titre que la bioéthique, l'éthique animale ou l'éthique de l'environnement, il faut rappeler que ce champ d'étude, parfois présenté comme domaine jusqu'à tout récemment inexploré, repose sur un important héritage en éthique appliquée et en évaluation éthique des systèmes sociotechniques, héritage qu'il serait mal avisé de négliger et dont l'éthique de l'IA peut tirer profit. En effet, comme en témoigne l'analyse effectuée par Federica Lucivero (2016), dont les travaux permettent de brosser un tableau d'ensemble des différentes approches en la matière, la *soft ethics* s'insère depuis plusieurs décennies dans les pratiques courantes en évaluation éthique des nouvelles technologies. Partant du cadre pragmatiste, tel que défini précédemment, Lucivero distingue deux grands pôles en évaluation éthique des technologies (Lucivero, 2016, p. 4) et en identifie les écueils. Pour définir la fonction normative de la *soft ethics* de l'IA et dans l'objectif de concevoir des mécanismes appropriés pour conduire des évaluations éthiques des SIA susceptibles de produire des effets normatifs complémentaires à ceux du droit, il est utile de se pencher à présent sur l'apport et les limites des approches classiques en évaluation éthique des systèmes sociotechniques. Bien entendu, il faut noter que la catégorisation proposée par Lucivero ne vise pas à refléter l'état de la situation actuelle dans les différents milieux : les pratiques en éthique appliquée évoluent sans cesse et ne correspondent plus, pour la plupart, aux postures tranchées telles que définies par Lucivero. Cependant, nous pensons qu'il est pertinent d'identifier de manière générale les différentes approches en évaluation éthique des technologies. Malgré le fait qu'il est probable que dans les faits, aucune pratique ne représente parfaitement ni l'un ni l'autre de ces deux pôles, nous pensons qu'il est possible d'établir un spectre de procédés à partir de ces idéaux-types. Nous pourrons ainsi tirer profit des apprentissages issus des différentes traditions en évaluation éthique des nouvelles technologies afin de développer des procédés appropriés en *soft ethics* de l'IA.

À l'une extrémité de ce continuum se trouve un pôle en « évaluation des technologies », issu de la tradition du *Technology Assessment (TA)* (Lucivero, 2016, p. 5), et à l'autre extrémité un pôle nommé *Institutionnal Ethics (IE)*, qui représente les procédés classiques adoptés par les comités d'éthique institutionnels (Lucivero, 2016, p. 11). Il s'agit donc, à partir de ces deux postures extrêmes, de délimiter l'univers des possibles en matière d'évaluation éthique des technologies (voir figure 1).
<figure><img src="image_1.png" /><figcaption>Figure 1 : Spectre des pratiques en évaluation éthique des technologies</figcaption></figure>

D'un côté, le pôle issu des approches de la tradition du Technology Assessment (TA) représente ce que certains appellent l'approche classique en TA (Van Est et Brom, 2012). Les procédés élaborés par les comités aviseurs experts qui ont été mis en place à partir des années 1970 pourraient servir d'exemple pour illustrer le type de pratiques associées à ce pôle. L'objectif de ces comités était essentiellement d'évaluer objectivement les risques relatifs au déploiement de différents dispositifs technologiques de manière à permettre aux acteurs publics d'anticiper les effets sociaux de ces nouvelles technologies (Grunwald, 2019) et de prévenir les troubles politiques engendrés par un manque de discernement en la matière. Dans le sillage de ces pratiques et face aux critiques liées notamment au manque de représentativité de ces comités experts, une deuxième vague de comités aviseurs en évaluation éthique a plutôt cherché à inclure dans le travail évaluatif des nouvelles technologies les parties prenantes impliquées tant dans le développement que dans le déploiement et l'utilisation de ces innovations technologiques (Lucivero, 2016, p.10). En augmentant la participation de différents individus qui – bien que n'étant pas des experts en TA – sont en mesure d'évaluer les impacts des nouvelles technologies sur leurs pratiques professionnelles ou simplement sur leur vie quotidienne, ces comités cherchaient à élargir l'évaluation des impacts des technologies émergentes. Malgré ces différences entre approches participatives et classiques (Van Est et Brom, 2012), dans un cas comme dans l'autre, la force des approches en TA repose sur l'analyse contextuelle qu'elles permettent. En effet, l'évaluation des effets sociaux que les technologies actuelles et en développement sont susceptibles d'avoir permet d'anticiper l'impact sur les pratiques contextuelles liées à leur utilisation (Lucivero, 2016, p. 10). L'analyse technique que comprend cette forme d'évaluation constitue également un point fort de ce type d'approche. Impliquant des spécialistes des disciplines liées à la conception et à la production de ces innovations technologiques ou encore des personnes ayant une expertise technique avancée sur le développement et le déploiement des technologies émergentes, elles permettent une évaluation très précise des outils techniques, basée sur leurs capacités et fonctions particulières en contexte (Joss et Belluci, 2002). Cependant, malgré ces avantages, ce type de méthodes présente selon Lucivero (2016, p. 17) une importante lacune, soit ce qu'elle qualifie de déficit normatif. Le problème n'est pas que les évaluations de ce type ne comportent aucune dimension normative, mais bien que la justification des composantes
normatives de l'évaluation demeure accessoire à l'exercice d'évaluation éthique. Lors de l'évaluation éthique de ces différentes technologies, y compris dans les démarches participatives (Abels, 2007), les approches TA mettent fortement l'accent sur l'analyse des risques ainsi que sur l'évaluation des impacts, sans toutefois intégrer une argumentation centrée sur les justifications normatives qui sous-tendent les positions des parties prenantes impliquées dans le processus (Grunwald, 1999). Ainsi, il n'y aurait pas de véritable justification morale qui soutiendrait un type de développement technologique plutôt qu'un autre, le risque étant que la détermination des dispositifs technologiques considérés comme souhaitables ou indésirables soit basée sur des présupposés non justifiés, ce qui est susceptible de conduire à une interprétation relativiste des obligations morales. Ceci, pensons-nous, compromettrait la possibilité pour la *soft ethics* d'occuper un rôle complémentaire au droit, ce dernier se limitant à distinguer le légal de l'illégal sans fournir de justification morale pour soutenir ces choix. Nous y reviendrons plus bas.

À l'autre extrémité du continuum se situe le pôle des méthodes en évaluation éthique des technologies que nous appellerons, comme Lucivero, le pôle de l'éthique institutionnelle (IE). Ce type de démarches est historiquement issu des comités de bioéthique et d'éthique de la recherche qui se sont développés parallèlement à la tradition du TA (Lucivero, 2016, p. 11). À la différence des approches classiques en TA, l'évaluation normative des pratiques en matière de développement technologique est l'objectif explicite des approches caractéristiques de l'IE. Une telle éthique institutionnelle s'est d'abord concentrée sur l'innovation technologique en santé, par l'entremise des comités de bioéthique (Lucivero, 2016, p. 12). Depuis, ce type d'approches en évaluation éthique des technologies s'est étendu bien au-delà des soins de santé, notamment par le recours généralisé aux comités d'éthique de la recherche (Lucivero, 2016, p. 12). Aujourd'hui, on assiste à la création de comités et de chaires de recherche qui cherchent explicitement à effectuer ce travail en évaluation éthique des SIA. Les approches IE ont l'avantage d'établir un lien explicite entre l'éthique institutionnelle et l'éthique philosophique de type *hard ethics*. Cela permet de procéder à une analyse poussée des concepts philosophiques et des principes éthiques qui sont à la base de l'évaluation normative des technologies, ce qui alimente donc des discussions en bonne et due forme sur la justification normative du développement ou du déploiement de certaines technologies, comme l'IA (Palm et Hansson, 2006; Brey, 2012). Toutefois, comme le souligne à juste titre Lucivero (2016, p. 21), ce type d'approches présente, dans leur forme idéale ou typique, une faiblesse majeure, ce qu'elle appelle les déficits sociologique et technologique en IE. Au départ, les approches IE ont eu tendance à adopter une posture principiste, qui procède des principes éthiques abstraits issus de la philosophie morale (Beauchamp et Childress, 1979). La justification normative est donc traditionnellement centrale à l'évaluation des technologies en IE (et ce même si le principisme classique est
maintenant remis en question, comme en bioéthique, par exemple). À cette
extrémité du spectre, le déficit se ainsi trouve opposé. Contrairement au pôle TA,
les justifications normatives sont explicites, mais les évaluations éthiques sont bien
souvent effectuées de manière décontextualisée, le risque étant, dans leur forme
extrême, qu'elles soient conduites sans égards aux problèmes spécifiques
associés à l'utilisation de dispositifs technologiques particuliers. Ainsi, d'un côté du
continuum, nous retrouvons les approches associées à la tradition du TA qui
s'appuient sur une analyse contextuelle et technologique, sans toutefois
présenter de justification normative explicite, et, de l'autre côté, les pratiques
associées à la tradition IE qui s'appuient explicitement sur justification normative,
sans toutefois présenter d'analyse contextuelle et technologique satisfaisante. La
complexité de l'intégration des composantes normatives et socio-techniques aux
processus d'évaluation éthique a d'ailleurs été étudiée dans d'autres domaines
de l'éthique appliquée, comme en éthique biomédicale (Lehoux et Williams-
Jones, 2007), et tout indique que ces défis se présenteront également en éthique
de l'IA. Pour établir des processus qui favorisent cette intégration, Lucivero (2016,
p. 23) pense qu'il s'agit de se positionner à mi-chemin du spectre et ainsi
d'effectuer une « analyse normative contextuelle » des technologies émergentes,
notamment des SIA. Ainsi, on peut apprendre de l'histoire d'autres branches de
l'éthique appliquée et éviter les écueils relatifs aux différentes tendances en
matière d'évaluation éthique des technologies, et notamment, en éthique de
l'IA, de contourner les pièges propres au principisme. En fait, cette tendance
caractérise dans une large mesure la démarche des organisations ayant produit
les nombreuses chartes et déclarations en éthique de l'IA parues au cours des
dernières années et qui présentent des limites, comme il en a été question
précédemment, entre autres en ce qui a trait à leur interprétation, à leur
application et à leur effectivité dans les pratiques (Mittelstadt, 2019; Whittlestone
et al., 2019), prêtant ainsi leur flanc aux risques du « ethics washing ». Ainsi, pour
eviter les déficits mis en évidence par les extrêmes du continuum et donc pour
remplir sa fonction unique et complémentaire au droit dans l'encadrement
normatif des SIA, la soft ethics de l'IA doit développer des stratégies qui
permettent d'effectuer une « analyse normative contextuelle » des enjeux
éthiques liés aux SIA.

Il nous apparaît par ailleurs fort à propos d'ajouter à ce tableau un
deuxième axe qui permet de distinguer les approches en évaluation éthique des
technologies en fonction de la source de l'évaluation elle-même. Sur cet axe
vertical, nous proposons de situer les approches en évaluation des technologies
en fonction de deux pôles, c'est-à-dire en fonction des démarches qui sont
menées par des comités composés uniquement d'experts, et celles qui reposent
essentiellement sur la participation d'individus ou de parties prenantes affectées
par le développement technologique à l'étude (voir Figure 2). Comme sur l'autre
axe, il s'agit de pôles qui constituent des idéaux-types permettant de situer les
pratiques réelles sur un continuum entre les extrêmes, pratiques réelles qui ne
correspondent donc jamais parfaitement à l'une de ces positions extrêmes. Nous
pensons cependant qu'une telle catégorisation permet de situer les différentes
approches en évaluation éthique des technologies les unes par rapport aux
autres, ce qui est fort utile pour comprendre le type de soft ethics pouvant jouer
un rôle complémentaire au droit dans l'encadrement normatif des SIA. Ce nouvel
axe est déjà présent dans l'analyse des approches en TA proposée par Lucivero
lorsqu'elle distingue les approches classiques et participatives en TA (Van Est et
Brom, 2012). Partant des travaux de Floridi et Strait (2020), il nous apparait
souhaitable de reprendre cette distinction dans notre modèle, mais pour
caractériser toutes les positions possibles en évaluation éthique des technologies
et des SIA.

<figure><img src="image_2.png" /><figcaption>Figure 2 : Carte des pratiques en évaluation éthique des technologies</figcaption></figure>

Suivant ce portrait, nous nous retrouvons donc avec quatre zones (A, B, C et D) pour procéder à l'analyse de l'univers des possibles définis par la conjugaison de ces deux axes ainsi que pour esquisser ce que nous estimons être la position de choix pour penser une soft ethics complémentaire au droit dans l'encadrement normatif des SIA.

D'abord, nous avons, dans la première zone (A), les démarches en TA menées par des comités experts, ce qui correspond aux rapports objectifs produits par ces comités en évaluation des risques de la technologie et en politiques publiques. Si ces approches ont l'avantage de fournir des analyses précises en vue de l'élaboration de politiques publiques liées au développement technologique, il apparaît que de telles approches souffrent de limitations importantes. Ici, le déficit normatif identifié par Lucivero (2016, p. 17) est flagrant. Dans sa version la plus extrême, il n'est pas véritablement question d'une évaluation éthique à proprement parler, mais plutôt d'une analyse de risques qui
pourrait reposer sur une interprétation relativiste de nos obligations morales en la matière. Par ailleurs, les approches situées dans cette zone présentent selon nous un déficit démocratique et sont donc susceptibles d'induire des biais inconscients (pouvant mener à reproduire des situations de discrimination) dans leurs évaluations. Ce risque est par ailleurs bien réel en éthique de l'IA puisque bon nombre d'initiatives reposent peu ou pas du tout sur une consultation du public et des différentes parties prenantes dans les démarches et initiatives des organisations (Bélisle-Pipon et al., 2022). La deuxième zone (B) regroupe les approches visant précisément à répondre à ces insuffisances. Nous y retrouvons les pratiques ayant pour but d'assurer l'acceptabilité sociale des technologies en les soumettant à des évaluations d'impact et de risques auprès de groupes participatifs impliquant à la fois des individus et des parties prenantes touchées par le développement de ces technologies. Si de telles approches permettent d'améliorer la diversité et l'inclusion dans l'évaluation éthique des technologies – notamment en vue d'infléchir les politiques publiques (Chambers, 2003), elles présentent malgré tout des limitations. D'abord, de telles démarches peuvent très certainement être pertinentes dans l'élaboration des politiques publiques, mais elles ne peuvent ni remplacer ni concurrencer la précision des analyses produites par les approches de la zone A, qui sont le fruit de la réflexion d'experts. Plus fondamentalement, il apparaît que le déficit normatif des approches TA est reconduit dans les démarches pouvant être regroupées dans la zone B (Abels, 2007). En effet, même si ce déficit normatif est moins flagrant que dans les approches TA menées par des experts, il faut souligner qu'il est question dans la zone B d'« acceptabilité sociale de fait », ce qui n'exclut pas (mais n'inclut pas nécessairement) qu'il y ait une discussion des assises normatives de l'évaluation des technologies. Ainsi, « this means that value-related positions are restricted to the subjective sphere and when normative positions of stakeholders emerge, their acceptability is not asserted » (Lucivero, 2016, p. 18). Dans sa forme la plus extrême, il s'agit alors de consulter la population (ou une partie de celle-ci) afin d'élaborer une stratégie de déploiement d'une nouvelle technologie pour qu'elle ne provoque pas de réaction négative, indépendamment des raisons pouvant justifier une telle réaction. La troisième zone (C) regroupe les approches participatives visant à définir des principes à partir desquels les technologies peuvent être évaluées. Ici, nous retrouvons principalement les approches participatives menant à des déclarations éthiques ou à des chartes éthiques qui doivent guider le développement et l'utilisation des innovations technologiques. Faisant écho aux approches de la zone B, les démarches regroupées dans la zone C cherchent à traiter de la justification normative de l'évaluation des technologies. Cependant, comme les autres approches en IE, ces procédures menant à des déclarations et à des chartes éthiques souffrent souvent des déficits sociologique et technologique identifiés par Lucivero (2016, p. 21). Dans ces démarches ayant pour visée de définir des principes éthiques abstraits, les discussions portent peu sur les circonstances spécifiques d'utilisation des innovations technologiques (ce qui est accentué par le manque d'expertise en
la matière des personnes qui participent). Par ailleurs, nous pouvons ajouter que
les approches de la zone C présentent également un déficit philosophique. La
discussion philosophique est bien entendu ouverte à toutes les parties prenantes,
en plus de pouvoir bénéficier grandement d'un élargissement au-delà des
sphères restreintes du milieu académique. Il faut cependant noter que, lorsqu'il
est question d'identifier les principes fondamentaux à partir desquels nous
cherchons à évaluer éthiquement des nouvelles technologies, les connaissances
spécifiques liées aux principes eux-mêmes, à leurs assises théoriques, aux tensions
connues entre ces principes et aux présupposés métaphysiques qu'ils véhiculent,
connaissances qu'offre une formation en philosophie, sont essentielles afin
d'éviter de proposer un amalgame non hiérarchisé de principes consensuels et
potentiellement incompatibles entre eux (Mittelstadt, 2019). La quatrième zone
(D) regroupe certains des travaux qui visent à compenser cette dernière
limitation. Partant de l'expertise de spécialistes – tant en milieu académique
qu'en milieu pratique – et en recourant à des experts en éthique et en
technologie, les approches regroupées dans la zone D cherchent généralement
à proposer des chartes éthiques ou des guides éthiques en lien avec le
développement technologique. Si le recours à des experts en technologie en vue
de la rédaction de tels guides (par exemple dans les grandes entreprises) prête
le flanc à la même objection que celle pouvant être opposée aux démarches
de la zone C (à savoir que l'expertise en philosophie est dans une certaine mesure
irremplaçable), les approches pouvant être situées dans la zone D qui visent à
compenser ce déficit philosophique sont elles-mêmes sujettes à objection. En
effet, dans sa forme extrême, ce type d'approches en évaluation éthique des
technologies devient une discussion purement philosophique (Sandler, 2013) qui
présente bien souvent une forme flagrante des déficits sociologique et
technologique identifiés par Lucivero (2016, p. 21). Le débat se transpose ainsi à
une discussion abstraite sur l'évaluation de la technologie en général,
indépendamment des probabilités des scénarios de développement
technologique envisagés (Nordmann, 2007) à partir des cadres éthiques
traditionnels (déontologisme, conséquentialisme et éthique des vertus), qui
mettent l'accent sur l'action individuelle et laissent peu de place aux dimensions
sociales de cette action (Lucivero et al., 2011; Green, 2021). En éthique de l'IA, le
fait de se limiter à des réflexions décontextualisées et abstraites, propension de
l'éthique qui est d'ailleurs dénoncée au début du siècle dernier par les
philosophes pragmatistes tels que Dewey (1917), compromettrait nécessairement
toute forme d'effectivité normative et, dans sa forme extrême, réduirait l'éthique
de l'IA à ce qui s'apparenterait à une expérience de pensée désincarnée qui ne
serait d'aucune utilité pour analyser des dilemmes ou enjeux moraux spécifiques
et pour envisager des pistes de solutions à ces derniers. Le risque d'adopter ce
type d'approches en éthique de l'IA consisterait ni plus ni moins à se retirer du
domaine de ce que nous avons appelé la soft ethics pour traiter uniquement des
fondements des théories éthiques normatives, débats qui sont situés à un niveau
d'abstraction élevé et qui ne sont pas appropriés pour traiter des enjeux éthiques
spécifiques liés à l'utilisation des SIA.

Nous avançons donc que la soft ethics de l'IA, pour qu'elle puisse jouer de
façon satisfaisante son rôle complémentaire au droit dans l'encadrement
normatif des SIA, doit éviter chacune de ces quatre positions et les positions
extrêmes (qui se retrouvent à la périphérie du tableau) pour privilégier les
approches mixtes qu'on pourrait situer au centre du tableau. Ces dernières
doivent à la fois faire appel à une « analyse normative contextuelle » propre aux
approches pragmatistes dans l'évaluation éthique des technologies et allier
l'expertise nécessaire à une telle évaluation, tout en permettant de susciter la
participation active des individus et des parties prenantes qui seront affectés par
le développement technologique, notamment celui de l'IA. Il est important de
souligner ici qu'il ne s'agit pas simplement de faire un amalgame de ces
différentes approches pour y arriver. Il faut former un tout cohérent à partir de
celles-ci en les intégrant de façon ordonnée et sensée, de telle sorte qu'il
devienne possible d'en tirer les avantages, et ce, en évitant les inconvénients des
approches en périphérie du tableau telles que nous les avons présentées. Si les
modalités de cette intégration devront faire l'objet d'analyses impossible à
mener dans le cadre de cet article, nous pensons que, compte tenu des
caractéristiques de l'éthique pragmatiste vues plus haut, ce cadre théorique se
révèle particulièrement intéressant pour penser une telle intégration. Des
réflexions en ce sens pourraient d'ailleurs faire l'objet de recherches ultérieures. Il
est également à propos de noter ici que la bioéthique est encore une fois à
l'avant-scène d'une telle perspective en éthique appliquée, les travaux en TA
reliés précisément à la santé (Health Technology Assessment – HTA) devant, selon
plusieurs (Clausen et Yoshinaka, 2004; Hoffman, 2005, 2008; ten Have, 2004), être
complétés d'une analyse normative en bonne et due forme sur ces questions.
Nous avançons qu'une approche inspirée de l'éthique pragmatiste permet
spécifiquement de penser l'intégration de ces différentes dimensions de façon
cohérente dans l'évaluation éthique des SIA et permet mieux que d'autres
approches d'éviter les écueils rencontrés dans le développement des autres
branches de l'éthique appliquée.

3. Relations internormatives entre droit et soft ethics :
pour une corégulation de l'IA

Pour bien comprendre le rôle normatif complémentaire de la soft ethics et
du droit dans la gouvernance de l'IA, il s'agira à présent, partant du point de vue
externe qu'offre le pluralisme normatif tel que défini précédemment (section 1.2),
d'examiner les relations internormatives entre la soft ethics de l'IA, telle que
présentée dans la section précédente, et la norme juridique étatique. Nous
verrons que, bien que ces sources normatives soient distinctes et ne doivent pas
être confondues entre elles puisqu'elles servent des fins qui sont irréductibles les unes aux autres, il reste qu'une fertilisation croisée entre celles-ci est non seulement possible, mais à bien des égards nécessaire pour mettre en place un encadrement normatif de l'IA approprié et complet. Il s'agira donc maintenant, en accord avec la perspective pragmatiste que nous avons adoptée plus haut et en nous appuyant cette fois-ci sur la réflexion inscrite dans une telle perspective menée par Hildebrandt (2020) sur la frontière et les interactions entre le droit et l'éthique, de définir les caractéristiques qui distinguent la normativité éthique et la normativité juridique étatique, ce qui permettra de mieux comprendre leurs éventuels échanges.

Pour Hildebrandt, bien que l'éthique et le droit soient nécessairement enchevêtrés, ces sources de normativité demeurent résolument irréductibles l'une à l'autre. En effet, même si le droit intègre certains principes éthiques fondamentaux et qu'il est essentiel à la mise en place des conditions de possibilité nécessaires au développement du jugement moral individuel, il est primordial de distinguer ces deux discours. Selon la juriste, l'éthique demeure toujours à la fois moins et plus que le droit (Hildebrandt, 2020, p. 297) : d'un côté, l'éthique excède le droit, au sens où la philosophie morale couvre un terrain beaucoup plus étendu que celui qu'occupe le droit; de l'autre, l'éthique n'est pas en mesure de répondre aux exigences de stabilité et de prévisibilité qui sont imposées à la règle de droit. Partant de cette idée, ces sources normatives doivent être conçues comme distinctes dans l'encadrement normatif de l'IA, et ce bien que le droit et l'éthique peuvent interagir de plusieurs manières et que le droit ne saurait être dissocié des considérations morales. Hildebrandt affirme que l'éthique (hard ethics et soft ethics), qui constitue une réflexion sur les principes qui devraient guider l'action morale ou sur ce qu'il serait souhaitable de faire dans une situation donnée en fonction des principes sélectionnés, ne devrait pas nécessairement être traduite en prescription légale positive, et ce, pour deux raisons principales.

D'une part, conformément au respect du pluralisme moral qui est au fondement de nos démocraties modernes, il est entendu que le droit ne devrait pas chercher à imposer une conception du bien unique à l'ensemble de la population, mais devrait plutôt œuvrer à la mise en place des conditions de possibilité qui favorisent le développement libre et autonome du jugement moral (Hildebrandt, 2020, p. 298), même s'il incarne certaines valeurs morales fondamentales (qu'on pense par exemple à la dignité humaine, à l'autonomie ou à la liberté individuelle). Dans le cas qui nous occupe, le rôle du droit devrait être de s'assurer que les SIA conçus et déployés n'entrent pas en contradiction avec les principes fondamentaux qui constituent le socle de nos démocraties contemporaines (on pense ici bien entendu aux droits de la personne), et non de faire la promotion d'une conception du bien au détriment d'une autre. C'est à l'éthique que l'on devrait conférer le rôle de remettre en cause la validité morale de la règle de droit (hard ethics) ainsi que de se questionner, au-delà de la
prescription ou de l'interdiction normative prévue par le droit positif, sur les SIA qui doivent être considérés comme souhaitables et ceux qui posent des problèmes éthiques (soft ethics). En fait, poussée à son paroxysme, l'idée d'une intégration totale de l'éthique au droit aboutirait ni plus ni moins au totalitarisme. En ce sens, l'éthique demeure (et devrait demeurer) plus que le droit.

D'autre part, puisqu'elle ne répond pas aux exigences d'instrumentalité et de certitude que requiert la norme juridique étatique, l'éthique devrait être considérée comme une source normative distincte du droit (Hildebrandt, 2020, p. 300). Certes, l'objectif de rendre justice que partagent l'éthique et le droit revêt une dimension morale. Cependant, dans le contexte du droit étatique, la définition de cet objectif est limitée par deux éléments distincts : d'abord, par la nécessité que l'application et l'interprétation de la règle soient assujetties à l'intention du législateur; ensuite, par l'exigence de prévisibilité et de stabilité du droit, conditions auxquelles l'éthique ne peut répondre. En ce sens, l'éthique demeure ainsi toujours moins que le droit et c'est pourquoi elle doit être considérée comme une source normative distincte de la normativité juridique étatique.

Ces considérations, exprimées dans un contexte différent, font écho à la distinction entre les différentes fonctions de l'éthique et du droit qui ont été établies par Floridi dans le cadre de sa réflexion sur la gouvernance du numérique (voir section 1.2). En effet, à son avis, l'encadrement normatif du numérique doit nécessairement s'appuyer sur une règlementation adéquate qui interdirait par exemple la conception et le déploiement des technologies compromettant les principes fondateurs de notre État de droit. Néanmoins, selon lui, le fait de s'assurer de la conformité du développement technologique à la loi ne saurait être suffisant pour orienter adéquatement nos sociétés de l'information et pour assurer que le développement technologique soit bénéfique pour les individus et les collectivités (Floridi, 2018). Le fait que l'éthique ne soit assujettie ni au législateur ni à l'exigence de prévisibilité du droit lui confère en fait la latitude nécessaire pour le complémenter là où il est silencieux et également pour le remettre en question. Les formes que peuvent prendre les interactions entre ces sources normatives dans la gouvernance de l'IA sont nombreuses, qu'elles se situent en aval (hard ethics) ou en amont (soft ethics) du droit. Nous faisons ainsi référence aux interactions que la soft ethics, telle qu'elle a été définie plus haut – soit en tant qu'approche normative mixte conçue dans la perspective du pragmatisme –, est susceptible d'entretenir avec le droit dans la gouvernance de l'IA. Comme indiqué en début de section, ces interactions peuvent être de divers ordres, et leur cartographie requerrait indéniablement une analyse plus systématique que les pistes de réflexion que nous proposons ici, à titre de remarques conclusives. Pour les fins de notre discussion, nous nous contenterons de donner, sans prétendre épuiser la question des différentes modalités des interactions que ces ordres normatifs peuvent entretenir en eux, un exemple du
type de relation qui peut exister entre soft ethics et droit. Pour les raisons indiquées précédemment, les mécanismes de type soft ethics ne devraient pas être considérés comme des sources de normativité légitimes uniquement, dans la mesure où ils sont susceptibles d'être intégrés au droit étatique. Or cela n'exclut pas que la soft ethics, qui évolue de manière relativement indépendante du droit et qui joue le plus souvent un rôle complémentaire à celui-ci, puisse également en influencer l'évolution.

Nous le savons, le rythme auquel se déploient les technologies émergentes et leur intégration dans nos différentes sphères d'activité est fulgurant, si bien que le droit, assujetti aux exigences laborieuses des processus démocratiques, accusera nécessairement un retard par rapport à ce développement technologique. Ceci est d'autant plus évident lorsqu'il est question de l'encadrement de technologies numériques comme l'IA, qui connait un développement exponentiel et qui bouleverse nos sociétés à un rythme effréné. Nous pensons que les approches en soft ethics – telles que présentées en section 2 – adoptant une démarche mixte qui allierait l'analyse contextuelle normative à la consultation d'experts et des différentes parties prenantes pourraient servir de garde-fous aux organisations (gouvernementales ou privées) et ainsi favoriser la conception et le déploiement responsable de l'IA, et ce, soit en l'absence d'un cadre juridique adéquat, soit, même si le cadre juridique est adéquat, au-delà des obligations prescrites par la loi. À titre d'exemple, l'initiative nommée Z-Inspection®, qui propose de réunir des spécialistes de disciplines variées et des responsables de la mise en œuvre de SIA concrets dans l'évaluation éthique de ces systèmes à partir du cadre offert par les Lignes directrices en matière d'éthique pour une IA digne de confiance de la Commission européenne (2019), est un bon exemple d'une telle démarche mixte qui insiste à juste titre sur l'importance du processus dans de telles évaluations (Zicari et al., 2021). Le processus élaboré par ce groupe de chercheurs s'appuie notamment sur l'analyse de scénarios sociotechniques, tels que définis par Lucivero (2016), et s'inscrit donc, en ce sens, en tant que démarche éthique pragmatiste. Même si ce type d'initiatives normatives demeure distinct du droit, il n'est pas exclu, et il est même probable, que l'évaluation éthique de certains dispositifs technologiques particuliers mène à la conclusion que les risques de préjudice sont si élevés que des réformes législatives sont nécessaires. En ce sens, on peut penser que les conclusions des analyses effectuées en soft ethics de l'IA peuvent susciter des discussions en hard ethics sur la validité du cadre législatif en place et sur les principes qui devraient guider les aménagements nécessaires à un encadrement normatif adéquat de l'IA. Ceci impliquerait du même coup des interactions entre droit, éthique et politique, question qui dépasse largement le cadre de ce texte et qui devra faire l'objet d'une analyse subséquente. À titre
d'exemple, la proposition de règlement sur l'intelligence artificielle<fnref n="8" />, déposée en
avril 2021 par la Commission européenne (CE), a intégré au cadre juridique
proposé les principes éthiques de transparence et de contrôle humain (art. 14 et
15) identifiés dans les Lignes directrices pour une IA digne de confiance et qui
comptent en outre parmi les principes récurrents dans les nombreuses chartes et
déclarations éthiques recensées au cours des dernières années (Jobin et al.,
2019). Bien que, pour les raisons exposées plus haut, l'éthique doive demeurer
indépendante du droit, l'intégration de certains principes éthiques dans le cadre
juridique est possible; à cet égard, voir les travaux de Catherine Thibierge (2014)
sur le concept de densification normative, qui traitent de la multiplication des
sources normatives non juridiques et de leurs interrelations. Tout bien considéré, le
fait d'avoir établi la limite entre l'éthique et le droit dans la gouvernance de l'IA
ne devrait pas éclipser les relations internormatives entre soft ethics, hard ethics
et droit, mais permettre au contraire de mieux les comprendre et de mieux les
situer.

Comme Floridi (2018) l'a établi dans son article sur la gouvernance du
numérique, nous pensons que la gouvernance de l'IA ne peut se résumer ni à la
règlementation ni à l'éthique. La carte normative doit nécessairement intégrer
ces champs de normativité distincts et rendre compte des relations
internormatives qui peuvent être établies entre eux. Le fait que l'éthique et le droit
soient irréductibles n'entraine pas l'impossibilité de leur co évolution et du transfert
de certaines normes d'un ordre normatif à l'autre. Nous pensons que
l'élaboration d'un encadrement normatif de l'IA adéquat et complet exige de
cesser de concevoir l'éthique comme aspirant à se substituer au droit; elle doit
plutôt considérer ces deux sources normatives comme étant nécessaires pour
favoriser la conception et le déploiement de SIA dignes de confiance.

Il est intéressant de constater que l'approche de complémentarité entre
l'éthique et le droit est celle qu'a adoptée le comité d'experts indépendants de
haut niveau chargé de la rédaction des Lignes directrices en matière d'éthique
pour une IA digne de confiance (Commission européenne, 2019)<fnref n="9" />. En effet, le
comité considère qu'un SIA digne de confiance doit répondre à trois
caractéristiques : il doit être licite, éthique et robuste, et ce, tant sur le plan social
que technique. Ainsi considéré, l'encadrement normatif de l'IA ne peut se limiter
ni à l'éthique ni à un exercice qui consisterait à s'assurer de la conformité des
dispositifs et systèmes aux lois en vigueur ni à une évaluation sociotechnique des
risques associés à l'utilisation de ces systèmes. En effet, dans les lignes directrices
de 2018, il est prévu que l'encadrement normatif de l'IA doit comporter des

<footnote n="8">⁸ CE. Proposition de règlement du parlement européen et du conseil établissant des règles harmonisées concernant l'intelligence artificielle et modifiant certains actes législatifs de l'Union (avril 2021). Récupéré de https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0020.02/DOC_1&format=PDF</footnote>

<footnote n="9">⁹ CE. Lignes directrices en matière d'éthique pour une IA digne de confiance (avril 2019). Récupéré de https://justicia.openum.ca/files/sites/181/2019/10/EthicsguidelinesfortrustworthyAI-FRpdf.pdf</footnote>
exigences éthiques assorties de mécanismes d'analyse des risques. C'est d'ailleurs l'approche qui a été retenue dans le projet de règlement sur l'IA<fnref n="10" />, déposé en juin 2021 par la CE. Une des particularités de cette approche est qu'il s'ajoute à la dimension éthique à la fois une évaluation de la robustesse technique qui porte sur la précision et l'efficacité des SIA et une évaluation de la robustesse sociale qui suppose une analyse sociale contextuelle. De plus, bien que dans le cadre d'analyse que fournissent les lignes directrices de 2018 (p. 8), on ne traite pas explicitement du caractère licite des SIA, caractéristique qui doit être analysée par les juristes dans le cadre spécifique des différentes juridictions, il demeure que le caractère licite est considéré comme une condition essentielle des SIA qui pourraient être qualifiés de « dignes de confiance ». Cette approche fait écho à la nécessaire complémentarité des approches éthiques et sociotechniques dont il a été question en section 2.2, mais également à la nécessaire conjugaison des approches éthiques et juridiques dans l'encadrement normatif de l'IA, comme nous l'avons exposé dans cet article. L'idée d'une complémentarité du droit, de l'éthique et des considérations sociotechniques dans une perspective de corégulation et de coconstruction, telle qu'elle est établie dans les Lignes directrices en matière d'éthique pour une IA digne de confiance, est également tout à fait cohérente avec l'approche pragmatiste de l'éthique, qui exige que les principes normatifs soient mis à l'épreuve d'une évaluation sociale contextuelle. Partant du pluralisme normatif, qui admet l'existence d'une multiplicité de sources de normativité non juridiques susceptibles d'entrainer, au même titre que le droit étatique, des effets normatifs réels et pouvant intervenir pour réguler les comportements, nous croyons qu'une approche de la soft ethics pensée à l'aune du pragmatisme, en tant que démarche normative mixte alliant considérations sociotechniques et consultation des parties prenantes, est l'avenue la plus prometteuse pour jouer un rôle de premier plan, à la fois effectif et complémentaire au droit, dans l'encadrement normatif de l'IA.

<footnote n="10">¹⁰ Commission européenne. Proposition de règlement du parlement européen et du conseil établissant des règles harmonisées concernant l'intelligence artificielle et modifiant certains actes législatifs de l'Union (avril 2021).</footnote>
Bibliographie

Abels, G. (2007). Citizen involvement in public policy-making: Does it improve democratic legitimacy and accountability? The case of pTA. *Interdisciplinary Information Sciences, 13*(1), 103-116.

Access Now. (2018). *Human rights in the age of artificial intelligence*, 1-40.
https://www.accessnow.org/cms/assets/uploads/2018/11/AI-and-Human-Rights.pdf

Bacon, M. (2012). *Pragmatism. An Introduction*. Polity.

Beauchamp, T. et Childress, J. F. (1979). *Principles of Biomedical Ethics*. Oxford University Press.

Berman, H. J. (1983). *Law and Revolution: The Formation of the Western Legal Tradition*. Harvard University Press.

Bernheim, E. (2011). Le «pluralisme normatif»: un nouveau paradigme pour appréhender les mutations sociales et juridiques? *Revue interdisciplinaire d'études juridiques*, 67(2), 1-47.

Bélisle-Pipon, J.-C., E. Monteferrante, M.-C. Roy et V. Couture (2021). Artificial intelligence ethics has a black box problem. *AI & Society*. https://doi.org/10.1007/s00146-021-01380-0

Belley, J.-G. (1986). L'État et la régulation juridique des sociétés pluralistes : Pour une problématique du pluralisme juridique. *Sociologies et sociétés*, 18(1). 11-32.
https://doi.org/10.7202/001041ar

Benyekhlef, K. (2008). Une possible histoire de la norme : Les normativités émergentes de la mondialisation. Thémis.

Bietti, E. (2021). From ethics washing to ethics bashing. DRAFT – Final Paper Published in the *Proceedings to ACM FAT Conference (FAT* 2020). https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3513182

Brey, P. (2012). Anticipatory ethics for emerging technologies. *NanoEthics*, 6(1), 1-13.

Bruneault, F. et Sabourin Laflamme, A. (2022). Information ethics as a theoretical foundation for ethical assessment and moral design of AI systems. Dans B. Wernaart, *Moral Design and Technology* (p. 313-342). Wageningen Academic Publishers. https://doi.org/10.3920/978-90-8686-922-0

Bruneault, F. et Sabourin Laflamme, A. (2021). Éthique de l'intelligence artificielle et ubiquité sociale des technologies de l'information et de la communication : comment penser les enjeux éthiques de l'IA dans nos sociétés de l'information? *TIC & Société*, 15(1), 159-189.

Calo, C. (2018). Artificial Intelligence Policy: A Primer and Roadmap. *University of Bologna Law Review*, 3(2), 180-219.
Chambers, S. (2003). Deliberative democratic theory. *Annual Review of Political Science*, 6(1), 307-326.

Chevallier, J. (2003). *L'État post-moderne*. L.G.D.J.

Clausen, C. et Y. Yoshinaka (2004). Social shaping of technology in TA and HTA. *Poiesis & Praxis*, 2(2), 221-246.

Coeckelbergh, M. (2021). Cascading morality after Dewey: A Proposal for a pluralist meta-ethics with a subsidiarity hierarchy. *Contemporary Pragmatism*, 18, 18-35.

Commission européenne (2021). *Proposition de règlement du parlement européen et du conseil établissant des règles harmonisées concernant l'intelligence artificielle et modifiant certains actes législatifs de l'Union*. Récupéré de https://eurlex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-958501aa75ed71a1.0020.02/DOC_1&format=PDF

Commission européenne (2019). *Lignes directrices en matière d'éthique pour une IA digne de confiance*. Récupéré de https://justicia.openum.ca/files/sites/181/2019/10/EthicsguidelinesfortrustworthyAI-FRpdf.pdf

Commission européenne (2016). *Règlement 2016/679 du Parlement européen et du Conseil relatif à la protection des personnes physiques à l'égard du traitement des données à caractère personnel et à la libre circulation de ces données*. 119/1.

de Filippi, P. (2017). Repenser le droit à l'ère numérique : entre la régulation technique et la gouvernance algorithmique. Dans P.-E. Moyse et V. Gautrais (dir.), *Droit + Machine* (p. 53-95). Thémis.

Dewey, J. (2011). *How We Think*. Récupéré de https://www.gutenberg.org/files/37423/37423-h/37423-h.htm#CHAPTER ONE

Dewey, D. (1917). The need for a recovery of philosophy. Dans Dewey, D. *Creative intelligence: essays in the pragmatic attitude* (p. 3-69). Holt.

É-U, Bill HR 6580. Algorithmic Accountability Act of 2022. 117e Cong, 2022 (promulgué).

Fjeld, J. (2020). *Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-Based Approaches to Principles for AI*. SSRN Electronic Journal, 1-39.

Floridi, L. (2021). The end of an era: From self-regulation to hard law for the digital industry. *Philosophy & Technology*, 34, 619-622. https://doi.org/10.1007/s13347-021-00493-0

Floridi, L. et Strait, A. (2020). Ethical foresight analysis: what it is and why it is needed? *Minds and Machines*, 30, 77-97.
Floridi, L. et Cowls, J. (2019). A unified framework of five principles for AI in society. *Harvard Data Science Review*, 1-15. https://doi.org/10.1162/99608f92.8cd550d1

Floridi, L. (2019). Translating principles into practices of digital ethics: Five risks of being unethical. *Philosophy & Technology*, 32. https://doi.org/10.1007/s13347-019-00354-x

Floridi, L. (2018). Soft ethics and the governance of the digital. *Philosophy & Technology*, 31(1), 1-8. https://doi.org/10.1007/s13347-018-0303-9

Floridi, L. (2013). *The Ethics of Information*. Oxford University Press.

Freitag, M. (2002). *L'oubli de la société: Pour une théorie critique de la postmodernité*. PUL.

Green, B. (2021). The Contestation of tech ethics: A sociotechnical approach to technology ethics in practice. *Journal of Social Computing*, 2(3), 209-225. https://doi.org/10.23919/JSC.2021.0018

Grunwald, A. (2019). Designing technology in the age of digitalization: needs for technology assessment and ethics. *Multidisciplinary Aspects of Production Engineering*, 2(1), 612-623.

Grunwald, A. (1999). Technology assessment or ethics of technology? *Ethical Perspectives*, 6(2), 170-182.

Hagendorff, T. (2020). The ethics of AI ethics: An evaluation of guidelines. *Minds and Machines*, 30, 1-16. https://doi.org/10.1007/s11023-020-09517-8

Hildebrandt, M. (2020). *Law for Computer Scientists and other Folks*. Oxford University Press.

Hoffman, B. (2008). Why ethics should be part of health technology assessment. *International Journal of Technology Assessment in Health Care*, 24(4), 423-429.

Hoffman, B. (2005). On value-judgments and ethics in health technology assessment. *Poiesis & Praxis*, 3(4), 277-295.

Jobin, A., M. Ienca et E. Vayena. (2019). The global landscape of AI ethics guidelines. *Nature Machine Intelligence*, 1, 389-339. https://doi.org/10.1038/s42256-019-0088-2

Joss, S. et Belluci, S. (2002). *Participatory Technology Assessment: European Perspectives*. Center for the Study of Democracy.

Kelsen, H. (1934). La méthode et la notion fondamentale de la théorie pure du droit. *Revue de métaphysique et de morale*, 41(2), 183-204.

Keulartz, J., M. Korthals, M. Schermer et T. Swierstra. (2002). Ethics in a technological culture. A proposal for a Pragmatist approach. *Dans Keulartz, J., M. Korthals, M. Schermer, et Swierstra, T. Pragmatist Ethics for a Technological Culture*. (p. 23-63). Kluwer Academic Publishers.
Lehoux, P. et Williams-Jones, B. (2007). Mapping the integration of social and ethical issues in health technology assessment. *International Journal of Technology Assessment in Health Care*, 23(1), 9-16.

Lenoble, J. (2007). Au-delà du juge : Des approches herméneutique et pragmatiste à une approche génétique du concept de droit. *European Journal of Legal Studies*, 1(2), 1-67.

Lessig, L. (2006). *Code: And Other Laws of Cyberspace*, Version 2.0. Basic Books.

Loi sur la protection des renseignements personnels dans le secteur privé, RLRQ 2021, c P-39.1.

Loi sur la protection des renseignements personnels et les documents électroniques, LC 2000, c 5.

Lucivero, F. (2016). *Ethical Assessments of Emerging Technologies*. Springer.

McDonald, H. (2014). Peirce's theory of truth and fallibilism. Dans J. M. Green et J. Richard. *Bernstein and the Pragmatist Turn in Contemporary Philosophy*. (p. 71-77). Palgrave Macmillan.

Mittelstadt, B. D. (2019). Principles alone cannot guarantee ethical AI. *Nature Machine Intelligence*, 1, 501-507.

Mittelstadt, B. D., P. Allo et M. Taddeo. (2016). The ethics of algorithms: Mapping the debate. *Big Data & Soc.*, 1-21. https://doi.org/10.1177/2053951716679679

Mockle, D. (2002). Gouverner sans le droit? Mutations des normes et nouveaux modes de régulation. *Les cahiers de droit*, 43(2), 143-210.

Mökander, J. et Floridi, L. (2022). Operationalising AI governance through ethics-based auditing: an industry case study. *AI and Ethics*. https://doi.org/10.1007/s43681-022-00171-7.

Morley, J., A. Elhalal, F. Garcia, L. Kinsey, J. Mökander et L. Floridi. (2021). Ethics as a service: a pragmatic operationalization of AI ethics. *Minds and Machines*. 31, 239-256. https://doi.org/10.1007/s11023-021-09563-w

Nordmann, A. (2007). If and then, A Critique of speculative nanoethics. *NanoEthics*, 1(1), 31-46.

Ost, F. et Van de Kerchove, M. (2002). De la pyramide au réseau ? Pour une théorie dialectique du droit. *Publications des Facultés universitaires Saint-Louis*.

Palm, E. et Hansson, S. O. (2006). The case for ethical technology assessment (eTA). *Technological Forecasting & Social Change*, 73(5), 543-558.

Peirce, C. S. (1992). How to make our ideas clear. Dans *The Essentiel Peirce* (vol. 1). Indiana University Press.

PL C-27, Loi édictant la Loi sur la protection de la vie privée des consommateurs, la Loi sur le Tribunal de la protection des renseignements personnels et des
données et la Loi sur l'intelligence artificielle et les données et apportant des modifications corrélatives et connexes à d'autres lois, 1ère sess., 44e parl., 2022 (première lecture le 16 juin 2022).

PL 19, Loi sur les renseignements de santé et de services sociaux et modifiant diverses dispositions législatives, 2e sess., 42e lég., Québec, 2021 (sanctionné le 3 décembre 2021), LQ 2021.

PL 64, Loi modernisant des dispositions législatives en matière de protection des données personnelles, 1ère sess., 42e lég., Québec, 2020 (sanctionné le 1er octobre 2020), LQ 2020.

PL C-11, Loi édictant la Loi sur la protection de la vie privée des consommateurs et la Loi sur le Tribunal de la protection des renseignements personnels et des données et apportant des modifications corrélatives et connexes à d'autres lois, 2e sess., 43e parl., 2020 (première lecture le 17 novembre 2020).

Robidas, P. (2021, juin). Un algorithme de conception québécoise pour l'exploitation sexuelle en ligne. Radio-Canada info. Récupéré de https://ici.radiocanada.ca/nouvelle/1800791/mila-intelligence-artificielle-algorithme-police-exploitation-sexuelle

Rocher, G. (2019). La pluralité des ordres juridiques. *Revue générale de droit*, 49(20), 443-479.

Rocher, G. (2016). Études de sociologie du droit et de l'éthique (2e éd.). Thémis.

Sandler, R. (2013). *Ethics and Emerging Technologies*. Palgrave Macmillan.

Talisse, R. B. et Aikin, S. F. (2008). *Pragmatism. A Guide for the Perplexed*. Continuum.

Tavani, H. T. (2010). The foundationalist debate in computer ethics. Dans L. Floridi (dir.), *The Cambridge Handbook of Information and Computer Ethics* (p. 251-270). Cambridge University Press.

ten Have, H. (2004). Ethical perspectives on health technology assessment. *International Journal of Technology Assessment in Health Care*, 20(1), 71-76.

Thibierge, C. (2014). *La densification normative : Découverte d'un processus*. Mare Martin.

Tsamados, A., N. Aggarwal, J. Cowls, J. Morley, H. Roberts, M. Taddeo et L. Floridi. (2021). The ethics of algorithms: key problems and solutions. *AI & Society*, 37, 215-230. https://doi.org/10.1007/s00146-021-01154-8

Savage, N. (2020). How is AI improving cancer diagnostics. *Nature*. 579. 14-16. https://doi.org/10.1038/d41586-020-00847-2.

Scassa, T. (2020). A human rights-based approach to data protection in Canada. Dans E. Dubois et F. Martin-Bariteau (dir.), *Citizenship in a Connected Canada: A Research and Policy Agenda*. (p. 2020-2026). University of Ottawa Press.
van den Hoven, J. (2010). The use of normative theories in computer ethics. Dans L. Floridi (dir.), *The Cambridge Handbook of Information and Computer Ethics* (p. 59-76). Cambridge University Press.

Van Est, R. et Brom, F. (2012). Technology assessment as an analytic and democratic practice. *Encyclopedia of Applied Ethics*. Récupéré de https://www.academia.edu/231400/Technology_assessment_as_an_analytic_andDemocratic_practice

Vincent, J. (2019). The problem with AI Ethics, *The Verge*. Récupéré de https://www.theverge.com/2019/4/3/18293410/ai-artificial-intelligence-ethics-boards-charters-problem-big-tech

Whitford, J. (2002). Pragmatism and the untenable dualism of means and ends: Why rational choice theory does not deserve paradigmatic privilege. *Theory and Society*, 31, 325-363.

Whittlestone, J., R. Nyrup, A. Alexandrova et S. Cave. The role and limits of principles in AI ethics: Towards a focus on tensions. AAAI/ACM Conference on AI, Ethics, and Society (AIES '19), ACM, Honolulu. https://doi.org/10.1145/3306618.3314289.

Zicari, R. V., J. Brodersen, J. Brusseau, B. Düdder, T. Eichhorn, T., Ivanov, G. Kararigas, P. Kringen, M. McCullough, F. Möslein, N. Mushtaq, G. Roig, N. Stürtz, K. Tolle, J. J. Tithi, I. van Halem et M. Westerlund. (2021). Z-Inspection: A Process to Assess Trustworthy AI. *IEEE Transactions on Technology and Society*, 2(2) 83-97.