# Intelligence artificielle et application non contentieuse du droit : une réactualisation du problème du design institutionnel de Lon L. Fuller

William Guay

Volume 3, Number 1, 2022

Normativité et intelligence artificielle

Artificial Intelligence and Normativity

URI: https://id.erudit.org/iderudit/1098934ar

DOI: https://doi.org/10.7202/1098934ar

See table of contents

Publisher(s)

UQÀM Département des sciences juridiques
UQÀM Faculté de science politique et de droit

ISSN

2563-9250 (digital)

Explore this journal

Cite this article

Guay, W. (2022). Intelligence artificielle et application non contentieuse du droit : une réactualisation du problème du design institutionnel de Lon L. Fuller. *Communitas*, 3(1), 126-162. https://doi.org/10.7202/1098934ar

## Article abstract

This article proposes to link normative issues generated by artificial intelligence in the legal sphere to the more fundamental problem of "institutional design" by Lon L. Fuller. The optimization of state resources promised by the deployment of artificial intelligence will take place in return of a more preventive and unilateral enforcement of the law, in other words a managerial, "noncontentious" enforcement of the law. By splitting the concept of state governance into its "legal" and "economic" ramifications, Fuller intended to combine these ramifications in a project aspiring to good order and workable social arrangements. A reactualization of Fuller's writings will allow us to situate the scope of artificial intelligence within this classification, and will thus shed light on the normative issues linked to the use of artificial intelligence by the state.
# Intelligence artificielle et application non contentieuse du droit : une réactualisation du problème du design institutionnel de Lon L. Fuller

William Guay¹

## RÉSUMÉ

Cet article propose de rapprocher les enjeux normatifs engendrés par l'intelligence artificielle dans la sphère du juridique à la problématique plus fondamentale du « design institutionnel » de Lon L. Fuller. L'optimisation des ressources étatiques promise par le déploiement de l'intelligence artificielle s'opérera en contrepartie d'une application « non contentieuse » du droit plus préventive et unilatérale, autrement dit managériale. En scindant le concept de la gouvernance étatique en ses ramifications « juridique » et « économique », Fuller entendait conjuguer celle-ci et celle-là dans un projet aspirant à la cohésion et au bon fonctionnement sociétal. Une réactualisation des écrits « fullériens » permettra de situer la portée de l'intelligence artificielle au sein de cette classification et offrira un éclairage favorable à l'élucidation des enjeux normatifs soulevés par l'intelligence artificielle étatique.

**MOTS-CLÉS** : intelligence artificielle et « normativité » factuelle, application préventive du droit, gouvernance étatique, Lon L. Fuller et le « design institutionnel »

## ABSTRACT

This article proposes to link normative issues generated by artificial intelligence in the legal sphere to the more fundamental problem of "institutional design" by Lon L. Fuller. The optimization of state resources promised by the deployment of artificial intelligence will take place in return of a more preventive and unilateral enforcement of the law, in other words a managerial, "non-contentious" enforcement of the law. By splitting the concept of state governance into its "legal" and "economic" ramifications, Fuller intended to combine these ramifications in a project aspiring to good order and workable social arrangements. A reactualization of Fuller's writings will allow us to situate the scope of artificial intelligence within this classification, and will thus shed light on the normative issues linked to the use of artificial intelligence by the state.
**KEYWORDS:** artificial intelligence and factual "normativity", preventive law enforcement, state governance, Lon L. Fuller and "institutional design"

REMERCIEMENTS

L'auteur aimerait remercier le professeur Maxime St-Hilaire de l'Université de Sherbrooke pour sa direction et ses judicieux conseils et commentaires.

<footnote n="1">¹ Étudiant à la maîtrise à l'Université de Sherbrooke</footnote>
> Toute quête humaine est un jour confrontée au problème de l'équilibre à trouver, au fur et à mesure qu'on parcourt le long trajet qui mène de l'abîme de l'échec total aux cimes de l'excellence humaine.

> - Lon L. Fuller, 1964

## Introduction

En cette ère marquée par une révolution algorithmique, l'application du droit, plus précisément la portion « non contentieuse » de celui-ci, c'est-à-dire non pas forcément volontaire, mais en dehors de procès, est plus que jamais à même de se transmuer. En raison de son potentiel subversif, l'intelligence artificielle (ci-après « IA ») bouleversera sans doute le rapport qu'entretient le justiciable avec les normes juridiques et/ou étatiques, dénaturant ainsi son statut. L'article qui suit ambitionne de vérifier si ces enjeux normatifs sont l'occasion d'une réactualisation de la question « fullérienne » du design institutionnel.

Le recours aux tribunaux judiciaires, autrement dit à l'application « contentieuse » du droit, est sans l'ombre d'un doute élémentaire à tout État qui se réclame de la Rule of Law<fnref n="1" />. Qu'on ne s'y trompe toutefois pas. Cette méthode se veut l'accessoire, du moins sur le plan quantitatif, d'une application dite « non contentieuse » du droit, laquelle est essentielle à l'ordre sociétal<fnref n="2" />.

Une norme proprement juridique assujettit le justiciable à une obligation de faire ou de ne pas faire. La décision d'observer ou non une telle norme, en plus d'être libre, relève immanquablement d'un rapport conscient à celle-ci<fnref n="3" />. Lorsqu'il y a violation d'une norme juridique, la responsabilité du justiciable risque d'être engagée et, le cas échéant, il y aura ouverture soit d'un recours pénal, soit d'un recours civil. Le processus de l'application contentieuse et contradictoire du droit, en matière pénale, intervient suivant l'allégation contestée de l'infraction (et ce,

<footnote n="1">¹ Jeremy WALDRON, « The Concept of the Rule of Law », (2008) N.Y.U. School of Law, Public Law & Legal Theory Research Paper Series Working Paper, No. 08-50, p. 20.</footnote>

<footnote n="2">² Jeremy WALDRON, « Self-Application », (2016) N.Y.U. School of Law, Public Law & Legal Theory Research Paper Series, Working Paper. No. 16-46, p. 1.</footnote>

<footnote n="3">³ Herbert L.A. HART, Le concept de droit (1961), trad. M. VAN DE KERCHOVE, 2ᵉ éd., Bruxelles, Presses de l'U. Saint-Louis, 2005, p. 102-110.</footnote>
même lorsqu'il y a plaidoyer de non-culpabilité). Au civil, l'application contentieuse du droit suit la reconnaissance, de la part d'une partie, de sa responsabilité, qu'il y ait eu ou non mise en demeure ou procès. À l'inverse, le droit s'applique « non contentieusement » aussi bien lorsque le citoyen, suivant la constatation d'une violation par un agent étatique (dans ce cas, limitée à la sphère du droit pénal), obéit sans plaidoyer de culpabilité (ou de non-culpabilité) ou, bien entendu, lorsqu'il se conforme sciemment à la norme juridique.

Or l'environnement étatique « normatif » ne responsabilise pas toujours le citoyen. En effet, à côté de la norme juridique « authentique » se trouve une action étatique (pseudojuridique) béhaviorale, dite souvent « préventive », qui voit dans la réalisation de l'impossibilité même de la violer le meilleur moyen de prévenir la violation de la norme juridique, et ce, sans se demander si une telle prévention « absolue » ne revient pas à l'oblitération même de la norme juridique<fnref n="4" />. L'approche béhaviorale dite « préventive » cherche à induire, en fonction d'une fin prédéterminée par l'État, l'action du citoyen qui, s'il est ainsi manipulé, tend à se réduire à un simple administré, objet accessoire d'un contrôle populationnel. Notons que cette gouvernance anomique n'est généralement pas distinguée de la norme proprement juridique<fnref n="5" />. La méthode préventive de l'application de ces normes ne fait certes pas intervenir un processus contentieux et se doit donc, pour les fins de cette analyse, de recevoir la qualification d'application non contentieuse du « droit ». Il en irait de même pour l'émission de constats d'infraction tant que la responsabilité du justiciable n'est pas niée par un plaidoyer de non-culpabilité.

À la lueur de la distinction entre manipulation béhaviorale et norme juridique, il devient manifeste de voir comment l'application non contentieuse ou extrajudiciaire du droit recèle deux catégories bien différentes d'actions étatiques. Commandant un rapport conscient du justiciable envers elle, la norme juridique, pour sa part, repose sur le socle de l'agentivité individuelle. Son application non contentieuse s'observe donc soit par la conformité volontaire à la norme, soit, par la constatation par l'administration, limitée en matière pénale, de la violation de la norme du justiciable, mais sans plaidoyer de non-culpabilité. L'action administrative béhaviorale qui, quant à elle, aspire à une gestion efficace des ressources (économiques) communes<fnref n="6" />, intervient en amont de tout rapport réflexif du justiciable, devenu simple administré, à la norme étatique, rendant ainsi la violation (tout comme l'obéissance d'ailleurs) impossible.

<footnote n="4">⁴ Voici une illustration de cette logique préventive : « Hence, the purpose of criminal law is not simply to respond to wrongdoing (as corrective justice demands) but to reduce crime by adopting whatever measures of deterrence promise to work. » Roger BROWNSWORD, « Law and Technology: Two Modes of Disruption, Three Legal Mind-Sets, and the Big Picture of Regulatory Responsibilities », (2018) 14 *Indian J. L. & Tech* 1, 21.</footnote>

<footnote n="5">⁵ H. Hart, préc., note 3, p. 110-111. Peut-être était-ce l'héritage d'une conception positiviste étatique et large du droit, qui fut notamment popularisée par H. L. A. Hart, pour qui un système juridique peut exister (après acceptation de la règle de reconnaissance par ses « officiels ») pour aussi peu qu'une « obéissance générale » pour n'importe quelle raison.</footnote>

<footnote n="6">⁶ Voir Maxime ST-HILAIRE, « Audit Culture of Human Rights as 'Governmentality'? », (2021) 19 *International Journal of Constitutional Law* (ICON) 2.</footnote>
Les enjeux normatifs engendrés par le recours accru de l’État à l’IA
constituent le contexte de cet article<fnref n="7" />. Certains auteurs, en s’appuyant sur les
écrits foucaldiens plus tardifs, ont déjà constaté l’érosion du « droit » au profit
d’une gouvernance technocratique et omnisciente<fnref n="8" />. « Par gouvernementalité
algorithmique, nous désignons dès lors globalement un certain type de rationalité
(a)normative ou (a)politique reposant sur la récolte, l’agrégation et l’analyse
automatisée de données en quantité massive de manière à modéliser, anticiper
et affecter par avance les comportements possibles<fnref n="9" /> », écrivaient Antoinette
Rouvroy et Thomas Berns en 2013. Plus encore, comme l’emploi étatique de l’IA
est confiné, du moins à court et moyen terme, à la seule gestion des affaires
publiques<fnref n="10" />, le potentiel d’optimisation offert par cette technologie laisse
présager un glissement depuis la « norme juridique » vers la « norme administrative
béhaviorale ». Ce dernier, par profilage statistique probabiliste et classificateur,
s’accompagnera, selon Jack M. Balkin, de discrimination et de manipulation, le
tout sans les mécanismes procéduraux adéquats pour voir à ces enjeux<fnref n="11" />. Le souci
est par conséquent d’observer, et ce, généralement, la conception du justiciable
comme agent libre et responsable (justiciable-sujet) se muer en une simple
ressource (administré-objet). Poussée à son paroxysme, cette logique entrouvre
la porte à un totalitarisme administratif numérique<fnref n="12" />.

Nous avançons, à titre d'hypothèse, que la perspective d'une
« administrativisation » accrue de la normativité étatique et juridique accentuée
par l'IA rappelle une tension plus fondamentale qui fut mise au jour par le juriste
américain Lon L. Fuller bien avant que nous puissions parler d'IA. Il s'agit du
problème du design institutionnel<fnref n="13" />. Nous supposons qu'en filigrane du débat
actuel sur l'intelligence artificielle du juridique, qui voit s'opposer (plutôt
intuitivement) « État de droit » et « technocratie », se cache une question
d'équilibre, plutôt qu'une problématique de glissement, qui correspond à celle
du design institutionnel selon Fuller. C'est que la gouverne par le droit et la
gouverne managériale sont pour Fuller irréductiblement distinctes, mais
demeurent complémentaires au lieu de constituer une alternative. Car Fuller est
bien d'avis que leur cohabitation, comme ni l'une ni l'autre ne peut être
universalisée sans incohérence et danger, s'avère nécessaire<fnref n="14" />. Si notre

<footnote n="7">⁷ Voir notamment Frank PASQUALE, « A Rule of Persons, Not Machines: The Limits of Legal Automation », (2019) 87 Geo. Wash. L. Rev. 1.</footnote>

<footnote n="8">⁸ « [T]echnocrats [...] are concern with preventing or precluding wrongdoing and employing technological measures or solutions, rather than rules and standards, to achieve their objectives. » R. BROWNSWORD, préc., note 4, 22.</footnote>

<footnote n="9">⁹ Antoinette ROUVROY et Thomas BERNS, « Gouvernementalité algorithmique et perspectives d'émancipation », (2013) 1(177) Réseaux 163, 173.</footnote>

<footnote n="10">¹⁰ Danielle K. CITRON et Ryan CALO, « The Automated Administrative State: A Crisis of Legitimacy », (2020) 70 Emory L. J. 797, 802.</footnote>

<footnote n="11">¹¹ Jack M. BALKIN, « The Three Laws of Robotics in the Age of Big Data », (2017) 78(5) Ohio ST. L.J. 1217, 1239.</footnote>

<footnote n="12">¹² Voir notamment Cass R. SUNSTEIN et Adrian VERMEULE, « The New Coke: On the Plural Aims of Administrative Law », (2015) S. C. Rev. 41.</footnote>

<footnote n="13">¹³ Lon L. FULLER, *La moralité du droit (1964)*, trad. J. V. MEERBEECK, Bruxelles, Presses de l'U. Saint-Louis, 2017, p. 183-187.</footnote>

<footnote n="14">¹⁴ *Id.* p. 182.</footnote>
hypothèse est confirmée, alors une compréhension renouvelée et approfondie,
autrement dit une réactualisation, des aspects moins connus de l'œuvre de Fuller,
à savoir sa conception du droit comme fondement de l'agentivité des justiciables
et son design institutionnel, se révélerait propice à l'élucidation des enjeux
normatifs de l'intelligence artificielle étatique.

Nous éprouverons notre hypothèse au moyen d'une analyse en trois temps.
D'abord, une synthèse de la manière dont Fuller appelait à conjuguer gouverne
juridique et gouverne managériale. Ensuite, une mise au jour des enjeux normatifs
du débat actuel sur la principale catégorie d'application de l'IA au droit. Enfin,
une réflexion fullérienne sur une utilisation juste et juridique de l'IA étatique.

1. Une question d'équilibre : Fuller et le problème du design institutionnel

Kristen Rundle, par la publication de son ouvrage *Forms Liberate* en 2013<sup>15</sup>,
fit renaître l'éclectique héritage de Lon L. Fuller. À son sens, la réception originale
des travaux du juriste harvardien fut atrophiée par le prisme de son débat avec
Herbert L. A. Hart <sup>16</sup> et, par conséquent, passée injustement sous silence par la
communauté des philosophes juridiques contemporains<sup>17</sup>. Willem J. Witteveen
appuie K. Rundle sur cette méconnaissance généralisée des écrits de Fuller dans
l'introduction de son ouvrage collectif *Rediscovering Fuller*<sup>18</sup>. En effet, la
« défaite » de notre auteur au débat amorcé en 1958 dans le *Harvard Law Review*
sur le lien entre « droit » et « moralité » semble avoir relayé sa thèse substantielle –
soit celle de la recherche d'un équilibre entre les différents mécanismes du legal
process au sein d'un projet « eunomic » (nous y reviendrons) – au second plan
derrière le paradigme du « droit étatique » hartien<sup>19</sup>. Si ce problème du « design
institutionnel » fut énoncé dans *La moralité du droit*, l'œuvre cardinale de Fuller,
ses écrits plus tardifs consignés par Kenneth Winston dans *The Principles of Social
Order*, une œuvre qui n'a jamais pu voir le jour<sup>20</sup>, offrent des précisions notables
sur son projet plus vaste.

<footnote n="15">15 Kristen RUNDLE, *Forms Liberated*, Reclaiming the Jurisprudence of Lon L Fuller, Portland, Hart Publishing, 2013.</footnote>

<footnote n="16">16 « There is also a general impression, in many ways justified, that although rich with insights into the way that law works in practice, Fuller's jurisprudence is a scattered affair, unsystematic in focus and lacking and obvious internal coherence. »
Id., p. 1.</footnote>

<footnote n="17">17 Id.</footnote>

<footnote n="18">18 Willem J. WITTEVEEN, « An Introduction », dans Willem J. WITTEVEEN et Wibren van der BURG (dir.), *Rediscovering Fuller: essays on implicit law and institutional design*, Amsterdam, Amsterdam University Press, 1999, p. 21.</footnote>

<footnote n="19">19 Id.</footnote>

<footnote n="20">20 Ce livre se veut être le projet « inachevé » de Fuller. Les correspondances de celui-ci montrent qu'il avait commencé un
nouvel ouvrage s'intitulant *The Principles of Social Order: An Essay in Eunomics*. L'entreprise de K. Winston est de regrouper
les écrits tardifs de Fuller portant sur ce sujet précis, ce qui n'a malencontreusement pas pu être complété avant la mort
de Fuller. Kenneth WINSTON, « Introduction », dans Lon L. FULLER, *The Principles of Social Order, Selected Essays of Lon L.
Fuller*, éd. par K. WINSTON, Oxford, Hart Publishing, 2001, p. 61.</footnote>
Selon K. Winston interprétant Fuller, une vision large et positiviste du droit
ouvre la porte à des débordements qui, à l'extrême, permettent d'entrevoir la
société « as a kind of laboratory, an arena for scientific experimentation,
manipulating human behaviour in the pursuit of desired goals<fnref n="21" />». Fuller estime que
ces affronts possibles à la Rule of Law, par la pérennisation d'une application
managériale des normes juridiques et étatiques, autrement dit une
instrumentalisation politique du droit, témoignent des limites de la thèse de H. Hart
qui, dans une certaine mesure, demeure aveugle aux différences fondamentales
entre « droit » et « gestion économique »<fnref n="22" />. Car, contrairement à H. Hart, « [l]aw, in
Fuller's view, is not a method of social control but sets baselines and provides
guideposts for individual choice and self-directed action, thereby facilitating
activities that occur independently of the law<fnref n="23" /> ». Il semble pourtant que l'emploi
accru de l'IA par l'administration publique noircisse le spectre totalisant du droit
étatique et exacerbe une conception du sujet juridique comme administré plutôt
qu'agent moral. C'est ce que nous allons analyser dans la seconde partie de cet
article. À l'aune de cette révolution algorithmique, voilà qui rend d'autant plus
pertinente l'invitation lancée par K. Rundle en conclusion de son livre, qui appelle
à préciser « the under-explored relationship between the form of law and human
agency<fnref n="24" /> ».

Nous ambitionnons que cette réactualisation de la thèse de Fuller
permettra de recadrer le débat sur l'IA dans la sphère étatique autour d'une
problématique consistant à trouver un point d'équilibre entre une gouvernance
véritablement juridique et une gouvernance managériale. Comme les gains
économiques annoncés par l'IA semblent faire intervenir une application plus
unidirectionnelle et paternaliste des normes juridiques, il s'agit de réfléchir à cet
équilibre afin de comprendre l'IA étatique et de la restreindre à sa juste place
pour préserver l'agentivité minimale des sujets juridiques requise dans l'entreprise
fullérienne du droit. L'exposé du fonctionnement et des implications de ces deux
modes de gouverne précédera alors celui portant sur la manière dont Fuller
entrevoyait la réunion de ces deux modes sous l'action d'un unique pouvoir
étatique.

1.1. Droit et gouvernance managériale chez Fuller

Si, pour Fuller, le droit émerge du lien de réciprocité unissant les individus
dans leur liberté d'action, c'est qu'il s'apprécie, comme l'indique Evgueni B.

<footnote n="21">21 Kenneth WINSTON, « Good Order and Workable Social Arrangements: Lon Fuller's Critique of Legal Positivism », dans Torben SPAAK et Patricia MINDUS, *The Cambridge Companion to Legal Positivism*, Cambridge (R.-U.), Cambridge University Press, 2021, p. 660.</footnote>

<footnote n="22">22 Cette critique est paradoxale, car Hart lui-même relevait les limites du concept fullérien, le trouvant trop fermé. Selon ce dernier, avoir un concept du droit élargi facilite l'étude des abus du système juridique sur l'agentivité citoyenne. H. L. A. Hart, préc., note 3, p. 229 et James C. KETCHEN, « Revisiting Fuller's Critique of Hart: Managerial Control and the Pathology of Legal Systems: The Hart-Weber Nexus », (2003) 53 U. of Toronto L. J. 1, 1.</footnote>

<footnote n="23">23 K. WINSTON, préc., note 21, p. 663.</footnote>

<footnote n="24">24 K. RUNDLE, préc., note 15, p. 203.</footnote>
Pašukanis<fnref n="25" />, à « la richesse des interactions et des liens internes de son contenu<fnref n="26" /> ». C'est en faisant sienne cette compréhension interactionnelle de la société que Fuller réduit le droit à l'entreprise cherchant à soumettre le comportement humain à la gouvernance de règles générales<fnref n="27" />. La légalité intervient ici en soubassement de cette entreprise; elle rend possibles les relations interpersonnelles<fnref n="28" />. Puis Fuller renchérit en faisant découler des huit exigences de la légalité<fnref n="29" /> – qui, rappelons-le, sont d'abord et avant tout de nature procédurale – une conception morale du citoyen, celle d'une personne libre, car responsable<fnref n="30" />. La résultante du concept fullérien de droit est de ce fait l'agentivité des sujets juridiques. Or, pour être plus exact et tel que clarifié par Fuller lui-même dans *Une réponse aux critiques*, publié en guise de cinquième chapitre dans la deuxième édition de *La moralité du droit*, ce sont les trois principes de la généralité, de la non-rétroactivité et de la concordance entre les normes promulguées et les normes appliquées (ce dernier principe étant par ailleurs plus important que les deux autres) qui traduisent ultimement la quiddité du droit – et sa moralité inhérente –, qui le distingue d'une gouvernance managériale<fnref n="31" />. C'est que les cinq autres principes (l'intelligibilité, la stabilité, la non-contradiction, la publicité et la possibilité de mise en œuvre des règles) servent aussi bien une projection unilatérale d'autorité qu'une logique proprement juridique, donc réciproque, en ce qu'ils constituent des « principes d'efficacité », c'est-à-dire qu'ils peuvent se présenter comme « des instruments affectés à la réalisation des objectifs du directeur<fnref n="32" /> » ou d'une personne dirigeante. Quoi qu'il en soit, nous devons considérer la moralité interne du droit – la réunion des huit principes de la légalité – dans une double visée<fnref n="33" />, tantôt comme conditions d'existence du droit, tantôt comme fondements de l'agentivité citoyenne.

L'existence du droit s'inscrivant sur un continuum et s'appréciant comme un tout, une atteinte isolée à l'un des principes de la légalité ne suffit pas pour faire perdre au droit son statut<fnref n="34" />. En fait, les principes de la légalité s'érigent en idéaux pragmatiquement impossibles à atteindre<fnref n="35" />. Ils entrent d'ailleurs parfois en opposition. Seul un système juridique respectant minimalement les principes de la légalité, selon Fuller, permet aux citoyens d'être perçus en des agents moraux. Il va sans dire qu'une agentivité citoyenne présente marginalement dans une

<footnote n="25">²⁵ Auteur sur lequel Fuller, dès les premières pages de son œuvre, ancre la relation entre la réciprocité et la moralité du devoir, L. L. FULLER, préc., note 13, p. 33 à 35.</footnote>

<footnote n="26">²⁶ Evgueni B. PAŠUKANIS, *La théorie générale du droit et le marxisme* (1924), trad. Jean-Marie BROHM, Paris, EDI, 1971, p. 45.</footnote>

<footnote n="27">²⁷ L. L. FULLER, préc., note 14, p. 129.</footnote>

<footnote n="28">²⁸ *Id.*, p. 162.</footnote>

<footnote n="29">²⁹ C'est au travers de l'allégorie du roi Rex, au chapitre deux de *La moralité du droit*, que Fuller présente les huit critères que doivent respecter minimalement les règles de droit : la généralité, l'intelligibilité, la stabilité, la non-rétroactivité, la non-contradiction, la publicité, la possibilité et la concordance entre la publicité et l'application des règles. *Id.*, p. 42 à 102.</footnote>

<footnote n="30">³⁰ *Id.*, p. 169 et 209.</footnote>

<footnote n="31">³¹ *Id.*, p. 214 à 217.</footnote>

<footnote n="32">³² *Id.*, p. 213.</footnote>

<footnote n="33">³³ *Id.* p. 13.</footnote>

<footnote n="34">³⁴ *Id.*, p. 100 à 102.</footnote>

<footnote n="35">³⁵ *Id.*, p. 54 et 55.</footnote>
structure normative, voire absente, ne permet pas l'apposition de l'étiquette « juridique » à un système social. C'est d'ailleurs dans cette optique que E. Pašukanis soutenait que la réalisation absolue du communisme (réunion parfaite du politique et de l'économie<fnref n="36" />) était incompatible avec l'existence de relations juridiques. À l'instar de ce dernier, nous notons que la même conclusion se transposerait mutatis mutandis à une tentative d'optimisation économique « parfaite » de la société par l'IA.

Bien entendu, en consignant le droit et sa moralité interne à une place plus restreinte que le concept de droit hartien, Fuller dénonce du même coup la tendance des juristes à vouloir judiciariser excessivement toute relation sociétale<fnref n="37" />. De fait, le droit n'étant pas la solution à tous les maux, il ne peut, en raison du cadre contraignant que lui impose sa moralité interne, allouer efficacement les ressources économiques communes<fnref n="38" />. K. Winston signale que, pour Fuller, « many administrative tasks are not justiciable, that is, manageable by ordinary judicial procedures. But rather than articulating an alternative decision model appropriate to this realm, he dismissed it as not law – he called it, instead, managerial direction – and decried its failure to meet all eight of the principles that make up the internal morality of law<fnref n="39" /> ». Pourtant, Fuller n'est pas aussi tranché que le présuppose ici K. Winston. Tout en faisant emporter le droit sur la gouvernance managériale, Fuller reconnaît ses limites et enseigne que, dans certaines situations et domaines, une approche gestionnaire est plus appropriée qu'une gouvernance juridique<fnref n="40" />. Certes, une affirmation trop sévère du paradigme managérial éroderait corrélativement le droit et l'agentivité lui étant inhérente. Mais, au contraire de la gouverne managériale, le droit affiche fermement sa centralité; il fournit la structure permettant des interactions sociales ordonnées et réciproques. Comme il est néanmoins « un instrument inefficace pour la gestion économique et pour la participation étatique à la répartition des ressources économiques<fnref n="41" /> », le droit ne peut à lui seul s'établir en tant que propre de cet ordre sociétal. La reformulation fullérienne par K. Rundle de la critique de l'instrumentalisation politique du droit par des entités gouvernementales ou administratives – « how its inherently one-way, top-down character blinds us to the interactions, interrelationships and sites of mutual adjustment that constitute the workings of a legal system in practice<fnref n="42" /> » – demeure tout de même sérieuse, car l'emploi de l'IA par l'administration publique pourrait constituer le point culminant de cette instrumentalisation.

<footnote n="36">³⁶ Id., p. 34.</footnote>

<footnote n="37">³⁷ Id., p. 178 à 182.</footnote>

<footnote n="38">³⁸ Id., p. 183.</footnote>

<footnote n="39">³⁹ K. WINSTON, préc., note 21, p. 667.</footnote>

<footnote n="40">⁴⁰ L. L. FULLER, préc., note 13, p. 183.</footnote>

<footnote n="41">⁴¹ Id., p. 182.</footnote>

<footnote n="42">⁴² K. RUNDLE, préc., note 15, p. 194.</footnote>
Quels indices, donc, permettent d'observer et de comprendre l'état de la relation entre nos deux gouvernances? Kristen Bundle répond indirectement à cette question, interprétant la relation symbiotique entre la place et la fonction du droit sur la conception « fullérienne » du justiciable :

> Departures from the principles of the internal morality of law that maintain the relationship between lawgiving power and the legal subject's status as a responsible agent are permissible, but if either the formal features of law are abused, or the subject is for some reason considered not capable of responsible action, then what purports to be governance through law may slide into something that, in merely acting upon the subject rather than respecting her as an agent, no longer as the character of law<fnref n="43" />.

Elle poursuit en mentionnant que, pour Fuller, la responsabilité, telle qu'il la conçoit, suppose une qualité qui commande « a capacity not only to be answerable to the rules issued by legal officials, and to take responsibility for her conduct vis-à-vis those rules, but also to give regard to how that conduct affects the position of others in society<fnref n="44" /> ». En effet, l'agentivité, qui s'érige sur une relation de réciprocité, ne se matérialise que si le citoyen peut participer activement à la vie juridique. La seule faculté de choisir entre la violation ou le respect d'une norme et de répondre des conséquences de ce choix ne suffit pas à Fuller pour qu'un justiciable soit considéré comme un agent libre et responsable<fnref n="45" />. Il semble, en somme, que l'étude du concept de la responsabilité se révèle féconde et fructueuse pour comprendre la réception pratique de nos deux modes de gouvernance.

Pour récapituler, l'action étatique, selon Fuller, est donc bien campée dans une dualité de finalités. D'un côté, nous avons une norme juridique issue de la réciprocité intercitoyenne qui cultive la liberté et la participation à la vie juridique en responsabilisant les justiciables. D'un autre côté, nous avons une directive émise par une autorité voulant répondre le plus efficacement possible à un but fixé en amont. Ce second objet (économique) cherche ultimement à prévenir toute violation de ladite règle par induction comportementale en limitant la liberté, et donc aussi le concept de la responsabilité.

Néanmoins, en caractérisant son projet d'« eunomic » (théorie « of good order and workable social arrangements<fnref n="46" /> »), Fuller se retenait d'accorder au droit une visée monopolistique. En fait, l'entreprise du juridique repose sur cinq piliers tirés du legal process : l'adjudication (décision judiciaire), la médiation, les

<footnote n="43">⁴³ Id., p. 99.</footnote>

<footnote n="44">⁴⁴ Id.</footnote>

<footnote n="45">⁴⁵ Id., p. 99 et 100.</footnote>

<footnote n="46">⁴⁶ Id., p. 33.</footnote>
contrats, la législation et la direction managériale<fnref n="47" />. Le droit, quoique central,
n'est pas la seule entreprise nécessaire au projet de Fuller. C'est la pondération
entre l'entreprise juridique et la gestion économique (ou la gouvernance
managériale) qui nous intéresse plus particulièrement dans cet article. Nous
postulons que la gouvernance par le droit chez Fuller fait intervenir une part de
direction managériale, mais qu'un déséquilibre en sa faveur ébranle l'entreprise
fullérienne de l'ordre sociétal, la gestion économique grugeant la place
normalement consacrée au droit. Pour clore en faisant nôtres les mots de K.
Winston, « for a legal order to endure, citizens must acknowledge and actively
support the law's effort to achieve what they regard as "orderly, fair and decent"
governance. Only in this way does the law engage citizens as moral agents<fnref n="48" /> ».

## 1.2. La finalité étatique

Suivant la lecture de Fuller par K. Rundle, « the values of morality and
efficacy were not incompatible but rather closely intertwined; together part and
parcel of the demands as well as the promise, to both lawgiver and legal subject,
of law's distinctive form<fnref n="49" /> ». Si l'analyse du « design institutionnel » se bute, dans sa
portion étatique, à une pondération entre moralité interne du droit et efficacité,
force est de constater que Fuller reste pourtant muet (ou presque) quant à la
pondération concrète et optimale entre droit et gouverne managériale. Comme
le lien entre l'intégrité morale de la structure étatique et l'efficacité de
l'application des normes qu'elle promulgue fait ombrage à la compréhension des
écrits de Fuller, attardons-nous à en éclaircir le contenu. Avant de tenter
l'élucidation de ce problème, il est d'abord primordial de saisir que, pour Fuller, «
le droit n'a pas, comme dans la gestion d'une société [signifiant, ici,
« entreprise »], vocation à indiquer à d'autres personnes comment accomplir les
tâches établies par un supérieur, mais à fournir aux citoyens un cadre solide et
stable pour leurs interactions, le rôle de l'État étant d'être le gardien de l'intégrité
du système<fnref n="50" /> ». Et dans son rôle de gardien, l'État joue accessoirement le rôle du
gestionnaire ou de l'intendant pour combler les lacunes d'efficacité du droit
lorsque cela est nécessaire<fnref n="51" />.

Au préalable, rappelons aussi que la réunion de la gouverne juridique à la
gouverne managériale, existant chacune dans un continuum, forme un socle
unique sur lequel s'appuie le pouvoir d'action étatique. Afin de s'inscrire dans le
projet « eunomic » de Fuller, aucune des deux gouvernes ne doit se retrouver dans
un état absolu<fnref n="52" />. Voilà qui laisse sous-entendre que, et ce, même lorsque l'État
exerce ses fonctions managérialles, l'« efficacité » en contexte étatique a une

<footnote n="47">⁴⁷ K. WINSTON, préc., note 20, p. 48.</footnote>

<footnote n="48">⁴⁸ Id., p. 3.</footnote>

<footnote n="49">⁴⁹ K. RUNDLE, préc., note 15, p. 193.</footnote>

<footnote n="50">⁵⁰ L. L. FULLER, préc., note 13, p. 214.</footnote>

<footnote n="51">⁵¹ Id., p. 178.</footnote>

<footnote n="52">⁵² K. RUNDLE, préc., note 15.</footnote>
portée différente qu’en contexte d’entreprise. Un État de droit qui émet une
directive devra, par extension, émettre un cadre délimitant son pouvoir d’action
pour assurer la viabilité des liens de réciprocité unissant les justiciables dans leur
autonomie<fnref n="53" />. À l’inverse, une gouvernance exclusivement juridique pourrait
s’avérer inefficace au point de brimer les relations « inter-citoyennes »<fnref n="54" />. Eu égard
à tout cela, nous voyons que la gouvernance managériale chez Fuller fonctionne
donc comme correctif servant à combler les lacunes d’efficacité inévitables
engendrées par une gouvernance juridique, et non comme la charpente
structurant les relations sociales.

L'équilibre semble ainsi passer par un cadre restrictif, ce dernier n'étant
néanmoins pas clairement défini. Cette incertitude s'explique par le fait que, pour
Fuller, le ratio d'équilibre droit/management ne s'apprécie pas globalement,
mais varie selon les différents domaines d'actions étatiques de sorte que Fuller se
contente de pointer que, sur une échelle, les domaines du droit criminel et de la
répression du crime se rapprochent sans doute le plus de l'archétype du droit
« authentique » et, à l'inverse, la fiscalité, quant à elle, de l'extrême managérial<fnref n="55" />.
Comme chaque institution étatique possède sa propre intégrité, « [c]'est une
grave erreur, écrit Fuller, de traiter les questions de conception et d'administration
de nos institutions comme si le problème consistait simplement à mettre en
balance des fins substantielles<fnref n="56" /> ». C'est donc dire qu'au sein de chaque institution
étatique, il y a une part de « management » et une part de « juridique » qui
fluctuent en fonction du domaine d'activité et de la fin recherchée. Or, même si
cet équilibre ne s'atteint pas par un calcul d'utilité total, la gouverne juridique
doit, en revanche, prévaloir, sans quoi les individus ne seraient plus conçus
comme des agents libres, car moralement responsables.

C'est ainsi que, dans *Legislation and Governance*, un essai extrapolant à
partir des idées « eunomics » et du concept de législation chez Fuller pour
développer « *the scope of implicit administrative normativity and the problem of
legal pluralism* », Roderick A. Macdonald s'attaque à la problématique de la
conjugaison de la gouvernance proprement juridique à celle managériale. Il
écrit : « [*t]he distinction between legislation and managerial direction is, in
practice, less sharp than is often thought: both rest on a legitimating standard that
combines elements of power and rationality*<fnref n="57" /> ». Si, certes, la ligne de démarcation
entre droit et gouvernance managériale ne s'avère pas aussi patente et tangible
que nous l'espérions, l'objet de Fuller n'est pas la quantification de leur part
respective dans une logique antagoniste, mais bien leur réunion dans un projet
commun et harmonieux. Pour atteindre ce point d'équilibre flexible et en constant

<footnote n="53">⁵³ L. L. FULLER, préc., note 13, p. 216.</footnote>

<footnote n="54">⁵⁴ Id., p. 182.</footnote>

<footnote n="55">⁵⁵ Id., p. 177 et 182.</footnote>

<footnote n="56">⁵⁶ Id., p. 185.</footnote>

<footnote n="57">⁵⁷ Roderick A. MACDONALD, « Legislation and Governance », dans W. WITTEVEEN et W. van der BURG (dir.), préc., note 18, p. 283 et 284.</footnote>
changement selon les différentes périodes historiques et les institutions en place,
Fuller commande tout simplement à l'État, qui, rappelons-le, est le fruit des
relations citoyennes, de s'autolimiter par un cadre restrictif (adapté à chaque
situation) dans l'exercice de ses fonctions. L'efficacité en droit passe par un peu
de management contrôlé afin de ne pas brimer la résultante de la gouvernance
juridique, soit l'agentivité. Élaborée par Fuller dans son essai Means and Ends, la
question à laquelle nous devons apporter une réponse positive pour savoir si le
ratio est respecté est la suivante : « [d]oes this institution, in a context of other
institutions, create a pattern of living that is satisfying and worthy of man's
capacities?<fnref n="58" /> ».

Suivre cette indication permettra, selon R. Macdonald, de rétablir une
partie de la confiance déclinante du public dans la capacité de l'État à générer
une gouvernance optimale et raisonnable, à l'aune de théories et mouvements
récents (postmodernisme, néoconservatisme et théories critiques) qui conçoivent
le phénomène de la régulation étatique comme émanant principalement de
l'arbitraire d'un dirigeant<fnref n="59" />. Il s'agit donc de démentir, comme l'indique David
Dyzenhaus, l'affirmation appréhendant la « legal authority as an institution which
comes into being to maximize the efficacy of command structures in a complex
society » pour lui préférer celle la percevant « as an institution designed to serve a
commitment by government to citizen<fnref n="60" />». Car, dans le méliorisme de Fuller, « what
managerial view fails to see is the centrality of the relationship of mutual
commitment between ruler and ruled in establishing and maintaining legal
order<fnref n="61" />».

Dans sa note éditoriale de l'essai *Two Principles of Human Association*, K. Winston relève, à juste titre, le scepticisme de Fuller envers un contrôle législatif vertical fondé sur la notion d'intérêt public ou de bien commun, et ce, bien que ce contrôle réponde d'une majorité démocratique<fnref n="62" />. Si nous avons mentionné plus haut que chaque institution et domaine d'action étatiques possède ses fins respectives, il est néanmoins impératif de comprendre que ces fins sont procédurales seulement. Car, selon Fuller, la seule fin qui doit être réellement cherchée par l'État est celle qui permet aux citoyens d'exercer, par le lien de réciprocité les unissant, leur liberté d'association respective<fnref n="63" />. « The result is an impersonal scheme of duties and entitlements, without the imposition of specific ends by legislators<fnref n="64" />. » C'est en cela que Fuller, en comparant le droit à la méthode scientifique – la science conçue comme méthode menant à la vérité scientifique sans qu'elle puisse prétendre prescrire ladite vérité –, voit dans le droit

<footnote n="58">⁵⁸ L.L. FULLER, « Means and Ends », préc., note 20, p. 68 et 69.</footnote>

<footnote n="59">⁵⁹ R. MACDONALD, préc., note 57, p. 281.</footnote>

<footnote n="60">⁶⁰ David DYZENHAUS, « Fuller's Novelty », dans W. WITTEVEEN et W. van der BURG (dir.), préc., note 18, p. 94.</footnote>

<footnote n="61">⁶¹ Id.</footnote>

<footnote n="62">⁶² K. WINSTON, préc., note 20, p. 81.</footnote>

<footnote n="63">⁶³ Id.</footnote>

<footnote n="64">⁶⁴ Id.</footnote>
une procédure qui doit faciliter les interactions entre les citoyens, qui eux
détermineront les fins qu'ils veulent poursuivre sans se les faire imposer<fnref n="65" />. Tout
compte fait, à la question du ratio optimal entre droit/gouvernance managériale,
la réponse de Fuller serait assurément celle qui maximise l'agentivité (en gardant
à l'esprit qu'un brin de management répond de cette fin).

Dans cette première partie, nous avons présenté le cadre d'analyse offert
par Lon L. Fuller qui, sous un pouvoir d'action étatique unique, regroupe une
gouverne de type managériale et une gouverne par le droit. La première se doit
d'être subsidiaire à la lacunaire structure relationnelle érigée par la seconde afin
que la société soit constituée d'agents libres, car moralement responsables. De
façon générale, voici donc les éléments qui permettront de répondre à
l'hypothèse posée initialement selon laquelle les enjeux récents provoqués par
l'introduction de l'IA dans l'application non contentieuse du droit ne sont, en fait,
qu'une réactualisation du problème plus fondamental qu'est le « design
institutionnel ».

## 2. Transformation de l'administration publique par l'IA : glissement vers une application préventive du droit

Dans son étude des répercussions juridiques de la combinaison de l'IA aux
techniques commerciales de manipulation béhaviorale dans les différents
réseaux sociaux, Michal Lavi soutient que la Big Data, l'IA et l'Internet of Things
occupent une telle place qu'ils « enable hyperinfluence on a scale like never
before<fnref n="66" /> » . C'est en cela que l'utilisation de l'IA par l'administration publique
exhorte une réflexion sur les cadres du droit ainsi que sur ses structures. Il s'agit
donc, dans cette deuxième partie, de comprendre comment l'IA est employée
dans la sphère étatique afin de savoir si cette façon de procéder répond d'une
logique d'application non contentieuse préventive (managériale) des normes
juridiques et étatiques.

Avant d'élaborer notre analyse, situons d'abord l'IA et les algorithmes au
sein de l'action étatique. Selon Daniel Mockle, bien que l'État utilise parfois les
algorithmes pour l'anonymisation et le cryptage, il les emploie surtout « à des
fonctions de recherche en vue de simulation et de projection<fnref n="67" /> ». Autrement dit,
D. Mockle précise que les algorithmes sont « davantage associés à l'atteinte d'un
résultat qui a une fonction prédictive<fnref n="68" /> ». En France, ce sont principalement les
domaines de la santé, de la police et de l'action administrative (enseignement,

<footnote n="65">⁶⁵ L.L. FULLER, « Two Principles of Human Association », préc., note 20, p. 86.</footnote>

<footnote n="66">⁶⁶ Michal LAVI, « Evil Nudges », (2018) 21 Vanderbilt Journal of Entertainment & Technology Law 1, 6.</footnote>

<footnote n="67">⁶⁷ Daniel MOCKLE, « La question du droit dans la transformation numérique des administrations publiques », (2019) 49 R.D.U.S. 233, 282 et 283.</footnote>

<footnote n="68">⁶⁸ Id.</footnote>
aide sociale, emploi et fiscalité) qui monopolisent l'utilisation de l'IA<fnref n="69" />. Aux États-Unis, selon l'étude de Cary Coglianese et de Lavi M. Ben Dor, les algorithmes se retrouvent aussi dans ces domaines, quoiqu'ils ratissent un peu plus large, couvrant par exemple l'évaluation des demandes de brevet<fnref n="70" />. Cependant, au lieu de simplement lister les utilisations de l'IA par l'administration publique, nous allons bâtir notre analyse à partir de la recension des outils algorithmiques mis en place ou en développement au Canada, aux États-Unis, en France et au Royaume-Uni effectuée par Tomas Vazquez Rojas en 2021. N'ayant pas de prétentions d'exhaustivité, son travail est néanmoins suffisamment imposant pour voir et comprendre les tendances qui se dessinent. Il va comme suit : 28 outils algorithmiques sont associés au Royaume-Uni, 27 aux États-Unis, 17 au Canada et 15 à la France<fnref n="71" />. « [...] [L]es domaines de l'ordre et la sécurité publics (37 outils), la protection sociale (18 outils) et la santé (10 outils) sont les domaines où l'on trouve plus d'outils algorithmiques. Les services de police sont le sous-domaine présentant le plus d'outils algorithmiques (19 outils)<fnref n="72" />. » Si « algorithmes » englobe plus large qu'« IA », T. Vazquez Rojas identifie quand même 23 outils fonctionnant par apprentissage machine (machine learning) – une branche de l'IA. Pour ce qui est des 22 outils fonctionnant par la méthode de l'analyse prédictive, des 22 par la méthode des systèmes multi-agents et des 10 par la méthode des systèmes d'experts<fnref n="73" />, si nous ne pouvons pas les assimiler à de l'IA sur le champ (il faudrait les analyser un par un), nous pouvons toutefois affirmer que ces algorithmes servent les mêmes fins d'optimisation et de prévention que l'IA.

À la lueur de ce qui précède, il appert que, à lui seul, le domaine de la répression du crime revendique plus de la moitié des ressources algorithmiques étatiques. Un rapport anglais portant sur cette sphère précise d'activités confirme l'utilisation généralisée et croissante de ces outils<fnref n="74" /> (ces derniers étant l'analyse photographique et vidéo par la reconnaissance faciale, le profilage ADN<fnref n="75" />, l'évaluation et prédiction des risques individuels (surtout en matière de récidive)<fnref n="76" />, la cartographie prédictive de la criminalité<fnref n="77" />, les outils d'extraction de données

<footnote n="69">⁶⁹ Id., citant Sonia DESMOULIN-CANSELIER et Daniel LE MÉTAYER, Décider avec les algorithmes. Quelle place pour l'Homme, quelle place pour le droit?, coll. « Les Sens du droit », Paris, Dalloz, 2020, p. 23 et s. Daniel BOURCIER et Primavera DE FILIPPI, « Transparence des algorithmes face à l'open data : quel statut pour les données d'apprentissage? », (2018) 167 Revue française d'administration publique 525.</footnote>

<footnote n="70">⁷⁰ Voir Cary COGLIANESE et Lavi M. BEN DOR, « AI in Adjudication and Administration », (2020) Faculty Scholarship at Penn Law 2118, p. 20 à 25, pour plus d'exemples d'application dans les entités gouvernementales états-uniennes.</footnote>

<footnote n="71">⁷¹ Tomas VAZQUEZ ROJAS, « Projet de recherche Algorithmes et administration publique – rapport sur l'inventaire d'outils », (2021) Laboratoire de cyberjustice – document de travail n° 29, p. 5.</footnote>

<footnote n="72">⁷² Id., p. 10.</footnote>

<footnote n="73">⁷³ Id.</footnote>

<footnote n="74">⁷⁴ Michael VEALE et al., Algorithms in the Criminal Justice System, The Law Society, 2019, p. 33.</footnote>

<footnote n="75">⁷⁵ Id., citant Aaron O. AMANKWAA et Carole MCCARTNEY, « The UK National DNA Database: Implementation of the Protection of Freedoms Act 2012 », (2018) 284 Forensic Science International 117.</footnote>

<footnote n="76">⁷⁶ Id., citant Robin MOORE (dir.), « A Compendium of Research and Analysis on the Offender Assessment System », (2015) Ministry of Justice Analytical Series et Jay P. SINGH et al. (dir.), Handbook of Recidivism Risk/Needs Assessment Tools, Hoboken (N.J.), Wiley Blackwell, 2018.</footnote>

<footnote n="77">⁷⁷ Id., citant Walter L. PERRY et al. (dir.), Predictive Policing: The Role of Crime Forecasting in Law Enforcement Operations, RAND Corporation, 2013.</footnote>
de téléphones portables<sup>78</sup> et l'extraction de données des médias sociaux<sup>79</sup>). Un rapport de la Nouvelle-Zélande corrobore cette fois la présence accrue de l'IA dans la sphère du droit criminel, qui revendique un éventail d'utilisations beaucoup plus large que les autres domaines : « from policing to decisions about sentencing, parole and post-sentence detention<sup>80</sup> ».

D'un point de vue technique, l'IA – cette dernière d'ailleurs souvent incarnée par la sous-branche du machine learning (ci-après « ML ») dans ses applications étatiques et juridiques<sup>81</sup> –, se conçoit en une ramification des sciences informatiques qui mobilise différents modèles statistiques et mathématiques afin d'analyser des ensembles de données dans le but qu'un programme apprenne par lui-même à inférer des conclusions et à exécuter diverses tâches<sup>82</sup>. Si, d'une part, l'IA bonifie l'efficacité de nos prises de décisions, elle accroît, d'autre part, une opacité, ce qui implique une difficulté, voire une impossibilité dans certains cas, et bien que des travaux importants soient en cours à ce sujet (XAI)<sup>83</sup> quant à l'accès aux liens ou aux corrélations effectués par le programme informatique. Même si le ML peut être contrôlé partiellement par des processus d'apprentissage supervisé<sup>84</sup> ou par renforcement<sup>85</sup>, sa puissance computationnelle relative au traitement de l'information éclipse la nôtre. Le programme est donc à même de faire des liens et des corrélations qui ne peuvent pas être compris par l'humain. En d'autres termes, l'IA fonctionne par classification<sup>86</sup>, et comme les critères de classification ne sont pas toujours accessibles ou compréhensibles, une opacité éminente découle de l'utilisation de cet outil.

## 2.1. Vers une normativité (a)juridique

Une application algorithmique (ou par l'IA) du droit, en raison de ses caractéristiques propres, semble marquer un changement de paradigme

<footnote n="78"><sup>78</sup> Id., citant PRIVACY INTERNATIONAL, *Digital Stop and Search: how the UK police can secretly download everything from your mobile phone*, Londres, Privacy International, 2018.</footnote>

<footnote n="79"><sup>79</sup> Id., citant Lilian EDWARDS et Lachlan URQUHART, « Privacy in Public Spaces: What Expectations of Privacy Do We Have in Social Media Intelligence? », (2016) 24 *International Journal of Law and Information Technology* 279.</footnote>

<footnote n="80"><sup>80</sup> Colin GAVAGHAN et al. (dir.), *Government Use of Artificial Intelligence in New Zealand*, Wellington, New Zealand Law Foundation, 2019, p. 20.</footnote>

<footnote n="81"><sup>81</sup> Mireille HILDEBRANDT, « Law as Information in the Era of Data-Driven Agency », (2016) 79 Mod. L. Rev. 1, 9 et 10.</footnote>

<footnote n="82"><sup>82</sup> Pour plus d'informations concernant le fonctionnement du ML, voir notamment Mireille HILDEBRANDT, « The Issue of Bias. The Framing Powers of ML », dans Marcello PELILLO et Teresa SCANTAMBURLO (dir.), *Machines We Trust, Perspectives on Dependable AI*, Cambridge (Mass.), MIT Press, 2021.</footnote>

<footnote n="83"><sup>83</sup> Voir notamment M. E. KAMINSKI, « The Right to Explanation, Explained », (2019) 34 *Berkeley Tech. L.J.* 189.</footnote>

<footnote n="84"><sup>84</sup> L'ordinateur déduit la fonction à partir d'exemples identifiés préalablement. Voir notamment Carolin KEMPER, « Kafkaesque AI? Legal Decision-Making in the Era of Machine Learning », (2020) 24(2) *Intell. Prop. & Tech. L. J.* 251, 254 à 259.</footnote>

<footnote n="85"><sup>85</sup>id. Le corollaire numérique du béhaviorisme comportemental – apprentissage par rétroaction positive ou négative.</footnote>

<footnote n="86"><sup>86</sup> Nous pouvons penser aux fonctions et algorithmes populaires suivants : Nearest-neighboor classification, perceptron learning, support vector machine, les régressions (logistiques, par exemple), k-means clustering, Markov decision processes ou le Q-learning. Voir Alejandro B. ARRIETA et al., « Explainable Artificial Intelligence (XAI): Concepts, Taxonomies, Opportunities and Challenges toward Responsible AI », (2019) en ligne : https://www.researchgate.net/publication/336734529, p. 10 à 28.</footnote>
important. Cette façon de procéder, soit par classement des individus en fonction
d'une note obtenue à partir de situations factuelles ou béhaviorales, promet la
réduction des ressources étatiques déployées pour atteindre les objectifs fixés par
un gouvernement, le tout avec un traitement individualisé. Néanmoins, nous
apercevons dans une telle façon de faire, à l'instar de Danielle Keats Citron et de
Frank Pasquale, une modification substantielle de la normativité juridique. Dans
leur article, par analogie à l'outil financier de la cote de crédit, ils constatent que
«[w]hen scoring systems have the potential to take a life of their own, contributing
to or creating the situation they claim merely to predict, it becomes a normative
matter, requiring moral justification and rationale<sup>87</sup> ». Ils craignent qu'une
administration publique carburant à l'IA finisse par se déresponsabiliser. Ils y voient
aussi une atteinte flagrante à l'équité procédurale. Pour notre part, nous
remarquons surtout deux éléments. D'abord, ce fonctionnement par profilage
statistique classificateur prive le droit de ce que François Ost lui reconnaît de plus
précieux, soit une acception décentrée et impersonalisée de l'individu<sup>88</sup>. Ensuite,
une telle gouvernance n'aborde pas directement le justiciable par des règles
générales de comportement, mais le confine plutôt au rôle d'un observateur qui,
en apposant un regard externe sur le fonctionnement de sa société, doit
déchiffrer la multiplicité de règles qui sont le produit d'une normativité nouvelle
déterminée en partie par le programme informatique. L'emploi de l'IA dans la
détection d'infractions pénales, par exemple, risque ainsi de moduler, voire de
multiplier, les éléments constitutifs des infractions sans toutefois les communiquer
explicitement. Voilà qui déforme les caractéristiques d'abstraction et de
généralité normalement associées au concept de la norme juridique.

En ce sens, une discordance philosophique autour de la conception de la
norme juridique se dresse timidement à l'horizon. Nous observons la résurgence
d'un nominalisme normatif, c'est-à-dire « d'une approche du droit positif sous
l'angle de ses effets «observables»"<fnref n="89" /> », d'une approche empirique de la
normativité. Cette approche, bref, s'oppose à une théorisation idéaliste plus
classique de la normativité juridique, celle-ci s'adressant à l'autonomie des
citoyens et souhaitant leur inculquer un certain devoir-être, sans pour autant
prendre appui sur le monde empirique<fnref n="90" />. Selon nous, une application du droit
accrue par l'IA entraîne une dérive vers le courant du nominalisme normatif,
puisque la teneur réelle et concrète de normes juridiques est de plus en plus
factuellement imposée par le programme informatique plutôt qu'interprétée par
l'entendement humain. En effet, la substance de ces nouvelles règles que l'IA doit
déterminer et trancher pour fonctionner effectivement ne peut être découverte
que par des études empiriques. Ces règles ne découlent donc pas de « devoirs-

<footnote n="87">⁸⁷ Danielle K. CITRON et Frank PASQUALE, « The Scored Society: Due Process for Automated Predictions », (2014) Wash. L. Rev. 1, 18.</footnote>

<footnote n="88">⁸⁸ François OST, À quoi sert le droit? Usages, fonctions finalité, Bruxelles, Éditions Bruylant, 2016, p. 42 à 47.</footnote>

<footnote n="89">⁸⁹ Maxime ST-HILAIRE, Les positivismes juridiques au XXe siècle, Normativismes, sociologismes, réalismes, coll. « Dikè », Québec, Presses de l'U. Laval, 2020, p. 47.</footnote>

<footnote n="90">⁹⁰ Id., p. 45.</footnote>
être » idéels et généraux; elles ne sont pas adoptées par les justiciables libres, mais
bon prescrites par le programme, et donc révélées par le biais d'observations.
Les promesses de justesse décisionnelle et d'efficacité (rendues possibles par les
probabilités et les statistiques)<fnref n="91" /> que promulgue l'IA ne peuvent se réaliser qu'en
suppléant un sens descriptif à la loi<fnref n="92" />.

Il semblerait néanmoins soutenable, en nous appuyant sur les écrits de
Mireille Hildebrandt, qui, elle, s'inspire des travaux de Oliver W. Holmes, de
respecter le projet de Fuller malgré ce glissement nominaliste. Nous devrions alors
veiller à ce que « the legal knowledge engineers who develop the algorithms to
delve and further develop legal knowledge should primarily serve those subject
to the law, not first and foremost those administering the law<fnref n="93" /> ». Cependant,
l'utilisation étatique de l'IA, déplore Ian Kerr, est généralement pervertie au profit
du pouvoir institutionnel qui applique et administre le droit. « [...] [C]urrent
applications of ML, for instance on the side of tax and criminal justice authorities,
are used to anticipate and potentially to pre-empt the behaviours of legal
subjects<fnref n="94" /> », écrit-il. Il ressort de cette « manipulation » par normativité factuelle le
délaissement de l'intention, un pilier de la norme juridique. Ce renoncement à cet
élément fondamental de la norme véritablement juridique risque alors d'amplifier
une asymétrie entre l'État et les sujets de droit, ce qui restreindra l'étendue de
l'autonomie citoyenne.

## 2.2. L'« administrativisme » préventif

La tendance nominaliste qui se dégage de l'emploi de l'IA appuie donc
une application préventive et unilatérale des normes étatiques et juridiques. Il est
raisonnable de prospecter que la numérisation des fonctions étatiques<fnref n="95" />
focalisera les efforts de l'État à minimiser le nombre de violations aux normes
promulguées, ce qui transformera davantage le citoyen, perçu comme sujet, en
objet.

Comme nous l'avons énoncé précédemment, au sein de l'État, l'IA est
consignée à la sphère occupée actuellement par les entités administratives ou

<footnote n="91">⁹¹ Monika ZALNIERIUTE, Lyria BENNETT MOSES et Georges WILLIAMS, « The Rule of Law 'By Design'? », (2021) 95(3) *Tulane L. R.* 1063,1077-1078.</footnote>

<footnote n="92">⁹² Les défunts réalismes américains et scandinaves – qui croyaient que les sciences sociales et naturelles permettraient l'élucidation de la réalité se cachant derrière les normes juridiques positives – pourraient se voir raviver en raison de la justesse prédictive de certains programmes d'IA et de tout le courant de la justice « prédictive ». Sur les réalismes, voir notamment M. ST-HILAIRE, préc., note 89, p. 45 à 62, et sur la prédiction des décisions judiciaires et administratives, voir notamment Frank PASQUALE et Glyn CASHWELL, « Prediction, persuasion, and the jurisprudence of behaviourism », (2018) 68 U. of Toronto L.J. 63. Voir aussi Mustapha MEKKI, « Les fonctions de la responsabilité civile à l'épreuve du numérique : l'exemple des logiciels prédictifs », (2020) 12 *Dalloz IP/IT* 672.</footnote>

<footnote n="93">⁹³ M. HILDEBRANDT, préc., note 81, 10.</footnote>

<footnote n="94">⁹⁴ Id. citant Ian KERR, « Prediction, Preemption, Presumption: The Path of Law After Computational Turn », dans M. HILDEBRANDT et K. DE VRIES (dir.), *Privacy, Due Process and the Computational Turn: The Philosophy of Law Meets the Philosophy of Technology*, Abingdon, Routledge, 2013, p. 91.</footnote>

<footnote n="95">⁹⁵ Daniel Mockle mentionne que « [l]a transition numérique des administrations publiques constitue une réalité empirique ». D. MOCKLE, préc., note 67, 229.</footnote>
gouvernementales et la raison principale qui motive sa présence est l'optimisation de la gestion des ressources étatiques. Soulignons que cette recherche d'efficacité se recoupe avec le prétexte justifiant la déférence occasionnelle qu'accorde le droit classique au « droit » administratif <fnref n="96" />. Si cette déférence est certes légitimée à bon escient, l'« administrativisme » – une grande délégation de pouvoirs aux administrations publiques, l'État administratif (administrative state) dans sa forme la plus totale – se popularise en tant que mode d'application du « droit »<fnref n="97" />. C'est du moins ce qu'Adrian Vermeule affirme en écrivant qu'un changement volontaire de paradigme s'est déjà produit : « *the triumph of the administrative state paradoxically occurred as a voluntary abnegation of authority by the law, on terms dictated by law itself, based on considerations internal to the law*<fnref n="98" /> ». Si cette déclaration s'accompagne évidemment de maintes objections en littérature<fnref n="99" />, il est néanmoins impératif de reconnaître que l'IA appuie une tendance gestionnaire. En effet, elle promet aux agences gouvernementales de les libérer, en partie, de la lenteur bureaucratique, l'une de leurs plus importantes limites. C'est donc dire que, sans cadre législatif restrictif, le « fétichisme technologique »<fnref n="100" /> actuel confierait aux autorités administratives une prise amplifiée sur l'environnement normatif et règlementaire.

Pourtant, sans l'IA, la seule prépondérance de l'État administratif sur l'État de droit ne mènera point au parachèvement d'un contrôle populationnel préventif (dans l'hypothèse qu'il serait impopulaire et arbitraire). En effet, s'ils ne peuvent pas compter sur une observance majoritairement volontaire des normes de la part des justiciables, les agents étatiques humains chargés de les faire respecter sont en infériorité numérique trop critique, autant dans un État de droit que dans un État administratif, pour imposer entièrement leur volonté<fnref n="101" />. Par conséquent, il faut conclure que c'est la technologie qui, par la modélisation de profils sociétaux et sociaux, outille ces agents et, du même coup, élargit leur prérogative d'action et de contrôle. Certaines tendances paternalistes qui aspirent à une application « parfaite » du droit se nourrissent de cette nouvelle possibilité qu'offre l'IA. À cet égard, Michael L. Rich indique qu'un « perfect preventive state » risque de voir le jour. Ce dernier « attempts to identify and neutralize dangerous individuals before they commit crimes by restricting their liberty in a variety of ways<fnref n="102" /> ». Le cas de l'algorithmic copyright enforcement est

<footnote n="96">⁹⁶ Voir C. SUNSTEIN et A. VERMEULE, préc., note 12.</footnote>

<footnote n="97">⁹⁷ Id.</footnote>

<footnote n="98">⁹⁸ Adrian VERMEULE, Law's Abnegation, Cambridge, Harvard University Press, 2016, p. 209.</footnote>

<footnote n="99">⁹⁹ Voir notamment Philip HAMBURGER, *Is Administrative Law Unlawful?*, Chicago, University of Chicago Press, 2014.</footnote>

<footnote n="100">¹⁰⁰ Étiquette apposée par l'auteur afin de qualifier la relation qu'ont les États occidentaux avec les nouvelles technologies. John MORISON, « Towards a Democratic Singularity? Algorithmic Governmentality, the Eradication of Politics – and the Possibility of Resistance », dans Simon DEAKIN et Christopher MARKOU (dir.), *Is Law Computable? Critical Perspectives on Law and Artificial Intelligence*, Londres, Hart Publishing, 2020, p. 85, à la p. 86.</footnote>

<footnote n="101">¹⁰¹ H. L. A. HART, préc., note 3, p. 40. « Mais ces situations simples ne constituent pas, et ne sauraient constituer, le mode de fonctionnement courant du droit, ne serait-ce qu'en raison du fait qu'aucune société ne pourrait entretenir le nombre de fonctionnaires nécessaire pour que chaque membre de la société soit officiellement et personnellement informé de tous les actes qu'on lui enjoindrait d'accomplir. »</footnote>

<footnote n="102">¹⁰² Michael L. RICH, « Limits on the Perfect Preventive State », (2014) 46 *Connecticut L. Rev.* 883, 883.</footnote>
illustratif. Suivant l'affirmation de Lawrence Lessig, « code is law »<fnref n="103" />, signifiant que la structure d'Internet est essentiellement normative, des sites de publication de contenu multimédia mobilisent l'IA afin de supprimer automatiquement des vidéos qu'ils jugent contrefacteurs en faveur de certains titulaires de droit d'auteur, ce qui rend la violation à cette infraction presque impossible<fnref n="104" />.

Dans une telle logique administrativiste, l'IA élargit davantage les pourtours revendiqués par une gouvernance de type managériale. Une telle application unilatérale du droit prévient les violations aux normes par induction comportementale et dissipe toute prise en considération de la norme par un destinataire.

## 2.3. Nouvel écho du débat nudge/rule of law

Une étude de l'application non contentieuse du droit exige de réfléchir aux effets de la jonction IA et nudge – « méthodes d'influence » en français. Car si l'IA se popularise tranquillement au sein des administrations publiques, le nudge – continuation d'une logique « administrativiste » – y semble déjà bien ancré. Nous affirmons cela en faisant reposer notre propos sur une recherche anglaise menée par Ben Collier et ses collègues. « Our empirical research shows that these advanced marketing techniques are now being incorporated into the business of government and law enforcement<fnref n="105" /> », écrivent-ils. À ce jour, le Royaume-Uni<fnref n="106" />, les États-Unis<fnref n="107" /> et l'Australie<fnref n="108" />, notamment, se sont dotés d'unités gouvernementales portant sur les études des comportements citoyens. Combiné au virage « béhavioral », celui « algorithmique » « represents a novel, powerful, and in some cases potentially concerning frontier of government policy<fnref n="109" /> », renchérisse les chercheurs anglais. Comme il semble émerger de la communion du nudge à l'IA un ensemble de pratiques qui pourrait très certainement s'établir en tant que comble de la gouvernance managériale, attardons-nous à en comprendre les implications.

Si, en 1859, John Stuart Mill libéralisait l'utilitarisme de Jeremy Bentham par l'élaboration de son harm principle<fnref n="110" />, Cass R. Sunstein le reprit et le modula en

<footnote n="103">¹⁰³ Lawrence LESSIG, Code, Version 2.0, New York, Basic Books, 2006, p. 32. « Whether cyberspace can be regulated depends upon its architecture. The original architecture of the Internet made regulation extremely difficult. But that original architecture can change. »</footnote>

<footnote n="104">¹⁰⁴ Maayan PEREL et Niva ELKIN-KOREN, « Black Box Thinkering: Beyond Disclosure in Algorithmic Enforcement », (2017) 69 Florida L. Rev. 182, 202 et 203.</footnote>

<footnote n="105">¹⁰⁵ Ben COLLIER, « Influence government: Exploring practices, ethics, and power in the use of targeted advertising by the UK state », (2022) Big Data & Society 1, 1.</footnote>

<footnote n="106">¹⁰⁶ Behavioural Insights Team, aussi connue sous le nom The Nudge Unit. https://www.bi.team/about-us-2/</footnote>

<footnote n="107">¹⁰⁷ Benjamin WALLACE-WELLS, « Cass Sunstein Wants to Nudge Us », New York Times (3 mai 2010) [en ligne] : https://www.nytimes.com/2010/05/16/magazine/16Sunstein-t.html</footnote>

<footnote n="108">¹⁰⁸ NSW Behavioural Insights Unit. https://www.nsw.gov.au/behavioural-insights-unit</footnote>

<footnote n="109">¹⁰⁹ Ben COLLIER, préc., note 105, 11.</footnote>

<footnote n="110">¹¹⁰ John Stuart MILL, On Liberty, Londres, The Walter Scott Publishing Co., 1859, p. 18. « [...] [T]he only purpose for which power can be rightfully exercised over any member of a civilised community, against his will, is to prevent harm to others. »</footnote>
2014 afin d'asseoir conceptuellement le nudge, un paternalisme « libertarien »<fnref n="111" /> qui manipule en toute transparence les citoyens vers de meilleurs choix de vie<fnref n="112" />. En s'appuyant sur « l'économie béhaviorale »<fnref n="113" />, C. Sunstein conclut que, en raison de la complexité de la société occidentale contemporaine, les citoyens n'ont généralement pas accès à l'ensemble des informations pertinentes pour prendre des décisions éclairées et commettent donc des erreurs qui ont des répercussions importantes sur leur vie personnelle. Il propose par conséquent de les guider dans la bonne direction par différentes manœuvres de « soft paternalism » <fnref n="114" />, autrement dit des « coups de pouce », comme des mises en garde ou des règles par défaut<fnref n="115" />.

Alors que la bienveillance de C. Sunstein se présume certainement, la connotation « manipulatrice » de la mobilisation du savoir behavioral permettant de modifier certains comportements réputés préjudiciables laisse Jeremy Waldron, porte-parole de la Rule of Law dans ce débat, dubitatif<fnref n="116" />. Ces enjeux touchent à la dignité individuelle<fnref n="117" />. De fait, il exprime la crainte que, en pratique, l'État utilise le nudge pour manipuler les citoyens vers les fins qu'il a préétablies plutôt que de fidèlement cultiver l'autonomie de jugement comme il promet de le faire. « What matters above all for the use of these nudges », interprète J. Waldron, « is appropriate behavior, and the authorities should try to elicit it by whatever informational nudge is effective. We manipulate things so that we get what would be the rational response to true information by presenting information that strictly speaking is not relevant to the decision<fnref n="118" />. » Comment donc s'assurer que la fin prédéterminée par l'État est la bonne pour chaque individu? Conséquemment, comment garantir que cette asymétrie d'informations qu'entretient le nudge n'est pas corrompue? L'absence de réponse satisfaisante force J. Waldron à préférer une approche affluant vers l'autonomie individuelle.

Nous observons que l'intérêt de l'État pour l'IA s'inscrit dans le prolongement de la logique managériale ayant mené aux nudges en premier lieu. Bien plus, « l'économie béhaviorale » existait peut-être même dans une phase embryonnaire et attendait son mariage avec « l'usage de ces savoirs probabilistes statistiques à des fins d'anticipation des comportements individuels, qui sont rapportés à des profils définis sur la base de corrélations découvertes par

<footnote n="111">¹¹¹ À noter ici que « libertarien » est le terme employé par l'auteur. À notre humble avis, il semble un peu fort.</footnote>

<footnote n="112">¹¹² Cass R. SUNSTEIN, Why Nudge? The Politics of Libertarian Paternalism, New Haven, Yale U. Press, 2015, p. 5 et 16. Voir aussi Richard H. THALER et Cass R. SUNSTEIN, Nudge: Improving Decisions About Health, Wealth, and Happiness, Londres, Penguin Books, 2009.</footnote>

<footnote n="113">¹¹³ Id., p. 8.</footnote>

<footnote n="114">¹¹⁴ Voir notamment Cass R. SUNSTEIN, John. P. BALZ et Richard H. THALER, « Choice Architecture », (2010), en ligne : http://ssrn.com/abstract=1583509.</footnote>

<footnote n="115">¹¹⁵ C. R. SUNSTEIN, préc., note 112, p. 20.</footnote>

<footnote n="116">¹¹⁶ Jeremy WALDRON, « It's All for Your Own Good », (2014) The New York Rev., en ligne : https://www.nybooks.com/articles/2014/10/09/cass-sunstein-its-all-your-own-good/.</footnote>

<footnote n="117">¹¹⁷ Id.</footnote>

<footnote n="118">¹¹⁸ Id.</footnote>
datamining<fnref n="119" /> » pour atteindre son plein potentiel. En ce sens, à partir de l'œuvre de Shoshana Zuboff, qui étudie le remaniement des pouvoirs sociaux occasionné par le capitalisme du Big Data<fnref n="120" />, Mariano-Florentino Cuéllar et Aziz Z. Huq dénoncent cette jonction du béhaviorisme à l'application du droit qui amplifiera, en raison d'un inéluctable déséquilibre informationnel, la prérogative décisionnelle que possède l'État sur les administrés<fnref n="121" />. Comme les algorithmes sont suffisamment performants pour peindre des portraits individuels et collectifs permettant aux agents étatiques de prévoir et de contrecarrer les actions et les réactions des administrés<fnref n="122" />, la prévention des violations aux normes étatiques ou « juridiques » s'en voit ainsi maximisée. D'ailleurs, le predictive policing – c'est-à-dire des « data-driven crime analysis techniques that law enforcement agencies are increasingly relying on for crime control and forecasting »<fnref n="123" /> – dérive d'un tel traitement algorithmique des données socioéconomiques. Ces analyses statistiques s'extirpent évidemment de la seule sphère du droit pénal pour s'étendre à l'ensemble des relations « juridiques » entre l'État et le justiciable<fnref n="124" />. L'IA pourra non seulement hauser l'effectivité du nudge, mais aussi promouvoir une structure d'application dite « parfaite » du droit qui, dans l'absolu, empêcherait toute violation aux normes « juridiques » (qu'elles soient civiles ou pénales), laissant ainsi miroiter un certain totalitarisme. En somme, rappelons l'avertissement que prononçait Hannah Arendt bien avant la théorisation du nudge et l'existence de l'IA : « The trouble with modern theories of behaviourism is not that they are wrong but that they could become true<fnref n="125" />. »

En conclusion de cette deuxième section, il appert que, derrière les enjeux de l'introduction de l'IA dans la sphère étatique, se cache une tension plus fondamentale sur la nature de la norme juridique. En effet, nous observons que les entités gouvernementales mobilisent l'IA pour instrumentaliser politiquement le droit. Une telle gouvernance managériale généralisée solidifiera inéluctablement la prérogative de contrôle et de contrainte de l'État sur les citoyens, autrement dit accentuera la prépondérance des normes (a)juridiques administratives sur les normes juridiques « authentiques ». En ce sens, des liens éminents se tracent entre le fait d'embrasser la prévention comme fil directeur et un déséquilibre en faveur d'une gouvernance managériale. La problématique d'un glissement est

<footnote n="119">¹¹⁹ A. ROUVROY et T. BERNS, préc., note 9, 171.</footnote>

<footnote n="120">¹²⁰ Shoshana ZUBOFF, *The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power*, New York, Public Affairs, 2019, p. 222 et 223.</footnote>

<footnote n="121">¹²¹ Mariano-Florentino CUÉLLAR et Aziz Z. HUQ, « Economies of Surveillance », (2020) 133 Harvard L. Rev. 1280, 1323.</footnote>

<footnote n="122">¹²² M. HILDEBRANDT, préc., note 82, p. 13. « ML applications have framing powers that reconfigure our choice architectures in line with whoever pays for them. These framing powers thrive on the force of technology, notably where self-executing code, cleverly constructed interfaces and complex backend systems determine what choices can be made with what invisible consequences. The force of technology is becoming a progressively stronger competitor of the force of law, generating data- and code-driven 'normativities' that citizens and consumers may not be aware of. »</footnote>

<footnote n="123">¹²³ Rashida RICHARDSON, Jason M. SCHULTZ et Kate CRAWFORD, « Dirty Data, Bad Predictions: How Civil Rights Violations Impact Police Data, Predictive Policing Systems, and Justice », (2019) 94 N.Y.U. L. Rev. Online 192, 198, citant Andrew G. FERGUSON, « Policing Predictive Policing », (2017) 94 Wash. U. L. Rev. 1109, 1123 à 43.</footnote>

<footnote n="124">¹²⁴ Voir R. CALO et D. K. CITRON, préc., note 10.</footnote>

<footnote n="125">¹²⁵ Hannah ARENDT, *The Human Condition*, Chicago, U. of Chicago Press, 1958, p. 322.</footnote>
manifeste. La table est donc mise pour tirer leçon des écrits de Fuller, réfléchir concrètement à l'équilibre entre droit et management et restreindre l'IA à sa juste place.

### 3. Freiner la glissade pour construire l'équilibre

Les administrations publiques ne s'en cachent pas : les algorithmes soutiennent le gouvernement dans l'élaboration de politiques nouvelles, innovantes et bien ciblées pour atteindre ses objectifs<fnref n="126" />. Cette mise en exergue est tirée d'un rapport gouvernemental néo-zélandais sur leur utilisation des algorithmes. La contravention aux enseignements de Fuller est ici patente. Ce dernier, rappelons-le, mentionnait que de comprendre le droit uniquement « comme une manifestation factuelle de l'autorité ou du pouvoir social, à étudier pour ce qu'il est et ce qu'il fait<fnref n="127" /> » milite en faveur de son instrumentalisation politique et revient à l'éradiquer. Mais l'IA en droit public est-elle donc nécessairement pathologique? Il semblerait pourtant que non.

À la suite de son analyse des implications pratiques engendrées par le ML sur l'adjudication et l'application du droit, Aziz Z. Huq constate que les « [t]echnological advances invite new ways both to derogate from those values [rule of law] or, alternatively, to achieve them<fnref n="128" /> ». Bien qu'il n'ose pas proposer un cadre au sein duquel la primauté du droit peut prospérer (du moins à la manière dont l'entendait Fuller), il cultive la possibilité d'une réunion de l'IA aux principes de la moralité interne du droit et rejoint ainsi le projet plus vaste de notre juriste. Car, dans ce contexte numérique qui est le nôtre, l'objectif est de comprendre comment l'IA peut être utilisée par les différents gouvernements pour pallier les lacunes d'efficacité d'une gouverne par le droit (Rule of Law) sans la supplanter. Certes, pour arriver à ce résultat, l'installation de garde-fous institutionnels pour esquiver « les écueils désastreux dont nous menacent l'un ou l'autre extrême [des modes de gouvernance] <fnref n="129" /> » est d'une évidence. Néanmoins, le risque plus subtil d'une mise en œuvre gouvernementale de conceptions de la « vie bonne » plutôt que d'assurer les conditions de la « vie juste » se doit tout autant d'être analysé, sinon plus. L'État qui entend déployer l'IA devra le faire avec parcimonie et en toute transparence. Pour réfléchir à ce point d'équilibre, nous allons formuler quatre questions qui, selon nous, permettront de comprendre et de cibler les répercussions des utilisations gouvernementales de l'IA sur les justiciables. Ces dernières agiront comme des balises dans la réflexion portant sur le contenu du cadre restrictif étatique dans la

<footnote n="126">¹²⁶ C. GAVAGHAN et al. (dir.), préc., note 80, p. 4. Nous soulignons.</footnote>

<footnote n="127">¹²⁷ L. L. FULLER, préc., note 13, p. 151.</footnote>

<footnote n="128">¹²⁸ Aziz Z. HUQ, « Artificial Intelligence and the Rule of Law », (2021) U. of Chicago, Public Law Working Paper No. 764, en ligne: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3794777, p. 11.</footnote>

<footnote n="129">¹²⁹ L.L. FULLER, préc., note 13, p. 54.</footnote>
relation synergique management/droit cherchant à nourrir une agentivité citoyenne forte.

**3.1. La décision individualisée**

En cette transition vers l'ère du numérique, des auteurs notent que, désormais, les gouvernements, tout comme les entreprises, collectent massivement des données sur leurs citoyens<fnref n="130" />. Cela risque de brouiller ce que l'administration publique considère comme une « ressource » demandant une « gestion économique » et d'élargir injustement le concept jusqu'aux facettes de la vie privée des justiciables. Car, rappelons-le, l'IA, pour accomplir ses promesses d'efficacité et d'optimisation, établit des portraits individuels et sociaux à partir desquels elle prévient ou décourage la violation des règles étatiques.

Tout porte donc à croire que l'IA popularisera ce que Henry Hart et Albert Sacks – figures principales du legal process (courant duquel Fuller est d'ailleurs issu)<fnref n="131" /> – nomment la individually administered regulation, qui consiste à penser l'application des normes par « [a]n official determination – an individualized settlement of the matter [by officials or by a court] <fnref n="132" /> »_. Les plus connues actuellement sont sans doute les demandes de permis, les contrôles des déclarations fiscales de revenus ou les adoptions<fnref n="133" />. Quant à ces domaines d'activités, ce mode d'application du droit offre des avantages considérables relativement à la justesse et à la convenance des décisions. Ainsi cantonnée à la sphère du droit administratif, cette façon de procéder semble tout à fait légitime.

Dans sa forme existante, l'application du droit par procédé individualisé, soit par une gestion singulière du citoyen, est peut-être déjà endiguée à sa juste place. Car Neil Duxbury mentionne que « [a]n efficient legal process, in other words, is one that intervenes in the process of private ordering only when necessary and that demonstrates a general awareness of which legal institution is competent to do what<fnref n="134" /> ». Déborder de ce modèle du « seulement si c'est nécessaire » en ce qui a trait à la prise de décisions personnalisées provoquerait deux conséquences majeures. D'une part, comme le note Jeremy Waldron, « individualized application would often involve an unacceptable level of intrusion into the conduct of private life<fnref n="135" /> ». D'autre part, cela promouvrait la dépendance du citoyen à l'État, qui devrait continuellement faire confirmer ses actes avant d'agir. De ce fait, la réciprocité telle que la concevait Fuller s'en voit affectée : relation principalement verticale (État-citoyen) plutôt qu'horizontale (citoyen-

<footnote n="130">¹³⁰ Voir M.-F. CUÉLLAR et A. Z. HUQ, préc., note 121.</footnote>

<footnote n="131">¹³¹ Neil DUXBURY, « Postrealism and Legal Process », dans Dennis PATTERSON (dir.), *A Companion to Philosophy of Law and Legal Theory*, 2ᵉ éd., Chichester, Blackwell Publishing, 2010, p. 279, à la p. 285.</footnote>

<footnote n="132">¹³² J. WALDRON, préc., note 2, p. 9.</footnote>

<footnote n="133">¹³³ Id., p. 8-9.</footnote>

<footnote n="134">¹³⁴ N. DUXBURY, préc., note 131.</footnote>

<footnote n="135">¹³⁵ J. WALDRON, préc., note 2, p. 9.</footnote>
citoyen). Et même à bon escient, le recours à la individually administered
regulation doit s'opérer en respectant certaines conditions, notamment une
publicité minimale. « Even if there is no question of formally specifying conduct
rules, still subjects are entitled to know the norms that will be applied to their
conduct, so that they can organize their lives accordingly<fnref n="136" />. » Cette
connaissance demandée du contenu des normes juridiques s'inscrit
indubitablement dans le cadre de la moralité interne du droit de Fuller. Nous y
reviendrons.

La première question à deux volets que nous proposons donc pour réfléchir
à l'IA étatique est la suivante : **l'administration publique souhaite-t-elle, par
l'utilisation de l'IA, personnaliser et individualiser son pouvoir d'action?** Si oui,
accentue-t-elle sa prérogative de contrôle sur le citoyen ou lui permet-elle plutôt
d'accélérer, de rendre plus efficaces, des relations inévitables entre le citoyen et
l'État?

Prenons le cas de l'Estonie. Ce pays utilise présentement un algorithme
d'apprentissage profond (deep learning) pour déterminer si les agriculteurs
bénéficiant de subventions se conforment aux exigences gouvernementales en
matière de fenaison estivale<fnref n="137" />. En réponse à notre question, l'IA est mobilisée ici
pour contrôler les agriculteurs en fonction des fins choisies par l'État. Dans cette
perspective fullérienne ainsi réactualisée, l'administration publique estonienne
outrepasse ses fonctions. Selon nous, pour respecter l'entreprise de Fuller, l'Estonie
devrait plutôt, par exemple, employer l'IA pour faciliter le processus de traitement
des demandes de subventions (si, bien sûr, il s'avère que le pays a réellement
besoin de cette touche managériale pour assurer la bonne cohésion sociale).

3.2. Le problème de l'opacité

L'opacité (c'est-à-dire difficile à comprendre ou à expliquer selon la
proposition de Simon Chesterman) se manifeste en contexte algorithmique tantôt
pour des raisons de propriétés intellectuelles ou de secret commercial, tantôt pour
des raisons de complexité et de technicité inhérentes aux langages informatiques
dans lesquels sont écrits les codes<fnref n="138" />. Stefan Larsson ajoute les vecteurs suivants
pour élucider le phénomène de la black box<fnref n="139" /> découlant de l'IA : la non-
divulgation volontaire des codes sources afin d'éviter les abus ou le piratage ou
pour des raisons stratégiques, un écosystème des données complexes, des
outputs personnalisés et épars, et la complexité logique/mathématique

<footnote n="136">136 Id., p. 10.</footnote>

<footnote n="137">137 Michèle FINCK, « Automated Decision-Making and Administrative Law », dans Peter CANE et al. (dir.), *The Oxford Handbook of Comparative Administrative Law*, Oxford, Oxford University Press, 2021, p. 662.</footnote>

<footnote n="138">138 Simon CHESTERMAN, We, the Robots? Regulating Artificial Intelligence and the Limits of the Law, Cambridge, Cambridge University Press, 2021, p. 65.</footnote>

<footnote n="139">139 Frank PASQUALE, *The Black Box Society, The Secret Algorithms That Control Money and Information*, Cambridge, Harvard U. Press, 2015.</footnote>
algorithmique<fnref n="140" />. Plusieurs appellent à l'explication et à la transparence<fnref n="141" />, surtout en droit public<fnref n="142" />. Pourtant, et ce, même en faisant fi de toutes les autres considérations provoquant l'opacité de l'IA, la publication du code source ne serait que de très peu d'utilité pour le profane ne comprenant pas le langage informatique dans lequel il est écrit. C'est du moins la constatation d'A. Huq que nous faisons ici nôtre, qui mentionne à cet effet que « [e]ven if the code were available, it would not be illuminating for either the "ordinary citizen" or the "trained lawyer" »<fnref n="143" /> ». Cela est cohérent avec la pensée de Fuller, car, comme ce dernier l'indique, ce n'est pas tant la publication formelle des règles qui importe<fnref n="144" />, mais plutôt l'accès possible au contenu des normes étatiques. Il relève d'ailleurs qu'« il existe de nombreuses activités dans lesquelles les hommes respectent la loi, non parce qu'ils la connaissent directement, mais parce qu'ils suivent l'exemple de ceux qu'ils savent mieux informés<fnref n="145" /> ».

Pour réfléchir et situer l'exigence de la transparence au sein du design institutionnel de Fuller, nous croyons pertinent de répondre à la question suivante : **le justiciable est-il en mesure de comprendre la teneur normative des comportements qui sont attendus de lui?** Une réponse négative à cette question ne lui permettrait pas de participer à la vie juridique et l'empêcherait théoriquement d'engager sa responsabilité<fnref n="146" />. « Which factors were important, for example, in the outcome? Would variation in one of those factors have led to a different outcome<fnref n="147" />? » Voilà, en l'occurrence, deux questions fondamentales. Un programme d'IA qui détecterait par exemple les fraudes fiscales selon les mêmes critères qu'un agent étatique humain respecterait sans doute l'exigence de publicité des normes. Le cas échéant, le citoyen serait capable d'avoir accès à l'information nécessaire pour se soumettre aux contraintes juridiques et règlementaires. Néanmoins, dès lors que le fiscaliste humain ne comprend plus les corrélations effectuées par l'algorithme, cette exigence ne serait plus conforme. Trois avenues régulatrices pourraient être empruntées pour atteindre ce résultat : les études d'impact algorithmique, les audits et l'institution d'une ombudsperson de l'IA<fnref n="148" />. « [...] [T]he bottom line is that the law must be readily available to her [le

<footnote n="140">¹⁴⁰ Stefan LARSSON, « The Socio-Legal Relevance of Artificial Intelligence », (2019) 103 Droit et Société 573, 586-588.</footnote>

<footnote n="141">¹⁴¹ Katherine J. STRANDBURG, « Rulemaking and Inscrutable Automated Decision Tools », (2019) 119 Columbia Law Review 1851, 1857, Christoph MOLNAR, Interpretable Machine Learning: A Guide for Making Black Box Models Explainable, 2022, en ligne : christophm.github.io/interpretable-ml-book/; Riccardo GUIDOTTI et al., « A Survey of Methods for Explaining Black Box Models », (2018) arXiv 1802.01933v3, 16.</footnote>

<footnote n="142">¹⁴² Voir notamment Robert BRAUNEIS et Ellen P. GOODMAN, « Algorithmic Transparency for the Smart City », (2018) 20 Yale J. L. & Tech. 103, 132.</footnote>

<footnote n="143">¹⁴³ A. Z. HUQ, préc., note 128, p. 7.</footnote>

<footnote n="144">¹⁴⁴ K. RUNDLE, préc., note 15, p. 90.</footnote>

<footnote n="145">¹⁴⁵ L. L. FULLER, préc., note 13, p. 60.</footnote>

<footnote n="146">¹⁴⁶ « Opacity in decision making is not the same as secrecy, yet it has an analogous effect in undermining the possibility of being held to account for those decisions. » Simon CHESTERMAN, « Through a Glass, Darkly: Artificial Intelligence and the Problem of Opacity », (2021) 69 The American Journal Of Comparative Law 271, 286.</footnote>

<footnote n="147">¹⁴⁷ S. CHESTERMAN, préc., note 138, p. 147, se référant à Brent MITTELSTADT, Chris RUSSELL et Sandra WACHTER, « Explaining Explanations in AI » (2018) arXiv 1811.01439v1, 2.</footnote>

<footnote n="148">¹⁴⁸ Id., p. 154.</footnote>
sujet de droit] : she is entitled to know its content, and to criticise it<fnref n="149" />. » Au fond, la participation à la vie juridique pour le justiciable passe nécessairement, bien qu'elle n'y soit pas réduite, par l'accessibilité au contenu des normes.

### 3.3. La casuistique juridique

Le droit fonctionne à partir d'une casuistique syllogistique, soit d'une application de lois générales à des faits. Autant en droit pénal, administratif ou civil, la sanction (sous forme de peine ou de condamnation à réparation) suit la commission d'un acte juridiquement répréhensible.

Pourtant, l'IA étatique fait miroiter un passage de la causalité vers la corrélation<fnref n="150" />. Comme l'IA carbure aux données<fnref n="151" />, elle infère ses conclusions par profilages statistiques et ancre ses calculs de risk assessments dans l'analyse de données sociohistoriques ou socioéconomiques. Un portrait statistique biaisé ou inégalitaire se décalquera conséquemment à l'usage<fnref n="152" />. Cette constatation ressort notamment des travaux de Jeffrey P. Brantingham, qui, par l'étude de la répartition automatisée des effectifs policiers au sein d'une ville, mentionne que « [g]iven this empirical record, there is a real and justified concern that algorithmic methods for predictive policing, rather than helping the situation, will only serve to exacerbate bias and amplify unequal outcomes<fnref n="153" /> ». Plusieurs autres études réitèrent ce risque et allèguent une atteinte démesurée au droit à l'égalité pour les individus plus désavantagés<fnref n="154" />, ces derniers ayant le jeu des probabilités en leur défaveur. Pour ces raisons, le développement d'une discipline de recherche sur le traitement informatique des données judiciaires et biométriques (cette seconde rappelant la physiognomonie) reçoit déjà une forte critique en provenance d'une myriade d'universitaires de différents domaines<fnref n="155" />.

Prenons l'exemple d'un algorithme d'apprentissage machine servant à évaluer les chances de récidive ou de commissions d'une infraction grâce à des prédictions de comportements futurs<fnref n="156" />. Certes, l'algorithme inférera, à juste titre : la provenance d'une communauté avec un taux de criminalité plus élevé que la moyenne influe sur les probabilités (statistiques) qu'un individu commette une

<footnote n="149">¹⁴⁹ K. RUNDLE, préc., note 15, p. 90.</footnote>

<footnote n="150">¹⁵⁰ Viktor MAYER-SCHÖNBERGER et Kenneth CUKIER, Big Data: A Revolution that Will Transform How We Live, Work and Think, New York, Eamon Dolan/Mariner Books, 2014.</footnote>

<footnote n="151">¹⁵¹ J. BALKIN, préc., note 11, 1220. « To vary Kant's famous dictum, algorithms without data are empty; data without algorithms are blind. »</footnote>

<footnote n="152">¹⁵² « ML may simply replay regrettable aspects of the past into the future. » F. PASQUALE et G. CASWELL, préc., note 92.</footnote>

<footnote n="153">¹⁵³ Jeffrey P. BRANTINGHAM, « The Logic of Data Bias and its Impact on Place-Based Predictive Policing » (2017) 15 Ohio St. J. Crim. L. 473, 474.</footnote>

<footnote n="154">¹⁵⁴ R. RICHARDSON, J. SCHULTZ et K. CRAWFORD, préc., note 123, 199 et 200. Voir aussi Chelsea BARABAS, « Beyond Bias: Reimagining the Terms of 'Ethical AI' in Criminal Law », (2020) 12 Geo. J. L. Mod. Critical Race Persp. 2.</footnote>

<footnote n="155">¹⁵⁵ Consulter la pétition en ligne : https://medium.com/@CoalitionForCriticalTechnology/abolish-the-techtoprisonpipeline-9b5b14366b16</footnote>

<footnote n="156">¹⁵⁶ Pour une illustration, voir Georgios N. KOUZIOKAS, « The application of artificial intelligence in public administration for forecasting high crime risk transportation areas in urban environment », (2017) 24 Transportation Research Procedia 467.</footnote>
infraction. Mais ce seul critère ne motive pas en droit une condamnation avant la
commission réelle d'un acte répréhensible aux yeux de la loi. D'ailleurs, « the
application of summary statistics to individuals is the very definition of
stereotyping<fnref n="157" /> ».

La question de la discrimination systémique algorithmique – problématique beaucoup plus complexe que ce qui est présenté ici – devrait justifier, à notre sens, une réticence à l’encontre de ces techniques, surtout (et paradoxalement à l’utilisation qui est faite aujourd’hui de l’IA par les gouvernements) en droit pénal et criminel. Pourtant, nous croyons que les prédictions algorithmiques par calcul de risques peuvent servir de manière juste la population. Voici donc la question que doit se poser une administration publique : l’IA utilisée par l’État punit-elle un comportement avant que celui-ci ne se soit réellement produit ? Une réponse positive constituerait une atteinte flagrante à la responsabilité juridique issue de l’agentivité citoyenne dans sa conception fullérienne. Elle ne pourrait qu’être issue d’une instrumentalisation managériale du droit. Néanmoins, nous concevrions comme parfaitement en accord avec l’entreprise de Fuller, en guise d’exemple, une utilisation de l’IA par les autorités policières que serait, suivant bien sûr les autorisations et mandats judiciaires nécessaires, l’appréhension ou la prédiction de l’emplacement d’un individu dûment allégué d’avoir enfreint une règle de droit.

3.4. La possibilité d'un management « juridique » par l'IA?

Est-il suffisant que les administrations publiques aient l'intérêt des justiciables (ou des principes de bonne gouvernance) comme leitmotiv pour justifier un management algorithmique plus imposant que ce à quoi le réduisait Fuller? Car certains juristes proposent de transposer le cadre réglementant les trusts à la gestion managériale des données provenant des citoyens<fnref n="158" />. Les gouvernements se verraient ainsi obligés de servir les citoyens dans une sorte de gouvernance managériale élargie. L'argument se formule comme suit : « Because governments have fiduciary obligations to the people they govern, governments and public entities who use algorithms are information fiduciaries toward the populations they govern<fnref n="159" />. » Les obligations de loyauté et de saine gestion du fiduciaire (l'État) à l'endroit du bénéficiaire (le citoyen) en provenance de ces « information fiduciaries » limiteraient certes la quantité d'abus possibles ou, du moins, ouvriraient la porte à un recours en réparation le cas échéant. Plus concrètement, un tel argument juridique, encore une fois beaucoup plus complexe que celui que nous avons présenté, tend néanmoins, dans sa

<footnote n="157">157 S. CHESTERMAN, préc., note 146, 273.</footnote>

<footnote n="158">158 J. BALKIN, préc., note 11, 1226. Voir aussi Frank PASQUALE, « Toward a Fourth Law of Robotics: Preserving Attribution, Responsibility, and Explainability in an Algorithmic Society » 78(5) Ohio ST. L.J. 1243, 1244.</footnote>

<footnote n="159">159 Id.</footnote>
compréhension globale, à rééquilibrer les forces en faveur des justiciables en leur redonnant un certain pouvoir de contrôle sur leur vie<fnref n="160" />.

Cette posture ne semble pourtant pas suffisante pour Fuller. Nous croyons qu'il militerait plutôt pour contenir l'IA à sa juste place et, par le fait même, pour l'exclure de certains secteurs d'activités étatiques, car les risques d'un évincement du droit par une gouverne managériale seraient trop sérieux. Toujours est-il que, bien que des barrières de sécurité soient érigées et des contestations judiciaires possibles, l'administration publique imposerait quand même ses façons de faire plutôt que de laisser les justiciables décider pour eux-mêmes dans le cadre que fournit le droit. Il s'agit donc de bien définir (au cas par cas) ce qui relève de l'administration publique et ce qui relève du droit.

Notre quatrième question se formule ainsi : **les citoyens ont-ils la capacité de participer, de contester et de se faire expliquer les décisions qui les concernent de près ou de loin et qui sont prises dans un contexte étatique?** « Individuals must have a right to access, challenge and rectify the information that government is using to make decisions affecting them<fnref n="161" />. » Il est évident qu'autant en contexte juridique que managérial, l'application contentieuse et judiciaire du droit doit subsister. Pour les décisions algorithmiques, la contestation judiciaire est toutefois soumise à une difficulté supplémentaire. Fortes sont les chances que les litiges centrés autour de l'IA feront intervenir des batailles d'expertises complexes<fnref n="162" />, ce qui découragera effectivement la contestation. Alors que certaines causes devant la justice états-unienne ont réussi à passer outre à cette opacité algorithmique en accordant réparation pour la défectuosité de programmes de prises de décisions automatisées (notamment en matière de congédiements abusifs ou de prestations monétaires)<fnref n="163" />, le « residual problem, however, is the Catch-22 of opacity : efforts to challenge decisions are hampered by the very opacity that might form the basis of an action – people do not know what they don't know<fnref n="164" /> ». Une obligation fiduciaire étatique de bonne gestion des données personnelles dans ce contexte de l'IA irait en ce sens. Pourtant, nous croyons que Fuller serait mitigé quant à cette obligation, car elle implique que les agents étatiques définissent des fins gestionnaires « bonnes », sans nécessairement faire intervenir les justiciables. Mais comme elle atténue en partie une managérialité dite « pure », elle pourrait élargir le point d'équilibre dans certains domaines où les fins managériales de l'État sont requises. Quoi qu'il en soit, si la réponse à cette dernière hypothèse ne semble pas tranchée – elle demanderait une analyse

<footnote n="160">¹⁶⁰ Sylvie DELACROIX et Neil D. LAWRENCE, « Bottom-up data Trusts: Disturbing the ‘one size fits all’ approach to data governance », (2019) 9(4) *International Data Privacy Law* 236, 242.</footnote>

<footnote n="161">¹⁶¹ M. ZALNIERIUTE, L. BENNETT MOSES et G. WILLIAMS, préc., note 91, p. 44.</footnote>

<footnote n="162">¹⁶² Marjolaine MONOT-FOULETIER, « Personne transformée par l'intelligence artificielle et droit de la responsabilité », dans Jean-Pier BÉLAND et Charles-Étienne DANIEL, *La personne transformée. Nouveaux enjeux éthiques et juridiques*, Québec, Presses de l'Université Laval, 2019, p. 78.</footnote>

<footnote n="163">¹⁶³ S. CHESTERMAN, préc., note 138, p. 76, citant Sarah VALENTINE, « Impoverished Algorithms: Misguided Governments, Flawed Technologies, and Social Control », (2019) 46 *Fordham Urban Law Journal* 364, 413 à 419.</footnote>

<footnote n="164">¹⁶⁴ Id., p.78.</footnote>
beaucoup plus vaste et poussée –, il demeure que, plus il est difficile pour le justiciable d'avoir accès à des explications et de contester les décisions, plus l'engagement envers une gouverne managériale est fort. Nous devrons revoir le point d'équilibre dans certains domaines, mais une telle obligation fiduciaire ne peut certainement pas légitimer une posture totalisante d'une gouvernance managériale par l'IA.

Concluons cette dernière partie en citant J. Balkin. « [...] [B]ehind the robots, AI agents, and algorithms are social relations between human beings and groups of human beings. So the laws we need are obligations of fair dealing, non-manipulation, and non-domination between those who make and use the algorithms and those who are governed by them<fnref n="165" />. » Nous pouvons induire de cette citation deux éléments fondamentaux de l'entreprise fullérienne réactualisée à l'ère de l'IA : un rappel de l'aspect essentiellement relationnel du droit, d'une part, et l'importance d'une utilisation procédurale plutôt que matérielle de l'IA, d'autre part. Les questions que nous avons formulées servent donc de balises qualitatives qui permettent de situer les répercussions découlant de l'emploi étatique de l'IA sur l'impératif qui soustend le projet de Fuller : soit la prépondérance du droit (compris comme un système impersonnel de devoirs et de droits) comme mode de gouvernance. Si le point d'équilibre entre le juridique et le management est protéiforme et polymorphe, nos questions permettent de guider, de nuancer et d'adapter la pondération du problème du design institutionnel de manière juste.

## Conclusion

En somme, c'est par l'affirmative que nous répondons à notre hypothèse initiale selon laquelle il y a correspondance entre les enjeux juridiquement normatifs soulevés par l'IA et le « design institutionnel » de Fuller. L'IA renforce un paradigme d'application préventif du « droit » qui, lui, s'assimile conceptuellement à la gouverne managériale. Certes, il est conséquent que l'État, lorsqu'il revêt le chapeau de « gestionnaire économique » de la société, veuille optimiser sa rentabilité, d'où l'intérêt de s'outiller de l'IA. Or, à l'instar de l'attitude de Fuller envers la « managérialité », les critiques de l'IA interpellent les dirigeants étatiques à restreindre uniquement au nécessaire le recours à cette technologie par un cadre règlementaire restrictif.

La problématique qui se doit d'être la plus vivement réfléchie touche non pas l'IA elle-même, mais plutôt l'emploi que les agents étatiques en font. Nous devons inévitablement aborder l'érosion de la norme juridique « authentique », comportementale et basée sur l'agentivité citoyenne, qui se produit au profit d'une logique fondée sur des « patterns », des régularités, des faits précatégorisés ainsi que de la manipulation. Nos questions, issues de notre réactualisation des

<footnote n="165">165 J. BALKIN, préc., note 11, 1226.</footnote>
écrits de Fuller, permettront d'établir des critères pour analyser, qualifier et quantifier l'atteinte parfois justifiée à l'État de droit. Nos barèmes constituent un pas modeste dans cette réflexion d'un équilibre entre la posture juridique et celle managériale bouleversé par le phénomène de l'IA étatique.

Si Fuller reste muet, ou presque, sur la manière d'atteindre cet équilibre entre gouverne juridique et gouverne managériale, il évoque, en revanche, que la répression des infractions criminelles et pénales forme sans doute le cas de figure le plus représentatif d'une norme juridique « authentique ». Voilà un paradoxe qui, en raison de la présence prononcée de l'IA dans cette sphère particulière du droit, renforce l'intérêt de regarder le débat actuel sous un éclairage fullérien.

En dernière analyse, notre texte défend aussi une thèse plus globale : celle cultivant la subtilité de la réflexion fullérienne de l'équilibre. Car si Fuller est éclectique – il critique d'ailleurs la culture juridique analytique – et ainsi difficile à lire, nous postulons que l'importance de notre auteur se trouve justement ici. Fuller n'est pas tombé dans le piège de tenter l'impossible théorisation d'un point d'équilibre dynamique (mue par la trame de fond sous-jacente) qui aurait tôt fait d'être falsifiée, car nécessairement rudimentaire et insuffisante. Il a su concilier une forme de relativisme sociétal restreint (contextuel, conjoncturel, culturel) à cette forme d'exigence radicale de rigueur et d'authenticité (moralité interne du droit) dans un projet appelant de ses vœux l'ordre et l'unité sociale. C'est donc en étant confronté à une ambivalence riche, le noyau dur de la pensée fullérienne, qu'il faut réfléchir l'IA étatique, et plus généralement l'« étatique », tout simplement.
# BIBLIOGRAPHIE

## Monographies et ouvrages collectifs

ARENDT, H., *The Human Condition*, Chicago, U. of Chicago Press, 1958

CHESTERMAN, S., *We, the Robots? Regulating Artificial Intelligence and the Limits of the Law*, Cambridge, Cambridge University Press, 2021

DESMOULIN-CANSELIER, S. et D. LE MÉTAYER, *Décider avec les algorithmes. Quelle place pour l'Homme, quelle place pour le droit?*, coll. « Les Sens du droit », Paris, Dalloz, 2020

FULLER, L.L., *La moralité du droit (1964)*, trad. J. V. MEERBEECK, Bruxelles, Presses de l'U. Saint-Louis, 2017

HAMBURGER, P., *Is Administrative Law Unlawful?*, Chicago, University of Chicago Press, 2014

HART, H.L.A., *Le concept de droit (1961)*, trad. M. VAN DE KERCHOVE, 2e éd., Bruxelles, Presses de l'U. Saint-Louis, 2005

LESSIG, L., *Code, Version 2.0*, New York, Basic Books, 2006

MAYER-SCHÖNBERGER, V., et K. CUKIER, *Big Data: A Revolution that Will Transform How We Live, Work and Think*, New York, Eamon Dolan/Mariner Books, 2014

MILL, J.S., *On Liberty*, Londres, The Walter Scott Publishing Co., 1859

MOLNAR, C., *Interpretable Machine Learning: A Guide for Making Black Box Models Explainable*, 2022, en ligne : https://christophm.github.io/interpretable-ml-book/

OST, F., *À quoi sert le droit? Usages, fonctions finalité*, Bruxelles, Éditions Bruylant, 2016

PASQUALE, F., *The Black Box Society, The Secret Algorithms That Control Money and Information*, Cambridge, Harvard U. Press, 2015

PAŠUKANIS, E.B., *La théorie générale du droit et le marxisme (1924)*, trad. J.-M. BROHM, Paris, EDI, 1971

RUNDLE, K., *Forms Liberated, Reclaiming the Jurisprudence of Lon L Fuller, Portland, Hart Publishing, 2013*

ST-HILAIRE, M., *Les positivismes juridiques au XXe siècle, Normativismes, sociologismes, réalismes, coll. « Dikè », Québec, Presses de l'U. Laval, 2020*

SUNSTEIN, C.R., *Why Nudge? The Politics of Libertarian Paternalism*, New Haven, Yale U. Press, 2015

THALER, R.H. et C. R. SUNSTEIN, *Nudge: Improving Decisions About Health, Wealth, and Happiness*, Londres, Penguin Books, 2009

VERMEULE, A., *Law's Abnegation*, Cambridge, Harvard University Press, 2016
ZUBOFF, S., *The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power*, New York, Public Affairs, 2019

## Articles de revue et études d'ouvrages collectifs

AMANKWAA, A.O. et C. MCCARTNEY, « The UK National DNA Database: Implementation of the Protection of Freedoms Act 2012 », (2018) 284 *Forensic Science International* 117

ARRIETA, A.B. et al., « Explainable Artificial Intelligence (XAI): Concepts, Taxonomies, Opportunities and Challenges toward Responsible AI », (2019) en ligne :
https://www.researchgate.net/publication/336734529

BALKIN, J.M., « The Three Laws of Robotics in the Age of Big Data », (2017) 78(5) Ohio ST. L.J. 1217

BARABAS, C., « « Beyond Bias: Reimagining the Terms of ‘Ethical AI’ in Criminal Law », (2020) 12 Geo. J. L. Mod. Critical Race Persp. 2

BOURCIER, D., et Pr. DE FILIPPI, « Transparence des algorithmes face à l'open data : quel statut pour les données d'apprentissage? ? », (2018) 167 *Revue française d'administration publique* 525

BRANTINGHAM, J.P., « The Logic of Data Bias and its Impact on Place-Based Predictive Policing » (2017) 15 Ohio St. J. Crim. L. 473

BRAUNEIS, R., et E. P. GOODMAN, « Algorithmic Transparency for the Smart City », (2018) 20 *Yale J. L. & Tech.* 103

BROWNSWORD, R., « Law and Technology: Two Modes of Disruption, Three Legal Mind-Sets, and the Big Picture of Regulatory Responsibilities », (2018) 14 *Indian J. L. & Tech* 1

CHESTERMAN, S., « Through a Glass, Darkly: Artificial Intelligence and the Problem of Opacity », (2021) 69 *The American Journal Of Comparative Law* 271

CITRON D.K. et R. CALO, « The Automated Administrative State: A Crisis of Legitimacy », (2020) 70 *Emory L. J.* 797

CITRON, D.K. et F. PASQUALE, « The Scored Society: Due Process for Automated Predictions », (2014) *Wash. L. Rev.* 1

COGLIANESE, C. et L. M. BEN DOR, « AI in Adjudication and Administration », (2020) *Faculty Scholarship at Penn Law* 2118

COLLIER, B., « Influence government: Exploring practices, ethics, and power in the use of targeted advertising by the UK state », (2022) *Big Data & Society* 1

CUÉLLAR, M.-F. et A. Z. HUQ, « Economies of Surveillance », (2020) 133 *Harvard L. Rev.* 1280
DELACROIX, S., et N.D. LAWRENCE, « Bottom-up data Trusts: Disturbing the 'one size fits all' approach to data governance », (2019) 9(4) *International Data Privacy Law* 236

DUXBURY, N., « Postrealism and Legal Process », dans D. PATTERSON (dir.), *A Companion to Philosophy of Law and Legal Theory*, 2e éd., Chichester, Blackwell Publishing, 2010

DYZENHAUS, D., « Fuller's Novelty », dans W. J. WITTEVEEN et W. VAN DER BURG (dir.), *Rediscovering Fuller: essays on implicit law and institutional design*, Amsterdam, Amsterdam University Press, 1999

EDWARDS, L., et L URQUHART, « Privacy in Public Spaces: What Expectations of Privacy Do We Have in Social Media Intelligence? », (2016) 24 *International Journal of Law and Information Technology* 279

FERGUSON, A.G., « Policing Predictive Policing », (2017) 94 Wash. U. L. Rev. 1109

FINCK, M., « Automated Decision-Making and Administrative Law », dans P. CANE et al. (dir.), *The Oxford Handbook of Comparative Administrative Law*, Oxford, Oxford University Press, 2021

FULLER, L.L., « Means and Ends », dans L.L. FULLER, *The Principles of Social Order, Selected Essays of Lon L. Fuller, éd. par K. WINSTON*, Oxford, Hart Publishing, 2001

FULLER, L.L., « Two principles Principles of human Human association Association », dans L.L. FULLER, *The Principles of Social Order, Selected Essays of Lon L. Fuller, éd. par K. WINSTON*, Oxford, Hart Publishing, 2001

GUIDOTTI, R., et al., « A Survey of Methods for Explaining Black Box Models », (2018) arXiv:1802.01933v3

HILDEBRANDT, M., « Law as Information in the Era of Data-Driven Agency », (2016) 79 Mod. L. Rev. 1

HILDEBRANDT, M., « The Issue of Bias. The Framing Powers of MI », dans Ma. PELILLO et T. SCANTAMBURLO (dir.), *Machines We Trust, Perspectives on Dependable AI*, Cambridge (Mass.), MIT Press, 2021

HUQ, A.Z., « Artificial Intelligence and the Rule of Law », (2021) U. of Chicago, Public Law Working Paper No. 764, en ligne : https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3794777

KAMINSKI, M. E., « The Right to Explanation, Explained », (2019) 34 Berkeley Tech. L.J. 189

KEMPER, C., « « Kafkaesque AI? Legal Decision-Making in the Era of Machine Learning », (2020) 24(2) *Intell. Prop. & Tech. L. J.* 251

KERR, I., « Prediction, Preemption, Presumption: The Path of Law After Computational Turn », dans M. HILDEBRANDT et K. DE VRIES (dir.), *Privacy, Due Process*
and the Computational Turn: The Philosophy of Law Meets the Philosophy of Technology, Abingdon, Routledge, 2013

KETCHEN, J.C., « Revisiting Fuller's Critique of Hart: Managerial Control and the Pathology of Legal Systems: The Hart-Weber Nexus », (2003) 53 U. of Toronto L. J. 1

KOUZIOKAS, G.N., « The application of artificial intelligence in public administration for forecasting high crime risk transportation areas in urban environment », (2017) 24 Transportation Research Procedia 467

LARSSON, S. « The Socio-Legal Relevance of Artificial Intelligence », (2019) 103 Droit et Société 573

LAVI, M., « Evil Nudges », (2018) 21 Vanderbilt Journal of Entertainment & Technology Law 1

MACDONALD, R.A., « Legislation and governance Governance », dans W. J. WITTEVEEN et W. VAN DER BURG (dir.), Rediscovering Fuller: essays on implicit law and institutional design, Amsterdam, Amsterdam University Press, 1999

MEKKI, M., « Les fonctions de la responsabilité civile à l'épreuve du numérique : l'exemple des logiciels prédictifs », (2020) 12 Dalloz IP/IT 672

MITTELSTADT, B., C. RUSSELL et S. WACHTER, « « Explaining Explanations in AI » (2018) arXiv 1811.01439v1

MOCKLE, D., « La question du droit dans la transformation numérique des administrations publiques », (2019) 49 R.D.U.S. 233

MONOT-FOULETIER, M., « Personne transformée par l'intelligence artificielle et droit de la responsabilité », dans J.-P. BÉLAND et C.-É. DANIEL, La personne transformée. Nouveaux enjeux éthiques et juridiques, Québec, Presses de l'Université Laval, 2019

MOORE, R., « A Compendium of Research and Analysis on the Offender Assessment System », (2015) Ministry of Justice Analytical Series et Jay P. SINGH et al. (dir.), Handbook of Recidivism Risk/Needs Assessment Tools, Hoboken (N.J.), Wiley Blackwell, 2018

MORISON, J., « Towards a Democratic Singularity? Algorithmic Governmentality, the Eradication of Politics – and the Possibility of Resistance », dans S. DEAKIN et C. MARKOU (dir.), Is Law Computable? Critical Perspectives on Law and Artificial Intelligence, Londres, Hart Publishing, 2020

PASQUALE, F., « A Rule of Persons, Not Machines: The Limits of Legal Automation », (2019) 87 Geo. Wash. L. Rev. 1

PASQUALE, F., « Toward a Fourth Law of Robotics: Preserving Attribution, Responsibility, and Explainability in an Algorithmic Society » 78(5) Ohio ST. L.J. 1243

PASQUALE, F., et G. CASHWELL, « Prediction, persuasion, and the jurisprudence of behaviourism », (2018) 68 U. of Toronto L.J. 63
PEREL, M. et N. ELKIN-KOREN, « Black Box Thinkering : Beyond Disclosure in Algorithmic Enforcement », (2017) 69 *Florida L. Rev.* 182

RICH, M.L., « Limits on the Perfect Preventive State », (2014) 46 *Connecticut L. Rev.* 883

RICHARDSON, R., J. M. SCHULTZ et K. CRAWFORD, « Dirty Data, Bad Predictions: How Civil Rights Violations Impact Police Data, Predictive Policing Systems, and Justice », (2019) 94 *N.Y.U. L. Rev.* Online 192

ROUVROY, A. et T. BERNS, « Gouvernementalité algorithmique et perspectives d'émancipation », (2013) 1 (177) *Réseaux* 163

ST-HILAIRE, M., « Audit Culture of Human Rights as 'Governmentality'? », (2021) 19 *International Journal of Constitutional Law (ICON)* 2

STRANDBURG, K.J., « Rulemaking and Inscrutable Automated Decision Tools », (2019) 119 *Columbia Law Review* 1851

SUNSTEIN C.R. et A. VERMEULE, « The New Coke: On the Plural Aims of Administrative Law », (2015) S. C. Rev. 41

SUNSTEIN, C.R., J.P. BALZ et R.H. THALER, « Choice Architecture », (2010), en ligne :
http://ssrn.com/abstract=1583509

VALENTINE, S., « Impoverished Algorithms: Misguided Governments, Flawed Technologies, and Social Control », (2019) 46 *Fordham Urban Law Journal* 364

VAZQUEZ ROJAS, T., « Projet de recherche Algorithmes et administration publique – rapport sur l’inventaire d’outils », (2021) *Laboratoire de cyberjustice – document de travail n° 29*

WALDRON, J., « The Concept of the Rule of Law », (2008) N.Y.U. School of Law, *Public Law & Legal Theory Research Paper Series Working Paper, No. 08-50*

WALDRON, J., « It's All for Your Own Good », (2014) *The New York Rev.*, en ligne :
https://www.nybooks.com/articles/2014/10/09/cass-sunstein-its-all-your-own-good/

WALDRON, J., « Self-Application », (2016) N.Y.U. School of Law, *Public Law & Legal Theory Research Paper Series, Working Paper, No. 16-46*

WINSTON, K., « Good Order and Workable Social Arrangements: Lon Fuller's Critique of Legal Positivism », dans T. SPAAK et P. MINDUS, *The Cambridge Companion to Legal Positivism*, Cambridge (R.-U.), Cambridge University Press, 2021

WINSTON, K., « Introduction », dans L.L. FULLER, *The Principles of Social Order, Selected Essays of Lon L. Fuller*, éd. par K. WINSTON, Oxford, Hart Publishing, 2001

WITTEVEEN, W.J., « An Introduction », dans W. J. WITTEVEEN et W. VAN DER BURG (dir.), *Rediscovering Fuller: essays on implicit law and institutional design*, Amsterdam, Amsterdam University Press, 1999
ZALNIERIUTE, M., L. BENNETT MOSES et G. WILLIAMS, « The Rule of Law 'By Design'? », (2021) 95(3) *Tulane L. R.* 1063

**Documents gouvernementaux**

GAVAGHAN, C., et al. (dir.), *Government Use of Artificial Intelligence in New Zealand*, Wellington, New Zealand Law Foundation, 2019

PERRY, W.L. et al. (dir.), *Predictive Policing: The Role of Crime Forecasting in Law Enforcement Operations*, RAND Corporation, 2013

PRIVACY INTERNATIONAL, *Digital Stop and Search: how the UK police can secretly download everything from your mobile phone*, Londres, Privacy International, 2018

VEALE, M. et al., *Algorithms in the Criminal Justice System*, The Law Society, 2019