# Vers un “ État-automate ” ?

Olessia Kirtchik, Francesca Musiani

► To cite this version:

Olessia Kirtchik, Francesca Musiani. Vers un “ État-automate ” ?. Socio - La nouvelle revue des sciences sociales, 2025, Le travail des algorithmes, 20, pp.101-126. 10.4000/halshs-05115633

HAL Id: halshs-05115633

https://shs.hal.science/halshs-05115633v1

Submitted on 17 Jun 2025

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
Ce document est un pre-print de Olessia Kirtchik, Francesca Musiani, 2025, Vers un "Etat-automate"? Intelligence artificielle, transformations du travail et action publique, Socio, 20, pp. 101-126. Texte intégral OA au format HTML / DOI: 10.4000/1431f

Le texte intégral est disponible librement au format HTML, et le PDF éditeur est disponible en modèle Freemium, sur le site de la revue Socio.

Prière de se référer au PDF publié par l'éditeur pour toute citation ou référence.

# Vers un « État-automate » ?

## Intelligence artificielle, transformations du travail et action publique<fnref n="1" />

## Towards a “State-automaton”? Artificial intelligence, transformations of work and public action

Olessia Kirtchik

Olessia Kirtchik est chercheuse contractuelle au CNRS, membre du Centre d'études russes, caucasiennes, est-européennes et centrasiatiques (EHESS/CNRS). Elle a été membre du Centre Internet et Société (CIS-CNRS) comme chercheuse sur le projet ANR PIA PRAIRIE IAction (2022-2024)

olessia@kirtchik.com

https://cis.cnrs.fr/olessia-kirtchik/

Francesca Musiani

Francesca Musiani est directrice de recherche au CNRS, directrice du Centre Internet et Société, et a été porteuse du projet IAction

francesca.musiani@cnrs.fr

https://cis.cnrs.fr/francesca-musiani/

L'article aborde l'introduction et la mise en fonctionnement de dispositifs soutenus par l'intelligence artificielle (IA), dans l'action publique. Au cours des dernières années, les États et les gouvernements – y compris la France – ont de plus en plus recours à ce type d'instruments dans des domaines très variés. L'utilisation d'outils algorithmiques de prise de décision par les pouvoirs publics est susceptible d'avoir des effets structurels profonds sur le fonctionnement de l'État et ses relations avec le public. Partant de cette hypothèse, cet article vise à interroger le

<footnote n="1">¹ Ce travail est soutenu par l'Agence nationale de la recherche, programme « Investissements d'avenir », référence ANR-19-P3IA-0001 (institut PRAIRIE 3IA), dans le cadre du projet IAction (2022-2024) : <https://prairie-institute.fr/lia-au-service-de-l'action-publique-imaginaires-sociotechniques-et-dispositifs-de-la-decision-algorithmique/>).</footnote>
potentiel transformateur des innovations liées aux algorithmes et à l'IA pour diverses professions de l'administration publique. Il examine les cadres institutionnels et les acteurs actuellement impliqués dans les principaux projets d'automatisation de l'action étatique, les discours de légitimation, mais aussi les pratiques des administrations concernées.

**Mots-clés** : intelligence artificielle (IA), algorithmes, action publique, travail, professions, automatisation, administration

The article addresses the introduction and operation of devices supported by artificial intelligence (AI), in public action. In recent years, States and governments – including France – have increasingly used this type of instrument in a wide variety of areas. The use of algorithmic decision-making tools by public authorities is likely to have profound structural effects on the functioning of the State and its relations with the public. Based on this hypothesis, this article aims to question the transformative potential of innovations linked to algorithms and AI for various professions in public administration. The article examines the institutional frameworks and actors currently involved in the main projects of automation of State action, the legitimizing discourses, but also the practices of the concerned administrations.

**Keywords** : artificial intelligence (AI), algorithms, public action, work, professions, automation, administration

La percée récente de l'intelligence artificielle (IA) dans le gouvernement des affaires publiques promet de transformer la métaphore de la « machine bureaucratique » en une réalité tangible. Cette image, évocatrice de mécanisation, de dépersonnification et d'efficacité formelle, mises en avant par Weber (1978) dans ses analyses de rationalisation du monde moderne, nous sert de point de départ pour examiner les différents usages que font les administrations publiques de ces technologies de pointe dans leur action. Dans le secteur public, comme ailleurs, l'IA est souvent présenté comme une solution miracle à un large éventail de problèmes sociaux complexes (Katzenbach 2021). Des entrepreneurs et des chercheurs appellent de leurs vœux que des fonctionnaires fassent un usage plus actif de l'IA et des données massives pour repenser le gouvernement dans son ensemble : « Les décideurs politiques devraient exploiter les données pour fournir des services publics réactifs, efficaces et équitables » (Margetts and Dorobantu 2019). De tels appels reflètent sans doute un engouement général pour l'IA, récemment amplifié par le succès des IA génératives (telles que le Chat GPT) auprès du grand public, sans avoir toujours de raisons solidement étayées pour soutenir ces attentes élevées.

D'abord expérimentés aux États-Unis (Engstrom et al. 2020; Engstrom & Ho 2021; Mehr, 2017), ces usages se développent et se diversifient en effet depuis plusieurs années dans différents pays à travers le monde.<fnref n="2" /> Les systèmes dotés de l'IA sont notamment prisés dans les domaines de la sécurité (Amoore & Raley, 2017; Brayne, 2017; Neyland, 2019; Picaud, 2021), de la justice (Christin, 2017; Girard-Chanudet, 2023), de la santé publique (Qian and Medaglia, 2018; Perez et al., 2024), ou encore de l'éducation (Fernandes et al., 2019), de la sécurité sociale et divers services sociaux (Dubois, 2021; Jeffares, 2021), des transports publics (Kouziokas, 2017) et de l'urbanisme (Courmont, 2023; Cugurullo et al., 2023; Picaud, 2023), et bien d'autres. Alors que les cas d'usage observés dans divers secteurs d'activité se multiplient, les premiers travaux de synthèse s'efforcent de recenser et de rendre compte de nombreuses initiatives qui sont en cours en Europe (van Noordt and Misuraca, 2022) et en France (Paul et Le Métayer, 2023). De nombreux rapports, notes analytiques et

<footnote n="2">² Selon le rapport publié par la Banque Mondiale, en 2021, au moins cinquante États se sont dotés ou étaient en train d'élaborer leur propre stratégie nationale pour l'IA (World Bank 2021).</footnote>
documents de travail ont été rendus publics, depuis plusieurs années, par des organismes gouvernementaux européens et français qui essaient de cartographier le phénomène, d'analyser les facteurs qui facilitent ou au contraire constituent un obstacle au développement de ces innovations dans le secteur public, d'évaluer les défis (manque de culture numérique, de compétences, de financement, etc.) et les risques (accroissement des inégalités, opacité des décisions, etc.) associés à l'IA publique. Cependant, on ne connaît encore que très imparfaitement l'étendue et les effets des usages effectifs.<fnref n="3" />

L'avènement de l'IA dans la pratique gouvernementale a fait également émerger de
nouveaux agendas de recherche théorique et empirique qui s'efforcent de répondre à la
question de savoir dans quelle mesure ces phénomènes, identifiés sous les labels
d'algorithmes, d'intelligence artificielle ou de big data, ont des enjeux spécifiques et inédits
pour l'action publique. Ainsi, il a été suggéré que l'utilisation d'outils algorithmiques par les
pouvoirs publics, qui s'appuient sur l'accumulation et le traitement de données massives, est
susceptible d'avoir des effets structurels profonds sur le fonctionnement de l'État et ses
relations avec le public (Fourcade et Gordon, 2020). Il a également été observé que la
diffusion croissante de ces technologies intelligentes, telles que l'analyse prédictive ou les
agents autonomes, transforme en profondeur la manière dont les services sociaux et autres
missions des administrations publiques sont réalisés, faisant advenir une nouvelle forme de «
bureaucratie algorithmique » (Vogl, Seidelin, Ganesh, & Bright, 2020).
Partant de cette hypothèse forte, qui va à l'encontre de la thèse de la neutralité des techniques,
mais tente en même temps d'éviter une rhétorique courante de rupture (disruption), dont elles
seraient porteuses, cet article, présente un aperçu provisoire des acteurs et des usages de l'IA
publique en France, ce domaine d'expérimentation étant en constante évolution. Il cherche à
interroge en même temps le potentiel transformateur des innovations liées à l'IA pour divers
missions et métiers de l'administration publique, ainsi que leurs effets sur l'image et la
légitimité de l'État bureaucratique. Pour ce faire, nous passerons en revue les cadres
institutionnels et les acteurs actuellement impliqués dans les projets d'automatisation de
l'action étatique, les discours de légitimation, mais aussi les pratiques des administrations
concernées. Le présent propos s'appuie sur une analyse documentaire approfondie de
différentes sources liées à la stratégie de l'État français en matière d'IA et d'action
publique :l'Étalab (l'administration publique française chargée d'améliorer l'efficacité des
services publics via les données<fnref n="4" />), mais aussi d'autres agences gouvernementales (direction
interministérielle du numérique ou DINUM, Conseil d'État, CNIL) et des ministères. Il se
fonde également sur des entretiens approfondis semi-directifs auprès de responsables de
l'État et du gouvernement français qui ont été ou sont actuellement impliqués dans la
conception et la mise en œuvre de la stratégie d'IA de l'action publique française, ainsi que
d'acteurs privés (start-up) développant des solutions techniques pour les administrations
publiques<fnref n="5" />.

Comprendre l'écosystème de l'IA publique : stratégie et

<footnote n="3">³ En 2018, l'IA Watch a été créée au sein du Centre commun de recherche de la Commission européenne pour surveiller le paysage de l'intelligence artificielle (IA) dans l'Union européenne (UE), tant dans le secteur privé que dans le secteur public (Misuraca and von Noordt, 2020). Avec l'IA Alliance, cet organisme a collecté des cas d'usage de l'IA en Europe, sur la base des informations fournies par les États membres. Ce registre, accessible en ligne, est un instrument de recherche utile, bien que incomplet:</footnote>

<footnote><https://data.jrc.ec.europa.eu/dataset/7342ea15-fd4f-4184-9603-98bd87d8239a>. Pour un aperçu des cas d'usage de l'IA par les administrations publiques dans les pays européens, voir également : AI Watch, 2022.</footnote>

<footnote n="4">⁴ Sur l'histoire d'Etalab, voir : Goëta 2017.</footnote>

<footnote n="5">⁵ Nous remercions Maya Cléré, stagiaire sur le projet IAction de mars à juillet 2023, pour son aide essentielle dans la recherche documentaire et pour avoir aidé dans la programmation et la conduite des entretiens.</footnote>
réseaux d'acteurs

Les orientations politiques générales et la réglementation concernant l'IA publique sur le territoire européen sont élaborés par les institutions et les organes de l'UE, qui fait preuve d'une volonté politique forte en la matière. Poussée par la concurrence internationale, l'Union cherche à inciter les pays membres à s'approprier les technologies de la pointe et surtout à affirmer le modèle européen de régulation de l'IA. Dans ce but, l'Europe s'est pourvue d'organes et de groupes d'experts sur les questions de l'IA qui commandent des recherches, organisent des discussions, élaborent des principes éthiques et des recommandations politiques, ainsi que des propositions de lois en la matière. Le Comité sur l'Intelligence Artificielle (CAI) a été créé au sein du Conseil de l'Europe (pour remplacer le Comité ad hoc sur l'intelligence artificielle, CAHAI, 2019-2021) pour coordonner les travaux autour de ces sujets et notamment pour préparer la *Convention-cadre sur l'intelligence artificielle et les droits de l'homme, la démocratie et l'État de droit* (HUDERIA).<fnref n="6" /> Des recommandations et des lignes directrices pour l'utilisation de l'intelligence artificielle dans différents domaines du secteur public (justice, santé, éducation, marché du travail, villes intelligentes, etc.) s'inspirent également de ce concept de l'IA « centrée sur l'être humain » (Council of Europe, 2024). En parallèle avec l'activité normative de l'IA européenne, les différents pays membres développent leurs propres stratégies et actions. Bien que les discours nationaux sur l'IA présentent de nombreux éléments communs, à l'échelle européenne comme globale, on observe des variations significatives entre les différents récits nationaux en fonction de leurs capacités, stratégies économiques et industrielles, cultures et modèles politiques (Guenduez et Mettler 2023).

En France, le débat public sur les usages et la gouvernance publique de l'IA a été lancé dès 2017, lorsqu'une commission parlementaire, présidée par le mathématicien et député Cédric Villani, a été chargée d'organiser une série de rencontres et de débats sur les enjeux éthiques des algorithmes et de l'intelligence artificielle (Villani, 2018)<fnref n="7" />. À la suite de la publication de ce rapport, une stratégie nationale pour l'IA, qui ne différencie pas entre les acteurs qui conçoivent, adoptent et pilotent les outils d'IA, a été adoptée par le gouvernement français en 2018. En l'absence de stratégie spécifique pour les systèmes d'IA pilotés par l'État, celle-ci sert de cadre général pour le déploiement de ces systèmes au sein des administrations publiques.

Ces documents programmatiques insistent avant tout sur la maîtrise de l'IA comme enjeu primordial de la compétition internationale technologique, économique, voire géopolitique. Cet impératif est jugé évident, inévitable et nécessaire à la survie de la France et de l'Europe, qui doivent rivaliser avec les géants du numérique, notamment les États-Unis et la Chine. La France manifeste donc la forte ambition de se positionner parmi les leaders européens, voire mondiaux dans ce domaine<fnref n="8" />. Par rapport à cet objectif stratégique principal, l'IA est considérée par les acteurs publics comme un enjeu essentiel de la souveraineté nationale (voir Türk et Vallar, 2018 ; Pohle et Thiel, 2020 ; Musiani, 2022).

Cette stratégie cherche à poser les bases d'une structuration à long terme de l'écosystème national de l'IA en soutenant la recherche publique (instituts 3AI), en investissant dans les

<footnote n="6">⁶ Cette Convention, adoptée le 17 mai 2024 par le Conseil de l'Europe, a pour vocation de poser les « principes et obligations visant à garantir que les activités du cycle de vie des systèmes d'intelligence artificielle sont pleinement compatibles avec les droits humains, la démocratie et l'État de droit sont destinés à constituer une norme dans toutes les sociétés où l'être humain est au centre, quelle que soit leur situation géographique » : <https://www.coe.int/fr/web/artificial-intelligence/cai>.</footnote>

<footnote n="7">⁷ Toujours en 2017, la Commission nationale de l'informatique et des libertés (CNIL) a publié une synthèse du débat public mené par ses services (CNIL, 2017).</footnote>

<footnote n="8">⁸ Voir le « plan France 2030 » : <https://www.economie.gouv.fr/france-2030>.</footnote>
start-up et les grandes entreprises nationales, et en renforçant les capacités techniques et les infrastructures nationales et européennes pour le stockage des données, l'entraînement des algorithmes et la réalisation de calculs complexes (par exemple, le projet de supercalculateur Jean Zay, installé à l'IDRIS, centre national de calcul du CNRS, en 2019 et considéré comme l'une des infrastructures de calcul les plus puissantes d'Europe<fnref n="9" />). Depuis 2018, cette stratégie comprend également diverses initiatives telles que le Hub France AI, qui réunit des acteurs publics et privés pour accélérer l'adoption de l'IA dans les entreprises et les institutions au niveau national et européen. En novembre 2021, une nouvelle phase de la stratégie nationale IA a été lancée dans le cadre du plan France 2030, qui annonce pour objectif d'accélérer le déploiement des technologies intelligentes dans l'économie et l'administration publique, en finançant des programmes prioritaires de recherche et d'équipement (PEPR), ainsi que des projets d'infrastructure (Deepgreen, P16), réservés à l'« IA embarquée », l'« IA frugale », l'« IA décentralisée » et l'« IA de confiance »<fnref n="10" />.

Depuis l'adoption de la stratégie nationale pour l'IA en 2018, l'État s'est doté de toute une infrastructure d'acteurs institutionnels pour faciliter et accompagner le développement et la diffusion plus large d'outils basés sur l'IA dans les administrations et les établissements de la fonction publique. La fonction de coordonnateur national pour l'IA a été introduite, au sein du ministère de l'Économie et des Finances, afin d'assurer les interactions entre les différents acteurs de l'IA publique, de développer l'infrastructure et l'écosystème de l'innovation en matière d'IA, de soutenir divers projets et, plus généralement, de veiller à la réalisation de la stratégie nationale.

Cette action repose premièrement, sur des acteurs de la transformation numérique de l'État, tels que la DINUM<fnref n="11" />. Cet organisme est chargé de la modernisation du système d'information de l'État, de la qualité des services publics numériques, de la création de services innovants pour les citoyens et d'outils numériques de travail collaboratif pour les agents. Le département Etalab, créé en 2011, puis rattaché à la DINUM, coordonne la conception et la mise en œuvre de la stratégie de l'État en matière de données. Son rôle, plus généralement, est d'assurer une coordination entre différents acteurs de l'administration centrale, d'accompagner, de donner de grandes orientations en matière de gestion des données. Une autre de ses fonctions est d'animer la communauté scientifique, car la question de l'expertise est essentielle : analyser les besoins en matière de compétences en interne et en externe de la fonction publique, former en interne de futurs administrateurs, travailler sur la formation continue, etc.<fnref n="12" /> Un programme, intitulé « Entrepreneurs d'intérêt général », a été lancé par Etalab avec pour objectif d'attirer des spécialistes du numérique, surtout en data science, dans l'action publique (Mabi 2023). Pour bénéficier de ce programme, une administration identifie des défis numériques à résoudre et fait appel à des compétences externes (ingénieurs et autres spécialistes de données, développeurs) pour travailler sur ces défis en équipe de deux ou trois à côté des agents publics, pendant dix mois<fnref n="13" />. Une initiative ayant pour but, plus spécifiquement, à encourager les administrations et les services publics à introduire des

<footnote n="9">⁹ Voir plus de détails sur le site de l'IDRIS, http://www.idris.fr/jean-zay/jean-zay-presentation.html</footnote>

<footnote n="10">¹⁰ Voir la stratégie nationale pour l'intelligence artificielle : <https://www.economie.gouv.fr/strategie-nationale-intelligence-artificielle#>.</footnote>

<footnote n="11">¹¹ Initialement connu sous le nom de la direction interministérielle du numérique et du système d'information et de communication de l'État (DINSIC), cet organisme a été créé en 2015 et a été initialement placé sous l'autorité du Premier ministre.</footnote>

<footnote n="12">¹² Il a ainsi pour mission une évaluation qualitative et quantitative des besoins de compétences et d'expertise en la matière, ainsi que des réponses à y apporter à court et moyen terme (volet « développer l'utilisation de la donnée dans votre administration : <https://www.numerique.gouv.fr/actualites/france-relance-laureats-volet-developper-utilisation-de-la-donnee/>).</footnote>

<footnote n="13">¹³ Entretien avec l'ancienne directrice d'Etalab Laure Lucchesi, mené par Olessia Kirtchik et Maya Cléré, 8 juin 2023.</footnote>
systèmes d'IA dans leur travail a été entreprise par le gouvernement français dès 2018. Dans cet objectif, la DINSIC et la direction interministérielle de la transformation publique (DITP)<fnref n="14" /> ont lancé plusieurs appels à manifestation d'intérêt (AMI) pour expérimenter l'intelligence artificielle dans les services publics. Les projets sélectionnés lors des appels de 2018, 2019 et 2020 ont été accompagnés par Etalab et sa sous-direction Lab IA, durant dix mois, pour expérimenter différents dispositifs soutenus par l'IA au sein des administrations publiques<fnref n="15" />.

Ces projets ont concerné des domaines de politique publique très variés avec, toutefois, un intérêt et une portée assez limités, car il s'agit généralement de très petits projets à budget réduit<fnref n="16" />, qui permettent d'aboutir, dans le meilleur des cas, à des preuves de concept, mais qui n'ont souvent pas d'impact immédiat sur les pratiques. La portée principale de ce type d'initiative semble être ailleurs : réaffirmer l'intérêt et la volonté de la puissance publique en matière d'IA et de données, créer des précédents et des infrastructures institutionnelles. Ce mode d'opération par expérimentation, calqué sur le modus operandi propre aux milieux high tech les plus à la pointe, est censé créer des attentes, favoriser l'émulation et normaliser en rendant socialement acceptables divers usages de ces outils sociotechniques (Alauzen 2022). Ces initiatives contribuent également à faire émerger et à entretenir des réseaux hétérogènes d'acteurs qui mélangent des fonctionnaires, des chercheurs, des universitaires et des ingénieurs, des cabinets de conseil, de nombreux partenaires industriels et une nébuleuse de start-up spécialisés en AI et les données. La CNIL, qui s'est dotée d'un service d'intelligence artificielle en 2023, et les acteurs de la société civile (tels La Quadrature du Net<fnref n="17" />) réfléchissent aux lignes directrices pour la mise en œuvre de ces innovations et veillent à leur respect. Il n'y a pas d'imperméabilité entre ces mondes et plusieurs acteurs provenant de milieux et parcours différents s'y côtoient et s'y déplacent fréquemment, ce qui crée le « monde public de l'IA ».

La tâche de coordination entre ces différents acteurs se révèle, de fait, compliquée. Depuis 2014, les ministères et autres administrations centrales ont mis en place les fonctions d'administrateurs ministériels des données, algorithmes et codes sources (AMDAC), et certains d'entre eux disposent aujourd'hui de leurs propres coordonnateurs et de feuilles de route en matière d'IA. Enfin, cet écosystème institutionnel comprend les collectivités locales dont l'action est coordonnée par l'Agence nationale de la cohésion territoriale (ANCT). Les instances centrales ont de fait peu de visibilité et de prise sur ce qui se passe dans différents ministères et autres administrations publiques au niveau central et surtout au niveau des acteurs territoriaux. De fait, on assiste à très peu d'interaction et de partage de données, de compétences et de dispositifs. En raison de son mode de fonctionnement « par projet », qui consiste à transposer le concept de management « agile » et modulaire aux services de l'État,<fnref n="18" /> cet écosystème de l'IA publique risque de ne pas être pérenne. Souvent restreints par

<footnote n="14">¹⁴ La DITP gère, quant à elle, le Fonds de transformation de l'action publique.</footnote>

<footnote n="15">¹⁵ À ce jour, tous les projets sélectionnés (24 au total) n'ont pas abouti (deux se sont retirés), et les autres sont à des stades d'avancement et d'intérêt variables : <https://www.etalab.gouv.fr/lab-ia/bibliothèque-des-projets-ia/>. Après la fin de la période d'accompagnement de ces projets au printemps 2022, le Lab IA lui-même a cessé d'exister.</footnote>

<footnote n="16">¹⁶ Avec un financement entre cent et deux cents mille euros par projet.</footnote>

<footnote n="17">¹⁷ La Quadrature du Net (LQDN) est une association qui promeut les libertés et les droits fondamentaux des citoyens/utilisateurs dans les environnements numériques, avec une attention particulière aux dynamiques de censure et de surveillance. Voir https://www.laquadrature.net/nous/</footnote>

<footnote n="18">¹⁸ Pour plus de détails sur ce concept de management dans l'administration publique, voir par exemple le document « Diffuser la culture du mode projet dans la fonction publique : un nouveau guide pour les managers (édition 2019) », publié par la générale de l'administration et de la fonction publique, Novembre 2019 : https://www.fonction-publique.gouv.fr/toutes-les-publications/diffuser-la-culture-du-mode-projet-dans-la-fonction-publique-un-nouveau-guide-pour-les-managers-edition-2019.</footnote>
le délai et le budget initialement alloués, et non pensés par rapport à une stratégie à long terme, les initiatives et les entités consacrées à l'IA publique, à l'instar du Lab IA d'Etalab, ont une existence plutôt éphémère.

## L'IA au cœur des administrations publiques

Depuis 2018, l'IA est passée d'objet obscur et méconnu à centre de l'excitation générale, à la suite d'un travail de diffusion, voire d'évangélisation, de ces technologies au sein des administrations publiques. De nouveaux organismes et de nouvelles fonctions (comme celle de coordonnateur pour l'IA), des figures et des milieux intermédiaires hybrides, des programmes et les budgets consacrés spécifiquement à ce domaine font partie de cette « économie de la promesse » (Compagnon et Saint-Martin, 2019 ; Dandurand et al., 2022 ; Gingras et Meurs, 2018) qui présage la transformation profonde de l'action publique par l'IA. L'objectif officiellement annoncé de diverses initiatives de modernisation numérique du secteur public comprend les tâches interdépendantes suivantes : améliorer le service au citoyen, tout en personnalisant et rendant plus rapide les services publics ; optimiser l'emploi des ressources publiques, matérielles comme humaines ; développer un pôle de compétences mutualisé en interne (Conseil d'État, 2022). Mais comment, de fait, les agents publics eux-mêmes perçoivent-ils l'utilité des dispositifs d'IA dans leurs missions ? Quels sont les principaux champs d'expérimentation des systèmes d'IA et les limites à une diffusion plus large de ces usages ?

Il n'existe actuellement d'inventaire complet des cas d'utilisation de l'IA dans l'administration et les services publics en France<fnref n="19" />. Cependant, si l'on compare avec d'autres pays européens, on constate que la France a adopté ces outils plus tôt et plus largement, à l'exception de quelques pays comme les Pays-Bas et l'Estonie (AI Watch 2022, p. 36). Des expérimentations avec des outils appuyés par l'IA sont faites à peu près dans tous les secteurs publics, mais les situations sont très variables d'un ministère à l'autre, d'un domaine d'action à l'autre, ou d'un territoire à l'autre, en fonction des moyens budgétaires et autres ressources, ainsi que des compétences disponibles. Si des services riches en données et en expertise technique comme Météo-France ont déjà recours à ce type d'outils, d'autres, l'INSEE par exemple, ne comptent pas encore dans leurs rangs d'experts en IA. L'action de ces acteurs publics en matière de données et d'IA est souvent antérieure à 2018 et relativement autonome vis-à-vis des administrations centrales responsables de la transformation numérique et de l'IA. Toutefois, l'adoption d'une stratégie nationale et des actions en lien avec celle-ci a sans doute intensifié et, d'une certaine manière, légitimé ces efforts.

On peut distinguer deux types d'applications de l'IA dans les administrations publiques :

1. les applications qui visent à automatiser des aspects spécifiques du fonctionnement interne des administrations ou des services, ou des tâches accomplies par les agents publics – en d'autres termes, les dispositifs d'IA qui transforment de l'intérieur les organisations et les divers métiers de la fonction publique ;

2. les applications qui concernent plus directement leurs relations avec les usagers et les autres acteurs impliqués dans l'exécution de leurs tâches – en d'autres

<footnote n="19">¹⁹ Par ailleurs, le récent Rapport du Conseil d'État (2022) donne une vision d'ensemble de l'IA publique et recense de nombreux usages. Il faut également souligner les efforts de l'Observatoire des algorithmes publics, lancé en novembre 2024 par Camille Girard-Chanudet, Estelle Hary et Soizic Pénicaud, et qui propose un « Inventaire des algorithmes publics » qui en recense plus de 70 à la date de publication de cet article. Voir https://odap.fr/inventaire/synthese/</footnote>
termes, les dispositifs qui transforment la manière dont les tâches administratives sont exécutées, et dès lors, leurs relations avec le public.

## Les transformations « par l’IA » des métiers de l’administration publique

Parmi les applications du premier type qui semblent intéresser de plus en plus les ministères et autres organismes publics figurent divers outils destinés à automatiser la communication et des processus administratifs intérieurs à ces organisations. Ces dernières possèdent des organigrammes et des systèmes de règles de fonctionnement complexes. Ainsi, les agents conversationnels (chatbots), connectés aux systèmes d'information internes, devraient – du moins en théorie – faire gagner un temps considérable aux agents des ressources humaines et aux salariés, en répondant à des questions telles que comment commander du matériel de bureau et informatique, comment obtenir une promotion, sélectionner une formation, partir en mission etc. Plus généralement, la multiplication des données de diverse nature et des documents digitalisés, accumulés par les organismes publics suite à la dématérialisation des procédures, pose un défi majeur et ouvre en même temps de nouvelles possibilités grâce aux techniques de catégorisation et d'extraction d'informations automatisées. Des systèmes d'IA ayant pour but, par exemple, la priorisation des documents ou de recherches des similitudes et des divergences dans de grands ensembles de documents sont testés et déployés par des organisations publiques dans les domaines juridique et judiciaire (Clément et Sayn 2023). Tel est l'objet du projet expérimental de détection des requêtes similaires appelant des réponses analogues porté par le Conseil d'État et retenu dans le cadre du deuxième appel à manifestation d'intérêts organisé par Etalab (Conseil d'État, 2022 : 67, 306). La numérisation et la dématérialisation de l'activité représentent la condition (et dans certains cas la limite) principale au développement de ces outils de recherche et d'analyse linguistique par des organismes publics. Des techniques d'IA plus sophistiquées, telles que la reconnaissance vocale et la traduction automatique, sont également testées pour automatiser des tâches dans de nombreux domaines d'action publique. Selon les récits courants, l'IA est là pour rendre le travail des agents plus « intéressant » et plus efficace en leur permettant de gagner du temps en simplifiant des tâches répétitives et fastidieuses.

La Gendarmerie nationale, qui met en place une stratégie en IA particulièrement ambitieuse, est en train de développer une véritable « boîte à outils » (d'analyse d'images et de reconnaissance vocale, de traduction et de transcription automatique de la parole, etc.) destinée à transformer le travail quotidien des agents publics. Selon le coordinateur en IA de cet organisme, les systèmes d'IA pourraient également orienter les activités opérationnelles des agents<fnref n="20" />. Un outil de prédiction de la criminalité, pourtant controversé (Benbouzid, 2017), est considéré comme susceptible de changer toute la philosophie et les méthodes pratiques d'intervention dans les missions de maintien de l'ordre public en permettant aux agents d'anticiper les crimes au lieu d'agir en mode réactif. Critiqués pour ne pas être réellement fondés sur une méthode scientifique, d'une part, et pour créer des effets de prophétie autoréalisatrice, en renforçant les interventions dans certaines zones urbaines, d'autre part, ces outils, inspirés de la démarche prédictive, sont néanmoins déjà déployés localement aux États-Unis et dans certains pays européens. En France, la Gendarmerie nationale expérimente depuis plus de dix ans des logiciels d'analyse de la délinquance fondés sur le recensement des actes passés et sur plusieurs centaines de variables d'ordre socio-économique ou territorial,

<footnote n="20">²⁰ Entretien avec le coordonnateur pour l'IA de la Gendarmerie nationale, mené par Olessia Kirtchik et Maya Cléré, 12 mai 2023.</footnote>
afin de pouvoir orienter leur action de manière plus efficace. D'autres projets sont conduits au niveau municipal.<fnref n="21" />

La défense et le renseignement sont également identifiés comme des domaines prioritaires par la stratégie nationale pour l'IA qui sont en train d'être transformés en profondeur et à une plus grande échelle. Ainsi, un projet d'ampleur (Artemis), actuellement mis en œuvre pour le compte du ministère des Armées par le consortium industriel ATHEA (composé de Thales et Atos, mais aussi de start-up et de PME sélectionnées pour leur expertise mondialement reconnue) est conçu pour apporter aux armées une solution souveraine et sécurisée pour le traitement massif de données et d'IA<fnref n="22" />. L'Agence de l'innovation de défense, créée dans l'objectif d'accompagner et d'accélérer l'adoption des systèmes d'IA au sein des armées, développe divers projets qui concernent le fonctionnement administratif aussi bien que l'armement et la conduite de différentes missions. Pour ne citer qu'un exemple de système d'IA actuellement opérationnel, un outil développé conjointement par cette agence et une start-up française analyse des images fournies par des satellites militaires en très grande quantité, impossibles à saisir à l'œil nu<fnref n="23" />. L'IA permet aux analystes militaires de surveiller systématiquement et en temps réel les activités de centaines de sites sensibles, ce qui représente une révolution en profondeur dans ce domaine, en redéfinissant les tâches et les périmètres d'action : par exemple, surveiller un grand nombre de sites stratégiques dans le monde en temps réel.

Or, si le processus en cours d'automatisation de l'action publique ne donne pas aux technologies numériques, notamment « intelligentes », un rôle croissant dans la prise de décision, ni ne fait advenir une crainte de remplacement des agents humains par les machines, il conduit à une reconfiguration des compétences et des domaines d'expertise, ainsi qu'à des transformations en profondeur de certains métiers (et des connaissances qu'ils requièrent, de leurs infrastructures et outils) qui doivent être analysés au cas par cas.

## Les transformations par l'IA des performances et des relations avec le public

Les applications visant à transformer les missions des organismes publics qui touchent directement la population et les modes d'interaction (communication frontale) avec leurs publics sont plus visibles et plus sensibles aux critiques. Parmi les dispositifs testés ou déjà utilisés en France qui automatisent la relation avec l'utilisateur, on peut citer les agents conversationnels (chat ou voice bots) et les outils de présélection et d'analyse des plaintes ou des demandes en ligne formulées par les utilisateurs. Les simulateurs de protection sociale en ligne et la recherche d'informations sur les sites web gouvernementaux peuvent être inclus dans la même catégorie. Différents outils d'analyse sémantique permettent de standardiser les réponses aux demandes et d'améliorer le routage entre les services (utilisés par exemple par la direction générale des Finances publiques [DGFIP], le ministère de l'Intérieur, la Gendarmerie nationale et l'Agence centrale des organismes de sécurité sociale). Leur généralisation est actuellement limitée, sur le plan technique, par leurs capacités de traitement du langage naturel (ChatGPT est considéré par plusieurs de nos répondants comme une avancée révolutionnaire dans ce domaine<fnref n="24" />). Mais plus important encore, leur généralisation

<footnote n="21">²¹ Par exemple, la ville de Marseille conduit, avec l'aide de financements européens, un projet « Big data de la tranquillité publique » (Conseil d'État, 2022 : 283).</footnote>

<footnote n="22">²² Entretien avec deux membres de la cellule de coordination de l'intelligence artificielle de défense (CCIAD), menés par Olessia Kirtchik, Francesca Musiani et Maya Cléré, 2 mai 2023.</footnote>

<footnote n="23">²³ Entretien avec un représentant d'une start-up qui collabore avec le ministère des Armées, mené par Olessia Kirtchik et Maya Cléré, 13 avril 2023.</footnote>

<footnote n="24">²⁴ Entretien avec le coordonnateur national pour l'IA, mené par Olessia Kirtchik et Maya Cléré, 12 mai 2023.</footnote>
peut aujourd'hui aller à l'encontre des principes d'accessibilité universelle et de continuité des services publics, compte tenu de la couverture inégale du territoire national par les connexions Internet et de la disparité des équipements et des compétences des citoyens pour effectuer les démarches administratives en ligne. Plus généralement, ces outils posent problème car ils cherchent à arbitrer la relation entre l'État et les citoyens à travers des systèmes d'IA dont le fonctionnement est opaque et échappe au contrôle des utilisateurs. Cependant, le ciblage des contrôles ou la prévention de la fraude sociale et fiscale deviennent le domaine privilégié d'expérimentation des systèmes fondés sur l'IA par l'administration publique. D'une part, les algorithmes de classification présents dans diverses techniques d'apprentissage automatique sont particulièrement bien adaptés pour détecter des irrégularités dans des séries de données uniformes afin de détecter des comportements suspects. D'autre part, ces applications sont très demandées par les agences gouvernementales elles-mêmes, qui cherchent à accroître leur efficacité, à réduire leurs coûts d'exploitation et à générer des revenus pour l'État.

Ainsi, la DGFIP a été l'une des premières et des plus efficaces utilisatrices en France des technologies numériques et intelligentes qui ont révolutionné le domaine du contrôle fiscal et de la lutte contre la fraude fiscale. Dans le passé, les contrôles fiscaux reposaient en grande partie sur des traces écrites et des réunions face à face. Le fisc a commencé par éliminer le papier en exigeant que toutes les pièces comptables soient soumises dans un format unique et dématérialisé : le fichier des pièces comptables (FEC), qui est la pierre angulaire de sa transformation numérique. C'est là que le métier d'analyste de données est devenu essentiel (à côté des métiers traditionnels d'avocat, d'économiste et de comptable). La DGFIP a également récemment expérimenté un nouveau système fondé sur l'IA, baptisé « Foncier innovant », destiné à détecter les piscines non déclarées grâce à des techniques de reconnaissance visuelle sur images satellite<fnref n="25" />. Il a vocation à être utilisé systématiquement après avoir été testé dans neuf départements en 2021 et avoir détecté plus de 20 000 piscines non déclarées, selon une évaluation des Finances publiques (DGFIP, 2022). Les organismes de sécurité sociale ont, quant à eux, fait de la lutte contre les différentes formes de fraude sociale une de leurs priorités, le manque à gagner étant estimé entre 6 et 8 milliards d'euros par an pour l'État (Cour des Comptes, 2023 : 229).

De multiples autres dispositifs d'aide à la décision administrative et de ciblage des contrôles sont actuellement développés et testés : destinés, par exemple, à l'inspection de restaurants (direction générale de l'Alimentation, ministère de l'Agriculture), à l'inspection environnementales (Agence française pour la biodiversité), à la détection d'irrégularités dans l'occupation des sols (direction départementale des Territoires et de la Mer), ou encore, favorisant une meilleure utilisation des données contenues dans les lettres de suite d'inspection (Autorité de sûreté nucléaire).

## Négocier l'éthique de l'IA publique : le cas de la surveillance

Si certains systèmes d'IA existant ont avant tout pour objectif d'automatiser et d'optimiser les routines administratives, de nombreux autres concernent des questions vitales de santé, de sécurité ou d'accès aux droits sociaux fondamentaux. Ces systèmes soulèvent des questions particulières relatives à l'audit public, au respect de l'équité et de la non-discrimination et, au-delà, celle de leur recevabilité par les citoyens.<fnref n="26" /> Ils sont donc soumis à des exigences

<footnote n="25">²⁵ Voir les travaux du projet Shaping AI : <https://www.shapingai.org>.</footnote>

<footnote n="26">²⁶ Les publications du collectif « La Quadrature du Net » dans le cadre de la campagne « France Contrôle » ont montré que les algorithmes de notation utilisés par les administrations sociales telles que la CAF et la CNAM ciblent en priorité les personnes les plus précaires : https://www.laquadrature.net/2024/12/05/notation-algorithmique-lassurance-maladie-surveille-les-plus-pauvres-et-harcele-les-meres-precaires/.</footnote>
spécifiques pour garantir leur utilisation éthique et responsable, en abordant des questions telles que la transparence, l'équité, la responsabilité et la protection de la vie privée des citoyens. Bien que les autorités publiques chargées du pilotage de l'IA se montrent conscientes de ces grands principes (à en juger par exemple par le site d'Etalab ou par celui du Comité sur l'Intelligence Artificielle (CAI) du Conseil de l'Europe), les administrations publiques restent opaques sur ces questions et sont souvent réticentes à communiquer sur les algorithmes utilisés. Des acteurs de la société civile soulèvent ainsi le manque de transparence institutionnelle, tout en exprimant leurs préoccupations quant à l'utilisation normalisée de technologies intrusives et à la nécessité d'un cadre juridique clair pour protéger les droits fondamentaux.<fnref n="27" />

Les problèmes d'acceptation par le public ainsi que le cadre juridique existant peuvent limiter, voire interdire le déploiement public d'une technique d'IA. Le cas de la surveillance des lieux publics grâce aux technologies d'intelligence artificielle est emblématique à cet égard. La méfiance sociétale à l'égard de ces technologies, notamment celles qui mobilisent des techniques de reconnaissance faciale, vient justement du fait que ces mêmes outils peuvent être utilisés pour protéger, prévenir la criminalité, mais aussi pour surveiller et contrôler les populations, parfois jusqu'à la menace ou à la coercition (Moraes et al., 2021 ; Madzou et Louradour, 2020). Jusqu'à présent, la reconnaissance faciale – technique biométrique de reconnaissance automatisée d'une personne, fondée sur les caractéristiques faciales – dans l'espace public n'est pas autorisée en France (Chatelier 2024).<fnref n="28" /> Le règlement européen sur l'intelligence artificielle, « AI Act », voté par Parlement européen en 2024, interdit également la reconnaissance faciale dans les espaces publics, sauf exception, ainsi que la notation sociale<fnref n="29" /> (en référence au système de ce type déjà mis en œuvre en Chine) et la police prédictive, les considérant toutes trois comme des technologies à haut risque. En revanche, les caméras augmentées (intelligentes), connectées à un système d'IA qui analyse les flux de données et qualifie les objets et les activités, sans identifier les individus, sont utilisées de façon croissante dans les espaces publics pour des questions de sécurité, mais aussi de logistique et de contrôle (par exemple, pour infliger une amende aux véhicules lourds circulant dans une zone interdite). Cependant, les finalités d'utilisation de cette technologie sont également limitées par la loi. Ainsi, la législation nationale n'autorise pas l'utilisation, par les pouvoirs publics, de caméras « augmentées » pour la détection et la poursuite d'infractions, sans autorisation du tribunal.

Toutefois, le cadre juridique et public de ces utilisations fait l'objet de négociations permanentes entre les différents acteurs, notamment les administrations publiques, les législateurs, les acteurs privés et la société civile. La Commission nationale de l'informatique et des libertés (CNIL) fournit des orientations générales prises en compte par des entrepreneurs publics comme privés pour soigner l'image publique et minimiser les risques en développant certains dispositifs d'IA.

La reconnaissance faciale n'a pas, quant à elle, été utilisée à des fins de la surveillance pendant les Jeux olympiques de Paris en 2024³⁰. Toutefois, à l'issue d'un travail de lobbying

<footnote n="27">²⁷ Entretien avec des membres de « La Quadrature du Net », mené par Olessia Kirtchik et Francesca Musiani, 9 janvier 2024.</footnote>

<footnote n="28">²⁸ Des logiciels de vidéosurveillance dotés de fonctionnalité de la reconnaissance faciale sont, pourtant, testés par plusieurs collectivités en France. Ces usages ont donné lieu à des contrôles de la CNIL et à des contentieux administartifs (Chatelier 2024 : 228).</footnote>

<footnote n="29">²⁹ La notation sociale est un système qui attribue des notes aux individus en fonction de leur comportement social et de leurs caractéristiques personnelles, et débouchant sur des restrictions d'accès à certains services. Voir par exemple Liang et Chen, 2022, ou sur l'expansion, possible ou en cours, de ce modèle à d'autres réalités géopolitiques que la Chine, Pabisiak, 2020.</footnote>

<footnote n="30">³⁰ Loi n° 2023-380 du 19 mai 2023 relative aux Jeux Olympiques et Paralympiques de 2024, publiée dans le Journal officiel de la République française, 20 mai 2023 :</footnote>
soutenu par les acteurs privés et publics concernés, des caméras augmentées ont été utilisées avant, pendant et après les Jeux pour fournir une analyse en temps réel des « événements » définis comme suspects, y compris des comportements des individus (personnes isolées et statiques, mouvements de foule ou intrusions dans une zone interdite, etc.)<fnref n="31" />. Un certain nombre d'associations de défense des droits de l'homme dans le contexte numérique ont critiqué cette décision, arguant que les dérogations et les exceptions autorisées modifiaient les pratiques et semblaient lever progressivement le tabou de la vidéosurveillance algorithmique (Basson 2024). En effet, une fois ces infrastructures installées, une fois leurs usages normalisés et acceptés, il devient alors sans doute extrêmement difficile d'en avoir un contrôle public. Dans le même temps, les forces de l'ordre continuent de prôner la généralisation de l'utilisation de la reconnaissance faciale et des caméras intelligentes ainsi que des dispositifs prédictifs, à des fins opérationnelles. Selon elles, ces organismes publics ne seront pas en mesure de remplir leur mission de manière satisfaisante, d'anticiper les menaces émergentes pour l'ordre public alors que l'IA est « utilisée par des criminels, des terroristes, des entreprises privées et des gouvernements étrangers, mais pas par eux<fnref n="32" /> ».
Les enjeux de ce débat sont importants et inédits. Selon la CNIL, qui a publié une déclaration sur les usages de la reconnaissance faciale en 2019, cette technologie « soulève des questions inédites touchant aux choix de société » (CNIL, 2019). Les systèmes de reconnaissance faciale peuvent produire des erreurs qui privent les individus de l'accès aux services publics et restreignent autrement leurs droits. Plus généralement, la capacité de surveillance accrue des autorités publiques rendue possible par cette technologie pourrait à terme réduire l'anonymat des citoyens dans les espaces publics. C'est précisément pour ces raisons que, ces dernières années, le projet Alicem du ministère de l'Intérieur faisant de la reconnaissance faciale un outil pour prouver l'identité numérique d'une personne (Alauzen, 2022), les systèmes de surveillance par IA placés à l'entrée des écoles à Nice, et d'autres projets similaires ont été rejetés sur décision de la CNIL. Cette dernière a également pris position sur les caméras augmentées, en proposant le principe de l'utilisation minimale nécessaire. Selon elle, il appartiendra aux pouvoirs publics de veiller à ce que l'utilisation des caméras « augmentées » soit limitée aux cas les plus légitimes, afin d'éviter une prolifération disproportionnée de ces dispositifs, qui risquent de modifier notre rapport à l'espace public, selon la logique du « Panopticon » (Foucault, 1975)<fnref n="33" />. Sinon, l'adoption généralisée de la surveillance automatisée par l'IA pourrait ainsi être une question de choix de société, où la vie privée et l'anonymat ne seraient plus la norme.

<footnote><https://www.legifrance.gouv.fr/download/pdf?id=yUQ_DLw0skm8dWcA3FHSXNCWae1u63ZO6Nh5ySR3wgs=>.</footnote>

<footnote n="31">³¹ Ibid.</footnote>

<footnote n="32">³² Entretien avec un coordonnateur pour l'IA de la Gendarmerie nationale, mené par Olessia Kirtchik et Maya Cléré, 12 mai 2023.</footnote>

<footnote n="33">³³ Dans Surveiller et punir, Michel Foucault discute l'invention du « Panopticon » par Jeremy Bentham, philosophe et réformateur britannique qui vécut à cheval entre le 18e et le 19e siècles. Le Panopticon est à l'origine un dispositif de surveillance carcérale. Il s'agit d'une tour centrale dans laquelle se trouve un surveillant, autour de laquelle les cellules sont disposées en cercle. La lumière entre dans la cellule du côté du prisonnier ; le surveillant peut ainsi voir l'ombre de ce dernier et vérifier sa présence et ses actions, alors que le surveillant est invisible au prisonnier, qui ne sait pas donc à quels instants précis il est surveillé ou pas. Il s'agit d'un principe qui, selon Michel Foucault, peut être – et est – étendu à d'autres espaces de travail et de vie où des dynamiques de surveillance sont de mise : la prison et la surveillance n'ont plus pour trait marquant d'enfermer, mais de rendre visible, pour que le surveillé se sache surveillé. La surveillance devient « permanente dans ses effets, même si discontinue dans son action » (Foucault, 1975, chap. 3).</footnote>
Conclusion

La France ne connaît pas encore de révolution de l'IA publique, mais on observe actuellement un déploiement progressif des systèmes d'IA dans les services publics, inégal selon les administrations et souvent expérimental, à quelques exceptions notables déjà évoquées. Aux côtés des Finances publiques, les organisations chargées de protéger l'ordre public, le renseignement et la défense disposent des stratégies, des feuilles de route et des visions les plus complètes pour développer et déployer des systèmes fondés sur l'IA. Au-delà de ces domaines, la sécurité sociale et les autres organismes de protection sociale tendent à développer très activement diverses applications d'IA pour instrumenter leurs actions (prétraitement et priorisation des demandes, automatisation de la communication avec les usagers, calcul des prestations sociales, lutte contre la fraude, etc.).

Les dispositifs de l'IA expérimentés et mis en œuvre par ces acteurs publics répondent, en réalité, aux impératifs de réduction des coûts de fonctionnement, d'accroissement du périmètre de leurs capacités d'intervention, de générer des revenus pour l'État grâce aux opérations de contrôle, et, bien sûr, de sécuriser l'espace public grâce à des techniques de surveillance. Ces dernières, tout particulièrement, entraînent un certain nombre de controverses liées aux risques qu'elles représentent pour les droits fondamentaux et les libertés citoyennes, et on peut donc observer des efforts importants de légitimation de ces technologies par les acteurs étatiques, dans les discours et dans les actions. Le fait que les fonctions souveraines et redistributives de l'État soient les premières à être automatisées semble être symptomatique d'effets plus larges et plus profonds, qu'il nous faudra plus de temps pour évaluer pleinement.

Nous pouvons enfin tirer quelques conclusions sur le portrait, en train de se dessiner, de l'« État-automate ». Trois axes de transformation sont en cours, et se focalisent respectivement sur : (1) l'optimisation et la performance ; (2) la dépersonnalisation et la formalisation ; (3) le contrôle, la transparence et la surveillance. Nous revenons rapidement ci-dessous sur ces trois axes.

(1) L'optimisation et la performance. Dans la quête (de longue date) d'efficacité dans son fonctionnement, l'Etat cherche à atteindre des résultats mesurables et à optimiser l'utilisation des ressources publiques grâce aux outils de l'IA, souvent inspirés des modèles managériaux du secteur privé. Cela inclut notamment l'automatisation des processus administratifs (réduction des délais, gestion plus rapide des dossiers), l'implémentation de méthodes de gestion basées sur la performance (mise en place d'indicateurs d'évaluation), la rationalisation des services publics (réduction des doublons, optimisation des ressources, externalisation des services jugés comme étant moins stratégiques). Si cette transformation conduit à une administration plus rapide et plus réactive, elle pose la question de la priorisation des résultats quantifiables sur d'autres valeurs fondamentales, comme l'équité ou la justice sociale (Bourdieu, 2012), et peut entraîner une déshumanisation, où les citoyens deviennent des « cas » ou des « dossiers » à optimiser.

(2) La dépersonnalisation et la formalisation. L'État cherche à réduire la subjectivité et l'arbitraire dans ses processus en formalisant et standardisant les interactions. Cela se traduit par une uniformisation des démarches pour éviter toute intervention humaine non réglementée, la mise en place d'algorithmes de prise de décision (par exemple dans l'attribution d'allocations ou de subventions, où des critères précis déterminent automatiquement les résultats), ou encore le remplacement total ou partiel des échanges avec des fonctionnaires par des plateformes numériques. Cette formalisation peut garantir une plus grande impartialité et homogénéité dans le traitement des dossiers, mais elle efface en même temps la capacité de l'État à prendre en compte
des situations individuelles ou atypiques, ce qui peut engendrer une frustration chez les citoyens qui se sentiraient enfermés dans des cadres rigides ou pris en charge par des acteurs insensibles à leurs difficultés spécifiques. L'automatisation des décisions administratives individuelles comporte également le risque de rendre plus difficile les réclamations et les contestations par des citoyens concernés du résultat de ces décisions, en raison de l'opacité et de la complexité des systèmes techniques mis en œuvre.<fnref n="34" />

(3) Le contrôle, la transparence et la surveillance. Ce troisième aspect a trait à une attention croissante à la transparence et la traçabilité dans la gestion publique, souvent justifiée par des impératifs de lutte contre la fraude, la corruption ou l'insécurité. Les technologies de surveillance et de contrôle jouent un rôle clé ici, du fait qu'elles rendent possible une plus grande traçabilité des données (collecte et analyse de données massives ou big data pour suivre les activités d'une variété d'acteurs sociaux), un contrôle accru des prestations sociales (vérification systématique des bénéficiaires grâce à des outils permettant par exemple le croisement de données entre plusieurs administrations : Dubois, 2021), une plus grande exigence de transparence des décisions publiques (publication de données ouvertes, mais aussi surveillance renforcée des acteurs publics eux-mêmes). Ces initiatives augmentent la transparence et peuvent renforcer la confiance du public dans certaines circonstances, mais posent de façon renouvelée des questions fondamentales, telles que la protection de la vie privée et les libertés individuelles. L'État devient non seulement plus intrusif, mais aussi potentiellement coercitif, avec un risque de surveillance généralisée (Chazal, 2024).<fnref n="35" />

Les axes de transformation esquissés ci-dessus ne proviennent pas de l'ensemble des nouvelles technologies que nous définissons actuellement comme « intelligence artificielle » ; toutes ont des racines sociales, politiques et économiques plus anciennes et plus profondes. Ces efforts semblent s'inscrire en effet dans des tendances globales et durables liées aux représentations de la nature de l'État et de son action, à l'évolution des connaissances et des techniques de gouvernement, et enfin aux avancées technologiques et aux transformations actuelles du capitalisme. Cependant, les systèmes d'IA proposent des capacités inédites à accentuer ces tendances, pour modifier l'équilibre des pouvoirs à l'intérieur et à l'extérieur de l'État, et pour servir d'intermédiaire et restructurer les relations entre les citoyens, les entreprises privées et les organisations publiques.

## Références bibliographiques

AI WATCH, 2022, European Landscape on the Use of Artificial Intelligence by the Public Sector, EUR 31088 EN, Publications Office of the European Union, Luxembourg: <https://publications.jrc.ec.europa.eu/repository/handle/JRC129301>.

ALAUZEN, Marie, 2022, « Les tressautements du "devenir interface" de notre relation à l'État: controverse sur l'expérimentation d'Alicem », Gouvernement & action publique, vol. 2, n° 11, p. 101-126.

<footnote n="34">³⁴ Voir par exemple : Rapport - Algorithmes, systèmes d'IA et services publics : quels droits pour les usagers ? Points de vigilance et recommandations (2024), publié par le Défenseur des droits : <https://www.defenseurdesdroits.fr/algorithmes-intelligence-artificielle-et-services-publics-2024>.</footnote>

<footnote n="35">³⁵ Voir également sur ces questions les publications issues de la campagne Technopolis du collectif « La Quadrature du Net » : <https://www.laquadrature.net/>.</footnote>
AMORE, Louise et RALEY, Rita, 2017, « Securing with algorithms: Knowledge, decision, sovereignty », *Security Dialogue*, vol. 48, n° 1, p. 3-10.

BASSON, Jean-Charles, 2024, « 'Faudrait pas ébranler l'Obélisque': La sécurité intelligente et augmentée des Jeux olympiques et paralympiques de Paris de 2024 », *Savoir/Agir*, n° 64(1), p. 53-63 : <https://doi.org/10.3917/sava.064.0055>.

BENBOUZID, Bilel, 2017, « Des crimes et des séismes. La police prédictive entre science, technique et divination », *Réseaux*, n° 206, 6, p. 95-123.

BOURDIEU, Pierre, 2012, *Sur l'État. Cours au Collège de France 1989-1992*, Paris, Seuil.

BRAYNE, Sarah, 2017, "Big data surveillance: The case of policing », *American Sociological Review*, vol. 82, n° 5, p. 977–1008.

CHAZAL, Gérard, 2024, *Du panoptique de Bentham à la surveillance numérique*, Dijon, Éditions Universitaires de Dijon.

CHRISTIN, Angèle, 2017, « Algorithms in practice: Comparing web journalism and criminal justice », *Big Data & Society*, vol. 4, n° 2, p. 1-14.

Clément, Marc, et Isabelle Sayn, 2023, « L'utilisation de l'IA dans le système judiciaire », Paul, Christian et Le Metayer, Daniel (dir.), *Maîtriser l'IA au service de l'action publique : Une responsabilité individuelle et collective*, Paris, Berger-Levrault, p. 27-38.

CNIL, 2017, *Comment permettre à l'homme de garder la main ? Les enjeux éthiques des algorithmes et de l'intelligence artificielle* : <https://www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_garder_la_main_web.pdf>.

CNIL, 2019, *Reconnaissance faciale : pour un débat à la hauteur des enjeux* : <https://www.cnil.fr/fr/reconnaissance-faciale-pour-un-debat-la-hauteur-des-enjeux>.

COMPAGNON, Daniel et SAINT-MARTIN, Arnaud, 2019, « La technique : promesse, mirage et fatalité », *Socio*, n° 12, p. 7-25 : <https://doi.org/10.4000/socio.4401>.

CONSEIL D'ÉTAT, 2022, *Intelligence artificielle et action publique : construire la confiance, servir la performance* : <https://www.conseil-etat.fr/publications-colloques/etudes/intelligence-artificielle-et-action-publique-construire-la-confiance-servir-la-performance>.

COUNCIL OF EUROPE, 2024, *The Council of Europe and Artificial Intelligence* : <www.coe.int/Al>.

COUR DES COMPTES, 2023, *La sécurité sociale. Rapport sur l'application des lois de financement de la sécurité sociale* : <https://www.ccomptes.fr/system/files/2023-05/20230524-RALFSS-2023_0.pdf>.

COURMONT, Antoine, 2023, « Les acteurs privés de la ville numérique ou la mise en épreuve du pouvoir sémantique des institutions publiques », PAUL, Christian et Le METAYER, Daniel (dir.), *Maîtriser l'IA au service de l'action publique : Une responsabilité individuelle et collective*, Paris, Berger-Levrault, p. 227-238.

CUGURULLO, Federico, Caprotti, Federico, Cook, Matthew, Karvonen, Andrew, McGuirk, Pauline, & Marvin, Simon, 2024, "The rise of AI urbanism in post-smart cities: A critical commentary on urban artificial intelligence. Urban Studies", vol. 61, n° 6, p. 1168-1182.

DANDURAND, Guillaume, LUSSIER-LEJEUNE, Florence, LETENDRE, Daniel et MEURS, Marie-Jean (dir.), 2022, *Attentes et promesses technoscientifiques*, Toulouse, Presses universitaires du Midi.

DGFIP, 2022, *L'intelligence artificielle au service de la lutte contre la fraude : bilan de l'expérimentation* « Foncier innovant » : <https://www.impots.gouv.fr/sites/default/files/media/2_actu/home/2022/dp_foncier_inn_ovant.pdf>.
DUBOIS, Vincent, 2021, *Contrôler les assistés: Genèses et usages d'un mot d'ordre*, Paris, Liber/Raisons d'agir.

ENGSTROM, David, et HO, Daniel E., 2021, "Artificially intelligent government: a review and agenda", dans Vogl Roland (dir.), *Research Handbook on Big Data Law*, p. 57-86.

ENGSTROM, David, HO, Daniel E., SHARKEY, Catherine M., CUÉLLAR, Mariano-Florentino, 2020, « Government by algorithm: Artificial intelligence in federal administrative agencies », Report commissioned by the Administrative Conference of the United States.

FERNANDES, Eduardo, HOLANDA, Maristela, VICTORINO, Marcio, BORGES, Vinicius, CARVALHO, Rommel, and VAN ERVEN, Gustavo, 2019, "Educational data mining: Predictive analysis of academic performance of public school students in the capital of Brazil", *Journal of Business Research*, vol. 94, p. 335-343.

FOUCAULT, Michel, 1975, *Surveiller et punir : Naissance de la prison*, Paris, Gallimard.

FOURCADE, Marion et GORDON, Jeffrey, 2020, « Learning like a State: Statecraft in the digital age », *Journal of Law and Political Economy*, vol. 1, n° 1 : <https://escholarship.org/uc/item/3k16c24g>.

GINGRAS, Yves et MEURS, Marie-Jean, 2018, « Promesses économiques ou économie de la promesse ? », *Le Devoir*, 20 octobre.

GIRARD-CHANUDET, Camille, 2023, *La justice algorithmique en chantier. Sociologie du travail et des infrastructures de l'Intelligence Artificielle*, Thèse de doctorat en sociologie, EHESS (École des Hautes Études en Sciences Sociales).

GOËTA, Samuel, 2017, « Une petite histoire d'Etalab : Comment l'open data s'est institutionnalisé en France? », *Statistique et société*, n°3, p. 1-8.

GUENDUEZ, Ali, and METTLER, Tobias, 2023, "Strategically constructed narratives on artificial intelligence: What stories are told in governmental artificial intelligence policies?", *Government Information Quarterly*, vol. 40 : <https://doi.org/10.1016/j.giq.2022.101719>.

JEFFARES, Stephen, 2021, *The virtual public servant : artificial intelligence and frontline*, Cham, Switzerland : Palgrave Macmillan.

HELBERGER, Natali, PIERSON, Jo, et POELL, Thomas, 2018, « Governing online platforms: From contested to cooperative responsibility », *The Information Society*, vol. 34, n° 1, p. 1-14.

KATZENBACH, Christian, 2021, « “AI will fix this” – The Technical, Discursive, and Political Turn to AI in Governing Communication », *Big Data & Society*, 8(2).

Kouziokas, Georgios N., 2017, "The application of artificial intelligence in public administration for forecasting high crime risk transportation areas in urban environment", *Transportation research procedia*, n° 24, p. 467-473.

LIANG, Fan, et CHEN, Yuchen, 2022, "The making of "good" citizens: China's Social Credit Systems and infrastructures of social quantification", *Policy & Internet*, vol. 14, n° 1, p. 114-135.

MABI, Clément, 2023, “L’État doit-il être une « plateforme » pour innover ?”, dans Théviot, Anaïs (dir.), *Gouverner par les données ? Pour une sociologie politique du numérique*, Paris, ENS Éditions, p. 55-70.

MADZOU, Lofred et LOURADOUR, Sébastien, 2020, "Building a governance framework for facial recognition", *Biometric Technology Today*, n° 6, p. 5-8.

MARGETTS, Helen, and DOROBANTU, Cosmina, 2019, "Rethink government with AI", *Nature*, n° 568, p. 163-165.
MEHR, Hila, 2017, Artificial Intelligence for Citizen Services and Government, Harvard Ash Center for democratic Governance and Innovation : https://ash.harvard.edu/wp-content/uploads/2024/02/artificial_intelligence_for_citizen_services.pdf.

MISURACA, Gianluca, and VAN NOORDT, Colin, 2020, AI Watch—Artificial Intelligence in public services. <https://doi.org/10.2760/039619>.

MUSIANI, Francesca, 2022, « Infrastructuring digital sovereignty: a research agenda for an infrastructure-based sociology of digital self-determination practices », *Information, communication & society*, vol. 25, n° 6, p. 785-800.

MORAES, Thiago G., ALMEIDA, Eduarda C. et DE PEREIRA, José Renato L., 2021, “Smile, you are being identified! Risks and measures for the use of facial recognition in (semi-) public spaces”, *Al and Ethics*, vol. 1, n° 2, p. 159-172.

NEYLAND, Daniel, 2019, *The Everyday Life of an Algorithm*, Londres, Palgrave Pivot : <https://doi.org/10.1007/978-3-030-00578-8>.

SUN, Tara Qian, and MEDAGLIA, Rony, 2019, “Mapping the challenges of Artificial Intelligence in the public sector: Evidence from public healthcare”, *Government Information Quarterly*, vol. 36, n° 2, p. 368-383.

PABISIAK, Jan, 2020, “Dangerous, Yet Not So Unique. Characteristics of the Chinese Social Credit System”, *Polish Political Science Yearbook*, vol. 49, n° 3, p. 30-53.

PAUL, Christian et Le METAYER, Daniel (dir.), 2023, *Maîtriser l'IA au service de l'action publique : Une responsabilité individuelle et collective*, Paris, Berger-Levrault.

PEREZ, Fabienne, CONWAY, Neil, PETERSON, Jonathan, ROQUES, Olivier, 2024, “Me, my work and Al: How radiologists craft their work and identity”, *Journal of Vocational Behavior*, vol. 155 : < https://doi.org/10.1016/j.jvb.2024.104042>.

PICAUD, Myrtille, 2021, « Mettre en marché les peurs urbaines : le développement des « safe cities » numériques », Senik, C. (dir.), *Sociétés en danger Menaces et peurs, perceptions et réactions*, Paris, La Découverte, p. 139-156.

PICAUD, Myrtille, 2023, « Optimiser grâce aux algorithmes et aux données urbaines ? Promesses, caractéristiques et offre réelle des start-up pour la ville intelligente », *Flux*, n° 133(3), p. 9-23.

POHLE, Julia et THIEL, Thomas, 2020, « Digital sovereignty », *Internet Policy Review*, vol. 9, n° 4 : <https://doi.org/10.14763/2020.4.1532>

CHATELLIER, Régis, 2024, « Des premières caméras à l'expérimentation des algorithmes : un panorama du développement territorial, technologique et de l'encadrement juridique de la vidéosurveillance », *Revue française d'administration publique*, n° 185(1), p. 223-235.

TÜRK, Pauline et VALLAR, Christian (dir.), 2018, *La souveraineté numérique. Le concept, les enjeux*. Paris, Mare & Martin.

VAN NOORDT, Colin, and MISURACA, Gianluca, 2022, “Exploratory Insights on Artificial Intelligence for Government in Europe”, *Social Science Computer Review*, vol. 40(2), p. 426–444. VILLANI, Cédric, 2018, *Donner un sens à l’Intelligence Artificielle : pour une stratégie nationale et européenne, rapport de mission parlementaire* : <https://fichiers.acteurspublics.com/redac/pdf/2018/2018-03-28_Rapport-Villani.pdf>

VOGL, Thomas, SEIDELIN, Cathrine, GANESH, Bharath, and BRIGHT, Jonathan, 2020, « Smart Technology and the Emergence of Algorithmic Bureaucracy: Artificial Intelligence in UK Local Authorities », *Public Administration Review*, n° 80, p. 946-961.
WEBER, Max, 1978, *Economy and Society: An Outline of Interpretive Sociology*, University of California Press.

WORLD BANK, 2021, *Artificial Intelligence in the Public Sector : Summary Note (English)*. Equitable Growth, Finance and Institutions, Washington, D.C.: <http://documents.worldbank.org/curated/en/746721616045333426/Artificial-Intelligence-in-the-Public-Sector-Summary-Note>.