1 Traduit de l’anglais : B. Stiegler, For a New Critique of Political Economy, Cambridge, Polity Pres (...) « Le capitalisme contemporain repose sur une captation systématique de l’attention par les dispositifs technologiques, qui ne visent pas à émanciper mais à automatiser les comportements, neutralisant ainsi les possibilités de critique ou de réinvention du politique1. »

2 <https://www.prewave.com> ; <https://altana.ai>. 3 La chaîne de valeur globale (CGV), concept développé à l’origine par (G. Gereffi, « The Organizatio (...) 1Ces dernières années, des sociétés prestataires de plateformes ont proposé des solutions numériques2 basées sur l’intelligence artificielle (IA) aux firmes multinationales (FMN) afin de les aider à optimiser le management de leur chaîne globale de valeur (CGV)3, c’est-à-dire afin de relever le défi de cartographier, identifier et prédire les risques pour exercer une vigilance RSE, dans le prolongement des récentes réglementations dans ce domaine.

4 L. no 2017-399, 27 mars 2017, relative au devoir de vigilance des sociétés mères et des entreprises (...) 2Nous illustrons la pertinence du concept de « voile numérique » à partir de l’exemple de la mise en œuvre de la loi sur le devoir de vigilance4, qui impose aux entreprises de développer un management des risques RSE. Des concepteurs de plateformes numériques proposent de numériser le management du risque à l’aide de l’intelligence artificielle.

5 Art. L. 225-102-4.-I C. com. : « […] Le plan comporte les mesures de vigilance raisonnable propres (...) 6 G. Delalieux, « La loi sur le devoir de vigilance des sociétés multinationales : parcours d’une loi (...) 3La loi sur le devoir de vigilance précise5 le caractère raisonnable des mesures que doit comporter le plan de vigilance proposé par les FMN pour identifier et remédier à leurs risques, le caractère raisonnable relevant in fine de l’appréciation discrétionnaire6 du juge. Dès lors, se pose la question de savoir s’il est « raisonnable » de s’en remettre à une intelligence artificielle pour traiter des problématiques de management des risques de responsabilité sociale des entreprises (RSE), que nous définissons comme l’ensemble des problèmes engendrés par la mondialisation des échanges sur le plan social et environnemental, dont la responsabilité est imputée aux firmes multinationales, renvoyée à la nécessité de mieux maîtriser leurs risques le long de leur chaîne globale de valeur.

Nous commençons par développer la notion de voile numérique, avant de présenter les exemples de deux plateformes numériques ayant recours à une intelligence artificielle pour manager le risque RSE. Nous montrons ensuite comment, en s’interposant entre la réalité et les acteurs, ce « voile numérique » opère une technicisation de la vigilance RSE, participant à sa dépolitisation et in fine à entretenir l’illusion que des dispositifs techniques réussiront à régler des problèmes par nature politique (droits humains, protection de l’environnement).

# I.Le « voile numérique »

7 A. Feenberg, « Marcuse’s Critique of Technology Today », Philosophy & Social Criticism 2023, 49(6), (...) 5Nous désignons par « voile numérique » le dispositif formé par l’ensemble des technologies numériques qui vont contribuer à filtrer le monde réel perçu par des individus jusqu’à finir par constituer leur réalité. Nous adaptons ce concept à partir de celui de dispositif développé par Andrew Feenberg7, philosophe des techniques dans la lignée de l’École de Francfort. Le voile numérique désigne le cadre de référence du monde et le squelette technique qui intègrent les valeurs fondamentales de la société et contribuent à les propager.

8 Ibid., p. 680. 6Pour Andrew Feenberg, le management constitue un exemple de dispositif contingent à un certain contexte historique, ayant incorporé les valeurs fondamentales de la société comme la discipline ou l’autorité. La contingence tient au fait, que ce « dispositif aurait pu être conçu de manière différente dans une société basée sur la coopération plutôt que le contrôle des élites8 ». Au travers du management, Andrew Feenberg dénonce le caractère biaisé du processus de « rationalisation » induit par le capitalisme dans les sociétés industrielles et la façon dont les techniques de calcul et de contrôle organisent la distribution, la production et l’administration, qui tendent à privilégier systématiquement les méthodes de contrôle et de domination des travailleurs par l’encadrement des entreprises. Le management y est défini comme la technique reproduisant cette domination, en séparant les travailleurs des moyens de production.

Le « voile numérique » a pour effet de transmettre et de renforcer les valeurs fondamentales de la société, par le biais des technologies mobilisées pour identifier les problèmes de la société et pour y répondre en y apportant des solutions. Les technologies qui sous-tendent le « voile numérique » participent à la « technicisation » de la société et provoquent le rétrécissement de l’expérience vécue par les individus, en occultant d’autres significations en se substituant à l’élaboration d’un sens plus profond allant au-delà des dimensions techniques. Cette technicisation opère un cadrage automatique entre les causes et les effets, indépendamment de la communication de sens entre les individus. Par exemple, pour Andrew Feenberg, le processus d’industrialisation et de mondialisation de l’économie utilise les technologies qu’il a lui-même créées pour justifier sa supériorité, notamment dans la capacité à traiter lui-même les problèmes qu’il a pourtant engendrés, sans que l’origine des problèmes soit souvent bien perçue, contribuant ainsi à maintenir sa légitimité idéologique.

Afin d’illustrer les conséquences du voile numérique, nous analysons les effets produits par les dispositifs technologiques basés sur une intelligence artificielle qui entendent aider les entreprises à optimiser le management des risques RSE.

# II.L’Intelligence artificielle au service du management des risques RSE

La RSE est l’expression qui, depuis le début des années 2000, couvre l’ensemble des problèmes engendrés par la mondialisation des échanges sur le plan social et environnemental, en imputant la responsabilité aux firmes multinationales et en renvoyant ces dernières à la nécessité de mieux maîtriser les risques le long de leur chaîne globale de valeur. La notion de RSE s’est progressivement institutionnalisée, autour d’un ensemble de dispositions juridiques, comme la loi sur le devoir de vigilance, qui exigent des entreprises qu’elles exercent leur vigilance afin d’identifier et de remédier aux risques en matière de droits humains et d’environnement. Pour accomplir la tâche de contrôle de l’ensemble de leur chaîne globale de valeur, qui représente souvent plusieurs milliers de fournisseurs, un certain nombre de dispositifs numériques sont proposés aux firmes multinationales.

## A.L’IA pour rationaliser les risques des entreprises le long de la chaîne globale de valeur

9 <https://www.prewave.com> ; <https://altana.ai>. 10À titre d’illustration de notre propos, nous analysons ici deux sociétés en particulier, qui se positionnent comme les futurs leaders dans le domaine émergent de l’intégration sous forme de plateforme numérique de l’ensemble des enjeux autour de la sécurisation des CGV, les sociétés Prewave et Altana AI9.

10 <https://siliconcanals.com/fr/prewave-raises-63m-funding/>. 11 Dir. (UE) 2024/1760 du PE et du Cons., 13 juin 2024 dite CS3D pour corporate sustainibility due dil (...) 11Prewave est une société autrichienne fondée en 2017 par Lisa Smith et Harald Nitschinger spécialisée dans le management du risque des CGV et proposant à ses clients une plateforme numérique de gestion intégrée de l’ensemble de leurs risques (fournisseurs, cybersécurité, financiers…), pour laquelle une récente levée de fonds de plus de 63 millions d’euros10 vient d’être opérée. La plateforme se base sur l’utilisation d’une intelligence artificielle analysant des données globales provenant de multiples sources, mêlant différents types de médias, rapports gouvernementaux et d’organismes de certification, pour proposer aux entreprises une analyse et une gestion en temps réel mais aussi prédictive de leurs différents risques, conformément aux récentes législations11 en matière de conformité dans le domaine de la vigilance RSE.

12 La valorisation boursière de l’entreprise était de plus d’un milliard de dollars fin juillet 2024, (...) 12Altana AI est une compagnie12 fondée aux États-Unis en 2018, qui propose une plateforme (Altana Atlas) basée sur l’intelligence artificielle pour permettre à ses clients, entreprises et gouvernements, une gestion optimisée de l’analyse et du management des risques au sein de leurs CGV.

13 <https://altana.ai/resources/globalization-2-0-manifesto>. 14 Ce manifesto reprend à son compte l’antienne du « doux commerce » cher à Montesquieu, du capitalism (...) 13Ces deux sociétés proposent des services de repérage, de compréhension et de catégorisation des risques le long des CGV des clients. Une surveillance, par le biais des différents médias avec des alertes en temps réel, est proposée par Prewave. Dans le manifesto13 rédigé par Altana AI, il s’agit de réaligner une mondialisation qui aurait dévié de sa mission civilisatrice originelle14 et aurait renoué avec les vieux démons étatiques du nationalisme, du protectionnisme et du mercantilisme. Le service proposé est complet, puisque la plateforme proposée est intégrative, c’est-à-dire qu’elle intègre des sociétés de conseil, d’audit RSE sur site, de sensibilisation aux risques, d’action directe chez les fournisseurs (questionnaires destinés aux employés). Une combinaison entre le « nouveau » monde digital et le « vieux » monde physique en quelque sorte.

15 <https://altana.ai/platform>. 14La méthodologie de la société Altana AI est précisée à la rubrique « Qu’est-ce que fait votre IA15 ? » où il est indiqué : « évaluation automatisée de la pertinence du risque chez l’ensemble des fournisseurs, évaluation et classification des risques, propositions de mesures de remédiation et de prévention (une fonction prédictive est proposée) ». Vraisemblablement dans un souci de non-divulgation aux concurrents, les sources de données traitées ne sont pas explicitement précisées, indiquant simplement mixer des données internationales, intermédiaires et locales. L’information sur les données traitées est pourtant cruciale, en fonction du corpus d’informations ayant « nourri » l’IA, les recommandations faites pourront varier grandement.

## B.Impact de la logique de l’IA sur l’orientation de la politique RSE

Le principe de fonctionnement de l’IA est basé sur les techniques d’apprentissage génériques, de machine learning et de deep learning. Une IA est entièrement dépendante des informations qui vont lui être transmises au départ de sa formation pour la calibrer. Une IA destinée à repérer, comprendre et catégoriser les risques de la CGV, sera donc tributaire des données l’ayant alimentée à ses débuts.

16 La Société TÜV Süd, un des leaders mondiaux de l’audit RSE, est le partenaire commercial de la plat (...) 17 SHERPA : <https://www.asso-sherpa.org/accueil ; European Coalition for Corporate Justice (ECCJ) rés (...) 18 Le contentieux stratégique peut se définir comme une mobilisation collective utilisant des instrume (...) 19 Une IA qui aurait lu le Manifeste du Parti Communiste, dans un souci de contrebalancer l’orientatio (...) 16Une IA qui aura été calibrée autour des rapports d’audit fournis par les sociétés commerciales d’audit RSE partenaires16 de la plateforme Prewave fournira des recommandations inscrites dans cette logique. À l’opposé, une IA nourrie principalement avec des informations provenant d’ONG17 ou de syndicats de travailleurs plus critiques, donnera des recommandations d’une toute autre nature s’inscrivant dans le prolongement du travail de contentieux stratégique18 en matière de droits humains, identifiant les recours judiciaires les plus susceptibles de transformer les normes juridiques promouvant une meilleure régulation des entreprises. D’un côté l’IA indiquerait des problèmes relevant d’un défaut de vigilance RSE qu’il conviendrait de corriger par le biais de solutions techniques de type audit RSE. De l’autre, l’IA renverrait vers un problème structurel inhérent au régime de production capitaliste, nécessitant le renforcement de régulations étatiques puissantes soutenues par des institutions régaliennes afin de permettre l’émancipation des travailleurs. Dans quelle proportion l’IA proposée par ces sociétés se sera-t-elle nourrie de ces productions, et quelle pondération sera accordée par les algorithmes à ces informations19 ?

# III.Les effets du voile numérique

L’utilisation d’une IA produit un double effet, de recouvrement des débats sur les enjeux politiques de la RSE, et de renforcement des valeurs fondamentales inhérentes aux dispositifs de RSE actuels.

20 M. T. Jones, « Missing the forest for the trees : A critique of the social responsibility concept a (...) 21 C. Halpern et P. Le Galès, « Pas d’action publique autonome sans instruments propres : Analyse comp (...) 22 D. Wells, « Too Weak for the Job : Corporate Codes of Conduct, Non-Governmental Organizations and t (...) 23 G. De Neve, « Fordism, flexible specialization and CSR : How Indian garment workers critique neolib (...) 18La plateforme numérique masque les débats politiques par le biais de la technologie de l’IA : elle effectue une imputation causes-effets automatique du management des risques autour des CGV, en les réduisant à des dimensions techniques, appréhendées selon des référentiels excluant la dimension politique20, relatives au partage des richesses ou au choix d’instruments de politique publique21 pour régler ces problèmes. La plateforme contribue aussi à renforcer les effets de contrôle et de domination inhérents aux techniques utilisées pour manager les risques RSE, comme l’audit social imposé par les donneurs d’ordres à leurs sous-traitants. Par ailleurs, l’audit social est caractérisé par des biais culturels, idéologiques et éthiques identifiés par la littérature académique22, incluant un biais d’ethnocentrisme23.

24 C. Barthold, L. Branicki & G. Delalieux, « Who’s Afraid of the Big Bad Wolf ? How corporations main (...) 19La numérisation du management de la CGV peut occulter l’origine des problèmes tout autant que le cheminement menant à leurs solutions, tout en justifiant la rationalité d’un modèle de capitalisme contemporain. Ce « voile numérique » qui circonscrit la critique à ses marges, rejoint l’intention stratégique hégémonique originelle aux pratiques modernes de RSE24 visant à contrôler les formes d’opposition et à réduire ces dernières à des formes de contestation inoffensives.

***

25 L’appréciation du caractère raisonnable étant à discrétion du juge, il importera à ce dernier ou pl (...) 20Plusieurs questions restent ouvertes. Tout d’abord, la question de l’effectivité sur le terrain de ces démarches de management des risques RSE et in fine de leur caractère « raisonnable » : est-il raisonnable25 de passer par une IA pour traiter des problématiques de vigilance RSE ?

26 R. Girard, La Violence et le Sacré, Paris, Grasset, 2014. 27 N. Brunsson, The Organization of Hypocrisy : Talk, Decisions and Actions in Organizations, Hoboken (...) 21En offrant des présentations avantageuses des politiques RSE des entreprises, qui pourront ensuite être mises en avant en cas de controverse ou de contentieux devant les tribunaux, les rapports produits par l’IA serviront tantôt de caution au devoir de vigilance, tantôt de fusibles, dans une logique de boucs-émissaires26, les insuffisances de la politique RSE de l’entreprise étant imputées à l’IA. Les pratiques de management des risques RSE à partir de l’IA demeurent encore limitées mais, dans l’avenir, du côté des FMN, ces pratiques pourraient dériver vers une logique d’hypocrisie organisationnelle27.