Libre-propos sur l'enthousiasme de l'IA

Aurélien Bougeard

► To cite this version:

Aurélien Bougeard. Libre-propos sur l'enthousiasme de l'IA. 2023. hal-04203767

HAL Id: hal-04203767

https://hal.science/hal-04203767v1

Preprint submitted on 11 Sep 2023

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons CC BY 4.0 - Attribution - International License
# Libre-propos sur l'enthousiasme de l'IA

Réflexion autour de l'IA act et de l'apport de l'IA dans notre rapport à elle

## Introduction :

L'heure est à l'enthousiasme, à l'expérimentation, à la découverte de ce nouveau bac à sable. Le mot est sur toutes les bouches, dans tous les articles, il est passé du stade du fantasme à celui d'accès gratuit pour tous, celui de l'intelligence artificielle.

Malgré un abus de langage qui persiste, il n'y a rien d'intelligent là-dedans<fnref n="1" />, force est de constater que les résultats obtenus depuis quelque temps poussent à l'étonnement, voire à l'admiration ou à l'inquiétude dans la confrontation de l'IA à ce qu'on lui demande de faire avec nos attentes les plus hautes, justement pour pouvoir parler d'intelligence.

Ce rapport à l'intelligence ne s'attribue que dans une forme de confrontation de l'Homme à ce nouveau concurrent de pensée comme avec les plus récents Chatbot<fnref n="2" />, les IA créatrices comme Midjourney<fnref n="3" /> ou encore de reproduction de certains éléments propre à chaque individu comme la voix<fnref n="4" /> ou le visage<fnref n="5" />. L'intelligence devient dans ces cas-là un label que l'on octroie aux algorithmes qui remplissent un cahier des charges, celui d'être à la hauteur de l'intelligence humaine en matière de rédaction, de création, d'exécution et de reproduction pour une tâche demandée en interaction avec l'internaute. Il n'y a d'intelligent que celui de son appellation et

<footnote n="1">¹ https://www.lepoint.fr/invites-du-point/oublions-l-intelligence-artificielle-27-06-2023-2526300_420.php</footnote>

<footnote n="2">² https://chat.openai.com/auth/login ; S. Ortiz, What is ChatGPT and why doest it matter? Here's what you need to know, zdnet.com, publié le 21 juillet 2023, https://www.zdnet.com/article/what-is-chatgpt-and-why-does-it-matter-heres-everything-you-need-to-know/ ; Article wikipédia : https://en.wikipedia.org/wiki/ChatGPT</footnote>

<footnote n="3">³ https://www.midjourney.com/home/?callbackUrl=%2Fapp%2F ; A. Hughes, Midjourney: The gothic AI image generator challenging the art industry, sciencefocus.com, publié le 11 juillet 2023, https://www.sciencefocus.com/future-technology/midjourney ; Article wikipédia : https://en.wikipedia.org/wiki/Midjourney</footnote>

<footnote n="4">⁴ A ce titre, des négociations ont lieu entre Google et certaines Major de la musique pour protéger ou négocier la licence concernant les voix de certains artistes. N. Vulser, Intelligence artificielle: Google et les majors de la musique cherchent un terrain d'entente, lemonde.fr, publié le 9 août 2023, https://www.lemonde.fr/economie/article/2023/08/09/intelligence-artificielle-google-et-les-majors-de-la-musique-cherchent-une-entente_6184941_3234.html</footnote>

<footnote n="5">⁵ I. Sample, What are deepfakes – and how can you spot them?, theguardian.com, publié le 13 janvier 2020, https://www.theguardian.com/technology/2020/jan/13/what-are-deepfakes-and-how-can-you-spot-them; Article wikipédia : https://en.wikipedia.org/wiki/Deepfake ; Musicradar, How to make an AI cover song with any artist's voice, publié le 4 mai 2023, https://www.musicradar.com/how-to/ai-vocal-covers ; Exemple : https://github.com/svc-develop-team/so-vits-svc ; https://www.voicify.ai/</footnote>
de son tampon certifié intelligence artificielle. C'est comme s'il suffisait de mettre du vert et le mot biologique sur des produits pour que l'on arrête d'interroger la qualité du produit et la démarche du vendeur...

Cependant, il ne faut pas tout voir en noir, il faut reconnaître qu'il y a de quoi être surpris dans la qualité d'une forme d'assimilation, de réponse de reproduction et de restitution, le tout dans un processus conversationnel ou créateur cumulatif et progressif. Dans le cas des Chatbots ou de création par proposition de l'utilisateur dans un échange demande/résultat/correction, l'interaction ne s'efface pas au fur et à mesure question après question, demande après demande. Cette interaction s'inscrit dans un rapport de cause/conséquence que celui-ci soit dans le cadre d'une démarche créatrice ou juste d'échanges prolongés.

C'est en raison de ces situations d'échange en constructions progressives que les individus se laissent à penser qu'il s'agit d'une forme de compréhension. C'est sur la base de ce qu'ils attendent d'une conversation qu'ils attribuent un ressenti d'intelligence aux modèles algorithmiques qui leur font face. Il s'agit d'une forme d'anthropomorphisation du rapport humain/IA, car l'internaute est, ici, confronté à un échange qui lui semble réel et humain.

Les IA actuelles de type GpT, par exemple, ne sont pas les premières à générer un doute sur le rapport à « l'intelligent » que certains individus projettent dans leurs échanges avec un modèle algorithmique et qu'ils savent pourtant artificiel<fnref n="6" />. Mais si l'humain peut déjà douter en sachant que c'est artificiel, la question du rapport au réel, à l'humain et à son intelligence se posera d'autant plus dans l'espace numérique dans les mois et années à venir.

C'est pourquoi, ici, nous allons évoquer les IA qui ont été mises en accès pour les internautes et non les IA qui sont développées pour des domaines spécifiques comme la recherche, la santé ou la sécurité. Ce qui nous intéresse c'est la confrontation utilisateur vs IA et ce que ce rapport implique dans ses conséquences et dans ce qu'il représente en tant que proposition technique.

En effet, prochainement les internautes en circulation pourraient ne pas être capables de savoir s'il s'agit d'une interaction naturelle ou artificielle, tant les IA seront en mesure de reproduire des situations, interactions et conversation qui instituent le doute, si ce n'est pas déjà le cas. Se

<footnote n="6">⁶ Tiku N., The Google engineer who thinks the company's AI has come to life, The Washington Post, publié le 11 juin 2022</footnote>
posera alors la question non pas du risque qu'elles représentent, mais de la réalité mensongère et artificielle qu'elles construisent et leur exploitation à de multiples fins détournées (par exemple : les brouteurs 2.0 augmentés à coups d'IA, ce qui commence déjà à être le cas ; ou encore, faire parler des personnes physiques par reproduction de leur voix pour nuire ou construire une vérité artificielle<fnref n="7" />).

Dans cette perspective, il est nécessaire de porter un premier regard sur l'initiative européenne et la proposition de règlement<fnref n="8" /> relatif à ce nouveau secteur d'activité (ci-après : « IA act »), afin de comprendre vers où le législateur souhaite se diriger. Il faut tout d'abord observer la reproduction d'un schéma normatif qui consiste à poser un cadre, avec des interdits logiques et attendus, également une forme d'encadrement minimal de gestion de ce secteur avec lutte contre la fraude, la sanction des infractions pénales et la création d'une autorité nationale chargée de superviser, contrôler *a posteriori* et sanctionner. Ce qui pourrait laisser croire en apparence à la mise en place d'une forme de contrôle actif par la norme, de mise en place d'un panoptisme de ce secteur d'activité. Sauf qu'ici, l'objectif est de favoriser le marché européen<fnref n="9" /> et donc de facto cette proposition de régulation se place du côté des acteurs, alors qu'il faudrait se placer du côté des personnes physiques : leur protection, leur éducation, la prévention des risques ; il faudrait un contrôle en amont pour être autorisé à accéder au marché, validé par l'autorité nationale et ne pas tout mettre sur l'accomplissement d'objectifs purement économiques et de marché (I). Dans un second temps, il sera nécessaire de se pencher sur le fait que l'IA représente un risque en elle-même dans sa capacité à façonner artificiellement le réel. Encadrer le marché est une chose, mais si l'espace numérique ne permet plus de faire la distinction entre ce qui est vrai, tangible, de la main de l'homme et ce qui est artificiel alors techniquement nous devenons interchangeables avec elle dans cet espace. Nous verrons que l'IA dans ses interactions avec les personnes physiques n'est pas une proposition pour augmenter techniquement l'humain, mais est une proposition de remplacement partiel et en développement de ce qui compose nos interactions, nos émotions, nos perceptions (II).

<footnote n="7">⁷ Voir note n° 4 ; B. Houghton, What is an AI Cover Song, and why are Major Labels so afraid of them?, hypebot.com, publié le 13 avril 2023, https://www.hypebot.com/hypebot/2023/04/what-is-an-ai-cover-song-and-why-are-major-labels-so-afraid-of-them.html</footnote>

<footnote n="8">⁸ Prop de règl. du Parlement européen et du Conseil COM(2021) 206 final, 2021/0106 (COD), établissant des règles harmonisées concernant l'intelligence artificielle (législation sur l'intelligence artificielle) et modifiant certains actes législatifs de l'Union, publié le 21 avril 2021</footnote>

<footnote n="9">⁹ Prop de règl. du Parlement européen et du Conseil COM(2021) 206 final, 2021/0106 (COD), établissant des règles harmonisées concernant l'intelligence artificielle (législation sur l'intelligence artificielle) et modifiant certains actes législatifs de l'Union, publié le 21 avril 2021, p. 1 et suiv. (exposé des motifs), p. 20 et suiv. (considérant 1, 10)</footnote>
# I. L'initiative normative européenne, un projet immature

Avec l'arrivée des IA dans les interactions humaines, dans la création et dans certaines des fonctions que l'humain pensait être son exclusivité comme la rédaction, l'art, etc... il ne faut pas attendre et rester passif devant l'éventualité d'une confiance qui s'installe dans les rapports de toutes natures avec les IA dans l'espace numérique. Il faut anticiper et éduquer sur le doute à avoir concernant le rôle de l'IA qui peut s'insérer partout dans nos circulations. La survenance d'une absence de doute quant à l'origine artificielle apparaît déjà comme le point de non-retour quant aux habitudes que les internautes auront pris dans leur circulation.

L'émerveillement face aux résultats et aux possibilités, surtout dans le court laps de temps depuis l'arrivée des IA grand public sur le marché, doit être un moyen de comprendre que le législateur a l'obligation de se pencher sur le rapport au réel, le rapport au vrai dans l'espace numérique.

Le législateur ne doit pas proposer qu'un cadre normatif de régulation à des fins de gestion d'un nouveau marché, mais doit investir activement le champ de la sanction, de l'éducation et de la prévention<fnref n="10" />.

Ce n'est pas la mise en place d'une norme de régulation, de gestion de cette activité à des fins économiques, qui donnera aux internautes les armes qui lui permettront d'appréhender cette technologie, pour continuer à circuler dans un espace où le doute est et sera permis pour tout. L'arrivée des IA dans l'espace numérique et leur libre exploitation par tous doit être l'occasion d'instaurer un principe de prudence<fnref n="11" /> et de vérification en amont de ce qui est présenté, puisque désormais l'artificiel peut se confondre avec le vrai, avec le réel.

<footnote n="10">¹⁰ La prévention est abordée dans l'IA act non pas à destination d'un cadre d'accompagnement et d'éducation, mais d'un argument préventif de l'appareil et volet répressif de l'IA act. La prévention n'est abordée que sous l'angle d'appartenance à la répression des infractions pénales ou irrégularités fiscales ou douanières (art 54, 52, 5, 3 (40) a, b). Il n'est pas dit qu'il ne faille pas ce volet répressif, il est souligné que la prévention n'est vu que de ce point de vue. Le considérant 5 de l'IA act évoque la protection des droits fondamentaux, mais mis dans la perspective de l'accomplissement du marché intérieur, sinon ces droits fondamentaux sont le plus évoqués notamment dans le cadre de l'encadrement des IA à haut risque (v. article 7.1 b), art. 7.2, art. 14 et art. 62, exception faite de l'art. 54).</footnote>

<footnote n="11">¹¹ Courrier International, Intelligence artificielle : les géants de la tech acceptent de mettre en place des garde-fous, publié le 22 juillet 2023, https://www.courrierinternational.com/article/intelligence-artificielle-les-geants-de-la-tech-acceptent-de-mettre-en-place-des-garde-fous ; M. D. Shear, C. Kang and D. E. Sanger, Pressured by</footnote>
À titre d'exemple et de frilosité dans l'encadrement de ce secteur, l'IA act fait mention de l'éducation dans le cadre des secteurs à risques, domaine à observer et où il faudrait lutter contre l'éventuelle fraude des personnes qui recourraient à l'IA<fnref n="12" />. Donc on est plus axé sur la sanction des individus qui fraudent et qui représentent, sans doute, un très faible pourcentage plus que sur le fait que le risque est celui de ne pas froisser le marché et donc d'autoriser les IA à se multiplier au détriment d'un accompagnement des individus. Dans cet acte, il n'est pas vraiment développé une proposition quant au fait que l'IA autorisée à être utilisée par tous peut représenter un risque pour les individus qu'il est nécessaire d'éduquer et d'accompagner. Ici, on a l'impression qu'il est plus important d'établir un cadre normatif qui permette de lutter contre le fait de faire n'importe quoi avec les IA du côté des utilisateurs. On prend le problème de la régulation du côté acteur du marché et non du côté citoyen.

Peut-être que ce volet éducatif, d'aide et d'accompagnement des personnes physiques à se montrer prudentes et à responsabiliser les acteurs vis-à-vis de leurs utilisateurs viendra par la suite. Toutefois, cela semble dommage de ne pas embrasser cette problématique dès le départ.

Pour le moment, il semble que cet IA act se présente un peu à la va-vite pour donner son point de vue côté régulation en proposant un regard partiel et partial. C'est aussi une proposition à laquelle il faut ajouter une classification qui cherche à ranger un secteur d'activité en développement dans des catégories poreuses et sans fondement solide à moyen et long terme et qui seront sans aucun doute dépassées rapidement, voire inutiles dès le départ<fnref n="13" />.

Un acte normatif qui cherche à réguler un nouveau secteur d'activité, une nouvelle technologie et qui ne le fait que par le prisme d'un encadrement *a minima* des comportements des acteurs du marché, est un acte qui ne cherche qu'à couvrir une partie du problème tout en favorisant la croissance économique de ce secteur sur le marché.

Lorsqu'on ne sait pas qu'elles sont les possibilités d'utilisation et d'exploitation d'une technique nouvelle, on n'ouvre pas les vannes du marché en pensant naïvement que le marché

<footnote>Biden, A.I. Companies agree to guardrails on new tools, nytimes.com, publié le 21 juillet 2023, https://www.nytimes.com/2023/07/21/us/politics/ai-regulation-biden.html</footnote>

<footnote n="12">¹² IA act, considérant 3, 35</footnote>

<footnote n="13">¹³ B. Perrigo, Exclusive: OpenAI Lobbied the E.U. to water down AI Regulation, Time, publié le 20 juin 2023, https://time.com/6288245/openai-eu-lobbying-ai-act/</footnote>
va s'autoréguler dans une concurrence parfaite et une réduction du rôle de l'État<fnref n="14" /> ; surtout quand les acteurs eux-mêmes ne savent pas quelles sont les limites de cette nouvelle technologie. On règlemente l'accès et progressivement on cherche à réglementer au mieux et surtout on se place dans la prévention, dans le contrôle *a priori* et non en tant que voiture-balai qui n'existe que par la sanction.

Cet IA act ne propose quasiment rien en ce qui concerne l'appréhension de cette technologie et la prévention<fnref n="15" /> pour les utilisateurs, internautes et citoyens qui seront la cible de ces acteurs. C'est une démarche normative qui cherche à montrer qu'on a pris conscience de... mais qui n'est pas mature pour être une force de proposition pour permettre à tout à chacun d'appréhender cet espace numérique où le réel et l'artificiel peuvent désormais être confondus. Soit les problèmes sont sous-estimés, soit ils sont ignorés pour le bien du marché<fnref n="16" />. La proposition de régulation liste l'interdit, l'inacceptable et ce qui est attendu globalement des acteurs, c'est-à-dire de se conduire avec éthique et probité sur un marché ultra-concurrentiel... bon courage !

Il sera possible de rétorquer que la solution de prévention et d'éducation pourrait éventuellement venir du marché lui-même. En effet, par exemple : avec la survenance de technologies de sécurité qui viendront garantir la véracité des informations données dans l'espace numérique ou détecter le recours à l'IA par la recherche d'une empreinte qui est celle de son action. Ce type d'attente, celle d'une autorégulation de la technique par la technique, ne marchera qu'éventuellement et que de manière évolutive. En d'autres termes, à la première faille, on s'interrogera nécessairement sur la fiabilité de la sécurité proposée ; alors que le « réel artificiel », dans lequel on aura placé une confiance de circulation et de validation de sa pertinence, lui, continuera d'être proposé de manière quasi invisible. Ce « réel » pourra s'immiscer dans toutes les circulations au sein de l'espace numérique, s'ancrant ainsi dans nos habitudes. Tandis que le système de sécurité, lui, va courir après sa légitimité et son efficacité sur une technologie intégrée et en évolution. Ce schéma pourrait apparaître comme normal sauf qu'ici les contours de sa technologie, de ses usages et de sa force de persuasion à apparaître comme vrais sont inconnus.

<footnote n="14">¹⁴ M. Friedman, *Capitalisme et liberté*, éditions Robert Laffont, 1971</footnote>

<footnote n="15">¹⁵ Voir note n°9</footnote>

<footnote n="16">¹⁶ Voir note n° 12</footnote>
Les principes juridiques protecteurs et de prévention eux peuvent coexister voire préexister à cette technologie, pour justement favoriser un marché sain où on n'essaye pas de boucher les trous des comportements et utilisations abusifs à contretemps et surtout a posteriori. Pourquoi prendre le pari de ne pas aborder dès maintenant les moyens à long terme pour encadrer ce secteur d'activité et faire une classification avec des obligations pendantes qui pourrait être déjà obsolètes au moment de rentrer en vigueur ?

Il semble donc dommageable le fait que cette initiative normative n'ait pas pris par exemple le parti d'une réglementation du marché par la mise en place d'un cadre strict et un système de sanctions qui assure le fait que les acteurs ont plus à perdre s'ils ne respectent pas le cadre imposé. Une fois encore, les acteurs ont eux-mêmes des doutes et des craintes quant aux possibilités et aux abus que l'on peut tirer de l'IA... Pourquoi ne proposer qu'une forme de gouvernance et de régulation<fnref n="17" /> pour le marché ?

Si l'IA représente des risques reconnus par tous, il semble logique de fixer un cadre normatif avec des sanctions qui ne soient pas dissuasives uniquement d'un point de vue financier, mais qui posent un interdit, surtout en cas de récidive.

Ici, on parle bien des IA qui ne sont pas soumis à l'article 5 de l'IA Act<fnref n="18" />, mais bien des IA qui sont autorisées à pouvoir être développées, utilisées et exploitées sur le territoire de l'UE.

<footnote n="17">¹⁷ Gobin C., Gouverner par les mots : des stratégies lexicales au service du consensus... contre le social ?, op. cit., tableaux p. 92-93, Annexe 1 ; Supiot A., La Gouvernance par les nombres, Cours au Collège de France (2012-2014), op. cit., tableau p.48 ; Warusfel B., La gestion de l'Internet entre autorégulation et rivalités institutionnelles : un phénomène mondial à la recherche de son modèle de gouvernance | La Documentation française, Annuaire français de relations internationales, 2000, p. 595-617 ; Pitseys J., Le concept de gouvernance | Université Saint-Louis - Bruxelles, Revue interdisciplinaire d'études juridiques, 2010/2, vol. 65, p. 217. La régulation favorise la mise en place d'un principe de gouvernance, cela signifie « une technique de gestion sociale » ; « la gouvernance ne se définit pas à partir du type de procédure qu'elle mobilise, mais par sa capacité à former une décision » ; « Dans ce cadre, le droit est un moyen parmi d'autres d'organiser la complexité sociale autour d'un certain nombre d'objectifs [...] La sphère juridique perd la capacité d'auto-définition qu'elle estimait classiquement détenir. L'efficience de la norme n'institue plus seulement une réalité sociale : l'impact qu'elle exerce baptise aussi, de l'extérieur, sa propre juridicité »</footnote>

<footnote n="18">¹⁸ IA act, art. 5.1 et 5.2 (p. 49-51) :</footnote>

<footnote>Art 5.1 :</footnote>

<footnote>a) « la mise sur le marché, la mise en service ou l'utilisation d'un système d'IA qui a recours à des techniques subliminales au-dessous du seuil de conscience d'une personne pour altérer substantiellement son comportement [...] ;</footnote>

<footnote>b) la mise sur le marché, la mise en service ou l'utilisation d'un système d'IA qui exploite les éventuelles vulnérabilités dues à l'âge ou au handicap physique ou mental d'un groupe de personnes ;</footnote>

<footnote>d) l'utilisation de systèmes d'identification biométrique à distance «en temps réel» dans des espaces accessibles au public à des fins répressives (sauf si...) [...]</footnote>

<footnote>Art 5.2 : « L'utilisation de systèmes d'identification biométriques à distance en « temps réel » dans des espaces accessibles au public à des fins répressives [...] »</footnote>
Effectivement, la liste des IA interdites par l'article 5 répond d'un risque ou d'un objectif qui peut être perçu comme malveillant ou à très fort risque d'exploitation « anti-démocratique » dès le départ. Plus spécifiquement, il s'agit d'IA qui cherchent à modifier le comportement des personnes physiques en dessous d'un certain seuil perceptible (non défini dans le texte), à exploiter les personnes vulnérables ou en situation de handicap ou encore les IA utilisées par l'État, l'administration ou des entreprises privées à des fins de suivis, de tracking et de classement des personnes physiques par les données biométriques que les IA capturent en « temps réel ». Somme toute, il s'agit d'une liste d'interdits qui semble logique et attendue.

Ici, il est nécessaire de pointer les faiblesses de l'IA act au regard des IA autorisées sur le marché et qui ne vont pas respecter le cadre posé. C'est-à-dire les IA qui ne représenteraient pas un risque a priori. Même si un cadre plus strict et détaillé est présenté pour les IA à haut risque<fnref n="19" />. Les autres catégories sont assez permissives et ne sont tenues qu'à certaines obligations comme l'obligation de transparence alors que le concept même de transparence est opaque pour ce domaine, face à la complexité de tels systèmes en constante évolution et amélioration.

Mais revenons à la proposition de l'IA act et intéressons-nous au sujet de la sanction. Plus particulièrement, prenons le cas abordé par l'IA act de la dissuasion. Cette dernière, dans le règlement, dans ce cadre d'accès au marché, pourrait être la possibilité d'une interdiction d'exploitation et d'existence sur un territoire et un marché donnés<fnref n="20" />.

Pourquoi proposer une telle sanction dans un contexte de libre concurrence, me direz-vous ? Parce que si la sanction financière aussi élevée qu'elle soit, est la sanction maximale, le risque en vaudra toujours la chandelle au regard des principes fondamentaux de l'UE quant à la libre circulation des services, produits, personnes et capitaux<fnref n="21" /> et la recherche d'un marché intérieur unique. L'existence sur un marché concurrentiel qui ne sanctionne que par le financier et non sur d'autres moyens ou droits comme l'évidente protection active des personnes physiques vis-à-vis des IA, alors celle-ci représentera systématiquement un pari d'être pris la main dans le sac, compensé par l'impossibilité d'être effacé du marché. La faute sanctionnée et la récidive

<footnote n="19">¹⁹ IA act, Titre III, art. 6 et suiv.</footnote>

<footnote n="20">²⁰ Ici on va me rétorquer que le principe en Europe est la libre circulation et la recherche du marché unique. Mais justement avec ces principes qui ne font qu'autoriser, les acteurs ne sont pas véritablement dissuadés de commettre des impairs parce qu'ils savent que l'interdiction ne peut tomber et donc le risque d'une sanction financière vaut le coup d'enfreindre</footnote>

<footnote n="21">²¹ Traité sur le Fonctionnement de l'Union Européenne (TFUE), art. 26</footnote>
ne seront sanctionnées que par le financier. En somme, l'entreprise va payer sa sanction financière avec ce qu'elle a tiré du marché sanctionnateur, puisque c'est de ce marché que la somme de l'amende sera en partie tirée.

Lorsque l'IA Act propose des sanctions effectives également proportionnées et dissuasives22. Il y a ici comme une dissonance dans la recherche de prévention23 et de protection des personnes physiques. Il semble compliqué à première vue de proposer une sanction qui est proportionnée et dissuasive. Il est possible de rétorquer que des sanctions financières mirobolantes peuvent permettre l'équilibre entre ces deux notions, mais encore une fois, si la sanction est payée avec une partie de l'argent tiré du marché sanctionnateur, l'entreprise sanctionnée en tire tout de même un bénéfice. En effet, l'amende n'est pas forcément à la hauteur de l'enrichissement qu'en a tiré l'entreprise sur le marché en question et surtout elle est en droit de s'y maintenir.

Aujourd'hui, il est très compliqué d'évaluer la valeur et la plus-value tirées des données récupérées au détriment du respect des règlements européens. Ces données vont continuer de servir à alimenter différents algorithmes pour différents buts dans différents secteurs, sur différents territoires pour différentes IA, pour de multiples réels artificiels. La sanction est juste révélatrice de la hauteur du non-respect de la loi, mais est-elle réellement proportionnelle à l'enrichissement que l'entreprise a tiré de son exploitation sur le marché ?

Le RGPD peut permettre la délivrance d'une sanction jusqu'à 4% du chiffre d'affaires annuel de l'entreprise sanctionnée24. Premièrement, ce n'est pas une amende fixe, c'est le plafond. Deuxièmement, l'entreprise, qu'elle récidive ou non, a le droit de se maintenir sur le marché et de continuer son activité. Il faut juste qu'elle se mette en conformité suite à la sanction. Donc, elle paye l'amende avec une partie de ce qu'elle a tiré du marché, mais elle a le droit de s'y maintenir et de continuer à l'exploiter à la seule condition de se mettre en conformité, et si elle récidive25... rebelote ? Ce n'est pas ce que l'on appelle dissuasif, mais plutôt une tape sur la

<footnote n="22">22 IA act, p.42 considérant 84, art. 71, également Titre X</footnote>

<footnote n="23">23 Voir note n° 9</footnote>

<footnote n="24">24 Règlement Général sur la Protection des Données, art. 83. 5, 83. 6 ; https://www.cnil.fr/fr/definition/sanction</footnote>

<footnote n="25">25 J. Martin, RGPD : Meta condamné à une amende record de 1,2 milliard d'euros, usine-digitale.fr, publié le 22 mai 2023, https://www.usine-digitale.fr/article/rgpd-meta-condamne-a-une-amende-record-de-1-2-milliard-d-euros.N2134196 ; J. Martin, Accusée de laxisme, la Cnil irlandaise, principal régulateur du RGPD défend son bilan, usine-digitale.fr, publié le 7 mars 2023, https://www.usine-digitale.fr/article/accusee-de-laxisme-la-cnil-irlandaise-principal-regulateur-du-rgpd-defend-son-bilan.N2108461. A travers ces articles et cette réalité, il est souligné que c'est la cinquième fois que la Data Protection Commission (CNIL irlandaise) sanctionne Meta</footnote>
main ou une réprimande paternaliste. Le problème de cette démarche du « ce n’est pas bien, il ne faut pas le refaire », c’est que les entreprises savent ce qu’elles ont à y gagner puisque la libre concurrence semble supérieure à l’effectivité d’une sanction dissuasive, donc elles prendront systématiquement le risque. A titre personnel et dans leur position je me poserai la question de ne pas prendre risque de prendre la tape sur la main.

Prenons un exemple, un peu caricatural, pour comprendre que la coexistence de ces deux termes, que sont la proportionnalité et la dissuasion au sein d'une même phrase, est difficile pour permettre de poser un cadre sérieux et protecteur. La dissuasion nucléaire est ce qu'elle est, dissuasive, car justement son recours et les conséquences potentielles de son utilisation sont disproportionnés. La dissuasion sous-entend que le risque n'en vaut pas la chandelle. La proportionnalité sous-entend que la sanction apparaît comme juste par le sanctionateur, pas nécessairement par le sanctionné qui peut juste avoir mal au dos de la main.

Si même les acteurs du marché de l'IA craignent certaines exploitations et utilisations possibles<fnref n="26" />, il est surprenant de ne pas voir poser des interdits (pas ceux de l'article 5) qui eux seraient dissuasifs. Parce que si le marché exprime sa pleine libéralité pour ce secteur, alors même les entreprises qui ont des craintes et veulent placer des garde-fous se sentiront autorisées à profiter de ce que le législateur laisse libre pour justement rester en concurrence vis-à-vis des autres entreprises, avec IA à haut risque ou non. Ce qui amènera la position éthique de départ de ces industriels du secteur, ce mot d'inquiétude des acteurs du marché, à se volatiliser rapidement pour ne laisser qu'un rapport de force concurrentiel peu scrupuleux et où l'éthique ne se fera que par le rappel d'une sanction proportionnée.

Dans cette perspective, il semble évident qu'il faille investir du temps dans l'éducation de tous et notamment des plus jeunes, en plus d'un cadre répressif dissuasif des IA en interactions avec les personnes physiques.

Les plus jeunes vont finir par grandir dans un environnement numérique où l'artificialité de l'information ou de ce qui est entendu et vu n'aura pas de point de comparaison avec une société qui a assisté à la survenance de ces IA. Ces IA feront partie du décor et de l'existence des futures générations. Il faut donc leur donner des outils d'appréhension et de questionnement sur

<footnote>depuis l'entrée en vigueur du RGPD et on en est toujours à une évaluation à la hausse des amendes, sans autres véritables sanctions qui viendraient sans doute faire poids dans le respect de la norme par ce type d'entreprise.</footnote>

<footnote n="26">²⁶ Voir note n° 10</footnote>
l'origine de ce qu'ils consomment dans l'espace numérique dans leurs circulations quotidiennes, afin de continuer à pouvoir faire la distinction entre réel et artificiel. La prévention ici doit recouvrir un volet éducatif et d'accompagnement actif qui doit commencer maintenant. C'est le seul moyen d'envisager la protection des personnes physiques sur le long terme.

C'est en cela que l'IA act semble incomplet ou poussé à exister trop rapidement sans couvrir les sujets les plus pertinents<fnref n="27" />. Cet IA act cherche à faire la démonstration que le législateur européen peut montrer les dents, mais en se plaçant côté acteurs du marché et faisant de la gouvernance et de la régulation de ce marché le centre de la proposition de l'acte. Ce qui, au fond, ne change rien à l'habitude normative de ces dernières années, juste là, il donne l'impression de s'empresser à le faire.

Maintenant, l'IA act est et sera lourdement amendé et ne verra pas le jour avant un certain temps... entre temps et chose assez drôle, il a été confié à l'un des GAFAM de proposer un « Pacte volontaire sur l'intelligence artificielle »<fnref n="28" /> pour pallier ce moment de creux juridique, ce qui en soit donne vraiment une idée (mauvaise ?) quant à l'orientation de la régulation en matière d'IA voulue par la Commission européenne.

Cet IA act, certes, propose de sanctionner les comportements abusifs ou pénalement répréhensibles, au regard d'une classification dont la pertinence apparaît comme trop simpliste ou contournable (les IA généralistes<fnref n="29" /> semblent être à haut risque dans leur rapport aux individus, ce qui ne semble pourtant pas être le cas pour le moment)<fnref n="30" />. Cet IA act ne donne que peu de réponses quant aux problématiques de la survenance des IA dans les rapports quotidiens aux individus et de la perte de sens de ces derniers au regard de l'efficacité des résultats artificiellement obtenus. Quels sont les dangers et les risques d'un espace numérique en interaction où le vrai et le faux se confondent ?

<footnote n="27">²⁷ B. Jeulin, *Amendment de l'Artificial Intelligence Act* : la théorie confrontée à la pratique, Dalloz IP/IT communication, publié le 14 juin 2023</footnote>

<footnote n="28">²⁸ Libération, IA : dans l'attente d'une nouvelle loi, l'Europe et Google veulent des règles volontaires, libération.fr, publié le 24 mai 2023, https://www.liberation.fr/economie/medias/ia-dans-lattente-dune-nouvelle-loi-leurope-et.google-veulent-des-regles-volontaires-20230524_CM7XN33XONCKPMKJGVQGRZWSLE/</footnote>

<footnote n="29">²⁹ Définition de l'Intelligence artificielle générale : « L'intelligence artificielle générale (IAG) désigne des systèmes capables de donner de « bons » résultats dans toutes les tâches cognitives propres aux êtres humains ou aux animaux dits supérieurs. », datafranca.org, https://datafranca.org/wiki/Intelligence_artificielle_g%C3%A9n%C3%A9rale.</footnote>

<footnote n="30">³⁰ Voir note n° 12</footnote>
Ici, il n’est pas affirmé qu’il faut lutter contre la survenance et la multiplication des IA et ses résultats/propositions. Premièrement, parce que cela serait vain. Deuxièmement, les internautes finiront par croire ce qu’ils veulent en fonction de ce qui les conforte à se maintenir en interaction et en circulation dans l’espace numérique et au-delà. Ce n’est pas la lutte contre les IA qui modifiera la dynamique de notre rapport à elles et la récurrence de ces rapports.

De plus, aujourd'hui, nos circulations et certaines interactions sont déjà artificialisées et anticipées avec la gouvernementalité algorithmique. En effet, des choix sont sciemment proposés par des algorithmes afin que les internautes se maintiennent en interaction et en circulation en fonction de ce qu'ils cherchent à consommer et à croire<fnref n="31" />. La question du choix, du vrai et de la liberté est déjà posée depuis longtemps dans l'espace numérique. C'est plutôt le va-tout libéral et le duo gouvernance/régulation qui inquiètent parce que cela favorise les dérives et les mauvais usages pour la seule finalité économique et la position concurrentielle obtenue sur le marché visé.

L'objectif, ici, est de souligner l'importance d'une mise en place d'outils d'appréhension, de prévention à finalités éducatives et non uniquement d'une proposition de répression des infractions pénales, dans une classification des IA, dont la pertinence reste à prouver même avec leur obligation de transparence.

Également, un point qui ne semble pas être abordé dans l'IA act, c'est l'immixtion de l'IA dans les arcanes des relations humaines, de l'intelligence humaine. Ou encore le fait que l'IA pose la question de son recours et de son utilisation par les institutions étatiques centralisées et décentralisées ou bien même les institutions privées comme les banques dans nos interactions avec elles.

Notre rapport au vrai pourrait même finir par s'artificialiser au-delà de l'espace numérique, de l'espace de consommation, dans nos rapports à l'État et l'exercice du régime démocratique en

<footnote n="31">³¹ Rouvroy A. et Berns T., Gouvernementalité algorithmique et perspectives d'émancipation, le disparate comme condition d'individuation par la relation ? | 2013, La Découverte – Revue Réseaux, n°177, p. 167</footnote>
place<fnref n="32" />. Plus il y a d'IA, plus les représentants de l'État pourraient se tenir loin des citoyens dans une apparence de démocratie.

Mais avant de s'enflammer sur ces sujets, il est important de faire un point sur ce que l'IA, en elle-même, représente en tant que proposition technique.

## II. Le rapport au vrai, un des problèmes juridiques de fond face aux IA

Avant toute chose, revenons un peu en arrière avec l'exemple de l'informatique et l'espace numérique et de leur insertion dans le champ du banal et quotidien des individus. Au départ, comme avec n'importe quelle technique, l'informatique a été en marge, en raison de sa nouveauté, la défiance qu'elle pouvait provoquer, son coût et sa technicité, puis progressivement l'informatique s'est immiscée dans toutes les strates des usages publics, privés, administratifs des sociétés occidentales pour finir par toucher l'ensemble de la planète et des secteurs.

Un des moyens de comprendre la mise en place du rapport de confiance avec l'informatique et le numérique est d'observer le rapport entretenu avec le support papier, support d'usage de tout avant la survenance de l'informatique. Au départ, il a d'abord été d'usage de tout garder sous format papier, puis par la suite de commencer à numériser et de garder une copie papier, puis enfin de dématérialiser complètement le service, la procédure, l'enregistrement et l'envoi des documents, les conversations, les achats, les ventes, les factures et les échanges de tout type<fnref n="33" />.

<footnote n="32">³² IA act, art. 5. 1 c) :
« la mise sur le marché, la mise en service ou l'utilisation, par les pouvoirs publics ou pour leur compte, de systèmes d'IA destinés à évaluer ou à établir un classement de la fiabilité de personnes physiques au cours d'une période donnée en fonction de leur comportement social ou de caractéristiques personnelles ou de personnalité connues ou prédites, la note sociale conduisant à l'une ou l'autre des situations suivantes, ou aux deux :</footnote>

<footnote>i) le traitement préjudiciable ou défavorable de certaines personnes physiques ou de groupes entiers de personnes physiques dans des contextes sociaux dissociés du contexte dans lequel les données ont été générées ou collectées à l'origine ;</footnote>

<footnote>ii) le traitement préjudiciable ou défavorable de certaines personnes physiques ou de groupes entiers de personnes physiques, qui est injustifié ou disproportionné par rapport à leur comportement social ou à la gravité de celui-ci ; »</footnote>

<footnote n="33">³³ Evidemment cette progression dans les usages c'est également fait en parallèle de la capacité des ordinateurs à pouvoir conserver de plus en plus de documents de manière fiable dans le temps.</footnote>
Ce qu'il faut comprendre c'est que le numérique et l'informatique sont une technique d'augmentation de l'humain qui a pris racine dans un besoin, celui d'une société mondialisée en cours d'accélération. Cependant, l'informatique et l'espace numérique ont pris un temps pour s'installer surtout pour mettre en place un lien de confiance dans leur déploiement, leurs recours et leurs usages. Cela s'est fait certes assez rapidement, mais s'est réalisé dans tous les domaines de la société occidentale, c'est une technique globalisante. La nécessité d'usage de l'informatique et de l'espace numérique s'est exprimée dans l'ensemble des secteurs en activité des sociétés. Surtout, le droit s'est emparé (alors oui, lentement et sur plusieurs décennies, mais cette technologie s'est installée plus progressivement dans les usages par rapport à l'IA qui surgit rapidement dans un monde déjà très connecté, le terreau est plus que favorable à son expansion rapide) des problématiques de l'informatique et de l'espace numérique dans chaque secteur, notamment pour les aspects économiques, de sécurité ou encore pour favoriser la confiance dans cet ensemble technico-numérique<fnref n="34" />.

L'informatique comble un besoin technique d'exécution et de rapidité. L'espace numérique palie un besoin économique et social de connexion et de mise en relation. L'ensemble donne notre rapport actuel à ces outils d'augmentation de notre personne dans cette société connectée.

On en vient alors à la différence fondamentale avec l'IA dans son interaction avec des internautes/utilisateurs. Celle-ci ne semble pas être de prime abord une proposition d'augmentation de l'individu par la technique, mais être une proposition de remplacement de l'individu dans ce qui le compose en partie en tant qu'humain<fnref n="35" />. C'est-à-dire que l'IA touche à ce qui semblait être une exclusivité de notre être, non pas que les Chatbots soient une création récente avec les dernières IA, mais jusqu'à maintenant, ils étaient perçus comme robots conversationnels, ils étaient faillibles, bâtis grossièrement, un peu comme la vallée de l'étrange pour la robotique<fnref n="36" />. Désormais, pour un certain nombre de tâches, de rédactions, de créations d'œuvres, de reproduction de son d'instrument, le doute est permis. Le vrai s'artificialise pour l'utilisateur et la distinction devient difficile entre vrai/réel et vrai/artificiel.

<footnote n="34">³⁴ A titre d'exemple : Loi n° 2004-575 du 21 juin 2004 pour la confiance dans l'économie numérique ; Loi n° 2016-1321 du 7 octobre 2016 pour une République numérique, Loi n° 2021-1485 du 15 novembre 2021 visant à réduire l'empreinte environnementale du numérique en France etc.</footnote>

<footnote n="35">³⁵ Ici, il n'est pas dit que cette proposition de remplacement sera effective pour le pire ou pour le meilleur, elle en est juste une forme d'expression.</footnote>

<footnote n="36">³⁶ Article wikipédia : https://fr.wikipedia.org/wiki/Vall%C3%A9e_de_l%27%C3%A9trange</footnote>
Il est même possible d'aller plus loin que la survenance d'un doute, l'internaute va finir par générer inconsciemment et au regard du résultat produit par IA, une confiance quasi immédiate du fait de l'incapacité de pouvoir désigner l'origine du résultat comme étant humain ou artificiel. Si le résultat peut être confondu, avec ce que produirait un humain pourquoi générer de la défiance sachant que le résultat est équivalent à ce qu'un humain produirait ?

Il est même envisageable de se retrouver dans une situation où l'internaute parviendrait à effacer l'idée même d'un doute à avoir quant à la nature de l'origine d'un résultat numérique obtenu sous prétexte qu'il est équivalent ou mieux que ce qu'un humain aurait fait. Ce qui serait produit serait donc vrai et bon « intelligemment parlant » et de manière indistincte que ce soit du fait d'un homme ou d'une IA. Seuls l'objectif et la finalité poursuivis pourraient être questionnables quant à l'origine du résultat.

Ainsi, la confusion humain/IA ; officiel/contrefaisant ; légal/illégal, officiel/non officiel pourrait devenir le théâtre d'un jeu de micro-détails que l'habitude d'usage, de circulation et de confiance de facto de l'internaute avec l'espace numérique serait incapable de pouvoir distinguer et surtout assimiler dans le temps, tellement les mécaniques d'habitude et de confiance sont des mécaniques humaines difficiles à faire bouger et évoluer.

Le démarchage, le spamming, les sites officiels (État, services publics ou entreprises) et ces mêmes sites contrefaits, la création d'œuvres (artificielles ou humaines) et leur contrefaçon. Tous ces domaines posent des questions juridiques complexent, mais soulèvent aussi des problématiques quant au rapport entretenu entre les internautes et l'espace numérique. Encore une fois, le recours aux IA dans des interactions avec les internautes n'est pas une solution technique à un problème technique, il s'agit d'une proposition alternative de remplacement à quelque chose qui n'est pas un problème, que sont les rapports entre humains<fnref n="37" />. Artificialiser les rapports humains dans un espace dématérialisé pose la question de leur place dans cet espace d'interaction constante et non de leur augmentation et de leur amélioration dans cet espace.

À titre d'exemple, l'augmentation de l'humain par la technique a certes conduit à supprimer des métiers (allumeur de réverbères, crieur public, réveilleur), mais a amené la création de

<footnote n="37">³⁷ Encore une fois, il est question ici des IA dont leur existence est conditionnée par leur interaction, échange, création avec des utilisateurs dans l'espace numérique.</footnote>
nouveaux métiers (ingénieur électricien, présentateur télé, vidéaste, développeur...) une sorte d'évolution logique des postes de travail dans une société en développement. C'est un remplacement progressif pour tendre vers quelque chose de plus adapté également et sans aucun doute plus productif, plus rentable, moins pénible, plus précis (du moins c'est ce qui est vendu au départ). Ce qui permet *in fine* de réallouer les forces de travail laissées libres par la technique à des postes désormais nécessaires au bon fonctionnement de cette chaîne technicisée.

L'IA en interaction avec les internautes, c'est-à-dire une IA aux perspectives généralistes<fnref n="38" />, un couteau suisse de fonctions humaines, se propose de remplacer quelque chose qu'on ne conçoit pas comme pouvant évoluer comme la technique puisqu'il s'agit du rapport à notre intelligence en interaction. Il n'est pas possible de déplacer l'humain dans ses interactions à un poste plus nécessaire à l'exécution d'une chaîne d'interaction.

Il est possible de rétorquer qu'un certain nombre de Chatbots existent déjà lorsque l'on appelle par exemple un numéro de service public ou un service après-vente d'une entreprise. En effet, l'orientation de notre parcours se fait en interaction avec un chatbot et nous en avons pris l'habitude. Cependant, une fois le parcours de l'individu au téléphone réalisé, si sa communication pour expliquer son problème se fait avec une IA, sera-t-on prêt à l'accepter pour expliquer notre confrontation à des problèmes d'usage et donc une forme de compréhension et d'empathie face aux problèmes ou demandes évoqués ? Empathie que l'on doit percevoir comme vraie puisque si c'est une IA et si elle est identifiée comme telle, tout le rapport d'empathie et de conversation devient artificiel, soit on prend l'habitude, soit on anthropomorphise l'IA comme générant de l'empathie et on finit par y croire.

Même si à titre d'exemple : les centres d'appels semblent pouvoir se techniciser encore plus notamment dans le rôle des personnes en correspondance avec les consommateurs ou utilisateurs, mais veut-on supprimer la part d'interaction réelle à la fin du chemin ?

Les IA quand elles se présentent comme un outil d'aide à quelque chose qui peut être amélioré, elles ne posent pas de problème en soi dans ce schéma d'évolution de la société. Si elles

<footnote n="38">³⁸ Définition de l'Intelligence artificielle générale : « L'intelligence artificielle générale (IAG) désigne des systèmes capables de donner de « bons » résultats dans toutes les tâches cognitives propres aux êtres humains ou aux animaux dits supérieurs. », datafranca.org, https://datafranca.org/wiki/Intelligence_artificielle_g%C3%A9n%C3%A9rale. Il faut ajouter également le fait que les IA en interaction ouverte avec les internautes poussent à la fonction généraliste car les internautes représentent une diversité d'interaction quasiment illimités et force l'IA à couvrir des champs généralistes pour être performante et renforcer sa performance.</footnote>
proposent de se substituer à certaines fonctions de notre sociabilité ou par les actions que l'on est amené à faire en interaction avec d'autres, alors la question n'est plus la même. En quoi, ce domaine précis d'IA généraliste<fnref n="39" /> en libre interaction avec les utilisateurs est-elle une avancée technique ? En quoi constater la pertinence d'un résultat conversationnel aussi intelligent que celui qu'on aurait énoncé répond d'un besoin, d'une nécessité ? Pouvoir faire rédiger un mail par une IA fait-il vraiment gagner du temps ou donne-t-il l'impression d'un temps gagné ? est-il utile ? Faire écrire nos mails en se contentant de proposer un script sera quand même une perte de temps dans la tâche de rédaction dudit mail...

Il est possible d'évoquer également la question de savoir si l'art devient artificiel (en partie), la question de l'empreinte pourrait à terme ne plus se poser pour qualifier une œuvre d'originale si une IA devenait productrice d'œuvres « originales »⁴⁰⁴¹. Alors *a priori* seul le ressenti individuel et subjectif pourrait le faire, mais dans ces cas-là tout serait de l'art, puisqu'il n'y plus d'intention humaine à l'initiative de l'œuvre. Tout peut devenir œuvre.

Est-ce que cela répond à un besoin que de pouvoir produire de l'art artificiellement ? Encore une fois, s'il s'agit d'un outil qui augmente techniquement l'humain, ici dans sa création, la question ne se posera pas trop<fnref n="42" />. Si elle tend vers une confusion où il devient impossible de déterminer l'intention d'un auteur ou même son empreinte, en d'autres termes a t-il joué un rôle essentiel dans l'élaboration de cette œuvre ? Cela devient potentiellement une proposition de remplacement d'une fonction humaine qu'est la transmission d'émotion par un moyen d'expression d'humain à humain et rend floue la frontière de ce qui nous compose en tant qu'être social avec notre environnement dès qu'un intermédiaire numérique/algorithmique s'interpose.

<footnote n="39">³⁹ Voir note n° 27</footnote>

<footnote n="40">⁴⁰ L. de la Monneraye, L'intelligence artificielle peut-elle être auteure d'une œuvre ?, vaughan-avocats.fr, publié le 15 février 2023, https://www.vaughan-avocats.fr/articles/lintelligence-artificielle-peut-elle-etre-auteure-dune-œuvre-95188.htm</footnote>

<footnote n="41">⁴¹ A l'heure actuelle, les œuvres créées par IA sans intervention de l'homme ne semble pas pouvoir se prévaloir du droit d'auteur aux USA... mais jusqu'à quand ? ; Le Monde, Les œuvres visuelles créées par intelligence artificielle sans contribution humaine ne sont pas soumises au droit d'auteur, selon un juge fédéral américain, site lemonde.fr, publié le 22 août 2023, https://www.lemonde.fr/pixels/article/2023/08/22/les-uvres-visuelles-creees-par-intelligence-artificielle-sans-contribution-humaine-ne-sont-pas-soumises-au-droit-d-auteur-selon-un-juge-federal-americain_6186212_4408996.html ; United States District Court for the District of Columbia, Civil Action n° 22-1564 (BAH), Stephen Thaler v. Shira Perlmutter, 18 août 2023, https://cdn.patentlyo.com/media/2023/08/THALER-v.-PERLMUTTER-et-al-Docket-No.-1_22-cv-01564-D.D.C.-Jun-02-2022-Court-Docket-1.pdf</footnote>

<footnote n="42">⁴² A titre d'exemple d'IA au service de l'auteur en tant qu'outil : le projet Obvious développé par P. Fautrel, H. Caselles-Dupré et G. Vernier : https://obvious-art.com/page-about-obvious/ ; Multitudes, Faire de l'IA un instrument et compagnon de musique, Interview de J-C Heudin et A. Kyrou, Multitudes 2020/1 (n°78), p. 98-102. Interview à propos du projet Angelia (IA musicale : https://angelia.bandcamp.com/), https://www.cairn.info/revue-multitudes-2020-1-page-98.htm?ref=doi</footnote>
La frontière va être rendue tellement flou *in fine* que l’arrivée des IA dites "IA cover"<fnref n="43" />, c’est-à-dire qui imitent une voix ou un instrument, va donner lieu à de nouveaux débats sur les contours du droit d’auteur et des limites de la propriété intellectuelle dans ce domaine, avec par exemple l’octroie potentiel de licences quant à l’utilisation d’une voix<fnref n="44" />. Il ne s’agirait plus de questions relatives à l’artiste ou l’auteur en lui-même, mais de la reproduction de ce qui le caractérise en tant que personne et artiste et/ou auteur, la voix deviendrait un produit reproductible, un bien marchandable. À voir comment cela se développe...

Seul le réel physique pourrait devenir le dernier refuge du vrai, du naturel.

Au fond, quels secteurs sont fondamentaux pour recourir à l'IA ? Être dépendant technologiquement dans des secteurs comme la médecine et la physique semblent être un pas en avant, être dépendant dans les secteurs artistiques, d'éducation, voire dans la vie quotidienne du moindre de nos gestes semble être un sacré abandon de soi. Si, on se dépossède de l'action de faire pour l'investir dans une technique qui ne s'explique pas, mais qui fait mieux, que devenons-nous ? Dans une forme de système clos du résultat par l'IA, nous ne saurons plus faire, plus nous nous éloignerons techniquement de l'action de faire par nous-mêmes.

Pourquoi la question du mauvais usage est cachée par l'enthousiasme fanatique de l'usage nouveau ? Réguler n'empêchera pas les mauvais usages de l'IA, c'est pour cela qu'il faut penser maintenant aux mauvais usages, à l'éducation et à la sanction. Il ne s'agit pas de réguler pour réguler, c'est-à-dire de penser la finalité de ce secteur dans la mise en place d'une gouvernance, mais de le penser comme un secteur réglementé où l'interdit devient la sanction.

Enfin, quelle fracture de confiance l'immixtion de l'IA dans tous les domaines va-t-elle générer chez chacun d'entre nous ?

Ce qu'il faut comprendre est que l'IA n'est pas juste une innovation c'est une innovation qui demande une adhésion par les individus individuellement et collectivement. Encore une fois,

<footnote n="43">⁴³ B. Houghton, What is an AI Cover Song, and why are Major Labels so afraid of them?, hypebot.com, publié le 13 avril 2023, https://www.hypebot.com/hypebot/2023/04/what-is-an-ai-cover-song-and-why-are-major-labels-so-afraid-of-them.html</footnote>

<footnote n="44">⁴⁴ N. Vulser, Intelligence artificielle: Google et les majors de la musique cherchent un terrain d'entente, lemonde.fr, publié le 9 août 2023, https://www.lemonde.fr/economie/article/2023/08/09/intelligence-artificielle.google-et-les-majors-de-la-musique-cherchent-une-entente_6184941_3234.html</footnote>
elle ne fait pas qu'augmenter l'Homme, elle est une proposition de remplacement d'une partie
de notre moi social.

Et si une rupture se fait, on aura d'un côté des individus très suivis vivant dans une dépendance
technologique forte et de l'autre ceux qui n'adhéreront pas à cette proposition et qui se retireront
d'un espace numérique devenu trop regardant et seront donc marginalisés.

Enfin, il faut de nouveau rappeler qu'il n'est pas nécessaire d'avoir des données biométriques traitées en temps réel pour que ce soit problématique<sup>45</sup>. En effet, les seules données à caractère non personnel générées à l'initiative des utilisateurs dans l'espace numérique permettent déjà de dresser un réel en mouvement bien suffisant pour développer des technologies de pouvoir à apposer sur les individus. La biométrie en temps réel c'est juste écrire 1984 à côté du nom du pays, un nouveau label ?

Comment composer une société consensuelle lorsque les usages techniques, économiques, comportementaux, sociologiques voudront tirer dans deux sens opposés ? Par l'adhésion forcée ?

Je doute que cette vision soit pérenne.

Aurélien Bougeard

<footnote n="45"><sup>45</sup> IA act, art. 5</footnote>