<figure><img src="image_1.png" /></figure>

HAL
open science

# Vivre et penser comme des bots ?

Patrick Flandrin

► To cite this version:

Patrick Flandrin. Vivre et penser comme des bots?. 2025. hal-05313400

HAL Id: hal-05313400

https://hal.science/hal-05313400v1

Preprint submitted on 14 Oct 2025

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_2.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
# Vivre et penser comme des bots ?

Patrick Flandrin

Résumé —Le développement à grande échelle des robots conversationnels et, plus généralement, de l'intelligence artificielle générative s'accompagne d'interrogations sur leur inscription dans nos comportements et notre rapport au monde. Ce texte aborde quelques aspects de ces questions, relatives en particulier au rapport à la vérité et à la créativité qu'ils entretiennent et que, de façon réflexive, nous sommes susceptibles de nous approprier.

> « Être passé de la chair à canon à la chair à consensus et à la pâte à informer est certes un progrès. Mais ces chairs se gâtent vite : la matière première consensuelle se transforme en une unanimité populiste des majorités silencieuses qui n'est jamais innocente. À ce populisme classique se greffe désormais un nouveau populisme yuppie - un techno-populisme - qui entend bien afficher sa post-modernité carnassière, prompte à digérer le best-of des biens et services de la planète. »

Gilles Châtelet, in *Vivre et penser comme des porcs*

## 1 Introduction

Certes bien des choses ont changé depuis l'analyse critique conduite en 1998 par le mathématicien, philosophe et polémiste Gilles Châtelet [8], mais la situation actuelle à laquelle le développement de l'Intelligence Artificielle (IA) nous confronte n'est pas sans y trouver des accents prophétiques et des échos démultipliés. Sa dénonciation de la « fabrication d'un homme moyen » s'enracinait déjà dans le paysage d'un cyber-monde entré dans l'ère de l'information et du contrôle, mais l'omniprésence du numérique en était encore à ses balbutiements, les réseaux sociaux n'existait pas ni, a fortiori, l'IA telle que nous la connaissons aujourd'hui et qui traversait alors son « hiver ».

À qui voulait à l'aube du XXIème siècle prêter un avenir florissant à l'IA, la perspective relevait quasiment de la science-fiction et l'horizon de son irruption généralisée dans notre vie quotidienne d'un rêve encore lointain. Un quart de siècle plus tard, nous y sommes. Pas un jour sans que, volontairement ou à notre insu, nous n'interagissions avec une IA, le plus souvent sous forme conversationnelle via des robots (« chatbots », ou « bots » pour faire plus court), entre fascination et méfiance.
Le développement extraordinairement rapide d'outils étonnamment flexibles et pouvant sembler universels s'accompagne alors de questions de compréhension autant que d'appropriation et de maîtrise, suscitant — si l'on s'accorde le temps d'y réfléchir — des interrogations profondes sur leur inscription dans nos comportements et notre rapport au monde.

En particulier, quelle part de nous-mêmes se retrouve-t-elle dans ce sur quoi ces artefacts algorithmiques fondent leur expression ? Et, de façon réflexive, quelle part de ce qu'ils expriment influence-t-elle notre façon de penser et de voir le monde ? En d'autres termes, les bots « pensent »-ils comme nous, ou en venons-nous à penser comme eux ?

C'est à ces questions que ce texte se propose d'apporter des éléments, sinon de réponse, du moins de réflexion.

Avertissement — L'IA est un domaine aux évolutions extraordinairement rapides. Ce qui était vrai d'un système il y a encore un an peut ne plus l'être aujourd'hui et ce qui est vrai aujourd'hui ne le sera peut-être plus dans six mois. Certaines des appréciations formulées dans ce texte doivent être mesurées à l'aune de cette volatilité et, s'il nous a semblé utile de préciser certains points de l'état actuel de la technique, celle-ci n'est au cœur de la réflexion qu'en regard de questions, qui nous semblent plus fondamentales et moins périssables, de l'articulation entre intelligence artificielle et intelligence humaine, et des interrogations que le développement ubiquitaire de l'IA soulève quant à notre rapport au monde.

## 2 Intelligence artificielle — Quelques jalons

Sans retracer une généalogie détaillée de l'IA<fnref n="1" />, sans doute est-il utile de rappeler quelques jalons qui en ont marqué le développement.

*Vision* — Il y a d'abord une *vision* et l'on pourrait dire : « Au commencement était Turing ». Dans son article fondateur de 1950 [26], le mathématicien Alan Turing se pose en effet la question fondamentale de la possibilité pour une machine de « penser ». Ceci l'amène en particulier à aborder la question de façon pragmatique par les productions qui seraient générées par des machines « pensantes » et à introduire l'idée d'un test (qui porte aujourd'hui son nom) selon lequel une forme d'intelligence pourrait être accordée à celles-ci dès lors que, dans un processus d'échange, un humain se trouve dans l'incapacité de décider s'il interagit avec un autre humain ou avec une machine.

*Programme* — Cette vision prend véritablement corps en 1956 lors de la conférence de Dartmouth (« Dartmouth Summer Research Project on Artificial Intelligence »<fnref n="2" />) organisée par Marvin Minsky et John McCarthy. C'est lors de celle-ci que le terme d'IA est porté sur les fonts baptismaux, avec comme définition « la construction de programmes informatiques qui s'adonnent à des tâches qui sont, pour l'instant, accomplies de façon plus satisfaisante par des êtres humains car elles demandent des processus mentaux de haut niveau tels que : l'apprentissage perceptuel, l'organisation de la mémoire et le raisonnement critique ».

<footnote n="1">1. On pourra se reporter pour cela aux descriptions très éclairantes données dans [2] ou [7].</footnote>

<footnote n="2">2. https://en.wikipedia.org/wiki/Dartmouth_workshop#cite note-11</footnote>
*Premiers pas* — Après la vision et le programme, l'action. Une étape majeure est franchie en ce sens dès 1957 avec la proposition par le psychologue Frank Rosenblatt du « Perceptron » [23], machine basée sur l'utilisation de neurones formels dont la structure — proposée précédemment par McCulloch et Pitts [19] — et le fonctionnement — par apprentissage supervisé — sont inspirés de façon très simplifiée mais directe de ce que réalisent les neurones biologiques dans le cerveau humain <fnref n="3" />.

*« Winter is coming »* — L'idée de neurone formel était séduisante, et la tentation grande de poursuivre l'analogie avec le cerveau humain en construisant des réseaux constitués d'un très grand nombre de tels neurones interconnectés. Encore fallait-il pour cela disposer des trois ingrédients essentiels à une mise en œuvre pratique : (i) des structures de calcul et des algorithmes efficaces à même d'optimiser le très grand nombre de paramètres du modèle ; (ii) des moyens de calcul puissants permettant l'implantation et la réalisation effective de cette optimisation ; (iii) des données d'apprentissage suffisamment importantes en volume pour l'entraînement du modèle. Si le premier point a été résolu au début des années 80 avec l'adoption de réseaux convolutifs en couches et l'invention de l'algorithme de rétropropagation du gradient [24], les deux autres sont longtemps restés un verrou. Malgré des succès réels [18], ces limitations au déploiement à grande échelle ont conduit à se désintéresser de ce type d'approche pour un temps, plongeant l'IA à base de réseaux de neurones dans un « hiver » prolongé.

*Renaissance* — En fait, deux approches concurrentes pour l'IA existaient depuis les premiers jours, celle dite « connexionniste » (que l'on vient d'évoquer, à base de neurones formels et d'apprentissage sans modélisation a priori) s'opposant à une autre (dite « symbolique ») dans laquelle l'accent était mis sur la prise en compte explicite de connaissances et d'extraction de caractéristiques signifiantes. Malgré de réels succès — en particulier via des « systèmes experts » dans des cadres décisionnels bien circonscrits —, cette dernière peinait aussi à tenir ses promesses mais, par son caractère traditionnel aligné sur des décennies de vision par ordinateur et de reconnaissance de formes, elle a longtemps « invisibilisé », voire ostracisé, le point de vue plus iconoclaste des connexionnistes. Le point de bascule se situe alors en 2012, lors de la conférence ECCV (« European Conference on Computer Vision »). Lors de celle-ci comme lors des précédentes, une compétition était organisée en s'appuyant sur la base de données ImageNet <fnref n="4" />, cadre de référence utilisé par la communauté. Alors que, depuis plusieurs années, les performances n'augmentaient que de façon incrémentale et stagnaient avec un taux d'erreur de l'ordre de 25%, une approche connexionniste par apprentissage profond (« deep learning») créa la surprise en faisant descendre ce taux à 17% [17]. On peut voir là la date de renaissance de l'IA connexionniste, prélude à son adoption généralisée et sa reconnaissance sans appel (Prix Turing en 2019 pour Yoshua Ben-gio, Geoffrey Hinton et Yann LeCun, Prix Nobel de physique et de chimie en 2024 pour respectivement, Geoffrey Hinton et John Hopfield, et Demis Hassabis et John M. Jumper).

<footnote n="3">3. On notera que, selon Pablo Jensen [14], une autre source d'inspiration de Frank Rosenblatt est à chercher chez Friedrich von Hayek, l'économiste père du néolibéralisme, mêlant ainsi, dès ses débuts, l'IA à une vision politique.</footnote>

<footnote n="4">4. https://www.image-net.org/)</footnote>
*Explosion* — L'annonce de 2012 suscita un engouement massif et une reconversion au connexionnisme bousculant un à un tous les domaines. Le dés intérêt passé pour le connexionnisme ne tenait pas tant à ses principes qu'aux conditions de son applicabi- lité en termes de moyens de calcul et de données disponibles. Avec le développement considérable de l'internet et de ses usages, ces deux verrous avaient sauté. Le « cloud computing » et les cartes graphiques développées pour les jeux video permettaient dé- sormais d'effectuer des calculs précédemment inenvisageables, tandis que la croissance considérable du web et des réseaux sociaux se traduisait par un déluge de données ren- dant possible un apprentissage véritablement massif<fnref n="5" />. D'abord cantonnée au « monde de la tech », la révolution de l'IA connut ensuite sa seconde déflagration, touchant cette fois le grand public de façon directe, avec l'introduction en novembre 2022 du robot conversationnel ChatGPT développé par la société OpenAI. Plus question désormais de science-fiction, l'IA était entrée dans nos vies.

## 3 La révolution de l'IA générative

L'usage de l'IA a longtemps été dévolu à sa face « analytique » consistant en des tâches de reconnaissance ou de classification, avec en ligne de mire une aide à la décision. Le paradigme de l'approche connexionniste avait déjà constitué une première révolution dans la façon de voir ces questions, en abandonnant l'idée d'une modélisation préalable au traitement. Plutôt que de partir de représentations construites sur des connaissances a priori et d'en extraire des descripteurs signifiants, il s'agissait pragmatiquement de partir d'un corpus d'exemples étiquetés et de laisser l'algorithme s'y assujettir par apprentissage, sans souci particulier pour qu'un lien s'établisse avec des caractéristiques supposées pertinentes dans les données. Qu'importent les raisons, pourvu qu'on ait une bonne décision !

Avec ChatGPT et ses avatars, le paradigme de l'apprentissage-machine élargit ses ambitions en s'ouvrant à la possibilité d'une IA « générative » qui soit productrice de contenus dans le cadre d'une interaction humain-machine pouvant s'apparenter à une conversation en langage naturel. La proposition n'était bien sûr pas entièrement nouvelle et l'idée d'un « robot conversationnel » avait non seulement été envisagée depuis longtemps mais aussi mise en œuvre dans des applications spécialisées, par exemple de commerce en ligne, voire plus généralistes comme l'assistant vocal Siri d'Apple. Avec ChatGPT cependant, c'est un changement d'échelle qui s'opère, tant dans l'ampleur des productions pouvant aborder tous les domaines (complétion ou résumés de textes, traduction, écriture de codes informatiques, etc.) que dans l'aisance avec laquelle les réponses sont apportées.

L'irruption de ChatGPT dans le paysage de nos vies numériques a indéniablement constitué un coup de tonnerre faisant prendre conscience à tout un chacun que l'IA n'était pas une promesse en attente mais une réalité concrète dont la facilité d'usage déconcertante s'est traduite en quelques semaines par un engouement qui n'a cessé

<footnote n="5">5. Avec le corollaire d'un déplacement des avancées les plus significatives de la recherche depuis le monde académique vers celui des plateformes du web, celles-ci cumulant les avantages de moyens de calcul considérables, d'un accès direct aux données qu'elles collectent... et de capacités d'attractivité en termes de salaires pour les chercheurs de leurs laboratoires.</footnote>
de croître depuis, et ceci d'autant plus que le concept d'IA générative (IAg) s'est rapidement ouvert à la production d'images, de sons et de videos.

Si l'outil peut sembler magique, il n'en est rien bien sûr, mais qu'en est-il exactement ?<fnref n="6" />

*Principe* — Une IAg procède par apprentissage massif et s'appuie de façon centrale sur de « grands modèles de langage » (ou LLM, pour « Large Language Models »). Lorsqu'il s'agit de textes, le principe en est — de façon très résumée — d'identifier, dans la phase d'entraînement opérant sur un très grand corpus, des régularités dans la façon dont les mots et les idées s'enchaînent, et de reproduire ces régularités dans la phase d'utilisation, face à une situation de même nature. L'approche est donc résolument probabiliste, l'apprentissage sur un corpus de textes conduisant à des distributions de réponses possibles dont la loi s'accorde aux occurrences rencontrées dans les données, « la production » résultant quant à elle de propositions en conformité avec cette loi (à la possibilité près de fluctuations induites par l'algorithme afin d'assurer un degré plus ou moins contrôlé de variabilité dans les réponses). La situation est de nature un peu différente pour les images. Il s'agit toujours de s'appuyer sur un corpus colossal de données d'apprentissage, dans ce cas d'images dans lesquelles des motifs visuels sont identifiés et peuvent être associés à des descriptions textuelles. La différence avec le cas de la production de textes est que, pour les images, la technique la plus courante (comme celle à l'œuvre dans les modèles de diffusion de type Stable Diffusion) n'est pas de compléter mais de partir d'images faites de bruit aléatoire et de les transformer par raffinements successifs en images cohérentes sur la base des régularités apprises en lien avec la demande (le « *prompt* »).

En résumé, la production de sortie d'un algorithme d'IAg est — et n'est qu'— un résultat parmi les plus probables en réponse à une requête d'entrée et conditionnellement au contenu du corpus d'apprentissage.

*Corollaire sur la vérité* — Par structure, la réponse d'une IAg à une requête est donc contrainte à être cohérente avec ce qui a été appris. Elle est en ce sens plausible mais il n'y a aucun souci de « vérité » en ligne de mire. Pour des résultats factuels, la vérité peut bien sûr être au rendez-vous lorsqu'un très grand nombre d'exemples font référence à une même donnée objective, comme répondre « 1515 » à la question « En quelle année, la bataille de Marignan ? ». Dans un tel cas, la réponse suit néanmoins la donnée majoritaire des réponses que l'IA aura pu glaner sur le web et si, parmi celles-ci, certaines proviennent de bases de données certifiées, d'autres ne sont que des expressions qui le plus souvent la reproduisent, mais sans garantie de véracité. En ce sens, et sans garde-fous sur l'origine du choix majoritaire, une tout autre réponse serait possible si elle faisait l'objet d'un consensus plus large sur une autre date ! Cette approche « toutes données confondues » prévalait dans les premières versions d'IAg de type ChatGPT, ouvrant la voie à la possibilité de fabrication de « vérités alternatives » ou, à tout le moins, d'assertions pouvant être perçues comme véridiques. Les nouvelles versions incluent désormais la possibilité d'un recours explicite à des sources (comme Wikipedia) qu'elles citent, ce qui n'exclut pas de laisser le problème intact lorsqu'il

<footnote n="6">6. On pourra se reporter à [6] pour une présentation très pédagogique des grands principes sous-tendant l'IA, et en particulier ceux de l'IAg.</footnote>
s'agit de sujets insuffisamment (ou mal) documentés.

Par construction même, une IAg est donc susceptible de dire des choses fausses autant que des choses vraies et, pour en limiter les effets, il y a au moins deux recours reposant sur une caractéristique parfois oubliée des IAg : toute réponse, avant d'être publiée, passe par un filtre d'intervention programmée qui en autorise en quelque sorte la diffusion. C'est ainsi que la réponse peut être « Je ne sais pas » ou « Je ne peux pas répondre à cette question », soit parce qu'effectivement, lorsqu'il s'agit de résultats factuels, aucune source suffisamment fiable n'est disponible, soit parce, quand bien même des données permettraient une réponse, celle-ci contreviendrait à des règles fixées a priori, pour des raisons par exemple légales ou morales.

On voit ainsi que, vérité ou pas, se dessine en filigrane derrière chaque résultat un ensemble de conditionnalités qui peuvent en assurer aussi bien le bien-fondé que le faire reposer sur une part d'arbitraire.

## 4 L'IA, oui mais...

L'IA est aujourd'hui partout et forte de succès incontestables, c'est un fait. Au-delà d'exploits spécifiques comme la victoire d'AlphaGo au jeu de Go<fnref n="7" />, on peut citer ainsi les outils particulièrement performants qui ont été développés pour la prédiction de structures de protéines<fnref n="8" /> ou encore la prévision météorologique<fnref n="9" />. Ce ne sont là que quelques exemples emblématiques et on pourrait en citer bien d'autres dans à peu près tous les domaines, allant de l'assistance pour le diagnostic médical à la conduite de véhicules autonomes, sans compter les usages grand public désormais quotidiens de robots conversationnels dans le monde du travail, de l'éducation ou des loisirs. Il n'est donc pas question de dénier à l'IA son importance capitale et son utilité (scientifique, économique ou sociale), ce qui n'est pas exclusif d'en interroger des aspects cruciaux, sans les tenir pour naturels ou allant de soi.

*Sur la notion de « biais » — On entend souvent dire qu'une IA peut être « biaisée » de par la nature de son corpus d'apprentissage. Ceci peut être vrai pour des questions comme par exemple la sous-représentation d'une catégorie de population dans une évaluation clinique pour l'efficacité d'un médicament, problème de même nature que le choix d'un échantillon dans un sondage. L'enjeu est cependant plus vaste et le terme même de biais mérite réflexion.*

Si l'on s'attache ainsi aux IAg, on a dit que l'approche suivie est de nature *probabi-liste* dans ses productions et *statistique* dans les données d'apprentissage sur lesquelles celles-là reposent. Or, qu'est-ce qu'un biais en statistique ? C'est un écart par rapport à une moyenne mais, dans le cas d'un corpus d'apprentissage, on considère en général qu'il y a biais dès lors qu'on s'écarte d'un équilibre de représentativité, à l'avantage ou au détriment d'un sous-ensemble (et il est clair alors que, si une IAg fait correctement son travail, elle reproduira fidèlement ce déséquilibre, ce que l'on ne saurait lui reprocher). Ce qu'il faut voir en mettant ainsi sous le terme biais un implicite de

<footnote n="7">7. https://deepmind.google/research/projects/alphago/</footnote>

<footnote n="8">8. https://deepmind.google/science/alphafold/</footnote>

<footnote n="9">9. https://deepmind.google/science/weathernext/</footnote>
représentativité, c'est que l'on touche à deux notions sous-jacentes, celle d'objectivité (la réalité telle qu'elle est) et celle d'orientation (la réalité telle qu'on voudrait qu'elle soit). Pour reprendre l'exemple des essais cliniques de médicaments, un biais de genre dans les données peut exister comme résultat comptable objectif de ce qui est disponible, mais ce déséquilibre peut être lui-même le résultat d'une construction sociale (consciente ou inconsciente) tendant à ne pas prendre en compte la diversité de façon équilibrée dans la constitution du corpus.

Ce qui est vrai du corpus d'apprentissage d'une IAg l'est aussi de ses productions dont a dit qu'elles passaient par un filtre de post-traitement portant la marque d'une acceptabilité des réponses, et susceptible ainsi d'en orienter le choix. Ceci présuppose donc un cadre normatif dans lequel le biais devient un écart à la norme, renvoyant à la question de l'existence d'une telle norme, de qui en a décidé, et de quels enjeux celle-ci reflète ou impose (en lien par exemple avec des impératifs législatifs, moraux, voire idéologiques). Se mêlent ainsi, dans le possible non-dit des biais, des questions de société, de culture, de politique, rendant utopique toute approche non-biaisée qui serait universaliste, avec le double choix également insatisfaisant de s'en remettre à une norme dominante par consentement tacite ou de s'accorder sur un dénominateur commun appauvrissant<fnref n="10" />. On peut suivre en ce sens Kate Crawford et Trevor Paglen lorsqu'ils écrivent [9] : « As such, much of the discussion around "bias" in AI systems misses the mark : there is no "neutral," "natural," or "apolitical" vantage point that training data can be built upon.[...] The whole endeavor of collecting images, categorizing them, and labeling them is itself a form of politics, filled with questions about who gets to decide what images mean and what kinds of social and political work those representations perform. ». Un constat d'impuissance ou de limitation fondamentale que l'on pourrait aussi rapprocher de l'articulation entre penser et classer que souligne George Perec lorsqu'il écrit [20] : « Que me demande-t-on, au juste ? Si je pense avant de classer ? Si je classe avant de penser ? Comment je classe ce que je pense ? Comment je pense quand je veux classer ? [...] Tellement tentant de vouloir distribuer le monde entier selon un code unique [...] Malheureusement ça ne marche pas, ça n'a même jamais commencé à marcher, ça ne marchera jamais. N'empêche que l'on continuera encore longtemps à catégoriser tel ou tel animal selon qu'il a un nombre impair de doigts ou des cornes creuses. »

Pour en revenir à l'assertion de Crawford et Paglen, on a choisi de la retenir car, même si on peut lui accorder une portée très générale, elle se réfère plus précisément à la base de données ImageNet à laquelle il a été fait référence plus haut comme ensemble de test supposé consensuel pour les algorithmes. Cette dernière étant annotée par des humains<fnref n="11" />, toute entreprise de catégorisation revêt un caractère pouvant être éminemment subjectif, tel que souligné par Perec. Une scène représentant une vache dans un pré doit-elle être étiquetée vache ou pré ? Et si l'on retient les deux, faudra-t-il s'étonner qu'une vache apparaisse à la demande d'un pré ou qu'un pré soit le décor nécessaire à l'évocation d'une vache ? De façon moins anecdotique, si l'on en vient à

<footnote n="10">10. La question de la langue est source de biais de même nature, avec une sur-représentation considérable de l'anglais sur internet. On y reviendra.</footnote>

<footnote n="11">11. De fait par des « travailleurs du clic » aux conditions d'exercice déplorables, mais c'est une autre histoire, cf. par exemple https://www.telecom-paris.fr/fr/ideas/impacts-sociaux-numerique-travailleurs-clic.</footnote>
des sujets sensibles touchant à la reconnaissance faciale, l'analyse rapportée dans [9] met en lumière combien un étiquetage peut ouvrir la porte à nombre de préjugés et d'appréciations tout sauf neutres dans le cas d'identifications relatives à l'apparence (émotions, humeur, santé, origine, ...), pouvant aller jusqu'à ressusciter sans le dire la vieille idée de physiognomonie.

*Qui parle ?* — Une question enfin que l’on se contentera de mentionner mais que l’on n’abordera que superficiellement tant elle demanderait de longs développements : « qui » s’exprime lorsqu’une IAg répond à une question, propose une solution, voire émet une appréciation ? On a bien compris qu’une IAg ne « pense » pas au sens humain du terme et qu’elle n’a ni réflexivité ni même compréhension de ses propres productions mais il n’empêche que tout dans le dialogue qu’elle conduit — y compris dans la forme policée de son discours et l’illusion qu’elle donne d’une écoute bienveillante — pourrait laisser croire à une forme de conscience, induisant de façon naturelle une nécessaire responsabilité dans les conséquences éventuelles de ses réponses.

Les enjeux sont en fait multiples, avec en entrée l'appropriation (consentie ou non) des données nécessaires à l'apprentissage et en sortie l'attribution des productions, tant dans leur caractère propriétaire que dans les usages pouvant en être faits. Pour ce deuxième point par exemple, est-ce l'IAg elle-même qui serait productrice et propriétaire en tant qu'entité responsable ? Faut-il alors la doter d'un statut juridique mais, dans la mesure où son comportement ne résulte que d'une programmation, la responsabilité incomberait-elle à celles et ceux qui ont conçu et développé la structure de cet algorithme ? Ou bien serait-ce au seul utilisateur d'en porter le poids ? Si l'on voit une IAg comme un simple outil, cette dernière option peut sembler naturelle et elle est d'ailleurs celle adoptée par la plupart des industriels mettant à disposition leurs systèmes. (Viendrait-il en effet à l'idée d'incriminer un coutelier pour un crime commis par un de ses clients avec un couteau sortant de son atelier ?) Mais une IAg n'est pas un outil comme un autre, en particulier dans son élaboration reposant sur des données posant elles-même des questions de propriété : quid alors d'une production reposant sur des données « volées », dont la nature frauduleuse a toute chance d'être inconnue de l'utilisateur ? Ce sont là des questions autant de droit que de morale ou d'éthique, posant d'une façon nouvelle et sans doute plus aiguë celles de la reproduction et de la création.

## 5 Créativité

> « Il y avait, dit-on, à Athènes une grande quantité de belles filles ; Praxitèle les dessina toutes l'une après l'autre ; après quoi, de toutes ces beautés diverses qui, chacune, avaient leur défaut, il fit une beauté unique, sans défaut, et créa la Vénus. »

Alfred de Musset, in *La confession d'un enfant du siècle*

Parce qu'elles ne construisent leurs discours que sur la connaissance acquise de situations analogues en les reformulant sans originalité intrinsèque, les IAg ont pu être qualifiées de « perroquets statistiques » [4], des auteurs comme Luc Julia affirmant
même clairement qu'il faut parler d'« IA génératives, pas créatives » [15]. Et lorsqu'on demande à ChatGPT lui-même son « avis » <fnref n="12" />, il résume en disant : « Une IAg, c'est comme un artiste qui improvise : elle ne recopie pas ses exemples, elle invente en combinant ce qu'elle a appris. »

L'irruption des IAg dans des domaines a priori « créatifs » (comme le cinéma, la musique, la peinture, la littérature..., jusqu'à la recherche scientifique) signe cependant un profond bouleversement des pratiques qui interroge sur la notion souvent vague de « création » et sur le concept de « créativité » qui la sous-tend.

« À la manière de » — On peut tout d'abord noter que pour bien des productions humaines, intellectuelles ou manuelles, l'idée de création ne signifie pas nécessairement une invention ou une originalité en rupture avec l' existant. Dans ce qui est sans doute même la majorité des cas, une œuvre ne jaillit pas de nulle part et résulte, consciemment ou inconsciemment, d'une filiation l'apparentant au processus en jeu pour les IAg, à sa- voir une phase d'apprentissage par exposition à des réalisations passées et imprégnation, suivie d'une phase de construction s'en inspirant, tout en y ajoutant à des degrés divers des choix de sélection, des éléments d'interprétation, des variations. Il en va ainsi pour les styles, les tendances, les écoles de pensée, et force est de reconnaître que, à ce jeu, les IAg brillent pour créer « à la manière de », qu'il s'agisse d'un texte, d'une œuvre picturale ou d'une composition musicale. On se trouve ainsi face à des productions qui ne sont en général pas des plagiats d'un point de vue légal (les éléments d'apprentissage n'étant pas repris tels quels), mais qui s'appuient néanmoins sur l'appropriation de données pré-existantes pour en « créer » de nouvelles. La question pourrait ainsi être reportée sur l'idée du consentement à une ré-utilisation mais, là aussi, elle est délicate à trancher entre ce qui est spécifique à la situation nouvelle des IAg et ce qui est de pratique courante, quoique le plus souvent inconsciente, dans l'élaboration humaine des processus créatifs. Dit d'une façon un peu provocatrice : des artistes peuvent s'indigner à bon droit de ce que des IAg se nourrissent de leurs œuvres sans autorisation et vouloir s'opposer à ce qu'il en soit fait ainsi, mais qu'en est-il de l'empreinte tout humaine de ces mêmes œuvres telle qu'elle peut être acquise par la fréquentation des musées, des bibliothèques ou des ateliers ? Faudrait-il de même manière en limiter l'accès et l'usage comme source d'inspiration ? La différence d'appréciation entre ces deux situations vient sans doute de l'aspect systématique, à très grande échelle et jugé trop facile des approches artificielles, banalisant l'acte supposé créatif et, en le déshumanisant, actant en corollaire la possibilité de sa dépossession.

Créer « à la manière de » peut avoir un intérêt commercial en répondant, comme dans l'exemple de la musique, à une demande de consommation sur un marché segmenté, mais la marque d'une véritable création réside bien davantage dans une disruption, dans une sortie de paradigme. Il n'est cependant pas dans la nature des IAg de permettre de façon générique de tels sauts qualitatifs, la caractère probabiliste de leurs algorithmes les assujettissant à produire du semblable dans le cadre des lois de distributions attachées aux données d'apprentissage. A minima, une échappatoire à cette situation peut être d'en forcer le carcan en imposant dans les réponses une part d'aléatoire (dont le degré peut être réglé par une « température »), pouvant conduire à des « hallucinations » <fnref n="13" />

<footnote n="12">12. Question posée par l'auteur le 25 août 2025.</footnote>

<footnote n="13">13. On peut remarquer à ce propos que cette situation de « débridage » n'est en fait pas très différente de</footnote>
provenant de mélanges incontrôlés d'éléments disparates d'où pourrait sortir la pépite d'une véritable nouveauté...

*De la créativité et de l'invention dans les sciences* — Les domaines artistiques au sens large ont été en première ligne pour rendre tangible l'influence des IAg sur leurs propres pratiques. On a vu ainsi des œuvres picturales ou photographiques générées par IA remporter des compétitions ou être vendues aux enchères dans les salles les mieux cotées, des groupes musicaux créés de toutes pièces se hisser au sommet des hit-parades avec des titres générées par IA, des scénarios et des œuvres de fiction élaborées de même manière. Les questions brièvement évoquées précédemment de droit, de propriété et de responsabilité s'y retrouvent avec d'autant plus d'acuité que les enjeux économiques associés peuvent être collossaux. Si l'on fait alors un pas de côté pour quitter les arts et se tourner vers les sciences, des questions se posent aussi, semblables pour certaines et différentes pour d'autres.

L'avancement des sciences par la recherche est une activité que l'on rapproche souvent volontiers de la pratique artistique dans la mesure où, produisant des savoirs nouveaux, elle porte la marque fondamentale d'être un domaine fait d'inventions et de créations intellectuelles. On a beaucoup écrit sur comment s'opère le « miracle » de la découverte et de ses ressorts. On a pu faire référence aux appuis nécessaires engrangés au cours du temps (les « épaules des géants » de Newton) ou à l'intelligence collective brassant bien au-delà de la puissance superbe d'un cerveau isolé. Dans *Science et méthode* [22], Henri Poincaré s'y est longuement attardé dans le cas spécifique, basé sur sa propre expérience, de l'invention mathématique.

(Avant de s'attacher à la position de celui-ci, remarquons que, si l'on voulait pousser à l'extrême, on pourrait dire que tout résultat mathématique considéré comme nouveau l'est surtout par le fait qu'il n'a pas encore été identifié, singularisé ou mis en avant, mais qu'il était déjà là d'une façon potentielle puisqu'il ne résulte que de la combinaison d'autres résultats, acquis eux-mêmes précédemment de semblable manière. Et, si l'on remonte la chaine, tout serait in fine dans les axiomes supposés assurer la cohérence d'un ensemble dont les éléments sont virtuellement présents dès l'origine, ne demandant qu'à être révélés par une organisation adéquate.)

Cette parenthèse refermée, revenons à Poincaré qui, de façon très résumée, fait l'hypothèse que le surgissement d'une invention est le fait d'une activité subliminale opérant en permanence de façon inconsciente, dont on pourrait dire que, forte de connaissances acquises ne demandant qu'à être mobilisées, elle brasse le nombre colossal des combinaisons possibles pour résoudre un problème et aide à faire un premier tri de ce qui est acceptable ou ne l'est pas, sur la base de critères d'« utilité » et même de « beauté ». Cette phase inconsciente n'est néanmoins pas suffisante et se double d'une phase consciente dans laquelle le choix prioritaire se conforte, le processus s'inversant enfin pour en vérifier le bien-fondé en remontant la chaine du raisonnement et en asseoir la véracité. Poincaré accorde une importance fondamentale au choix opéré dans la phase inconsciente, qu'il considère comme une opération de grande subtilité qui ne saurait être dévolue à une machine, écrivant ainsi : « *Le moi inconscient ou, comme*

<footnote>ce que l'on peut expérimenter dans les rêves où des éléments réels, des événements passés, peuvent surgir et s'assembler à d'autres pour créer des semblants d'histoires possibles, ayant l'apparence de la réalité tout en se déployant sans logique apparente.</footnote>
on dit, le moi subliminal joue un rôle capital dans l'invention mathématique [...]. Mais on considère d'ordinaire le moi subliminal comme purement automatique. Or nous avons vu que le travail mathématique n'est pas un simple travail mécanique, qu'on ne saurait le confier à une machine, quelque perfectionnée qu'on la suppose. Il ne s'agit pas seulement d'appliquer des règles, de fabriquer le plus de combinaisons possibles d'après certaines lois fixes. Les combinaisons ainsi obtenues seraient extrêmement nombreuses, inutiles et encombrantes. Le véritable travail de l'inventeur consiste à choisir entre ces combinaisons, de façon à éliminer celles qui sont inutiles ou plutôt à ne pas se donner la peine de les faire. Et les règles qui doivent guider ce choix sont extrêmement fines et délicates; il est à peu près impossible de les énoncer dans un langage précis; elles se sentent plutôt qu'elles ne se formulent; comment, dans ces conditions, imaginer un crible capable de les appliquer mécaniquement ? » Et pourtant...

Et pourtant en effet, la description hypothétique que Poincaré donne d'une com-
binatoire gigantesque de possibilités est-elle si différente de la façon dont AlphaFold
envisage la prédiction de la structure de protéines à partir de séquences d'acides animés ?
Il ne s'agit certes pas de la production de nouveaux théorèmes mathématiques ni même
de la démonstration d'une conjecture résistant aux efforts humains, mais l'efficacité
qu'il faut bien reconnaître à l'approche invite à tempérer l'impossibilité définitive énon-
cée par Poincaré, voire à conférer à l'algorithme utilisé une qualité d'invention allant
au-delà de seule puissance de calcul, en suivant cette fois Poincaré comme malgré lui
lorsqu'il écrit : « Ainsi c'est cette sensibilité esthétique spéciale qui joue le rôle du
crible délicat dont je parlais plus haut, et cela fait comprendre assez pourquoi celui qui
en est dépourvu ne sera jamais un véritable inventeur. » Un algorithme pourrait-il être
sensible ?

Les publications scientifiques à l'épreuve de l'IAg — Ce que l'on vient de dire de l'invention de type mathématique se réfère à la possibilité de situations marquant un véritable saut dans l'accroissement des connaissances mais il faut reconnaître qu'il s'agit là d'exceptions ne se rencontrant que rarement. Dans l'immense majorité des cas — et ce n'est pas un mérite à minimiser —, la science avance de façon incrémentale, ajoutant patiemment des pierres à l'édifice toujours en construction des acquis. Le vecteur principal en est la publication, expression concrète de la production des chercheurs acquérant idéalement sa valeur par une validation dans le cadre d'une évaluation par les pairs. Là encore, l'IAg vient rebattre les cartes en ouvrant la possibilité de mettre à mal ces beaux principes, tant dans l'écriture même d'articles scientifiques ou de projets de recherche que dans leur évaluation. On voit ainsi se multiplier le nombre d'articles « Canada Dry » écrits en tout ou partie à l'aide d'une IAg, par facilité pour les moins problématiques (quelques minutes suffisent) ou par malhonnêteté lorsqu'ils sont émaillés de données inventées ou de références inexistantes. Certains passent le filtre d'acceptation dans des revues sérieuses, d'autres nourrissent des revues moins scrupuleuses<fnref n="14" /> ou inondent les bases de pré-tirages de type arXiv, devenant de facto des sources susceptibles d'être référencées par des IAg. Un frein à ces pratiques douteuses

<footnote n="14">14. Le souci principal de telles revues, dites « prédatrices », est d'ordre économique, offrant une publication à faible coût dans le cadre d'un modèle auteur-payeur, sans aucune garantie de qualité dans l'évaluation, à supposer qu'elle existe.</footnote>
passe bien sûr par une évaluation rigoureuse mais, devant l'explosion du nombre des manuscrits soumis à publication et la difficulté croissante à trouver des relecteurs qualifiés, la tentation est grande de recourir pour elle aussi à une IAg, avec la perspective de déléguer à une IAg l'évaluation d'une production d'IAg ! Si nous n'en sommes pas là, la question est posée d'un usage raisonné des IAg dans la pratique de la recherche, les modalités de son expression et la sincérité de sa conduite.

## 6 Apprentissage et « autophagie »

Il est entendu que, pour fonctionner, les IAg se doivent de se nourrir d'un très grand nombre de données telles qu'elles sont disponibles — ou, à tout le moins, accessibles — sur le web et les réseaux, voire de la quasi-totalité de ce qui peut y avoir circulé et y être archivé. Mais de quoi ces données sont-elles faites à l'heure précisément des IAg qui, par leur nature génératrice, en « créent » chaque jour de nouvelles qui deviennent de fait des ressources susceptibles d'être digérées pour nourrir les usages futurs ?

D'un corpus initial reflétant, pour le meilleur et pour le pire, une somme de savoirs accumulés (le meilleur) et de contenus erronés ou extravagants (le pire), mais tous ancrés encore dans le monde réel par le truchement d'individus les ayant produits, mis en forme et diffusés, on passe à un corpus qui se trouve « augmenté » par l'adjonction de productions d'IAg, résultant en un mélange de données réelles et artificielles dont rien n'interdit de penser que ces dernières puissent en venir à prendre la place prépondérante. On se trouve ainsi en face d'un phénomène que l'on peut qualifier d'« autophagie » [1] et par lequel, de façon auto-régressive — pour adopter une terminologie issue de l'étude des systèmes à rétroaction à la Wiener [28] —, la sortie d'un système est ré-injectée à son entrée.

*Une parenthèse sur les systèmes auto-régressifs* — De manière plus précise et en fait générique, les systèmes auto-régressifs ne se contentent pas d'une telle rétroaction mais se doublent en permanence d'une entrée indépendante et supposée « neutre » (c'est-à-dire découplée du système lui-même et sans propriété particulière, typiquement un « bruit blanc »), avec à la clé un théorème de décomposition [29] disant que toute situation stationnaire (c'est-à-dire dont les propriétés sont invariants dans le temps et reproduisent à l'identique les mêmes statistiques) peut se représenter selon ce schéma à deux ingrédients : une partie strictement prédictive et à mémoire éventuellement infinie, procédant du bouclage de la sortie sur l'entrée, et une partie portant sur la seule entrée et représentative d'une « innovation ». En renversant la perspective, un tel système est amené à produire des données « stationnaires », certes fluctuantes mais dans un cadre de reproduction à l'identique des statistiques du modèle. Un entre-soi algorithmique qui, s'auto-entretenant, se conforte.

*L'autophagie et ensuite ?* — Ce point de vue peut, au moins métaphoriquement, se rapprocher de ce qui est à l'œuvre dans le cas des IAg, avec l'idée que l'incorporation à un corpus d'apprentissage de données issues de générations construites sur un corpus antérieur puisse conduire à un assèchement, une « thermalisation » des productions en venant à reproduire de plus en plus le même, faute à tout le moins d'injections de
données nouvelles.

Cette question a été l'objet de diverses études, avec plusieurs résultats corroborant
ou infléchissant cette vision intuitive. Ainsi, l'article publié en 2024 par Shumailov et al.
[25] alarme sur un possible effondrement des modèles si l'entraînement sur des données
générées par IA se généralise de façon incontrôlée, montrant en particulier la réduction
progressive, au fil des générations, du poids de la queue des distributions de probabilité.
Celle-ci marquant la présence d'éléments moins fréquents, voire rares, sa disparition
progressive porte la signature d'un tarissement dans la diversité des productions, et donc
de l'homogénisation attendue en les rapprochant de plus en plus de leur comportement
moyen. Des résultats de même nature avaient été obtenus dès 2023 par Alemohammad
et al. [1] en y ajoutant, dans le cadre de divers scénarios, des éléments importants relatifs
à l'intervention humaine dans le processus d'apprentissage augmenté. L'étude montre
d'une part que l'autophagie « en roue libre » conduit à une dégradation progressive
de la qualité (avec en particulier l'amplification d'effets d'artefacts), et d'autre part
que le contrôle de cette qualité par un opérateur humain<sup>15</sup> se fait au détriment de la
diversité. Une autre conclusion, corroborée par une étude plus récente [5], est que
le point important pour réduire les effets de dérive est la maintien dans tout corpus
d'apprentissage d'une proportion importante de données « réelles », au sens où elles ne
sont pas elles-mêmes les productions d'une IAg.

7 Une certaine vision du monde

« J'ai tout appris de toi sur les choses humaines,
et j'ai vu désormais le monde à ta façon. »

Louis Aragon in *Le Roman inachevé*

On l'a dit précédemment, lorsque nous interagissons avec un chatbot, les réponses qu'il apporte à nos questions portent la marque à la fois du corpus d'apprentissage et des ajustements de post-traitements propres à l'algorithme. C'est donc naturellement qu'une IAg transporte avec elle — et traduit par reproduction — des valeurs et règles à l'image de celles prévalant dans l'écosystème culturel ou politique lui servant de cadre d'apprentissage et d'expression. En ce qui concerne par exemple la langue, la très grande majorité des données disponibles est d'origine anglo-saxonne. Il s'en suit que, par simple effet majoritaire, les contenus de langue anglaise ont un poids prépondérant, avec ce qu'ils peuvent véhiculer de spécificités culturelles au sens large. Ceci est vrai du moins dans notre cadre occidental car, si nous nous tournons par exemple vers la Chine, le changement de référentiel — tant dans l'accès à certaines données que dans l'expression de certaines idées — pourra conduire à de grandes différences.

*Interlude avec Boris Vian* — Il est amusant (et remarquable) de signaler que ce cadre
conceptuel dans lequel une machine se comporte en cohérence avec ce qu'elle a appris

<footnote n="15">15. On notera que décider humainement de ce qui est « meilleur » (opération dite de « cherry picking ») résulte forcément d'un choix subjectif pouvant être sensible à des « biais » au sens de ce qui a été évoqué précédemment.</footnote>
a été anticipé de façon visionnaire par Boris Vian dès 1950, dans une nouvelle intitulée « Le Danger des Classiques » (qui ne sera publiée qu'en 1964 [27]) et dont la trame est la suivante. La scène, qui se passe par anticipation en 1982, est racontée par un professeur qui a créé un robot capable de lire et d'ingérer tout texte grâce à un « lectiscope » et d'agir ensuite conformément à ce qu'il en aura appris. Selon les propres termes de l'inventeur : « Le montage [...] doit permettre à la machine de retenir dans son organe mémoriel un nombre de notions extrêmement élevé [et est] destiné à acquérir l'ensemble des connaissances du grand mémento encyclopédique Larousse de 1978 en seize volumes », ajoutant quant à l'usage envisagé que « C'est une machine administrative [qui] doit servir de Conseil protocolaire à l'ambassadeur de Flor-Fina. À chaque demande de renseignements de sa part, elle fournira à l'ambassadeur la réponse typique d'une culture française très étendue. En toute circonstance, elle lui indiquera la marche à suivre, lui expliquera de quoi il s'agit et comment se comporter. » Or il se trouve que le professeur a pour élève-stagiaire une certaine Florence, curieuse et fort délurée, pour laquelle il a un tendre penchant. Pressée par elle de faire une démonstration, il accepte de mettre la machine en marche alors même qu'elle n'a pas encore ingurgité les données de l'encyclopédie. Sans avoir le temps de l'en empêcher, Florence y introduit alors Toi et Moi, roman d'amour de Paul Géraldy... et se passe ce qui doit se passer : la machine se met non seulement à parler d'amour « à la Paul Géraldy », mais encore à déclarer sa flamme à Florence et à s'ingénier à éliminer par jalousie son rival le professeur. S'en suivent diverses péripéties romanesques dont l'épilogue est enfin acté lorsque Florence arrive à débrancher la machine. Comment ne pas trouver dans cette nouvelle la préfiguration d'une IAg, de ses principes moteurs et de ses dérives potentielles ?

*Façonner les langages* — On ne s'appesantira pas sur le fait qu'imposer sa langue a toujours été un des soucis premiers des conquérants pour asseoir leur pouvoir de domination. Ceci peut se faire par éradication et remplacement, de manière globale et brutale, mais aussi — ce qui nous intéressera davantage — de manière plus insidieuse, à l'intérieur même d'une langue, en faisant apparaître ou disparaître 16 des mots ou en en créant de nouveaux.

Dans le contexte politique particulier qui était celui de la montée du nazisme, le philologue allemand Victor Klemperer a tenu, de 1933 à 1945 et de façon assidue, un journal dans lequel il a disséqué la construction délibérée d'une « novlangue » destinée à servir la propagande nazie, ce qui a résulté en la publication en 1947 de l'ouvrage *LTI - Lingua Tertii Imperii* (voir [16] pour la traduction française). En référence à cette possible invasion d'une langue, le psychanaliste Yann Diener s'est intéressé dans son essai *LQI - Notre langue quotidienne informatisée* [10] aux transformations que la bascule de plus en plus prononcée dans un monde numérique généralisé peut induire de modifications dans notre langue commune et, par ricochet, dans ce que cela peut vouloir dire de notre rapport au monde qui s'en trouve modifié. Si un cadre nouveau,

<footnote n="16">16. L'histoire récente nous donne l'exemple d'une telle pratique avec l'interdiction de fait de faire appa-
raître, dans les projets de recherche des agences fédérales des États-Unis, des termes contraires à l'esprit d'un
décret présidentiel (cf. https://www.whitehouse.gov/presidential-actions/2025/01/
ending-radical-and-wasteful-government-dei-programs-and-preferencing/).
Affirmation désatreuse d'une nouvelle forme de contrôle « politiquement correct » du langage, inversant celui,
souvent tout aussi problématique, attaché à des valeurs de progressisme depuis des décennies [3].</footnote>
conceptuel et opérationnel, induit naturellement son lot de termes eux-mêmes nouveaux,
leur appropriation peut en retour, par un renversement de perspective, s'inviter pour des
usages communs qui s'en trouvent modifiés. Ainsi du numérique et de son jargon dont
l'appropriation tend à « algorithmiser » nos pratiques les plus quotidiennes. Lorsque
l'on parle de « changer de logiciel », est-ce à dire que nous fonctionnons comme un
programme infomatique ? Sans doute puisque nos rendez-vous désormais « se pro-
gramment » et que l'on ne « calcule » plus l'autre lorsqu'on ne le comprend pas... Mais
est-ce à nous de nous caler sur le fonctionnement des artefacts technologiques que nous
avons créés dans l'espoir qu'ils s'approchent de nos comportements humains, au risque
de « vivre et penser comme des bots », pour faire écho à l'antienne de Gilles Châtelet ?

Informatiser la pensée, c'est aussi la binariser, avec le corollaire de logique froide
qui l'accompagne. Pour qu'un programme informatique fonctionne, il doit choisir en
permanence entre le 0 et le 1, ne pouvant se permettre l'hésitation ou la nuance : l'ambi-
guïté, voilà l'ennemi ! Victor Klemperer avait noté que la novlangue nazie s'appuyait en
particulier sur un appauvrissement qui permettait non seulement de simplifier le message
mais aussi d'en faciliter l'appropriation. La richesse d'une langue étant à l'image de
celle de la pensée qui l'exprime, on voit les limites actuelles des IA dans leur incapacité
à embrasser la complexité à l'œuvre dans les ressorts de l'intelligence humaine. Re-
pousser cette limite est au cœur d'un autre ouvrage de Yann Diener [11], dans lequel
celui-ci se pose la question d'inculquer un inconscient à un ordinateur pour lui permettre
l'accès à des fonctions essentielles du langage humain comme la métaphore, le lapsus
ou le second degré. L'objectif en ligne de mire est de « ré-ambiguïser » le langage
informatique afin que les bots nous ressemblent (jusque dans nos imperfections) et non
l'inverse. Un rêve peut-être mais pas forcément, un programme de recherche en ce sens
étant en cours.

8 Vivre et penser avec des bots

« Peut-on imaginer que l'humanité ne soit plus que la somme statistique de citoyens-panélistes et de neurones sur pied dévorés par l'ennui et l'envie ? »

Gilles Châtelet, in *Vivre et penser comme des porcs*

L'IA est aujourd'hui omniprésente et, comme pour l'imprimerie, l'électricité ou
toutes les révolutions technologiques qui ont pu bouleversé les sociétés, il est difficile
d'imaginer un retour en arrière qui la ferait disparaître du paysage. Ses formes et ses
usages peuvent changer mais, sans même envisager l'avénement hypothétique d'une IA
« généraliste » forte de tous les attributs d'une intelligence humaine, le recours à l'IA
s'est banalisé au point que bien peu de domaines lui échappent.

Un point évident — mais qu’il est bon de rappeler — est qu’une IA est le produit
d’une activité humaine, qu’il faut des intelligences tout humaines pour en concevoir la
structure, en construire les éléments matériels constitutifs, la brancher ou la débrancher.
L’humain est ainsi maître a priori de la technique et c’est à lui qu’appartiennent les
choix de la conception de celle-ci, de son fonctionnement et de ses usages. On a évoqué
un certain nombres de réserves (ou à tout le moins de points d'alerte) sur la non-neutralité des données et des algorithmes pouvant refléter des modes de pensée ou des comportements propres aux concepteurs et induire par le « soft power » qu'ils exercent des infléchissements dans la façon dont les utilisateurs voient le monde. Ceci est d'autant plus vrai dans le cas des robots conversationnels qui, par la qualité extraordinaire dont ils sont dotés aujourd'hui, « passent le test de Turing ». L'aisance avec laquelle ils conversent est celle attendue d'un humain, incitant d'autant plus à prendre pour argent comptant les réponses qu'ils nous fournissent [13]. On projette souvent sur une IA un devoir de qualités qui, pourtant, ne se retrouvent pas nécessairement dans l'intelligence humaine qui ne saurait être infaillible. S'il leur arrive de se tromper, les chatbots le font avec assurance mais humilité, s'excusent si on en leur fait la remarque, s'emploient à se corriger et n'hésitent pas à relancer la conversation sur des pistes leur semblant intéressantes. Ainsi, la possibilité même d'erreur d'un chatbot est paradoxalement, plus qu'un travers, un succès à mettre à son actif dans la mesure où l'on se trouve alors dans une situation semblable à celle d'une conversation avec un interlocuteur humain qui ne saurait être omniscient, et à qui il nous appartient de faire confiance ou pas.

Dans un conte de Charles Perrault [21], le Roi croit naïvement le Chat Botté qui lui affirme avec aplomb l'existence et les qualités de son maître, le supposé marquis de Carabas. Les réponses qu'un chatbot ou un moteur de recherche « chatbotté » nous propose sont en fait autant de marquis de Carabas potentiels. À charge pour nous d'aller au-delà de ce qui nous est dit, de croiser les informations et de remonter à leurs sources.

L'utilité des IA est dans leur capacité d'assistance à nos propres actions ou créations. pas de jouer un rôle dans lequel celles-ci leur seraient déléguées. La question n'est donc pas de suivre aveuglément les préconisations des IA ni de les rejeter en bloc par principe. Elle est bien davantage de chercher à « vivre et penser avec les bots », dans un compagnonnage conscient et éclairé.

Références

[1] S. Alemohammad, J. Casco-Rodriguez, L. Luzi, A. Imtiaz Humayun, H. Babaei, D. Lejeune, A. Siahkoohi, and R.G. Baraniuk, « Self-consuming generative models go MAD, » arXiv:2307.01850, 2023.

[2] D. Andler, *Intelligence artificielle, intelligence humaine : la double énigme*, NRF Essais, Gallimard, 2023.

[3] H. Beard and C. Cerf, *The Official Politically Correct Dictionary & Handbook*, Grafton, 1992.

[4] E.M. Bender, T. Gebru, A. McMillan-Major, and S. Schmitchell, « On the Dangers of Stochastic Parrots : Can Language Models Be Too Big ? », Proc. of the 2021 ACM Conf. on Fairness, Accountability, and Transparency FAccT’21, pp. 610–623, 2021. https://doi.org/10.1145/3442188.3445922

[5] Q. Bertrand, A. Bose, A. Duplessis, M. Jiralerspong, and G. Gidel, « On the stability of iterative retraining of generative models on their own data », Proc. of ICLR, 2024. https://iclr.cc/virtual/2024/poster/18942
[6] O. Cappé et C. Marc, *Tout comprendre (ou presque) sur l'intelligence artificielle*, CNRS Éditions, 2025.

[7] D. Cardon, J.-Ph. Cointet et A. Mazières, « La revanche des neurones. L'invention des machines inductives et la controverse de l'intelligence artificielle », *Réseaux* 2018/5 (n° 211), p. 173-220. https://shs.cairn.info/revue-reseaux-2018-5-page-173?lang=fr

[8] G. Châtelet, *Vivre et penser comme des porcs — De l'incitation à l'envie et à l'ennui dans les démocraties marchés*, Exils, 1998.

[9] K. Crawford and T. Paglen, « Excavating AI : The Politics of Training Sets for Machine Learning », 2019. https://excavating.ai

[10] Y. Diener, *LQI — Notre langue quotidienne informatisée*, Les Belles Lettres, 2023.

[11] Y. Diener, *L'inconscient inculqué à mon ordinateur*, Premier Parallèle, 2025.

[12] P. Flandrin, « Comprendre ChatGPT pour en faire bon usage, » in *L'Humanité Magazine* 48, 22-28 juin 2023.

[13] P. Flandrin, « Nous avons envie de faire confiance à l'IA, » in *Bastille Magazine* 35, 65-69, mai-juin 2025.

[14] P. Jensen, *Deep earnings — Le néolibéralisme au cœur des réseaux de neurones*, C&F, 2021.

[15] L. Julia, *IA génératives, pas créatives*, Le Cherche-Midi, 2025.

[16] V. Klemperer, *LTI — La langue du IIIème Reich*, Albin Michel, 1966.

[17] A. Krizhevsky, I. Sutskever, and G. Hinton, « ImageNet Classification with Deep Convolutional Neural Networks », Proc. NIPS, 2012. https://proceedings.neurips.cc/paper_files/paper/2012/file/c399862d3b9d6b76c8436e924a68c45b-Paper.pdf

[18] Y. LeCun, B.E. Boser, J.S. Denker, D. Henderson, R.E. Howard, W.E. Hubbard, and L.D. Jackel, « Handwritten Digit Recognition with a Back-Propagation Network », Proc. NeurIPS, 1989. https://proceedings.neurips.cc/paper/1989/hash/53c3bce66e43be4f209556518c2fcb54-Abstract.html

[19] W.S. McCulloch and W. Pitts, « A logical calculus of the ideas immanent in nervous activity », *The Bulletin of Mathematical Biophysics* 5 (4): 115-133, 1943.

[20] G. Perec, *Penser/Classer*, Hachette, 1985.

[21] C. Perrault, « Le Maître Chat ou le Chat Botté », 1697. https://gallica.bnf.fr/ark:/12148/bpt6k57590567/f64.item

[22] H. Poincaré, *Science et Méthode*, Flammarion, 1907.

[23] F. Rosenblatt, « The perceptron : A probabilistic model for information storage and organization in the brain », it Psychological Review, Vol. 65, No. 6, 1958.

[24] D.E. Rumelhart, G.E. Hinton, and R.J. Williams, « Learning representations by back-propagating errors », *Nature*, Vol. 323, No. 6088, pp. 533-536, 1986.

[25] I. Shumailov, Z. Shumaylov, Y. Zhao, N. Papernot, R. Anderson, and Y. Gal, « AI models collapse when trained on recursively generated data, » *Nature* 631, 755-759, 2024.
[26] A. Turing, « Computing machinery and intelligence », *Mind*, vol. 59, no. 236, octobre 1950.

[27] B. Vian, « Le danger des classiques » in *Bizarre*, no. 32-33, pp. 95-105, 1964.
Accessible en ligne à https://www.lecturiels.org/fiches.html?id=1759

[28] N. Wiener, *Cybernetics : Or Control and Communication in the Animal and the Machine*, Hermann & Camb. Mass. (MIT Press), 1948.

[29] H. Wold, *A Study in the Analysis of Stationary Time Series*, Almqvist and Wiksell Book Co., 1954.