# Mais qui est donc le monstre ? À propos d'agentivité et de responsabilité dans la relation entre l'humain et la machine

Barbara Hof

## ► To cite this version:

Barbara Hof. Mais qui est donc le monstre ? À propos d'agentivité et de responsabilité dans la relation entre l'humain et la machine. Mémoire(s), identité(s), marginalité(s) dans le monde occidental contemporain. Cahiers du MIMMOC, 2021, la prothèse qui fait peur, 26, 10.4000/mimmoc.9597. halshs-04006499

HAL Id: halshs-04006499

https://shs.hal.science/halshs-04006499

Submitted on 5 Jun 2023

HAL is a multi-disciplinary open access archive for the deposit and dissemination of scientific research documents, whether they are published or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d'enseignement et de recherche français ou étrangers, des laboratoires publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
## Mais qui est donc le monstre ? À propos d'agentivité et de responsabilité dans la relation entre l'humain et la machine

Barbara Hof

<figure><img src="image_2.png" /></figure>

OpenEdition

Journals

### Édition électronique

URL : https://journals.openedition.org/mimmoc/9597

DOI : 10.4000/mimmoc.9597

ISSN : 1951-6789

### Éditeur

Université de Poitiers

Ce document vous est offert par Université de Poitiers

<figure><img src="image_3.png" /></figure>

### Référence électronique

Barbara Hof, « Mais qui est donc le monstre ? À propos d'agentivité et de responsabilité dans la relation entre l'humain et la machine », *Mémoire(s), identité(s), marginalité(s) dans le monde occidental contemporain* [En ligne], 26 | 2021, mis en ligne le 16 décembre 2021, consulté le 05 juin 2023. URL : http://journals.openedition.org/mimmoc/9597 ; DOI : https://doi.org/10.4000/mimmoc.9597

Ce document a été généré automatiquement le 16 février 2023.

<figure><img src="image_4.png" /></figure>
# Mais qui est donc le monstre ? À propos d'agentivité et de responsabilité dans la relation entre l'humain et la machine

Barbara Hof

## Introduction¹

1

Des figures fictives comme celle du « monstre » incarnent des peurs humaines profondément enfouies. Durant le Moyen Âge européen, « monstrum » était synonyme de « signe d'avertissement » et symbolisait les terribles conséquences d'un comportement déviant de la foi. Le terme est employé aujourd'hui pour désigner des créatures effrayantes, des êtres contre-nature, des mutants et des cyclopes. Il s'agit donc de créatures qui peuvent être distinguées des humains selon des critères externes. Ces figures fictives ont par ailleurs en commun le fait qu'aucun pouvoir humain ne peut les contrôler². La technologie informatique actuelle semble donc bien correspondre aux critères du « monstrueux » : les ordinateurs nous dépassent sur le plan de la rapidité, de l'analyse combinatoire, de la précision et de la mémoire. Ils dirigent des travaux, nous remplacent dans diverses tâches, surveillent, dérobent et produisent sans notre consentement des profils à partir des données qu'ils recueillent. Des programmes sont régénérés automatiquement par des mises à jour, des serveurs travaillent nuit et jour et des algorithmes sont entraînés à s'optimiser eux-mêmes. La technologie informatique est donc à la fois un zombie immortel, un esprit et un vampire. Le développement de l'intelligence artificielle (IA), qui bénéficie aujourd'hui d'un soutien fort, menace la perception que l'humain a de lui-même dans une mesure bien particulière. En effet, celui-ci remet en question raison et rationalité en tant que spécificités humaines. En tant que genre de prothèse, l'IA suscite des craintes car – plus que la prothèse mécanique – elle n'est pas perçue comme un complément ou une aide aux humains, mais comme une concurrente. L'IA met au défi la différenciation objet/sujet³.
Autrement dit, quand des objets commencent à se modifier par eux-mêmes, à intervenir activement dans des processus et à s'adapter de manière dynamique et autonome à leur environnement, cela conduit à une perte des concepts humains de subjectivité⁴.

2 Cet article fait suite à des travaux de recherche sur la question de la capacité à agir, désignée par le terme d'agentivité (agency)⁵ d'acteurs non-humains, non-biologiques en se concentrant plus particulièrement sur l'exemple de l'IA. Il aborde la relation entre l'humain et la machine par le biais de la question : Mais qui est donc le monstre ? Le terme de « monstre » ne renvoie pas ici à l'opposition entre aberrant et normal⁶. La thèse poursuivie est la suivante : l'IA a un côté monstrueux, qui peut s'expliquer par le fait qu'elle est intimement liée à l'imagination et aux intérêts de l'humain, mais ce côté monstrueux ne vient pas des machines elles-mêmes. L'article soulève donc la question de la nécessité de rendre des comptes⁷. En raisonnant ainsi et en problématisant la responsabilité, l'article veut apporter une contribution aux débats en cours sur les questions éthiques. Il va dé-monstrer l'évolution de l'IA afin de prouver que ce qu'elle a d'effrayant sont les intérêts que l'humain lui appliquent. En outre, l'IA copie et reproduit les stéréotypes et les rapports de pouvoir existants⁸.

## La fiction du monstrueux : imagination et attentes

3 Le métarécit selon lequel les êtres humains pourront être remplacés par des machines, qu'ils pourront fusionner avec elles ou être simulés par elles, est issu d'une longue tradition. Les êtres artificiels humanoïdes sont un vieux produit de l'imagination humaine. Cette dernière soulève la question de la capacité d'une créature artificielle à développer une conscience propre, surpassant ainsi les limites de l'humain. Les figures populaires du Golem, de Frankenstein ou de Pinocchio en sont une bonne illustration. D'après Franck Dittman, trois catégories peuvent être distinguées : une mythique, une mécanique et une chimico-biologique⁹. Est à ranger dans la première, la croyance en des forces magiques qui doteraient la créature d'une âme, dans la seconde – qui regroupe la plupart des tentatives de réalisation jusqu'à présent – la construction d'automates. On trouve dans la troisième le génie génétique. Ces trois catégories ne se substituent pas l'une à l'autre mais se complètent au contraire historiquement : ainsi cessa-t-on aux époques modernes et contemporaines de vouloir surpasser les destinées divines, comme il était courant à l'époque antique, mais on se piqua de vouloir imiter la nature en vertu de lois qui la régiraient. Le XVIIIᵉ siècle fut placé sous le signe de la création d'automates, de la réplique du corps humain à l'aide de poupées, ainsi que de la représentation de l'âme sous forme d'un appareil ou d'un mécanisme d'horlogerie¹⁰. Durant cette période foisonnante d'inventions et dans le contexte d'un discours dirigé vers le progrès, la littérature se saisit de la question d'une machine pouvant développer une conscience propre en s'adaptant à l'être humain¹¹. En prenant l'exemple de cette époque, il est possible de mettre en lumière le fait que l'imagination de l'humain ait pu surestimer les capacités d'une machine.

4 Les androïdes étaient très populaires à la fin du XVIIIᵉ siècle. Conçus à l'image de l'humain, ils suscitaient chez lui une profonde inquiétude métaphysique quant à son existence. On combattit ces peurs en construisant des androïdes pour en faire des attractions de foire tournées au ridicule, permettant ainsi de les neutraliser¹². L'inventeur Wolfgang von Kempelen fit sensation avec le « Turc mécanique », un
automate qui affrontait les humains au jeu d'échecs, sortant toujours vainqueur. L'automate rencontra un tel succès que son inventeur voyagea avec lui à travers l'Europe. La légende veut qu'il gagnât même contre Napoléon¹³. Nombreux sont celles et ceux qui tentèrent de percer le mystère de la complexe mécanique interne de l'automate. Parmi les personnes qui se sont intéressées au « Turc mécanique », deux groupes peuvent être mis en lumière : les critiques et les analystes. Ces deux positions façonnent encore aujourd'hui les débats sur l'IA¹⁴.

L'opinion qui prévalait à l'époque était que le « Turc mécanique » ne pouvait jouer sans aucune intervention humaine. Certains tentèrent de prouver que von Kempelen commandait la boîte par le biais d'une mécanique à pédale ou grâce à des forces magnétiques, ainsi que le rapporta le célèbre homme de lettres américain Edgar Allan Poe dans un essai en 1836. Dans son analyse, Poe soutint qu'un subtil stratagème devait se trouver derrière le jeu. Il défendit sa thèse par deux arguments. Premièrement, l'intérieur de la boîte était toujours présenté au public dans le même ordre, comme s'il s'agissait d'une routine convenue entre l'inventeur et un joueur d'échecs dissimulé à l'intérieur de la boîte. Deuxièmement, il tira la conclusion suivante :

> Les mouvements du Turc mécanique ne se produisent pas à intervalles réguliers, mais s'adaptent à ceux de l'adversaire – quand bien même ce détail (la régularité en l'occurrence) qui revêt un rôle si essentiel dans toutes les choses de la mécanique, aurait pu être obtenu sans difficulté en limitant le temps laissé à l'adversaire pour jouer son coup [...]. Ainsi le fait de telles irrégularités, où pourtant la régularité aurait pu être obtenue facilement, constitue-t-il une preuve de son invalidité en considération des actions d'un automate – en d'autres termes, une preuve que cette *machine n'en est pas une qui fonctionne par elle-même* »¹⁵.

En effet, la capacité de la machine à jouer aux échecs était une illusion. Un joueur caché dans la boîte suivait les coups de l'adversaire et jouait les siens au moyen d'un levier. Ainsi l'automate n'était donc ni magique ni doté d'IA, mais fonctionnait grâce à un trucage, un piège dupant les spectateurs avides de sensations.

Un exemple provenant de la cybernétique américaine des années 1960 montre que les attentes et les désirs projetés sur la technique prennent encore le pas sur la réalité plus de cent ans après le « Turc mécanique ». À l'aide d'un réseau de cellules photo et de calcul reproduisant le fonctionnement de l'œil d'une grenouille, l'inventif cybernéticien Heinz von Foerster et son doctorant Paul Weston construisirent *Numarete*, la rétine artificielle d'un vertébré. L'appareil distinguait en une fraction de seconde le nombre d'objets se trouvant à sa surface, constituant apparemment une copie exacte de la rétine. Seulement, bien des années plus tard, Weston admit que la machine ne faisait que donner l'illusion, grâce à un mécanisme compliqué, d'être un réseau neuronal. La popularité de *Numarete* était moins liée à son mode de fonctionnement qu'au fait qu'elle s'adressait de manière ciblée à l'imagination des spectateurs. Ceci alla si loin que Foerster, invité un jour à une émission de télévision, contrôla discrètement le *Numarete* à l'aide d'une télécommande filaire cachée sous la table, l'appareil ayant subi des dommages au cours du trajet jusqu'au studio de télévision¹⁶. L'inventeur comme le scientifique se sont mis au service des attentes des spectateurs. Dans les deux cas, l'optimisme et la fascination associés à la technologie étaient tels que la mystification n'en fut que plus aisée et les spectateurs purent continuer à croire qu'on leur montrait une « vraie » IA. La promesse du succès de la machine maintenait l'illusion, tandis que le fonctionnement de l'automate en revanche, était plus banal qu'espéré.
L'IA n'a ni savoir implicite ni motivation intrinsèque

8

Les deux anecdotes soulèvent des questions importantes. Premièrement, le fait que le mécanisme de ces installations ait toujours été caché n'a pas suffi à faire vaciller la crédulité du public, faisant confiance au visible uniquement. La foi en la technologie peut atteindre des proportions monstrueuses. Comment expliquer que l'observateur puisse avoir une telle foi en la technique qu'elle reste intacte même lorsque le fonctionnement de la machine lui est systématiquement dissimulé ? Deuxièmement, et ceci souligne la finesse analytique d'Edgar Allan Poe, l'humain et la machine se différencient sur le plan de l'enchaînement de leurs actions. Alors que l'existence humaine n'est certes pas complètement sans routine, les machines sont toujours assujetties à des régularités. Aujourd'hui encore, le signal de sortie d'un réseau neuronal auto-organisé doit être imputé à des algorithmes apprenants, utilisés comme instruction sans équivoque¹⁷. L'augmentation exponentielle du nombre de paramètres rendant impossible le suivi des méthodes de résolution, souligne seulement l'apparente autonomisation de l'IA. Même dans les cas où le résultat surprend, les algorithmes donnent des instructions sans lesquelles l'IA ne saurait quoi faire.

9

À l'opposé, la manière dont les humains prennent des décisions n'est ni rationnelle ni consciente, mais intuitive. Le processus de décision chez l'humain n'est ni causal ni logique. Il est donc difficile à analyser et à simuler. Les humains sont capables de plus de choses que ce qu'ils ne peuvent formuler. C'est ce que David Autor désigne comme le *paradoxe de Polanyi*¹⁸. Le paradoxe met en évidence que ce que les humains savent et peuvent va souvent au-delà d'une compréhension explicite¹⁹. Les gens comprennent et appliquent de nombreuses actions, et ce même sans règles (comme apprendre à marcher et à parler, ou savoir si quelqu'un est bien intentionné à leur égard). Les actions humaines s'appuient sur des intuitions et des expériences qui ne se laissent pas aisément définir, verbaliser ou expliquer. Ces formes de savoir implicite faisant défaut à l'IA, il y a beaucoup de choses qu'elle ne peut que difficilement simuler. Lorsque le jugement humain est remplacé par des algorithmes formés sur de grands ensembles de données, ces algorithmes ne font qu'imiter le jugement humain. En d'autres termes, une base de données d'entraînement, si grande soit-elle, ne permet pas à une IA de questionner le sens-même de son action²⁰.

10

La prise de décision d'une IA se faisant sur la base de données statistiques humaines, elle amène le risque de reproduction de schémas déjà existants et remet en doute l'éthique et la neutralité de l'apprentissage automatique. Les machines n'apprennent pas de leur propre volonté, les ordinateurs n'agissent pas sans programmation et les smartphones ne sont pas « smart » sans batteries. Certes, les IA mettent aujourd'hui en œuvre des programmes d'activités de routine, comme l'archivage ou la recherche, sensiblement plus rapidement que ne le font les humains, mais les systèmes d'assistance vocale ne savent pas de quoi ils parlent et les réseaux de neurones ne comprennent pas ce qu'ils discernent dans des images. La forme et la fonction ne leur est pas rendue accessible de manière causale²¹. Donc, bien que l'interaction et la complémentarité des compétences humaines et artificielles conduisent à questionner les différenciations objet/sujet qui prévalaient jusqu'à présent et bien que la dépendance de l'humain aux technologies augmente si fortement que le concept d'autonomie semble devenu obsolète²², le fait que l'IA soit privée aussi bien de
motivation intrinsèque que de savoir implicite rend plus que nécessaire une discussion
sur la responsabilité quant à l'agentivité des machines.

Jeu, illusion – et le sérieux de la situation

Au milieu du XXe siècle, les progrès technologiques (électrification, tubes à vide, cartes perforées, ordinateurs) permirent à l'être artificiel auto-commandé d'entrer dans le champ des possibles. Cet article ne peut traiter que de l'histoire de l'IA en Occident, mais il entend tenir compte du fait que la définition de l'intelligence procède de normes. C'est ce que Slava Gerovitch a montré en comparant les principes américains et russes²³. Il n'y a pas de définition de l'IA qui englobe tous les aspects sociaux et techniques, mais une définition qui semble rallier un grand nombre d'avis. Les chercheurs occidentaux considèrent une conférence qui eut lieu à Dartmouth en 1956 comme un moment fondateur. Lors de sa préparation, une hypothèse fut formulée et tint lieu de programme, à savoir que « la précision avec laquelle peuvent être décrits l'ensemble des aspects de l'apprentissage et les autres caractéristiques de l'intelligence est telle, qu'elle permet d'envisager la construction d'une machine simulant ces processus »²⁴. Cette hypothèse fait suite au test de Turing, présenté quelques années auparavant et selon lequel une machine est intelligente si elle peut prétendre être intelligente de telle manière à ce que vous pensiez qu'elle soit un être humain. Ce postulat ainsi formulé, son application pourrait être réalisée dans des domaines quotidiens très ciblés et sans créer de créature humanoïde²⁵.

À la suite de cette conférence, des chercheurs en IA américains comme Herbert Simon, Allen Newell et Claude Shannon, partant du principe que toutes les formes de savoir peuvent être décrites et simulées, commencèrent à l'aide des mathématiques, de la logique et de la modélisation, à formuler des assertions plus générales²⁶. Ils firent de la capacité de calcul telle qu'elle apparaît dans le jeu d'échecs une référence en matière de processus intellectuels. Ainsi, peut-on également voir dans le « Turc mécanique » les prémices d'une histoire érigeant le jeu d'échecs en étalon de la capacité à penser et à apprendre de l'IA. La programmation de jeux d'échecs électroniques fut considérée comme pertinente pour la formulation de nouvelles théories sur l'apprentissage²⁷. Dans les années 1980, des ordinateurs jouant aux échecs purent réaliser sans trucage la performance du « Turc mécanique » et en 1996, le programme spécialisé Deep Blue gagna contre Garry Kasparov, le meilleur joueur humain d'échecs. Des jeux comme les échecs et (après 2000) le Jeopardy et le Go constituent un domaine d'expérimentation restreint où les machines dépassent les humains sur le plan de l'analyse combinatoire et de la rapidité. Mais qu'il s'agisse d'apprendre à jouer aux échecs ou de naviguer par tâtonnements, comme la souris artificielle de Claude Shannon *Theseus*, les facultés acquises restent limitées. Si la motivation et le savoir implicite font défaut à l'IA (les machines ne pensent pas par elles-mêmes à jouer aux échecs, ni les souris mécaniques à naviguer), elle ne peut pas – sans intervention humaine – transposer son savoir dans un autre domaine intellectuel. Ceci illustre une nouvelle fois qu'il faut que l'action des machines et les objectifs humains fonctionnent de pair.

Le succès de ces technologies peut être attribué à l'essor fulgurant de l'apprentissage automatique depuis les années 1990, le développement d'algorithmes générant des modèles prédictifs à partir de données²⁸. Les résultats générés par ces modèles sont accablants et effrayants d'un point de vue éthique. D'autant plus que les humains
interviennent de manière décisive dans les actions des machines. C'est ce que montre l'exemple de la technologie *deep fake*, qui constitue une forme actuelle de supercherie reposant sur l'IA. Encore une fois, les intérêts et les fantasmes humains prévalent toujours sur les actions des machines. Les *deep fake* falsifient la réalité car ils extraient une image ou une vidéo de son contexte, la déformant ainsi, notamment en montant des visages sur des corps qui ne leur appartiennent pas. Partis de l'industrie pornographique où ils reproduisent des stéréotypes de genre courants, les *deep fake* se propagent depuis plusieurs années sur internet²⁹. On retrouve là encore le même point essentiel : les programmes d'IA se font certes les opérateurs de la supercherie, mais l'intention derrière reste humaine. L'IA copie des signes et active des mécanismes humains sans comprendre la finalité de son action³⁰. La distorsion de la réalité fait avec la technologie du *deep fake* un bond énorme qui commence à peine à être étudié. Il faut bien avoir en vue qu'elle cause des dommages de l'ordre du harcèlement ou de la diffamation et que des manipulations dans le but de déclencher des tensions politiques ont même été observées³¹. Le résultat certainement le plus calamiteux du *deep fake* n'est pas la désinformation en soi, mais bien la perte de confiance des humains en ce qui leur est présenté.

14 L'idée d'un être-IA ayant une apparence humaine et s'autonomisant, la métaphore populaire de Terminator – ce *trope* établi à long terme – a créé une lacune. Contrairement à la prothèse mécanique, le caractère monstrueux de l'IA se trouve dans son invisibilité, son absence de forme et dans sa capacité d'adaptation. Si les IA ont un effet dévastateur, c'est parce qu'elles agissent dans le secret de la boîte, dissimulées à la vue des humains. Elles trompent car au lieu d'une forme aux contours fixes, elles consistent en des outils migrants qui se plient à divers intérêts.

## Conclusion : mais qui est donc le monstre ?

15 Ce texte partait de la monstruosité de la figure artificielle, et montrait que son histoire était accompagnée de tromperies servant les intentions humaines. Quelles sont les implications de ces considérations concernant la relation entre l'humain et la machine et en particulier en ce qui concerne la question de l'agentivité ? On peut dire que l'être humain est le monstre, car l'être créé artificiellement exécute les tâches à sa place et d'après ses instructions, car il reproduit ses stéréotypes et ses rapports de pouvoir. Bien que les machines-IA puissent aujourd'hui aussi bien exécuter qu'initier des actions et s'améliorer elles-mêmes dans leur domaine, ceci expliquant que la caractéristique d'agentivité prise dans le sens général puisse leur être attribuée, il n'en n'est pas moins que les intérêts des acteurs humains précédent toujours l'activité des machines. Il est vrai que dans les systèmes automatisés, la technique et l'humain s'entremêlent de plus en plus. Les visions humaines sont de plus en plus conditionnées par les réseaux techniques, c'est pourquoi il est de plus en plus difficile de séparer ontologiquement le sujet de l'objet³². L'IA n'émerge cependant pas d'elle-même, mais est principalement façonnée par l'intention humaine. En bref, l'IA est une matérialisation de l'imagination humaine. Les machines-IA sont étroitement liées à des objectifs et à des intentions forgées par l'humain, car selon le paradoxe de Polanyi dans le concept d'agentivité, les machines de peuvent pas poursuivre une finalité propre.

16 La question de la responsabilité quant à l'action des machines appelle ainsi à une réponse sans équivoque : les dangers et les risques d'une agentivité des machines
relèvent du domaine de responsabilité de l'humain, car c'est bien lui qui les a engendrés. Ce n'est pas de l'infatigable robot qui vole son travail à l'humain qu'il faut se méfier, mais de ceux qui l'achètent et l'utilisent. Bien plus réels et monstrueux que les IA d'aujourd'hui sont les intérêts de ceux qui soutiennent leur développement : les militaires, qui attendent des systèmes intelligents qu'ils les appuient dans une reconnaissance automatique de l'ennemi, et qui développent des robots amenés à se fondre dans une « armée de zombies », immortels et dépourvus de sentiments ; les politiciens qui influencent des élections ; des entreprises qui, grâce à la récolte de données des profils d'utilisateurs, améliorent leur stratégie de vente ; les établissements d'enseignement qui souhaitent optimiser leur gestion grâce à des données sur le bien-être et le comportement pédagogique des étudiants ; et les personnes privées malintentionnées.

17

Les craintes à l'égard de l'IA peuvent être justifiées, mais la critique est mal orientée si elle se contente de ne souligner que les seuls dangers que la machine peut représenter et ignore les intérêts qui se cachent derrière. Cela induit deux conséquences ; l'une pratique et l'autre théorique. Premièrement, même si la machine opère à la place de l'humain, l'humain ne peut échapper à sa responsabilité. Deuxièmement, l'apprentissage automatique et les processus d'automatisation donnent lieu à de nouveaux niveaux cachés d'agentivité. En conséquence, le concept d'agentivité doit être développé davantage par une réflexion sur les nouvelles constellations de pouvoir et sur les questions, pressantes, de responsabilité.

## BIBLIOGRAPHIE

- Autor, David. « Polanyi's paradox and the shape of employment growth », NBER Working Paper Series, Cambridge, MA, National Bureal of Economic Research, 2014.

- Autor, David. « Why Are There Still So Many Jobs ? The History and Future of Workplace Automation ». Journal of Economic Perspectives, 29 n° 3, 2015, p. 3-30.

- Bartoletti, Ivana. An Artificial Revolution. On Power, Politics, and AI, London, The Indigo Press, 2020.

- Chandler, Katherine. Unmanning : How Humans, Machines and Media Perform Drone Warfare, New Brunswick, Rutgers University Press, 2020.

- Chesney, Bobby, et Citron, Danielle. « Deep Fakes : A Looming Challenge for Privacy, Democracy, and National Security », juillet 2018, https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3213954 (consulté le 29 août 2021).

- Chesney, Bobby, et Citron, Danielle. « Deepfakes and the New Disinformation War: The Coming Age of Post-Truth Geopolitics », Heinonline, février 2019, https://heinonline.org/HOL/LandingPage?handle=hein.journals/fora98&div=18&id=&page= (consulté le 29 août 2021).

- Christian, Jon. « Experts fear face swapping tech could start an international showdown », The Outline, 1er février 2018, https://theoutline.com/post/3179/deepfake-videos-are-freaking-experts-out?zd=1&zi=qr6lxzsm (consulté le 29 août 2021).
Coeckelbergh, Mark. « Artificial Intelligence, responsibility attribution, and a relational justification of explainability », *Science and Engineering Ethics*, n° 26, 2020, p. 2051-2068.

Collins, Harry. *Tacit and Explicit Knowledge*, Chicago : University of Chicago Press, 2010.

Dittmann, Frank. « Maschinenintelligenz zwischen Wunsch und Wirklichkeit », in *Pias, Claus (éd.), Zukünfte des Computers*, Zurich, Diaphanes, 2005, p. 133-155.

Dittmann, Frank. « Mensch und Roboter – ein ungleiches Paar », in *Roboter, Computer und Hybride. Was ereignet sich zwischen Menschen und Maschinen?*, Baden-Baden, Nomos, 2016, p. 17-46.

Ensmenger, Nathan. « Is chess the drosophila of artificial intelligence ? A social history of an algorithm », *Social Studies of Science*, 42 n° 1, 2011, p. 5-30.

Fletcher, John. « Deepfakes, Artificial Intelligence, and Some Kind of Dystopia : The New Faces of Online Post-Fact Performance », *Theatre Journal*, 70 n° 4, 2018, p. 455-471.

Froese, Tom, et Shigeru Taguchi. « The Problem of Meaning in AI and Robotics : Still with Us after All These Years », *Philosophies*, 4 n° 2, 2019, p. 1-14.

Geisenhanslüke, Achim, et Mein, Georg (éds). *Monströse Ordnungen. Zur Typologie und Ästhetik des Anormalen*, Bielefeld, transcript, 2009.

Geoghegan, Bernard Dionysius. « Orientalism and Informatics: Alterity from the Chess-Playing Turk to Amazon's Mechanical Turk », *Ex-Position*, n° 43, 2020, p. 45-90.

Gerovitch, Slava. « Artificial intelligence with a national face : American and Soviet cultural metaphors for thought », in Franchi, Stefano et Bianchini, Francesco (éds), *The search for a theory of cognition. Early mechanisms and new ideas*, Amsterdam, Rodopi, 2011, p. 173-194.

Goggin, Benjamin. « From porn to ‘Game of Thrones’ : How deepfakes and realistic-looking fake videos hit it big », *Business Insider*, juin 2019, https://www.businessinsider.com/deepfakes-explained-the-rise-of-fake-realistic-videos-online-2019-6?r=US&IR=T (consulté le 29 août 2021).

Grabner, Helmut, Gall, Jürgen et Van Gool, Luc. « What Makes a Chair a Chair ? » *IEEE Computer Society Conference on Computer Vision and Pattern Recognition*, juin 2011, p. 1529-1536.

Güera, David, et Delp, Edward. « Deepfake Video Detection Using Recurrent Neural Networks », *15th IEEE International Conference on Advanced Video and Signal Based Surveillance (AVSS)*, novembre 2018, https://ieeexplore.ieee.org/abstract/document/8639163/citations#citations (consulté le 29 août 2021).

Hayles, N. Katherine. *How We Became Posthuman : Virtual Bodies in Cybernetics, Literature, and Informatics*, Chicago, University of Chicago Press, 1999.

Hodges, Andres. « Alan Turing and the Turing Test », in Epstein, Robert, Roberts, Gary et Beber, Grace (éds), *Parsing the Turing Test, Philosophical and Methodological Issues in the Quest for the Thinking Computer*, Dordrecht, Springer, 2009, p. 13-22.

Kappler, Claude-Claire. « La double-pensée, pensée monstrueuse », in Kappler, Claude-Claire (éd.), *Le Monstre. Pouvoirs de l'imposture*, Paris, Presses Universitaires de France, 1979, p. 131-140.

Kappler, Claude-Claire. *Monstres, démons et merveilles à la fin du Moyen Age*, coll. Bibliothèque historique Payot, Paris, Payot, 1999.

Krüger, Oliver. « Nach dem Menschen. Cyborgs und die virtuelle Unsterblichkeit », in *Die Kommunikation des Evangeliums in der digitalen Gesellschaft. Synode der EKD 2014*, Frankfurt, Gemeinschaftswerk evangelischer Publizistik, 2014.
Kyora, Sabine, et Schwagmeier, Uwe. « Einführende Überlegungen », in Kyora, Sabine, et Schwagmeier, Uwe (éds), *How to make a Monster. Konstruktionen des Monströsen*, Würzburg: Königshausen & Neumann, 2011, p. 7-20.

Latour, Bruno. « Technology Is Society Made Durable », in Law, John (éd.), *A Sociology of Monsters: Essays on Power, Technology and Domination*, London, Routledge, 1991, p. 103-131.

Mainzer, Klaus. « Zwischen Autonomie und Unheimlichkeit : Blinde Flecken im Machine Learning », in Friedrich, Alexander, Gehring, Petra, Hubig, Christoph, Kaminski, Andreas et Nordmann, Alfred (éds), *Autonomie und Unheimlichkeit: Jahrbuch Technikphilosophie 2020*, Baden-Baden, Nomos Verlagsgesellschaft, 2020, p. 117-136.

Matern, Falko, Riess, Christian et Stamminger, Marc. « Exploiting Visual Artifacts to Expose Deepfakes and Face Manipulations », IEEE Winter Applications of Computer Vision Workshops (WACVW) janvier 2019, http://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=8638330&isnumber=8638290 (consulté le 29 août 2021).

McCorduck, Pamela. *Machines who think. A personal inquiry into the history and prospects of Artificial Intelligence*, San Francisco, W. H. Freeman and Company, 1979.

Meyer-Drawe, Käte. *Menschen im Spiegel ihrer Maschinen*, Munich, Wilhelm Fink, 2007.

Mitchell, Melanie. « Why AI is harder than we think », 2021. https://arxiv.org/abs/2104.12871v2 (consulté le 29 août 2019).

Mittelstadt, Brend Daniel, Allo, Patrick, Taddeo, Mariarosaria, Wachter, Sandra et Floridi, Luciano. « The ethics of algorithms : Mapping the debate », *Big Data & Society*, 3 n° 2, 2016, p. 1-21.

Müggenburg, Jan. *Lebhafte Artefakte: Heinz von Foerster und die Maschinen des Biological Computer Laboratory*, Constance, Konstanz University Press, 2018.

Müggenburg, Jan. « Trickkisten : Heinz von Foerster und der Zauber der Kybernetik », in Vehlken, Sebastian, Müller-Helle, Katja, Müggenburg, Jan, et Sprenger, Florian (éds.), *Trick 17: Mediengeschichten zwischen Zauberkunst und Wissenschaft*, Norderstedt, meson press, 2016, p. 59-84.

Natale, Simone. *Deceitful Media. Artificial Intelligence and Social Life after the Turing Test*, Oxford, Oxford University Press, 2020.

Nyholm, Sven. « Attributing agency to automated systems : Reflections on human-robot collaborations and responsibility-Loci », *Science and Engineering Ethics*, 24 n° 4, 2018, p. 1201-1219.

Poe, Edgar Allen. « Maelzels Schachspieler », in Schumann, Kuno et Müller, Hans-Dieter (éds), *Edgar Allan Poe: Das gesamte Werk in zehn Bänden*, vol. 9 : *Gedichte, Drama, Essays I*, Olten/Freiburg im Breisgau, Walter-Verlag, 1976, p. 251-289.

Polanyi, Michael. *The tacit dimension*, Chicago, University of Chicago Press, 2009. [1re éd. 1996]

Porter, Jon. « Another convincing deepfake app goes viral prompting immediate privacy backlash », *The Verge*, septembre 2019, https://www.theverge.com/2019/9/2/20844338/zao-deepfake-app-movie-tv-show-face-replace-privacy-policy-concerns (consulté le 29 août 2021).

Reber, Arthur S. « Implicit Learning and Tacit Knowledge », *Journal of Experimental Psychology : General*, 118 n° 3, 1989, p. 219-235.

Rhee, Jennifer. *The Robotic Imaginary. The human and the prize of dehumanized labor*, Minneapolis, University of Minnesota Press, 2018.

Riskin, Jessica. « Eighteenth-Century Wetware », *Representations*, 83 n° 1, 2003, p. 97-125.
Riskin, Jessica. « Künstliches Leben produzieren. Denkparallelen im Automatenbau des 18. Jahrhunderts und heute », in Orland, Barbara (éd.), *Artifizielle Körper - Lebendige Technik. Technische Modellierungen des Körpers in historischer Perspektive*, Zurich, Chronos, 2005, p. 65-85.

Riskin, Jessica. « The defecating duck, or, the ambiguous origins of artificial life », *Critical Inquiry*, 29 n° 4, 2003, p. 599-633.

Riskin, Jessica. *The Restless Clock : A History of the Centuries-Long Argument Over What Makes Living Things Tick*, Chicago, The University of Chicago Press, 2016.

Sanchez, Julian. « Thanks to AI, the future of ‘fake news’ is being pioneered in homemade porn », *Think*, février 2018, https://www.nbcnews.com/think/opinion/thanks-ai-future-fake-news-may-be-easily-faked-video-ncna845726 (consulté le 29 août 2021).

Searle, John. « Is the Brain a Digital Computer? » *Proceedings and Addresses of the American Philosophical Association*, 64 n° 3, 1990, p. 21-37.

Sierra Barra, Sebastian, et Deschauer, Martin Martin. « Versuch einer nichtmenschlichen Anthropologie von Intelligenz », in Gruber, Malte-Christian, Bung, Jochen et Ziemann, Sascha (éds), *Autonome Automaten. Künstliche Körper und artifizielle Agenten in der technisierten Gesellschaft*, Berlin, BWV, 2015, p. 61-77.

Stammberger, Birgit. *Monster und Freaks. Eine Wissensgeschichte außergewöhnlicher Körper im 19. Jahrhundert*, Bielefeld, transcript, 2011.

Truitt, Elly Rachel. *Medieval Robots : Mechanism, Magic, Nature, and Art*, Philadelphia, University of Pennsylvania Press, 2015.

Turing, Alan. « Computing Machinery and Intelligence », *Mind*, n° 49, 1950, p. 433-60.

Turkle, Sherry. *The Second Self. Computers and the Human Spirit*, New York, Simon & Schuster, 1984.

Vincent, James. « Deepfakes for dancing: you can now use AI to fake those dance moves you always wanted », *The Verge*, août 2018, https://www.theverge.com/2018/8/26/17778792/deepfakes-video-dancing-ai-synthesis (consulté le 29 août 2021).

Wagner, Travis L. et Blewer, Ashley. « 'The Word Real Is No Longer Real' : Deepfakes, Gender, and the Challenges of AI-Altered Video », *Open Information Science*, 3 n° 1, 2019, p. 32-46.

Walsh, Toby. *Android Dreams : The Past, Present and Future of Artificial Intelligence*, London, C. Hurst & Co., 2017.

Westerlund, Mika. « The Emergence of Deepfake Technology : A Review ». *Technology Innovation Management Review*, 9 n° 11, 2019, p. 39-52.

Wikipedia. « Dartmouth workshop », janvier 2020, https://en.wikipedia.org/wiki/Dartmouth_workshop (consulté le 29 août 2021).

Winner, Langdon. « Autonomous Technology – Then and Still Now. An interview », in Friedrich, Alexander, Gehring, Petra, Hubig, Christoph, Kaminski, Andreas et Nordmann, Alfred (éds), *Autonomie und Unheimlichkeit : Jahrbuch Technikphilosophie 2020*, Baden-Baden, Nomos Verlagsgesellschaft, 2020, p. 295-302.

## NOTES

1. Cet article a été traduit par Emmanuelle Piriot, Émilie Bisetti et Hunter Bolin.
2. Claude-Claire Kappler, « La double-pensée, pensée monstrueuse », in *Le Monstre. Pouvoirs de l'imposture*, éd. par Claude-Claire Kappler (Paris : Presses Universitaires de France, 1979), p. 131-40; Claude-Claire Kappler, *Monstres, démons et merveilles à la fin du Moyen Age*, Bibliothèque historique Payot (Paris : Payot, 1999); Sabine Kyora et Uwe Schwagmeier, éd., « Einführende Überlegungen », in *How to make a Monster. Konstruktionen des Monströsen* (Würzburg : Königshausen & Neumann, 2011), p. 7-20; Birgit Stammberger, *Monster und Freaks. Eine Wissensgeschichte außergewöhnlicher Körper im 19. Jahrhundert* (Bielefeld : transcript, 2011).

3. Käte Meyer-Drawe, *Menschen im Spiegel ihrer Maschinen* (Ersterscheinung 1996). (München : Wilhelm Fink, 2007); Sebastian Sierra Barra et Martin Deschauer, « Versuch einer nichtmenschlichen Anthropologie von Intelligenz », in *Autonome Automaten. Künstliche Körper und artifizielle Agenten in der technisierten Gesellschaft* (2. Auflage), éd. par Malte-Christian Gruber, Jochen Bung, et Sascha Ziemann (Berlin : BWV, 2015), p. 61-77.

4. N. Katherine Hayles, *How We Became Posthuman: Virtual Bodies in Cybernetics, Literature, and Informatics* (Chicago : University of Chicago Press, 1999); Sherry Turkle, *The Second Self. Computers and the Human Spirit* (New York : Simon & Schuster, 1984).

5. Bruno Latour, « Technology Is Society Made Durable », in *A Sociology of Monsters: Essays on Power, Technology and Domination*, éd. par John Law (London : Routledge, 1991), p. 103-131 ; Jennifer Rhee, *The Robotic Imaginary. The human and the prize of dehumanized labor* (Minneapolis : University of Minnesota Press, 2018); Jessica Riskin, *The Restless Clock: A History of the Centuries-Long Argument Over What Makes Living Things Tick* (Chicago : The University of Chicago Press, 2016).

6. Achim Geisenhanslüke et Georg Mein, éd., *Monströse Ordnungen. Zur Typologie und Ästhetik des Anormalen* (Bielefeld : transcript, 2009).

7. Mark Coeckelbergh, « Artificial Intelligence, responsibility attribution, and a relational justification of explainability », *Science and Engineering Ethics*, 2019 ; Brend Daniel Mittelstadt et al., « The ethics of algorithms: Mapping the debate », *Big Data & Society* 3, n° 2 (2016), p. 1-21 ; Sven Nyholm, « Attributing agency to automated systems : Reflections on human-robot collaborations and responsibility-Loci », *Science and Engineering Ethics* 24, n° 4 (2018), p. 1201-1219.

8. Ivana Bartoletti, *An Artificial Revolution. On Power, Politics, and AI* (London : The Indigo Press, 2020).

9. Frank Dittmann, « Mensch und Roboter - ein ungleiches Paar », in *Roboter, Computer und Hybride. Was ereignet sich zwischen Menschen und Maschinen?* (Baden-Baden : Nomos, 2016), 17-46.

10. Jessica Riskin, « The defecating duck, or, the ambiguous origins of artificial life », *Critical Inquiry* 29, n° 4 (2003), p. 599-633 ; Jessica Riskin, « Eighteenth-Century Wetware », *Representations* 83, n° 1 (2003), p. 97-125 ; Jessica Riskin, « Künstliches Leben produzieren. Denkparallelen im Automatenbau des 18. Jahrhunderts und heute », in *Artifizielle Körper - Lebendige Technik. Technische Modellierungen des Körpers in historischer Perspektive*, éd. par Barbara Orland (Zürich : Chronos, 2005), 65-85 ; Elly Rachel Truitt, *Medieval Robots: Mechanism, Magic, Nature, and Art* (Philadelphia : University of Pennsylvania Press, 2015).

11. Oliver Krüger, « Nach dem Menschen. Cyborgs und die virtuelle Unsterblichkeit », in *Die Kommunikation des Evangeliums in der digitalen Gesellschaft. Synode der EKD 2014* (Frankfurt : Gemeinschaftswerk evangelischer Publizistik, 2014).

12. Meyer-Drawe, *Menschen im Spiegel ihrer Maschinen* (Ersterscheinung 1996).

13. Frank Dittmann, « Maschinenintelligenz zwischen Wunsch und Wirklichkeit », in *Zukünfte des Computers*, éd. par Claus Pias (Zürich : Diaphanes, 2005), 133-55 ; Nathan Ensmenger, « Is chess the drosophila of artificial intelligence? A social history of an algorithm », *Social Studies of Science* 42, n° 1 (2011), p. 5-30.

14. Bernard Dionysius Geoghegan, « Orientalism and Informatics: Alterity from the Chess-Playing Turk to Amazon's Mechanical Turk », *Ex-Position* 43 (2020) p. 45-90.
15. Edgar Allen Poe, « Maelzels Schachspieler (Original 1836) », in *Das gesamte Werk in zehn Bänden*, Bd. 9: *Gedichte, Drama, Essays* I, éd. par Kuno Schumann et Hans-Dieter Müller (Olten, Freiburg i. B.: Walter-Verlag, 1976), p. 274 mise en évidence originale.

16. Jan Müggenburg, « Trickkisten: Heinz von Foerster und der Zauber der Kybernetik », in *Trick 17: Mediengeschichten zwischen Zauberkunst und Wissenschaft*, éd. par Sebastian Vehlken et al. (Norderstedt: meson press, 2016), p. 59-84; Jan Müggenburg, *Lebhafte Artefakte: Heinz von Foerster und die Maschinen des Biological Computer Laboratory* (Konstanz: Konstanz University Press, 2018).

17. Klaus Mainzer, « Zwischen Autonomie und Unheimlichkeit: Blinde Flecken im Machine Learning », in *Autonomie und Unheimlichkeit: Jahrbuch Technikphilosophie 2020*, éd. par Alexander Friedrich et al., 1re éd. (Baden-Baden: Nomos Verlagsgesellschaft, 2020), p. 117-36.

18. David Autor, « Polanyi's paradox and the shape of employment growth » (NBER Working Paper Series, National Bureal of Economic Research, Cambridge, MA, 2014) ; David Autor, « Why Are There Still So Many Jobs? The History and Future of Workplace Automation », *Journal of Economic Perspectives* 29, no 3 (2015), p. 3-30.

19. Harry Collins, *Tacit and Explicit Knowledge* (Chicago: University of Chicago Press, 2010); Michael Polanyi, *The tacit dimension* (original 1966) (Chicago: University of Chicago Press, 2009); Arthur S. Reber, « Implicit Learning and Tacit Knowledge », *Journal of Experimental Psychology: General* 118, no 3 (1989), p. 219-235.

20. Tom Froese et Shigeru Taguchi, « The Problem of Meaning in AI and Robotics: Still with Us after All These Years », *Philosophies* 4, no 2 (2019), p. 1-14 ; Toby Walsh, *Android Dreams: The Past, Present and Future of Artificial Intelligence* (London : C.Hurst & Co., 2017).

21. Helmut Grabner, Juregen Gall, et Luc Van Gool, « What Makes a Chair a Chair? », *IEEE Computer Society Conference on Computer Vision and Pattern Recognition June* (2011), p. 1529-1536.

22. Langdon Winner, « Autonomous Technology – Then and Still Now. An interview », in *Autonomie und Unheimlichkeit: Jahrbuch Technikphilosophie 2020*, éd. par Alexander Friedrich et al., 1re éd. (Baden-Baden : Nomos Verlagsgesellschaft, 2020), p. 295-302.

23. Slava Gerovitch, « Artificial intelligence with a national face: American and Soviet cultural metaphors for thought », in *The search for a theory of cognition. Early mechanisms and new ideas*, éd. par Stefano Franchi et Francesco Bianchini (Amsterdam : Rodopi, 2011), p. 173-194.

24. Wikipedia, « Dartmouth workshop », janvier 2020, https://en.wikipedia.org/wiki/Dartmouth_workshop.

25. Simone Natale, *Deceitful Media. Artificial Intelligence and Social Life after the Turing Test* (Oxford: Oxford University Press, 2020); Alan Turing, « Computing Machinery and Intelligence », *Mind* 49 (1950), p. 433-60.

26. Pamela McCorduck, *Machines who think. A personal inquiry into the history and prospects of Artificial Intelligence* (San Francisco : W.H. Freeman and Company, 1979).

27. Andres Hodges, « Alan Turing and the Turing Test », in *Parsing the Turing Test, Philosophical and Methodological Issues in the Quest for the Thinking Computer*, éd. par Robert Epstein, Gary Roberts, et Grace Beber (Dordrecht : Springer, 2009), p. 13-22.

28. Melanie Mitchell, « Why AI is harder than we think », 2021, https://arxiv.org/abs/2104.12871v2.

29. John Fletcher, « Deepfakes, Artificial Intelligence, and Some Kind of Dystopia: The New Faces of Online Post-Fact Performance », *Theatre Journal* 70, no 4 (2018), p. 455-71; Wagner et Ashley Blewer, « 'The Word Real Is No Longer Real': Deepfakes, Gender, and the Challenges of AI-Altered Video », *Open Information Science* 3, no 1 (2019), p. 32-46.

30. John Searle, « Is the Brain a Digital Computer? », *Proceedings and Addresses of the American Philosophical Association*, 64, no 3 (1990), p. 21-37.

31. Benjamin Goggin, « From porn to "Game of Thrones": How deepfakes and realistic-looking fake videos hit it big », *Business Insider*, juin 2019, https://www.businessinsider.com/deepfakes-explained-the-rise-of-fake-realistic-videos-online-2019-6?r=US&IR=T; Jon Porter, « Another
convincing deepfake app goes viral prompting immediate privacy backlash », The Verge, septembre 2019, https://www.theverge.com/2019/9/2/20844338/zao-deepfake-app-movie-tv-show-face-replace-privacy-policy-concerns; Julian Sanchez, « Thanks to AI, the future of “fake news” is being pioneered in homemade porn », Think, février 2018, https://www.nbcnews.com/ think/opinion/thanks-ai-future-fake-news-may-be-easily-faked-video-ncna845726; James Vincent, « Deepfakes for dancing: you can now use AI to fake those dance moves you always wanted », The Verge, août 2018, https://www.theverge.com/2018/8/26/17778792/deepfakes-video-dancing-ai-synthesis; Bobby Chesney et Danielle Citron, « Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security », juillet 2018, https://papers.ssrn.com/sol3/ papers.cfm?abstract_id=3213954; Bobby Chesney et Danielle Citron, « Deepfakes and the New Disinformation War: The Coming Age of Post-Truth Geopolitics », Heinonline, février 2019, https://heinonline.org/HOL/LandingPage?handle=hein.journals/fora98&div=18&id=&page=; Jon Christian, « Experts fear face swapping tech could start an international showdown », The Outline, 1 février 2018, https://theoutline.com/post/3179/deepfake-videos-are-freaking-experts-out?zd=1&zi=qr6lxzsm; David Güera et Edward Delp, « Deepfake Video Detection Using Recurrent Neural Networks », IEEE, novembre 2018, https://ieeexplore.ieee.org/abstract/document/ 8639163/citations#citations; Falko Matern, Christian Riess, et Marc Stamminger, « Exploiting Visual Artifacts to Expose Deepfakes and Face Manipulations », IEEE, janvier 2019, http:// ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=8638330&isnumber=8638290; Mika Westerlund, « The Emergence of Deepfake Technology : A Review », Technology Innovation Management Review 9, no 11 (2019): 39-52.

32. Katherine Chandler. *Unmanning: How Humans, Machines and Media Perform Drone Warfare*, New Brunswick, Rutgers University Press, 2020.

RÉSUMÉS

Cet article traite de la capacité d'agir d'acteurs non-humains, non-biologiques. Partant du terme d'agentivité (agency), un concept employé dans les études des sciences et technologies (STS), il entend contribuer aux débats actuels en matière d'éthique et de responsabilité. En m'appuyant sur le paradoxe de Polanyi, je défends la thèse que ce qu'il y a de monstrueux dans l'intelligence artificielle (IA) s'explique par les intérêts que l'humain y place, mais que les machines elles-mêmes n'en sont pas la cause. Les machines ne peuvent pas davantage développer de motivations intrinsèques qu'elles ne disposent d'un savoir implicite. Par conséquent, l'article propose une conclusion pratique et une conclusion théorique : d'une part, la responsabilité quant aux dangers et aux risques de l'agentivité des machines appartient toujours à l'humain et, d'autre part, la notion d'agentivité doit évoluer au regard des nouveaux défis soulevés par l'apprentissage automatique.

This article addresses the attribution of « agency » to non-human, non-biological actors. Starting from the concept of « agency » developed in Science and Technology Studies (STS), the article contributes to current debates about ethical responsibility. Drawing on Polanyi's paradox, I argue that the monstrosity of artificial intelligence (AI) is not rooted in machines but is instead primarily conjured by the imagination and interests of humans. Machines can neither develop intrinsic motives nor possess tacit knowledge. Therefore, the article offers a practical as well as a theoretical conclusion : first, humans must always bear responsibility for the hazards
and risks of machine « agency », and second, the new challenges posed by machine learning call for further development around the notion of agency.

Dieser Artikel befasst sich mit der Handlungsfähigkeit nichtmenschlicher, nichtbiologischer Akteure. Ausgehend vom Begriff der « agency », einem in den Science and Technology Studies (STS) entwickelten Konzept, wird ein Beitrag zu aktuellen Debatten um ethische Verantwortung geleistet. Gestützt auf Polanyis Paradox argumentiere ich, dass das Monströse an der Künstlichen Intelligenz (KI) originär auf der Vorstellungskraft und den Interessen des Menschen beruht und nicht in den Maschinen selbst begründet ist. Maschinen können weder intrinsische Motive entwickeln noch verfügen sie über implizites Wissen. Daher bietet der Artikel eine praktische und eine theoretische Schlussfolgerung an: Erstens muss die Verantwortung für die Gefahren und Risiken maschineller « agency » immer beim Menschen liegen und zweitens ist der Begriff der « agency » aufgrund der neuen Herausforderungen des maschinellen Lernens weiterzuentwickeln.

## INDEX

**Mots-clés** : intelligence artificielle, agentivité, paradoxe de Polanyi, deep fake

**Thèmes** : agentivité des acteurs non-humains et non-biologiques, imagination et intérêts de l'humain, motivations intrinsèques et savoir implicite

## AUTEUR

### BARBARA HOF

Université de Zurich, ORCID : https://orcid.org/0000-0003-4529-544X

Barbara Hof, Dr. Phil., termine actuellement la rédaction d'un livre interrogeant comment les mesures sur la formation prises par les institutions de la recherche nucléaire durant la Guerre froide ont modifié la tendance durable au soutien, au renforcement et à la formalisation de « l'expertise technoscientifique ». Dans ses travaux, elle s'intéresse en outre aux points de jonction entre la cybernétique et les technologies de l'éducation, à l'histoire de l'intelligence artificielle, ainsi qu'à l'épistémologie et à la théorie des modèles. Parmi des publications récentes : « The turtle and the mouse : how constructivist learning theory shaped artificial intelligence and educational technology in the 1960s ». History of Education 50, n° 1, 2021 : p. 93-111 https://doi.org/10.1080/0046760X.2020.1826053.