# Les glitchs, ces moments où les algorithmes tremblent

Axel Meunier, Donato Ricci, Dominique Cardon et Maxime Crépel

<figure><img src="image_1.png" /></figure>

OpenEdition
Journals

## Édition électronique

URL : https://journals.openedition.org/tc/12594

DOI : 10.4000/tc.12594

ISSN : 1952-420X

## Éditeur

Éditions de l'EHESS

## Référence électronique

Axel Meunier, Donato Ricci, Dominique Cardon et Maxime Crépel, « Les glitchs, ces moments où les algorithmes tremblent », *Techniques & Culture* [En ligne], Suppléments aux numéros, mis en ligne le 03 décembre 2019, consulté le 01 octobre 2022. URL : http://journals.openedition.org/tc/12594 ; DOI : https://doi.org/10.4000/tc.12594

Ce document a été généré automatiquement le 1 octobre 2022.

Tous droits réservés
# Les glitches, ces moments où les algorithmes tremblent

Axel Meunier, Donato Ricci, Dominique Cardon et Maxime Crépel

Les objets étudiés dans cet article sont le produit des techniques contemporaines de calculs auxquelles nous sommes toutes常s constamment soumis à travers l'usage quotidien de plateformes et services numériques. Des algorithmes y devinent les personnalités individuelles des utilisateurs·rice·s, leurs goûts et désirs, et guident leurs choix. Dans le débat public, ces techniques donnent forme à un nombre considérable d'inquiétudes relatives à la captation de données personnelles (Schneier 2015), aux nouvelles techniques de contrôle commercial et politique (Isin & Ruppert 2015), à la mise en évidence de biais et de discriminations (Noble 2018), ou aux risques que fait peser, sur l'autonomie humaine, l'automatisation d'un certain nombre de décisions (Carr 2014). Ce débat est alimenté par un manque de descriptions et de représentations de la manière dont société et calculs se co-construisent. La spéculation à laquelle les calculs donnent lieu repose souvent sur les représentations, fabriquées depuis très longtemps par la science-fiction, d'une société imaginaire que l'intelligence artificielle aura entièrement transformée et reprogrammée pour le meilleur ou pour le pire. C'est donc par l'intermédiaire d'une projection dans le futur, que les effets des calculs sont pensés, espérés ou craints, faisant malheureusement disparaître les situations réelles dans lesquelles ils opèrent. À rebours de cette approche, et poursuivant une tradition bien établie dans la sociologie des sciences et des techniques, nous menons une enquête sur les systèmes algorithmiques dans la société actuelle par l'intermédiaire de leurs dysfonctionnements dans le temps ordinaire de l'activité journalière¹. Ils semblent moins être de l'ordre de la panne entraînant un arrêt brutal, que de la minuscule perturbation compromettant leur fonctionnalité furtivement et transitoirement.

Nous reprenons le terme de glitch et convoquons différents imaginaires qui lui sont associés pour désigner un bref moment où l'algorithme produit un résultat qui trouble les attentes de l'utilisateur et les hypothèses qu'il peut faire sur son fonctionnement. Le mot glitch, issu du jargon du monde de la transmission de signaux électriques qui est ensuite passé dans le langage informatique, décrit également des formes de réappropriation des technologies, en art notamment, qui constituent une prise possible
pour des micro-opérations critiques. Celles que nous proposons ne cherchent pas à rendre visible le fonctionnement des algorithmes, mais à mettre à jour la variété des contextes dans lesquels ils interviennent dans le monde de l'utilisateur. En réencastrant ainsi le calcul dans l'expérience de l'utilisateur, nous rendons compte de son agentivité et pas uniquement de sa soumission au pouvoir des algorithmes.

2 Ce que nous testons, en mobilisant également des méthodes de recherche en design, c'est finalement la mise en public de l'expérience d'être mal pris en compte - d'être mal calculé-e-s - comme levier pour retourner la question et se demander : *comment voulons-nous être calculé-e-s* ? Cette question pragmatique est la ligne directrice de la recherche en cours Algoglitch ² dont provient le matériau de cet article.

## L'utilisateur calculé

Si nous avons bien conscience que nos façons quotidiennes de vivre sont modifiées par l'utilisation des plateformes numériques et médiées par les calculs grâce auxquels elles opèrent, il est très difficile de relier ces changements individuels à une compréhension du fonctionnement des algorithmes qui les sous-tendent. Nous peinons à nous représenter ce qu'ils sont, à comprendre à qui ou à quoi attribuer leurs effets, autant qu'à envisager le fait d'être *collectivement* calculés. L'algorithme est à la fois une figure quotidienne et mystérieuse, parfois dangereuse ; l'expression d'une puissance inhumaine autant que d'intérêts économiques et d'enjeux politiques : quelque chose qui rappelle un mythe moderne (Barocas et al. 2013). Relativement à l'algorithme de Facebook, certains travaux de recherche sur les interactions humain-machine et en sciences sociales soulignent la méconnaissance par les utilisateurs de l'existence d'un algorithme pour trier les informations vues dans le *newsfeed* (Eslami et al. 2015), quand d'autres montrent que les utilisateurs ont connaissance de l'existence d'un algorithme sans nécessairement en comprendre le fonctionnement (Bucher 2016).

3 Parmi les différentes manières de définir les algorithmes, *une des plus simples* est de les concevoir comme des techniques procédurales, décrivant dans un langage informatique un processus réglé de transformations des informations afin d'obtenir un résultat. La définition proposée par Gérard Berry témoigne bien de cette définition computationnelle :

> Un algorithme – écrit-il – c'est tout simplement une façon de décrire dans ses moindres détails comment procéder pour faire quelque chose. Il se trouve que beaucoup d'actions mécaniques, toutes probablement, se prêtent bien à une telle décortication. Le but est d'évacuer la pensée du calcul, afin de le rendre exécutable par une machine numérique (ordinateur...) ³.

4 L'image de la recette de cuisine, constituée des ingrédients, d'une suite d'instructions pour les assembler et de son résultat – un plat appétissant –, constitue désormais la figure populaire de cette représentation. Comme toute entité technique, les algorithmes procèdent d'un « pliage », une traduction dans l'espace informatique de procédures à propos d'entités du monde de l'utilisateur ⁴. Outre le fait que ces procédures informatiques sont formulées dans le langage fonctionnel de la programmation, il faut souligner que les algorithmes s'attachent à représenter des états du monde à partir d'une somme considérable d'approximations (des *proxys*) sur le monde qu'ils calculent. La confection des algorithmes des services numériques s'apparente à un travail de traduction des données dont dispose le service pour les mettre en correspondance avec le monde de l'utilisateur (Cardon 2015). Si l'utilisateur
clique sur un lien cela veut dire que cela l'intéresse - c'est ainsi que l'orientation sexuelle d'un utilisateur de facebook peut être inférée à partir de ses likes pour certains contenus (Baya-Laffite et al. 2018). Si la proportion de couleur chair dans le contour d'une silhouette sur une photo est supérieure à tel pourcentage, alors cette personne est catégorisée comme « nue » par l'algorithme (Steyerl 2014). Si un site reçoit beaucoup de liens hypertextes venant d'autres sites, alors il a une « autorité » supérieure à un site qui en reçoit peu (Cardon 2016). Si un utilisateur d'un site de streaming écoute beaucoup de musique du genre G sans jamais écouter le musicien μ, mais que beaucoup d'autres utilisateurs qui aiment le genre G écoutent la musique de μ, alors notre utilisateur aimera probablement aussi μ (Prey 2018).

Lorsque cette série d'hypothèses est incarnée dans des objets et services numériques sous forme de fonctionnalités et d'usages, a lieu une traduction en sens inverse : l'objet ramène le monde calculé dans le monde de l'utilisateur en anticipant qui cet utilisateur va être. Produit d'une longue histoire de la relation humain-machine, la figure de l'utilisateur y est une fiction spéculative, une approximation méthodologique, construite à partir de certaines caractéristiques (physiologiques, comportementales, émotionnelles, cognitives) que l'objet internalise : depuis l'ergonomie — qui produit des normes de conception à partir de statistiques physiologiques (Dempsey et al. 2000) pour satisfaire les besoins de l'utilisateur (Booker 1964) — en passant par le recours aux persona - stéréotypes informés par l'ethnographie, où l'utilisateur est défini par les objectifs qu'il se donne (Cooper 2004) - jusqu'au machine learning (« apprentissage automatique ») qui capte des traces numériques pour produire des probabilités et former en temps réel des prédictions sur la personnalité individuelle de l'utilisateur (Cardon et al. 2018).

Cette boucle mise en place pour articuler les comportements en ligne de l'utilisateur et les informations qui lui sont proposées dans ses utilisations quotidiennes induit des interactions sans accroc (seamless)⁵ avec les technologies, c'est-à-dire une expérience où les calculs disparaissent au profit de l'activité dans laquelle l'utilisateur est engagé. Au cœur de l'inventivité de la fabrication algorithmique, la chaîne de médiations associant le formalisme des procédures informatiques au design d'objets et de services produit une adéquation, un couplage, entre le monde des calculs et le monde de l'utilisateur, c'est-à-dire un assemblage — un « système algorithmique » — où s'alignent les intérêts de ceux qui fabriquent les algorithmes, les attentes de ceux qui sont calculés et l'ensemble des dispositifs (interfaces, données, hypothèses sur les capacités attentionnelles ou cognitives des utilisateurs) qui permettent de faire tenir ensemble une société calculée (Seaver 2019).

Comment explorer cet assemblage et questionner le rôle de ce couplage dans la fabrication d'une société calculée ? Le débat comporte des étages multiples dont on peut schématiquement dégager deux postures critiques qui tentent de redonner des prises à la société pour recalibrer ses relations avec les calculs.

La première concerne l'opacité du fonctionnement des algorithmes et l'impossibilité de comprendre comment ils arrivent à certains résultats. Les algorithmes sont alors vus comme des boîtes noires qu'il faut ouvrir et à l'intérieur desquelles il faut entrer, par exemple avec des méthodes de rétro-ingénierie et en dévoilant les stratégies mises en œuvre par les plateformes pour empêcher que les algorithmes soient scrutés (Pasquale 2015). L'assujettissement de la société aux calculs est perçu à travers le modèle de déficit de connaissance : les utilisateurs doivent percer le mystère des algorithmes,
tenter de comprendre leur fonctionnement, et donc acquérir les connaissances techniques requises. La première condition pour pouvoir négocier est donc une exigence de transparence.

Une autre posture possible consiste à prendre de la distance par rapport aux techniques procédurales mises en œuvre par l'algorithme, pour regarder le monde calculé comme un miroir de la société : fabriqué par des humains, l'algorithme réifie et renforce des discriminations présentes dans la société, comme le montrent les résultats des requêtes de Google discriminants à l'égard des femmes et des personnes noires (Noble 2018). Nous ne sommes pas égaux face aux calculs, non pas du fait d'un manque de connaissance comme dans la première posture critique, mais parce que nous ne sommes pas égaux dans la société. Cette lutte s'inscrit dans le mouvement de la justice sociale, en s'appuyant sur la justice algorithmique comme levier de transformation sociale.

Si ces deux approches sont parfaitement légitimes et nécessaires, elles peinent à rendre compte de l'enchêvêtrement entre les valeurs d'efficacité et de performance des procédures computationnelles, et les principes d'équité, de neutralité, de transparence, de justice... dans les contextes d'usage dans lesquels les calculs se déploient. Ou plutôt : le rôle de ce contexte risque d'être minimisé par rapport à l'action d'un personnage principal - l'intelligence artificielle - renvoyant l'utilisateur calculé soit à son ignorance du fonctionnement des algorithmes, soit à sa soumission à leur pouvoir. Nous proposons une autre posture : suivre l'expérience d'être calculé dans sa continuité en restant au plus proche de celle-ci, mais en s'attachant à décrire de manière nuancée les contextes d'usages problématiques afin d'apprendre de la diversité des situations dans lesquelles le couplage apparemment solide et stable entre l'utilisateur et les calculs est mis à l'épreuve.

## L'écart entre monde calculé et monde sensible

Le couplage entre le monde des utilisateurs et les opérations de calculs est extrêmement banal dans le cours d'activités routinières en ligne : consulter les résultats *pertinents* d'une requête dans un moteur de recherche, recevoir des publicités *personnalisées* pendant une navigation sur le web, suivre les recommandations de YouTube pour visionner une série de vidéos, de Spotify pour enchaîner des chansons sans y accorder trop d'attention, ou de Waze pour choisir le trajet *le plus rapide*... Mais aussi, de plus en plus, dans des interactions avec des objets connectés (assistants vocaux, voitures...), des services dans des secteurs que les algorithmes investissent (crédits bancaires), voire l'État (Parcoursup). Son pouvoir singulier réside précisément dans le fait qu'il n'est en général pas identifiable ni discutable par les personnes qui en sont la cible et en font l'expérience. Sauf exception.

Dans cet exemple posté sur Twitter (**fig. 1**), un utilisateur remarque avec humour qu'une des quatre actualités mises en avant par l'application mobile Apple News fait figure d'intrus : alors que les trois autres sont des sujets d'importance nationale ou internationale (l'affaire du P.-D.G. de Renault Nissan Carlos Ghosn, la sécurité de l'aéroport de Londres, les Gilets Jaunes), la quatrième (le changement de propriétaire d'un salon de coiffure dans une petite ville française) est de l'ordre de l'actualité locale. Il y a *erreur* : il s'agit bien d'une actualité mais, selon l'utilisateur, elle n'aurait pas dû
être sélectionnée. Il ne comprend pas pourquoi elle lui est montrée, car il n'est visiblement pas intéressé par l'actualité de Mézières-sur-Couesnon.

## 1. Tweet envoyé par @lsuply le 20 décembre 2018

<figure><img src="image_2.png" /></figure>

Il contient une image : une capture d'écran de l'application mobile Apple News. L'utilisateur a entouré l'actualité fautive.

Nous nommons glitchs ce type de situations, en étendant aux algorithmes des phénomènes de dysfonctionnement affectant des systèmes électriques 6, des machines, des logiciels et des interfaces. Le glitch est à la fois l'artefact visuel ou sonore qui signale un dysfonctionnement minime et transitoire (Contreras-Koterbay & Mirocha 2016), mais aussi sa perception par l'humain en tant que manifestation d'une irréductible altérité machinique. Le glitch provoque une rupture dans l'expérience avec la technique, attribuée à une erreur, inattendue et imprévisible, dans le système (Goriunova & Shulgin 2008). C'est donc un moment dans le temps, où l'effet de transparence de la médiation par des interfaces numériques échoue (Boyle 2015) car elle est troublée par un algorithme qui prend l'utilisateur par surprise (Bucher 2016), soit parce qu'il excède ses attentes – rendant alors visibles des formes désirables de calcul – soit parce qu'il le prend mal en considération.

La centaine de glitchs que nous avons recueillis dans notre enquête s'appuie sur ce sentiment d'étrangeté, que nous avons cherché à capturer dans des situations où les utilisateurs racontent spontanément et publiquement, sur Twitter, leur relation avec les calculateurs. Par l'intermédiaire d'un compte Twitter dédié (Sensibilités Algorithmiques @algoglitch), nous avons rassemblé un corpus de tweets 7 qui rendent compte d'un trouble ressenti lors d'une interaction perturbée avec les algorithmes, que ce soit à propos d'une publicité mal ciblée, d'un mot mal interprété par un correcteur d'orthographe automatique, d'une recommandation malvenue etc. L'utilisateur peut
remarquer qu'il·elle est calculée. Il arrive alors qu'il·elle ait envie de partager
publiquement ce moment avec d'autres utilisateurs sous forme d'anecdotes comiques,
indignées, ironiques, voire sur un ton contemplatif, souvent sur un fond de tristesse
(Lovink 2019). Les tweets que nous avons rassemblés prennent la dimension de
microrécits qui permettent de reconstituer une relation complexe vis-à-vis des calculs,
participant de subjectivations computationnelles (Citton 2016) ⁸, tout en utilisant le
langage propre à Twitter : le format d'écriture – texte court, hashtags et images (mères
en particulier) – mais aussi le mode de circulation et d'appréciation – retweets, likes,
commentaires – expriment une sensibilité aux effets des calculs. Notre méthode ⁹ tire
parti des fonctionnalités de la plateforme pour diffuser l'enquête en accueillant les
propositions de contributeurs (qui en général suivent le compte), pour porter attention
à ces contributions et se rendre plus sensibles aux calculs. Reconnaissant l'impossibilité
de connaître le fonctionnement des boîtes noires, cette approche opte pour le parti
d'observer la manière dont notre engagement avec les algorithmes – chercheurs
compris ¹⁰ – est porteur d'une connaissance spécifique, une connaissance située dans
l'expérience d'être calculé, où la relation à notre corps et notre identité est médiée par
les calculs.

14 Commençons par deux tweets dans lesquels les utilisateurs parlent des algorithmes avec beaucoup d'expressivité soit pour faire leur éloge et remercier les plateformes (fig. 2), soit pour faire part de leur énervement vis-à-vis de l'intervention particulièrement malencontreuse de l'algorithme dans la vie personnelle de l'utilisateur (fig. 3).

2. Tweet envoyé par @ramblinstyles le 16 janvier 2018

<figure><img src="image_3.png" /></figure>

Alex Styles @ramblinstyles · 16 janv. 2018

@SpotifyDE Did you tweak your **algorithm**? My weekly **recommendation** playlist is unbelievably **spot on**.

<figure><img src="image_4.png" /></figure>

Traduire le Tweet

<figure><img src="image_5.png" /></figure>

<figure><img src="image_6.png" /></figure>

<figure><img src="image_7.png" /></figure>

<figure><img src="image_8.png" /></figure>

<figure><img src="image_9.png" /></figure>

Il contient une image : un GIF réalisé à partir d'un extrait du film Star Wars.
## 3. Tweet envoyé par @MadAtConvents le 17 mars 2019

<figure><img src="image_10.png" /></figure>

Mad At Convents @MadAtConvents · 17 mars

<figure><img src="image_11.png" /></figure>

What you feel when @facebook SMS TEXTS you and **suggests** as a friend the little, snotty, uneducated, user asshole your husband cheated with and left you for. This is why I haven't been participating in FB for a year. #AnotherFacebookFail

<figure><img src="image_12.png" /></figure>

Traduire le Tweet

<figure><img src="image_13.png" /></figure>

<figure><img src="image_14.png" /></figure>

2

<figure><img src="image_15.png" /></figure>

<figure><img src="image_16.png" /></figure>

11

<figure><img src="image_17.png" /></figure>

Il contient une image : un clipart libre de droits.

Dans le deuxième cas, il y a un problème : l'algorithme *se trompe*. Non je ne souhaite pas que toutes les personnes que je connais me soient proposées en amis par Facebook. Non je ne suis pas toujours l'utilisateur idéal codé par les designers des plateformes numériques, « l'utilisateur heureux, optimiste, qui a une belle vie » duquel se distance Éric Meyer ¹¹, développeur web influent, à qui Facebook proposait en 2014 des images de son père décédé du cancer la même année par l'intermédiaire de sa vidéo de célébration « Rétrospective de l'année » générée de manière algorithmique :

Les algorithmes sont par essence stupides. [...] Ils modèlent certains processus de décision, mais une fois que vous les faites tourner, ils ne réfléchissent plus. [...] En créant l'application vidéo rétrospective de l'année, il n'a pas été suffisamment réfléchi aux cas comme le mien ou celui de quelqu'un qui a eu une mauvaise année. Le design est fait pour l'utilisateur idéal, l'utilisateur heureux, optimiste, qui a une belle vie. Il ne prend pas en compte d'autres cas utilisateurs comme le mien. (TdA)

Les trois histoires suivantes rendent compte de l'intérêt à ralentir et porter attention à des glitches algorithmiques parfois très sophistiqués.

Pendant les feux de forêt qui ont ravagé la Californie du Sud en décembre 2017 et ont littéralement encerclé la ville de Los Angeles ¹², la police locale demande aux conducteurs de véhicule de ne pas utiliser d'applications mobiles de navigation GPS (fig. 4) qui leur proposent de faciliter leur trajet en conseillant des routes sur lesquelles le trafic est moins dense, c'est-à-dire à *ce moment-là* des routes dans des quartiers en feu. En plus de ses interventions sur le terrain, la police de Los Angeles doit intervenir dans le monde numérique pour limiter l'impact de l'incendie.
4. Tweet envoyé par @joelrubin le 07 décembre 2017

<figure><img src="image_18.png" /></figure>

Il contient un lien vers un article du Los Angeles Times

18 La deuxième histoire (fig. 5) est partagée le jour de Noël 2017 par un utilisateur de Google Mini ¹³, un assistant vocal qui permet par la voix de lancer des requêtes, d'écouter de la musique, ou de donner des ordres à des objets connectés. L'utilisateur exprime son désarroi à l'encontre de l'appareil, qui a répondu à sa petite fille que le Père et la Mère Noël n'existent pas. Interrogé sur les activités présentes de la Mère Noël, l'assistant a cherché la réponse la plus pertinente conformément aux critères mis en avant par Google. En effet, de manière générale, dans le monde, le Père Noël est un personnage imaginaire. Mais pas dans le monde particulier d'une utilisatrice de 4 ans, en tout cas, selon son père... puisque l'histoire ne dit pas que, par exemple, la petite fille se serait mise à pleurer à l'annonce de cette triste nouvelle.
<figure><img src="image_19.png" /><figcaption>5. Tweet envoyé par @Obby_Odd le 25 décembre 2017</figcaption></figure>

Il contient plusieurs hashtags populaires dont #AiFail.

19 La dernière histoire (fig. 6) se déroule le jour du 18e samedi de la mobilisation des « gilets jaunes » à Paris. C'est une histoire en trois images qui, avec la force d'une (anti-)publicité, n'a besoin d'aucune parole – y compris si on ne connaît pas la fonctionnalité de Google Maps qu'elle met en scène. Une photographie de la brasserie Le Fouquet's, sur les Champs Élysées, assiégée par des manifestants. La même brasserie saccagée après leur départ. Entre les deux, une capture d'écran de Google Maps qui permet à des clients potentiels de voir en temps réel que la brasserie, en ce samedi après-midi, est vraiment bondée.
<figure><img src="image_20.png" /><figcaption>6. Tweet envoyé par @KumOkun le 16 mars 2019</figcaption></figure>

Il contient deux photos et une capture d'écran.

Chacun de ces courts récits décrit un micro-événement : pour deux d'entre eux (le feu de forêt et la manifestation) ils prennent place à l'intérieur d'événements de l'actualité médiatique, tandis que le troisième se déroule pendant un événement de la vie familiale. Par ailleurs, deux histoires (la manifestation et le père noël) sont des anecdotes qu'on raconte par plaisir, tandis que la 3e (le feu de forêt) a potentiellement des conséquences graves. Cependant, elles ont toutes en commun d'être des histoires dans lesquelles les algorithmes fonctionnent absolument parfaitement : les applications de navigation indiquent aux conducteurs les routes les moins fréquentées, Google Maps a correctement calculé, à partir de signaux GPS, une forte densité de personnes autour du Fouquet's, et l'assistant vocal a trouvé l'information la plus « pertinente » à propos du Père Noël. Pourtant, nous nous retrouvons maintenant obligés d'ajouter des guillemets à la notion de pertinence, puisqu'elle apparaît, dans la situation décrite par l'utilisateur, problématique et désormais à nouveau discutable. Alors que le calcul continue de fonctionner, c'est le couplage entre le monde calculé par les algorithmes et le monde sensible de l'utilisateur qui est momentanément distendu et révélé – au sens photographique – par le glitch.

Dans certaines situations, le nombre de voitures sur la route ou le nombre de téléphones à proximité d'un bar ne décrivent plus correctement la situation qu'ils ont été chargés de prédire – le trafic ou l'affluence. La situation commerciale codée dans le calcul de l'affluence, est supplantée par une situation politique où une forte densité de personnes prend le sens d'un attroupement violent. L'ajustement entre le monde calculé et le monde sensible est mis à l'épreuve par l'usage. S'il y a glitch, il y a écart entre ces deux mondes.
## Le glitch et la panne

Les exemples évoqués dans la section précédente, de l'ordre de l'anecdote, de la petite histoire, peuvent maintenant nous aider à porter à nouveau attention aux dysfonctionnements des assemblages algorithmiques de manière plus large, et à pointer un élément caractéristique de leur relation à la panne. Alors que beaucoup de tweets de notre collection, tels que le glitch dit « du Père Noël », sont accompagnés du hashtag 14 #Alfail ou #Algorithmfail, l'échec de l'algorithme ne se traduit jamais en une panne, mais, au contraire, dans son obstination à continuer à fonctionner alors que le contexte dans lequel il opère – le monde sensible de l'utilisateur – se trouve dans un état imprévisible, parfois extrême mais souvent tout à fait ordinaire et parfaitement reconnaissable pour des humains. Le problème ne peut pas non plus être mis sur le compte d'utilisateurs qui auraient un comportement hors-norme – ceux-là sont déjà modélisés et prévus lors de la conception du système pour le valider (stress test, « test de l'utilisateur bourré »).

22 Le problème est que l'algorithme *continue* à fonctionner, s'entête à effectuer des bons calculs incapables de rendre compte de l'environnement dans lequel l'action prend place :

> Le mot « glitch » dans ce sens ne représente pas seulement la cause à l'origine d'un échec quelconque, mais aussi le résultat qui se produit quand des données incorrectes sont décodées correctement. Un problème isolé est rencontré, et plutôt que de s'arrêter, le programme continue à baragouiner. Autrement dit, c'est l'incapacité d'un programme donné à tomber entièrement en panne lorsqu'il fait face à des mauvaises données, qui permet au glitch d'apparaître. (Manon & Temkin 2011 - TdA)

23 La particularité des assemblages algorithmiques est de rendre invisible l'écart entre le monde calculé et le monde sensible, et de composer en une activité commune les décisions du calculateur et les objectifs de l'utilisateur. Rendre cet assemblage le plus cohésif, solide et insensible est au cœur des techniques mises en œuvre pour produire ce monde sans couture qui naturalise les techniques de calculs dans la vie ordinaire – c'est en ce sens que Nick Seaver parle par exemple de « système algorithmique » pour le distinguer de la forme computationnelle de l'algorithme (Seaver 2019). Ce système fait face au risque de *glitcher sans tomber en panne*, de fonctionner dans un silence entrecoupé d'une succession de micro-incidents isolés, de tremblements, qui *cassent* provisoirement l'assemblage algorithmique, font sortir l'utilisateur de la boucle dans laquelle celui-ci peut alors dire qu'il était « enfermé », le mettent face à un « vide de connaissance ; une dimension étrange où les lois de la technologie sont soudainement très différentes de ce qu'[il] anticipai[t] et savai[t] » (Menkman 2010 - TdA), finalement inversent provisoirement le rapport d'intelligence entre humains et calculateurs.

24 L'analyse de ces situations furtives nous invite à nous méfier de la solution rapide qui consisterait à les traiter comme des bugs, pannes logicielles pouvant être prises en charge dans le cadre traditionnel du développement informatique 15, et à rediriger l'attention vers le rôle du monde social, dont la composition, la diversité et les valeurs ne peuvent être définitivement mises en calcul, et sont constamment négociées et renégociées par les acteurs.

25 Quels sont les effets des glitchs ? Lorsque le trouble est bénin, la plupart du temps, nous laissons se produire ces écarts entre le monde du calcul et celui de l'utilisateur, et apprenons à « faire avec », y compris en apprenant de nouveaux gestes, tel cet
utilisateur qui doit effacer par précaution des traces dans la neige pouvant être reconnues comme des visages de cambrioleurs par sa caméra de surveillance zélée (fig. 7).

<figure><img src="image_21.png" /><figcaption>7. Tweet posté par @kcimc le 25 février 2019</figcaption></figure>

Il contient des captures d'écrans de posts sur Facebook du 22 février. Ces posts contiennent trois photographies.

26

En revanche, ils peuvent également nous mettre dans un inconfort extrême. Le cas de 2015 où l'algorithme de reconnaissance d'images de Google Photos cataloguait des personnes noires comme « gorilles » (fig. 8) est un exemple tristement célèbre. La question n'est pas de savoir ici s'il s'agit d'un algorithme imparfait dont la précision pourrait être améliorée, mais porte sur le basculement soudain de l'expérience vers un registre de valeurs où l'algorithme apparaît comme un « algorithme raciste », que ce soit parce qu'il a été mal conçu, mal entraîné ou pour d'autres raisons. La différence avec le bug est cruciale : considéré comme un bug l'exemple ci-dessus réclamerait une correction, alors que le mot employé dans des articles de The Verge 16 et Wired 17 est workaround – solution de contournement –, une adaptation trouvée sans complètement résoudre le problème 18. Les ingénieurs de Google ont, pour corriger l'erreur, empêché l'algorithme de reconnaître les gorilles. Le glitch a été réparé par la mise en panne volontaire de l'algorithme. De nombreux problèmes utilisateurs, liés au calcul algorithmique, trouvent ainsi leur solution. L'algorithme continue à s'obstiner à mal fonctionner, et la réparation consiste à en masquer certains résultats (ce fut par exemple le cas de l'association par l'autocomplete de Google de certains noms propres avec le mot « juif »).
8. Tweet envoyé par @jackyalcine le 28 juin 2015

<figure><img src="image_22.png" /></figure>

Il contient une image : une capture d'écran montrant une série de photographies taguées par l'application Google Photos.

27

Dans un autre exemple beaucoup plus léger, une utilisatrice se plaint de l'incapacité de son robot aspirateur Roomba à différencier les motifs d'un tapis sur lequel il doit passer, d'un escalier où il doit s'arrêter – son détecteur confond un dessin sur le tapis avec un escalier. Comme l'explique un utilisateur, dans un tutoriel publié sur YouTube (fig. 9), là aussi la solution est de mettre une des fonctions de l'objet en panne – précisément celle qui le différencie d'autres aspirateurs moins intelligents : reconnaître son environnement. Il suffit de littéralement bander les yeux de l'aspirateur – patcher ses capteurs avec une feuille d'aluminium – pour qu'il arrête de se méprendre.
<figure><img src="image_23.png" /><figcaption>9. Tutoriel vidéo posté sur YouTube le 30 décembre 2007</figcaption></figure>

Renégocier

Là où la correction d'un bug passerait par une procédure triant les erreurs liées au contexte et ne traitant que celles qui peuvent être traduites en langage informatique, donc par une purification de l'erreur, l'enquête sur le glitch explore la composition des associations hétérogènes qui font tenir les agencements techniques (Latour 2005), en attirant l'attention sur leur caractère hétérogène, provisoire et local. Ce que permet d'entreprendre le glitch, c'est une renégociation de la manière dont certains êtres et état du monde doivent, ou ne doivent pas, entrer dans l'espace du calcul. Faut-il apprendre à Google que tous les pics d'affluences dans un lieu commercial ne sont pas nécessairement des clients ? Doit-il pour cela étendre la chaîne des informations pour distinguer les clients des manifestants ? Quel est le prix, en termes de vie privée, de l'intégration de cette nouvelle connaissance ? Est-il désirable d'être calculé ainsi ?

28

Pour continuer à suivre le fil de l'expérience d'être calculé, nous devons maintenant nous intéresser aux conditions de l'exploration de ces opérations de négociation constamment en cours et jamais définitivement résolues, sur lesquelles notre recherche nous amène à nous interroger en partant de la sensibilité aux calculs algorithmiques. Si dans le cas particulier des biais et des discriminations, cette sensibilité est portée par les personnes qui en sont victimes et revendiquent une réparation, nous défendons que l'expérience du glitch puisse permettre d'étendre le répertoire de cette sensibilité et d'entrer avec les calculs dans un rapport intime et réflexif pour former un jugement. Le glitch fait apparaître une variation d'intensité des relations entre les éléments, êtres, objets et acteurs qui composent un environnement calculé. Dans un atelier collectif que nous avons mené ¹⁹, les participants ont par exemple procédé à une lecture attentive du récit du glitch du père Noël, qui contient, en dépit de sa concision, un monde extrêmement riche, un grand nombre d'êtres, d'objets et d'acteurs (« le Père Noël », « Google Mini »), des relations sociales latentes comme la délégation de la responsabilité éducative, et qui ? met en question l'unité de la famille dans l'intimité de sa maison. Ce glitch a permis de remonter dans le temps et d'imaginer la configuration antérieure rendue cahotique par la prise d'initiative de la « fillette de 4
ans » et par ses conséquences auxquelles participants humains et non-humains ont dû répondre, y compris en prenant soin du Père Noël. Le *glitch* autorise aussi à poser des questions sur un futur où l'algorithme devient un allié des enfants face aux mensonges des parents, soit, à l'inverse, sur un horizon où l'enfant se rebelle contre la technologie.

29 *Algoglitch* fait partie des expérimentations originales que nous menons pour étendre les capacités de traçage des problèmes sociaux et publics en complément des méthodes computationnelles – moins efficaces pour accueillir et qualifier l'hétérogénéité d'éléments numériques et non-numériques composant les questions publiques que pour en enregistrer les traces numériques – et se rapprocher le plus possible du terrain (Birkbak *et al.* 2015) en poursuivant un processus épistémique qui co-génère, avec un public, des récits, du sens et des relations à partir de matériaux esthétiques, perceptifs et spéculatifs ²⁰.

30 Dans *Algoglitch*, ce processus tente de donner corps à la notion de *public calculé*, c'est-à-dire de collectif affecté par le problème commun des calculs en rendant compte du travail quotidien d'ajustement des utilisateurs, forme d'une agentivité qui n'est pas qu'une réponse à l'expérience *customisée* du client individuel des plateformes numériques, mais aussi une possibilité de rendre cette expérience collective par le partage, de sortir du bouclage individuel dans lequel les algorithmes nous prennent, et d'explorer collectivement la richesse du monde qui ne peut être traduit en procédures de calcul. Nous continuons ainsi à tirer profit de l'imaginaire lié au *glitch*, dont l'un des usages trouve son origine dans le jargon des pratiques professionnelles des métiers de la transmission de signaux audiovisuels ou électriques. S'il y décrit un phénomène visuel particulier, il porte la nécessité de constituer un vocabulaire commun entre personnes concernées par un problème. Dans cette publicité de 1955 (fig. 10) : « Il est important que nos techniciens puissent décrire la qualité de leurs signaux dans des termes qui veulent dire la même chose pour des techniciens de Bell System tout le long de la ligne. » (TdA).
## 10. Publicité pour Bell Telephone System, Billboard (1955)

<figure><img src="image_24.png" /></figure>

31

Le partage de microrécits de glitches a été mis en œuvre dès le début de la méthode par laquelle nous avons constitué notre collection : nous avons créé un compte Twitter intitulé Sensibilités Algorithmiques (@algoglitch) que nous avons animé activement à partir des interrogations de cette recherche. Nous n'avons pas supposé que certaines connaissances préalables seraient requises pour s'intéresser aux calculs, aussi le compte Twitter permet-il de cadrer notre objet de recherche non en définissant a priori le glitch mais sur la base de choix formels et esthétiques liés à l'animation d'un compte Twitter, donc en travaillant son allure 21. Afin de distinguer notre compte (fig. 11), de celui d'une personne ou d'une organisation, l'image choisie pour la couverture est un gif tiré d'un tweet, l'image de profil d'un sismographe ancien, et la description laconique et anonyme : « Un compte pour enregistrer la sensibilité aux calculs algorithmiques / Accounting for public sensitivity to algorithmic calculations. » Le compte Twitter lui-même prend la dimension d'un instrument de recherche permettant d'enregistrer des récits et des images, et témoigne par son activité de la sensibilité aux calculs algorithmiques. Il fonctionne à la fois comme méthode de collecte de données, mais aussi comme endroit d'hésitation collective sur ce qui nous arrive.
## 11. Capture d'écran du compte Twitter @algoglitch

<figure><img src="image_25.png" /></figure>

La photographie de profil est un sismographe, rappelant la fonction d'enregistrement des glitchs du compte

Photographie "seismograph" par Hitchster / CC BY 2.0

32

Cette approche différencie profondément Algoglitch d'autres études sur les algorithmes. Dans le projet, nous avons abandonné la distance entre l'objet et le sujet de la recherche et nous nous sommes mêlés à des pratiques algorithmiques étendues. Parmi les expérimentations du projet Algoglitch, la curation collective de glitchs dans l'atelier public mentionné précédemment a tenté d'explorer et découvrir les relations complexes entre acteurs humains et entités non-humaines présentes dans les enjeux algorithmiques, qui restent souvent invisibles dans d'autres approches (fig. 12). Elle a constitué un moyen d'ouvrir des réflexions génératives qui pourraient aboutir à des configurations alternatives et à l'évolution du problème rencontré.
<figure><img src="image_26.png" /><figcaption>12. Visite de l'exposition de glitches</figcaption></figure>

© A. Meunier, 2018

33 On aura compris qu'en nous intéressant aux glitches, notre but n'est pas d'optimiser les performances des algorithmes, mais de nous interroger sur des modes de réparation qui appréhendent simultanément la question ontologique – Est-ce un bug ? un cas limite ? une erreur contextuelle ? –, et la question éthique – Comment voulons-nous être calculés ? – plutôt qu'envisager la possibilité d'échapper totalement aux calculs. Notre travail d'exploration des dysfonctionnements propres aux systèmes algorithmiques, objets de cet article, vise à inciter le lecteur à passer en revue ses attachements à l'égard de certains principes – équité, égalité, objectivité – à réajuster ses attentes – performance, délégation, automatisation – par rapport aux machines mais aussi, in fine, à apprendre à vivre avec les algorithmes, dans les systèmes algorithmiques.

*

En dépit d'un aspect discret et cocasse, l'expérience du glitch et les imaginaires qui lui sont associés permettent de rendre compte de l'interférence quotidienne d'usagers avec des systèmes complexes et distribués. Le glitch constitue une expérience essentielle de la vie dans une société calculée, dont on peut tirer plusieurs enseignements.

34 Le premier est que le glitch ne met jamais en jeu uniquement l'utilisateur individuel et sa machine, mais le monde sensible et le monde calculé par des algorithmes qui ne peuvent jamais totalement échouer, faisant apparaître la médiation par les calculs comme une interface oscillant entre fenêtre donnant sur le monde, et miroir renvoyant une image déformée de soi (Boyle 2015).

35 Le second est que l'expérience du glitch est celle d'une déprise. Soudain, le calcul apparaît comme nu. Il est maladroit, aveugle, borné, insensible ou ignorant, parce qu'il
continue de fonctionner « efficacement ». Son principe d'efficacité est alors rendu commensurable à son incapacité à s'ajuster à la variété du monde et à ses accidents. L'écart que le *glitch* fait surgir produit souvent un effet burlesque – même s'il peut aussi être douloureux ou cruel. Il faut cependant souligner la dimension subrepticement critique que cette moquerie à l'égard des calculs permet de rendre manifeste. Mettre en évidence l'inintelligence froide des opérations numériques constitue un moyen de déprise dans la croyance en la toute puissance des calculateurs.

36

Le troisième enseignement est que le *glitch* déborde la question habituellement soulevée par la critique du pouvoir des algorithmes. Elle invite à ne pas simplement réclamer une information transparente sur les procédures des algorithmes (Burrell 2016). Il s'agit moins d'ouvrir les boîtes noires que de jouer avec leur épaisseur, leur forme et leur composition. Nous souhaitons ainsi pointer deux limites de la transparence comme mobilisation publique, qui permettrait, ici comme dans d'autres circonstances de la vie publique (Alloa & Citton 2018) l'établissement automatique d'un contre-pouvoir efficace : le type de connaissance, en particulier mathématique et informatique qu'il suppose – si le code de Google était en son intégralité *open source*, pourrais-je le lire ? –, et l'acceptation d'une définition réductrice des algorithmes. L'image de la « recette de cuisine » nous empêche d'explorer l'ensemble des métaphores que les technologies produisent et qui ne sont pas soumises à leur fonction utilitaire – si bien que « le monde du marteau peut être fait non seulement de clous, mais aussi de dieux qui déclenchent la foudre en le brandissant » (Bridle 2018) (TdA).

37

Pour dénoncer la toute-puissance des algorithmes et leur nouvel empire, les discours critiques sont parfois conduits à accréditer le discours de ceux qui les promeuvent en soutenant non seulement qu'ils sont efficaces et pertinents, mais plus encore que cette efficacité est l'expression d'un pouvoir d'un type nouveau qui s'exerce sur les moindres conduites, pensées et la vie même des individus. Ils contribuent ce faisant à produire dans l'ordre de la culture et des représentations une fusion sans séparation ni couture entre l'ordre des calculs et celui de l'expérience. La microrébellion que constitue le *glitch* apparaît alors comme une sorte de rappel à la réalité : les procédures de calcul ne sont pas exactement celles du monde et c'est depuis cet écart qu'il est possible de commencer de faire trembler les ambitions dominatrices des algorithmes et d'imaginer d'autres façons de renégocier avec eux.

## BIBLIOGRAPHIE

* Alloa, E. & Y. Citton 2018 « Tyrannies de la transparence », *Multitudes* 73 (4) : 47-54. doi : 10.3917/mult.073.0047.

* Barocas, S., Hood, S. & M. Ziewitz 2013 *Governing Algorithms. A Provocation Piece*. Rochester, NY : Social Science Research Network. [En ligne] : https://papers.ssrn.com/abstract=2245322.

* Baya-Laffite, N., Beaude B. & J. Garrigues 2018 « Le deep learning au service de la prédiction de l'orientation sexuelle dans l'espace public », *Réseaux* 5 (211) : 137-172.
Bayazit, N. 2004 « Investigating design. A review of forty years of design research », *Design Issues* 20 (1) : 16-29. doi : 10.1162/074793604772933739.

Bijker, W. E. & J. Law 1992 « *General Introduction* » in W. E. Bijker & J. Law dir. *Shaping Technology/Building Society. Studies in Sociotechnical Change*. Cambridge, Mass. : MIT Press : 1-17.

Birkbak, A., Petersen, M. & T. Elgaard Jensen 2015 « *Critical Proximity as a Methodological Move in Techno-Anthropology* » *Techné* « Research in Philosophy and Technology »19 : 266-290. Doi : 10.5840/techne201591138.

Booker, P. J. 1964 *Conference on the Teaching of Engineering Design*. Institution of Engineering Designers : London : 3.

Boyle, C. 2015 « The rhetorical question concerning glitch », *Computers and Composition* 35 : 12-29. doi : 10.1016/j.compcom.2015.01.003.

Bridle, J. 2018 *New Dark Age. Technology and the End of the Future*. London / New York : Verso Books.

Bucher, T. 2016 « The algorithmic imaginary. Exploring the ordinary affects of facebook algorithms », *Information, Communication & Society* 20 (1) : 30-44. doi : https://doi.org/10.1080/1369118X.2016.1154086.

Burgess, J. & A. Bruns 2015 « Easy data, hard data : The politics and pragmatics of Twitter research after the computational turn » in G. Langlois, J. Redden & G. Elmer dir. *Compromised Data : From Social Media to Big Data*. London : Bloomsbury Publishing.

Burgess, J. & C. Puschmann 2014 « The politics of twitter data » in K. Weller, A. Bruns, J. Burgess, M. Mahrt & C. Puschmann dir. *Twitter and society*. New York : Peter Lang.

Burrell, J. 2016 « How the machine “thinks”. Understanding opacity in machine learning algorithms », *Big Data & Society* 3 (1). doi : 10.1177/2053951715622512.

Cardon, D. 2015 *À quoi rêvent les algorithmes. Nos vies à l'heure des big datas*. Paris : Le Seuil.

Cardon, D. 2016 « Deconstructing the algorithm. Four types of digital information calculations » in R. Seyfert & J. Roberge dir. *Algorithmic Cultures*. London : Routledge. doi : 10.4324/9781315658698-11.

Cardon, D., Cointet, J.-P. & A. Mazieres 2018 « La revanche des neurones. L'invention des machines inductives et la controverse de l'intelligence artificielle », *Réseaux* 5 (211).

Carr, N. 2014 *The Glass Cage. How Our Computers Are Changing Us*. New York : W. W. Norton & Company.

Chalmers, M. & I. MacColl 2003 « Seamful and seamless design in ubiquitous computing », *Proceedings of workshop At the Crossroads: The Interaction of HCI and Systems Issues in UbiComp* : 9.

Citton, Y. 2016 « Subjectivations computationnelles à l'erre numérique », *Multitudes* 62 (1) : 45-64.

Contreras-Koterbay, S. & L. Mirocha 2016 *The New Aesthetic and Art. Constellations of the Postdigital*. Amsterdam : Institute of Network Cultures « Theory on Demand » : 20. [En ligne] : https://dc.etsu.edu/etsu_book/s/112.

Cooper, A. 2004 *Inmates Are Running the Asylum. The Why High-Tech Products Drive Us Crazy and How to Restore the Sanity*. Indianapolis : Sams Publishing.

Dempsey, P. G., Wogalter, M. S. & P. A. Hancock 2000 « What's in a name ? Using terms from definitions to examine the fundamental foundation of human factors and ergonomics science », *Theoretical Issues in Ergonomics Science* 1 (1) : 3-10. doi : 10.1080/146392200308426.
Eslami, M., A. Rickman, K. Vaccaro, A. Aleyasen, A. Vuong et al. 2015 « "I always assumed that I wasn't really that close to [her]". Reasoning about invisible algorithms in news feeds », *Proceedings of the 33rd Annual ACM Conference on Human Factors in Computing Systems*. New York, NY, USA : ACM « CHI '15 » : 153-162. doi : 10.1145/2702123.2702556.

Frankel, L. & M. Racine 2010 « The complex field of research. For design, through Design, and about Design », in *Proceedings of the Design Research Society (DRS) international conference* : 12.

Frayling, C. 1994 « Research in art and design », *Royal College of Art Research Papers 1* (1). [En ligne] : http://researchonline.rca.ac.uk/384/.

Gillespie, T. 2014 « The relevance of algorithms », in T. Gillespie, P. J. Boczkowski & K. A. Foot dir. *Media technologies. Essays on Communication, Materiality, and Society*. Cambridge, Massachusetts : MIT Press.

Glenn, J. 1962 *Into Orbit*. London : Cassell. [En ligne] : https://www.goodreads.com/work/best_book/21421053-into-orbit.

Goriunova, O & A. Shulgin 2008 « Glitch » in S. Cubitt & R. F. Malina dir. *Software Studies. A Lexicon*. MIT Press : 110-119.

Graham, S. & N. Thrift 2007 « Out of order : Understanding repair and maintenance », *Theory, Culture & Society* 24 (3) : 1-25. doi : 10.1177/0263276407075954.

Hine, C. 2008 « Virtual ethnography. Modes, Varieties, Affordances » in N. G. Fielding, R. M. Lee & G. Blank dir. *The SAGE Handbook of Online Research Methods*. Thousand Oaks : SAGE.

Isin, E. F. & E. S. Ruppert 2015 *Being Digital Citizens*. London : Rowman & Littlefield International.

Jonas, W. 2007 « Design research and its meaning to the methodological development of the discipline » in R. Michel dir. *Design Research Now. Essays and Selected Projects*. Basel : Birkhäuser Basel (« Board of International Research in Design ») : 187-206. doi : 10.1007/978-3-7643-8472-2_11.

Koskinen, I., J. Zimmerman, T. Binder, J. Redstrom & S. Wensveen dir. s. d. *Design Research Through Practice*. doi:doi.org/10.1016/B978-0-12-385502-2.00018-3.

Latour, B. 2005 *Reassembling the social. An introduction to actor-network-theory*. Cambridge : Oxford University Press.

Latour, B. 2012 *Enquête sur les modes d'existence. Une anthropologie des Modernes*. Paris : La Découverte « Hors collection Sciences Humaines ».

Lovink, G. 2019 *Sad by Design. On Platform Nihilism*. London : Pluto Press.

Lury, C. & N. Wakeford dir. 2012 *Inventive Methods. The Happening of the Social*. London : Routledge.

Manon, H. S. & D. Temkin 2011 « Notes on Glitch », *World Picture 6*.

Marres, N. & J. Lezaun 2011 « Materials and devices of the public. An introduction », *Economy and Society* 40 (4) : 489-509. doi : 10.1080/03085147.2011.602293.

Marres, N. & E. Weltevrede 2013 « Scraping the social ? », *Journal of Cultural Economy* 6 (3) : 313-335. doi : 10.1080/17530350.2013.772070.

Marwick, A. E. 2014 « Ethnographic and qualitative research on Twitter » in K. Weller, C. Puschmann, J. Burgess & M. Mahrt dir. *Twitter and society*. New York : Peter Lang : 109-121.
Menkman, R. 2010. *Glitch Studies Manifesto*. [En ligne] : https://beyondresolution.nyc3.digitaloceanspaces.com/_Rosa%20Menkman%20%20Glitch%20Studies%20Manifesto.pdf.

Miller, V. 2008 « New media, networking and phatic culture », *Convergence*. The International Journal of Research into New Media Technologies 14 (4) : 387-400. doi : 10.1177/1354856508094659.

Noble, S. U. 2018 *Algorithms of Oppression. How Search Engines Reinforce Racism*. New York : NYU Press.

Pasquale, F. 2015 *The Black Box Society*. Cambridge : Harvard University Press.

Prey, R. 2018 « Nothing personal. Algorithmic individuation on music streaming platforms », *Media, Culture & Society* 40 (7) : 1086-1100. doi : 10.1177/0163443717745147.

Ricci, D. 2019 « Tensing the present. An annotated anthology of design techniques to compose political representations », *Diseña* 14.

Rogers, R. 2013 *Digital Methods*. Cambridge Mass. : The MIT Press.

Schneier, B. 2015 *Data and Goliath. The Hidden Battles to Collect Your Data and Control Your World*, New York : W. W. Norton & Company.

Schroeder, R. 2014 « Big Data and the brave new world of social media research », *Big Data & Society* 1 (2). doi : 10.1177/2053951714563194.

Seaver, N. 2019 « Knowing Algorithms » in J. Vertesi & D. Ribes dir. *digitalSTS. A Field Guide for Science & Technology Studies*. Princeton / London : Princeton University Press.

Steyerl, H. 2014 « Proxy politics. Signal and noise », *e-flux journal* 60.

VanDijck, J. 2013 *The Culture of Connectivity. A Critical History of Social Media*. Oxford : Oxford University Press.

## NOTES

1. Les études sur la science et la technologie ont toujours trouvé dans les moments de dysfonctionnement, de rupture et de panne un élément clé pour rendre visible le fonctionnement des systèmes technologiques. Il est souvent nécessaire d'attendre une panne tragique (et les conflits qui l'accompagnent) pour commencer à réfléchir sur la technologie : « La plupart du temps, la plupart d'entre nous tenons nos technologies pour acquises. Ces méthodes fonctionnent plus ou moins bien, de sorte que nous ne nous demandons pas pourquoi ni comment elles fonctionnent. [...] Les coûts des technologies ont tendance à ne devenir évidents qu'au moment d'une défaillance catastrophique. » (Bijker & Law 1992 - TdA).

2. http://algoglitch.smvi.co.

3. https://fr.wikipedia.org/wiki/Algorithme.

4. On renvoie à la spécification des êtres de la technique proposée par (Latour 2012)

5. Le design « seamless » comme mantra du design des outils, interfaces et services numériques est une notion ancienne et disputée (Chalmers & MacColl 2003). Voir aussi http://www.elasticsearch.com/2013/03/no-to-no-ui.

6. L'astronaute John Glenn explique (1962) : « [Le] terme d'ingénieur que nous utilisions pour décrire certains de nos problèmes était « glitch ». Littéralement, un glitch est une pic ou un changement de tension dans un circuit électrique qui a lieu quand le circuit reçoit soudainement une charge supplémentaire. Vous avez probablement remarqué un affaiblissement des lumières dans votre maison quand vous allumez une lampe ou mettez en route le sèche-linge ou le
téléviseur. Normalement, ces changements de tension sont protégés par des fusibles. Cependant, un glitch est un changement tellement minuscule qu'aucun fusible ne peut s'en protéger. » (Glenn 1962).

7. Le succès de Twitter en a fait un site de recherche particulièrement riche pour les chercheurs intéressés par l'interaction et la diffusion de l'information en ligne. Il présente l'opportunité concrète d'y déployer des recherches socioculturelle empiriques (Burgess & Bruns 2015). Au fil du temps et malgré sa transformation, Twitter est devenu un objet d'étude et une source de données pour les sciences sociales (Rogers 2013), non sans poser des problèmes (Burgess & Puschmann 2014). Plusieurs méthodes et techniques ont été développées pour faire face à sa spécificité politique, technique, rhétorique et culturelle (Van Dijck 2013, Gillespie 2014). Si le volume et la variété de données qui y sont produites rendent Twitter très prisé par des approches quantitatives dites « big data », il est aussi exploité dans des approches de méthodes numériques, souvent associées à la Digital Methods Initiative de l'Université d'Amsterdam (Marres & Weltevrede 2013, Schroeder 2014), où la pertinence des données est plus importante que leur volume. Dans une démarche encore plus qualitative, notre protocole s'est rapproché d'une ethnographie numérique (Marwick 2014), faisant référence à la pratique d'observer et/ou de participer à un groupe ou à une communauté en ligne pendant une période donnée (Hine 2008, Miller 2008).

8. « Le défi des subjectivations computationnelles est de penser *avec et différemment* des autres humains, des autres animaux, des autres organismes, des autres machines – en tissant des relations qui nous subjectivent, à travers les élans de l’abstraction aussi bien qu’à travers le soin des attachements qui nous lient à ce milieu fait d’autres que nous. »

9. Sur laquelle nous reviendrons également dans le dernier chapitre.

10. Pour faire la genèse de son projet de recherche sur la discrimination raciale algorithmique, la chercheuse Latanya Sweeney commence par raconter une anecdote qui met en scène une expérience d'utilisateur : un de ses collègues, masculin et blanc, a googleé « Latanya Sweeney » pour trouver un de ses articles et a remarqué son nom associé par le moteur de recherche à une publicité pour inspecter son casier judiciaire.

11. https://meyerweb.com/eric/thoughts/2014/12/24/inadvertent-algorithmic-cruelty.

12. https://en.wikipedia.org/wiki/December_2017_Southern_California_wildfires.

13. Nom complet Google Home Mini.

14. Le hashtag est un mot-clé cliquable précédé du symbole # et intégré dans le texte d'un tweet. Choisi par l'auteur du tweet, il met celui-ci en lien avec tous les autres qui l'utilisent, faisant ainsi émerger une catégorie vernaculaire.

15. Dans l'univers professionnel du développement informatique, le mot générique employé pour toute panne logicielle est bug. Des systèmes de suivi des bugs permettent aux utilisateurs de rapporter les dysfonctionnements qu'ils rencontrent auprès des développeurs, de décrire des symptômes – notamment préciser les conditions d'apparition, la reproductibilité, les effets, puis les trier pour pouvoir attribuer l'erreur à un code fautif et le corriger.

16. https://www.theverge.com/2018/1/12/16882408/google-racist-gorillas-photo-recognition-algorithm-ai.

17. https://www.wired.com/story/when-it-comes-to-gorillas-google-photos-remains-blind.

18. Le Cambridge Dictionary en ligne illustre justement la définition de workaround par la phrase : « The software still has a few glitches but we've come up with a workaround. » (« Le logiciel a encore quelques problèmes mais nous avons trouvé une solution de contournement. » NdT)

19. Algoglitch et autres méthodes pour un public calculé le 21 avril 2018 à la Gaîté Lyrique, Paris.

20. Durant les dernières décennies, les disciplines du design ont été investies d'une importance sociale croissante et associées à une communauté de plus en plus large, mais hétérogène, de « chercheurs en design ». De nombreux efforts ont été réalisés pour stabiliser les méthodes et pratiques d'une « recherche en design » diverse (Bayazit 2004), irréductiblement organisée
autour de trois pôles qui permettent d'en mesurer la variété des contextes (voir Koskinen et al. s. d., Frayling 1994, Jonas 2007, Frankel & Racine 2010) : une « recherche pour le design » qui informe les activités et processus de design ; une « recherche sur le design » souvent conduite par d'autres disciplines pour décrire les activités de design ; et une « recherche par le design », enquête par la pratique du design qui génère de la connaissance plutôt que des solutions. De plus en plus de méthodes et approches tirées de cette dernière sont incorporées dans la recherche contemporaine en humanités et sciences sociales. Lury & Wakeford (2012) utilisent le terme inventive methods (« méthodes inventives ») pour désigner ces nouvelles approches visant à produire des connaissances en humanités et sciences sociales. Souvent elles ne constituent pas le point final d'une recherche comme le serait une solution de design, mais au contraire son point de départ, une intervention de design. En ce sens, les disciplines du design sont appelées à mettre en œuvre de nouvelles conditions de recherche empirique qui redistribuent l'agentivité dans le processus d'enquête (Marres & Lezaun 2011), en particulier en redéfinissant le rôle du public dans la recherche elle-même (Ricci 2019).

21. « Nous avons besoin d'un terme général pour couvrir les façons à la fois drôles et charmantes de rencontrer la sincérité des objets, et le meilleur terme auquel je puisse penser est allure. » (Graham & Thrift 2007)

## RÉSUMÉS

De suite d'instructions traduites en langage informatique, les "algorithmes" ont été investis d'un sens bien différent depuis qu'ils sont devenus des compagnons quotidiens de nos activités en ligne, et influencent notre vie économique, sociale et politique. Ils sont aussi de vastes assemblages sociotechniques distribués qui comprennent données, plateformes, calculs, hypothèses, monétisation de l'attention, etc., qui reconfigurent l'innovation dans un large éventail d'activités et concentrent un pouvoir dont il est difficile de saisir la nature. La relation entre la société et ses algorithmes est conflictuelle. Par l'intermédiaire d'une méthodologie interdisciplinaire croisant sciences sociales et design, nous cherchons à nous saisir des erreurs commises au quotidien par les technologies de calcul pour en rendre visible certaines caractéristiques, rendre compte de l'expérience des utilisateurs de services numériques qui sont calculés par les algorithmes, et poser les bases d'une éthique de la négociation avec l'agentivité algorithmique. Nous faisons appel à la figure du *glitch* pour convoquer un imaginaire alternatif qui rééquilibre la relation entre intelligence humaine et intelligence artificielle.

From series of instructions translated into programming language, "algorithms" have taken a very different meaning since they became daily companions of online activities and started influencing our economic, social and political life. They are also vast and distributed socio-technical assemblages that comprise data, platforms, computation technologies, hypotheses, attention, etc., reconfigure innovation in numerous fields of activities, and muster a power whose nature is difficult to grasp. The relationship between society and its algorithms is strained. Through an interdisciplinary methodology mixing social sciences and design, we seek to make sense of routine mistakes computation techniques make to foreground some of their features, account for the experience of users of online services who are being calculated by algorithms, and lay the foundations of an ethic of negotiation with algorithmic agencies. We call upon the
figure of the *glitch* to summon an alternative imaginary that rebalances the relation between human intelligence and artificial intelligence.

## INDEX

**Keywords** : algorithm, artificial intelligence, glitch, error, Twitter, ethics, design, sociology

**Mots-clés** : algorithme, intelligence artificielle, glitch, dysfonctionnement, Twitter, éthique, design, sociologie

## AUTEURS

### AXEL MEUNIER

**Axel Meunier** est chercheur associé au médialab de Sciences Po. Sa recherche concerne l'intégration de méthodes de design dans les sciences sociales numériques et la conception de formats de participation du public. Il expérimente des situations de recherche avec des collectifs situés d'humains et de non-humains.

### DONATO RICCI

**Donato Ricci** est designer et chercheur au médialab de Sciences Po. Spécialisé dans l'utilisation des méthodes de design dans les sciences humaines et sociales, il est professeur adjoint de « Representação e Conhecimento » à l'universidade de Aveiro et contribue au programme SPEAP en arts politiques au sein de l'École d'affaires publiques de Sciences Po.

### DOMINIQUE CARDON

**Dominique Cardon** est directeur du médialab de Sciences Po. Ses recherches actuelles proposent de conduire une analyse sociologique des algorithmes du web et des big datas visant à comprendre à la fois la forme interne des calculs et le monde que les calculateurs projettent sur nos sociétés. Il a notamment publié *À quoi rêvent les algorithmes. Nos vies à l'heure des big datas* (2015). Il est membre du comité de rédaction de la revue *Réseaux*, du comité prospective de la CNIL et du conseil scientifique de Wikimédia France.

### MAXIME CRÉPEL

**Maxime Crépel** est sociologue, ingénieur de recherche au médialab de Sciences Po. Ses travaux de recherche portent sur les usages du numérique. Il a participé à plusieurs projets d'étude relatifs aux usages des réseaux sociaux et pratiques de publication de contenus en ligne, aux usages du livre numérique et du téléphone mobile, ainsi qu'aux identités numériques.