# Bienvenue dans la Colonie facebook

Alexandra Saemmer

<figure><img src="image_1.png" /></figure>

OpenEdition
Journals

## Édition électronique

URL : https://journals.openedition.org/hybrid/675

DOI : 10.4000/hybrid.675

ISSN : 2276-3538

## Traduction(s) :

Welcome to the facebook Colony - URL : https://journals.openedition.org/hybrid/680 [en]

## Éditeur

Presses universitaires de Vincennes

## Référence électronique

Alexandra Saemmer, « Bienvenue dans la Colonie facebook », Hybrid [En ligne], 7 | 2021, mis en ligne le 08 avril 2021, consulté le 26 septembre 2023. URL : http://journals.openedition.org/hybrid/675 ; DOI : https://doi.org/10.4000/hybrid.675

Ce document a été généré automatiquement le 26 septembre 2023.

<figure><img src="image_2.png" /></figure>

Creative Commons - Attribution - Partage dans les Mêmes Conditions 4.0 International - CC BY-SA 4.0
https://creativecommons.org/licenses/by-sa/4.0/
# Bienvenue dans la Colonie facebook

## Alexandra Saemmer

### NOTE DE L'AUTEUR

NB. Les affiches de propagande de la Colonie intégrées dans cet article ont été réalisées par le profil de fiction Pavel Karandash.

<figure><img src="image_3.png" /><figcaption>Fig. 1</figcaption></figure>

Page de profil d'Anna-Maria Wegekreuz, initiatrice de *Nouvelles de la Colonie*, dystopie collaborative sur facebook.
La Colonie¹ est notre plate-forme. Nous sommes ses fonctionnaires. Je m'appelle Anna-Maria Wegekreuz et j'exerce, depuis un an et demi, des fonctions de community manager dans l'une des Colonies les plus peuplées du monde, facebook. D'abord greffée sur les activités des profils de fiction animés par Jean-Pierre Balpe, la communauté des Nouvelles de la Colonie s'est progressivement autonomisée. Ce processus ne s'est pourtant pas déroulé sans encombre. En avril 2017, les services de surveillance de la Colonie ont par exemple désactivé mon profil ancêtre, Anna Wegekreuz. Peut-être avait-t-elle pointé avec trop d'insistance les « omissions » concernant le passé nazi de son village natal en publiant en outre des documents d'archive. Les réseaux de neurones informatiques qui, sur facebook, évaluent le degré de « violence » des images publiées sont en effet entraînés pour se mettre en alerte en présence d'insignes nazis. Il n'y a pas de compréhension sans interprétation, et le contexte de réception influe fondamentalement sur la construction du sens. Or, les réseaux de neurones ne peuvent interpréter une image, ils peuvent seulement en déceler les contenus. Une autre explication de la désactivation d'Anna Wegekreuz pourrait être le fait que la plateforme organise, depuis quelques années, des coups de filet réguliers pour éliminer les profils fake. Dans tous les cas, l'incident démontre que nous ne sommes pas propriétaires de cette Colonie pour laquelle nous travaillons en donnant, au jour le jour, des nouvelles sur notre existence.

<figure><img src="image_4.png" /><figcaption>Fig. 2</figcaption></figure>

Le profil ancêtre d'Anna-Maria Wegekreuz a été désactivé par facebook du jour au lendemain, sans préavis, sans possibilité pour l'auteure de récupérer les données.
<figure><img src="image_5.png" /><figcaption>Fig. 3</figcaption></figure>

Illustration des *Nouvelles de la Colonie* par Pavel Karandash.

2 Je récapitule. Nouvelles de la Colonie est une dystopie collaborative sur facebook² qui s'est donné comme objectif de narrer les « conditions d'acceptabilité » de cette plateforme, suivant l'intuition formulée par Marie-José Mondzain que « le colonialisme est devenu la figure mondialement imposée, sous la forme insidieuse d'une pseudo-culture de l'universalité où les industries de la communication combinent habilement terreurs et jouissances »³. Les « fonctionnaires » de la Colonie font travailler les rouages de ce colonialisme à travers eux, comme une fatalité ; en même temps, par la force même de leur imagination, ils tentent de « fragiliser le réel, se réapproprier sa plasticité et faire entrer dans les mots, les images et les gestes la catégorie du possible et la force des indéterminations⁴ ».
<figure><img src="image_6.png" /><figcaption>Fig. 4</figcaption></figure>

Page de profil de Rachel Charlus, participante à *Un monde incertain* de Jean-Pierre Balpe, œuvre construite en partie sur facebook.

3 Nouvelles de la Colonie est inspirée d'Un monde incertain, communauté plus ancienne d'une vingtaine de profils de fiction animée sur facebook par Jean-Pierre Balpe⁵ : les outils de facebook permettent à ces profils, Rachel Charlus par exemple, de simuler une vie au fil de l'actualité quotidienne tout en engageant une réflexion profonde sur la mémoire numérique et sa prise en charge par le dispositif.

4 Cet article est un témoignage de pratique par Anna-Maria Wegekreuz, qui déroule le processus expérimental des *Nouvelles de la Colonie* de l'intérieur, du point de vue d'un profil de fiction animé par son auteure universitaire.

## Architextes de facebook

5 Les dispositifs comme facebook se caractérisent par le fait que la gouvernance des conduites imposée aux usagers et usagères passe par la mise à disposition de savoirs technologiques, dont les participant·es peuvent jouir sans contrepartie financière apparente⁶. Ces savoirs technologiques se matérialisent dans un cadre éditorial qui donne forme aux instantanés de vies et permet de les partager avec d'autres, amis dans la vie ou inconnus.

6 La plupart des participant·es au récit *Nouvelles de la Colonie* se sont rencontrés sur facebook, grâce aux algorithmes qui organisent les individus en communautés. Certain·es d'entre eux ne se sont jamais vu·es « en vrai », malgré un travail d'écriture intense étalé sur deux ans. La création de profils hétéronymes permet d'engager un jeu libérateur avec les marqueurs identitaires. *Nouvelles de la Colonie* tout comme *Un monde incertain* flirtent néanmoins aussi avec le genre de l'autofiction : les spéculations sur la vraie identité des auteurs allaient bon train. Ivan Arcelov a longtemps présumé
qu'Anna-Maria Wegekreuz et Brice Quarante avaient une seule et même auteure, alors que Nathalie Bri Ran a cru que Brice Quarante était Jean-Pierre Balpe, et que le profil d'Ivan Arcelov était le pendant masculin d'Anna-Maria Wegekreuz...

7 Nouvelles de la Colonie et Un monde incertain sont des fictions émergentes, en prise directe avec le temps qui passe. L'identité de Rachel Charlus n'est certes pas inscrite dans le registre civil de Quimperlé, son lieu de résidence déclaré sur facebook. Le choix de ce lieu de résidence ancre néanmoins le personnage dans le réel de son auteur, Jean-Pierre Balpe, qui y a résidé ; par ailleurs, facebook renvoie vers la page officielle de cette ville bretonne dès qu'un profil en fait mention sur son formulaire d'identité. En effet, lors du processus d'inscription, les usagers et usagères sont invité·e·s à renseigner un formulaire détaillé, qui organise une mise en ordre bureaucratique des données personnelles et permet de les rapprocher d'autres entités, communautés linguistiques, géographiques, professionnelles, politiques et confessionnelles.

8 Sur le fil d'actualité des profils de fiction se mettent en place des effets métaleptiques parfois drôles, parfois troublants, par exemple lorsque des profils de fiction ont répondu au safety check proposé par facebook lors des attentats qui ont réellement eu lieu à Paris en novembre 2015. La manipulation physique de l'outil safety check effectuée en direct par le personnage de fiction, qui invitait les lecteurs et lectrices à faire de même, dépasse l'effet de réel⁷ prisé par les réalistes au xIXe siècle. Jorge Luis Borges résume ainsi le trouble du lecteur potentiellement provoqué par la métalepse : « De telles inventions suggèrent que si les personnages d'une fiction peuvent être lecteurs ou spectateurs, nous, leurs lecteurs ou spectateurs, pouvons être des personnages fictifs⁸. »

9 Yves Jeanneret et Emmanuël Souchier appellent « architextes⁹ » les cadres standardisés, prescriptions et injonctions qui, dans les dispositifs numériques, tentent de formater et de guider les pratiques expressives. La mise en forme bureaucratique des signes facilite d'une part le profilage de l'usager individuel, et d'autre part favorise la formation de communautés qui partagent les mêmes goûts et préférences. Les données récoltées permettent le ciblage commercial des usagers et usagères par les industries culturelles, médias et autres entreprises. Pour être efficace, le profilage nécessite cependant que le profil dise vrai. L'un des engagements fondamentaux que l'usager contracte avec facebook est le respect du pacte autobiographique. Facebook n'a pas été mis en place pour écrire de la fiction. Lorsque l'usager adopte un hétéronyme, il joue au chat et à la souris avec l'entreprise pour qui seules importent les traces réelles de vrais gens.

## Exprimez-vous !

10 De multiples injonctions orientent les pratiques expressives sur les réseaux sociaux numériques : « Exprimez-vous », lançait facebook jusqu'à récemment aux usagers et usagères français·es pour les inciter à rédiger un post. Comment, en lisant cette injonction, ne pas penser aux utopies libertaires qui avaient, aux débuts de l'Internet, proclamé que tout le monde allait enfin pouvoir s'exprimer sans entrave grâce à la technologie ? Selon Maud Bonenfant, la formule « Exprimez-vous » se réfère également à une culture séculaire de l'examen de conscience, tel que pratiqué par exemple dans le catholicisme. Pour libérer l'âme, l'examen de conscience nécessite un lieu prescrit et la présence d'une oreille experte. « La vérité sur ses actes et pensées n'est pas seulement
produite par le sujet, mais surtout par l'interprète (un juge, un prêtre, un psychologue) qui fait partie des systèmes de contrôle institutionnels et qui, en tant qu'autorité, instaure une relation de pouvoir avec le sujet¹⁰. » Les architextes encodent ainsi des modèles du monde et systèmes de valeurs.

11 Qu'est-ce qui a motivé facebook à changer la formule en 2020, à s'adresser désormais à l'usager et l'usagère en ces termes : « Que voulez-vous dire ? » La violence du verbe « vouloir » s'est substituée à celle de l'impératif, mais sous-entend peut-être aussi qu'une certaine prudence est désormais de mise lorsque l'usager et l'usagère s'exprime sur cette plateforme, parce qu'elle ou il ne maîtrise pas l'interprétation de ses discours. Les polémiques sur les discours sexistes, racistes et haineux sont passées par là. Face à la pression publique, facebook a mis en place des procédures de signalement et de censure qui ont sonné le glas de l'utopie de l'expression libre. Mais dans la question « Que voulez-vous dire ? » résonne peut-être aussi la conviction exprimée par Yann Le Cun, chercheur et ingénieur chez facebook, que « [l]a détermination d'intention est indispensable pour traiter la recherche d'information¹¹ ».

12 En-dessous de l'espace de saisie des posts, l'onglet « activités » propose des options comme « en train de regarder », « en train de lire », qui à leur tour ouvrent sur des liens vers des productions, des activités, des lieux, des médias. Est également prévue une case commémorative. Anna-Maria Wegekreuz, qui a paramétré son profil facebook en français, est invitée à se souvenir d'« une personne très spéciale », de « tous les moments de bonheur que nous avons vécus ensemble », d'« amis de longue date », ou des « soldats tombés au combat ». Sa marraine Marga Bamberger, qui utilise facebook en allemand, dispose de l'option, surprenante, de se souvenir du « roi ». Ces variations d'options révèlent d'une part ce que facebook sait de ses usagers et usagères, de la communauté linguistique à laquelle elles et ils appartiennent, des goûts et préférences que le profil a manifestés dans le passé. D'autre part, les propositions visent à orienter les usagers et usagères vers des productions déjà prisées dans leur communauté : la lecture du Monde, la dégustation de biscuits Oreo...
<figure><img src="image_7.png" /><figcaption>Fig. 5</figcaption></figure>

Onglet de saisie des posts sur facebook, avec en dessous, différentes propositions préformulées.

13

Le profil sélectionne l'une des activités préformulées, par exemple l'option « recherche du sens de la vie » ; il choisit un lieu qui lui paraît adapté à cette activité, disons par exemple la cathédrale Notre-Dame de Paris ; il y associe un ami, par exemple Ivan Arcelov. Un générateur automatique de textes se charge ensuite de la composition d'un micro-récit : « Anna-Maria Wegekreuz est à la recherche du sens de la vie avec Ivan Arcelov à la Cathédrale Notre-Dame de Paris. » En établissant des cohérences temporelles et logiques, ce générateur de textes prend en charge la production d'un écrit qui s'est autonomisé de l'usager. L'hyperlien inséré sur « le sens de la vie » mène par ailleurs vers la page d'un partenaire commercial, révélant à qui en douterait encore l'objectif final de cette proposition de narrativisation des traces.
<figure><img src="image_8.png" /><figcaption>Fig. 6</figcaption></figure>

Une fois que l'usagère a effectué son choix parmi les options préformulées par facebook, un micro-récit est automatiquement généré et publié sur le fil d'actualité.

14 Une autre tentative de mainmise sur les pratiques expressives se matérialise dans le traducteur automatique de facebook, qui est paramétrable dans un grand nombre de langues (il suffit d'accéder à l'onglet Paramètres). Les traducteurs automatiques traditionnels fonctionnent selon des principes que je me contenterai de présenter très sommairement : ils produisent une traduction à partir de données statistiques, en calculant par exemple le nombre de fois que la phrase « Je te suis corps et âme » en français est traduite en « I am your body and soul » en anglais. Selon Yann Le Cun, les traducteurs nouvelle génération recourent, quant à eux, à des réseaux de neurones informatiques :

> La première couche du réseau de neurones transforme chaque mot, représenté par son index dans le lexique, en un vecteur d'enchâssement par l'intermédiaire d'une couche linéaire LUT (lock-up table). Après entraînement sur des millions de textes, ces vecteurs représentent toute information utile relative aux mots d'entrée. Des mots proches, tels que « chien » ou « chat », seront représentés par des vecteurs similaires¹².

15 Au bout d'un certain temps, et bien sûr en fonction de la richesse de la base textuelle dans laquelle il peut puiser, le système est capable de **prédire** le mot qui suit :

> On présente à l'entrée de la machine un morceau de texte dont certains mots sont masqués et on entraîne la machine à trouver ceux qui manquent. Le système apprend à représenter le sens et la structure du texte simplement en l'entraînant à prédire les mots manquants¹³.
16 Le traducteur de Facebook a été entraîné en outre avec des bases de données open source, comme des délibérations du Parlement européen¹⁴. Mais il fait aussi appel à la participation des usagers et usagères, qui sont invité·e·s à améliorer les performances de l'outil en notant la traduction ou en proposant une alternative. Frederic Kaplan constate qu'une nouvelle forme de « grammatisation » est train de se mettre en place dans ces outils¹⁵. L'on peut, à l'instar de Warren Sack¹⁶, mobiliser la sémiotique peircienne pour appréhender ce processus.

17 Selon Charles Sanders Peirce¹⁷, la relation entre le signe (par exemple le mot « oreille ») et l'objet désigné (l'organe oreille) est médiée par une tierce instance, appelée l« interprétant ». L'interprétant est le point de vue que le signe fait naître chez le récepteur. Ce processus est guidé par les contours matériels du signe, par exemple le tracé du mot « oreille », mais aussi par les modèles de reconnaissance, savoirs institués et systèmes d'appartenance et de croyance que le sujet humain mobilise lorsqu'il perçoit et interprète. L'interprétant introduit des variations dans la construction sociale du sens. Dans des outils comme le traducteur automatique de facebook, cette intermédiation est assurée par des réseaux de neurones qui ne sont autres que des fonctions mathématiques. La dimension sociale n'est pas évacuée, car la traduction la plus adéquate est proposée à partir de calculs effectués sur les traces d'usages sociaux réels de la langue. Néanmoins ces outils posent la question des modèles d'usage qui y sont introduits par le choix des bases textuelles : jusqu'à quel point Anna-Maria Wegekreuz parle comme une députée du Parlement européen lorsqu'elle fait traduire ses posts par facebook ? Plus généralement, il semble nécessaire de questionner les modèles neuroscientifiques de la perception et de la cognition, les modèles du monde qui ont inspiré les récentes évolutions du machine learning – comme Yann Le Cun l'explique par rapport à l'un des systèmes utilisés dans ce domaine, « celui-ci a été entraîné avec de nombreuses phrases, comme “le lait est sur la table”, mais jamais “la voiture est sur la table” »¹⁸.

18 Voici une illustration. Face aux pressions qu'Anna-Maria Wegekreuz dit subir dans la Colonie, le profil Marga Bamberger la rassure en 2018 : « Je te suis corps et âme », énoncé qui, en français, a un double sens parce que le mot « suis » est dérivé soit du verbe « être », soit du verbe « suivre ». L'outil de facebook ne propose que la première option lorsqu'il traduit l'énoncé en anglais : « I am your body and soul ». La traduction alternative, « I follow you with my body and soul », n'apparaît pas.

<figure><img src="image_9.png" /><figcaption>Fig. 7</figcaption></figure>

Proposition du traducteur automatique de facebook à partir de la phrase « Je te suis corps et âme » en 2018.
En 2020, le traducteur a basculé vers une autre proposition qui se rapproche de la traduction alternative mentionnée, mais n'affiche plus la première. Qu'est-ce qui explique cette évolution ? Il faudrait avoir accès aux bases textuelles sur lesquelles l'outil est entraîné depuis deux ans, ce qui est évidemment impossible.

<figure><img src="image_10.png" /><figcaption>Fig. 8</figcaption></figure>

Marga Bamberger I follow you body and soul

J'aime · Répondre · Voir l'original (Français) · 11 min

Proposition du traducteur automatique de facebook à partir de la phrase « Je te suis corps et âme » en 2020.

Ce qui paraît en revanche évident selon Frédéric Kaplan et Warren Sack, c'est qu'en mettant à disposition un traducteur automatique et un générateur de micro-récits, facebook (comme d'autres grandes entreprises du numérique) vise à impulser progressivement une sorte de pidgin dont « la syntaxe et le vocabulaire sont liés aux capacités linguistiques des machines¹⁹ ». Le dispositif assiste l'usager dans ses pratiques expressives selon des prérogatives (modèle de la perception et de la compréhension, modèle du monde encodés dans les algorithmes et formalisés dans le choix des bases de données...) qui ne lui sont pas révélées, et dont l'objectif principal reste de créer un marché linguistique contrôlé.

Pour que ses discours soient exploitables, profitables, le profil doit s'exprimer comme il faut, éviter les fautes d'orthographe et de grammaire, les signes de ponctuation mal placés, les métaphores, l'ironie... Moins l'usager déborde des cadres prévus, mieux le lien pourra s'établir entre ses goûts et les offres commerciales, médiatiques et politiques que le dispositif a prévues pour lui. Le générateur de textes et le traducteur de facebook ne sont que deux outils annonciateurs d'une rationalisation et normalisation galopantes de l'activité scriptuaire, telles qu'elles se manifestent aussi dans les outils d'autocomplétion de Google ou de Grammarly qui écrivent à la place de l'humain en anticipant ses désirs d'expression. « Que voulez-vous dire ? » pourrait dans l'avenir inviter à la formulation d'une intentionnalité dont l'expression sera entièrement prise en charge par la machine.

Anna-Maria Wegekreuz, Ivan Arcelov, Olga Limitrova et Pavel Karandash des Nouvelles de la Colonie s'acharnent sur les outils qui sont mis à leur disposition pour comprendre, par la pratique, ce qui les gouverne sur la plateforme. Elles et ils raisonnent leurs conditions d'existence en créant avec ces outils, tout en se sachant gouvernée-s par les convictions, systèmes de croyance et intérêts économiques du propriétaire du dispositif nommé métaphoriquement Oreille.

Rachel Charlus et Germaine Proust d'Un monde incertain, quant à elles, possèdent leurs propres outils d'expression, développés par leur auteur, Jean-Pierre Balpe. Les maximes, aphorismes et récits qu'elles publient sur facebook sont automatiquement générés, mais suivant des principes différents et sur des serveurs situés hors facebook.
## Complicités, simulations et faux-semblants

24

Pour Jean-Pierre Balpe, l'expérimentation avec la génération automatique de textes, entreprise dès les années 1980, a d'abord été motivée selon ses propres dires par la lutte contre l'idéologie du littéraire, du génie et de l'inspiration²⁰. En déléguant la composition des textes à l'ordinateur, la génération automatique questionnerait, de façon salutaire, le statut de l'auteur : « Enfin on sort du roman linéaire, formaté dont l'auteur-dieu prétend tout maîtriser. » Le constat que la machine se trouve en capacité de produire un texte qui simule le sens mettrait au défi la conception du texte littéraire comme matérialisation d'un « génie créateur ».

25

Au lieu d'écrire le texte final, l'auteur d'un générateur de textes traditionnel compose des dictionnaires de scénarios, des graphes de connaissances, des modes d'expression et des classes de termes : « Le moteur de génération ne produit en effet rien d'autre que des réalisations de surface de résultats de parcours prédéfinis dans des ensembles de données », explique Jean-Pierre Balpe²¹. L'enjeu préalable à l'acte génératif est donc la recherche d'une description conceptuelle générale du fonctionnement de la langue. Chez Jean-Pierre Balpe, cette description s'inspire en outre du modèle structural du signe, qui décrit le lien entre le signifiant et le signifié comme fondamentalement arbitraire. Cette prémisse d'arbitrarité aurait permis de libérer les mots de l'obligation de signifier. « So the word and the senses started to invent a new world of their own, rather than reflect or reproduce existing reality », commente Franco Berardi²². Pour Jean-Pierre Balpe, un récit automatiquement généré tel que les maximes philosophiques de Rachel Charlus²³ ne reflète pas le monde tel qu'il est, mais vise « la simulation d'un fonctionnement linguistique suffisamment crédible pour que le lecteur accepte de le considérer comme vrai²⁴ ».

26

Cependant, la construction sociale du sens est en réalité soumise à de multiples variations – je reviens au modèle de la sémiose par Peirce évoqué plus haut. Contrairement aux générateurs de textes traditionnels, le générateur de textes mis en place par facebook semble prendre en compte certaines de ces variations : il effectue des calculs sur les usages sociaux de la langue en acte sur le dispositif et se caractérise en outre par sa capacité de faire évoluer ses règles, de devenir « auto-organisateur ». Les résultats n'en sont pas moins consensuels, mais ne se présentent pas comme tels. Il ne s'agit plus de faire éclater au grand jour le caractère conventionnel des productions textuelles comme le roman ou la maxime, il s'agit au contraire de le rendre acceptable.

27

Toute démarche de fixer le sens relève d'une stratégie de domination. Mais Jean-Pierre Balpe formate l'expressivité de ses profils de fiction afin de souligner leur artificialité, alors que facebook vise à réguler l'expressivité des humains afin de les rendre conformes à son modèle du monde.

## La gouvernance par le consensus

28

« All people want to connect. » Pour Mark Zuckerberg, seule la communauté peut donner sens à la vie d'un individu parce qu'elle lui suggère qu'il fait partie d'un projet plus grand qui le dépasse²⁵. Le fondateur de facebook a longtemps cru que les usagers allaient se regrouper automatiquement autour de valeurs positives à partir du moment où la plateforme leur fournissait un outil participatif performant, accueillant et smart.
Face aux divisions et polarisations qu'il considère comme négatives peu importe leur raison d'être, le dirigeant de facebook souhaite rassembler l'humanité dans un espace commun : un espace où la haine, la violence, et plus généralement toute forme de conflictualité se trouvent non pas forcément bannies, mais invisibilisées.

29 Ces derniers temps, l'entreprise a décidé de donner quelques coups de pouce volontaristes à la réalisation de cet objectif. Gustavo Gomez-Mejia parle d'une « économie morale des écrans²⁶ » pour qualifier les multiples processus qui poussent l'usager à évincer toute trace de dysphorie de son mur: il peut effacer les commentaires dérangeants, dénoncer, bloquer, bannir les harceleurs et trolls, mais aussi les simples contradicteurs... Un grand nombre d'éléments de l'architexte actuel incarnent cette l'idée que les point de vue marginaux ne résisteront pas au consensus de la foule. La prétention démocratique de ces outils assoit une gouvernementalité d'apparence soft, qui oriente les pratiques sans pour autant avoir l'air d'imposer le point de vue des gouvernants.

30 Bien sûr, cette fabrique de consensus s'explique d'abord par les intérêts marchands de l'entreprise : la formation de communautés fait émerger l'engouement pour des produits littéralement mainstream, comme les biscuits Oreo que je suis censée manger si je me fie aux activités préfigurées pour moi, Anna-Maria Wegekreuz, par la plateforme. D'autres motivations se dessinent pourtant dans les discours de Mark Zuckerberg. Les ennemis déclarés de l'entreprise ne sont pas seulement les extrémistes, les exhibitionnistes, les producteurs de fake news, mais toutes celles et ceux qui cultivent l'incertitude et créent du dissensus. L'insistance sur les valeurs communautaires prend parfois, dans les discours de Zuckerberg, des accents messianiques et me fait croire que facebook est plus qu'une plateforme d'édition, de partage et d'exploitation des données, mais matérialise la figure d'un colonialisme tel que défini par Marie-José Mondzain citée plus haut. La régulation algorithmique des pratiques humaines de la langue constitue un pas vers la réalisation de ce projet, dans lequel l'entreprise a massivement investi ces dernières années.

31 Que peut une littérature engagée, un art politique de la langue, face aux outils de normalisation et de rationalisation de ce projet ?

## Tentatives d'insurrection

32 La littérature peut, pour commencer, mettre à l'épreuve les contours, les potentialités et les tares de la gouvernementalité facebook. Les profils de fiction expérimentent la possibilité de s'inventer sur cette plateforme, malgré les restrictions formulées dans les conditions d'usage et parfois mises à exécution sans le moindre recours possible ; ils écrivent à plusieurs, de façon instantanée, grâce au techno-savoir de l'Oreille, réagissent aux événements qui émeuvent la société au jour le jour et s'en laissent affecter jusqu'à changer le cours de l'histoire, s'écrivent sans fin, peuvent être questionnés par les lecteurs pendant et au-delà du cours de l'histoire racontée.

33 Lorsque, dans *Un monde incertain*, Rachel Charlus utilise l'une des fameuses applications « oracle » pour calculer son apparence dans quelques décennies, son portrait artificiellement vieilli fait d'abord sourire parce qu'il pose la question, paradoxale, du vieillissement d'un personnage de fiction. L'objectif des oracles diffusés sur facebook étant par ailleurs de récupérer les données personnelles du profil, le lecteur peut se
demander comment les goûts et préférences du personnage seront intégrés dans les statistiques que les producteurs de ce genre d'applications élaborent à partir des traces. Mais le résultat de l'oracle reproduit ci-contre est saisissant aussi parce qu'il effectue une conversion automatique d'un portrait peint qui assume son statut de représentation, vers une image photographique d'apparence « sans filtre ». Or, le réseau de profils de fiction d'Un monde incertain thématise de façon de plus en plus insistante la vieillesse et la mort, comme si l'auteur, âgé en 2020 de 77 ans, essayait à la fois d'anticiper et de conjurer les conséquences par sa production prolifique de traces.

<figure><img src="image_11.png" /><figcaption>Fig. 9</figcaption></figure>

Rachel Charlus, profil de fiction, passe l'un des multiples « tests » proposés par les partenaires de facebook. Présentés pour certains comme un oracle, ces tests demandent à l'usager et l'usagère d'autoriser l'accès à ses données personnelles.

34

Dans *Nouvelles de la Colonie*, l'Oreille promet à ses usagers et usagères l'éternité en échange de leurs traces : nous avons imaginé à l'inventeur de la Colonie un idéalisme qui ne contredit pas pour autant la primauté des objectifs financiers de la structure qu'il a fondée. L'Oreille est cependant elle-même gouvernée par des entreprises du hardware qui font tourner la plateforme. Les fonctionnaires de la Colonie, Anna-Maria Wegekreuz, Ivan Arcelov, Pavel Karandash et Olga Limitrova ne se font guère d'illusion sur la conservation de leurs traces après la mort. Leurs expérimentations visent plutôt, par ingénierie inversée, à cerner les zones d'ombre et failles du système. Ils essaient de saisir les modèles du monde qui soutiennent les outils, les structures algorithmiques et, surtout, la structure des bases de données servant à l'entraînement des réseaux de neurones qui innervent la structure profonde de facebook.

35

*Un monde incertain* est une utopie : l'espoir d'une survie des traces après la mort de l'auteur prime sur le risque d'exploitation et de marchandisation ; la force de frappe économique de l'entreprise nourrit l'espoir d'éternité. *Nouvelles de la Colonie* est une
dystopie : la plateforme y agit comme une « anti-mémoire sans oubli27 », qui décontextualise les traces personnelles et leur enlève tout sens autre qu'épisodique ; les enchaînements logico-temporels de l'histoire racontée se trouvent brisés par leur agencement sur le fil d'actualité, régi par les logiques « d'une rentabilisation industrielle et d'une captation de la valeur ajoutée28 ».

36 Certes les fonctionnaires de la Colonie s'emploient à détourner les règles coloniales une fois comprises. L'usager idéal écrit comme un téléopérateur de l'Oreille ; il adopte les outils de la gouvernementalité linguistique pour ne pas perturber les dispositifs de sousveillance, n'opposer aucun obstacle à l'exploitation automatique de ses traces. Anna-Maria et Brice parsèment leurs écritures d'impuretés typographiques : un glitch, un point d'exclamation dédoublé, un espace blanc de trop, des lettres démultipliées ; ils s'essaient aux crypto-langages29 pour contrer, à l'image d'autres militant·es sur les réseaux, les normes imposées aux pratiques expressives par la plateforme. Certaines de ces tactiques laissent des traces dans le code, ralentissent son exécution ; certaines rendent le texte intraduisible, donc effectivement inexploitable pour les services de l'Oreille. Les pouvoirs de l'Oreille s'avèrent donc limités car, à l'image de ses réseaux de neurones cantonnés à la perception mais incapables d'interprétation, elle n'arrive pas à comprendre de travers : son modèle du monde l'en empêche.

37 Les fonctionnaires de la Colonie essaient d'échapper à la gouvernementalité de la plateforme en mobilisant des tactiques du faible. Dans les marges de manœuvre, certes étroites, laissées par les contraintes de l'architexte et la structure algorithmique de facebook s'expérimentent des micro-résistances, s'exprime l'intuition que la normalisation et la rationalisation de la langue pourrait être perturbée par une réinvention furtive de la langue³⁰.

38 La suite des Nouvelles de la Colonie pourrait être l'utopie d'une vie déconnectée en dehors ; celle-ci est en voie d'écriture en ce moment même (une version « papier » de l'œuvre paraîtra chez publie.net en 2022).

<figure><img src="image_12.png" /><figcaption>Fig. 10</figcaption></figure>

### Pesée des critères (extrait de Nouvelles de la Colonie)

Publié par Anna-Maria Wegekreuz | 16 mars 2018

Arriva, de nouveau, la période du Rapport individuel. Le cœur battant, je commençais à remplir le formulaire d'Introspection sur l'Outil de réflexion.

La procédure était complexe. La pesée des Critères était exécutée d'abord à la main, par des prolétaires affectifs installés au sous-sol de la Tour, avant d'être renvoyée au Service de Propagande qui, par tri automatique des données, formulait une première recommandation concernant le taux d'adhésion du candidat au Projet d'Optimisme Généralisé décrété par l'Oreille. L'Outil de réflexion installé dans toutes les cellules des usagers non primés, dont la mienne, renvoyait à son tour un rapport concernant le respect des trois Règles dont l'Oreille seule connaissant la pondération. Le candidat recevait ensuite un premier rapport provisoire, auquel il devait réagir au moment même de la réception, devant son Outil de réflexion, en manifestant ses émotions avec la plus grande spontanéité. Le taux de correspondance entre l'évaluation objective par le système et l'introspection subjective par le candidat, était transmis à l'Oreille.

Même si l'entretien personnel avec l'Oreille dans la cabine de confession constituait
l'étape décisive, il fallait s'appliquer, avec foi et détermination, dès les premières saisies du Rapport. Je pris un Colonium, par précaution. Mon rythme cardiaque ralentissait instantanément.

« Direction de la Fraction droite de la Tour depuis janvier. Élaboration du Grand Doute : en cours », tapai-je dans la case des Hautes Tâches Structurantes. J'appuyai sur la touche enregistrer. Le système me renvoya un message d'erreur : « Date exacte exigée : 00/00. » « Direction de la partie droite de la Tour depuis 14/01. Élaboration du Grand Doute : en cours », corrigeai-je. J'appuyai sur la touche enregistrer. Le système me renvoya un message d'erreur : « Le mot Doute est inconnu. Recommencez la saisie en sélectionnant un mot dans le menu déroulant. » « Direction de la partie droite de la Tour depuis janvier. Élaboration de la Grande Sinusoïdale : en cours. » J'appuyai sur la touche enregistrer. Je vis que l'écran d'introspection privé sur ma table de nuit s'alluma. Des oiseaux se dispersaient dans le ciel, un palmier s'inclinait. Copok, l'agent secret avec qui je correspondais en cachette depuis des mois, passa dans la nuit sans montrer son visage. Je savais pourtant que c'était lui. Je savais aussi que ce n'était pas le moment de communier avec lui.

Je retournai vers l'Outil de réflexion. « Évaluez votre taux de responsabilité pour cette tâche. » Sans la moindre hésitation, je sélectionnai « très élevé ». J'appuyai sur la touche enregistrer. « Vous avez surévalué l'importance de la tâche : recommencez », répondit le système. Avait-il calculé la même réponse pour le Guide suprême qui, l'année dernière, avait été primé par l'Oreille en récompense de la direction de la Tour ? A moins qu'un autre critère prévalait dans l'attribution de la Prime ? Je regardai droit dans le formulaire, sachant bien que chaque mouvement de mes yeux était enregistré. J'effectuai ainsi mon auto-évaluation en mobilisant mon application, comme indiqué dans le mode d'emploi. Je sélectionnai « moyen » pour réévaluer mon taux de responsabilité. J'appuyai sur la touche enregistrer. Dès qu'apparut le message « validé », je regrettai mon choix. Mais la détection d'une trace d'hésitation aurait été encore plus préjudiciable que ce mauvais choix, désormais enregistré.

« Un message sera envoyé à vos Affiliés pour évaluer leur taux de satisfaction », afficha le système. De nouveau, cette réponse me piqua à vif. J'aurais dû convoquer mes affiliés au préalable, leur faire des promesses, leur distribuer des goodies. Je commençais à comprendre comment le Guide suprême avait obtenu sa Prime.

« Vous devez disparaître », tel fut le message renvoyé par l'écran d'introspection privé qui se ralluma de nouveau sur ma table de nuit. « Qui es-tu pour me parler ainsi », demandai-je à Copok. Je connaissais la réponse. Je repensais à ma conversation avec Ivan Arcelov la semaine dernière : Lui aussi avait compris qui, en vérité, me parlait depuis des mois en secret. « Il doit y avoir une alternative à la disparition », murmurai-je. L'agent secret m'envoya, pour toute réponse, une suite de chiffres et de lettres. Il prenait des précautions. « Renseignez vos indicateurs de suivi spécifiques », m'ordonna le système sur l'Outil de réflexion. S'ouvrit un tableau de calcul qu'il fallait, de toute évidence, renseigner avec des chiffres que j'avais, je m'en rendais compte avec effroi, omis de collecter. « Index de pollinisation de vos Tâches structurantes au niveau du site. » Dans le doute, je sélectionnai « 100 % ». « Tout index au-dessus de 50 % doit être justifié par des appareils de preuves », me répondit le système.

« Index de connectivité psycho-sociale », afficha le système. Je saisis d'emblée « 50 % », sachant que toute rectification après coup laissait une trace préjudiciable dans le système. C'était hélas seulement après avoir appuyé sur le bouton enregistrer que je découvris la petite note, en dessous de la case : « Critère laissé à l'entière appréciation du candidat, et ne nécessitant aucune justification complémentaire par des appareils de preuve. »

« ? àl setê suoV ? », lançai-je en direction de l'écran d'introspection privé, toujours allumé, mais où les images de Brice Copok avaient disparu. « .ssenippah eurt setaerc tahw si esopruP », répondit l'écran. « zednopér iuq suov sap tse'n eC », m'inquiétai-
je. De nouveau, l'écran répondit dans le crypto-langage dont j'avais convenu avec l'agent secret pour échapper à la surveillance de l'Oreille : « .dootsrednusim eb ot deraperp eb tuB .citsilaedi eb ot doog s'tl. » « ṁiúlɛ́ » », m'écriai-je, poussée dans mes derniers retranchements. S'il était encore là, Copok allait comprendre et voler à mon secours.

Au lieu de cela, l'Outil de réflexion s'éteignit puis se ralluma. Apparut l'Oreille en personne : « Le mot Doute n'existe pas. » Après un moment de silence, elle poursuivit : « En revanche, vous pouvez choisir de disparaître. Au cas où : Brice Copok vous a précédée. » Puis, pour la première fois de mon existence dans la Colonie, j'entendis l'Oreille ricaner.

Pétrifiée, je regardai mon happiness-level chuter en direct sur l'Outil de réflexion. « Temps de saisie : dépassé. État du Rapport : incomplet. » « Validation : par défaut. » J'étais fichue.

Dehors, dans la cour, Al' balayait les feuilles mortes. Je me mis en route vers la Villa Shekinah.

## BIBLIOGRAPHIE

Balpe, Jean-Pierre, « Du parcours hypertexte à la génération automatique ». [En ligne] http://articlesdejpbalpe.blogspot.fr/2013/03/du-parcours-hypertexte-la-generation.html [consulté le 24 mars 2020].

Berardi, Franco, *The Uprising. On Poetry and Finance*, South Pasadena, semiotext(e), 2013, p. 28.

Bonenfant, Maud, « Qu'est-ce que la critique focaldienne ? », in Aubin, France et Rueff, Julien (dir.), *Perspectives critiques en communication*, Québec, Presses de l'Université du Québec, 2016, p. 55-74.

Damasio, Alain, *Les Furtifs*, Paris, La Volte, 2019.

Foucault, Michel, *Dits et écrits III* [1976-1979], Paris, Gallimard, 1994.

Gomez-Mejia, Gustavo, *Les Fabriques de soi ? Identité et industrie sur le web*, Paris, Mkf, 2016, p. 22.

Guez, Emmanuel et Saemmer, Alexandra (dir.), *I love to spam. Actes du colloque « Art, littérature et réseaux sociaux », 22-27 mai 2018, CCI Cerisy-la-Salle*. [En ligne] http://art-et-reseaux.fr [consulté le 29 mars 2021].

Jeanneret, Yves et Souchier, Emmanuël, « L'énonciation éditoriale dans les écrits d'écran », *Communication et langages*, n° 145, 2005, p. 3-15.

Kaplan, Frédéric, « Nos langues à l'heure du capitalisme linguistique », 12 avril 2012. [En ligne] https://fkaplan.wordpress.com/tag/capitalisme-linguistique/ [consulté le 24 mars 2020].

Le Cun, Yann, *Quand la machine apprend. La révolution des neurones artificiels et de l'apprentissage profond*, Paris, Odile Jacob, 2019.

Peirce, Charles Sanders, *Collected Papers*, Cambridge, Harvard University Press, 1931-1958.

Sack, Warren, « Une machine à raconter des histoires : Propp et les software studies », *Les Temps modernes*, vol. 676, n° 5, 2013, p. 216-243.
Saemmer, Alexandra, « Le parler fransais des Gilles et John. Enquête sur les crypto-langages militants au sein des plateformes », *Hermès*, n° 84, 2019, p. 131-137.

Saemmer, Alexandra, « De l'architexte au computexte. Poétiques du texte numérique, face à l'évolution des dispositifs », *Communication et langages*, n° 203, 2020, p. 97-112.

Yvon, François, « Les principes de la traduction automatique statistique », présentation réalisée le 11 mai 2016. [En ligne] https://docplayer.fr/68388302-Les-principes-de-la-traduction-automatique-statistique.html [consulté le 24 mars 2020].

Yvon, François, « La nouvelle traduction instantanée », *EcoRéseauBusiness*, 8 septembre 2017. [En ligne] https://www.ecoreseau.fr/tech/transformation-digitale/2017/09/08/7142-nouvelle-traduction-instantanee/ [consulté le 24 mars 2020].

## NOTES

1. Une version de ce texte a été présentée à l'université de Lancaster durant le colloque Multilingual digital autorship, organisé par Erika Fülöp, le 8 mars 2018, puis au colloque de Cerisy Art, littérature et réseaux sociaux, au Centre culturel international de Cerisy, le 21 mai 2018. [En ligne] https://art-et-reseaux.fr/bienvenue-dans-la-colonie-%e2%80%a8enjeux-de-limperialisme-algorithmique-et-tentatives-dinsurrection/ [consulté le 24 mars 2020].

2. [En ligne] https://www.facebook.com/NouvellesDeLaColonie/ [consulté le 24 mars 2020]. Les archives de la Colonie sont consultables à partir de l'adresse https://www.facebook.com/anna.wegekreuz/ [consulté le 24 mars 2020].

3. Marie José Mondzain, *K comme Kolonie. Kafka et la décolonisation de l'imaginaire*, Paris, La fabrique, 2020, p. 12.

4. Marie-José Mondzain, *K comme Kolonie. Kafka et la décolonisation de l'imaginaire*, Paris, La fabrique, 2020, p. 16.

5. [En ligne] http://www.balpe.name/Philosophie-de-Rachel-Charlus/ [consulté le 24 mars 2020].

6. Je m'appuie dans cet article sur la définition du « dispositif » par Michel Foucault, *Dits et écrits III* [1976-1979], Paris, Gallimard, 1994.

7. Roland Barthes, « L'effet de réel », *Communications*, n° 11, 1968, p. 84-89.

8. Jorge Luis Borges, *Enquêtes*, Paris, Gallimard, 1957, p. 85.

9. Yves Jeanneret et Emmanuël Souchier, « L'énonciation éditoriale dans les écrits d'écran », *Communication et langages*, n° 145, 2005, p. 3-15.

10. Maud Bonenfant, « Qu'est-ce que la critique focaldienne ? », in France Aubin et Julien Rueff (dir.), *Perspectives critiques en communication*, Québec, Presses de l'Université du Québec, 2016, p. 55-74.

11. Yann Le Cun, *Quand la machine apprend. La révolution des neurones artificiels et de l'apprentissage profond*, Paris, Odile Jacob, 2019, p. 236.

12. Yann Le Cun, *Quand la machine apprend. La révolution des neurones artificiels et de l'apprentissage profond*, Paris, Odile Jacob, 2019, p. 236.

13. Yann Le Cun, *Quand la machine apprend. La révolution des neurones artificiels et de l'apprentissage profond*, Paris, Odile Jacob, 2019, p. 311.

14. Voir les précisions de Yann Le Cun dans son ouvrage *Quand la machine apprend. La révolution des neurones artificiels et de l'apprentissage profond*, Paris, Odile Jacob, 2019, p. 277 : « Pour améliorer notre algorithme de traduction, nous employons entre autres des données du Parlement européen qui regroupe toutes les sessions parlementaires dans les différentes langues de la CE. »
15. Frederic Kaplan, « Nos langues à l'heure du capitalisme linguistique », 12 avril 2012. [En ligne] https://fkaplan.wordpress.com/tag/capitalisme-linguistique/ [consulté le 24 mars 2020].
16. Warren Sack, « Une machine à raconter des histoires : Propp et les software studies », *Les Temps modernes*, vol. 676, n° 5, 2013, p. 216-243.

17. Charles Sanders Peirce, *Collected Papers*, Cambridge, Harvard University Press, 1931-1958.

18. Yann Le Cun, *Quand la machine apprend. La révolution des neurones artificiels et de l'apprentissage profond*, Paris, Odile Jacob, 2019, p. 238.

19. Frédéric Kaplan, « Nos langues à l'heure du capitalisme linguistique », 12 avril 2012. [En ligne] https://fkaplan.wordpress.com/tag/capitalisme-linguistique/ [consulté le 24 mars 2020].

20. Jean-Pierre Balpe, « Du parcours hypertexte à la génération automatique ». [En ligne] http://articlesdejpbalpe.blogspot.fr/2013/03/du-parcours-hypertexte-la-generation.html [consulté le 24 mars 2020].

21. Jean-Pierre Balpe, *post* sur facebook, 6 mars 2017.

22. Franco Berardi, *The Uprising. On Poetry and Finance*, South Pasadena, semiotext(e), 2013, p. 28.

23. [En ligne] http://www.balpe.name/Philosophie-de-Rachel-Charlus [consulté le 24 mars 2020].

24. Jean-Pierre Balpe, « Du parcours hypertexte à la génération automatique ». [En ligne] http://articlesdejpbalpe.blogspot.fr/2013/03/du-parcours-hypertexte-la-generation.html [consulté le 24 mars 2020].

25. « We all get meaning from our communities. Whether our communities are houses or sports teams, churches or music groups, they give us that sense we are part of something bigger, that we are not alone; they give us the strength to expand our horizons » : discours de Mark Zuckerberg à l'Université de Harvard en mai 2017. [En ligne] https://news.harvard.edu/gazette/story/2017/05/mark-zuckerbergs-speech-as-written-for-harvards-class-of-2017/ [consulté le 24 mars 2020]; *post* de Mark Zuckerberg sur facebook le 19 janvier 2018 : « There's too much sensationalism, misinformation and polarization in the world today. That's why it's important that News Feed promotes high quality news that helps build a sense of common ground. » [En ligne] https://www.facebook.com/zuck/posts/10104445245963251 [consulté le 24 mars 2020].

26. Gustavo Gomez-Mejia, *Les Fabriques de soi ? Identité et industrie sur le web*, Paris, Mkf, 2016, p. 78.

27. Louise Merzeau, « L'intelligence des traces », *Intellectica – La revue de l'Association pour la recherche sur les sciences de la cognition (ARCo)*, vol. 1, n° 59, 2013, p. 115-135. [En ligne] https://halshs.archives-ouvertes.fr/halshs-01071211/file/Merzeau-Intellectica-intelligence-des-traces.pdf [consulté le 15 juillet 2020].

28. Emmanuël Souchier, Étienne Candel et Gustavo Gomez-Mejia (coll. Valérie Jeanne-Perrier), *Le Numérique comme écriture*, Paris, Armand Colin, 2019, p. 104.

29. Voir Alexandra Saemmer, « Le parler fransais des Gilles et John. Enquête sur les crypto-langages militants au sein des plateformes », *Hermès*, n° 84, 2019, p. 131-137 ; Ead., « De l'architexte au computexte. Poétiques du texte numérique, face à l'évolution des dispositifs », *Communication et langages*, n° 203, 2020, p. 97-112.

30. J'utilise le concept de la furtivité dans le sens poétique que lui donne Alain Damasio dans son roman *Les Furtifs*, Paris, La Volte, 2019.

## RÉSUMÉS

Nouvelles de la Colonie est un récit dystopique sur facebook qui narre les « conditions d'acceptabilité » de cette plateforme. Les « fonctionnaires » de la Colonie, cinq profils « de fiction » créés dans le cadre de ce projet et entretenus sur la plateforme pendant un an par leurs
auteurs à un rythme quasi quotidien, ont fait travailler les rouages industriels de la plateforme à travers eux, comme une fatalité ; en même temps, par la force même de leur imagination, ils ont tenté d'échapper au moins épisodiquement à cette fatalité, de se l'approprier ce réel. *Nouvelles de la Colonie* est inspirée du *Monde incertain*, une communauté plus ancienne d'une vingtaine de « profils de fiction » animée sur facebook par Jean-Pierre Balpe : là aussi, les outils de la plateforme permettent à ces profils, Rachel Charlus par exemple, de simuler une vie au fil de l'actualité quotidienne tout en engageant une réflexion profonde sur la mémoire numérique et sa prise en charge par le dispositif. Cet article est un témoignage de pratique par Anna-Maria Wegekreuz, qui essaie de dérouler le processus expérimental du projet de l'intérieur, du point de vue d'un profil de fiction animé par son auteure.

# INDEX

**Mots-clés :** numérique, réseaux sociaux, facebook, dystopie, colonialisme, fiction

## AUTEUR

### ALEXANDRA SAEMMER

Alexandra Saemmer est professeure des universités en sciences de l'information et de la communication au laboratoire CEMTI de l'université Paris 8. Ses recherches portent sur la construction du sens par l'humain et par la machine. Publications récentes : « Poétiques du crypto-texte », MEI n° 50, 2020, p. 33-45 ; « De l'architexte au computexte. Poétiques du texte numérique, face à l'évolution des dispositifs », *Communication et langages*, n° 203, 2020, p. 97-112 ; avec Nolwenn Tréhondart, « Remonter aux motivations sociales et politiques du regard. Éléments d'une méthode en sémiotique sociale », MEI n° 49, p. 101-113 ; « La capture du langage humain par le capitalisme linguistique des plateformes », *Les Cahiers du numérique*, vol. 14, n° 3, 2018, p. 151-172 ; avec Nolwenn Tréhondart (dir.), *Livres d'art numériques, de la conception à la réception*, Paris, Hermann, 2017 ; *Rhétorique du texte numérique*, Lyon, Presses de l'ENSSIB, 2015.