# Ouverture et visibilité à l'ère de l'intelligence artificielle : enjeux pratiques et réflexions théoriques

## Le cas de Wikipédia

Delphine Montagne, URFIST de Lyon

Colloque Les presses universitaires et l'édition numérique ouverte : bilan et perspectives

Mardi 5 novembre 2024

Merci pour l'invitation à cette table-ronde, je vais commencer par présenter d'où je parle. Je suis wikimédienne en résidence à l'URFIST de Lyon, soit une personne qui connaît bien les projets wikimédia. Je le suis pour un an : il y a quelques mois j'étais ingénieure d'études dans un laboratoire de recherche comme cartographe. J'ai contribué sur des projets comme OpenStreetMap ; les Story Map présentées cette après-midi utilisent ces données, et depuis 2020 je participe à Wikipédia. On a parlé hier des « personnes chauve-souris », à la fois mammifère et un peu oiseau, chez nous pour ce type de profil on parle plutôt de couteau-suisse. Je ne suis donc pas éditrice et encore moins spécialiste de l'IA. Cette présentation sera donc une synthèse de ce que j'ai pu lire dans les publications et de mon expérience sur les projets Wikimédia.

## Définition

Rappel qu'il n'y a pas que Wikipédia : j'aborderai également Wikidata et Commons.

## Sur quoi se construit l'IA

- L'IA se construit beaucoup sur des corpus libres, et depuis longtemps.

Les articles Wikipédia sont en licence creative commons (licences qui nous ont été présentées cette après-midi) sont sourcés, mis à jour, sans limite de consultation ce qui intéresse beaucoup les IA<fnref n="1" />. Surtout on est une synthèse de l'existant, donc issues de sources de qualité. On ne fait pas de travail inédit comme les publications scientifiques. On s'appuie sur les ouvrages des BU notamment celle d'Aurore Cartier.

- Sur Wikidata<fnref n="2" /> (et depuis bien avant l'ère de ChatGPT)

- Sur Commons avec de nombreuses images libres de droit

- Sur GitHub pour les corpus informatiques

- Sur des publications scientifiques (produites en majorité gratuitement)

- Sur des corpus en libre-accès, donc sur leur numérisation (parfois avec des fonds publics). Corpus qui sont indexés et ouverts au moissonnage.

<figure><img src="image_1.png" /></figure>

Sans internet l'IA n'aurait jamais vu le jour, mais sans les projets libres, l'IA n'existerait pas

<figure><img src="image_2.png" /></figure>

Le code n'est pas public alors qu'il s'appuie sur des briques libres

<footnote n="1">¹ https://www.clubic.com/pro/blog-forum-reseaux-sociaux/wikipedia/actualite-478366-wikipedia-est-elle-en-danger-a-cause-de-l-ia.html</footnote>

<footnote n="2">² https://bibbase.org/network/publication/doutreix-bouchereau-wikidataetlesgafampartenariatetappropriationdesdonnespourledveloppementdassistantspersonnelsintelligents-2021</footnote>
↔ Phénomène de fermeture, fermeture du code, fermeture des corpus utilisés, fermeture des sources mobilisées, fermeture aux projets libres qui en sont issus. Ce que l'on peut rapprocher de la prédation de biens communs, ici un cas particulier, un commun numérique.

## Comment Wikipedia impacte l'IA

La neutralité de point de vue se retrouve dans les textes puisqu'ils ont été entraînés là-dessus.

Wikipédia a des biais : sexistes, géographiques que l'on retrouvera sur l'IA.

Toutefois l'IA mentionne les limites de Wikipédia → rôle d'éducation<fnref n="3" />

## Les dangers de l'IA pour les projets comme Wikipédia

Respecter les 5 principes fondateurs.

=> risque d'hallucinations (=> travail inédit, interdit par Wikipédia). Même en citant Wikipédia des informations fausses sont parfois mentionnées par les IA... Et Wikipédia ne cite pas Wikipédia dans ses sources (sinon serpent qui se mord la queue)<fnref n="4" />.

=> Utilisations de l'IA dans les discussions entre contributeurs et contributrices (=> pas de respect des règles de savoir-vivre, un principe fondateur)<fnref n="5" />. C'est long à détecter, surtout quand la personne est de mauvaise foi (or sur Wikipédia on suppose la bonne foi en premier) et ne le reconnaît pas. Cela conduit également à de la méfiance envers les uns et les autres sur les contributions faites sur Wikipédia. Or la confiance est la base sur Wikipédia pour pouvoir avancer ensemble et la confiance est importante pour les personnes qui le lisent.

=> A titre personnel je préférerai que l'IA mette en forme la bibliographie et ne s'occupe pas du travail créatif. C'est ce qu'elle fait le moins bien.

- Baisse de la fréquentation de Wikipédia (est-ce dû à l'IA ?) : les personnes préfèreraient poser des questions plutôt que lire tout un article<fnref n="6" />. Or, sur Wikipédia le lecteur est aussi la personne qui rédige, corrige et créé des photos. Il y a un risque de perte de notre future base de contributeurs et contributrices. Sauf que nous on ne collecte pas, illégalement parfois, des données personnelles.

Les GAFAM financent les communautés libres : par des dons, par des bourses, par des mises à disposition de personnels sur des appels à projets qui font que les GAFAM orientent au moins pour partie les projets ouverts<fnref n="7" />.

Phénomène de serpent qui se mord la queue<fnref n="8" />.

<footnote n="3">³ https://en.wikipedia.org/wiki/Wikipedia:Using_neural_network_language_models_on_Wikipedia</footnote>

<footnote n="4">⁴ https://affordance.framasoft.org/2024/08/moteur-recherche-intelligence-artificielle/</footnote>

<footnote n="5">⁵</footnote>

<footnote>https://fr.wikipedia.org/wiki/Projet:Observatoire_des_IA/R%C3%A8glementation/Contr%C3%B4le_des_textes_g%C3%A9n%C3%A9r%C3%A9s_par_IA</footnote>

<footnote n="6">⁶ https://www.clubic.com/pro/blog-forum-reseaux-sociaux/wikipedia/actualite-478366-wikipedia-est-elle-en-danger-cause-de-l-ia.html</footnote>

<footnote n="7">⁷ https://www.telecom-paris.fr/fr/ideas/communs-logiciels-defis-libre-open-source</footnote>

<footnote n="8">⁸ https://creativecommons.org/2024/07/24/preferencesignals/</footnote>
Comment la communauté Wikipédia en français utilise l'IA

Avec prudence !9 C'est débattu, régulièrement sur l'espace communautaire de Wikipédia, le bistro<fnref n="10" />.
Création d'un observatoire des IA en octobre 2024¹¹. Les actions sont récentes en ce sens, postérieures
à la réunion de préparation de cette table tonde. Comme il y a des hallucinations, l'IA invente des
choses, en mélange avec d'autres, invente des références ou met des références sans lien avec le sujet.
Problèmes de copyright aussi<fnref n="12" />.

-> Wikipédia peut se tromper mais c'est indiqué noir sur blanc qu'il faut vérifier les sources : « ne nous faites pas confiance ». Grâce à la transparence, on peut savoir qui a écrit les éléments faux. On peut bannir les personnes qui ne respectent pas les règles et au contraire favoriser la création de contenu. On donne la possibilité de corriger. Pas les IA.

Wikipédia pourrait faire le choix de laisser des informations non sourcées. Mais Wikipédia à travers sa patrouille, des personnes comme vous et moi qui surveillent les contributions, a fait le choix de supprimer ces informations non sourcées, même quand c'est probable.

Par contre on utilise des robots qui vont s'occuper des problèmes triviaux<fnref n="13" />.

Wikipédia

Rappel que l'objectif est de réaliser une encyclopédie fiable et sourcée. Le copier-coller d'un texte original est fortement déconseillé sur Wikipédia: mais la communauté a l'habitude<fnref n="14" />. L'IA ne sait pas détecter ce qui est faux ou vrai. On vérifie tout, c'est un travail assez artisanal. Cas d'utilisations :

- On utilise pour des problèmes de code ;

- Pour les problèmes d'orthographe ;

- Faire une synthèse de sources données en entrée ;

- Faire une synthèse des paragraphes trop développés (point de vue proportionné) mais toujours avec une supervision ;

- Avoir une ébauche de plan ; (mais cela peut être non fiable voir faux)

- Quelques essais limités<fnref n="15" />

Potentiellement :

- Faire repérer des modifications étranges mais la surveillance humaine est indispensable<fnref n="16" />

Commons

Rappel que l'objectif est d'illustrer, de faire comprendre au public un concept de l'encyclopedie.

<footnote n="9">⁹ https://www.bfmtv.com/tech/intelligence-artificielle/le-fondateur-de-wikipedia-reflechit-a-utiliser-l-intelligence-artificielle-pour-alimenter-l-encyclopedie_AV-202303310561.html</footnote>

<footnote n="10">¹⁰ https://www.radiofrance.fr/franceinter/intelligence-artificielle-comment-chatgpt-peut-aider-les-contributeurs-francais-de-wikipedia-6525598</footnote>

<footnote n="11">¹¹ https://fr.wikipedia.org/wiki/Projet:Observatoire_des_IA</footnote>

<footnote n="12">¹² https://en.wikipedia.org/wiki/Wikipedia:Large_language_models#Copyright_violations</footnote>

<footnote n="13">¹³ https://www.radiofrance.fr/franceinter/intelligence-artificielle-comment-chatgpt-peut-aider-les-contributeurs-francais-de-wikipedia-6525598</footnote>

<footnote n="14">¹⁴ https://fr.wikipedia.org/wiki/Wikip%C3%A9dia:Droit_d%27auteur</footnote>

<footnote n="15">15 Wikicrow, qui est très spécifique, des articles sur les gènes codant des protéines humaines :
https://en.wikipedia.org/wiki/Wikipedia:Wikipedia_Signpost/2024-09-26/Recent_research</footnote>

<footnote n="16">¹⁶ https://en.wikipedia.org/wiki/Wikipedia:Using_neural_network_language_models_on_Wikipedia</footnote>
Une page illustrée est plus agréable à lire et facilite la compréhension. On reste plus souvent dessus jusqu'au bout.

Il faut que ce soit pertinent, neutre, pas de plagiat, toujours dans le consensus (si sur la page de discussion c'est non, on respecte ce consensus)<fnref n="17" />. Donc déjà on l'indique que cela vient d'une IA avec un bandeau {{PD-algorithm}}.

Question éthique de vol des images par les IA.

## Les questionnements : retour sur l'être humain

Quels savoirs essentiels est-on en train de perdre en faisant de l'IA ?<fnref n="18" />

Ce n'est pas parce que c'est *partout* que c'est utile, viable économiquement, viable écologiquement. Qu'est-ce que cela fragilise à toutes les échelles ?

Qu'est-ce que l'on ne fait pas ? Exemple : l'accessibilité. L'IA a été intégrée partout, alors que l'on a dit aux personnes empêchées que tout changer serait trop coûteux.

Cela repose sur la promesse : quel autre récit proposer viable économiquement (l'IA ne serait jamais rentable), viable écologiquement (mieux vaut utiliser des outils qui existeront encore dans quelques années) et éthique dans le travail des personnes qui y sont employées (en 1890, en Angleterre c'était 4 livres par mois pour les *lady computers* de l'observatoire royal, l'histoire se répète)<fnref n="19" />. Comment réenchanter le contenu existant ?

<footnote n="17">¹⁷https://fr.wikipedia.org/wiki/Wikip%C3%A9dia:Illustrations_g%C3%A9n%C3%A9r%C3%A9es_par_une_intelligence_artificielle</footnote>

<footnote n="18">¹⁸Alors nous irons trouver la beauté ailleurs (2024) de Corinne Morel Darleux</footnote>

<footnote n="19">¹⁹https://hal.science/hal-00569450, https://www.bbc.co.uk/bitesize/articles/zr4792p</footnote>