# Pour un numérique fraternel

Claude Kirchner, Perrin Jérôme

► To cite this version:

Claude Kirchner, Perrin Jérôme. Pour un numérique fraternel. Revue Quart Monde, 2021. hal-03348601

HAL Id: hal-03348601

https://inria.hal.science/hal-03348601v1

Submitted on 19 Sep 2021

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons CC BY 4.0 - Attribution - International License
Pour un numérique fraternel

Directeur de recherche émérite Inria, directeur du Comité national pilote d'éthique du numérique, membre du CCNE - pour les sciences de la vie et de la santé -, CLAUDE KIRCHNER a été le premier président du Comité opérationnel d'éthique d'Inria (Coerle), président de la CERNA (Commission de Réflexion sur l'Éthique de la Recherche en Sciences et Technologies du Numérique d'Allistene), membre du Comité consultatif d'éthique de Pôle emploi sur l'intelligence artificielle, membre du conseil scientifique de l'ANSSI, membre du comité de la prospective de la CNIL. JÉRÔME PERRIN est docteur ès sciences en physique. Après avoir été directeur de recherche au CNRS il a dirigé des programmes de recherche-développement dans diverses sociétés industrielles et a terminé sa carrière comme directeur scientifique du groupe Renault. Il est membre de la CERNA (Commission de Réflexion sur l'Éthique de la Recherche en Sciences et Technologies du Numérique d'Allistene), du Comité national pilote d'éthique du numérique (CNPEN) dont il a été co-rapporteur du premier bulletin de veille sur la « Fraternité numérique », et du comité d'éthique de la télésanté du Ministère de la Santé et des Solidarités. Actuellement président de la Société de Saint Vincent de Paul de Paris, il est parallèlement engagé dans l'association Solidarités Nouvelles pour le Logement et membre du Conseil de la Diaconie du diocèse de Paris.

Les différents travaux du Comité national pilote d'éthique du numérique (CNPEN) en France alimentent la dimension éthique de la réflexion au sujet du développement de la société numérique, en particulier sous l'angle de la fraternité entre tous ses membres.

Comment mettre l'intelligence artificielle (IA) au service des pauvres, et construire une société numérique inclusive et respectueuse d'elle-même et de tous ses membres, se demande Hubert Tardieu<fnref n="1" /> ? Cette interrogation et ce souci sont partagés par le Comité national pilote d'éthique du numérique (CNPEN).

Comité national pilote d'éthique du numérique

Créé fin 2019 à la demande du Premier ministre, sous l'égide du Comité consultatif national d'éthique (CCNE) pour les sciences de la vie et de la santé, ce comité pilote préfigure un comité pérenne et s'inscrit dans la continuité du rapport *Donner un sens*

<footnote n="1">1. Voir son article, p. 6.</footnote>
à l'intelligence artificielle de Cédric Villani qui, en mars 2018, recommandait « la création d'un comité d'éthique des technologies numériques et de l'IA ouvert sur la société ».

Plus généralement, la mission d'un tel comité est d'offrir un cadre de référence national pour éveiller, animer et éclairer les réflexions individuelles et collectives sur les enjeux d'éthique induits par la transformation numérique de la société et donner des avis sur la conception des outils, sur leurs usages, alors que fleurissent les comités sectoriels d'éthique du numérique au sein des entreprises ou des institutions publiques et que s'expriment publiquement sur ce sujet des associations, instituts ou groupes d'intérêt divers émanant d'initiatives privées ou gouvernementales, à l'échelle nationale ou internationale.

## Penser l'humanisme à l'ère numérique

Il s'agit donc, en ayant conscience de notre point de vue français et européen, de penser l'humanisme à l'ère du numérique dans ses différentes dimensions : la redéfinition du rapport à soi et aux autres, dans toutes les sphères des relations sociales : famille, amis, travail et institutions ; le respect et l'accroissement de l'autonomie des personnes et l'inclusion numérique ; la capacité de rester souverains dans nos choix démocratiques ; les conditions pour exercer notre libre arbitre dans une relation entre l'être humain et la machine ; la soutenabilité sociale, économique et environnementale des développements du numérique.

Pour spécifier davantage comment l'éthique du numérique concerne nos concitoyens les plus pauvres on peut revenir à la tradition première de l'éthique, cette « petite éthique » que le philosophe Paul Ricœur déclinait dans *Soi-même comme un autre*, comme une « visée de la vie bonne, avec et pour les autres, dans des institutions justes », parcourant le pôle « je » : l'estime de soi, le pôle « tu » : la sollicitude pour autrui, et le pôle « il » : des institutions justes. Or l'on retrouve ces trois polarités dans nos valeurs républicaines de liberté (« je »), de fraternité (« tu ») et d'égalité (« il »). Ainsi la fraternité met l'accent sur la relation interpersonnelle. On lui préfère souvent le mot solidarité dans le champ associatif, où l'enjeu est de faire corps avec les autres, mais la fraternité rappelle que chacun des membres de ce corps est unique.

S'agissant d'éthique du numérique, les thèmes souvent mis en avant de la protection des données personnelles et de la vie privée et du consentement individuel privilégient la valeur de la liberté en supposant l'égalité entre des individus, sujets autonomes. Or si les êtres humains sont égaux en dignité et en droit ils ne le sont pas en moyens propres. La notion d'individu souverain est réductrice alors qu'un être humain est avant tout une personne, c'est-à-dire en relations, et que toute personne est vulnérable ; c'est même là que réside sa dignité. Donc l'enjeu n'est pas tant l'autonomie de l'individu dans le monde numérique, que la fraternité numérique des personnes, ce qui suppose de privilégier le plus vulnérable et fait place à l'accompagnement numérique.
## Préserver et construire la fraternité numérique

Ce n'est pas un hasard si le premier bulletin publié par le CNPEN dans le contexte du début de la pandémie de la Covid-19 a porté en particulier sur la fraternité<fnref n="2" />. Le souci et les recommandations exprimées visent à retrouver par-delà les interfaces numériques, les plates-formes et les réseaux, les vrais visages des soignants ou des é boueurs, des personnes âgées isolées ou handicapées et de leurs proches, des personnes qui errent sans domicile, des familles ou des étudiants en situation de précarité. Les recommandations que nous résumons ici s'adressaient aux différentes parties prenantes.

Ainsi pour l'accès aux outils numériques – un des soucis exprimés également par Hubert Tardieu – nous recommandions :

- aux opérateurs de télécommunications : veiller à débrider les abonnements à faible capacité en période de crise ;

- aux municipalités : mettre à disposition des outils numériques adaptés dans des lieux sécurisés et assister les usagers, et les maintenir après la période de crise ;

- aux services publics : conserver une assistance téléphonique humaine pour suppléer aux difficultés d'accès aux services numériques et la maintenir après la période de crise ;

- aux services de l'État : prévoir un canal de télécommunication « fraternité » prioritaire sur d'autres usages en cas d'arbitrage de l'allocation du réseau de télécommunication en période de crise.

Concernant les interfaces de communication nous propositions :
- aux institutions accueillant des personnes vulnérables ou en situation de vulnérabilité et éventuellement au législateur : a) instaurer un rôle de médiateur de communication entre une personne âgée ou malade et ses proches via des interfaces de communication maîtrisées, b) demander le consentement préalable au choix des interfaces et des modalités de communication, de la personne, de son éventuelle tutelle, curatelle, ou personne de confiance avant leur mise en œuvre, c) prévoir des procédures de discernement et de décision sur la conservation ou l'effacement des images, sons ou conversations enregistrées avec des personnes vulnérables ;

- à l'ensemble de la population : a) utiliser les interfaces numériques dans le respect de la dignité des personnes concernées, en veillant à ne pas les substituer à une présence physique une fois la période de confinement terminée, b) s'interdire la diffusion sur les réseaux sociaux d'images de patients en fin de vie.

Quant aux usages des réseaux sociaux nous demandions :

- aux pouvoirs publics : continuer de faire relayer au sein des réseaux sociaux et par leurs principales applications des messages concernant les gestes-barrière ;

- aux utilisateurs des réseaux sociaux : a) vérifier que le réseau social utilisé a une politique claire et affichée de respect des données personnelles, b) veiller aux risques de désinformation en ligne concernant l'épidémie de Covid-19, y compris en ce qui concerne les actions de solidarité, c) être vigilant face aux risques d'escroquerie numérique exploitant l'élan de solidarité.

<footnote n="2">2. CNPEN : Réflexions et points d'alerte sur les enjeux d'éthique du numérique en situation de crise sanitaire aiguë - Bulletin de veille n°1, 7 avril 2020, https://www.ccnethique.fr/fr/actualites/comite-national-pilote-dethique-du-numerique-bulletin-de-veille-ndeg1</footnote>
Enfin s'agissant de l'usage des moteurs de recherche et des plates-formes nous recommandions :

- aux organisations caritatives et à tous les acteurs de la solida-rité : favoriser l'usage de moteurs de recherche et de plates-formes numériques garantissant la protection des données personnelles et un référencement utile des associations et des institutions dignes de confiance ;

- aux plates-formes numériques : s'engager à l'effacement, à l'issue de la crise, des données collectées sur les bénévoles et les personnes aidées ;

- aux services de l'État : a) privilégier des solutions numériques souveraines pour la gestion logistique tout particulièrement en période de crise, b) créer une plate-forme publique mettant en relation les offres et les besoins.

Cet exemple parmi les documents publiés à ce jour par le CNPEN (tous accessibles sur le site ccne-ethique.fr en français et en anglais) illustre notre méthode de travail et les différents niveaux visés dans les recommandations car l'éthique du numérique n'est pas seulement l'affaire des grandes plateformes, ou du législateur mais bien l'affaire de tous les acteurs de la société.

## Articulation entre droits et responsabilités

Toujours dans le contexte de la pandémie de Covid-19 nous avons publié un deuxième bulletin sur les enjeux d'éthique dans la lutte contre la désinformation et la mésinformation<fnref n="3" />, dont plusieurs recommandations répondent à des préoccupations exprimées par Hubert Tardieu sur la manière dont l'IA et le numérique transfor-ment le monde. Car ce qui est en jeu est l'articulation entre droit de chacun à la connexion, à l'information et à la liberté d'expression et la responsabilité de toutes les parties prenantes : plate-formes, états, groupes sociaux et individus dans la propagation virale de fausses nouvelles et les risques délétères qu'elles induisent, parti-culièrement pour les personnes en situation de vulnérabilité.

Mais parallèlement à nos auto-saisines sur la crise sanitaire nous avions aussi à répondre à des saisines du Premier ministre et d'autres membres du gouvernement.

L'une d'entre elles porte sur les usages et la conception des agents conversationnels (*chatbots*<fnref n="4" />) de plus en plus utilisés dans le domaine de la santé, de l'aide aux personnes vulnérables ou en situation de vulnérabilité, du recrutement, du service après-vente, de l'éducation, des banques, des assurances, etc. Dans ce cas l'avis imminent du CNPEN a été précédé d'une consultation publique basée sur un questionnaire détaillé<fnref n="5" />. Au-delà des aspects réglementaires, ces chatbots posent la question du sens de la rela-tion homme-machine et des responsabilités qu'elle induit. Quels comportements et croyances aurons-nous par rapport aux agents conversationnels ? Quel comportement le concepteur doit-il don-ner au chatbot, celui-ci doit-il imiter systématiquement l'humain ? Un chatbot peut-il mentir à son utilisateur ? Les erreurs éventuelles des agents conversationnels seront-elles plus ou moins acceptables

<footnote n="3">3. CNPEN : *Réflexions et points d'alerte sur les enjeux d'éthique du numérique en situation de crise sanitaire aiguë* – Bulletin de veille n°2, 21 juillet 2020, https://www.ccne-ethique.fr/fr/actualites/comite-national-pilote-dethique-du-numerique-bulletin-de-veille-ndeg2</footnote>

<footnote n="4">4. Voir glossaire p. 4.</footnote>

<footnote n="5">5. CNPEN : *Les enjeux éthiques des agents conversationnels – Appel à contributions*, 26 juin 2020, https://www.ccne-ethique.fr/fr/actualites/cnpen-les-enjeux-ethiques-des-agents-conversationnels</footnote>
que celles d'un être humain ? Quelles sont les limites de cette com-
paraison ? Toutes ces questions feront l'objet de points d'attention
et de recommandations adressées aux diverses parties prenantes.

Enfin, une dimension de la fraternité numérique est celle de notre rapport à notre environnement en considérant que les sciences et technologies du numérique sont un atout pour accompagner et accélérer la transition écologique mais que leurs usages possiblement débridés comportent un risque important d'aggravation de la consommation énergétique et de ressources matérielles critiques. Ceci nous invite à promouvoir la valeur éthique de la sobriété numérique parmi les nombreuses valeurs telles que la dignité, la fraternité, la liberté, la transparence, mises en jeu dans le cadre de la transformation numérique de notre société.

Dans son Manifeste pour une éthique du numérique, le CNPEN constate le défi de penser l'humanisme à l'ère du numérique et l'importance de développer une pratique de l'éthique du numérique qui soit conçue dans sa spécificité et sa portée universelle pour développer une réflexion citoyenne critique. Les travaux réalisés montrent combien à l'ère du numérique, incluant les techniques dites d'intelligence artificielle, l'enjeu de la fraternité pourra s'appuyer sur l'action pérenne d'un comité consultatif national d'éthique du numérique. À l'image des travaux fondamentaux sur la bioéthique, développés notamment par le CCNE pour les sciences de la vie et de la santé, un CCNE numérique « pourra offrir le cadre de référence national pour éveiller, animer et éclairer les réflexions individuelles et collectives sur les enjeux d'éthique induits par la transformation numérique », tout particulièrement pour ce qui concerne la valeur fondamentale de fraternité. ■