# Ethique, droits et devoirs dans le numérique universitaire

David Rongeat

► To cite this version:

David Rongeat. Ethique, droits et devoirs dans le numérique universitaire. Collection numérique de l'AMUE, Agence de mutualisation des universités et établissements d'enseignement supérieur, 2022, 24, pp.14-16. hal-04459396

HAL Id: hal-04459396

https://hal.science/hal-04459396v1

Submitted on 15 Feb 2024

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>
la collection
numérique

de l'Agence de mutualisation
des universités et établissements
d'enseignement supérieur ou
de recherche et de support
à l'enseignement supérieur
ou à la recherche

<figure><img src="image_2.png" /></figure>

décembre 2022

Ethique, droits
et devoirs dans
le numérique
universitaire

<figure><img src="image_3.png" /></figure>

<figure><img src="image_4.png" /></figure>
<figure><img src="image_5.png" /></figure>

<figure><img src="image_6.png" /></figure>

<figure><img src="image_7.png" /></figure>

vue
d'ensemble

<figure><img src="image_8.png" /></figure>

<figure><img src="image_9.png" /></figure>

Image par Eluj
pour Pixabay

auteur
**David Rongeat,**
Pôle Stratégie et
Transformation
Numérique, Amue

# Algorithmes et Intelligences artificielles, comprendre et expliquer

## L'impératif d'explicabilité des algorithmes, est en revanche difficile pour certaines Intelligences Artificielles. On vous explique pourquoi

<figure><img src="image_10.png" /></figure>

### EXPLIQUER L'EXPLICABILITÉ

Pour débuter, un voyage dans le temps : la déclaration universelle des droits de l'homme et du citoyen (1789) qui précise en son article 15 : "La société a le droit de demander compte à tout agent public de son administration". Cette exigence a perduré et plus récemment elle s'est déclinée dans la loi pour une république numérique en 2016 (à lire ici) et un décret du 14 mars 2017. En synthèse, il stipule qu'à la demande d'un citoyen, « personne faisant l'objet d'une décision individuelle prise sur le fondement d'un traitement algorithmique » l'administration doit lui fournir des éléments clairs, « sous une forme intelligible » et indiquer 1/ Le degré et le mode de contribution du traitement algorithmique à la prise de décision ; 2/ Les données traitées et leurs sources ; 3/ Les paramètres de traitement et, le cas échéant, leur pondération, appliqués à la situation de l'intéressé ; 4/ Les opérations effectuées par le traitement ;

<figure><img src="image_11.png" /></figure>

<figure><img src="image_12.png" /></figure>

Prenons un exemple, l'administration fiscale est en capacité de fournir à un citoyen qui le demande les explications de l'algorithme qui a mené au calcul de ses impôts : les traitements informatiques sont relative-ment classiques, les formules mathématiques issues des règlementa-tions fiscales, l'utilisation des données de déclaration est limpide.

On peut considérer que ce traitement est explicable, même s'il n'est pas trivial.

<figure><img src="image_13.png" /></figure>

### L'IA OU PLUTÔT LES INTELLIGENCES ARTIFICIELLES

Il existe plusieurs formes de traitements informatiques dits d'intelli-gence artificielle (IA). Celle qui nous concerne ici est appelée « machine learning » ou plutôt apprentissage automatique. De manière très sim-plifiée (le sujet est vaste et complexe) il consiste à « apprendre » à un ordinateur à répondre à des questions en lui soumettant massive-ment des données et des réponses déjà apportées à ces questions. Il « apprend » à partir de ces informations. En somme ces IA apprennent à reproduire les liens entre les informations en entrée et les résultats/ réponses déjà fournies. Illustration simplifiée : fournir à une « IA » 50'000 dossiers de demandes de prêts bancaires avec les données des dossiers, la réponse apportée par la banque à cette sollicitation, les constats de manquements aux remboursements. Elle apprend à partir de ces exemples, principalement via des corrélations et des éléments statistiques. Ensuite vous lui soumettez un nouveau dossier, alors cette IA vous fournira une « réponse » pour savoir s'il faut ou non accorder le prêt demandé. Ceci en se basant sur son analyse des dossiers à partir desquels elle a appris.

Le traitement résultant de cet apprentissage est souvent considéré comme une boite noire, un traitement numérique dont il est com-plexe, et pour certains impossibles, d'expliquer le « cheminement ». Ceci est particulièrement mis en avant pour les IA les plus spectacu-laires dit « deep learning ». Il existe maintenant des méthodes pour fournir quelques éléments sur, disons, le « raisonnement » de l'IA pour apporter son résultat. Cette discipline de recherche se nomme eXplainable Artificial Intelligence (XAI).

<figure><img src="image_14.png" /></figure>

### IA ET EXPLICABILITÉ

La problématique posée par ces IA dans le traitement « individuel » est de l'ordre éthique, réglementaire et technique. Un agent de l'état ne peut pas répondre trivialement « l'algorithme m'a proposé de reje-ter votre demande au regard de votre profil et des statistiques » ; Ce ne serait pas acceptable.

La Cnil apporte une définition à l'explicabilité (à lire ici) qui complète ses articles sur IA et RGPD dont celui intitulé « IA : comment être en conformité avec le RGPD »

Alors faut-il, dans nos administrations, laisser de la place à ce type de traitements informatiques ? Ne serons-nous pas confrontés à des blocages, des rejets, liés à leur non explicabilité, la difficulté de justifier une décision « sous une forme intelligible » et « appliquée au cas de l'administré » ?

Veillons aux prochaines publications réglementaires de l'union euro-péenne appelées « l'AI act » dont les contours pourraient légiférer sur ce sujet de l'explicabilité.

<figure><img src="image_15.png" /></figure>

> L'algorithme doit être expliqué et son degré d'intervention dans une décision précisé.

<figure><img src="image_16.png" /></figure>

<figure><img src="image_17.png" /></figure>

<figure><img src="image_18.png" /></figure>
<figure><img src="image_19.png" /></figure>

<figure><img src="image_20.png" /></figure>

<figure><img src="image_21.png" /></figure>

<figure><img src="image_22.png" /></figure>

Pour aller plus loin,
quelques sources utilisées pour cet article
de vulgarisation

Quelques définitions sur l'explicabilité :

+ La définition de la CNIL ici →

+ Dans l'article de wikipedia sur l'apprentissage automatique, le chapitre dédié « Explicabilité et explications des décisions » à lire là →

Ces cinq publications pour aller plus loin :

+ cet article de Sarah Leroy « Explicabilité de l'Intelligence Artificielle »

+ Dans une rubrique « Problématiques juridiques et analyse automatique de données, cette publication « Explicabilité des décisions algorithmiques »

+ Depuis un réseau de Datascience, cet article de Christian Goblin « L'explicabilité de l'IA : un problème éthique mais pas seulement... »

+ un article du média en ligne silicon « IA explicable : comprendre l'IA, c'est possible ! »

+ publication : Recension d'Aurélia Bernard, « Cazals François et Cazals Chantal (2020). *Intelligence artificielle: L'intelligence amplifiée par la technologie* », *Revue française des sciences de l'information et de la communication* [En ligne], 23 | 2021, mis en ligne le 01 septembre 2021, consulté le 02 décembre 2022. à lire là →

Ces deux articles coté presse grand public :

+ Dans le monde, une tribune collective intitulée « A l'explicabilité de l'intelligence artificielle, sont associés des enjeux organisationnels et politiques majeurs » publiée dans le monde le 28 mars 2022 (à lire ici pour accès abonnées ou via vos ressources de BU) →

+ un article de Jacques Henno dans les échos « L'intelligence artificielle à l'heure de la transparence algorithmique »

En enfin, cette veille à poursuivre sur l'IA Act de l'union européenne sur ce site

<figure><img src="image_23.png" /></figure>

<figure><img src="image_24.png" /></figure>

<figure><img src="image_25.png" /></figure>

<figure><img src="image_26.png" /></figure>

<figure><img src="image_27.png" /></figure>

<figure><img src="image_28.png" /></figure>
décembre 2022

<figure><img src="image_29.png" /></figure>

<figure><img src="image_30.png" /></figure>

<figure><img src="image_31.png" /></figure>

amue.fr

<figure><img src="image_32.png" /></figure>

<figure><img src="image_33.png" /></figure>

prochain
numéro

Le numéro de février
2023 sera consacré à un
retour sur 4 années de la
collection numérique

103 bd Saint-Michel + 75005 Paris
Nos réseaux sociaux: @Amue_com

<figure><img src="image_34.png" /></figure>

<figure><img src="image_35.png" /></figure>

<figure><img src="image_36.png" /></figure>