Ordinateur et intelligence artificielle

*Accès à la page d'accueil : faire un double clic sur "Les cent ciels" dans le bandeau bleu.*

# **Indispensable outil**

Un ordinateur est
devenu un appareil indispensable de la vie quotidienne. Sa description et son
fonctionnement font l’objet d’un article complet sur Wikipédia :

https://fr.wikipedia.org/wiki/Ordinateur#Instructions

Il est bon de préciser
que, quel que soit le degré de complexité atteint par un logiciel (un programme), la base est
et reste binaire : l’alternance entre deux états opposés (0 - 1) qui, par
l’intermédiaire d’opérateurs simples (et, ou, si…) engendre la complexité
progressive. Une complexité qui commence avec le code (langage) machine qui se complète de langages successivement plus évolués (parfois spécialisés) jusqu’au logiciel le plus sophistiqué et le plus performant (qui conduit Apollo sur la Lune ,
diagnostique une maladie…). Comme un assemblage de poupées russes sous forme d’algorithmes (de zéros et de uns).

Un
algorithme est la description d’une suite d’étapes (appelées instructions). Ces
étapes permettent d’obtenir un résultat à partir d’éléments fournis en entrée, les données. Par exemple,
une recette de cuisine est un algorithme, permettant d’obtenir un plat (résultat) à partir
de ses ingrédients.

Comment
comprendre que l’on dise que les algorithmes sont nouveaux et que d’autres
voix nous assurent que l’homme y a recours depuis plusieurs milliers d’années ?
L’existence d’algorithmes utilisés pour résoudre des équations est d’ailleurs
attestée dès le IIIe millénaire en Mésopotamie babylonienne

Algorithmes
et intelligence artificielle (IA) sont à la mode. Il y a la nécessité d’établir
une attitude critique et de ne pas nourrir une confiance excessive dans la
machine. Ces mots
sont aujourd’hui partout, non sans confusion parfois. Les définitions et les
exemples qui en sont donnés dans le débat public aujourd’hui sont souvent
imprécis. Ils sont parfois même contradictoires.

# **L’ordinateur est-il intelligent ?**

La suite de cet article utilise abondamment
le rapport de la CNIL :

https://www.cnil.fr/sites/default/files/atoms/files/cnil\_rapport\_garder\_la\_main\_web.pdf

**Faire de l’ensemble des concitoyens des utilisateurs éclairés et critiques des technologies est un impératif tout à la fois éthique, démocratique et pragmatique.**

L’intelligence artificielle est le grand mythe de notre temps.

L’irruption dans nos vies quotidiennes d’assistants et d’outils d’un nouveau type génère des bouleversements multiples et des défis nouveaux.

Les instructions à exécuter ne sont plus programmées explicitement par un développeur humain, elles sont en fait générées par la machine elle-même, qui « apprend » à partir des données qui lui sont fournies.

De la préservation
de l’autonomie de la décision humaine face à des machines parfois perçues comme
infaillibles, à la détection de discriminations générées involontairement par
des systèmes

mouvants,
etc. : les enjeux ne manquent pas. Ils questionnent certains des grands pactes
et des équilibres sur lesquels repose notre vie collective.

# **Les défis majeurs**

Les questions posées par les algorithmes et l’intelligence artificielle renvoient à des choix de société
et concernent tous les citoyens.

L’intelligence artificielle, dans la mesure où elle repose sur des techniques d’apprentissage,
nécessite d’énormes quantités de données. La constitution de grands fichiers
constitue un risque pour les libertés individuelles et publiques. Or, la
législation promeut une logique de minimisation de la collecte et de la
conservation de données personnelles. Les promesses de l’IA justifient-elles
une révision de l’équilibre construit par le législateur ?

Comment
appréhender cette nouvelle classe d’objets que sont les robots humanoïdes,
objets susceptibles de susciter chez l’homme des formes d’affects et
d’attachement ?!

Les
chercheurs de cette discipline naissante ambitionnent de doter des ordinateurs d’une
intelligence généraliste comparable à celle de l’homme, et non pas limitée à
certains domaines ou à certaines tâches : la reconnaissance d’images, la
compréhension du langage naturel ou la pratique de jeux (jeu de dames, échecs,
jeu de go, par exemple).

# **Apprendre à la machine**

Les développements
récents de l’IA sont notamment liés au perfectionnement de la technique de
l’apprentissage automatique au profit de la machine (*machine learning*).

Alors que le
programmeur doit traditionnellement décomposer en de multiples instructions la
tâche qu’il s’agit d’automatiser de façon à en expliciter toutes les étapes,
l’apprentissage automatique consiste à alimenter la machine avec des exemples
de la tâche que l’on se propose de lui faire accomplir. L’homme
entraîne ainsi le système en lui fournissant des données à partir desquelles
celui-ci va apprendre et déterminer lui-même les opérations à effectuer pour
accomplir la tâche en question.

Imaginons
que l’on ait pour objectif de faire reconnaître les tigres à une machine.Si
l’on se proposait d’y
parvenir au
moyen d’un algorithme classique,il faudrait pouvoir décrire explicitement en
langage
de
programmation la totalité des opérations intellectuelles que nous réalisons
lorsque nous identifions que
nous avons à
faire à un tigre et non pas à tout autre animal, voire à un lion ou à un chat.
Si
distinguer un tigre d’un chat ne pose aucun problème même à un jeune enfant, en
décomposer et expliciter l’ensemble des étapes nécessaires à reconnaitre un
tigre (autrement dit, en donner l’
algorithme) s’avère être une tâche, sinon
impossible du moins d’une ampleur rédhibitoire.
C’est ici
qu’intervient la technique du machine learning.
Il s’agit de
fournir à la machine des exemples en grande quantité, en l’occurrence de très
nombreuses photographies de tigres, ainsi que des photographies d’autres
animaux. À partir de ce jeu de données, la machine apprend à reconnaître des
tigres. Elle élabore elle-même, par la confrontation des
milliers de
photographies qui lui sont fournies, les critères sur lesquels elle s’appuiera
pour reconnaître
des tigres
dans des photographies qui lui seront ultérieurement soumises.
Il s’agit
ici d’« apprentissage supervisé » : c’est bien l’homme qui fournit à la machine
des milliers de photographies qu’il a préalablement identifiées comme
représentant des tigres ainsi que d’autres explicitement identifiées comme ne
représentant pas des tigres

Les robots
conversationnels (chat bots) et les assistants vocaux (comme Siri, Google
Assistant ou Alexa) constituent un autre pan en rapide développement de
l’intelligence artificielle
: ils peuvent par exemple fournir (restituer) des informations et répondre à
des questions standardisées.

La finalité
des applications de ces classes d’algorithmes consiste à automatiser des tâches
autrement accomplies par des humains voire à déléguer à ces systèmes
automatisés des prises de décisions plus ou moins complexes (mais toujours
issues des critères mis par le concepteur).

Dès lors que
l’on se détache d’une appréhension strictement technique de ces objets pour en
aborder les conséquences et les implications sociales, éthiques, voire
politiques, les problèmes posés se recoupent largement et méritent de faire
l’objet d’une investigation.

**L’IA « forte »**
désigne des systèmes susceptibles de devenir complètement autonomes qui
pourraient même se retourner contre l’homme !

Cette vision
se nourrit souvent d’un imaginaire apocalyptique alimenté par le cinéma
hollywoodien dans le sillage de mythes parfois bien plus anciens (Frankenstein,

etc.). Elle
est souvent reliée à une interrogation concernant le niveau de conscience de
soi d’une telle machine !!

Les usages
aujourd’hui les plus banalisés ont trait, notamment, aux moteurs de recherche
sur internet, aux applications de navigation routière, à la recommandation sur
les plateformes de contenu culturel (type Netflix ou Amazon) ou sur les réseaux
sociaux, au marketing pour le ciblage publicitaire et, de plus en plus, pour la
prospection électorale.

Dans le
domaine de la santé publique, l’utilisation des algorithmes est mise en avant
pour la veille sanitaire (détection d’épidémies, de risques psycho-sociaux). On
évoque de plus en plus les promesses d’une médecine de précision bâtissant des
solutions thérapeutiques personnalisées en croisant les données du patient à
celles de gigantesques cohortes.

La
délégation de tâches voire de décisions à des algorithmes n’implique nullement
que la production des algorithmes elle-même échappe à l’homme. L’intervention humaine est

bien
présente dans le recours aux algorithmes, par l’intermédiaire du paramétrage de
l’algorithme, du choix et de la pondération des critères et des catégories de
données à prendre en compte pour arriver au résultat recherché.

Si l’humain
n’intervient pas directement dans la recommandation d’un restaurant par le
biais d’une plateforme algorithmique, en revanche le rôle des développeurs est
fondamental. En effet, ces derniers déterminent notamment l’importance que
pourra jouer la localisation des restaurants, leur notation par d’autres
usagers ou encore sa concordance
supposée (en fonction de critères définis) avec le profil de celui qui
interroge.

# **Possible-impossible, souhaitable-non souhaitable**

L’évolution
technologique déplace la limite entre le possible et l’impossible et nécessite
de redéfinir la limite entre le souhaitable et le non souhaitable.

Les citoyens semblent
prioritairement préoccupés par les nouvelles modalités de prise de décision et la dilution de la responsabilité
créées par l’algorithme. La « perte de compétence » éventuelle de médecins ou
d’employeurs qui se reposeraient intensément sur l’algorithme a été mise en avant.

Parmi les conséquences
préjudiciables évoquées : une « gestion des incertitudes » jugée inefficace
chez la machine comparativement à ce dont est capable l’homme ; une incapacité
à « gérer les exceptions » ou encore la « perte du sentiment d’humanité »

Le recours à des systèmes
informatiques, parfois autonomes, pour prendre des décisions fait craindre que la
responsabilité en cas d’erreurs ne soit « pas claire », une préoccupation
soulevée notamment à propos du secteur médical.

Concernant le cas « APB » (Admission
Post Bac, désormais fermé), des citoyens ont critiqué le manque de transparence
qui expliquait que l’algorithme serve « de bouc émissaire faisant tampon entre
ceux qui font des choix politiques et ceux qui se plaignent de ces choix ».

La problématique de la
personnalisation informationnelle sur les réseaux sociaux et de ses effets
collectifs, évoquée au sujet des élections présidentielles aux Etats-Unis,
accentue également leur crainte que « plus personne ne soit réellement
responsable du contrôle d’Internet »

Comment s’assurer que la prédiction
et la recommandation fournies par les algorithmes ne soient effectivement
qu’une aide à la prise de décision et à l’action humaine sans aboutir à une
déresponsabilisation de l’homme, à une perte d’autonomie ?

On ne saurait considérer qu’un
algorithme puisse être « neutre », dans la mesure où il incorpore
inévitablement des partis pris – que ceux-ci soient sociaux, politiques,
éthiques ou moraux – et répond le plus souvent à des finalités qui incluent une
dimension commerciale pour son auteur.

L’exemple fréquemment évoqué du
choix que pourrait être amené à faire l’algorithme d’une voiture sans chauffeur
de sacrifier ou bien son occupant ou bien un piéton sur la route illustre la
façon dont le recours à la technique, plus que de soulever certains problèmes
moraux, a surtout pour effet de les déplacer : à un dilemme réglé en temps réel
par une personne impliquée dans sa chair fait place un choix effectué par
d’autres, ailleurs, bien en amont.

Au-delà de
la finalité délibérément visée force est de constater que celle-ci a pour effet
induit l’escamotage de choix de société impliqués par le paramétrage du système
mais masqués par l’impartialité supposée de l’algorithme.

Les
responsables de la mise en œuvre de l’algorithme auquel est déléguée une prise
de décision devraient donc chercher des moyens de contrer ce type d’effets (par
exemple, par un effort d’information du public concerné). Ils devraient en tout
cas s’interdire de l’exploiter en se cachant derrière la machine ou même de s’en
accommoder dans la mesure où il a tendance à neutraliser des conflits ou des
débats légitimes.

Il est
d’ailleurs probable que céder à cette facilité ait pour contrepartie un
sentiment d’inhumanité chez les personnes concernées. Ce sentiment est susceptible
de se transformer en rejet, en particulier si n’est prévue aucune possibilité
de contacter l’organisme responsable et d’échanger pour « trouver des solutions
ou tout simplement pour être écouté », (Qui n’a pas subi les arcanes des
répondeurs automatiques qui enchainent les questions sans jamais mettre en
contact humain avec un opérateur).

Ceux qui
maîtrisent le code informatique deviennent les véritables décideurs et se
profile le risque que le pouvoir se trouve concentré dans les mains d’une «
petite caste de scribes ».

La logique
algorithmique a tendance à déporter la prise de décision vers les étapes
techniques de conception d’un système (paramétrage, développement, codage),
lequel ne fait ensuite que déployer automatiquement et sans faille les choix
opérés initialement.

Ne faut-il
pas prendre en compte également les algorithmes à qui nous sommes amenés à
déléguer progressivement de plus en plus de tâches et de décisions apparemment
anodines mais qui, mises bout à bout, constituent l’étoffe de nos existences
quotidiennes ?

La
délibération de jurés et de magistrats n’est pas que le simple déploiement d’arguments
préexistants à la manière dont un logiciel « exécute » un programme. Elle
implique la capacité des jurés à évoluer au cours de l’échange d’arguments, à
changer de positions, ainsi que le montre mieux que toute démonstration le film
de Sidney Lumet, Douze
hommes en colère.

Le
paramétrage des algorithmes, c’est-à-dire la définition explicite des critères
selon lesquels ils fonctionnent et opèrent des tris, sélectionnent et
recommandent, peut bien sûr être la source de biais et de discrimination. Ce
sont bien les biais provoqués par les données fournies aux systèmes qui
soulèvent le défi le plus redoutable aujourd’hui.
Le caractère historique d’un jeu de données confère à celui-ci la capacité à
reproduire des inégalités ou des discriminations préexistantes.

# **Le Big data**

Le Big data
désigne non seulement d’immenses quantités de données diverses mais également
les techniques qui permettent de les traiter, de les faire parler, d’y repérer
des corrélations inattendues, voire de leur conférer une capacité prédictive.
De même, l’intelligence artificielle est indissociable des immenses quantités
de données nécessaires pour l’entraîner et qu’elle permet en retour de traiter.

Celui qui
entraîne un algorithme y insère d’une certaine façon sa propre vision du monde,
ses valeurs ou, à tout le moins, des valeurs présentes plus ou moins
directement dans les données tirées du passé.

Les
algorithmes augmenteraient la propension des individus à ne fréquenter que des
objets, des personnes, des opinions, des cultures conformes à leurs propres
goûts et à rejeter
l’inconnu.

Cela soulève
des dangers : des gens curieux vont envoyer des signaux de curiosité et vont se
voir incités en retour à la curiosité. En revanche, des gens donnant peu de
traces de curiosité vont être dirigés vers moins de diversité.

À l’échelle
de sociétés les formes de privation d’exposition des individus à l’altérité, à
des opinions différentes des leurs, notamment dans le registre politique,
pourraient constituer un problème pour la qualité et la vitalité du débat
public, pour la qualité et la diversité de l’information,
terreaux du fonctionnement correct des démocraties.

= **Qualité, quantité, pertinence : l’enjeu**
des données  **=**

Des données
erronées ou tout simplement périmées impliqueront en bout de chaîne des erreurs
ou des dysfonctionnements plus ou moins graves selon le domaine concerné, du
simple envoi de publicités ciblées correspondant mal à mon profil réel jusqu’à
une erreur de diagnostic médical…

# **En résumé**

L’ordinateur (et ses
dérivés : téléphones, tablettes et autres outils)  aujourd’hui indispensable n’est pas
intelligent en lui-même. Il reproduit, utilise, propage les a priori, les biais
volontaires ou non, de ceux qui l’ont programmé ou instruit.

**La parole de l’ordinateur n’est pas parole d’un Évangile** **qui lui serait propre mais elle est la traduction de l’objectif** **(conscient ou inconscient) et des conditions que lui ont assigné ses « pères ».**

ANNEXES