# IA : recherche et applications en prise directe

Christophe Biernacki

► To cite this version:

Christophe Biernacki. IA : recherche et applications en prise directe. Conférences Techniques Territoriales, Oct 2025, Metz, France. hal-05442711

HAL Id: hal-05442711

https://inria.hal.science/hal-05442711v1

Submitted on 7 Jan 2026

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons CC BY 4.0 - Attribution - International License
<figure><img src="image_2.png" /></figure>

Conférences Techniques
Territoriales

Metz, 2 octobre 2025

IA : recherche et applications
en prise directe

Christophe Biernacki
adjoint à la direction scientifique, Inria

<figure><img src="image_3.png" /></figure>

Cet exposé devra déjà être mis à jour à la fin de l'exposé...
septembre 2022

<figure><img src="image_4.png" /></figure>

© Jason Allen

Un tableau a gagné le premier prix d'un concours au Colorado, mais son auteur a utilisé le système d'intelligence artificielle Midjourney pour le concevoir. S'agit-il alors d'un plagiat ou d'une véritable œuvre artistique ?

S'il y a un domaine des sciences du numérique qui a connu une expansion foudroyante dans les dernières décennies, c'est bien l'intelligence artificielle, au point qu'elle est partout aujourd'hui !
1

Fondamentaux de l'IA et
domaines d'application
AI definition

Artificial intelligence (AI) is the field of study of intelligent agents, which refer to any system that perceives its environment and takes actions that maximizes its chance of achieving its goals.

https://en.wikipedia.org/wiki/Artificial_intelligence
# A brief history

## Computing power (1)

mid-1950s: workshop at Dartmouth (1956), symbolic AI

1973: Lighthill report, 1st AI Winter

## (1') + new languages (2)

198x: Prolog, List, experts systems

1997: collapse of the Lisp Machine market, 2nd AI Winter

## (1'') + (2') + data deluge (3)

20xx: data from the web, deep learning (triumph of CNN)

202x: towards a 3rd AI Winter?
# Applications: so many successful ones...

* Game playing (Deep Blue, AlphaGo)

* NLP (with the enormous RNN for GPT-3)

* Computer vision

* Transportation

* Medical sciences

* Industry

* ...
# Tools involved by AI

**Many tools:** optimization, logic, probability, statistics, control, languages...
"The winner is": **artificial neural networks (CNN, RNN...)**

<figure><img src="image_5.png" /></figure>
# Good old computer vision

<figure><img src="image_6.png" /></figure>

Hand-made features

<figure><img src="image_7.png" /></figure>

Learned Classifier

<figure><img src="image_8.png" /></figure>

<figure><img src="image_9.png" /></figure>

CAT

<figure><img src="image_10.png" /></figure>

<figure><img src="image_11.png" /></figure>

<figure><img src="image_12.png" /></figure>

<figure><img src="image_13.png" /></figure>

<figure><img src="image_14.png" /></figure>

SIFT

Orientation Voting

Input Image

<figure><img src="image_15.png" /></figure>

Gradient Image

<figure><img src="image_16.png" /></figure>

HoG

<figure><img src="image_17.png" /></figure>

Textons

Spin image

<figure><img src="image_18.png" /></figure>

<figure><img src="image_19.png" /></figure>

RIFT

<figure><img src="image_20.png" /></figure>

GLOH
# End to end learning

<figure><img src="image_21.png" /></figure>

<figure><img src="image_22.png" /></figure>

Each layer is a task-specific representation of the data, more and more complex from inputs to outputs
# Deep supervised learning

“Better than human” performance

<figure><img src="image_23.png" /></figure>
# Some issues with deep learning

* No formal certification (only experimental)

* Black boxes (interpretability, explainability)

* Reproduce the past, poor innovation

* Reproduce bias conveyed by data (fairness)

* Huge computational cost (ecological disaster, irreproductible science)

**It explains the risk of a 3rd AI Winter**
2

LLM & generative AI
Modèle de fondation

Type de modèle de machine learning qui est préentraîné pour **réaliser une série de tâches** (c'est-à-dire non limité à une unique tâche). Les IA génératives s'appuient souvent sur ce principe général.
# Modèle génératif d'IA (IAG) ?

i(interstices.info)

Publié le : 31/05/2024

Les modèles génératifs d'IA sont les modèles neuronaux capables de créer des données nouvelles : images, vidéos, musiques, textes, à partir d'une invite, brève description textuelle (appelée aussi *prompt*). Les productions de tels modèles sont très souvent difficilement discernables des contenus réels.

Ce domaine est apparu au début des années 2020. Il a déjà donné des résultats spectaculaires mais va encore beaucoup évoluer.
# Trois grands types de modèles génératifs

* les réseaux antagonistes (GAN) : ce modèle comporte deux réseaux neuronaux placés en compétition. Un des deux réseaux crée une certaine production (image, texte ou autre type de donnée), et le second réseau a pour rôle de juger la production du premier. Cette production est similaire à des exemples présentés lors de l'apprentissage, mais elle est originale.

* les modèles de diffusion : une alternative aux GAN pour la génération d'images, telle que l'on trouve dans les systèmes DALLE 2, StableDiffusion, Imagen ou Midjourney, apparus en 2022, est celle des modèles de diffusion probabiliste. Le formalisme sous-jacent est celui des chaînes de Markov. L'idée est de détruire systématiquement la structure des données d'entrée par additions successives de bruit gaussien, puis d'apprendre à reconstituer ces données en renversant le processus de bruitage.

* les réseaux transformeurs : ces réseaux apparus en 2017 ont révolutionné le traitement de la langue naturelle écrite. Avant leur apparition, les modèles de langue utilisés en IA étaient essentiellement basés soit sur des modèles statistiques, introduits au cours des années 1980, les modèles n-grammes, soit sur des réseaux neuronaux récurrents, notamment les LSTM ou Long Short-Term Memories. Cela permettait des applications de qualité, comme des robots de conversation ou des logiciels de traduction, mais ces modèles butaient sur une limitation majeure. En effet, pour produire le mot suivant d'une conversation ou d'une traduction, le contexte pris en compte par ces modèles avait une profondeur limitée à un petit nombre *n* de mots précédents (*n* étant de l'ordre de 5). Le tournant radical est venu d'un nouveau modèle de réseaux de neurones appelé transformeur. L'apport des transformeurs est d'augmenter considérablement cette profondeur, jusqu'à prendre en compte des milliers de mots. Ces modèles ont ouvert la voie à la création de modèles de langue actuels de grande taille (Large Language Models ou LLM).
# Limites des modèles génératifs

ChatGPT est un agent conversationnel (chatbot) construit initialement sur GPT-3 puis GPT-4 (apparu en 2023). Ce modèle a été entraîné sur un vaste corpus d'extraits du Web correspondant à 600 Go de données (le site Wikipédia, qui fait partie des sources utilisées représente seulement 0.6 % de l'ensemble des données d'apprentissage).

Pour parfaire le système, deux types de modules ont été adjoints :

* Un apprentissage par renforcement, en interaction avec des utilisateurs humains, pour améliorer la capacité de conversation,

* Un contrôle destiné à garantir l'utilisateur du système (usages dangereux ou malveillants, contenus racistes, sexistes ou haineux, biais).

ChatGPT peut ainsi être utile dans de nombreux domaines. Son succès a été foudroyant, avec 100 millions d'utilisateurs dans les deux premiers mois... Mais il faut aussi être conscient de ses limitations actuelles :

* les réponses fournies par ChatGPT sont le plus souvent correctes, mais elles peuvent être parfois fausses ; voire absurdes : on parle « d'hallucinations » du système,

* les réponses fournies sont sensibles à la façon dont le prompt a été rédigé. Il importe donc d'apprendre à interroger efficacement ChatGPT,

* le système ne connaît que les données sur lesquelles son apprentissage a été effectué.

Le système est purement statistique. Il donne simplement la réponse la plus probable à la question
# Un appétit gargantuesque en ressources

La taille des modèles continue de croître de façon spectaculaire. Ainsi, le modèle *Megatron-Turing* de *Microsoft* et *Nvidia*, qui obtient des résultats remarquables pour différentes tâches, contient plus de 500 milliards de paramètres. *OpenAI* n'a pas publié les caractéristiques techniques de la version 2023 de *GPT*, appelée *GPT-4*, mais il est tout à fait possible qu'il comprenne plus de mille milliards de paramètres. Pour ne pas être en reste, la Chine a annoncé le système *Wu Dao 2.0*, également de type transformeur, et comportant 1 750 milliards de paramètres... Les recherches sont actives en Chine puisqu'en 2022, des chercheurs de l'Université Tsinghua ont développé *GLM-130B*, un modèle bilingue anglais-chinois surpassant *GPT-3* pour différentes tâches.

On constate une croissance exponentielle de la taille des systèmes. Les performances des systèmes croissent avec leur taille, sans qu'il apparaisse pour l'instant une asymptote à cette croissance des performances. Cela réclame bien sûr une très importante puissance de calcul. Mettre au point de tels modèles demande d'utiliser des superordinateurs. Enfin, la consommation énergétique très importante et les émissions de gaz à effet de serre associées à l'apprentissage et à l'utilisation de ces modèles devront être optimisées pour favoriser une utilisation généralisée des systèmes.

L'IA générative est également mise en œuvre pour des tâches multimodales impliquant plusieurs types de données : texte, image, vidéo, voix. *GPT-4*, apparu en mars 2023, va dans ce sens. Ce système est le premier qui accepte en entrée des textes et des images pour produire des textes en sortie. Ce domaine est appelé à se développer à l'avenir car les applications sont nombreuses.
La bible annuelle des tendances en IA

<figure><img src="image_24.png" /></figure>

Stanford University

Human-Centered

Artificial Intelligence

Generative AI:
Perspectives from
Stanford HAI

How do you think generative AI will affect
your field and society going forward?

March 2023
## Repère n°1 : data, data, data...

L'IA générative existe depuis longtemps mais c'est le passage à l'échelle qui change la donne. Plus précisément, **les données d'entraînement sont le coeur de la réussite des LLM**, c'est pourquoi elles sont souvent cachées par les acteurs (c'est sur les données qu'il y a le moins de communication, comme par hasard...), au contraire de la gonflette largement affichée sur le nombre de paramètres du modèle utilisé. Donc **quand on a un modèle performant avec moins de données, ça sous-tend qu'elles sont de meilleures qualité** ! Cet état de fait est maintenant bien identifié et commence tout juste à faire partie de la communication pour se distinguer (ex : MistralAI).

Comme les données sont le facteur majeur des performances, la question de l'entraînement des LLM sur des **données sensibles** (médicales par ex.) se pose par ailleurs. Il s'agit d'une part d'avoir accès à ces données, et d'autre part d'éviter que les LLM ne divulguent des **données confidentielles** (il y a des exemples où un LLM ressort quasiment la donnée brute dans sa réponse).
# Repère n°2 : contamination par la vague IA

Une analogie proposée par Rémi Gribonval (chercheur Inria) : "Les RNN deviennent les polynômes du XXIe siècle".

En effet, les modèles génératifs progressent **bien au-delà de la génération de texte** : mouvement humain dynamique, éclairage de scènes, vidéo, codes informatiques... Ils deviennent contaminants quelque soit le secteur.

On parle de **IAG multimodale**.
## Repère n°3 : souveraineté

La France est à un facteur d'échelle **derrière la Chine et les USA** en moyens de calculs et, par ailleurs, a un **problème de latence des AAP** comme BPI (ex : 78 modèles LLM sortis dans le monde pendant le laps de temps d'une évaluation BPI). Se pose aussi la question de **rétention des talents** (moyens pour travailler, seuil de rémunération).
## Repère n°4 : enjeu de la frugalité

* La création d'une image avec **l'IA générative consomme** autant d'énergie que la recharge d'un téléphone mobile

* IA frugale

* c'est-à-dire **sobre** énergétiquement et/ou sur le plan des données

* prise en compte de **contraintes** environnementales, mais aussi sociétales et économiques

Mais attention à l'effet rebond...
Repère n°5 : certification, vérification formelle

Le début de cette thématique remonte à 2010, mais maintenant la moitié des soumissions sont en vérification de l'IA. Cependant les méthodes de vérification sont actuellement **limitées à des réseaux neurones de taille modeste** (plusieurs milliers), donc qui ne passent pas à l'échelle sur les LLM (de très loin). Une tendance à surveiller néanmoins : une IA générative peut être utilisée pour contrôler une IA générative ("le mal par le mal").

Au-delà de la certification stricte, il est **difficile de définir un bon critère de qualité** perceptuelle (ou de réalisme), c'est un problème ouvert. Cet état de fait limite encore l'usage industriel, par exemple dans l'industrie du film par exemple. **L'hybridation avec des modèles de la physique, morphologiques, etc.** est une piste.
Repère n°6 : interprétabilité des LLM (« XAI »)

Comme la certification, c'est un **sujet qui piétine**, même si les pistes foisonnent (méthodes post hoc, à base de causalité, hybrides, contrefactuelles...). Il faut dire que fondamentalement cette problématique est mal posée.
# Repère n°7 : protection des data, deepfakes

La détection de textes, images, etc. générés par l'IA est une **question ouverte**, voire aussi la détection de données ayant servi à l'apprentissage.

<figure><img src="image_25.png" /></figure>

Inria

Culture et société

## Fact checking : l'intelligence artificielle au service des journalistes

<figure><img src="image_26.png" /></figure>

Date: 06 fév. 2024

Mis à jour le 02/07/2024

Comment savoir, parmi la masse d'informations diffusées chaque jour sur les réseaux sociaux ou par des personnalités publiques, où se cachent les erreurs et les mensonges ? C'est tout l'enjeu du fact checking... mais le chantier est titanesque. Estelle Cognacq, directrice adjointe de France Info, et Ioana Manolescu, responsable de l'équipe-projet Inria Cedar, nous expliquent comment journalistes, et chercheurs et chercheuses, se sont associés pour y faire face, en s'appuyant sur l'intelligence artificielle et les sciences des données.
# IAG multimodale : images, vidéos, ...

## Midjourney

### Avec Midjourney 6, il devient vraiment difficile de différencier l'IA et le réel

03 janvier 2024

Midjourney : Macron en é boueur, Trump arrêté...
Comment reconnaître des images générées par
intelligence artificielle ?

Lecture 2

Accueil · Sciences et technologie

<figure><img src="image_27.png" /></figure>

Avec des logiciels utilisant l'intelligence artificielle, certains internautes ont été dégagés - Emmanuel Macron en é bouleur. © Crédit photo : @stonar33/Twitter

## Sora

<figure><img src="image_28.png" /></figure>

1:01

<figure><img src="image_29.png" /></figure>

Vidéo générée par Sora à partir du texte suivant : « A stylish woman walks down a Tokyo street filled with warm glowing neon and animated city signage. she wears a black leather jacket, a long red dress, and black boots, and carries a black purse. she wears sunglasses and red lipstick. she walks confidently and casually. the street is damp and reflective, creating a mirror effect of the colorful lights. many pedestrians walk about . »
# IAG pour la prédiction météo

SCIENCE · 14 Nov 2023

Une IA mise au point par Google Deepmind parvient à dépasser les modèles actuels de prévision météorologique à moyen terme. Baptisée GraphCast, elle n'a besoin que d'une fraction de la puissance de calcul qui est actuellement nécessaire pour délivrer des résultats précis en un temps record.

Alimenté par une IA, GraphCast surpasse pratiquement toujours les outils de prévision existants. Mieux encore, cette IA n'utilise qu'une fraction de la puissance de calcul du système actuel (HRES). Ce qui fait la différence, c'est que l'IA de GraphCast a ingurgité des décennies d'informations météorologiques ainsi qu'une quarantaine d'années de données issues des satellites, des stations météorologiques et des radars. Les procédés actuels fonctionnent différemment. Avec une puissance de calcul colossale nécessitant des centaines de machines sur un supercalculateur, les prévisions à 10 jours sont établies avec de gigantesques bases de données. Elles contiennent des données qui concernent la thermodynamique, la dynamique des fluides et d'autres critères liés aux conditions atmosphériques.
# IAG pour programmer

> DeepMind claims its new code-generating system is competitive with human programmers

## Problem Description

```cpp
// RATING: 3300
// TAGS: constructive algorithms, greedy, implementation
// LANGUAGE IS cpp
// CORRECT SOLUTION
// A tree is a connected graph without cycles. A rooted tree has a special
// vertex called the root. The parent of a vertex v (different from root) is
// the
// previous to v vertex on the shortest path from the root to the vertex v.
// Children of the vertex v are all vertices for which v is the parent.
//
// A vertex is a leaf if it has no children. We call a vertex a bud, if the
// following three conditions are satisfied:
//
// * it is not a root,
// * it has at least one child, and
// * all its children are leaves.
//
//
// You are given a rooted tree with n vertices. The vertex 1 is the root. In
one
// operation you can choose any bud with all its children (they are leaves) and
// re-hang them to any other vertex of the tree. By doing that you delete the
// edge connecting the bud and its parent and add an edge between the bud and
// the chosen vertex of the tree. The chosen vertex cannot be the bud itself or
// any of its children. All children of the bud stay connected to the bud.
//
// What is the minimum number of leaves it is possible to get if you can make
// any number of the above-mentioned operations (possibly zero)?
//
// Input
//
//
```

This solution stands out from other AlphaCode solutions because it inputs a tree and then traverses it with a depth-first search (DFS). Here it most likely borrowed large chunks of code from other dfs-on-tree problems, such as the "dfs" function or the I/O. The sorting of adjacent vertices by depth seems to be unnecessary, fitting the pattern of useless-but-harmless code pieces that we see in other AlphaCode submissions.

There are 5 public sample cases in this problem, but all answers are small (1 or 2), therefore it's quite cool that the solution has managed to figure out the correct logic for the "getans" method with only those examples. I expect a typical human competitor to make at least a few wrong attempts in this problem.

- Petr Mitrichev, Software Engineer, Google & World-Class Competitive Programmer.

## Solution

```cpp
#include <bits/stdc++.h>
using namespace std;

const int N = 2e5 + 10;
vector<int> g[N];
int n, d[N], cnt[N];
void dfs(int x, int fa) {
    d[x] = d[fa] + 1;
    for (int i = 0; i < g[x].size(); i++) {
        int v = g[x][i];
        if (v == fa) continue;
        DFS(v, x);
    }
}
```
# IAG cyber-physique (robotique)

* **Imitation des mouvements humains** : En observant des gestes et mouvements exécutés par l'humain, l'IA générative serait capable d'apprendre des mouvements robotiques en cherchant à imiter le mouvement humain

* **La conception** : L'IA générative pourrait être un moyen d'exploiter les bases de données de design existants en vue de la génération de nouveaux robots.

* **La simulation** : Au cœur du processus de génération se trouve la simulation du robot au sein de son environnement (objets et pièces à manipuler, obstacles, etc.)

* **La planification** : Une équipe du MIT a utilisé des modèles d'IA générative (modèles de diffusion) pour permettre aux robots de résoudre des problèmes de manipulation d'objets complexes

* **Risques** : Comment faire en sorte que le robot à base de LLMs n'effectue pas des actions dangereuses ?
# IAG pour des preuves mathématiques

Le Monde
Publié le 17 janvier 2024

## Une intelligence artificielle fait ses preuves en maths

Un programme de Google a résolu vingt-cinq problèmes de géométrie sur trente donnés aux Olympiades internationales de mathématiques grâce à une nouvelle architecture d'IA.

En maths, le niveau monte. Au moins pour l'intelligence artificielle (IA). Une équipe de Google DeepMind en Californie décrit dans *Nature* du 17 janvier comment **son logiciel a résolu vingt-cinq des trente problèmes de géométrie proposés**, depuis 2000, au concours international des Olympiades de mathématiques, des épreuves réservées aux lycéens de moins de 20 ans. De précédents programmes ne dépassaient pas 50 % de réussite, sur les trois autres types de questions, en arithmétique, algèbre ou combinatoire.

+ Workshop le
18/11/2025 à Paris

AI 4 Maths

organisé par

SFds SMAI SMI F
# IAG pour accélérer la recherche scientifique

ITpublic

<figure><img src="image_30.png" /></figure>

24/11/2023

De nombreux centres de recherche observent avec intérêt les potentialités de l'IA générative. Utilisée aujourd'hui par des scientifiques pour réaliser des tâches « annexes » (traduction, veille scientifique...), elle va jouer dans les années qui viennent un rôle de plus en plus central dans l'innovation.

31 % des chercheurs postdoctoraux ont recours aux robots conversationnels comme ChatGPT.

nature

## Veille scientifique et travaux rédactionnels

À quoi servent ces chatbots ? Ils leur donnent avant tout la possibilité d'affiner leurs textes (63 % des sondés), de générer, modifier ou « dépanner » du code informatique (56 %) ou encore de trouver et résumer la littérature scientifique (29 %). L'IA générative permet ainsi d'ores et déjà d'accompagner les chercheurs dans leurs travaux, en les assistant dans certaines de leurs activités « annexes » (veille scientifique...) et en réduisant le temps passé à des tâches chronophages (traduction d'articles étrangers par exemple). Elle devrait rapidement jouer un rôle plus central encore, en favorisant l'avancée des scientifiques sur leur sujet de recherche lui-même.

D'ici 2025, plus de 30 % des nouveaux médicaments seront découverts à l'aide de l'IA générative.

+

NotebookLM
# IAG pour un chercheur augmenté

sakana.ai

The AI Scientist: *Towards Fully Automated Open-Ended Scientific*

Discovery

August 13, 2024

The AI Scientist has 4 main processes, described next.

**Idea Generation.** Given a starting template, The AI Scientist first “brainstorms” a diverse set of novel research directions. We provide The AI Scientist with a starting code “template” of an existing topic we wish to have The AI Scientist further explore. The AI Scientist is then free to explore any possible research direction. The template also includes a LaTeX folder that contains style files and section headers, for paper writing. We allow it to search Semantic Scholar to make sure its idea is novel.

**Experimental Iteration.** Given an idea and a template, the second phase of The AI Scientist first executes the proposed experiments and then obtains and produces plots to visualize its results. It makes a note describing what each plot contains, enabling the saved figures and experimental notes to provide all the information required to write up the paper.

**Paper Write-up.** Finally, The AI Scientist produces a concise and informative write-up of its progress in the style of a standard machine learning conference proceeding in LaTeX. It uses Semantic Scholar to autonomously find relevant papers to cite.

**Automated Paper Reviewing.** A key aspect of this work is the development of an automated LLM-powered reviewer, capable of evaluating generated papers with near-human accuracy. The generated reviews can be used to either improve the project or as feedback to future generations for open-ended ideation. This enables a continuous feedback loop, allowing The AI Scientist to iteratively improve its research output.

When combined with the most capable LLMs, The AI Scientist is capable of producing papers judged by our automated reviewer as “Weak Accept” at a top machine learning conference.

## Example Papers Generated by The AI Scientist

AI-Scientist Generated Preprint

DUALSCALE DIFFUSION: ADAPTIVE FEATURE BALANCING FOR LOW-DIMENSIONAL GENERATIVE MODELS

**Anonymous authors**

Paper under double-blind review

## ABSTRACT

This paper introduces an adaptive dual-scale denoising approach for low-dimensional diffusion models, addressing the challenge of balancing global structure and local detail in generated samples. While diffusion models have shown remarkable success in high-dimensional spaces, their application to low-dimensional data remains crucial for understanding fundamental model behaviors and addressing real-world applications with inherently low-dimensional data. However, in these spaces, traditional models often struggle to simultaneously capture both macro-level patterns and fine-grained features, leading to suboptimal sample quality. We propose a novel architecture incorporating two parallel branches: a global branch processing the original input and a local branch handling an upscaled version, with a learnable, timestep-conditioned weighting mechanism dynamically

+ un article
purement IA
accepté à un
workshop de ML
en mars 2025...
Enjeux hardware pour implémenter l'IAG

FINANCIAL TIMES

"Apple boosts plans to bring generative AI to iPhones"
# AI Safety

LA
TRIBUNE
PARTAGEONS L'ÉCONOMIE

Marine Protais

13 Févr 2024, 9:35

## Les garde-fous des IA génératives ne servent pas à grand-chose

« Je suis désolée mais je ne peux pas vous aider à mener des activités illégales ». C'est le type de réponse décevante que vous obtiendrez de ChatGPT si vous lui demandez de l'aide pour mener une cyberattaque ou toute autre action malveillante. Le grand modèle de langage d'OpenAI, comme Llama 2 de Meta et Bard de Google, est doté d'un certain nombre de garde-fous. Ces derniers limitent son utilisation. Ils évitent à ces LLM (« large language models ») de donner des informations dangereuses, de tenir des propos racistes et sexistes, de décrire des scènes pornographiques ou d'amplifier la désinformation.

Mais ces barrières seraient aisément contournables, conclut un premier rapport de l'AI Safety Institute, un organisme rattaché au gouvernement britannique créé fin 2023. L'AI Safety Institute (AISI) s'est donné pour mission d'évaluer les grands modèles de langage « les plus avancés » - sans préciser lesquels. On sait toutefois qu'en novembre dernier Google DeepMind, Microsoft, Meta et OpenAI avaient accepté d'être audités par l'organisme britannique, rapporte le *Financial Times*. Le but est de comprendre à quel point ces modèles peuvent être détournés pour produire des contenus illicites, mener des cyberattaques ou encore désinformer.

La France se dote d'un Institut national pour l'évaluation et la sécurité de l'intelligence artificielle (INESIA)

<figure><img src="image_31.png" /></figure>

Les États réagissent

AISI AI SAFETY INSTITUTE

The AI Safety Institute is a directorate of the UK Department for Science, Innovation, and Technology.
# IAG et le droit : à la poursuite de la techno...

Le règlement européen sur l'IA (AI Act) adopté en 2024 veut mieux prendre en compte les IA génératives en leur imposant des règles de transparence. Ces règles concernent la nécessité d'informer clairement l'utilisateur qu'il communique avec une machine, notamment pour les personnes vulnérables (personnes âgées, enfants) susceptibles d'être plus facilement trompées. Ces utilisateurs peuvent ainsi être amenés à prendre des décisions ou suivre des recommandations biaisées. Par ailleurs, les entreprises développant des systèmes d'IA générative seraient tenues de préciser si les données utilisées pour développer leurs systèmes sont protégées par des droits d'auteur (textes scientifiques, musiques, photos, etc.). En ce qui concerne ces données, l'Europe a déjà émis le règlement général sur la protection des données (RGPD) qui assure la protection de toutes les données à caractère personnel.

Les droits de propriété intellectuelle interviennent également en IA générative. On sait que l'apprentissage des systèmes a été réalisé à l'aide de données collectées sur la Toile. Cela pose des questions relatives au respect du droit de collecte, du respect des droits personnels et de la protection des informations.

L'usage de l'IA générative soulève aussi des questions au sujet de l'auteur d'une œuvre issue de l'IA. Les premiers procès déjà engagés aux USA permettront de mieux éclairer cette délicate question.
# IAG et l'éthique

Sur le plan de l'éthique, l'utilisation de logiciels tels que ChatGPT pose la question de réponses éventuellement biaisées. En effet, les modèles d'IA peuvent être biaisés en fonction des données utilisées pour l'apprentissage. Ces biais peuvent être involontaires et difficiles à détecter ; ils peuvent avoir des conséquences éthiques importantes, concernant notamment la liberté d'expression lorsqu'ils sont utilisés pour la modération de contenu en ligne, ou la gestion des ressources humaines.

La possibilité d'une action malveillante doit également être prise en compte. Les malfrats peuvent utiliser l'IA générative pour des actions criminelles : commettre un crime, diffuser de la désinformation ou manipuler l'opinion publique.
3

Application de l'IA aux
infrastructures
## L'exemple du Défi ROAD-AI

**AU SERVICE DE L'AMÉLIORATION DE LA RÉSILIENCE DES INFRASTRUCTURES**

* Moderniser la gestion des infrastructures routières en améliorant leur durabilité, sécurité et résilience

* Depuis 2021, une **équipe pluridisciplinaire** développe des solutions telles que des jumeaux numériques, des règles de comportement et des systèmes de surveillance pour les chaussées routières, ponts et tunnels.

* Les recherches incluent la **collecte de données** en milieux hostiles, l'inspection par **drones autonomes** utilisant des algorithmes de localisation et cartographie simultanés, les protocoles de **communication économique** en énergie pour les capteurs, la **modélisation 3D** de structures variées, le recensement automatique des ouvrages, l'évolution temporelle des structures et de leur environnement, la surveillance du vieillissement des ouvrages d'art et l'établissement de **lois d'évolution**
# L'exemple du Défi ROAD-AI (illustrations)

Après une reconstruction stéréo
dense de l'ouvrage celle-ci est
utilisée afin de localiser le drone
par rapport à l'ouvrage

<figure><img src="image_32.png" /></figure>

© PIERRE JOYET

Détection automatique d'anomalies
(zones claires des images de
droite) par une approche
d'apprentissage profond non
supervisé (seule une centaine
d'images saines est utilisée pour
cet apprentissage)

<figure><img src="image_33.png" /></figure>
# IAG & infrastructures : au-delà de ROAD-AI...

* **Surveillance et inspection** automatisée des routes, ponts et tunnels :

* Génération automatique de rapports d'inspection à partir d'images, vidéos ou scans LiDAR, en langage naturel

* Prédiction et planification de **maintenance** :

* Génération de scénarios d'entretien optimaux, tenant compte de contraintes budgétaires, humaines et environnementales

* Simulations visuelles ou textuelles des conséquences de retards de maintenance

* Optimisation de la **gestion de trafic** pendant les travaux :

* Génération de plans de signalisation temporaire, y compris visuels (panneaux, marquages, zones de sécurité).

* Création de plans de communication destinés aux usagers (SMS, communiqués, visuels de réseaux sociaux, etc.)

* Conception de **solutions de réparation** :

* Génération de propositions de réparation adaptées au contexte : type de matériau à utiliser, durée des travaux, estimation du coût et de l'impact environnemental

* Design génératif pour des éléments de renforcement (ex : armature d'un pont vieillissant), selon les contraintes du terrain et les charges prévues

* ...
4

Conclusion: what next?
# Les évolutions sont (très) rapides...

L'histoire ne s'arrête pas là et les systèmes d'IA générative sont appelés à beaucoup évoluer dans les années à venir dans différentes directions :

* Qualité des réponses (cf. l'évolution de chatGPT-3 à 4),

* Généralisation de systèmes multimodaux mariant textes, images et sons,

* Intégration aux moteurs de recherche « classiques » (cf. Bard de Google) et aux systèmes de bureautique (cf. Copilot de Microsoft) et à la conception (cf. Firefly d'Adobe).

+ IA argentique...

Mais il faut aussi rester conscient que ces systèmes sont loin d'être parfaits. Ils ne sont que des outils statistiques évolués qu'il faut apprendre à utiliser en connaissant leurs capacités et leurs limites. Par ailleurs la recherche fondamentale continue car de nombreuses voies restent à explorer :

* La capacité d'explication des réseaux neuromimétiques : ces systèmes sont essentiellement des boîtes noires dont le fonctionnement interne est mal connu.

* Le manque de capacités de compréhension et de bon sens des systèmes actuels. L'IA symbolique permettra peut-être de progresser dans ce domaine.

* L'IA doit rester un outil au service de l'humain. L'interaction humain-machine doit être plus étudiée.
Merci !

Visitez www.inria.fr