► To cite this version:

Christophe Biernacki. frugalité@IA@CS. Journée thématique frugalité pour le calcul scientifique, Oct 2025, Bordeaux, France. hal-05442720

HAL Id: hal-05442720

https://inria.hal.science/hal-05442720v1

Submitted on 5 Jan 2026

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>
<figure><img src="image_2.png" /></figure>

Journée thématique frugalité
pour le calcul scientifique
6 octobre 2025, Bordeaux

frugalité@IA@CS

Christophe Biernacki

Adjoint à la Direction Scientifique, Inria
# Un séisme : IA surpasse CS pour la prédiction météo

SCIENCE • 14 Nov 2023

Une IA mise au point par Google Deepmind parvient à dépasser les modèles actuels de prévision météorologique à moyen terme. Baptisée GraphCast, elle n'a besoin que d'une fraction de la puissance de calcul qui est actuellement nécessaire pour délivrer des résultats précis en un temps record.

Alimenté par une IA, GraphCast surpasse pratiquement toujours les outils de prévision existants. Mieux encore, cette IA n'utilise qu'une fraction de la puissance de calcul du système actuel (HRES). Ce qui fait la différence, c'est que l'IA de GraphCast a ingurgité des décennies d'informations météorologiques ainsi qu'une quarantaine d'années de données issues des satellites, des stations météorologiques et des radars. Les procédés actuels fonctionnent différemment. Avec une puissance de calcul colossale nécessitant des centaines de machines sur un supercalculateur, les prévisions à 10 jours sont établies avec de gigantesques bases de données. Elles contiennent des données qui concernent la thermodynamique, la dynamique des fluides et d'autres critères liés aux conditions atmosphériques.
# Autres domaines où l'IA commence à surpasser le CS

Ce sont souvent des domaines mal modélisés ou trop complexes pour une modélisation physique complète :

<table><thead><tr><td>Domaine</td><td>Raisons de bascule IA</td></tr></thead><tbody><tr><td>Chimie / Drug Discovery</td><td>Trop de combinaisons moléculaires → IA explore mieux l'espace</td></tr><tr><td>Matériaux</td><td>Simuler toutes les structures atomiques est trop lent</td></tr><tr><td>Turbulence / CFD</td><td>Simulations très coûteuses → IA génère des champs de vitesse réalistes</td></tr><tr><td>Fusion nucléaire</td><td>Modélisation + IA permet des contrôles temps réel</td></tr><tr><td>Biologie / protéines (AlphaFold)</td><td>IA a surpassé les méthodes classiques de prédiction de structure</td></tr></tbody></table>
1

IA@CS
Vue générale : promesses & limites
Définition du CS

Le calcul scientifique consiste à traduire un problème issu des sciences physiques,
de l'ingénierie, de la biologie, etc. en équations mathématiques, puis à résoudre ces
équations à l'aide d'algorithmes numériques implémentés sur ordinateur.
Les trois piliers du CS

1. Modélisation mathématique : Représenter le phénomène réel (ex. propagation de chaleur, dynamique des fluides, croissance cellulaire...) par des équations : différentielles, aux dérivées partielles, algébriques, etc.

2. Méthodes numériques : Approximations numériques pour résoudre les équations (méthode des différences finies, éléments finis, méthodes spectrales, Monte Carlo, etc.)

3. Programmation et calcul haute performance (HPC) : Implémentation sur ordinateur, souvent en langages optimisés (Fortran, C++, Python avec NumPy/ SciPy), parfois sur supercalculateurs ou GPU pour les gros volumes.
Exemples d'applications du CS

• Prévisions météorologiques

• Simulation du comportement d'un matériau soumis à des contraintes

• Calcul de trajectoires spatiales

• Modélisation de la turbulence

• Conception de molécules en chimie computationnelle

• Analyse d'ondes sismiques ou acoustique
# A timely topic for AI@CS: 2 related workshops in Spring 2024

From machine-learning theory to driven complex systems, and back, Lausanne, May 22-24, 2024

## GAP2024: Grenoble Artificial Intelligence for Physical Sciences Workshop, Grenoble, May 29-30, 2024

### CECAM workshop: "From machine-learning theory to driven complex systems and back"

<figure><img src="image_3.png" /></figure>

cecam

Centre Européen de Calcul Atomique et Moléculaire

<figure><img src="image_4.png" /></figure>

You can apply to participate and find all the relevant information (speakers, abstracts, program...) on the event website: https://www.cecam.org/workshop-details/1287

### Détails de l'événement

<table><tr><td>Date</td><td>22.05.2024 - 24.05.2024</td></tr><tr><td>Lieu</td><td>© BCH 2103</td></tr><tr><td>Catégorie</td><td>Conférences - Séminaires</td></tr><tr><td>Langue de l'événement</td><td>Anglais</td></tr></table>

### INFORMATIONS PRATIQUES

* Public averti

* Sur inscription

<figure><img src="image_5.png" /></figure>

## GAP 2024 Grenoble Artificial Intelligence for Physical Sciences Workshop

Scientific seminars from 29 to 30 May 2024 at MaCi, Grenoble, France

Julia tutorial on 31 May 2024 at IMAG building, Grenoble, France
# The promise

* Computational Fluid Dynamics (CFD) simulations are helping with several design decisions. Ex.: the most efficient geometrical configuration of heat exchanger fins.

* Two major drawbacks are hindering CFD: the time to complete a numerical simulation & the skills required to use it at a reliable level (the so-called *high-fidelity level*).

* Machine Learning and Deep Learning can speed up traditional CFD simulation not by a factor of 10 but by several orders of magnitude.

<table><thead><tr><th>Approach</th><th>Accuracy</th><th>What is needed?</th><th>Gives result...</th></tr></thead><tbody><tr><td>experimental testing</td><td>Very High</td><td>Physical prototype Laboratory</td><td>in days</td></tr><tr><td>CFD</td><td>High / Very High</td><td>Physical models<br>Skills (experience)<br>HPC or cloud rental</td><td>in hours</td></tr><tr><td>Machine (Deep) Learning</td><td>High / Very High</td><td>Data from CFD / experimental testing</td><td>in (milli)seconds</td></tr></tbody></table>

<figure><img src="image_6.png" /></figure>

<figure><img src="image_7.png" /></figure>

<figure><img src="image_8.png" /></figure>

<figure><img src="image_9.png" /></figure>
# Mais l'IA ne remplace pas complètement le CS

Le calcul scientifique reste irremplaçable dans de nombreux domaines car :

* Il repose sur des **modèles physiques fondamentaux** (ex : équations de Navier-Stokes, lois de la thermodynamique, équations de Maxwell, etc.).

* Il permet de **prouver, vérifier et interpréter** les résultats avec des bases théoriques solides.

* Il est utilisé dans des domaines à **fortes exigences de précision**, de sécurité, ou de traçabilité (ex : climat, médecine, ingénierie, aéronautique, énergie nucléaire, etc.).

* **Exemples** où l'IA ne remplace pas :

* Prédire le climat à 100 ans → nécessite des **modèles couplés atmosphère-océan-sol**.

* Concevoir une centrale nucléaire → exige simulations thermiques et neutroniques précises.

* L'IA ne remplace pas le calcul scientifique — elle le renforce, le guide, et parfois l'accélère.

* Elle est aujourd'hui une extension du calcul scientifique, et non un substitut.

* Mais à l'avenir, dans certains domaines (biologie, chimie, turbulence...), les approches hybrides IA + physique pourraient réduire considérablement la place du calcul classique pur.
# Cependant l'IA transforme (de plus en plus...) le CS

## Elle sert de complément ou d'accélérateur

* **Surrogate models** : réseaux de neurones qui approximent des simulations longues → 1000× plus rapides.

* **Réduction de dimension** : aide à explorer l'espace des paramètres ou des solutions.

* **Pré/post-traitement** : accélère l'analyse des sorties de simulation (ex. détection d'événements rares).

* **Assimilation de données** : IA + observations + modèles physiques = meilleures prévisions (ex. météo).

<figure><img src="image_10.png" /></figure>

Exemple : Au lieu de simuler chaque événement climatique rare, on entraîne un modèle IA qui les reconnaît ou les approxime, réduisant drastiquement le temps de calcul.

## Vers des modèles hybrides

* **AI4Science (IA pour la science)** : approche intégrée où l'IA apprend dans le cadre des lois physiques (Physics-Informed Neural Networks - PINNs, graph neural networks sur structures moléculaires, etc.).

* Utilisation croissante dans :

* Chimie quantique

* Astrophysique

* Dynamique des fluides

* Mécanique des milieux continus
An overview of CS vs AI@CS

<figure><img src="image_11.png" /><figcaption>Figure 1.1: Numerical Simulation for real systems</figcaption></figure>

CS

AI@CS

<figure><img src="image_12.png" /><figcaption>Figure 1.2: Data-driven methods to solve PDEs</figcaption></figure>
## Pro/con in brief (before to detail)

Approximation theory of NN+ReLU strongly connected to Finite Element Method. In simple polynomial cases, NNs realize the fixed point **solution of contractive equations**.

It lacks sound theory. Main issues are on consistency/stability/convergence.

Nevertheless, huge potential of NNs/ML for the **modeling of nonlinear phenomenon** by the data.

Quoting Hesthaven, foresee collaborative developments between NNs/ML and PDE solvers, focused on development of **coupling tools for local models** (non linear schemes, sub-grid models, ...) and their stabilization.
# Approach 1: Surrogate approaches (ML is all you need)

## Purely data-based (no physics whatsoever)
# The surrogate Approach: Soft Body Deformation

## Patient-specific real-time simulation

Stéphane Cotin, Mimesis

* Liver is hyper viscoelastic and anisotropic

* Several complex PDEs for soft tissues

* Patient-specific geometry

**Requirements:**

* Less than 3mm error

* Less than 50ms per image

## Supervised learning with U-Net CNNs

<figure><img src="image_13.png" /></figure>

<figure><img src="image_14.png" /></figure>

<figure><img src="image_15.png" /></figure>

Mendizabal, Brunet and Cotin - Physics-based Deep Neural Network for Augmented Reality during Liver Surgery, MICCAI 2019.

* Error w.r.t. FEM below 10% → sufficient for surgeons to find the tumor

* 300 times faster than FEM → sufficient for real time surgery
# Approach 2: Physic-informed approaches (Knowledge helps)

## Physics in the loss
<figure><img src="image_16.png" /></figure>

Error between the real value and the predicted
value - as for that of a traditional neural network

Error between predicted value and
the value respecting the physical
law
Approach 3: Neural-ODE

Learning residuals, or latent dynamics
**Idea:** at the limit, the neural network f can be seen as the solution of a differential equation

$$h_{t+1} = h_t + f(h_t, \theta_t)$$

$$\frac{d\mathbf{h}(t)}{dt} = f(\mathbf{h}(t), t, \theta)$$

## Neural-ODE: classical solver / deep learning hybrid

* Goal: learn an ODE, of the form: $dx/dt = f(x,t,\dots)$, from data

* More precise predictions: integrate it in time with a classical solver (instead of RNN)

* How to train f ? (black-box solver)

* Magic: call the solver backwards on quantity to backpropagate

<figure><img src="image_17.png" /></figure>

<figure><img src="image_18.png" /></figure>

Neural Ordinary Differential Equations; R. Chen, Y. Rubanova, J. Bettencourt, D. Duvenaud; best paper at NeurIPS 2018
# Approach 4: Model discovery (data to PDE formula)

Prospective? E.g. for Surface Engineering
# Model Identification from Experimental Data

* Free-form using Genetic Programming

* Rheological Models

<figure><img src="image_19.png" /></figure>

M.Schoenauer, M.Sebag, F.Jouve, B.Lamy, H.Maitournam. "Evolutionary identification of macro-mechanical models" in AGP, MIT Press, 1996.

* Learning Invariants

<figure><img src="image_20.png" /></figure>

M. Schmidt and H. Lipson "Distilling free-form natural laws from experimental data" Science, 324(5923):81-85, 2009.

* Dictionary-based Learning of Dynamical Systems

$$ \mathcal{N}(t, x, u, u_x, u_{xx}, \dots) = \alpha_{0,0} + \alpha_{1,0}u + \alpha_{2,0}u^2 + \alpha_{3,0}u^3 + \\ \alpha_{0,1}u_x + \alpha_{1,1}uu_x + \alpha_{2,1}u^2u_x + \alpha_{3,1}u^3u_x + \\ \alpha_{0,2}u_{xx} + \alpha_{1,2}uu_{xx} + \alpha_{2,2}u^2u_{xx} + \alpha_{3,2}u^3u_{xx} + \\ \alpha_{0,3}u_{xxx} + \alpha_{1,3}uu_{xxx} + \alpha_{2,3}u^2u_{xxx} + \alpha_{3,3}u^3u_{xxx} $$

S.L. Brunton, J. L. Proctor, and J. N. Kutz. "Discovering governing equations from data ..." PNAS, 113(15):3932-3937, 2016
# PINNs for Data-driven Model Identification

## Identifying both the model and the solution

from

<figure><img src="image_21.png" /></figure>

PINNs

M. Raissi. "Deep Hidden Physics Models: Deep Learning of Nonlinear Partial Differential Equations", JMLR 19:1-24, 2018

to

<figure><img src="image_22.png" /></figure>

Model identification
Issues / Prospective

Guillaume Charpiat and Marc Schoenauer, Inria Saclay, Journée Prospective Oct. 3, 2023.
Data:

* where from? noisy data; small data

* sampling: choosing the right training samples

Making use of knowledge:

* how to incorporate known invariances or properties (eg: divergence-free)

* loss, or priors

* architecture constraint

* learning them (lots of data, augmentation); eg: ClimaX = transformer

* other domain know-how, eg: solution warm start, hierarchical models (/multi-grid)

Reverse: making knowledge from ML:

* more efficient model discovery from data

* explainability/interpretability (DNNs are poor)

Guarantees:

* from classical pipeline: preserve bounds of numerical simulation methods

* new generalization bounds thanks to domain knowledge?

* for surrogates:

* by design: constraints resulting from architecture (eg: div-free from rot of grad)

* bounds thanks to bilevel optimization?

* which metrics:

* statistical vs. worse case; PINNs metric?

* between dynamical systems (eg: chaotic systems): trajectory vs system

* how to optimize them? (probable issues with differentiation)

Optimization:

* debatable approximation quality

* long time series

* physics with different scales that interact

* architectures easier to learn (eg. Fourier Neural Operator, echo state network...)

Generalization:

* Benchmarks?

* Does domain knowledge help? (reminder: ClimaX)

* Transfer learning

* links between diffusion models, optimal transport and transfer learning?

* dictionaries?

* Foundation model (cf LLM) ?
Inria teams

More and more teams from numerical schemes and simulations use ML
**MIMESIS**: surrogate approach for real-time simulation of hyper viscoelastic and anisotropic material

**MACARON/TONUS**: supervised and reinforcement learning for multi-physics multi-scale pbs of plasma physics

**ATLANTIS**: Deep RL for inverse control problem

**TAU**: GNNs, physics-informed ML, validation and bounds

**OCKHAM**: PINNs, reduced models and multi-scale optimization, physics-informed ML for inverse problems, ODE to model the dynamics of network training

**MALICE**: physics-informed ML, ML et PDEs, Neural operators, theoretical guarantees on PINNs

**CAGIRE**: physics-informed ML, mixture of experts

+ many other teams...

<figure><img src="image_23.png" /></figure>
2

Frugalité@IA
Frugalité protéiforme
Les différents facteurs en stat calculatoire (base de l'IA...)

* L'histoire générale des ordinateurs couvre une trentaine d'années (Davis 1977). Des changements technologiques substantiels ont été constants tout au long de cette période. Une grande partie de ces changements spectaculaires ont concerné le matériel informatique, les périphériques qui composent l'ordinateur et leur organisation physique. Le matériel informatique peut être divisé en quatre composants : **les processeurs**, qui contiennent des équipements permettant de manipuler logiquement ou numériquement les informations ; **la mémoire programme**, qui stocke le programme et les données qu'il traite actuellement ; **le stockage de données en masse**, qui stocke toutes les informations que l'ordinateur peut être appelé à traiter (y compris les programmes des utilisateurs) ; et **la communication, l'échange d'informations** entre l'ordinateur et ses utilisateurs ou entre les sous-systèmes de l'ordinateur lui-même.

* L'utilisation des ordinateurs dans les statistiques et ailleurs sera fortement affectée par deux évolutions liées : l'évolution rapide du matériel que nous venons de mentionner et l**'importance croissante des logiciels**, qui entraînera une crise dans la disponibilité de bons programmes (« The Oregon Report » 1978).

Statistical Computing: History and Trends

Author(s): John M. Chambers

Source: *The American Statistician*, Nov., 1980, Vol. 34, No. 4 (Nov., 1980), pp. 238-243

Published by: Taylor & Francis, Ltd. on behalf of the American Statistical Association
La frugalité se décline sous différentes formes

* **La frugalité des entrées** met l'accent sur le coût associé aux données, en particulier à l'acquisition des données d'apprentissage, à l'exploitation des caractéristiques descriptives, ou aux deux. Les entrées frugales peuvent impliquer moins de données d'apprentissage ou moins de caractéristiques que nécessaire pour la meilleure qualité de prédiction réalisable dans un contexte non frugal. La frugalité des entrées peut être **motivée par des contraintes de ressources et par des contraintes de confidentialité**.

* **La frugalité du processus d'apprentissage** met l'accent sur le coût associé au processus d'apprentissage, en particulier les ressources de calcul et de mémoire. L'apprentissage frugal peut produire un modèle avec une qualité de prédiction inférieure à celle réalisable dans un contexte non frugal, mais le faire beaucoup plus efficacement. La frugalité du processus d'apprentissage est principalement motivée par des **contraintes de ressources**, notamment une puissance de calcul limitée et une capacité de batterie limitée.

* **La frugalité du modèle** met l'accent sur le coût **associé au stockage ou à l'utilisation d'un modèle d'apprentissage** automatique, tel qu'un classificateur ou un modèle de régression. Pour l'apprentissage supervisé, les modèles frugaux peuvent nécessiter moins de mémoire et produire des prédictions avec moins d'effort de calcul que nécessaire pour une qualité de prédiction optimale. La frugalité du modèle est principalement motivée par des **contraintes de ressources** telles qu'une mémoire limitée ou des capacités de traitement limitées.
Le mur de l'insoutabilité calculatoire (dès 2015...)

* Des **charges de calcul « colossales »**. De nombreux modèles et méthodes d'analyse de modèles modernes nécessitent des ressources de calcul de la taille d'un Goliath. Par exemple, les méthodes d'analyse de modèles par échantillonnage de Sobol et par Monte Carlo par chaîne de Markov (MCMC) nécessitent **généralement des milliers, des dizaines de milliers ou plus d'exécutions de modèles** pour fournir une exploration approfondie de l'espace des paramètres du modèle (par exemple, Razavi et al. 2010 ; Herman et al. 2013a).

* Confrontés à **des tâches d'analyse de modèles nécessitant des calculs écrasants**, les modélisateurs sont souvent obligés de : (1) **simplifier** — et peut-être même de simplifier à l'excès ! — les modèles simplement pour réduire les temps d'exécution, et/ou (2) effectuer des analyses avec **moins d'exécutions de modèles** que nécessaire pour obtenir des résultats fiables.

Practical Use of Computationally Frugal Model Analysis Methods

Article in Ground Water · March 2015

DOI: 10.1111/gwat.12330
Pistes de solutions
(Re)Penser aux méthodes analytiques

* Tukey (1962) a noté que l'ordinateur avait parfois « stimulé le développement d'une méthode qui s'est ensuite révélée tout à fait applicable sans lui ». Il existe cependant d'autres situations « où l'ordinateur rend possible ce qui aurait été totalement irréalisable »

• Ex. en simulation : échantillonnage d'importance

• Ex. en validation croisée : des solutions exactes existent parfois

• Ex. en statistique d'ordre : simulation « directe »

Simulation d'une statistique d'ordre

<figure><img src="image_24.png" /></figure>

<figure><img src="image_25.png" /></figure>

Celisse, Alain; Mary-Huard, Tristan. Exact Cross-Validation for kNN : application to passive and active learning in classification. Journal de la société française de statistique, Tome 152 (2011) no. 3, pp. 83-97.

FIG. 3.1 – Histogrammes des N = 10⁵ réalisations de la k-ième statistique d'ordre de n = 200 variables aléatoires de loi de Pareto. Le courbe en trait continu représente la densité théorique de la Proposition 3.2. A gauche, simulation utilisant le Corollaire 3.1 (temps d'exécution 0,2 seconde). A droite, simulation « directe » (temps d'exécution 2,6 secondes).
Quand la frugalité aide à l'apprentissage

Une préoccupation essentielle du Machine Learning est d'éviter le surajustement,
avec pour conséquence la frugalité des hypothèses : plus l'hypothèse est frugale,
moins elle risque de surajuster les données.

Evchenko, Mikhail & Vanschoren, Joaquin & Hoos, Holger & Schoenauer, Marc & Sebag, Michèle. (2021). Frugal Machine Learning. 10.48550/arXiv.2111.03731.
# Rôle des limites théoriques sur le calcul

Ce qu'on a appris par l'algorithme (connu)

Besoin de garanties

* Algorithmes avec des garanties démontrables

* Avec un coût de calcul réduit (minimal si possible)

* Applicables en pratique sur des architectures existantes/classiques

La vérité (inconnue)

Limites théoriques en apprentissage

* Minimax lower bounds (example of multivariate regression):

* Given $n$ examples in the dataset.

* $f^*$ is $s$-times differentiable, $X = \mathbb{R}^d$ and $L(y, y') = (y - y')^2$

Theorem: For any algorithm there exists a learning problem for which

$$ \mathbb{E}L(\hat{f}(x), y) - \mathbb{E}L(f^*(x), y) \geq cn^{-\frac{2s}{2s+d}} $$

A Distribution-Free Theory of Nonparametric Regression, Győrfi et al. 2001

<figure><img src="image_26.png" /></figure>

Peut-on construire un algorithme qui atteint ce type de borne optimale (en stockage, en calculs) ?
## Les défis d'une IA frugale

24.11.2023, par Martin Koppe

> "Il ne faut pas se leurrer, l'IA est considérée comme un vecteur de croissance économique par beaucoup de secteurs d'activité."

Divers systèmes, aux frontières des neurosciences, des mathématiques et de la physique fondamentale ouvrent des perspectives intéressantes. Le cerveau humain nous montre ainsi que les possibilités de progrès sont énormes car il parvient à accomplir toutes ses tâches avec seulement une dizaine de watts, soit moins que l'énergie nécessaire à une lampe de chevet.
Même dans les RNN il y a frugalité potentielle

Beaucoup de (très)
petits coefficients...

<figure><img src="image_27.png" /></figure>

<figure><img src="image_28.png" /></figure>

© Rémi Gribonval
Ex. : Compression de données

• Conserve la convergence et l'identifiabilité

• Préserve les petites structures (au contraire de l'échantillonnage)

<figure><img src="image_29.png" /><figcaption>(a) Raw data</figcaption></figure>

<figure><img src="image_30.png" /><figcaption>(b) Binned data</figcaption></figure>
# Ex. : transfer learning

Quantmetry
Part of Capgemini Invent

Intelligence artificielle frugale

## Le transfer learning, un moyen de rendre l'IA plus « verte »

L'une des solutions explorées est l'apprentissage par transfert (transfer learning) où il est possible d'exploiter les connaissances (caractéristiques, poids, etc.) des modèles précédemment formés pour former de nouveaux modèles, et même résoudre des problèmes tels que le manque de jeux de données. Par conséquent, avec l'apprentissage par transfert, au lieu de former un réseau de neurones à partir de zéro pour exécuter une certaine tâche, nous pouvons prendre un réseau déjà entraîné sur un domaine différent pour exécuter une tâche source différente et l'adapter au domaine dont nous avons besoin et à notre tâche cible.
Ex. : Compromis ressources / précision

<figure><img src="image_31.png" /></figure>

Défi I = maîtriser les compromis fondamentaux ressources /
performance (courbe de Pareto)
# Processeurs : l'existant

<table><thead><tr><th>Type de processeur</th><th>Nom complet</th><th>Polyvalence</th><th>Parallélisme</th><th>Usage idéal</th><th>Exemples d'usage</th></tr></thead><tbody><tr><td>CPU</td><td>Central Processing Unit</td><td>★★★★ (Très large)</td><td>★★★ (Limité)</td><td>Tâches générales, OS, bureautique, calculs séquentiels</td><td>Traitement de texte, système, calcul scientifique léger, compilation</td></tr><tr><td>GPU</td><td>Graphics Processing Unit</td><td>★★★ (Modérée)</td><td>★★★★★ (Élevé)</td><td>Calculs massivement parallèles, IA, calcul scientifique intensif, rendu graphique</td><td>Deep learning, simulations physiques, rendu 3D, modélisation scientifique</td></tr><tr><td>TPU</td><td>Tensor Processing Unit</td><td>☆ (Spécialisé)</td><td>★★★★★ (Très élevé)</td><td>Machine learning, surtout avec TensorFlow</td><td>Inférence et entraînement de modèles IA, classification, NLP, vision par ordinateur</td></tr></tbody></table>

<figure><img src="image_32.png" /></figure>

## Exemple concret : Inférence sur 1 million d'images

<table><thead><tr><th>Processeur</th><th>Temps</th><th>Énergie totale (env.)</th></tr></thead><tbody><tr><td>CPU (32 cœurs)</td><td>60 min</td><td>~1.5-2 kWh</td></tr><tr><td>GPU (Nvidia A100)</td><td>5 min</td><td>~0.5 kWh</td></tr><tr><td>TPU v3/v4</td><td>3 min</td><td>~0.25 kWh</td></tr></tbody></table>
## Processeurs : risques pour le CS traditionnel

**NVIDIA et IA/calcul scientifique** : Philippe Helluy (MACARON) alerte sur le fait que NVIDIA va mettre plus d'effort sur le matériel IA et va dégrader les processeurs pour le calcul scientifique (ex : version ancienne H100 à 67 teraFLOPS ; version nouvelle B100 à 26 teraFLOPS)
## Processeurs : grosses évolutions en cours

Cerebras fait état de vitesses d'inférence plus de 20 fois supérieures à celles des GPU Nvidia sur une gamme de modèles, permettant de nouveaux cas d'utilisation dans la génération de code, le raisonnement et l'IA basée sur des agents

Procédés de fabrication lithographique pour imprimer les mémoires et les processeurs de calculs en proximité directe sur la même puce. Au lieu d'être limités par le bus de données, les paramètres du modèle IA sont directement stockés sur une seule et même puce. Les connexions sont beaucoup plus petites et courtes et donc on peut en mettre beaucoup. Sans ce goulot d'étranglement entre la mémoire et le processeur, on arrive à des vitesses d'accès à la mémoire extrêmement élevées.

<figure><img src="image_33.png" /></figure>

## Une puce photonique réduit de 99 % la consommation énergétique des calculs d'IA

par la rédaction — 9 septembre 2025 en Intelligence artificielle, Technologie

Des ingénieurs de l'Université de Floride, en collaboration avec des chercheurs de l'Université de Californie à Los Angeles et de l'Université George Washington, ont conçu un prototype de puce informatique exploitant la lumière plutôt que l'électricité pour exécuter l'une des opérations les plus énergivores de l'intelligence artificielle : la reconnaissance d'images et d'autres tâches fondées sur la détection de motifs. Leurs résultats démontrent une réduction drastique de la consommation énergétique pour des calculs jusqu'ici gourmands en ressources.

<figure><img src="image_34.png" /></figure>
# IAG pour programmer : une piste pour optimiser ?

## DeepMind claims its new code-generating system is competitive with human programmers

### Problem Description

```cpp
// RATING: 3300
// TAGS: constructive algorithms, greedy, implementation
// LANGUAGE IS cpp
// CORRECT SOLUTION
// A tree is a connected graph without cycles. A rooted tree has a special
// vertex called the root. The parent of a vertex v (different from root) is
// the
// previous to v vertex on the shortest path from the root to the vertex v.
// Children of the vertex v are all vertices for which v is the parent.
//
// A vertex is a leaf if it has no children. We call a vertex a bud, if the
// following three conditions are satisfied:
//
// * it is not a root,
// * it has at least one child, and
// * all its children are leaves.
//
//
// You are given a rooted tree with n vertices. The vertex 1 is the root. In
one
// operation you can choose any bud with all its children (they are leaves) and
// re-hang them to any other vertex of the tree. By doing that you delete the
// edge connecting the bud and its parent and add an edge between the bud and
// the chosen vertex of the tree. The chosen vertex cannot be the bud itself or
// any of its children. All children of the bud stay connected to the bud.
//
// What is the minimum number of leaves it is possible to get if you can make
// any number of the above-mentioned operations (possibly zero)?
//
// Input
//
//
```

This solution stands out from other AlphaCode solutions because it inputs a tree and then traverses it with a depth-first search (DFS). Here it most likely borrowed large chunks of code from other dfs-on-tree problems, such as the 'dfs' function or the I/O. The sorting of adjacent vertices by depth seems to be unnecessary, fitting the pattern of useless-but-harmless code pieces that we see in other AlphaCode submissions.

There are 5 public sample cases in this problem, but all answers are small (1 or 2), therefore it's quite cool that the solution has managed to figure out the correct logic for the "getans" method with only those examples. I expect a typical human competitor to make at least a few wrong attempts in this problem.

- Petr Mitrichev, Software Engineer, Google & World-Class Competitive Programmer.

### Solution

```cpp
#include <bits/stdc++.h>
using namespace std;
const int N = 2e5 + 10;
vector<-int> g[N];
int n, d[N], ct[N];
void DFS(int x, int fa) {
    d[x] = d[fa] + 1;
    for (int i = 0; i < g[x].size(); i++) {
        int v = g[x][i];
        if (v == fa) continue;
        DFS(v, x);
    }
}
```
Merci !

Visitez www.inria.fr