# ATTILA – Addressing security threats to artificial intelligence in approximate computing systems

Lorenzo Casalino, Maria Mendez Real, Jean-Christophe Prévotet, Ruben Salvador

► To cite this version:

Lorenzo Casalino, Maria Mendez Real, Jean-Christophe Prévotet, Ruben Salvador. ATTILA – Addressing security threats to artificial intelligence in approximate computing systems. WISG 2025 - Workshop interdisciplinaire sur la sécurité globale, Mar 2025, Paris, France. pp.1-1, 2025. hal-05262917

HAL Id: hal-05262917

https://hal.science/hal-05262917v1

Submitted on 16 Sep 2025

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
<figure><img src="image_2.png" /></figure>

<figure><img src="image_3.png" /></figure>

Addressing securiTy Threats to
artIficial intelligence in
Approximate computing systems

<figure><img src="image_4.png" /></figure>

## CONTACTS

RUBEN.SALVADOR@INRIA.FR

LORENZO.CASALINO@IRISA.FR

MARIA.MENDEZ-REAL@UNIV-UBS.FR

JEAN-CHRISTOPHE.PREVOTET@INSA-RENNES.FR

COORDINATEUR Rubén SALVADOR

PARTENAIRES
Lab-STICC IETR UMR IRISA

## RÉSUMÉ

ATTILA représente une étape essentielle pour protéger la société technologique du futur : ce projet vise à comprendre le rôle de la Computation Approximée (CA) sur la sécurité des implémentations matérielles et logicielles des algorithmes d'Intelligence Artificielle (IA) déployés sur des plateformes faibles en ressources.

## CONTEXTE

La CA AMÉLIORE l'efficience des implémentations des algorithmes IA, comme les RESEAUX NEURONS (RNs)

Les RNs sont EXPOSÉS aux attaques visant leur implémentation, comme les ANALYSES SIDE CHANNEL

## OBJECTIF

Comprendre le RÔLE de la CA sur la SÉCURITÉ des systèmes utilisant l'IA

## LA MENACE « SIDE CHANNEL »

Un RN possède des caractéristiques qui sont confidentielles: les entrées, l' architectures (nombre de couches, taille du kernel, ...) et le modèle (poids $W_i$)

Par l'analyse statistique d'une grandeur physique -- le SIDE CHANNEL -- un attaquant peut récupérer ces caractéristiques

<figure><img src="image_5.png" /></figure>

Un attaquant est intéressé par les entrées, l'architecture et le modèle d'un RN (dans l'image, le RN MOBILENET)

<figure><img src="image_6.png" /><figcaption>TABLE X-Y</figcaption></figure>

SONDE EM

OSCILLOSCOPE

MICROCONTRÔLEUR
ÉXECUTANT UN RN

Notre équipement pour l'évaluation de sécurité

## MÉTHODOLOGIE

### ÉVALUATION DE SÉCURITÉ (ANALYSES SIDE CHANNEL)

COMPRENDRE LES
MÉTHODOLOGIES
D'ATTAQUE

ÉVALUATION DES
RNS PAS
APPROXIMÉS

ÉVALUATION DES
RNS APPROXIMÉS

### DESIGN-SPACE EXPLORATION

IDENTIFICATION DE
MÉTRIQUES (EX.,
SÉCURITÉ VS
PERFORMANCE)

CONCEPTION DE
PROBLÈMES
D'OPTIMISATION

IDENTIFICATION DE
POINTS OPTIMAUX
DANS LE DESIGN

### CONCEPTION DE CONTRE-MESURES

EXPLOITER LA CA
POUR RÉDUIRE LE
RISQUE D'ATTAQUE

COMPRENDRE LES
CONTRE-MESURES
EXISTANTES

SUPPORTER LES
CONTRE-MESURES
PAR LA CA

## PERSPECTIVES

### OPEN SOURCE

<figure><img src="image_7.png" /></figure>

Documenter et publier les:

* Traces side channel

* Outils d'évaluation

* Outils de conception

* Preuves de concept

### AUTOMATION

<figure><img src="image_8.png" /></figure>

Automatiser l'application des contre-mesures:

* Compilation de logicielles

* Synthèse de circuits

* Runtime

### EXTENSION

<figure><img src="image_9.png" /></figure>

Évaluer et adapter les contre-mesures développés à d'autres types d'attaque:

* Fault injection

* Adversarial