# Rennes - une IA souveraine au service de la vie publique

Guillaume Gravier, Elisa Fromont, Nicolas Courty, Teddy Furon, Christine Guillemot, Paolo Robuffo Giordano

## ► To cite this version:

Guillaume Gravier, Elisa Fromont, Nicolas Courty, Teddy Furon, Christine Guillemot, et al., Rennes - une IA souveraine au service de la vie publique. Bulletin de l'Association Française pour l'Intelligence Artificielle, 2021. hal-03313161

HAL Id: hal-03313161

https://hal.science/hal-03313161v1

Submitted on 3 Aug 2021

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons CC BY 4.0 - Attribution - International License
<figure><img src="image_2.png" /></figure>

## Rennes - une IA souveraine au service de la vie publique

IRISA & Inria Rennes Breatagne Atlantique
CNRS

Université de Rennes 1

Université Bretagne Sud

Guillaume GRAVIER
guig@irisa.fr

Élisa FROMONT
elisa.fromont@irisa.fr

Nicolas COURTY
nicolas.courty@irisa.fr

Teddy FURON
teddy.furon@irisa.fr

Inria

Christine GUILLEMOT
christine.guillemot@irisa.fr

Inria

Paolo ROBUFFO GIORDANO
paolo.robuffo_giordano@irisa.fr

CNRS

## Présentation générale du site

Le site de Rennes a de longue date développé une expertise large sur tous les domaines de l'IA appliqué à l'analyse de données variées, notamment signaux et images. Les activités de recherche en IA du site s'appuient sur l'ensemble des établissements d'enseignement supérieur et de recherche et des organismes de recherche, notamment le CNRS et Inria. Les recherches en IA s'articulent autour des laboratoires en mathématiques, informatique, traitement du signal et de l'image du pôle Mathématique - Numérique de l'Université de Rennes 1, fédérant les établissements au sein des UMR, et du centre Inria Rennes - Breatagne Atlantique, associés à des laboratoires clés dans le domaine des sciences humaines et sociales comme le droit, la psychologie comportementale ou encore les sciences de l'éducation. Le laboratoire d'excellence CominLabs permet de renforcer les synergies entre unités de recherche et champs disciplinaires, notamment au travers de ces axes *Données, IA et robotique*, IA pour l'éducation et TIC pour la méddecine de précision. Enfin, l'IRT b<>com parti-

cipe à cette dynamique, notamment au travers de sa plateforme boostAI pour faciliter la pénétration des technologies de l'IA dans les entreprises, épaulé par le pôle de compétivité Images & Réseaux à l'interface entre recherche et innovation.

Sur le plan académique, on recense sur le bassin renais environ 250 chercheuses et chercheurs ayant une activité de recherche en lien avec l'IA, couvrant l'ensemble des thèmes du domaine et de nombreuses applications. Cela recouvre notamment les fondements mathématiques de l'apprentissage automatique, la modélisation des données et le raisonnement logique, jusqu'à l'intégration de l'IA pour la robotique, la perception et la vision, le traitement du langage naturel, la science des données, les IHM et environnements immersifs, les systèmes distribués et l'architecture (accélération matérielle). La diversité des aspects de l'IA couverts par la recherche à Rennes, avec une compétence forte sur les données, les signaux et les images, et l'ancrage historique sur une palette de domaines d'application où l'analyse des données et des contenus joue un rôle prépondérant – e.g., santé, environnement, divertisse-
<figure><img src="image_3.png" /></figure>

AfIA

Association française
pour l'Intelligence Artificielle

ment – donnent sa colloration aux spécificités
du site.

Le projet porté par Rennes vise à développer, expérimenter et promouvoir une technologie d'IA souveraine au service de la vie publique, avec des applications dans des secteurs critiques. Dans ce contexte, le site de Rennes développe une recherche fondamentale sur le coeur méthodologique de l'IA et sur son intégration au service de quatre grandes thématiques phares :

- Défense et la sécurité, avec un accent sur l'apprentissage automatique et la fouille de données pour la cybersécurité : détection des cyberattaques ; protection des systèmes fondés sur l'IA contre les attaques ; détection des signaux faibles dans les données de renseignement ; lutte contre l'influence numérique ; etc.

- Santé, avec un accent sur les données de santé, notamment images, et l'analyse prédictive : prédiction à partir des données de l'assurance maladie et de la sécurité sociale ; diagnostic à l'aide de l'imagerie médicale et de l'analyse des données ; coordination et sécurisation des parcours des patients ; interprétation des signaux pour la rééducation ; etc.

- Aménagement du territoire et des villes, avec un accent sur les environnements intelligents pilotés par les données : organiser la mobilité à partir de données urbaines hétérogènes ; optimiser l'accès à l'énergie, à l'eau ou aux réseaux ; surveiller l'environnement et s'adapter au changement climatique ; etc.

- Éducation, culture et divertissement, avec un accent sur l'interprétation du signal, de l'image et du langage : démocratiser l'accès à des biens culturels riches ; numériser l'éducation à l'écriture et aux compétences linguistiques ; garantir la fiabilité des informations ; etc.

Les chaires de recherche financée dans le cadre du plan national IA, dont les objectifs sont succinctement décrits ci-dessous, s'inscrivent pleinement dans ces thématiques : la chaire de Teddy Furon contribue à la thématique défense et sécurité ; celle de Christine Guillemot émarge à la thématique éducation, culture et divertissement ; celle de Nicolas Courty est centrée sur la thématique d'aménagement du territoire, avec des applications directes dans le domaine de la défense ; enfin, la chaire de Paolo Robuffo Giordano trouve facilement des applications dans les domaines de la défense et de la santé. De manière similaire, les projets financées dans le cadre du LABEX CominLabs s'inscrivent pour la plupart sur ces thématiques. On citera par exemple des projets fondamentaux sur l'apprentissage numérique (DynaLearn), des projets sur IA et santé, e.g., l'analyse de données cliniques (BigClin) ou encore la gestion personnalisée des traitements (Predictive), des projets en e-éducation impliquant la reconnaissance des formes pour l'apprentissage sur tablette interactive (eFIL) ou dans le domaine du patrimoine et de la culture sur l'exploration d'archives de presse (LIMAH).

Ces deux derniers projets, eFIL et LIMAH, illustrent aussi l'approche pluridisciplinaire que nous nous efforcons de développer, alliant au sein de projets des contributions en IA et en science humaines et sociales. Le premier allie chercheurs en analyse de documents et en psychologie comportementale, le second combinant traitement automatique des langues, droit, psychologie et sociologie.

Les travaux académiques en IA s'appuient sur des partenariats solides, notamment avec les pouvoirs publics et collectivités, pour développer un terrain d'expérimentation à grande échelle des technologies de l'IA. Le CHU de Rennes est bien sûr fortement impliqué dans cette dynamique, contribuant directement aux recherches et expérimentations sur la théma-
<figure><img src="image_4.png" /></figure>

AfIA

Association française
pour l'Intelligence Artificielle

tique santé. La proximité du centre de la DGA Maitrîse de l'Information, concentrant une grande partie des activités en cybersécurité et en IA de la DGA et en lien direct avec les entreprises de la défense, et les liens partenariaux entre les acteurs académiques et DGA MI ouvrent des perspectives directes d'application dans ce domaine. Rennes Métropole est par ailleurs particulièrement en pointe dans la ville intelligente, avec des expériences de citoyeneté participative, un projet européen d'engvergure sur l'ouverture des données publiques (Rennes Urban Data Interface). Ce dernier partenariat se traduit notamment par la chaire de la fondation Rennes 1 « Mobilité dans une ville durable » sur la collecte, la diffusion et l'exploitation de données ouvertes qui allie acteurs académiques, entreprises (Enedis, Keolis) et la métropole.

Au-delà des acteurs publics, de nombreuses entreprises participent à la recherche et l'innovation en IA, avec une implantation historique d'acteurs majeurs dans le domaine des télécommunications comme Orange, InterDigital, TDF ou Thales, mais aussi de nombreuses PME dans le domaine de l'IA, de la donnée et de l'aide à la décision. Le pôle de compétitivité Images & Réseaux joue un rôle majeur dans la fertilisation croisée entre la recherche fondamentale et appliquée et l'innovation avec l'accompagnement de projets d'innovation.

La projet de site revendique pleinement son
positionnement sur le développement de l'IA au
service de la vie publique, s'appuyant sur une
recherche académique fondamentale et appli-
quée en IA pour venir nourrir des projets d'ex-
périmentation à grande échelle en lien avec
les collectivités et les acteurs privées. Au-delà
des enjeux académiques en IA, l'approche fon-
dée sur la mise en pratique et l'expérimen-
tation réelle au service des transitions de la
société soulève des problématiques spécifiques
qui viennent nourrir la recherche, souvent à la

frontière entre disciplines. C'est aussi cet enjeu
d'articulation entre les disciplines, de mise en
synergie des savoirs et des pratiques, qui gou-
verne la recherche en IA sur le site de Rennes.

Chaire de Christine Guillemot : méthodes d'apprentissage pour l'imagerie computationnelle

L'imagerie numérique et computationnelle est au cœur d'un très grand nombre d'applications. Les nouvelles modalités d'imagerie, comme les champs de lumière ou l'imagerie omni-directionnelle, ouvrent de nouvelles perspectives en photographie computationnelle, en réalité augmentée, mais aussi pour la vidéo-surveillance, en raison de leur potentiel pour la compréhension de scènes, la reconnaissance de visages, ou l'analyse de gestes. Ces modalités d'imagerie trouvent également des applications dans les sciences de la vie, par exemple en microscopie par champ lumineux, ou en imagerie médicale. L'acquisition et l'utilisation de telles modalités d'images posent toutefois de nouveaux défis liés aux limitations technologiques des capteurs, ou des dispositifs optiques. Ces limitations se traduisent par la présence de bruit, de défauts de flous dus à la résolution limitée des capteurs, ou encore aux aberrations géométriques ou optiques du système d'acquisition. Un autre défi pour leur utilisation dans des applications réelles concerne la très grande dimension de ces données.

Les méthodes de représentations parcimo-
nieuses et de faible rang ont été, pendant
des décennies, au cœur de la réduction de
dimensionalité des données, et de la résolu-
tion des problèmes inverses en imagerie 2D,
comme le dé-bruitage, le dé-floutage, la super-
résolution, ou encore l'acquisition compressée.
Pour résoudre ces problèmes inverses mal po-
sés, on fait appel à des méthodes d'optimisa-
tion contraignant la solution à vérifier certaines
propriétés à priori. Ces méthodes d'optimisa-
<figure><img src="image_5.png" /></figure>

AfIA

Association française
pour l'Intelligence Artificielle

tion présentent l'intérêt d'être faciles d'utilisation, génériques car elles pouvent s'appliquer à une large gamme de problèmes inverses, comme le dé-bruitage, le dé-floutage, la super-résolution, ou encore l'acquisition compressée. Mais ces méthodes sont aujourd'hui moins efficaces que les solutions basées sur des réseaux de neurones appris à partir de très grandes bases de données.

A l'inverse, les méthodes d'apprentissage profond permettent de résoudre efficacement ces problèmes inverses en imagerie 2D. Néanmoins, les solutions existantes impliquent des réseaux spécifiques à chaque problème, et l'existence de très grandes bases d'images d'entrainement. Les réseaux sont en outre de très grande taille avec un nombre très élevé de paramètres. Le nombre de paramètres est d'autant plus grand que la dimensionnalité des données est grande, comme c'est le cas des champs de lumières ou des images omni-directionnelles. L'utilisation de ces réseaux spécifiques à un problème pose des problèmes pratiques sur les équipements à ressources limitées tels que les caméras mobiles.

L'objectif du projet est d'explorer de nouvelles méthodes couplant avantages de l'apprentissage profond et des méthodes d'optimisation afin de fournir des solutions efficaces, génériques, avec des modèles de dimension réduite. Les modèles profonds, appris à partir de données d'entrainement, pourront modéliser des propriétés plus complexes que les a-priori classiques des signaux à estimer, et ainsi définir des contraintes de régularisation ou des opérateurs proximaux efficaces pour les algorithmes d'optimisation, et utilisables pour une large gamme de problèmes inverses.

## Chaire de Nicolas Courty (Université Bretagne Sud) : observation de la terre par transport optimal et IA

L'observation de la Terre est l'une des questions clés pour la compréhension des systèmes environnementaux et humains. Parmi elles, les capteurs d'imagerie aérienne ou satellitaire permettent une observation à très grande échelle des ressources terrestres. Ses impacts sont nombreux et liés à un large éventail de domaines d'application, souvent liés à des problématiques environnementales ou aussi à des défis sociétaux. Au-delà du volume exceptionnel de données à traiter en télédétection, la complexité intrinsèque des données considérées pose également des défis scientifiques et technologiques importants. Du fait de l'amélioration continue des capteurs des satellites d'observation de la terre, les données géospatiales sont maintenant des données riches, mêlant une information de nature hétérogène (de la donnée électromagnétique du spectre visible ou invisible, allant à l'information géométrique issue de données laser), sur des zones d'observation d'une même partie de la Terre qui peut être revisitée à haute fréquence temporelle. Enfin, la complexité provient également de l'importance du bruit, de l'imprécision et de l' incomplétude qui caractérisent les observations fournies par les satellites. L'IA et les domaines connexes (apprentissage automatique ou la vision par ordinateur) ont le pouvoir de transformer cette masse de données en une puissante source de connaissances destinées aux scientifiques, aux décideurs ou même au grand public. Grâce à sa capacité à résoudre des problèmes complexes et à automatiser le travail des opérateurs humains, l'IA peut être appliquée avec succès aux défis environnementaux et sociétaux, et présente un fort potentiel pour apporter un énorme bienfait social à l'avenir.

Le projet OTTOPIA propose d'aborder certaines des questions soulevées ci-dessus du
<figure><img src="image_6.png" /></figure>

AfIA

Association française
pour l'Intelligence Artificielle

point de vue méthodologique en apprentissage automatique. En effet, notre objectif principal est de fournir de nouveaux modèles et architectures qui peuvent s'adapter au volume important des données issues de l'observation de la terre et à leur complexité inhérente, afin d'offrir de nouvelles méthodologies opérationnelles dans le contexte de la télédétection et de l'observation de la terre. Plus précisément, nous proposons d'examiner certains de ces problèmes à la lumière de la théorie du transport optimal (TO). Cette riche théorie mathématique a gagné ces dernières années une forte popularité dans la communauté de l'apprentissage automatique, en raison du développement récent de procédures d'optimisation novatrices [3]. Fondamentalement, le TO fournit des moyens de définir des distances entre des mesures de probabilité. Ces distances, qui ont reçu plusieurs noms dans la littérature (distances de Wasserstein, Gromov-Wasserstein, Monge-Kantorovich ou Earth Mover), ont des propriétés fortes et importantes : i) elles peuvent être évaluées lorsque seules des mesures empiriques des distributions sont observées; ii) elles peuvent exploiter la géométrie de l'espace métrique sousjacent, et fournir des distances significatives même lorsque les supports des distributions ne se recouvrent pas. Cela a notamment conduit à des percées majeures dans d'importants problèmes d'apprentissage automatique tels que l'adaptation au domaine [2] ou les réseaux adversariaux génératifs [1].

Dans le cadre de cette chaire démarrée fin 2020, nous proposons de travailler à la fois sur les aspects fondamentaux des interactions entre le TO et l'apprentissage automatique, et sur leurs applications à des problèmes fréquemment rencontrés en télédétection/observation de la terre.

## Chaire de Paolo Robuffo Giordano (CNRS) : algorithmes de contrôle partagé pour la coopération humain / multi-robots

Les robots effectuent des actions dans le monde réel en fonction de leur perception et de leur compréhension de l'environnement, alors qu'ils interagissent physiquement avec lui. L'ensemble de ces capacités de détection, d'interprétation, de modélisation, de prédiction et d'interaction avec le monde physique sont des applications concrètes des outils et des méthodologies de l'intelligence artificielle (IA). Dans ce contexte, les systèmes multi-robots représentent un défi intéressant et innovant pour les domaines de la robotique et de l'intelligence artificielle, car toutes les capacités susmentionnées doivent être réparties sur des entités physiques multiples et différentes qui doivent communiquer et partager leur représentation du monde pour atteindre des objectifs de haut niveau. En même temps, un autre domaine important de la robotique et de l'intelligence artificielle est celui de l'interface homme-robot, c'est-à-dire la manière d'interfacer un opérateur humain avec un ou plusieurs robots pour partager la charge de la prise de décision autonome et du contrôle de la mission. Dans le cas de l'interaction homme/multi-robots, il est néanmoins très difficile de concevoir des systèmes d'interfaçage efficaces. Premièrement, l'opérateur humain doit être capable de contrôler seul l'action d'une équipe robotique de manière naturelle et intuitive. Deuxièmement, l'équipe robotique doit être capable de fournir à l'homme, de manière efficace et exhaustive, une grande quantité d'informations en retour provenant de l'environnement distant. Dans ce contexte, l'objectif de la chaire IA MULTISHARED est de faire progresser de manière significative l'état de l'art en matière d'autonomie multi-robot et d'interaction homme-multi-robot pour permettre à un opérateur humain
<figure><img src="image_7.png" /></figure>

AfIA

Association française
pour l'Intelligence Artificielle

de contrôler intuitivement le mouvement coordonné d'un groupe de multi-drones naviguant dans des environnements distants, en mettant l'accent sur la répartition des rôles entre l'autonomie multi-robot (dans le contrôle de son mouvement/configuration et la prise de décision en ligne) et l'intervention/le guidage humain pour fournir des commandes de haut niveau au groupe tout en étant le plus conscient de l'état du groupe via la RV et la technologie haptique. Sur la base de notre expérience antérieure en matière d'interaction homme/multi-robots, nous prévoyons de travailler sur de nouveaux algorithmes impliquant la planification, le contrôle et l'apprentissage automatique pour un groupe multi-drones afin d'augmenter l'autonomie du groupe et de fournir une interface "utilisable" à l'opérateur humain, pouvant s'adapter en ligne à la tâche/situation en cours. Nous prévoyons également de mener des études approfondies sur des sujets humains, suivies d'une analyse statistique fondée sur des principes, afin de valider de manière approfondie les avantages et les inconvénients des approches proposées.

## Chaire de Teddy Furon (Inria) : sécurité de l'IA pour les applications à la défense

Comme bien d'autres domaines applicatifs, la défense et de sécurité font face à un déluge de données à la fois en termes de quantité, de résolution et d'hétérogénéité. L'IA est seule capable d'exploiter ces données pour aider l'opérateur à les analyser, à découvrir des événements suspects et à lancer des alertes. L'IA devient un outil clé dans la prise de décision en temps réel sur le théâtre des opérations comme sur le temps long de la surveillance, de la logistique ou de la maintenance. Les spécificités dans le domaine de la défense sont que les données sont souvent sensibles et confidentielles, ou au contraire de confiance limitée. D'autre part, la fiabilité des outils d'aide à la décision

est poussée à un niveau extrême : rater une alerte peut mettre en danger de la vie de civils et de soldats. Enfin, l'existence d'entités malveillantes est l'hypothèse de travail par défaut en sécurité et défense : L'ennemi leurre des systèmes déployés ou manipule les données pour biaiser leur apprentissage. La chaire SAIDA « Security of Artificial Intelligence in Defense Applications » est financée par l'ANR et l'AID (Agence de l'Innovation de Défense) dont une des missions est de garder un avantage stratégique et une indépendance technologique dans l'IA pour la défense. Le but de la chaire est d'établir les principes d'une IA fiable et sure. Fiable pour maintenir un niveau de performance même quand des incertitudes polluent la chaine d'acquisition des données. Sure pour résister à des attaques dans des environnements hostiles. Fiabilité et sécurité sont malmenées à la fois dans les phases d'apprentissage et de déploiement sur le terrain. De nombreux travaux montrent qu'il est facile de biaiser l'apprentissage d'un réseau de neurones pour y cacher une fonctionnalité inconnue de l'utilisateur légitime en corrompant une fraction des données d'apprentissage, ou de leurrer un réseau pourtant appris sur des données saines en perturbant de manière imperceptible les observations. En résumé, l'apprentissage est l'art de déduire un 'modèle' à partir de 'données' pour l'appliquer sur des 'observations' et en extraire des 'inférences'. Alors 'données', 'modèle', 'observation' et 'inférence' sont quatre objets dont SAIDA doit protéger la confidentialité, l'intégrité, la propriété et la confiance. La collaboration avec des grands groupes industriels acteurs clés de la défense (Thales, Airbus, Naval Group) et des PME (ZAMA.ia) est une volonté forte de SAIDA.

## Références

[1] M. Arjovsky, S. Chintala, and L. Bot-tou. Wasserstein generative adversarial
<figure><img src="image_8.png" /></figure>

AfIA

Association française
pour l'Intelligence Artificielle

networks. In *Proceedings of the 34th International Conference on Machine Learning*, volume 70, pages 214–223, Sydney, Australia, 06–11 Aug 2017.

[2] Nicolas Courty, Rémi Flamary, Devis Tuia, and Alain Rakotomamonjy. Optimal transport for domain adaptation. *IEEE Trans. on*

*Pattern Analysis and Machine Intelligence (PAMI)*, 39(9) :1853–1865, 2017.

[3] Gabriel Peyré and Marco Cuturi. Computational optimal transport. *Foundations and Trends in Machine Learning*, 11(5-6) :355–607, 2019.