# La génération de données synthétiques par des systèmes d'intelligence artificielle, une nouvelle méthode de protection et de valorisation des données

Bertrand Cassar

► To cite this version:

Bertrand Cassar. La génération de données synthétiques par des systèmes d'intelligence artificielle, une nouvelle méthode de protection et de valorisation des données. Dalloz IP/IT : droit de la propriété intellectuelle et du numérique, 2024, pp.282. halshs-04588488

HAL Id: halshs-04588488

https://shs.hal.science/halshs-04588488v1

Submitted on 13 Jun 2025

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
# Projet d'article scientifique

décembre 2023

Dalloz IP/IT 2024 p. XXX

La génération de données synthétiques par des systèmes d'intelligence artificielle, une
nouvelle méthode de protection et de valorisation des données

Bertrand Cassar, Docteur en droit, Co-responsable des Diplômes universitaires « Transformation numérique du droit » et « Data / IA, Droit du numérique » à l'Université Paris 1 Panthéon-Sorbonne, chargé d'enseignement à l'Institut catholique de Paris et chercheur associé au CEIPI de l'Université de Strasbourg

L'année 2023 a été marquée du sceau de l'intelligence artificielle. Cette année charnière, tant d'un point de vue technique que juridique, a apporté son lot de questions. Elle aura été à la fois le théâtre international de la découverte de l'intelligence artificielle générative (IAG) par le grand public et un marathon effréné sur le projet de règlement sur l'intelligence artificielle (RIA ou AI Act), ayant abouti, fin décembre 2023, à un accord politique durant la phase de trilogue. Ces deux actualités révèlent en réalité deux thématiques juridiques prégnantes, qui seront sans doute au cœur des discussions à venir.

La première d'entre elles – que nous n'aborderons pas dans cet article – est relative aux interactions entre les **systèmes d'intelligence artificielle et la protection de la propriété intellectuelle** ¹. Résoudre cette question épineuse sera sans doute l'un des défis majeurs de la nouvelle année. La collecte massive des données sur Internet (moissonnage ou scraping) – afin d'entraîner des systèmes d'intelligence artificielle générative – fait l'objet de nombreux débats, notamment en ce qui concerne l'interdiction de l'usage des robots de recherche faite par certains éditeurs ², voire pour certains auteurs, à adjoindre au sein de leurs œuvres des éléments spécifiques pour induire en erreur la machine en réduisant drastiquement la qualité du fichier ou en viciant l'information elle-même ³. Pourtant, cette thématique n'est pas nouvelle. Elle avait déjà fait l'objet de travaux, dès 2019, au sein de l'Organisation mondiale de la propriété intellectuelle (OMPI) ⁴ et avait été prise en considération lors des travaux européens autour du règlement sur l'intelligence artificielle, avec en 2020, une résolution parlementaire relative aux **droits de propriété intellectuelle pour le développement des technologies d'intelligence artificielle**, dit « rapport Séjourné » ⁵.

Une seconde thématique se profile, de manière insidieuse, dans notre écosystème et devrait prendre une
importance croissante dans les années à venir : la **gouvernance des données**. Cette notion de
gouvernance des données est entendue, au sens juridique du terme, comme étant : « *les différents
régimes ou protections juridiques existant sur une ou plusieurs données, tout au long de son cycle de vie,*
ainsi que *les moyens à mettre en œuvre pour utiliser ces informations dans le respect des personnes
protégées* » ⁶. La notion de gouvernance des données décrit donc la manière dont le droit vient
régenter, limiter et accélérer l'usage de la donnée, afin de protéger les individus et de *valoriser les
données* ⁷.

Nous retrouvons, à la croisée de ces deux thématiques, l'émergence progressive de la notion de données synthétiques. Comme nous le mentionnons ci-dessus, la propriété intellectuelle et la protection des droits d'auteur ont amené ces derniers, ainsi que des éditeurs, à chercher des moyens de protection
suffisants face à l'intelligence artificielle. Les méthodes actuelles consistent donc soit à introduire un élément réduisant la qualité de la donnée, soit à interchanger des informations. Ainsi, l'entraînement d'un système d'intelligence artificielle ne pourra pas utiliser tout ou partie de l'œuvre protégée. Dans un second temps, la gouvernance des données suppose qu'une protection soit mise en place pour qu'une donnée puisse être accessible ou faire l'objet d'un traitement informatique. Avec l'apparition des systèmes d'intelligence artificielle générative, de nouvelles possibilités sont offertes en la matière, tout en permettant de valoriser ces actifs immatériels.

Les données synthétiques représentent une nouvelle possibilité dans la protection des données des utilisateurs (I). Ces éléments sont également soumis à un régime juridique allégué, favorisant leur valorisation (II), tant en interne qu'en externe. Dans une économie de plus en plus axée autour de la donnée, recourir aux données synthétiques devrait devenir essentiel pour mettre en œuvre des processus d'innovation et pérenniser la transformation numérique des activités.

# I – Les données synthétiques, un nouveau mode de protection des droits personnels

Le terme de données synthétiques est large et peut s'entendre selon plusieurs acceptations. Pour parvenir à une définition en cohérence avec notre vision des données synthétique, il convient, en premier lieu, d'exclure les conceptions qui ne répondent pas à notre sujet.

La notion de données synthétiques ne doit pas être confondue avec celle de données agrégées ou d'agrégat. À partir de sources européennes, nous pourrions citer différentes définitions de cette notion qui varie en fonction du secteur économique. Ainsi, en ce qui concerne celui de l'énergie, l'approche retenue désigne : « les données agrégées au niveau national sur le traitement ou l'utilisation de produits énergétiques, à savoir la production, le commerce, les stocks, la transformation, la consommation et les caractéristiques structurelles du système énergétique » 8. Tandis que pour le secteur de la pêche, la définition les qualifie en tant que « données synthétiques établies à partir des données primaires ou détaillées à des fins analytiques particulières » 9. Nous retrouvons la même logique, s'agissant d'un agrégat relatif aux données financières des communes, également appelé données synthétiques 10.

En réalité, la notion d'agrégat est définie en partie au sein de l'un des considérants du règlement général sur la protection des données (RGPD), en précisant que « Les fins statistiques impliquent que le résultat du traitement à des fins statistiques ne constitue pas des données à caractère personnel, mais des données agrégées, et que ce résultat ou ces données à caractère personnel ne sont pas utilisés à l'appui de mesures ou de décisions concernant une personne physique en particulier. » 11. Pour apporter une définition plus concrète des données agrégées, il faudrait se fonder sur celle de données empiriques, s'entendant comme « [toutes données permettant de] faire émerger de nouvelles informations d'un point de vue macroscopique, afin d'aider à la gouvernance ou à la prise de décisions. » 12. Les données agrégées ou un agrégat sont donc un jeu de données issu d'un croisement d'un ou de plusieurs ensembles de données, afin d'aider à la gouvernance ou à la prise de décisions, notamment à des fins statistiques. Ces données, qui ne doivent pas être confondues avec celles dites synthétiques, répondent d'un régime juridique allégé relatif à la protection des données à caractère personnel, dès lors qu'elles sont mises en œuvre à des fins statistiques.

La notion de données synthétiques s'est, quant à elle, précisée dès 2019, au sein des lignes directrices du Conseil de l'Europe, qui – en se fondant sur une définition de l'Organisation de coopération et de développement économique (OCDE) relative aux statistiques – propose la définition suivante : « Les données synthétiques sont générées à partir d'un modèle construit sur des données réelles. Elles devraient être représentatives des données réelles originales. » 13. Le septième considérant du règlement sur la gouvernance des données (DGA) précise d'ailleurs que ces données « sont [...] produites sur la base de données originales par l'entremise d'un modèle génératif » 14. Enfin, la Commission de l'Union européenne a spécifié l'un de leurs usages, en précisant que ces données permettent « l'augmentation de données qui implique des techniques permettant de générer artificiellement des points de données supplémentaires à partir de données existantes » 15. Concrètement, les données synthétiques
s'entendent, à notre sens, comme étant toutes données générées à partir d'un ensemble de données,
afin de créer des données fictives restant représentatives des données originales ou de compléter un jeu
de données par suréchantillonnage synthétique en s'assurant qu'une catégorie minoritaire ait la même
représentativité qu'une ou plusieurs autres.

La génération de ce type de données revêt un avantage majeur. Ces données étant fictives, elles ne sont
pas soumises aux mêmes protections juridiques que les données qu'elles imitent. Dès lors, les méthodes
classiques de protection des données supposent d'intervenir directement sur des données originales
pour y apporter un ensemble d'opérations, permettant de modifier ou d'altérer une ou plusieurs
informations pour que l'élément protégé ne soit potentiellement plus accessible. À l'inverse, les données
synthétiques sont extraites à partir de données réelles (les données originales), mais ne conservent –
comme seule corrélation – que la représentativité d'un ou de plusieurs groupements d'individus. Dès lors,
ces données étant fictives et générées de manière aléatoire, les droits personnels attachés aux données
réelles ne suivent pas le produit issu de cette génération. Cependant, le traitement réalisé sur les données
réelles devra respecter l'ensemble des protections y étant attaché, pour que la génération des données
synthétiques soit licite.

Face à ces caractéristiques majeures, le Parlement européen a fait savoir à la Commission de l'Union européenne, dès 2019, sa volonté de recourir aux données synthétiques, notamment eu égard aux traitements relatifs aux données de santé ¹⁶. Le projet « SynthIA » au sein du Health Data Hub cherche d'ailleurs à mettre en œuvre cette méthode, notamment sur les informations issues du système national des données de santé (SNDS) ¹⁷. Ce type de protection, initialement adressé pour traiter des données sensibles et notamment médicales, s'étend progressivement à l'ensemble de notre tissu économique et irrigue, de plus en plus, divers secteurs d'activités.

## II – Les données synthétiques, un levier essentiel à la valorisation des données

Les données synthétiques ont la particularité d'être très peu soumises à des protections juridiques, de
par leur caractère fictif. Elles ne sont toutefois pas exonérées de toute protection. Bien que ces données
constituent un jeu différent de celles ayant permis de définir la représentativité souhaitée, il est
nécessaire que le traitement initial opéré sur les données réelles soit licite et légitime. Ce type de
génération a pour intérêt de concevoir un jeu de données, non pas comme une copie, mais comme un
calque. Ce dernier donne grossièrement une idée de la situation réelle, sans posséder la même qualité
dans les informations qu'elle représente. Il en va de même pour les données synthétiques, qui sont un jeu
de données à part entière, généré à partir de données réelles.

En revanche, si le caractère aléatoire dans la génération de données synthétiques n'est pas suffisamment
paramétré, il serait utile que l'on puisse parvenir à réidentifier une ou plusieurs personnes physiques. Dans
ce cas de figure, il nous semble alors que la protection des données à caractère personnel ne puisse pas
être appliquée directement à la personne utilisant les données synthétiques, mais au responsable du
traitement ayant réalisé l'opération de génération à partir des données réelles. Dans les faits, cette
distinction a de l'importance, si les données sont commercialisées. Autrement posé, une donnée
synthétique de mauvaise facture n'engagera pas la responsabilité de l'utilisateur final (sauf en tant que
sous-traitant), mais directement celle du « fabricant ».

Les données synthétiques répondent principalement à deux cas d'usage dans notre économie actuelle.
Le premier consiste à créer à partir d'une base de données réelles un second ensemble de données
fictives gardant la représentativité des données d'origine. Dès lors que le traitement initial est légitime et
que toutes les protections juridiques y afférentes ont été respectées, les données synthétiques ainsi
générées seront, par principe, soumises à quasiment aucune protection juridique. Le nouveau jeu de
données en résultant sera un actif stratégique possédant une valeur tant d'un point de vue de l'innovation
que commercial.
Le deuxième cas d'usage consiste à générer des données synthétiques que sur l'une des populations d'un ensemble de données. Il devient alors possible de rééquilibrer d'éventuels biais. Pour faire une analogie, nous retrouverions une réflexion similaire à celle de l'équité et de l'égalité. Pour garantir un traitement qui n'introduise pas de biais ou de discrimination, des choix dans la représentativité des sous-ensembles seront faits en ce sens. Il est également intéressant de noter que l'article 10 du projet de règlement sur l'intelligence artificielle, intitulé « Gouvernance des données » précise notamment que « les ensembles de données d'entraînement et, lorsqu'ils sont utilisés, les ensembles de données de validation et d'essai, y compris les étiquettes, doivent être pertinents et suffisamment représentatifs », en recourant notamment à des « opérations de traitement de préparation des données, telles que l'annotation, l'étiquetage, le nettoyage, la mise à jour, l'enrichissement et l'agrégation » pour mettre en œuvre « les mesures appropriées pour détecter, prévenir et atténuer les biais éventuels » ¹⁸. Les données synthétiques sont donc également une solution pour enrichir un jeu de données, afin de garder la représentativité de toutes les parties concernées et ainsi réduire les biais pouvant avoir une incidence sur une population spécifique. Ce type de mesure peut, dès à présent, être mis en place pour répondre à des exigences éthiques dont se seraient dotés un ou plusieurs acteurs.

Un troisième et dernier cas d'usage doit être ici abordé pour avoir un ensemble cohérent. Cependant, cette approche ne relève pas, en tant que telle, du périmètre des données synthétiques. La génération de données peut également être purement aléatoire et ne pas chercher à représenter une situation réelle, l'on parle alors de données fictives. La génération de ce type de données est également utile pour tester les réactions d'un système d'intelligence artificielle à une multitude de situations. Ainsi, là où il est peut-être possible qu'une situation ne se produise qu'une fois sur un milliard, les données fictives – de par leur caractère purement aléatoire – permettront de soumettre le traitement algorithmique à des situations à faible occurrence, voire inexistante. Cette méthode a donc pour avantage de soumettre les systèmes d'intelligence artificielle à un ensemble d'événements, indépendamment de la réalité des données envisagées.

L'intérêt de recourir à des données synthétiques permet de favoriser le recours à l'expérimentation en interne. En effet, il est plus facile de tester des données synthétiques, dès lors qu'elles ne sont pas soumises aux mêmes protections juridiques que les données réelles qu'elles représentent. Une fois, ces expérimentations réalisées et la preuve de concept (POC) rapportée, l'usage des données réelles pourra être mis en place avec les mesures relatives aux différentes protections des données y étant rattachées. Dans cette logique, la Commission nationale de l'informatique et des libertés (CNIL) indique d'ailleurs dans ses fiches pratiques en matière d'IA, que « L'objectif [d'une preuve de concept] est de s'assurer que les choix d'ordre technique et ceux relatifs aux types de données identifiés sont bien pertinents. Pour ce faire, une expérimentation à petite échelle est donc réalisée. Des données fictives, synthétiques, anonymisées ou à défaut des données personnelles collectées conformément au RGPD peuvent être utilisées. » ¹⁹.

Enfin, les données synthétiques sont également valorisables, en pouvant être transmises à des tiers, voire à être monétisées. Dans la mesure où ces données sont fictives, peu de protections juridiques s'appliquent à ces informations. Toutefois et pour reprendre notre précédente métaphore, les données synthétiques représentent davantage un calque qu'une image réelle, leur principal atout est de vérifier la faisabilité d'une situation avant de recourir à des données réelles.

Un véritable marché économique devrait apparaître sur ces notions, tant pour proposer des services susceptibles de générer des données synthétiques, que sur des enjeux de valorisation, de recherche et de développement ainsi que de la commercialisation de ces données.

* * *
* * *
## Ce qu'il faut retenir

Une donnée synthétique est une donnée fictive générée à partir d'un système d'intelligence artificielle afin de conserver la représentativité d'un ensemble d'individus ou d'un jeu de données. Ces données peuvent être un moyen d'assurer la protection des données personnelles, de rééquilibrer des populations au sein d'un ensemble de données, ainsi que de réduire l'apparition de biais. Ces éléments sont également vecteurs d'innovation, en facilitant le recours à ces données pour réaliser des expérimentations. Elles sont par ailleurs commercialisables et peuvent être valorisées auprès d'acteurs tiers. Cependant, les données synthétiques ne sont qu'un palliatif et n'ont pas la qualité ni la performance des données réelles.

**Mots clés : DONNEES SYNTHETIQUES** * Intelligence artificielle * Systèmes d'intelligence artificielle * Systèmes d'intelligence artificielle générative * Gouvernance des données * Valorisation * Transformation numérique * RIA * Protection des données * LegalTech * RegTech
<footnote n="1">¹ BENSAMOUN A. et GROFFE-CHARRIER J., Création numérique, Rép. IP/IT Dalloz ; *Proposition de loi visant à encadrer l'intelligence artificielle par le droit d'auteur : une initiative louable mais perfectible*, Dalloz Actualités, 4 oct. 2023, obs. MIGLIORE E.</footnote>

<footnote n="2">² AI Act : le droit d'auteur, pomme de discorde du compromis européen, *Les Echos*, [en ligne], 16 déc. 2023, Disponible à l'adresse : https://www.lesechos.fr/tech-medias/intelligence-artificielle/ai-act-le-droit-dauteur-pomme-de-discorde-du-compromis-europeen-2041859</footnote>

<footnote n="3">³ Piéger les œuvres grâce à des logiciels, la nouvelle arme des artistes contre l'IA sauvage, *France Info*, [en ligne], 26 déc. 2023, Disponible à l'adresse : https://www.francetvinfo.fr/culture/pieger-les-uvres-grace-a-des-logiciels-la-nouvelle-arme-des-artistes-contre-l-ia-sauvage_6265554.html</footnote>

<footnote n="4">⁴ Dialogue de l'OMPI sur la propriété intellectuelle et l'intelligence artificielle, *OMPI*, [en ligne], Disponible à l'adresse :
https://www.wipo.int/about-ip/fr/artificial_intelligence/conversation.html</footnote>

<footnote n="5">⁵ Rés. n° 2020/2015(INL) du PE, 20 oct. 2020, sur les droits de propriété intellectuelle pour le développement des technologies liées à l'intelligence artificielle, Disponible à l'adresse : https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=CELEX:52020IP0277</footnote>

<footnote n="6">⁶ CASSAR B., L'importance de la gouvernance des données dans l'usage de systèmes d'IA générative, Dalloz IP/IT 2023, p. 513</footnote>

<footnote n="7">⁷ CASSAR B., La gouvernance des données, Rép. IP/IT Dalloz</footnote>

<footnote n="8">⁸ Règl. (CE) n° 1099/2008 du PE et du Conseil, 22 oct. 2008, concernant les statistiques de l'énergie</footnote>

<footnote n="9">⁹ Règl. (CE) n° 199/2008 du PE et du Conseil, 25 févr. 2008, concernant l'établissement d'un cadre communautaire pour la collecte, la gestion et l'utilisation de données dans le secteur de la pêche et le soutien aux avis scientifiques sur la politique commune de la pêche</footnote>

<footnote n="10">¹⁰ CGCT, art. L. 2313-1 ; anc. C. communes, art. L. 212-14</footnote>

<footnote n="11">¹¹ Règl. (UE) n° 2016/679 du PE et du Conseil, 27 avr. 2016, relatif à la protection des personnes physiques à l'égard du traitement des données à caractère personnel et à la libre circulation de ces données, ELI :
http://data.europa.eu/eli/reg/2016/679/oj</footnote>

<footnote n="12">¹² CASSAR B., La gouvernance des données, Rép. IP/IT Dalloz</footnote>

<footnote n="13">¹³ https://rm.coe.int/2018-lignes-directrices-sur-l-intelligence-artificielle-et-la-protecti/168098e1b8</footnote>

<footnote n="14">¹⁴ Règl. (UE) n° 2022/868 du PE et du Conseil, 30 mai 2022, portant sur la gouvernance européenne des données et modifiant le règlement (UE) 2018/1724 (règlement sur la gouvernance des données) (Texte présentant de l'intérêt pour l'EEE), ELI :
http://data.europa.eu/eli/reg/2022/868/oj</footnote>

<footnote n="15">¹⁵ Règl. exécution (UE) n° 2023/1507, de la Comm., 20 juil. 2023, établissant les spécifications techniques des besoins en données ainsi que les délais pour la soumission des métadonnées et des rapports sur la qualité pour le thème «Utilisation des TIC et commerce électronique» pour l'année de référence 2024, conformément au règlement (UE) 2019/2152 du Parlement européen et du Conseil, ELI :
http://data.europa.eu/eli/reg_impl/2023/1507/oj</footnote>

<footnote n="16">¹⁶ Rés. n° 2019/2804(RSP) du PE, 18 déc. 2019, Permettre la transformation numérique des services de santé et de soins dans le marché unique numérique; donner aux citoyens les moyens d'agir et construire une société plus saine</footnote>

<footnote n="17">¹⁷ https://www.health-data-hub.fr/projets/generation-dun-jeu-de-donnees-synthetiques-partir-des-donnees-du-snds-elargir-le-champ-de</footnote>

<footnote n="18">¹⁸ Règlement sur l'intelligence artificielle - Textes adoptés par le Parlement, Parlement européen</footnote>

<footnote n="19">¹⁹ Tenir compte de la protection des données dans la conception du système, CNIL, [en ligne], 11 oct. 2023, Disponible à l'adresse :
https://www.cnil.fr/fr/tenir-compte-de-la-protection-des-donnees-dans-la-conception-du-systeme</footnote>