LMI_Tome2_PEC2024.pdf — page 27

27
pour les systèmes d’IA à haut risque et des obligations 
de transparence pour certains systèmes d’IA parmi 
lesquels on trouve précisément les IA génératives.
Pour prendre en compte les conséquences des IA 
génératives sur la manipulation des opinions publiques 
et des risques de déstabilisation des démocraties, tout en 
s’adaptant à la rapidité des évolutions technologiques et 
à la nécessité de nouvelles méthodes et techniques pour 
déterminer l’origine des informations, l’IA Act impose 
de nouvelles exigences juridiques.  Il définit de nouvelles 
obligations de transparence pour les fournisseurs et 
déployeurs de ces systèmes d’IA afin de permettre la 
détection et la mention du fait que les sorties produites 
par ces systèmes sont générées ou manipulées par une IA.
L’article 50 du règlement sur l’intelligence artificielle 
prévoit ainsi que les fournisseurs de systèmes d’IA, y 
compris de systèmes d’IA à usage général, qui génèrent 
des contenus de synthèse de type audio, image, vidéo 
ou texte, veillent à ce que les sorties des systèmes d’IA 
soient marquées dans un format lisible par machine et 
identifiables comme ayant été générées ou manipulées 
par une IA.  Ainsi, il est désormais exigé des fournisseurs 
que ces systèmes intègrent des solutions techniques 
permettant le marquage dans un format lisible par machine 
et la détection du fait que les sorties ont été générées ou 
manipulées par un système d’IA, et non par un être humain.
 
L’efficacité des solutions techniques
Pour répondre à cette exigence, les fournisseurs 
doivent veiller à ce que leurs solutions techniques 
soient aussi efficaces, interopérables, solides et 
fiables que la technologie le permet, compte tenu 
des spécificités et des limites des différents types de 
contenus, des coûts de mise en œuvre et de l’état 
de la technique généralement reconnu, comme cela 
peut ressortir des normes techniques pertinentes.
Pour que ces techniques et méthodes soient fiables, 
efficaces et interopérables, les fournisseurs doivent 
tenir compte des techniques disponibles ou d’une 
combinaison de ces techniques, telles que les filigranes, 
les identifications de métadonnées, les méthodes 
cryptographiques permettant de prouver la provenance et 
l’authenticité du contenu, les méthodes d’enregistrement, 
les empreintes digitales ou d’autres techniques.
De plus, lorsqu’ils mettent en œuvre cette obligation, 
les fournisseurs doivent également être attentifs aux 
spécificités et limites des différents types de contenu, 
ainsi qu’aux évolutions technologiques et du marché 
pertinentes dans le domaine, tels qu’elles ressortent 
de l’état de la technique généralement reconnu.  On 
peut préciser enfin que ces techniques peuvent être 
mises en œuvre soit au niveau du système d’IA soit 
au niveau du modèle d’IA, y compris pour les modèles 
d’IA à usage général qui génèrent du contenu.
L’exigence relative à l’étiquetage des contenus générés 
par des systèmes d’IA du règlement sur l’IA s’inscrit ainsi 
en complémentarité du Digital Services Act, le DSA (le 
règlement 2022/2065 du 19 octobre 2022 sur les services 
numériques).  Ce texte oblige les très grandes plateformes 
en ligne ou de très grands moteurs de recherche en 
ligne à recenser et à atténuer les risques systémiques 
susceptibles de découler de la diffusion de contenus qui 
ont été générés ou manipulés par une IA, en particulier 
le risque d’effets négatifs réels ou prévisibles sur les 
processus démocratiques, le débat public et les processus 
électoraux, notamment par le biais de la désinformation.