AgentPublic/cnil huggingface dataset:
D’autre part, les finalités des dispositifs de vidéoprotection sont expressément mentionnées à l’article L251-2 du CSI. La Commission rappelle qu’il existe d’autres dispositifs qui filment la voie publique ou les lieux ouverts au public pour des finalités autres que celles mentionnées à l’article L251-2 du CSI (par exemple : visiophone, caméras de tableaux de bord, caméras balnéaires). Elle relève que le projet de loi modifie l’actuel article L254-1, afin de clarifier le champ de l’infraction, limité aux dispositifs et finalités du CSI. Elle rappelle que ces dispositifs seront soumis à la réglementation en matière de protection des données à caractère personnel. La Commission estime enfin que des précisions devraient être apportées dans le CSI quant à l’encadrement de ces dispositifs à des fins de clarification de l’ensemble.
En conclusion, au regard de l’ensemble des observations qui précèdent, la Commission insiste sur le fait qu’une mise en conformité plus générale du CSI est indispensable afin de permettre aux responsables de traitement de connaître l’état réel de leurs obligations en la matière et aux personnes concernées de savoir de quelle manière exercer leurs droits. Elle invite, par conséquent, le ministère à compléter le code de la sécurité intérieure notamment sur les points relevés ci-dessus.
Sur le recours à des traitements algorithmiques sur les images captées par des dispositifs de vidéoprotection ou des aéronefs afin de détecter et de signaler en temps réel des évènements prédéterminés susceptibles de menacer la sécurité des personnes (article 6)
L’article 6 du projet de loi instaure un cadre expérimental permettant la mise en œuvre de traitements algorithmiques d’analyse automatisée des images provenant des dispositifs de vidéoprotection et de caméras installées sur des aéronefs afin de détecter et de signaler en temps réel des évènements prédéterminés. Ces traitements ne pourraient être mis en œuvre qu’à la seule fin d’assurer la sécurité des manifestations sportives, récréatives ou culturelles, qui, par leur ampleur ou leurs circonstances, sont particulièrement exposées à des risques d’actes de terrorisme ou à des risques d’atteinte grave à la sécurité des personnes. Ces dispositifs, appelés plus communément caméras augmentées ou intelligentes , ne pourraient être mis en œuvre que par les services de la police et de la gendarmerie nationale, les services d’incendie et de secours, les services de police municipale et les services internes de sécurité de la SNCF et de la RATP dans le cadre de leurs missions respectives, qui assumeraient la qualité de responsables de traitement.
Le ministère fait valoir que les Jeux olympiques et paralympiques de 2024 impliquent la mise en place de mesures de sécurisation accrues de certains lieux et que la multiplicité des lieux concernés et le niveau de sécurité attendu rendent nécessaire l’optimisation de l’emploi des forces de sécurité intérieure et des forces de sécurité civile. Seul le traitement en temps réel, par des traitements algorithmiques, des images issues des dispositifs de vidéoprotection et des drones serait de nature à permettre cette optimisation. Le ministère considère ainsi qu’il est nécessaire de permettre l’utilisation des dispositifs de caméras augmentées pour sécuriser l’ensemble des manifestations sportives, récréatives et culturelles.
Si de tels objectifs sont légitimes, la Commission relève, comme l’indique d’ailleurs le ministère, que le recours à de telles technologies à des fins de prévention du terrorisme et d’atteinte à la sécurité des personnes est inédit en France. La Commission rappelle, dans sa position, publiée en juillet 2022, relative aux conditions de déploiement des dispositifs de caméras augmentées dans les espaces publics, que le recours à ces dispositifs soulève des enjeux nouveaux et substantiels en matière de vie privée. Ces outils d’analyse automatisée des images peuvent en effet conduire à un traitement massif de données à caractère personnel ; ils ne constituent pas une simple évolution technologique, mais une modification de la nature des dispositifs vidéo, pouvant entraîner des risques importants pour les libertés individuelles et collectives et un risque de surveillance et d’analyse dans l’espace public. C’est pourquoi la Commission considère que le déploiement, même expérimental, de ces dispositifs de caméras 
 augmentées est un tournant qui va contribuer à définir le rôle qui sera confié dans notre société à ces technologies, et plus généralement à l’intelligence artificielle. La Commission renvoie à la position qu’elle a publié sur le sujet en juillet 2022, sur la nécessité d’une réflexion globale et éthique sur les usages de ces instruments, et sur l’importance de se prémunir de tout phénomène d’accoutumance et de banalisation de ces technologies de plus en plus intrusives.
Ces risques sont accrus lorsque les traitements algorithmiques sont utilisés sur des images provenant de caméras installées sur des aéronefs, qui sont eux-mêmes des dispositifs mobiles, discrets et dont la position en hauteur leur permet de filmer des lieux difficiles d’accès voire interdits aux caméras classiques.
La Commission souligne que l’encadrement des traitements algorithmiques, créé par le projet de loi, prend en compte une large partie de ses recommandations :
Cet encadrement relève du niveau législatif : la CNIL avait indiqué que les dispositifs mis en œuvre à des fins de police administrative générale ou de police judiciaire étaient susceptibles d’affecter les garanties fondamentales apportées aux citoyens pour l’exercice des libertés publiques et relevaient donc du domaine constitutionnellement réservé à la loi par l’article 34 de la Constitution ;
Le recours à des analyses automatisées est réservé à des hypothèses restreintes, puisqu’il ne s’agit que de certains types de manifestations, présentant des risques exceptionnels pour l’ordre public, de telle sorte que l’analyse automatique ne sera déployée que dans un ou plusieurs lieux précis, pour un temps limité et une finalité spécifique ;
Cet encadrement prévoit un certain nombre de garanties à même de limiter les risques d’atteinte aux données à caractère personnel et à la vie privée des personnes. La Commission relève à cet égard que le projet de loi prévoit un déploiement expérimental et limité dans le temps et dans l’espace des traitements algorithmiques. Ces traitements ne pourront utiliser aucune donnée biométrique aux fins d'identifier une personne physique de manière unique conformément à l’article 9 du RGPD (ce qui exclut notamment les dispositifs de reconnaissance faciale), ni procéder à aucun rapprochement, interconnexion ou mise en relation automatisée avec d’autres traitements de données à caractère personnel ou encore fonder, par eux-mêmes, aucune décision individuelle ni poursuites automatisées. La mise en œuvre de ces traitements est également conditionnée à l’existence et à la robustesse de mesures de contrôle humain et d’un système de gestion des risques permettant de prévenir et de corriger la survenue de biais éventuels ou de mauvaise utilisation.
Sur le cadre expérimental et le rôle de la Commission
L’article 6 du projet de loi crée un cadre juridique pour la mise en œuvre expérimentale de ces traitements algorithmiques, dont le terme est fixé au 31 décembre 2024. Compte tenu de l’ensemble des enjeux soulevés par les dispositifs de caméras augmentées , la CNIL considère qu’une expérimentation est indispensable.
Le Gouvernement devra mener dès le début de l’expérimentation une réflexion sur la mise en place d’un protocole d’évaluation permettant de mesurer de façon rigoureuse, contradictoire et pluridisciplinaire l’apport des technologies d’analyse automatisée des images. Cette expérimentation ne saurait en aucun cas préjuger d’une éventuelle pérennisation de ces systèmes. 
Le cadre juridique prévu par le projet de loi doit, lui-même, être limité à la période expérimentale et temporaire et ne saurait préjuger d’un éventuel encadrement et du schéma de gouvernance applicables dans la perspective de la proposition de règlement pour l’intelligence artificielle actuellement en cours d’élaboration au niveau européen.
La Commission travaille actuellement à l’élaboration d’une doctrine générale en matière d’intelligence artificielle afin d’accompagner les responsables de traitement, et qui se traduira notamment par la publication de recommandations dans le courant de l’année 2023. En parallèle, la Commission se tiendra à la disposition des responsables de traitement pour les accompagner dans le déploiement conforme des dispositifs visés à l’article 6 du présent projet de loi. La légalité des dispositifs déployés pourra, en tout état de cause, être contrôlée par la Commission dans le cadre des pouvoirs de contrôle prévus à l’article 19 de la loi informatique et libertés .
Un rapport d’évaluation devra être produit dans un délai maximum de six mois avant le terme de l’expérimentation et remis au Parlement. La Commission s’interroge toutefois sur la cohérence de ce calendrier qui conduirait à une remise du rapport d’évaluation au Parlement avant la tenue des Jeux Olympiques et Paralympiques de 2024.
La Commission demande que ce rapport lui soit également transmis. Si elle prend acte du fait que son contenu sera fixé par décret, elle recommande d’ores et déjà qu’outre les éléments visés au paragraphe VIII de l’article 6, il contienne a minima :
une exposition du protocole d’évaluation (les étapes de l’évaluation, son organisation concrète, dans le temps et l’espace, les indicateurs et critères de succès et d’échecs…) afin de permettre un examen contradictoire fidèle à la méthodologie scientifique ;
une présentation détaillée :
des résultats obtenus au regard des performances techniques :
 il s’agit de fournir une appréciation scientifiquement étayée des outils développés après les phases d’apprentissage, de validation et de correction des paramètres des algorithmes (taux d’erreurs, analyse et interprétation de ces erreurs, retours sur le gain en performance obtenu lors des différentes phases, mesures des biais discriminatoires, comparaison avec l’état de l’art, etc.) ;
des résultats obtenus au regard des besoins ou objectifs opérationnels : il s’agit de mesurer, une fois ceux-ci déployés, l’apport véritable pour la ou les tâches à réaliser des outils développés et questionner l’impact des erreurs du dispositif pour l’atteinte de l’objectif. Une typologie des signalement remontés pourra notamment être réalisée, associée aux suites qui y auront été apportées ;
des résultats obtenus au regard des impacts sociétaux : il s’agit d’apprécier la perception des outils développés par les personnes concernées, une fois les dispositifs déployés, et de questionner l’impact des erreurs du dispositif pour les personnes concernées.
une présentation de l’évaluation des mesures de contrôle humain et du système de gestion des risques permettant de prévenir et de corriger la survenue de biais éventuels ou de mauvaise utilisation ;
des éléments relatifs à la mise en place de garanties pour la protection de la vie privée telles que la pseudonymisation ou le floutage des images et, dans le cas où le choix serait fait de ne pas appliquer de telles mesures, une analyse démontrant que leur impact sur le niveau de performance de l’algorithme en phase opérationnelle nuirait à l’atteinte des finalités des traitements ;
des éléments relatifs à l’information des personnes concernées (supports utilisés, éventuels motifs d’exclusion du droit à l’information…) ; 
des éléments quantitatifs et qualitatifs concernant l’exercice des droits par les personnes concernées et ;
des éléments sur les mesures de sécurité mises en place afin d’assurer la disponibilité, la confidentialité et l’intégrité des données traitées.
La Commission recommande par ailleurs que l’évaluation soit conduite en association avec des experts indépendants.
Sur le régime juridique
Le paragraphe V du projet de loi prévoit que les traitements algorithmiques seront autorisés par un décret, pris après avis de la CNIL, qui aura notamment pour objet de lister les évènements prédéterminés qui en font l’objet. Un arrêté préfectoral devra ensuite autoriser le recours au traitement concernant la détection d’un évènement particulier au regard des circonstances d’espèce qui devront justifier sa mise en œuvre. 
L’article 6 prévoit que les traitements algorithmiques visés au I sont régis par le RGPD et par la loi informatique et libertés (notamment son titre III concernant les dispositions applicables aux traitements relavant de la directive (UE) 2016/680, dite police-justice ). Il appartiendra à chaque responsable de traitement de déterminer le régime juridique applicable aux traitements qu’il envisagera de mettre en œuvre.
Pour les traitements relevant du titre III de la loi informatique et libertés , une analyse d'impact relative à la protection des données à caractère personnel (AIPD) devra être réalisée et être transmise pour consultation à la CNIL dans les conditions prévues à son article 90. Compte tenu du caractère inédit du cadre de déploiement de ces technologies, la CNIL recommande que soient généralisées la réalisation et la transmission d’une AIPD pour chaque traitement algorithmique qui serait autorisé et expérimenté dans le champ de l’article 6 du projet de loi. L’AIPD devra notamment comporter les éléments permettant à la Commission de vérifier les points mentionnés au paragraphe V de l’article 6 (caractères nécessaire et proportionné du traitement, robustesse des mesures de contrôle humain, validité des paramètres de conception, etc.).
Sur la finalité et le périmètre de déploiement des traitements algorithmiques mentionnés au I
L’article 6 du projet de loi prévoit que les traitements ont pour objet la détection et la signalisation d’évènements prédéterminés susceptibles de présenter ou de révéler des risques d’actes de terrorisme ou des risques d’atteinte grave à la sécurité des personnes lors des manifestations sportives, récréatives ou culturelles visées au I. La Commission insiste sur le fait que ces critères peuvent recouvrir un grand nombre d’hypothèses distinctes. Elle recommande que, au regard des enjeux et risques présentés par les dispositifs en cause, les critères permettant de déterminer leur périmètre de déploiement soient appréciés de manière restrictive. Elle prend par ailleurs acte de l’engagement du Gouvernement de lister de manière exhaustive et détaillée dans le décret les évènements prédéterminés que les traitements algorithmiques devront détecter et signaler. Elle demande que le projet de loi précise expressément que le décret listera ces évènements prédéterminés . 
Les traitements algorithmiques peuvent présenter dans certaines circonstances des taux d’erreur importants, rendant le recours à ces technologies moins efficace en conditions opérationnelles qu’une détection humaine. Les évènements prédéterminés (mouvement de foule, détection de bagages, gestes et comportements suspects, etc.) dont la détection est recherchée devraient être sélectionnés au regard des performances des traitements algorithmiques, d’après l’état de l’art de la recherche en la matière.
La Commission prend acte des précisions apportées par le ministère selon lesquelles ces traitements ne peuvent être installés que sur des caméras situées aux abords des lieux accueillant les manifestations visées au paragraphe I et dans les moyens de transports et les voies desservant ces manifestations, et non l’ensemble des moyens de transport et les voies du territoire national ou des villes dans lesquelles se tiennent les manifestations.
La Commission souligne que l’autorisation préfectorale visée au VI devra s’assurer que le périmètre géographique et temporel de déploiement des traitements algorithmiques sera limité aux manifestations définies au I pour lesquelles ils sont déployés.
Sur les phases de conception, de validation et de correction des paramètres des traitements algorithmiques
Selon le VII de l’article 6 du projet de loi, les images issues de systèmes de vidéoprotection ou de drones peuvent être utilisées comme données d’entraînement, à la seule fin de permettre la validation des paramètres de conception des traitements algorithmes  et éventuellement réutilisées pour  la correction des paramètres du traitement .
La CNIL estime que cette réutilisation devrait s’accompagner de la mise en place de garanties appropriées telles que, si possible, la pseudonymisation ou le floutage des images, en particulier si celle-ci est réalisée par un tiers. A cet égard, la Commission demande que le projet de loi, ou a minima le décret, encadre expressément la possibilité pour des prestataires tiers, sous le contrôle du responsable du traitement, d’entraîner les images issues de systèmes de vidéoprotection ou de drones dans les conditions prévues au VII. Elle attire l’attention du gouvernement sur la nécessité de garantir que les images ne seront pas utilisées par ces prestataires à d’autres fins et seront détruites une fois utilisées. Elle rappelle à ce titre que les tiers réutilisant les données sont soumis aux mêmes obligations que les responsables de traitement mentionnés au I de l’article 6, en particulier en ce qui concerne les durées de conservation des données.
En tout état de cause, les traitements nécessaires à la conception, validation et correction des paramètres de conception des algorithmes sont soumis au RGPD et à la loi informatique et libertés . À ce titre, l’accès à ces images devrait être restreint aux seules équipes habilitées lors des phases de conception, de validation et de correction. Ces équipes devraient recevoir une formation spécifique portant sur la protection de la vie privée, en particulier si ces équipes étaient employées par un sous-traitant.
Seules les données réutilisées à des fins spécifiques de correction des paramètres du traitement au titre du paragraphe VII pourront être conservées et traitées pour une durée allant jusqu’au terme de l’expérimentation. La Commission souligne qu’il s’agit d’une durée maximale : les données considérées comme non pertinentes devront être immédiatement supprimées, sans attendre l’expiration du délai visé ci-dessus.
Par ailleurs, en raison du caractère potentiellement sensible et choquant des images collectées en conditions réelles si l’un des évènements redoutés venait à avoir lieu, la Commission recommande que des précautions particulières soient prises lors de leur traitement pour les finalités prévues à l’article 6, VII et pour l’apprentissage des modèles algorithmiques. Ces précautions devraient inclure une formation spécifique des agents ayant à en prendre connaissance, ainsi que des mesures de sécurité renforcées, afin de garantir notamment la confidentialité des sauvegardes.
La Commission accueille favorablement l’attention apportée à la fiabilité des données, à l’objectivité et à la pertinence des critères d’apprentissage ainsi qu’à la stricte nécessité des méthodes appliquées. Elle recommande toutefois que l’utilisation des modèles conçus lors de la phase d’apprentissage soit conditionnée à l’obtention d’un niveau de performance suffisamment élevé à son issue, tant en comparaison de l’état de l’art qu’au regard des besoins des équipes opérationnelles. En particulier, ce niveau de performance devrait être évalué au regard de l’impact potentiel pour les personnes que peuvent avoir par exemple un faux positif ou un faux négatif à la sortie du traitement algorithmique.
La Commission recommande que l’attention apportée à la fiabilité des données, à l’objectivité et à la pertinence des critères d’apprentissage, à la stricte nécessité des méthodes appliquées, ainsi qu’à l’existence de biais éventuels lors des phases de validation et de correction soit a minima équivalente à celle apportée à ces mêmes problématiques lors de la phase de conception des traitements algorithmiques. En effet, l’utilisation de données collectées en conditions réelles lors de ces phases comporte un risque particulier, dû par exemple à une dérive des données entraînant une modification des performances des algorithmes. La Commission considère qu’il convient d’encadrer cette utilisation par des mesures au moins aussi exigeantes que celles mises en œuvre lors de la phase de conception, et permettant de garantir que les modifications apportées aux algorithmes n’entraîneront pas leur dégradation.
Elle relève que le dispositif envisagé ne prévoit pas de contrôle spécifique du respect de ces exigences par les fournisseurs de solutions et les responsables de traitements. Elle comprend que les dispositions du projet de loi permettront à la Commission de vérifier ces propriétés dans le cadre des missions qui lui sont dévolues.
Sur l’information et les droits des personnes concernées
L’information des personnes est un élément essentiel pour assurer la loyauté des traitements dans un objectif de transparence à l’égard du public. Sa mise en œuvre est indispensable pour permettre le déploiement de dispositifs de caméras augmentées dans un climat de confiance à l’égard des autorités publiques. Il apparaît important que les personnes soient informées qu’une manifestation donnera lieu à l’usage de caméras augmentées dans un certain périmètre, ainsi que du contexte expérimental, des objectifs poursuivis et des caractéristiques de cet usage, afin de pouvoir le cas échéant contester, y compris devant le juge des référés, le respect des critères et garanties fixés par la loi.
La Commission relève à cet égard que le projet de loi prévoit une possibilité d’exclusion de l’information des personnes dans les cas où une telle information entrerait en contradiction avec les finalités poursuivies. La Commission s’interroge toutefois sur les hypothèses dans lesquelles une telle exclusion s’avèrerait nécessaire et recommande que celles-ci soient particulièrement limitées. En tout état de cause, il appartiendra au responsable de traitement de s’assurer, le cas échéant, des conditions dans lesquelles le droit à l’information pourrait être exclu au regard du régime applicable. Il lui reviendra notamment de vérifier si une information partielle, portant sur le principe du recours aux caméras augmentées , peut être envisagée sans compromettre la sécurité de la manifestation.
Enfin, le projet de loi n’exclut pas l’exercice des droits d’opposition, d’accès, de rectification et d’effacement. La Commission souligne donc qu’en principe l’ensemble des droits prévus au titre du RGPD et de la loi informatique et libertés s’appliqueront conformément au régime applicable aux traitements mis en œuvre et qu’il conviendra à chaque responsable de traitement de déterminer et de respecter, sauf à en prévoir l’exclusion conformément au RGPD et à la loi informatique et libertés . Elle s’interroge à cet égard sur les modalités d’exercice du droit d’opposition aux traitements algorithmiques de l’image des personnes, qui plus est dans un contexte où le droit d’opposition n’est pas ouvert pour la captation de l’image par la caméra fixe ou mobile.
Sur les durées de conservation des images analysées par les traitements algorithmiques 
L’article 6 du projet de loi prévoit que les traitements algorithmiques analysent les images uniquement en temps réel. La Commission prend donc acte du fait que la mise en œuvre des traitements algorithmiques visés au I n’implique aucune durée de conservation supplémentaire – au regard de ce qui prévu dans le cadre du code de la sécurité intérieure – des images issues des dispositifs sur lesquels ils sont installés.
Sur l’extension des images de vidéoprotection que les agents des services internes de la SNCF et de la RATP peuvent visionner lorsqu’ils sont affectés au sein des salles d’information et de commandement relevant de l’Etat