FR 3115143 A1 20220415 FR 2010439 A 20201013 Procédé exécuté par ordinateur de détermination d’un impact d’au moins un pixel (P) d’une image cible sur la classification de l’image cible par un outil informatique de classification fournissant une probabilité de présence d’un objet (O) dans une image cible, le procédé comprenant les étapes suivantes réalisées pour une pluralité de positions d’un masque d’image : Positionnement du masque d’image (M) sur un emplacement de masque de l’image cible et obtention d’une image masquée comprenant une zone masquée (Zm) par le masque d’image (M); Détermination d’une probabilité de présence de l’objet (O) dans l’image masquée (IM) relative à l’emplacement de masque par l’outil informatique de classification ; Le procédé comprenant une étape de détermination d’un indice d’impact (Ind) pour au moins un pixel de l’image cible sur la base des probabilités calculées pour des images masquées (IM) dans lesquelles une position du pixel de l’image cible appartient à la zone masquée (Zm). Figure 3 Procédé de détermination d’un impact d’une zone d’une image sur une classification de l’image Préambule La présente invention concerne un procédé exécuté par ordinateur de détermination d’un impact d’au moins un pixel d’une image cible sur la classification de l’image cible par un outil informatique de classification fournissant une probabilité de présence d’un objet dans une image cible. Il est connu de réaliser un procédé exécuté par ordinateur de détermination d’un impact d’une zone d’une image cible sur la classification de ladite image cible, autrement dit sur la détermination d’une probabilité de présence d’un objet dans une image cible sans connaissance d’un modèle d’apprentissage automatique utilisé pour ladite classification de ladite image cible. Par exemple, une méthode dite LIME consiste en un découpage de l’image cible en zones appelées superpixels, puis en la perturbation de l’image cible à classer en masquant les superpixels par exemple. Une synthèse des perturbations est ensuite effectuées afin d’identifier des zones de l’image cible ayant un impact notable sur la classification de l’image cible. Ces dispositions donnent satisfaction en ce qu’il est possible de déterminer un impact d’au moins un pixel d’une image cible sur la classification de l’image cible par un outil informatique de classification fournissant une probabilité de présence d’un objet dans une image cible sans connaissance du modèle d’apprentissage automatique utilisée pour la classification de l’image cible. Toutefois la méthode LIME est dépendante des paramètres de segmentation de l’image cible en superpixels (dimensions, nombres, formes etc.). Aussi, il incombe à un utilisateur de passer par une phase de test/analyse semi-manuelle pour identifier les paramètres de segmentations de l’image cible en superpixels, ce qui peut être chronophage et même inadapté dans certains cas. Par ailleurs, le choix des paramètres relatifs aux superpixels a un impact conséquent sur un degré de confiance que l’on peut avoir dans un résultat de classification. Description Générale La présente invention a pour but de résoudre tout ou partie des inconvénients mentionnés ci-dessus. Le problème technique à la base de l’invention consiste notamment à fournir un procédé exécuté par ordinateur de détermination d’un impact d’au moins un pixel d’une image cible sur la classification de l’image cible qui ne nécessite pas une connaissance du modèle d’apprentissage automatique utilisée pour la classification de ladite image cible. A cet effet, la présente invention a pour objet un procédé exécuté par ordinateur selon le type précité, de détermination d’un impact d’au moins un pixel d’une image cible sur la classification de l’image cible par un outil informatique de classification fournissant une probabilité de présence d’un objet dans une image cible, le procédé comprenant les étapes suivantes réalisées pour une pluralité de positions d’un masque d’image : Positionnement du masque d’image sur un emplacement de masque de l’image cible et obtention d’une image masquée comprenant une zone masquée par le masque d’image; Détermination d’une probabilité de présence de l’objet dans l’image masquée relative à l’emplacement de masque par l’outil informatique de classification ; Le procédé comprenant une étape de détermination d’un indice d’impact pour au moins un pixel de l’image cible sur la base des probabilités calculées pour des images masquées dans lesquelles une position du pixel de l’image cible appartient à la zone masquée. Au sens de l’invention, l’outil informatique de classification peut par exemple désigner un moteur d’intelligence artificielle servant à la classification d’image et/ou à une reconnaissance d’objets. Au sens de l’invention, on entend par classification de l’image cible, la détermination pour ladite image cible d’une valeur ou d’ensemble de valeurs représentant la probabilité que l’image cible contienne un objet. Selon un mode de mise en œuvre, l’image masquée peut être envoyée à une méthode programmée qui retourne une probabilité ou un ensemble de probabilités. On parle alors de classification accessible en local. Selon un autre mode de mise en œuvre, l’image masquée peut être envoyée à un serveur qui retourne une probabilité ou un ensemble de probabilités. On parle alors de classification distante. Grâce aux dispositions selon l’invention, il est possible de connaître l’impact sur la classification de différentes zones de l’image sans connaissance du modèle utilisé, et sans réaliser de détermination de la position d’un objet dans l’image. La détermination de la probabilité de présence de l’objet par l’outil informatique de classification est exécuté sur une pluralité d’images correspondants à l’image cible sur laquelle on a masqué une partie de l’image cible à l’aide d’un masque d’image, le masque d’image ayant une position différente à chaque itération d’exécution. Les dispositions selon l’invention permettent : une généralisation/automatisation du procédé pour traiter l’intégralité des pixels d’une image cible. une utilisation d’un masque d’image de formes et de dimensions fixes, le masque d’image est notamment indépendant des paramètres d’un algorithme tiers. une approche générique non liée au modèle d’apprentissage automatique évalué un respect d’une confidentialité du modèle d’apprentissage automatique et de ses données d’entrainement. Il s’agit du principe de l’approche dite model-agnostic. Le procédé exécuté par ordinateur peut en outre présenter une ou plusieurs des caractéristiques suivantes, prises seules ou en combinaison. Le procédé peut comprendre une étape de décalage de l’emplacement de masque d’un pas de décalage entre deux étapes successives de positionnement du masque d’image. Selon un mode de mise en œuvre, le décalage du masque d’image se fait de manière linéaire, autrement dit en commençant par le coin supérieur gauche par exemple puis en déplaçant le masque d’image sur la longueur et la largeur de l’image cible. Selon un autre mode de mise en œuvre, le décalage et positionnement du masque d’image sont effectués de manière aléatoire. On parle d’optimisation par calculs parallèles. Dans ce mode de mise en œuvre, une condition est que l’intégralité des pixels de l’image cible ait été masquée par le masque d’image et que chaque pixel ait le même nombre de probabilités de présence de l’objet qui lui sont associées. Le procédé peut comprendre, suite à chaque étape de détermination d’une probabilité de présence de l’objet dans l’image masquée, une étape d’intégration de la probabilité calculée dans une matrice de probabilités relative à un pixel contenu dans la zone masquée de l’image masquée. Selon une possibilité, le procédé comprend les étapes de détermination des dimensions du masque d’image et d’un pas de décalage de la position du masque d’image, d’élaboration d’une carte de chaleur sur la base des valeurs d’indice d’impact calculées pour chaque pixel de l’image cible, et de superposition de la carte de chaleur élaborée sur l’image cible avec un effet de transparence. L’élaboration de la carte de chaleur peut se faire en faisant correspondre une valeur de l’indice d’impact de chaque pixel à une couleur en respectant une échelle de couleur prédéfinie. La construction de l’échelle de couleur peut par exemple se faire en fixant la valeur de l’indice d’impact d’un pixel de l’image cible sans masque d’image sur le milieu de l’échelle de couleurs pour obtenir une valeur de l’indice d’impact de référence. Par rapport à cette valeur de l’indice d’impact de référence, il est possible d’identifier l’impact des zones de l’image cible sur la probabilité de présence d’un objet dans l’image cible. Selon une possibilité, on peut modifier une distribution des valeurs des indices d’impact relatifs aux pixels de l’image cible afin de fournir une visualisation plus fine des variations des valeurs des indices d’impact ou au contraire, fournir une vision ternaire sur la probabilité de présence d’un objet dans l’image cible. La superposition de la carte de chaleur élaborée sur l’image cible avec un effet de transparence permet d’identifier les zones de l’image cible présentant un fort impact sur la probabilité de présence d’un objet dans l’image cible. Le procédé peut en outre comprendre une étape de rajout d’une bordure d’image autour de l’image cible, au moins une partie des emplacements de masques d’image recouvrant partiellement la bordure. Le rajout d’une bordure d’image permet d’avoir, pour les mêmes dimensions du masque d’image, un même nombre de pixels compris dans la zone masquée quel que soit l’emplacement de la zone masquée dans l’image cible. Dans le procédé décrit, le masque d’image peut avoir une forme polygonale par exemple une forme sensiblement rectangulaire ou carrée. Selon une possibilité, l’étape de détermination d’un indice d’impact pour au moins un pixel de l’image cible sur la base des probabilités calculées pour des images masquées dans lesquelles une position du pixel de l’image cible appartient à la zone masquée est réalisée en effectuant une opération statistique sur les probabilités. L’opération statistique effectuée pour la détermination d’un indice d’impact pour chaque pixel de la zone masquée de l’image masquée peut être sélectionnée dans le groupe comprenant un calcul d’une moyenne des probabilités relatives aux emplacements de masque d’image, un calcul d’une médiane des probabilités relatives aux emplacements de masque d’image, une sélection de la valeur minimale ou maximale des probabilités relatives aux emplacements de masque d’image, un calcul d’écart type sur les probabilités relatives aux emplacements de masque d’image. Description en référence aux figures L’invention sera mieux comprise à l’aide de la description détaillée qui est exposée ci-dessous en regard des dessins annexés dans lesquels : est un organigramme présentant les différentes étapes exécutées lors de la mise en œuvre du procédé décrit. présente une image cible contenant un objet à classifier selon le procédé décrit à la . présente l’image de la à laquelle on a ajouté un masque d’image ainsi qu’une bordure d’image. présente un exemple de calcul d’une matrice de probabilités relative à un pixel contenu dans l’image cible de la et de l’indice d’impact relatif à ce pixel. présente un diagramme de correspondance entre l’indice d’impact des pixels de l’image cible de la et une échelle de couleur pour l’établissement d’une carte de chaleur ainsi que l’image cible de la sur laquelle on a superposé la carte de chaleur représentant des zones d’impact tel que décrit dans le procédé. présente l’image cible de la sur laquelle le masque d’image est décalé sur plusieurs emplacements de masque pour un pixel en bordure de l’image cible et un autre pixel contenu dans l’image cible. Dans la description détaillée qui va suivre des figures définies ci-dessus, les mêmes éléments ou les éléments remplissant des fonctions identiques pourront conserver les mêmes références de manière à simplifier la compréhension de l’invention. Description du procédé L’invention concerne un procédé exécuté par ordinateur de détermination d’un impact d’au moins un pixel P d’une image cible I sur la classification de l’image cible I par un outil informatique de classification fournissant une probabilité de présence d’un objet O dans une image cible I. Le procédé inclut plusieurs étapes décrites ci-après. Au sens de l’invention, l’outil informatique de classification peut par exemple désigner un moteur d’intelligence artificielle servant à la classification d’image et/ou à une reconnaissance d’objets. Ainsi, comme le montre la , lors d’une première étape S1, on procède à la détermination S1 des dimensions du masque d’image M et d’un pas de décalage de la position du masque d’image M. Selon une possibilité, le masque d’image a une forme polygonale par exemple une forme sensiblement rectangulaire ou carrée telle que celle présentée à la . La montre en outre que le procédé comprend les étapes de positionnement S2 du masque d’image M sur un emplacement de masque de l’image cible I et obtention d’une image masquée comprenant une zone masquée Zm par le masque d’image M et de détermination S3 d’une probabilité de présence de l’objet O dans l’image masquée IM relative à l’emplacement de masque par l’outil informatique de classification ; les étapes S2 et S3 étant réalisées pour une pluralité de positions d’un masque d’image. Puis, suite à chaque étape de détermination d’une probabilité de présence de l’objet O dans l’image masquée IM, on procède à une étape d’intégration S4 de la probabilité calculée dans une matrice de probabilités Tab relative à un pixel P contenu dans la zone masquée Zm de l’image masquée IM ainsi qu’à une étape de décalage S5 de l’emplacement de masque d’un pas de décalage entre deux étapes successives de positionnement du masque d’image M. Selon un mode de mise en œuvre, le décalage du masque d’image M se fait de manière linéaire, autrement dit en commençant par le coin supérieur gauche par exemple puis en déplaçant le masque d’image M sur la longueur et la largeur de l’image cible. Selon un autre mode de mise en œuvre, le décalage et positionnement du masque d’image M sont effectués de manière aléatoire. On parle d’optimisation par calculs parallèles. Dans ce mode de mise en œuvre, une condition est que l’intégralité des pixels de l’image cible I ait été masquée par le masque d’image M et que chaque pixel ait le même nombre de probabilités de présence de l’objet O qui lui sont associées. Le procédé comprend par ailleurs une étape S6 présentée à la de détermination d’un indice d’impact Ind pour au moins un pixel de l’image cible I sur la base des probabilités calculées pour des images masquées IM dans lesquelles une position du pixel de l’image cible I appartient à la zone masquée Zm. La détermination S6 d’un indice d’impact Ind pour au moins un pixel P de l’image cible I sur la base des probabilités calculées pour des images masquées IM dans lesquelles une position du pixel P de l’image cible I appartient à la zone masquée Zm est réalisée en effectuant une opération statistique Op sur les probabilités comme le montre la . L’opération statistique Op effectuée pour la détermination d’un indice d’impact Ind pour chaque pixel P de la zone masquée Zm de l’image masquée IM est sélectionnée dans le groupe comprenant un calcul d’une moyenne des probabilités relatives aux emplacements de masque d’image E1 et E2, un calcul d’une médiane des probabilités relatives aux emplacements de masque d’image E1 et E2, une sélection de la valeur minimale ou maximale des probabilités relatives aux emplacements de masque d’image E1 et E2, un calcul d’écart type sur les probabilités relatives aux emplacements de masque d’image E1 et E2. La présente un exemple de l’image cible I à classifier contenant l’objet O. Au sens de l’invention, on entend par classification de l’image cible I, la détermination pour ladite image cible I d’une valeur ou d’ensemble de valeurs représentant la probabilité que l’image cible I contienne un objet. Selon un mode de mise en œuvre, l’image masquée IM, présentée à la , peut être envoyée à une méthode programmée qui retourne une probabilité ou un ensemble de probabilités. On parle alors de classification accessible en local. Selon un autre mode de mise en œuvre, l’image masquée IM peut être envoyée à un serveur qui retourne une probabilité ou un ensemble de probabilités. On parle alors de classification distante. Grâce aux dispositions selon l’invention, il est possible de connaître l’impact sur la classification de différentes zones de l’image cible I sans connaissance du modèle utilisé, et sans réaliser de détermination de la position d’un objet O dans l’image cible I. La détermination de la probabilité de présence de l’objet O par l’outil informatique de classification est exécuté sur une pluralité d’images correspondants à l’image cible I sur laquelle on a masqué une partie de l’image cible à l’aide d’un masque d’image M, le masque d’image M ayant un emplacement de masque différent à chaque itération d’exécution. Le procédé comprend également une étape d’élaboration S7 d’une carte de chaleur CC sur la base des valeurs d’indice d’impact Ind calculées pour chaque pixel de l’image cible ainsi qu’une étape de superposition S8 de la carte de chaleur CC élaborée sur l’image cible avec un effet de transparence comme c’est le cas à la . La montre que l’élaboration de la carte de chaleur CC peut se faire en adoptant une correspondance EQ entre une valeur de l’indice d’impact Ind de chaque pixel et une couleur en respectant une échelle de couleur prédéfinie. La construction de l’échelle de couleur peut par exemple se faire en fixant la valeur de l’indice d’impact Ind d’un pixel de l’image cible I sans masque d’image M sur le milieu de l’échelle de couleurs pour obtenir une valeur de l’indice d’impact de référence. Par rapport à cette valeur de l’indice d’impact de référence, il est possible d’identifier l’impact des zones de l’image cible I sur la probabilité de présence d’un objet dans l’image cible I. Selon une possibilité, on peut modifier une distribution des valeurs des indices d’impact Ind relatifs aux pixels de l’image cible I afin de fournir une visualisation plus fine des variations des valeurs des indices d’impact Ind ou au contraire, fournir une vision ternaire sur la probabilité de présence d’un objet dans l’image cible I. La superposition de la carte de chaleur CC élaborée sur l’image cible I avec un effet de transparence permet d’identifier les zones de l’image cible présentant un fort impact sur la probabilité de présence de l’objet O dans l’image cible I. L’approche présentée ici fait une association entre une valeur de l’indice d’impact Ind relatif à chaque pixel et une couleur, mais d’autres approches existent notamment un lissage des couleurs voisines, ou bien une association non linéaire pour exacerber/lisser les contrastes par exemple. Le procédé peut en outre comprendre une étape de rajout S1’ d’une bordure d’image B autour de l’image cible I, comme le montre la , au moins une partie des emplacements de masques d’image recouvrant partiellement la bordure B. Le rajout d’une bordure d’image B permet d’avoir, pour les mêmes dimensions du masque d’image M, un même nombre de probabilités associées aux pixels compris dans la zone masquée Zm quel que soit l’emplacement de la zone masquée Zm dans l’image cible. Un exemple est donné dans la pour un pixel P2 en bordure de l’image masquée IM et un pixel P1 contenu dans l’image masquée IM. Selon une possibilité, et si l’on souhaite éviter le rajout d’une bordure d’image B, les dimensions du masque d’image M peuvent être modifiées afin qu’il contienne un même nombre de probabilités associées aux pixels compris dans la zone masquée Zm quel que soit l’emplacement de la zone masquée Zm dans l’image cible I. Applications Possibles Le procédé décrit peut trouver une application dans tout domaine utilisant des algorithmes de classification d’images nécessitant une validation complémentaire à la validation statistique classiquement utilisée pour les modèles d’apprentissage automatique, sans connaissance du modèle d’apprentissage automatique utilisé et indépendamment des données de tests/d’entrainement dudit modèle d’apprentissage automatique. Le procédé décrit, dit model-agnostic, respecte la confidentialité du modèle d’apprentissage automatique, et permet de tester ledit modèle d’apprentissage automatique avec des données en entrée dudit modèle d’apprentissage automatique respectant le format requis par ledit modèle d’apprentissage automatique. Des applications possibles pour le procédé décrit concernent notamment la validation de systèmes de vision par ordinateur tels que : une reconnaissance automatique d’avions ; une reconnaissance de piétons, objets d’infrastructures urbaines, voitures, animaux par des voitures autonomes; une analyse de conformité sur critères visuels de pièces produites dans des chaînes de production ; une détection d’éléments biologiques spécifiques reconnaissables par des critères visuels caractéristiques. Bien que l’invention ait été décrite en liaison avec des exemples particuliers de réalisation, il est bien évident qu’elle n’y est nullement limitée et qu’elle comprend tous les équivalents techniques des moyens décrits ainsi que leurs combinaisons si celles-ci entrent dans le cadre de l’invention. Procédé exécuté par ordinateur de détermination d’un impact d’au moins un pixel (P) d’une image cible (I) sur la classification de l’image cible (I) par un outil informatique de classification fournissant une probabilité de présence d’un objet (O) dans une image cible (I), le procédé comprenant les étapes suivantes réalisées pour une pluralité de positions d’un masque d’image : Positionnement (S2) du masque d’image (M) sur un emplacement de masque de l’image cible (I) et obtention d’une image masquée comprenant une zone masquée (Zm) par le masque d’image (M); Détermination (S3) d’une probabilité de présence de l’objet (O) dans l’image masquée (IM) relative à l’emplacement de masque par l’outil informatique de classification ; Le procédé comprenant une étape de détermination (S6) d’un indice d’impact (Ind) pour au moins un pixel de l’image cible (I) sur la base des probabilités calculées pour des images masquées (IM) dans lesquelles une position du pixel de l’image cible (I) appartient à la zone masquée (Zm). Procédé selon la revendication 1, comprenant en outre une étape de décalage (S5) de l’emplacement de masque d’un pas de décalage entre deux étapes successives de positionnement du masque d’image (M). Procédé selon l’une des revendications précédentes comprenant, suite à chaque étape de détermination d’une probabilité de présence de l’objet (O) dans l’image masquée (IM), une étape d’intégration (S4) de la probabilité calculée dans une matrice de probabilités (Tab) relative à un pixel (P) contenu dans la zone masquée (Zm) de l’image masquée (IM). Procédé selon l’une des revendications précédentes comprenant en outre l’étape suivante : Détermination (S1) des dimensions du masque d’image (M) et d’un pas de décalage de la position du masque d’image (M); Procédé selon l’une des revendications précédentes comprenant en outre les étapes suivantes : Elaboration (S7) d’une carte de chaleur (CC) sur la base des valeurs d’indice d’impact (Ind) calculées pour chaque pixel de l’image cible ; Superposition (S8) de la carte de chaleur (CC) élaborée sur l’image cible avec un effet de transparence. Procédé selon l’une des revendications précédentes comprenant en outre une étape de rajout (S1’) d’une bordure d’image (B) autour de l’image cible (I), au moins une partie des emplacements de masques d’image recouvrant partiellement la bordure (B). Procédé selon l’une quelconque des revendications précédentes dans lequel le masque d’image (M) a une forme polygonale par exemple une forme sensiblement rectangulaire ou carrée. Procédé selon l’une quelconque des revendications précédentes, dans lequel l’étape de détermination (S6) d’un indice d’impact (Ind) pour au moins un pixel (P) de l’image cible (I) sur la base des probabilités calculées pour des images masquées (IM) dans lesquelles une position du pixel (P) de l’image cible (I) appartient à la zone masquée (Zm) est réalisée en effectuant une opération statistique (Op) sur les probabilités. Procédé selon la revendication 8, dans lequel l’opération statistique (Op) effectuée pour la détermination d’un indice d’impact (Ind) pour chaque pixel (P) de la zone masquée (Zm) de l’image masquée (IM) est sélectionnée dans le groupe comprenant un calcul d’une moyenne des probabilités relatives aux emplacements de masque d’image (E1, E2) , un calcul d’une médiane des probabilités relatives aux emplacements de masque d’image (E1, E2), une sélection de la valeur minimale ou maximale des probabilités relatives aux emplacements de masque d’image (E1, E2), un calcul d’écart type sur les probabilités relatives aux emplacements de masque d’image (E1, E2).