Brevet FR3034230A1 — publié le 20160930

Procédé d'explication d'un score La présente invention concerne un procédé d'explication d'un score associé à un vecteur par une fonction. L'invention se rapporte également à un produit programme d'ordinateur associé et à un support d'information sur lequel est encodé un tel produit programme d'ordinateur. L'invention concerne aussi un système d'explication d'un score associé à un vecteur par une fonction. Dans de nombreux domaines, des systèmes d'aide à la décision sont utilisés pour évaluer des choix s'offrant à des décideurs. Par exemple, un banquier évalue la capacité de remboursement d'un client en se basant sur des informations telles que le salaire mensuel, l'existence de prêts antérieurs ou le capital apporté par le client. Ces données sont regroupées par le système d'aide à la décision, qui calcule un score à partir de ces données. Le banquier décide alors, en fonction du score obtenu par le client, de lui accorder ou non un prêt et, le cas échéant, à quel taux. Le système d'aide à la décision utilise, pour calculer le score, un modèle mathématique établi à partir des connaissances d'experts du domaine d'application concerné. Ainsi, un tel système d'aide à la décision permet de prendre rapidement une décision qui peut, être complexe, notamment dans le cas où chaque, alternative comprend un grand nombre de paramètres. En effet, au lieu de devoir considérer l'ensemble des paramètres, dont certains peuvent être favorables et d'autres défavorables, le décideur n'a à considérer que le score calculé. En outre, de tels modèles mathématiques sont en général élaborés à partir de l'expertise de plusieurs experts. Cependant, le modèle mathématique utilisé peut ne pas s'appliquer de la même manière à toutes les situations et sa complexité peut rendre le score global peu compréhensible pour le décideur. Ceci est d'autant plus vrai que le nombre de paramètres considérés est élevé. Il peut donc être important pour le décideur de savoir quels paramètres ont joué le rôle le plus important dans le calcul du score, afin de pouvoir adapter en conséquence la décision prise. Il existe donc des procédés permettant de générer une explication d'un score. Cependant, la mise en oeuvre de tels procédés suppose un grand nombre de calculs, et le temps nécessaire à l'élaboration de l'explication peut être trop élevé pour certains domaines d'application. Si le temps de calcul est réduit, le procédé perd en précision. En outre, l'explication générée n'est pas toujours pertinente. De plus, de tels procédés sont en général liés au système d'aide à la décision utilisé : les explications sont générées à partir du modèle mathématique utilisé. Il n'est donc pas aisé d'adapter les procédés existants à des systèmes utilisant d'autres modèles 3034230 2 mathématiques. Ainsi, les procédés d'explication existants supposent la connaissance du modèle mathématique avec lequel il sera utilisé. Il existe donc un besoin pour un procédé d'explication d'un score, obtenu à l'aide d'une fonction connue ou non, présentant de meilleures performances notamment en 5 ternies de pertinence de l'explication. A cet effet, il est proposé un procédé d'explication d'un score associé à un vecteur d'un premier nombre de paramètres par une fonction, chaque paramètre étant ordonné avec un indicateur variant de un au premier nombre, le premier nombre étant un nombre entier strictement supérieur à un, le procédé comprenant au moins des étapes de : 10 a1) fourniture d'un premier score associé à un premier vecteur contenant des premières valeurs des paramètres, b) génération d'un premier ensemble de listes, chaque liste comprenant un deuxième nombre d'indicateurs, le deuxième nombre étant un nombre entier strictement inférieur au premier nombre et supérieur strictement à zéro, 15 c) génération, à partir d'une liste, d'au moins un troisième vecteur dans lequel chaque paramètre présente une troisième valeur, la troisième valeur étant égale à la première valeur correspondante lorsque la liste ne comprend pas un indicateur du paramètre correspondant, et différente de la première valeur correspondante dans le cas contraire, 20 d) calcul du score d'au moins un troisième vecteur, e) évaluation, à partir des scores des troisièmes vecteurs calculés, d'un indicateur d'importance de chaque paramètre, f) élaboration, à partir des indicateurs d'importance évalués, d'une explication du premier score. 25 Suivant un mode de réalisation particulier, le procédé comprend une ou plusieurs des caractéristiques suivantes, prise(s) isolément ou suivant toutes les combinaisons techniquement possibles : - les indicateurs d'importance calculés lors de l'étape e sont soit des valeurs de Shapley, soit des indices de Sobol ; 30 - le premier ensemble comprend un nombre total de listes, le nombre total vérifiant l'inégalité mathématique : Nt REVENDICATIONS1.- Procédé d'explication d'un score (Ux) associé à un vecteur (x) d'un premier nombre (N1) de paramètres (X,) par une fonction (U), chaque paramètre (X,) étant ordonné avec un indicateur (ij) variant de un au premier nombre (N1), le premier nombre (N1) étant un nombre entier strictement supérieur à un, le procédé comprenant au moins des étapes de : a1) fourniture d'un premier score (Ux) associé à un premier vecteur (x) contenant des premières valeurs (x,) des paramètres (X,), 10 b) génération d'un premier ensemble (El ) de listes (11), chaque liste (11) comprenant un deuxième nombre (N21) d'indicateurs (ij), le deuxième nombre (N2j) étant un nombre entier strictement inférieur au premier nombre (N1) et supérieur strictement à zéro, c) génération, à partir d'une liste (Li), d'au moins un troisième vecteur (Cj) dans 15 lequel chaque paramètre (X1) présente une troisième valeur (c1,j), la troisième valeur (c,4) étant égale à la première valeur (x,) correspondante lorsque la liste (Li) ne comprend pas un indicateur (ij) du paramètre (X,) correspondant, et différente de la première.valeur (x,) correspondante dans le cas contraire, d) calcul du score (UCj) d'au moins un troisième vecteur (Cj), 20 e) évaluation, à partir des scores (UCj) des troisièmes vecteurs (Cj) calculés, d'un indicateur d'importance (R,) de chaque paramètre (X,), f) élaboration, à partir des indicateurs d'importance (R,) évalués, d'une explication (E) du premier score (Ux). 25 2.- Procédé selon la revendication 1, dans lequel les indicateurs d'importance (R,) calculés lors de l'étape e sont soit des valeurs de Shapley, soit des indices de Sobol. 3.- Procédé selon la revendication 1 ou 2, dans lequel le premier ensemble (El ) comprend un nombre total (Nt) de listes (Lj), le nombre total (Nt) vérifiant l'inégalité 30 mathématique : Nt 4.- Procédé selon l'une quelconque des revendications 1 à 3, dans lequel 35 l'étape b comprend la génération d'au moins une partie des listes (Li) du premier 3034230 24 ensemble (El) selon une loi de probabilité (P) portant soit sur le deuxième nombre (N2j) soit sur les indicateurs ij contenus dans la liste (Lj). 5.- Procédé selon l'une quelconque des revendications 1 à 3, dans lequel l'étape b comprend la génération de toutes les listes (1_,) dont le deuxième nombre (N2j) est inférieur ou égal à un deuxième nombre entier prédéterminé (k) strictement inférieur au premier nombre (N1). 6.- Procédé selon l'une quelconque des revendications 1 à 5, dans lequel le 10 procédé comprend, en outre, une étape a2 de fourniture d'un deuxième score (Uy) associé à un deuxième vecteur (Y) contenant des deuxièmes valeurs (y,) des paramètres (X,), et dans lequel, lors de l'étape c, la troisième valeur (c,,i) est égale à la deuxième valeur (y,) correspondante lorsque la liste (Li) comprend un indicateur (ij) du 15 paramètre (X,) correspondant, 7.- Procédé d'explication d'un score (Ux) associé à un vecteur (X) par une fonction (U), la fonction (U) présentant un maximum global (Ug) associé à un premier vecteur extrême (G) et un minimum global (Ub) associé à un deuxième vecteur extrême 20 (B), le procédé comprenant : g1) la mise en oeuvre, à partir du premier score (Ux) et du maximum global (Ug), des étapes b à e d'un procédé d'explication selon la revendication 6 pour obtenir des premiers indicateurs d'importance (Rg,), g2) la mise en oeuvre, à partir du premier score (Ux) et du minimum global 25 (Ub), des étapes b à e d'un procédé d'explication selon la revendication 6 pour obtenir des deuxièmes indicateur d'importance (Rb,), et h) génération, à partir des premiers (Rg,) et deuxièmes (Rb,) indicateurs d'importance, d'une explication (E) du premier score (Ux). 30 8.- Produit programme d'ordinateur comportant des instructions logicielles qui, lorsqu'elles sont exécutées par un ordinateur, mettent en oeuvre un procédé selon l'une quelconque des revendications 1 à 7. 9.- Support d'information sur lequel est mémorisé un produit programme 35 d'ordinateur selon la revendication 8. 3034230 25 10.- Système (10) d'explication d'une fonction (U) associant un score (Ux) à un vecteur (x) d'un premier nombre (N1) de paramètres (X,), chaque paramètre (X1) étant ordonné avec un indicateur (ij) variant de un au premier nombre (N1), le premier nombre (N1) étant un nombre entier strictement supérieur à un, le système (10) étant propre à : - fournir un premier score (Ux) associé à un premier vecteur (X) contenant des premières valeurs (xi) des paramètres (XI - générer un premier ensemble (El) de listes (Li), chaque liste (Li) comprenant un deuxième nombre (N2j) d'indicateurs (ij), le deuxième nombre (N2,) étant un nombre entier inférieur strictement au premier nombre (N1) et supérieur strictement à zéro, - générer, à partir d'une liste (1_,), d'au moins un troisième vecteur (Cj) dans lequel chaque paramètre (X,) présente une troisième valeur (c,,j), la troisième valeur (c,,i) étant égale à la première valeur (x,) correspondante lorsque la liste (Li) ne comprend pas un indicateur (ij) du paramètre (X,) correspondant, et différente de la première valeur (x,) correspondante dans le cas contraire, - calculer le score (UCj) d'au moins un troisième vecteur (Cj), - évaluer, à partir des scores (UCj) calculés pour chacun des troisièmes vecteurs (Cj), un indicateur d'importance (R,) de chaque paramètre (X,), - élaborer, à partir des indicateurs d'importance (Ri) évalués, une explication (E) du premier score (Ux).20