réglementation sur la validation des modèles internes, les auteurs considèrent des données trimestrielles historiques sur un horizon de 5 ans, de 2009 à 2014, pour construire les modèles internes, puis valident ces modèles sur les observations de l'année 2015.

Le grand avantage de l'étude de Fraisse et Laporte (2022) est qu'elle reproduit exactement la méthodologie IRB d'une banque. Dans une première étape, les auteurs construisent un score de risque continu exprimé en fonction d'une dizaine de facteurs de risque en utilisant soit une régression logistique, soit un algorithme de ML. Il est à noter que le ML n'intervient que dans cette phase de différenciation des risques. Dans une seconde étape, les entreprises sont regroupées en classes de risque homogène à partir du score de risque continu, transformé au préalable en une échelle de risque discrète, qui correspondrait à un système de notation. Enfin, dans une troisième étape, les auteurs affectent une probabilité de défaut à chaque classe de risque à partir d'un historique de défauts observés sur 1 an, puis calculent les exigences de fonds propres selon la formule Bâloise associée à l'approche IRB-F.<fnref n="24" />

La comparaison avec le modèle traditionnel utilisé par les banques est rendue possible par le fait que là encore, les auteurs cherchent à reproduire de façon fidèle toute la chaîne de prétraitements généralement mise en place par celles-ci avant d'appliquer la régression logistique comme modèle de différenciation des risques. Ces prétraitements incluent notamment l'élimination des variables présentant un trop grand nombre de valeurs manquantes, le contrôle des corrélations entre les variables, la discrétisation des variables continues, la création d'une classe associée aux valeurs manquantes, etc. La sélection des variables du modèle repose à la fois sur une approche quantitative et une approche qualitative (i.e., entretiens avec les agents de la Banque de France en charge de la notation des entreprises).<fnref n="25" />

La comparaison des modèles traditionnels et des modèles de ML se fait selon trois critères :

<footnote n="5">5 846 627 observations.</footnote>

<footnote n="24">24. Dans le cadre d'une approche IRB Foundation ou IRB-F, la banque est autorisée à développer son propre modèle interne pour estimer la PD, mais elle est tenue d'utiliser la LGD prescrite par le régulateur et d'autres paramètres requis pour calculer les RWA. A l'inverse, dans une approche IRB avancée ou IRB-A, la banque peut utiliser ses propres modèles internes pour l'ensemble des paramètres de risque, i.e., PD, LGD et CCF.</footnote>

<footnote n="25">25. L'analyse quantitative consiste à estimer un ensemble de régressions logistiques univariées sur l'indicateur de défaut incluant chaque variable discrétisée et des effets fixes de l'industrie, du statut judiciaire et de la taille. Les variables sont alors classées selon les mesures d'AUC obtenues dans ces régressions univariées et sont introduites dans le modèle final selon une procédure itérative en partant des variables associées aux mesures d'AUC les plus élevés. La sélection s'arrête lorsque l'ajout d'une nouvelle variable n'accroît pas de façon significative la performance prédictive du modèle. Cette méthode garantit la validité externe des conclusions de l'étude, qui sont ainsi obtenues dans un cadre méthodologique très proche des pratiques bancaires actuelles.</footnote>
(i) les gains prédictifs mesurés en termes d'AUC et de F-score<fnref n="26" />, (ii) la capacité à passer les tests de conformité utilisés par les régulateurs lors des missions sur site de validation des modèles internes et (iii) les évolutions induites du capital requis mesuré par le ratio des RWA sur le total des actifs de la banque. La capacité des modèles à passer les tests de conformité est mesurée notamment par un indicateur de différenciation des risques correspondant au nombre de fois où le z-test conduit à rejeter, pour chaque trimestre de la période de test, l'hypothèse nulle d'égalité des taux de défaut moyens entre deux classes de risque adjacentes. Plus cet indicateur est élevé, meilleure est l'échelle de notation puisqu'elle permet de mieux discriminer les risques.

En ce qui concerne les gains prédictifs, les résultats de l'étude confirment globalement les résultats de la littérature académique. Les forêts aléatoires permettent de mieux prévoir les défauts d'entreprise que le modèle paramétrique traditionnel, mais aussi que les autres techniques de ML (XGBoost, régression Ridge et ANN) qui donnent approximativement les mêmes AUC et F-scores que la régression logistique, une fois pris en compte les prétraitements. Ainsi, la moyenne des mesures AUC obtenues sur les bases de tests des 6 portefeuilles de crédits passe de 83% pour la régression logistique à 87% pour les forêts aléatoires, tandis que les écarts avec les autres techniques de ML restent inférieurs à 3%, conformément aux conclusions de Thomas (2000), Baesens et al. (2003) et Lessmann et al. (2015).

Au delà des gains prédictifs, les résultats de l'étude mettent en évidence des différences notables dans la capacité des modèles de ML à passer les tests réglementaires et à réduire les exigences de fonds propres. Tout d'abord, certains algorithmes de ML conduisent même à une augmentation des RWA, non seulement par rapport au modèle logistique, mais aussi par rapport à l'approche standardisée, ce qui remet en cause l'intérêt même des modèles internes pour la banque. Les forêts aléatoires qui améliorent la précision des estimations de PD, entraînent également de fortes baisses des RWA, mais uniquement pour un sous-échantillon de banques. Par ailleurs, les forêts aléatoires échouent généralement aux tests de validation en dehors de la période de calibration du modèle. Il est en de même pour le Gradient Boosting qui ne passent pas non plus les tests de validation. A l'inverse, tout en affichant une capacité similaire à celle du modèle traditionnel à réussir les tests de conformité, les ANN offrent la plus forte incitation pour les banques à appliquer des modèles de ML, car

<footnote n="26">26. Le F-score correspond à la moyenne harmonique de la précision et de la sensibilité (recall). La précision est la proportion des défauts correctement identifiés parmi l'ensemble des défauts prévus ; la sensibilité est la proportion des défauts correctement identifiés parmi l'ensemble des défauts observés.</footnote>
(i) les gains prédictifs mesurés en termes d'AUC et de F-score<fnref n="26" />, (ii) la capacité à passer les tests de conformité utilisés par les régulateurs lors des missions sur site de validation des modèles internes et (iii) les évolutions induites du capital requis mesuré par le ratio des RWA sur le total des actifs de la banque. La capacité des modèles à passer les tests de conformité est mesurée notamment par un indicateur de différenciation des risques correspondant au nombre de fois où le z-test conduit à rejeter, pour chaque trimestre de la période de test, l'hypothèse nulle d'égalité des taux de défaut moyens entre deux classes de risque adjacentes. Plus cet indicateur est élevé, meilleure est l'échelle de notation puisqu'elle permet de mieux discriminer les risques.

En ce qui concerne les gains prédictifs, les résultats de l'étude confirment globalement les résultats de la littérature académique. Les forêts aléatoires permettent de mieux prévoir les défauts d'entreprise que le modèle paramétrique traditionnel, mais aussi que les autres techniques de ML (XGBoost, régression Ridge et ANN) qui donnent approximativement les mêmes AUC et F-scores que la régression logistique, une fois pris en compte les prétraitements. Ainsi, la moyenne des mesures AUC obtenues sur les bases de tests des 6 portefeuilles de crédits passe de 83% pour la régression logistique à 87% pour les forêts aléatoires, tandis que les écarts avec les autres techniques de ML restent inférieurs à 3%, conformément aux conclusions de Thomas (2000), Baesens et al. (2003) et Lessmann et al. (2015).

Au delà des gains prédictifs, les résultats de l'étude mettent en évidence des différences notables dans la capacité des modèles de ML à passer les tests réglementaires et à réduire les exigences de fonds propres. Tout d'abord, certains algorithmes de ML conduisent même à une augmentation des RWA, non seulement par rapport au modèle logistique, mais aussi par rapport à l'approche standardisée, ce qui remet en cause l'intérêt même des modèles internes pour la banque. Les forêts aléatoires qui améliorent la précision des estimations de PD, entraînent également de fortes baisses des RWA, mais uniquement pour un sous-échantillon de banques. Par ailleurs, les forêts aléatoires échouent généralement aux tests de validation en dehors de la période de calibration du modèle. Il est en de même pour le Gradient Boosting qui ne passent pas non plus les tests de validation. A l'inverse, tout en affichant une capacité similaire à celle du modèle traditionnel à réussir les tests de conformité, les ANN offrent la plus forte incitation pour les banques à appliquer des modèles de ML, car

<footnote n="26">26. Le F-score correspond à la moyenne harmonique de la précision et de la sensibilité (recall). La précision est la proportion des défauts correctement identifiés parmi l'ensemble des défauts prévus ; la sensibilité est la proportion des défauts correctement identifiés parmi l'ensemble des défauts observés.</footnote>
ils conduisent dans certains cas à une réduction importante des exigences de capital. Ainsi,
les ANN conduisent à une réduction des RWA comprise entre 2% et 27% par rapport aux
modèles de régression logistique.

Une étude similaire à celle de Fraisse et Laporte (2022) a été menée sur un portefeuille de
crédits à la consommation d'une banque espagnole par Alonso et Carbó (2020) avec des
résultats légèrement différents. Les auteurs montrent tout d'abord que les forêts aléatoires
et le XGBoost performent mieux que l'approche traditionnelle fondée sur une régression
logistique tant en termes de différenciation des risques (mesurée par l'AUC) qu'en termes
de calibration (mesurée par un score de Brière).<sup>27</sup> Les auteurs cherchent ensuite à évaluer
les gains en termes de capital réglementaire permis par l'utilisation d'un modèle de différen-
ciation des risques de type XGBoost en lieu et place d'une régression logistique pénalisée de
type Lasso, qui sert de benchmark. Pour ce faire, ils reproduisent exactement la méthodo-
logie IRB en construisant des classes de risques à partir des probabilités de défaut estimées
par le modèle de ML, puis en calibrant les probabilités de défaut au sein de chaque classe
sur la fréquence historique des défauts observée sur une base d'apprentissage. Partant d'une
classification en 50 classes, les auteurs réduisent le nombre de classes et ajustent les seuils
de sorte à obtenir une fréquence observée des défauts strictement croissante entre les classes
de risques et la plus proche possible de la moyenne des probabilités estimées par le modèle.
Ils obtiennent alors au final 6 classes de risque pour le modèle logistique-Lasso et 8 classes
de risque pour le modèle XGBoost. Une fois les probabilités de défaut calibrées pour chaque
classe de risque, les auteurs utilisent alors la formule réglementaire de Bâle pour les crédits
à la consommation afin de calculer les exigences en fonds propres, en utilisant une LGD
fixée à 0,45 conformément à l'approche IRB-F. Leurs résultats montrent que les gains en
capital réglementaire permis par l'utilisation du XGBoost atteignent en moyenne 12,4%,
voire 17% dans des scénarios basés sur différentes valeurs des corrélations, ce qui est rela-
tivement important. Deux remarques doivent être faites ici. Premièrement, contrairement
à Fraisse et Laporte (2022), les auteurs n'appliquent pas l'ensemble de la procédure de va-
lidation des classes de risque et notamment les tests d'homogénéité des risques au sein de
chaque classe.<sup>28</sup> Deuxièmement, puisque les deux modèles ont été calibrés, la PD moyenne

<footnote n="27">27. Le score de Brière permet de comparer les probabilités estimées par le modèle au sein de chaque classe de risque homogène, à la fréquence des défauts observés sur la période de test au sein de cette classe.</footnote>

<footnote n="28">28. Pour rappel, pour que les classes de risque soient approuvées par le régulateur, elles doivent répondre à deux critères critères, i.e., l'hétérogénéité des risques entre les classes et l'homogénéité des risques au sein de chaque classe. Ici seule l'hétérogénéité des risques est évaluée. Par ailleurs, Alonso et Carbó (2020) n'ont pas de dimension temporelle dans leurs données, ce qui expliquent pourquoi ils ne peuvent pas implémenter</footnote>
ils conduisent dans certains cas à une réduction importante des exigences de capital. Ainsi,
les ANN conduisent à une réduction des RWA comprise entre 2% et 27% par rapport aux
modèles de régression logistique.

Une étude similaire à celle de Fraisse et Laporte (2022) a été menée sur un portefeuille de
crédits à la consommation d'une banque espagnole par Alonso et Carbó (2020) avec des
résultats légèrement différents. Les auteurs montrent tout d'abord que les forêts aléatoires
et le XGBoost performent mieux que l'approche traditionnelle fondée sur une régression
logistique tant en termes de différenciation des risques (mesurée par l'AUC) qu'en termes
de calibration (mesurée par un score de Brière).<sup>27</sup> Les auteurs cherchent ensuite à évaluer
les gains en termes de capital réglementaire permis par l'utilisation d'un modèle de différen-
ciation des risques de type XGBoost en lieu et place d'une régression logistique pénalisée de
type Lasso, qui sert de benchmark. Pour ce faire, ils reproduisent exactement la méthodo-
logie IRB en construisant des classes de risques à partir des probabilités de défaut estimées
par le modèle de ML, puis en calibrant les probabilités de défaut au sein de chaque classe
sur la fréquence historique des défauts observée sur une base d'apprentissage. Partant d'une
classification en 50 classes, les auteurs réduisent le nombre de classes et ajustent les seuils
de sorte à obtenir une fréquence observée des défauts strictement croissante entre les classes
de risques et la plus proche possible de la moyenne des probabilités estimées par le modèle.
Ils obtiennent alors au final 6 classes de risque pour le modèle logistique-Lasso et 8 classes
de risque pour le modèle XGBoost. Une fois les probabilités de défaut calibrées pour chaque
classe de risque, les auteurs utilisent alors la formule réglementaire de Bâle pour les crédits
à la consommation afin de calculer les exigences en fonds propres, en utilisant une LGD
fixée à 0,45 conformément à l'approche IRB-F. Leurs résultats montrent que les gains en
capital réglementaire permis par l'utilisation du XGBoost atteignent en moyenne 12,4%,
voire 17% dans des scénarios basés sur différentes valeurs des corrélations, ce qui est rela-
tivement important. Deux remarques doivent être faites ici. Premièrement, contrairement
à Fraisse et Laporte (2022), les auteurs n'appliquent pas l'ensemble de la procédure de va-
lidation des classes de risque et notamment les tests d'homogénéité des risques au sein de
chaque classe.<sup>28</sup> Deuxièmement, puisque les deux modèles ont été calibrés, la PD moyenne

<footnote n="27">27. Le score de Brière permet de comparer les probabilités estimées par le modèle au sein de chaque classe de risque homogène, à la fréquence des défauts observés sur la période de test au sein de cette classe.</footnote>

<footnote n="28">28. Pour rappel, pour que les classes de risque soient approuvées par le régulateur, elles doivent répondre à deux critères critères, i.e., l'hétérogénéité des risques entre les classes et l'homogénéité des risques au sein de chaque classe. Ici seule l'hétérogénéité des risques est évaluée. Par ailleurs, Alonso et Carbó (2020) n'ont pas de dimension temporelle dans leurs données, ce qui expliquent pourquoi ils ne peuvent pas implémenter</footnote>
globale de chacun d'entre eux ne diffère pas de manière significative. Dès lors, les gains en
capital réalisés grâce à l'utilisation de la méthode XGBoost proviennent potentiellement
soit d'une différence dans l'affectation des crédits au sein des classes de risque, soit de la
différence du nombre de classes de risque obtenues à partir de la procédure de calibration.
Les auteurs montrent que les deux effets jouent de façon importante dans la réduction du
capital réglementaire requis.

On peut enfin citer ici l'analyse menée par FICO (Ould, 2022) à partir de leur technologie de ML interprétable (intégrée à leur outil FICO Platform) et de données provenant d'un modèle IRB d'une banque de la zone euro. Pour chacun des trois segments considérés (crédits hypothécaires, crédits à la consommation et autres prêts), les PD ont été estimées à partir d'un modèle de type Gradient Boosting avec exactement les mêmes variables d'entrée et les mêmes caractéristiques générées que pour les grilles de score initial. Les résultats de l'étude montrent une diminution de 20,8% des RWA pour les crédits à la consommation, de 11,1% pour les prêts et de 8,1% pour les hypothèques. Toutefois, rien n'est dit dans l'étude sur la validation de ces modèles.

**Modélisation de la LGD.** Dans le cas de la modélisation de la LGD, il n'existe pas d'étude similaire permettant de déterminer quels pourraient être les gains économiques à l'usage des techniques de ML. Toutefois, Hurlin et al. (2018) évaluent différentes fonctions de pertes définies en termes de capital réglementaire pour les modèles de LGD.29 Ces fonctions de perte permettent ainsi d'évaluer et de comparer la performance prédictive de différents modèles de LGD, y compris des modèles de ML, directement en termes de gains ou de pertes en capital requis. L'application empirique sur un portefeuille de crédits et de leasings automobiles permet de comparer différents modèles de ML (ANN, SVM, forêts aléatoires, etc.) et des modèle paramétriques (modèle de régression à réponse fractionnaire, etc.). Les résultats montrent que le classement des modèles obtenus sur la base des fonctions de perte en capital peut être très différent de ceux obtenus sur la base des critères statistiques usuels (MSE, MAE, etc.). Cela illustre, là encore, la divergence qui peut exister entre les gains en précision statistique et les gains économiques du ML.

<footnote>certains tests pour valider leur modèle.</footnote>

<footnote n="29">29. Ces fonctions de perte sont fondées sur une erreur quadratique définie par rapport au capital réglementaire optimal, calculé à partir des vraies réalisations des paramètres de risque. Les fonctions de perte peuvent être symétriques ou asymétriques, de sorte à pénaliser toute sous-estimation du capital réglementaire requis.</footnote>
globale de chacun d'entre eux ne diffère pas de manière significative. Dès lors, les gains en
capital réalisés grâce à l'utilisation de la méthode XGBoost proviennent potentiellement
soit d'une différence dans l'affectation des crédits au sein des classes de risque, soit de la
différence du nombre de classes de risque obtenues à partir de la procédure de calibration.
Les auteurs montrent que les deux effets jouent de façon importante dans la réduction du
capital réglementaire requis.

On peut enfin citer ici l'analyse menée par FICO (Ould, 2022) à partir de leur technologie de ML interprétable (intégrée à leur outil FICO Platform) et de données provenant d'un modèle IRB d'une banque de la zone euro. Pour chacun des trois segments considérés (crédits hypothécaires, crédits à la consommation et autres prêts), les PD ont été estimées à partir d'un modèle de type Gradient Boosting avec exactement les mêmes variables d'entrée et les mêmes caractéristiques générées que pour les grilles de score initial. Les résultats de l'étude montrent une diminution de 20,8% des RWA pour les crédits à la consommation, de 11,1% pour les prêts et de 8,1% pour les hypothèques. Toutefois, rien n'est dit dans l'étude sur la validation de ces modèles.

**Modélisation de la LGD.** Dans le cas de la modélisation de la LGD, il n'existe pas d'étude similaire permettant de déterminer quels pourraient être les gains économiques à l'usage des techniques de ML. Toutefois, Hurlin *et al.* (2018) évaluent différentes fonctions de pertes définies en termes de capital réglementaire pour les modèles de LGD.29 Ces fonctions de perte permettent ainsi d'évaluer et de comparer la performance prédictive de différents modèles de LGD, y compris des modèles de ML, directement en termes de gains ou de pertes en capital requis. L'application empirique sur un portefeuille de crédits et de leasings automobiles permet de comparer différents modèles de ML (ANN, SVM, forêts aléatoires, etc.) et des modèle paramétriques (modèle de régression à réponse fractionnaire, etc.). Les résultats montrent que le classement des modèles obtenus sur la base des fonctions de perte en capital peut être très différent de ceux obtenus sur la base des critères statistiques usuels (MSE, MAE, etc.). Cela illustre, là encore, la divergence qui peut exister entre les gains en précision statistique et les gains économiques du ML.

<footnote>certains tests pour valider leur modèle.</footnote>

<footnote n="29">29. Ces fonctions de perte sont fondées sur une erreur quadratique définie par rapport au capital réglementaire optimal, calculé à partir des vraies réalisations des paramètres de risque. Les fonctions de perte peuvent être symétriques ou asymétriques, de sorte à pénaliser toute sous-estimation du capital réglementaire requis.</footnote>
# 5 Le défi de l'explicabilité / interprétabilité des modèles IRB

Le ML peut être un outil puissant pour la modélisation du risque de crédit, mais il sou-lève également de nombreux défis. Comme le montre la Figure 9, lorsque l'on interroge les banques à ce propos (IIF, 2019), les principaux défis mentionnés concernent (i) l'interpréta-bilité ou l'explicabilité des modèles, que ce soit dans une perspective de contrôle du risque de modèle en interne, ou vis-à-vis du régulateur, (ii) les coûts d'implémentation, ainsi que la problématique de la qualité et de la disponibilité des données, (iii) la gouvernance de ces modèles et les besoins accrus de formation du personnel, et (iv) les risques opérationnels liés notamment à la difficulté d'évaluer leur capacité de généralisation.

<figure><img src="image_10.png" /><figcaption>FIGURE 9 – Les principaux défis du ML dans la gestion du risque de crédit</figcaption></figure>

(a) Source : IIF (2019)

Dans le contexte spécifique des modèles IRB, on retrouve les mêmes préoccupations qui découlent de l'analyse des exigences du CRR (EBA, 2021). De façon générale, ces préoc-cupations sont liées à la complexité et à la fiabilité des modèles de ML. Cependant, la principale préoccupation des banques porte sans conteste sur la question centrale de l'in-terprétabilité de ces modèles, et surtout sur les exigences que peut avoir le régulateur en la matière. C'est cette question de l'interprétabilité et de sa définition par le régulateur qui, sans aucun doute, conditionnera l'adoption du ML dans le contexte IRB à l'avenir.
# 5 Le défi de l'explicabilité / interprétabilité des modèles IRB

Le ML peut être un outil puissant pour la modélisation du risque de crédit, mais il sou-lève également de nombreux défis. Comme le montre la Figure 9, lorsque l'on interroge les banques à ce propos (IIF, 2019), les principaux défis mentionnés concernent (i) l'interpréta-bilité ou l'explicabilité des modèles, que ce soit dans une perspective de contrôle du risque de modèle en interne, ou vis-à-vis du régulateur, (ii) les coûts d'implémentation, ainsi que la problématique de la qualité et de la disponibilité des données, (iii) la gouvernance de ces modèles et les besoins accrus de formation du personnel, et (iv) les risques opérationnels liés notamment à la difficulté d'évaluer leur capacité de généralisation.

<figure><img src="image_10.png" /><figcaption>FIGURE 9 – Les principaux défis du ML dans la gestion du risque de crédit</figcaption></figure>

(a) Source : IIF (2019)

Dans le contexte spécifique des modèles IRB, on retrouve les mêmes préoccupations qui découlent de l'analyse des exigences du CRR (EBA, 2021). De façon générale, ces préoc-cupations sont liées à la complexité et à la fiabilité des modèles de ML. Cependant, la principale préoccupation des banques porte sans conteste sur la question centrale de l'in-terprétabilité de ces modèles, et surtout sur les exigences que peut avoir le régulateur en la matière. C'est cette question de l'interprétabilité et de sa définition par le régulateur qui, sans aucun doute, conditionnera l'adoption du ML dans le contexte IRB à l'avenir.
## 5.1 Quelle explicabilité / interprétabilité pour les modèles IRB ?

La question de l'interprétabilité des modèles est le sujet central de préoccupation de toutes les applications à haut risque du ML et de l'IA (EC, 2021). Le problème tient au fait que certains modèles de ML peuvent être très complexes, ce qui rend difficile, voire impossible, l'interprétation de leurs prédictions et la compréhension des facteurs qui ont contribué à ces prédictions. Or, il est évident que dans le contexte IRB, il n'est pas possible de confier la détermination des fonds propres réglementaires d'une banque à un modèle de type boîte noire. Le superviseur, les services de validation interne et la gouvernance de la banque doivent pouvoir s'assurer que les paramètres utilisés pour le calcul des exigences de fonds propres reflètent fidèlement le niveau de risque pris par l'institution. Par conséquent, les modèles doivent être facilement interprétables et compréhensibles, à la fois par la direction de la banque afin qu'elle puisse prendre des décisions stratégiques en matière d'allocation de portefeuille de façon éclairée, et par le superviseur en charge de l'application des réglementations prudentielles. Or, les modèles de ML les plus performants pour la gestion du risque de crédit, e.g., les forêts aléatoires et les méthodes de Gradient Boosting, sont précisément non interprétables et sont typiquement assimilés à des boîtes noires, ce qui limite par conséquent leur usage dans le contexte IRB.

Dans le détail, on doit distinguer ici les notions d'explicabilité et d'interprétabilité (ACPR, 2020). L'interprétabilité fait référence à la capacité d'un modèle à être compris par un être humain, c'est-à-dire la capacité à comprendre comment le modèle fonctionne et comment il prend ses décisions. L'explicabilité, quant à elle, fait référence à la capacité d'un modèle à être expliqué, c'est-à-dire la capacité à fournir une explication compréhensible pour les décisions qu'il prend. En d'autres termes, l'interprétabilité se concentre sur la compréhension globale du modèle, tandis que l'explicabilité se concentre sur la compréhension locale des décisions individuelles prises par le modèle. Dans le contexte IRB, ces deux niveaux d'analyse ne s'adressent pas aux mêmes parties prenantes. Ainsi, selon Bracke et al. (2019), les modélisateurs et les valideurs de premier niveau doivent s'intéresser tant à l'interprétabilité qu'à l'explicabilité afin de comprendre notamment quels sont les facteurs essentiels qui déterminent les paramètres de risque, mais aussi ce qui détermine les prévisions de PD et de LGD obtenues pour chaque contrat. A l'inverse, les superviseurs et les valideurs de second niveau doivent s'intéresser davantage à l'interprétabilité, i.e., au fonctionnement général du modèle, et surtout à sa capacité à correctement mesurer les risques dans un nouvel
## 5.1 Quelle explicabilité / interprétabilité pour les modèles IRB ?

La question de l'interprétabilité des modèles est le sujet central de préoccupation de toutes les applications à haut risque du ML et de l'IA (EC, 2021). Le problème tient au fait que certains modèles de ML peuvent être très complexes, ce qui rend difficile, voire impossible, l'interprétation de leurs prédicitions et la compréhension des facteurs qui ont contribué à ces prédicitions. Or, il est évident que dans le contexte IRB, il n'est pas possible de confier la détermination des fonds propres réglementaires d'une banque à un modèle de type boîte noire. Le superviseur, les services de validation interne et la gouvernance de la banque doivent pouvoir s'assurer que les paramètres utilisés pour le calcul des exigences de fonds propres reflètent fidèlement le niveau de risque pris par l'institution. Par conséquent, les modèles doivent être facilement interprétables et compréhensibles, à la fois par la direction de la banque afin qu'elle puisse prendre des décisions stratégiques en matière d'allocation de portefeuille de façon éclairée, et par le superviseur en charge de l'application des réglementations prudentielles. Or, les modèles de ML les plus performants pour la gestion du risque de crédit, e.g., les forêts aléatoires et les méthodes de Gradient Boosting, sont précisément non interprétables et sont typiquement assimilés à des boîtes noires, ce qui limite par conséquent leur usage dans le contexte IRB.

Dans le détail, on doit distinguer ici les notions d'explicabilité et d'interprétabilité (ACPR, 2020). L'interprétabilité fait référence à la capacité d'un modèle à être compris par un être humain, c'est-à-dire la capacité à comprendre comment le modèle fonctionne et comment il prend ses décisions. L'explicabilité, quant à elle, fait référence à la capacité d'un modèle à être expliqué, c'est-à-dire la capacité à fournir une explication compréhensible pour les décisions qu'il prend. En d'autres termes, l'interprétabilité se concentre sur la compréhension globale du modèle, tandis que l'explicabilité se concentre sur la compréhension locale des décisions individuelles prises par le modèle. Dans le contexte IRB, ces deux niveaux d'analyse ne s'adressent pas aux mêmes parties prenantes. Ainsi, selon Bracke et al. (2019), les modélisateurs et les valideurs de premier niveau doivent s'intéresser tant à l'interprétabilité qu'à l'explicabilité afin de comprendre notamment quels sont les facteurs essentiels qui déterminent les paramètres de risque, mais aussi ce qui détermine les prévisions de PD et de LGD obtenues pour chaque contrat. A l'inverse, les superviseurs et les valideurs de second niveau doivent s'intéresser davantage à l'interprétabilité, i.e., au fonctionnement général du modèle, et surtout à sa capacité à correctement mesurer les risques dans un nouvel
environnement économique.

## 5.2 Les méthodes d'interprétabilité et d'explicabilité ex-post

Lorsque les modèles issus des algorithmes de ML ne sont pas interprétables a priori, la démarche usuelle consiste à mettre en place des méthodes qui permettent de les rendre interprétables ex-post (Molnar, 2019; Molnar et al., 2022). Ces méthodes sont dites « agnostiques aux modèles » dans le sens où elles peuvent être utilisées pour interpréter le fonctionnement et les résultats de n'importe quel modèle de ML. L'idée générale de ces méthodes consiste à faire de l'ingénierie inversée à partir des seuls inputs (prédicteurs) et outputs (prévisions) afin de révéler la règle de décision de l'algorithme. On distingue ici les méthodes dites globales, destinées à répondre à la question de l'interprétabilité, des méthodes dites locales, destinées à répondre à la question de l'explicabilité.

**Méthodes globales.** Parmi les méthodes globales, l'approche la plus simple consiste à construire un modèle de substitution qui soit nativement interprétable (e.g., une régression logistique, un arbre de décision) et qui permettent de relier les prévisions du modèle boîte noire aux variables utilisées par celui-ci. L'idée est alors de fournir une approximation de la règle de décision non interprétable d'un algorithme de ML par un modèle de substitution plus simple et interprétable, considéré comme une approximation globale de la vraie règle de décision. Toutefois, la qualité de l'interprétation dépend alors fondamentalement de la qualité d'ajustement du modèle de substitution.

D'autres approches fondées sur des analyses graphiques permettent de ne pas avoir à construire un modèle de substitution. Une première approche est celle des graphiques de dépendances partielles ou PDP (Friedman, 2001). Le principe de construction des PDP consiste à balayer sur un ensemble de valeurs possibles pour une variable explicative d'intérêt, d'appliquer le modèle prédictif de ML en utilisant pour tous les individus de la base ces valeurs successives (tout en laissant inchangées les valeurs des autres variables explicatives), et de calculer, pour chaque valeur testée, la moyenne des scores obtenus. Le graphique de PDP permet alors de représenter l'effet marginal d'une caractéristique sur la prédiction du modèle de ML. On peut ainsi vérifier si la relation entre la cible et un prédicteur est linéaire, monotone ou plus complexe. Cependant, la principale limite des PDP est que cette méthode suppose que la caractéristique pour laquelle la dépendance partielle est calculée, soit indépendante des autres caractéristiques. Plusieurs extensions récentes des PDP per-
environnement économique.

## 5.2 Les méthodes d'interprétabilité et d'explicabilité ex-post

Lorsque les modèles issus des algorithmes de ML ne sont pas interprétables a priori, la démarche usuelle consiste à mettre en place des méthodes qui permettent de les rendre interprétables ex-post (Molnar, 2019; Molnar et al., 2022). Ces méthodes sont dites « agnostiques aux modèles » dans le sens où elles peuvent être utilisées pour interpréter le fonctionnement et les résultats de n'importe quel modèle de ML. L'idée générale de ces méthodes consiste à faire de l'ingénierie inversée à partir des seuls inputs (prédicteurs) et outputs (prévisions) afin de révéler la règle de décision de l'algorithme. On distingue ici les méthodes dites globales, destinées à répondre à la question de l'interprétabilité, des méthodes dites locales, destinées à répondre à la question de l'explicabilité.

**Méthodes globales.** Parmi les méthodes globales, l'approche la plus simple consiste à construire un modèle de substitution qui soit nativement interprétable (e.g., une régression logistique, un arbre de décision) et qui permettent de relier les prévisions du modèle boîte noire aux variables utilisées par celui-ci. L'idée est alors de fournir une approximation de la règle de décision non interprétable d'un algorithme de ML par un modèle de substitution plus simple et interprétable, considéré comme une approximation globale de la vraie règle de décision. Toutefois, la qualité de l'interprétation dépend alors fondamentalement de la qualité d'ajustement du modèle de substitution.

D'autres approches fondées sur des analyses graphiques permettent de ne pas avoir à construire un modèle de substitution. Une première approche est celle des graphiques de dépendances partielles ou PDP (Friedman, 2001). Le principe de construction des PDP consiste à balayer sur un ensemble de valeurs possibles pour une variable explicative d'intérêt, d'appliquer le modèle prédictif de ML en utilisant pour tous les individus de la base ces valeurs successives (tout en laissant inchangées les valeurs des autres variables explicatives), et de calculer, pour chaque valeur testée, la moyenne des scores obtenus. Le graphique de PDP permet alors de représenter l'effet marginal d'une caractéristique sur la prédiction du modèle de ML. On peut ainsi vérifier si la relation entre la cible et un prédicteur est linéaire, monotone ou plus complexe. Cependant, la principale limite des PDP est que cette méthode suppose que la caractéristique pour laquelle la dépendance partielle est calculée, soit indépendante des autres caractéristiques. Plusieurs extensions récentes des PDP per-
mettent toutefois de lever cette hypothèse d'indépendance entre les variables du modèle, comme par exemple les graphiques des effets locaux cumulés ou ALE (Apley et Zhu, 2020).

**Méthodes locales.** Les méthodes locales fournissent une explication à une décision prise par le modèle boîte noire au niveau individuel, e.g., au niveau d'un emprunteur. Ces méthodes permettent par exemple de déterminer pourquoi la PD d'une entreprise est estimée à 4% par le modèle. Il existe de très nombreuses méthodes d'explication locale, mais les deux plus utilisées par les banques sont les méthodes LIME (Ribeiro et al., 2016) et SHAP (Lundberg et Lee, 2017).

L'intuition de la méthode LIME (Local interpretable model-agnostic explanations) est de créer des modèles de prédiction au niveau local pour chaque individu, qui soient plus simples et plus facilement interprétables que le modèle original. Pour un individu de référence, on génère aléatoirement des variables explicatives d'individus proches de l'individu de référence (perturbations locales), et l'on applique alors l'algorithme initial sur ces données simulées. A partir des caractéristiques simulées et des prévisions qui en découlent (pondérées par rapport à leur distance à l'individu de référence), on ajuste alors un modèle interprétable. Il s'agit typiquement d'un arbre de décision ou d'une régression pénalisée de type Lasso. Grâce à ce modèle local, on peut alors mesurer de façon approchée l'influence de chacun des prédicteurs sur la décision finale du modèle initial pour l'individu de référence. Ainsi, par exemple, la banque est en mesure d'expliquer pourquoi tel emprunteur a été classé en défaut et quelles sont les caractéristiques qui ont conduit à ce choix.

La seconde méthode d'interprétation locale largement utilisée par les banques est la méthode SHAP (SHapley Additive exPlanations). Cette méthode est basée sur la notion de valeur de Shapley (Shapley, 1953), tirée de la théorie des jeux et qui permet de répartir équitablement un paiement entre des joueurs. Dans le cas du ML interprétable, la prévision du modèle obtenue pour un individu est assimilée au paiement que l'on cherche à répartir entre les différentes variables explicatives du modèle, ces dernières étant assimilées aux joueurs. Le principe des valeurs de Shapley repose sur l'idée que cette répartition doit être déterminée par l'excédent de gain généré par chaque joueur. Dans le contexte du ML, ce gain sera défini comme la différence entre la prévision pour l'individu de référence et la moyenne des prévisions pour les autres individus. Ainsi, la contribution de Shapley d'une variable correspond à sa contribution marginale et pondérée à la prévision, calculée à partir de toutes les combinaisons possibles dans lesquelles cette variable aurait pu être ajoutée à
mettent toutefois de lever cette hypothèse d'indépendance entre les variables du modèle, comme par exemple les graphiques des effets locaux cumulés ou ALE (Apley et Zhu, 2020).

**Méthodes locales.** Les méthodes locales fournissent une explication à une décision prise par le modèle boîte noire au niveau individuel, e.g., au niveau d'un emprunteur. Ces méthodes permettent par exemple de déterminer pourquoi la PD d'une entreprise est estimée à 4% par le modèle. Il existe de très nombreuses méthodes d'explication locale, mais les deux plus utilisées par les banques sont les méthodes LIME (Ribeiro et al., 2016) et SHAP (Lundberg et Lee, 2017).

L'intuition de la méthode LIME (Local interpretable model-agnostic explanations) est de créer des modèles de prédiction au niveau local pour chaque individu, qui soient plus simples et plus facilement interprétables que le modèle original. Pour un individu de référence, on génère aléatoirement des variables explicatives d'individus proches de l'individu de référence (perturbations locales), et l'on applique alors l'algorithme initial sur ces données simulées. A partir des caractéristiques simulées et des prévisions qui en découlent (pondérées par rapport à leur distance à l'individu de référence), on ajuste alors un modèle interprétable. Il s'agit typiquement d'un arbre de décision ou d'une régression pénalisée de type Lasso. Grâce à ce modèle local, on peut alors mesurer de façon approchée l'influence de chacun des prédicteurs sur la décision finale du modèle initial pour l'individu de référence. Ainsi, par exemple, la banque est en mesure d'expliquer pourquoi tel emprunteur a été classé en défaut et quelles sont les caractéristiques qui ont conduit à ce choix.

La seconde méthode d'interprétation locale largement utilisée par les banques est la méthode SHAP (SHapley Additive exPlanations). Cette méthode est basée sur la notion de valeur de Shapley (Shapley, 1953), tirée de la théorie des jeux et qui permet de répartir équitablement un paiement entre des joueurs. Dans le cas du ML interprétable, la prévision du modèle obtenue pour un individu est assimilée au paiement que l'on cherche à répartir entre les différentes variables explicatives du modèle, ces dernières étant assimilées aux joueurs. Le principe des valeurs de Shapley repose sur l'idée que cette répartition doit être déterminée par l'excédent de gain généré par chaque joueur. Dans le contexte du ML, ce gain sera défini comme la différence entre la prévision pour l'individu de référence et la moyenne des prévisions pour les autres individus. Ainsi, la contribution de Shapley d'une variable correspond à sa contribution marginale et pondérée à la prévision, calculée à partir de toutes les combinaisons possibles dans lesquelles cette variable aurait pu être ajoutée à
l'ensemble des autres variables explicatives du modèle. Cette décomposition a pour avantage de reposer sur un fondement théorique et de vérifier plusieurs propriétés intéressantes. Toutefois, le calcul des valeurs de Shapley devient très rapidement impossible dès lors que le nombre de variables du modèle excède une dizaine en raison du nombre trop important de combinaisons possibles de variables à considérer. C'est dans ce contexte que la méthode SHAP de Lundberg et Lee (2017) a été développée. Cette méthode permet d'obtenir des approximations des valeurs de Shapley dans des problèmes de grande dimension. Mais en dépit de ces méthodes de calcul efficaces, le calcul des valeurs de Shapley peut rester coûteux en temps de calcul en fonction du nombre de prédicteurs, d'observations, et de la complexité du modèle considéré.

Plusieurs extensions de ces méthodes locales ont été proposées, notamment dans le cadre des modèles de risque de crédit. Ainsi, Bracke et al. (2019) proposent une approche englobante, dite QII (Quantitative Input Influence), basée sur les valeurs de Shapley, mais à partir de laquelle les auteurs tirent une interprétation globale de l'influence des variables. Cette représentation graphique, similaire dans l'esprit au PDP, permet de prendre en compte à la fois les non-linéarités et les interactions entre les variables.

**Les limites des méthodes d'interprétabilité ex-post.** La démarche qui consiste à utiliser un modèle de ML de type boîte noire comme modèle de différenciation des risques, puis à mettre en œuvre ex-post une méthode d'interprétabilité / explicabilité locale ou globale est aujourd'hui très discutée en raison des limites inhérentes à ces méthodes. Ainsi, Rudin (2019) préconise l'arrêt total de l'utilisation des modèles boîte noire pour les applications à haut risque, y compris lorsque ces modèles sont accompagnés de méthode de ML interprétable, et cela pour plusieurs raisons. La première est que les méthodes d'interprétabilité ex-post fournissent des explications qui ne sont pas fidèles à ce que le modèle original calcule. L'argument de bon sens étant que si l'explication était parfaitement fidèle au modèle original, l'explication serait identique à ce dernier, et donc le modèle original serait par définition lui-même interprétable. Il y a donc un risque que les méthodes d'interprétabilité ex-post fournissent une représentation inexacte du modèle original dans certaines parties de l'espace des caractéristiques. La seconde raison est que les explications n'ont parfois pas de sens ou ne fournissent pas suffisamment de détails pour comprendre comment fonctionne le modèle. Même dans le cas où le modèle de ML original produit une prévision correcte et la méthode d'interprétabilité fournit une bonne approximation de cette prévision, il est
l'ensemble des autres variables explicatives du modèle. Cette décomposition a pour avantage de reposer sur un fondement théorique et de vérifier plusieurs propriétés intéressantes. Toutefois, le calcul des valeurs de Shapley devient très rapidement impossible dès lors que le nombre de variables du modèle excède une dizaine en raison du nombre trop important de combinaisons possibles de variables à considérer. C'est dans ce contexte que la méthode SHAP de Lundberg et Lee (2017) a été développée. Cette méthode permet d'obtenir des approximations des valeurs de Shapley dans des problèmes de grande dimension. Mais en dépit de ces méthodes de calcul efficaces, le calcul des valeurs de Shapley peut rester coûteux en temps de calcul en fonction du nombre de prédicteurs, d'observations, et de la complexité du modèle considéré.

Plusieurs extensions de ces méthodes locales ont été proposées, notamment dans le cadre des modèles de risque de crédit. Ainsi, Bracke et al. (2019) proposent une approche englobante, dite QII (Quantitative Input Influence), basée sur les valeurs de Shapley, mais à partir de laquelle les auteurs tirent une interprétation globale de l'influence des variables. Cette représentation graphique, similaire dans l'esprit au PDP, permet de prendre en compte à la fois les non-linéarités et les interactions entre les variables.

**Les limites des méthodes d'interprétabilité ex-post.** La démarche qui consiste à utiliser un modèle de ML de type boîte noire comme modèle de différenciation des risques, puis à mettre en œuvre ex-post une méthode d'interprétabilité / explicabilité locale ou globale est aujourd'hui très discutée en raison des limites inhérentes à ces méthodes. Ainsi, Rudin (2019) préconise l'arrêt total de l'utilisation des modèles boîte noire pour les applications à haut risque, y compris lorsque ces modèles sont accompagnés de méthode de ML interprétable, et cela pour plusieurs raisons. La première est que les méthodes d'interprétabilité ex-post fournissent des explications qui ne sont pas fidèles à ce que le modèle original calcule. L'argument de bon sens étant que si l'explication était parfaitement fidèle au modèle original, l'explication serait identique à ce dernier, et donc le modèle original serait par définition lui-même interprétable. Il y a donc un risque que les méthodes d'interprétabilité ex-post fournissent une représentation inexacte du modèle original dans certaines parties de l'espace des caractéristiques. La seconde raison est que les explications n'ont parfois pas de sens ou ne fournissent pas suffisamment de détails pour comprendre comment fonctionne le modèle. Même dans le cas où le modèle de ML original produit une prévision correcte et la méthode d'interprétabilité fournit une bonne approximation de cette prévision, il est
possible que cette explication omette tellement d'informations qu'elle n'ait aucun sens. La troisième raison c'est que les explications fournies par différentes méthodes d'interprétabilité pour un même modèle, sont parfois incohérentes les unes par rapport aux autres (Krishna et al., 2022). Or, lorsque plusieurs méthodes donnent des explications différentes, il n'est pas évident de savoir à laquelle se fier. Ainsi, pour Rudin, les méthodes d'interprétabilité ne créent pas nécessairement la confiance vis-à-vis des modèles de ML, elles permettent simplement aux utilisateurs de décider s'ils veulent faire confiance à ces modèles. En d'autres termes, ces méthodes permettent de prendre une décision de confiance, sans créer la confiance elle-même.

Un article récent de Chen et al. (2022) met également en évidence l'instabilité des interprétations fournies par les LIME et les SHAP dans le cas d'un modèle de scoring bancaire non interprétable (XGBoost) appliqué à un portefeuille de crédit présentant très peu de défauts. En ML, le problème des données déséquilibrées est bien connu puisqu'il influe à la fois sur la capacité d'apprentissage des modèles (la prévision de la variable dépendante tend à être biaisée en faveur de la classe majoritaire) et rend caduque la validité de certains critères d'évaluation (e.g., le pourcentage de classifications correctes).30 Or, c'est une configuration que l'on retrouve fréquemment dans le cadre des modélisations de PD, notamment dans le contexte IRB (puisque les emprunteurs ont déjà été sélectionnés lors de la phase d'octroi), du fait que les taux de défaut observés sont souvent très faibles. Plusieurs méthodes basées sur des techniques de ré-échantillonage (SMOTE, ROSE, etc.), ont été proposées pour améliorer les performances de classification des modèles de ML en présence de données déséquilibrées. Mais l'étude de Chen et al. (2022) montre que le déséquilibre des données influe également sur les méthodes d'interprétabilité. Cela se traduit notamment par une très grande variabilité des contributions des variables mesurées par les LIME et les SHAP lorsque les taux de défaillance sont très faibles, i.e., de l'ordre de 1% à 2,5%. Ainsi, la présence de données déséquilibrées peut nuire à la fiabilité des interprétations économiques des modèles internes de ML.

<footnote n="30">30. Dans le cas d'un apprentissage supervisé, un échantillon est dit déséquilibré lorsque le nombre d'observations dans la classe minoritaire est nettement inférieur à celui de la classe majoritaire.</footnote>
possible que cette explication omette tellement d'informations qu'elle n'ait aucun sens. La troisième raison c'est que les explications fournies par différentes méthodes d'interprétabilité pour un même modèle, sont parfois incohérentes les unes par rapport aux autres (Krishna et al., 2022). Or, lorsque plusieurs méthodes donnent des explications différentes, il n'est pas évident de savoir à laquelle se fier. Ainsi, pour Rudin, les méthodes d'interprétabilité ne créent pas nécessairement la confiance vis-à-vis des modèles de ML, elles permettent simplement aux utilisateurs de décider s'ils veulent faire confiance à ces modèles. En d'autres termes, ces méthodes permettent de prendre une décision de confiance, sans créer la confiance elle-même.

Un article récent de Chen et al. (2022) met également en évidence l'instabilité des interprétations fournies par les LIME et les SHAP dans le cas d'un modèle de scoring bancaire non interprétable (XGBoost) appliqué à un portefeuille de crédit présentant très peu de défauts. En ML, le problème des données déséquilibrées est bien connu puisqu'il influe à la fois sur la capacité d'apprentissage des modèles (la prévision de la variable dépendante tend à être biaisée en faveur de la classe majoritaire) et rend caduque la validité de certains critères d'évaluation (e.g., le pourcentage de classifications correctes).30 Or, c'est une configuration que l'on retrouve fréquemment dans le cadre des modélisations de PD, notamment dans le contexte IRB (puisque les emprunteurs ont déjà été sélectionnés lors de la phase d'octroi), du fait que les taux de défaut observés sont souvent très faibles. Plusieurs méthodes basées sur des techniques de ré-échantillonage (SMOTE, ROSE, etc.), ont été proposées pour améliorer les performances de classification des modèles de ML en présence de données déséquilibrées. Mais l'étude de Chen et al. (2022) montre que le déséquilibre des données influe également sur les méthodes d'interprétabilité. Cela se traduit notamment par une très grande variabilité des contributions des variables mesurées par les LIME et les SHAP lorsque les taux de défaillance sont très faibles, i.e., de l'ordre de 1% à 2,5%. Ainsi, la présence de données déséquilibrées peut nuire à la fiabilité des interprétations économiques des modèles internes de ML.

<footnote n="30">30. Dans le cas d'un apprentissage supervisé, un échantillon est dit déséquilibré lorsque le nombre d'observations dans la classe minoritaire est nettement inférieur à celui de la classe majoritaire.</footnote>
## 5.3 Existe-il un arbitrage interprétabilité / performance ?

La question sous-jacente posée par l'utilisation des modèles de ML de type boîte noire dans le contexte IRB est celle de l'arbitrage entre l'interprétabilité et la performance des modèles de différenciation des risques. L'idée communément admise, serait que les modèles complexes de ML permettraient des gains de précision dans les estimations des paramètres de risque. Dès lors, en raisons des ces gains, il conviendrait d'accepter de mettre en place des techniques permettant de rendre leurs prédictions interprétables ex-post, tout en étant conscient des limites des explications fournies par ces méthodes.

Mais cette vision d'un arbitrage entre performance et interprétabilité qu'il conviendrait d'accepter avec fatalisme, est aujourd'hui pour partie remise en cause dans la littérature et dans la pratique de certaines banques. Ainsi, pour Semenova et al. (2022), il est faux de croire qu'il existe nécessairement un compromis entre la précision et l'interprétabilité. Leur raisonnement théorique est basé sur la notion d'ensemble de Rashomon. Pour un jeu de données, l'ensemble de Rashomon est défini comme l'ensemble des modèles prédictifs qui fournissent une précision très proche de celle fournie par le modèle optimal, que l'on admet être de type boîte noire. Les données étant finies, elles admettent de nombreux modèles proches de l'optimum qui prédisent différemment les uns des autres, i.e., un grand ensemble de Rashomon.31 Si l'ensemble de Rashomon contient un ensemble suffisamment grand de modèles produisant des prédictions proches, il contient probablement des modèles interprétables. Si cette théorie est vérifiée, il existe donc des modèles qui sont à la fois précis et interprétables.32

Si l'on admet qu'il puisse ne pas y avoir d'arbitrage entre performance et interprétabilité en théorie, reste encore à trouver en pratique des modèles de scoring bancaire qui soient à la fois performants et interprétables nativement. Plusieurs exemples montrent que ceci est réalisable en pratique. Dumitrescu et al. (2022) proposent ainsi une approche hybride, dite PLTR, qui repose sur un modèle de régression logistique incluant des prédicteurs extraits d'arbres de décision. Ces prédicteurs correspondent à des règles binaires (feuilles) produites

<footnote n="31">31. Dans la pratique, on observe en effet souvent que de nombreux algorithmes de ML de classification supervisée différents, donnent des résultats relativement proches en termes d'AUC, etc. sur le même ensemble de données, bien qu'ils aient des spécifications très différentes.</footnote>

<footnote n="32">32. Semenova et al. (2022) introduisent un ratio de Rashomon qui est une nouvelle mesure de la simplicité pour un problème d'apprentissage, en fonction d'une classe de fonctions et d'un ensemble de données. Le ratio de Rashomon est le rapport entre le volume de l'ensemble des modèles exacts et le volume de l'espace des hypothèses. Cette mesure est différente des mesures de complexité standard. L'étude du ratio de Rashomon permet de vérifier s'il existe un modèle plus simple pour un problème avant de le trouver.</footnote>
## 5.3 Existe-il un arbitrage interprétabilité / performance ?

La question sous-jacente posée par l'utilisation des modèles de ML de type boîte noire dans le contexte IRB est celle de l'arbitrage entre l'interprétabilité et la performance des modèles de différenciation des risques. L'idée communément admise, serait que les modèles complexes de ML permettraient des gains de précision dans les estimations des paramètres de risque. Dès lors, en raisons des ces gains, il conviendrait d'accepter de mettre en place des techniques permettant de rendre leurs prédictions interprétables ex-post, tout en étant conscient des limites des explications fournies par ces méthodes.

Mais cette vision d'un arbitrage entre performance et interprétabilité qu'il conviendrait d'accepter avec fatalisme, est aujourd'hui pour partie remise en cause dans la littérature et dans la pratique de certaines banques. Ainsi, pour Semenova et al. (2022), il est faux de croire qu'il existe nécessairement un compromis entre la précision et l'interprétabilité. Leur raisonnement théorique est basé sur la notion d'ensemble de Rashomon. Pour un jeu de données, l'ensemble de Rashomon est défini comme l'ensemble des modèles prédictifs qui fournissent une précision très proche de celle fournie par le modèle optimal, que l'on admet être de type boîte noire. Les données étant finies, elles admettent de nombreux modèles proches de l'optimum qui prédissent différemment les uns des autres, i.e., un grand ensemble de Rashomon.31 Si l'ensemble de Rashomon contient un ensemble suffisamment grand de modèles produisant des prédictions proches, il contient probablement des modèles interprétables. Si cette théorie est vérifiée, il existe donc des modèles qui sont à la fois précis et interprétables.32

Si l'on admet qu'il puisse ne pas y avoir d'arbitrage entre performance et interprétabilité en théorie, reste encore à trouver en pratique des modèles de scoring bancaire qui soient à la fois performants et interprétables nativement. Plusieurs exemples montrent que ceci est réalisable en pratique. Dumitrescu et al. (2022) proposent ainsi une approche hybride, dite PLTR, qui repose sur un modèle de régression logistique incluant des prédicteurs extraits d'arbres de décision. Ces prédicteurs correspondent à des règles binaires (feuilles) produites

<footnote n="31">31. Dans la pratique, on observe en effet souvent que de nombreux algorithmes de ML de classification supervisée différents, donnent des résultats relativement proches en termes d'AUC, etc. sur le même ensemble de données, bien qu'ils aient des spécifications très différentes.</footnote>

<footnote n="32">32. Semenova et al. (2022) introduisent un ratio de Rashomon qui est une nouvelle mesure de la simplicité pour un problème d'apprentissage, en fonction d'une classe de fonctions et d'un ensemble de données. Le ratio de Rashomon est le rapport entre le volume de l'ensemble des modèles exacts et le volume de l'espace des hypothèses. Cette mesure est différente des mesures de complexité standard. L'étude du ratio de Rashomon permet de vérifier s'il existe un modèle plus simple pour un problème avant de le trouver.</footnote>
par des arbres de décision de très faible profondeur construits avec les variables prédictives originales. Pour traiter un nombre éventuellement élevé de règles d'arbres de décision, le modèle de régression logistique est estimé par le biais d'une régression pénalisée de type Lasso adaptatif permettant de sélectionner automatiquement les prédicteurs les plus importants. Cette phase de prétraitement des variables permet ainsi d'améliorer les performances prédictives d'une simple régression logistique en captant notamment les potentiels effets non linéaires, e.g., les effets de seuils, et les interactions entre les variables explicatives, tout en conservant son caractère parfaitement interprétable. L'application sur un portefeuille de crédits montre que le modèle PLTR permet de prévoir les défauts aussi bien qu'une fôret aléatoire. Dans le même esprit, Flachaire et al. (2022) proposent l'approche GAM(L)A fondée sur des modèles additifs généralisés (Generalized Additive Model). Cette approche repose sur la création de fonctions paramétriques et non paramétriques des variables initiales permettant de capter avec précision les linéarités et les non-linéarités existant entre les variables dépendantes et explicatives, ainsi qu'une procédure de sélection des variables (de type Lasso ou Autometrics) pour contrôler les problèmes de surajustement. Les résultats obtenus pour un portefeuille de crédits à la consommation, montrent également que ces modèles nativement interprétables offrent des performances prédictives similaires aux modèles de forêts aléatoires ou XGBoost largement utilisés par les banques. On peut également citer les modèles récents de type Explainable Boosting Machine (EBM), qui sont des modèles similaires aux modèles GAM, mais qui contrairement à ceux-ci permettent automatiquement de détecter et d'inclure des termes d'interaction par paire, ou les modèle GAM avec des interactions structurées (GAMI-Net).<fnref n="33" />

Afin d'illustrer à quel point la croyance dans le mythe du compromis entre précision et interprétabilité est ancrée dans l'esprit des professionnels du scoring de crédit, Semenova et al. (2022) évoquent l'exemple du challenge sur le ML interprétable, qui fut organisé en 2018 par FICO. Dans ce challenge, les participants avaient pour objectif de créer un modèle de ML de type boîte noire pour prédire les défauts sur un portefeuille de crédits, puis d'expliquer les prévisions du modèle en mobilisant des techniques de ML interprétable. Au final, un modèle généralisé additif à deux niveaux globalement interprétable (Chen et al., 2018) qui a remporté la compétition. La construction du challenge FICO illustre à quel point les organisateurs ne s'attendaient pas à ce qu'un modèle interprétable puisse produire

<footnote n="33">33. La plupart de ces modèles interprétables sont disponibles dans le package Python PiML (Python Interpretable Machine Learning).</footnote>
par des arbres de décision de très faible profondeur construits avec les variables prédictives originales. Pour traiter un nombre éventuellement élevé de règles d'arbres de décision, le modèle de régression logistique est estimé par le biais d'une régression pénalisée de type Lasso adaptatif permettant de sélectionner automatiquement les prédicteurs les plus importants. Cette phase de prétraitement des variables permet ainsi d'améliorer les performances prédictives d'une simple régression logistique en captant notamment les potentiels effets non linéaires, e.g., les effets de seuils, et les interactions entre les variables explicatives, tout en conservant son caractère parfaitement interprétable. L'application sur un portefeuille de crédits montre que le modèle PLTR permet de prévoir les défauts aussi bien qu'une fôret aléatoire. Dans le même esprit, Flachaire et al. (2022) proposent l'approche GAM(L)A fondée sur des modèles additifs généralisés (Generalized Additive Model). Cette approche repose sur la création de fonctions paramétriques et non paramétriques des variables initiales permettant de capter avec précision les linéarités et les non-linéarités existant entre les variables dépendantes et explicatives, ainsi qu'une procédure de sélection des variables (de type Lasso ou Autometrics) pour contrôler les problèmes de surajustement. Les résultats obtenus pour un portefeuille de crédits à la consommation, montrent également que ces modèles nativement interprétables offrent des performances prédictives similaires aux modèles de forêts aléatoires ou XGBoost largement utilisés par les banques. On peut également citer les modèles récents de type Explainable Boosting Machine (EBM), qui sont des modèles similaires aux modèles GAM, mais qui contrairement à ceux-ci permettent automatiquement de détecter et d'inclure des termes d'interaction par paire, ou les modèle GAM avec des interactions structurées (GAMI-Net).<fnref n="33" />

Afin d'illustrer à quel point la croyance dans le mythe du compromis entre précision et interprétabilité est ancrée dans l'esprit des professionnels du scoring de crédit, Semenova et al. (2022) évoquent l'exemple du challenge sur le ML interprétable, qui fut organisé en 2018 par FICO. Dans ce challenge, les participants avaient pour objectif de créer un modèle de ML de type boîte noire pour prédire les défauts sur un portefeuille de crédits, puis d'expliquer les prévisions du modèle en mobilisant des techniques de ML interprétable. Au final, un modèle généralisé additif à deux niveaux globalement interprétable (Chen et al., 2018) qui a remporté la compétition. La construction du challenge FICO illustre à quel point les organisateurs ne s'attendaient pas à ce qu'un modèle interprétable puisse produire

<footnote n="33">33. La plupart de ces modèles interprétables sont disponibles dans le package Python PiML (Python Interpretable Machine Learning).</footnote>
des prévisions de même qualité que les modèles boîte noire, puisqu'ils n'avaient même pas
demandé aux participants d'essayer de construire un tel modèle. Toutefois, cette nouvelle
démarche d'un ML nativement interprétable est sans doute appelée à se développer au
sein des banques dans les années à venir, comme le montre par exemple les recherches
menées actuellement par Wells Fargo sur la question (Sudjianto et Zhang, 2021). On peut
citer ici également les travaux de Sudjianto et al. (2021) portant sur une nouvelle méthode
d'ensemble basée sur une multitude de réseaux neuronaux étroits à couche cachée unique,
appelée LIFE (*Linear Iterative Feature Embedding*), permettant d'atteindre simultanément
une grande précision dans l'estimation des paramètres de risque, une interprétation aisée et
un temps de calcul raisonnable.

Encadré 5 : Les autres défis du ML dans le contexte IRB

En dehors de la problématique de l'interprétabilité, l'association bancaire espagnole (AEB) évoque d'autres défis liés au ML, à savoir la gouvernance des données, notamment pour la conservation des historiques, la mise en place de nouvelles capacités informatiques, et le développement des compétences humaines. a En ce qui concerne l'AI act, l'association considère que les modèles IRB ne doivent pas être considérés comme faisant partie des applications à haut risque. L'argument est que l'utilisation de l'IA dans les modèles IRB n'affecte pas le processus décisionnel du prêteur et n'a donc pas d'incidence sur les droits des personnes. De façon générale, l'AEB souhaite ainsi que les applications de l'IA portant sur toutes les phases qui suivent le décaissement initial du prêt (suivi des risques, provisionnement, etc.) soient clairement exclues du champ d'application de la loi sur l'IA. Sur un tout autre sujet, la fédération bancaire française (FBF) mentionne que l'un des défis essentiels du ML est celui de la reproductibilité des résultats obtenus par ces modèles, notamment entre la plateforme de développement et la plateforme de production. Enfin, l'association allemande (GBIC) met en avant la formation et la nécessité de développer une expertise dans les méthodes de ML afin de s'assurer que les outils utilisés pour développer, maintenir et contrôler les modèles sont adéquats et bien compris.

<footnote>a. Les trois principales questions qui portaient sur les défis du ML en dehors de l'interprétabilité, étaient libellées de la façon suivante : « Quels sont les défis spécifiques que vous voyez concernant le développement, la maintenance et le contrôle des modèles de ML dans le contexte de l'IRB [...] ? », « Pensez-vous que l'utilisation de la ML dans le contexte des modèles de l'IRB pose des problèmes découlant de l'AI act ? », « Voyez-vous un autre défi ou une autre question à discuter concernant l'utilisation de modèles de ML dans le contexte de l'IRB ? ».</footnote>
des prévisions de même qualité que les modèles boîte noire, puisqu'ils n'avaient même pas
demandé aux participants d'essayer de construire un tel modèle. Toutefois, cette nouvelle
démarche d'un ML nativement interprétable est sans doute appelée à se développer au
sein des banques dans les années à venir, comme le montre par exemple les recherches
menées actuellement par Wells Fargo sur la question (Sudjianto et Zhang, 2021). On peut
citer ici également les travaux de Sudjianto et al. (2021) portant sur une nouvelle méthode
d'ensemble basée sur une multitude de réseaux neuronaux étroits à couche cachée unique,
appelée LIFE (*Linear Iterative Feature Embedding*), permettant d'atteindre simultanément
une grande précision dans l'estimation des paramètres de risque, une interprétation aisée et
un temps de calcul raisonnable.

Encadré 5 : Les autres défis du ML dans le contexte IRB

En dehors de la problématique de l'interprétabilité, l'association bancaire espagnole (AEB) évoque d'autres défis liés au ML, à savoir la gouvernance des données, notamment pour la conservation des historiques, la mise en place de nouvelles capacités informatiques, et le développement des compétences humaines. a En ce qui concerne l'AI act, l'association considère que les modèles IRB ne doivent pas être considérés comme faisant partie des applications à haut risque. L'argument est que l'utilisation de l'IA dans les modèles IRB n'affecte pas le processus décisionnel du prêteur et n'a donc pas d'incidence sur les droits des personnes. De façon générale, l'AEB souhaite ainsi que les applications de l'IA portant sur toutes les phases qui suivent le décaissement initial du prêt (suivi des risques, provisionnement, etc.) soient clairement exclues du champ d'application de la loi sur l'IA. Sur un tout autre sujet, la fédération bancaire française (FBF) mentionne que l'un des défis essentiels du ML est celui de la reproductibilité des résultats obtenus par ces modèles, notamment entre la plateforme de développement et la plateforme de production. Enfin, l'association allemande (GBIC) met en avant la formation et la nécessité de développer une expertise dans les méthodes de ML afin de s'assurer que les outils utilisés pour développer, maintenir et contrôler les modèles sont adéquats et bien compris.

<footnote>a. Les trois principales questions qui portaient sur les défis du ML en dehors de l'interprétabilité, étaient libellées de la façon suivante : « Quels sont les défis spécifiques que vous voyez concernant le développement, la maintenance et le contrôle des modèles de ML dans le contexte de l'IRB [...] ? », « Pensez-vous que l'utilisation de la ML dans le contexte des modèles de l'IRB pose des problèmes découlant de l'AI act ? », « Voyez-vous un autre défi ou une autre question à discuter concernant l'utilisation de modèles de ML dans le contexte de l'IRB ? ».</footnote>
# 6 Les autres défis posés par le ML dans le contexte IRB

Dans leurs réponses à l'EBA (cf. Encadré 5), les associations professionnelles bancaires européennes évoquent plusieurs défis liés à la mise en place du ML dans le contexte IRB : la question des capacités informatiques et des logiciels, la formation des personnels à ces nouvelles méthodes, la reproductibilité des résultats, le suivi de la performance des modèles dans le temps, etc. La plupart de ces défis relèvent d'une problématique générale de gouvernance du ML. Toutefois, à ces enjeux, nous ajouterons deux défis particuliers, à savoir, d'une part celui de la maîtrise des risques opérationnels, et notamment du risque de modèle, et d'autre part celui de l'équité algorithmique et du contrôle des biais systématiques, en lien avec la future réglementation sur l'IA de la Commission Européenne (EC, 2021).

## 6.1 Le challenge de la gouvernance du ML dans le contexte IRB

L'utilisation de plus en plus courante par les banques de l'IA, et du ML en particulier, a conduit les régulateurs à proposer des règles de bonnes pratiques concernant la gouvernance de ces nouveaux outils (ACPR, 2020; EBA, 2020; EC, 2020). Dans son rapport sur le Big Data et les approches analytiques avancées (EBA, 2020), l'EBA identifie quatre piliers essentiels pour le développement, la mise en œuvre et l'adoption de la l'IA dans le secteur bancaire. Le premier pilier porte sur la gestion des données et vise à garantir l'utilisation de données de qualité (exactitude et intégrité, actualité, cohérence et exhaustivité), tout en tenant compte des contraintes de protection des données personnelles, et notamment la conformité vis-à-vis du Règlement Général sur la Protection des Données (RGPD). Le second pilier porte sur l'infrastructure technologique. Quel que soit le contexte d'application, il n'y a pas de bonne gouvernance du ML sans une bonne gouvernance des bases de données, des infrastructures de calcul, des logiciels, etc. Dans le contexte réglementaire, on peut par exemple s'interroger sur l'utilisation de logiciels libres tels que Python ou R, et de certains modules et packages de méthodes avancées de ML qui pourraient être utilisés en production sans avoir été testés et validés au préalable, et sur les conséquences en cas d'erreur de programmation de ces packages. De même, la question de la sécurité peut devenir centrale lorsque les solutions de ML sont déployées sur des serveurs de calculs appartenant à des prestataires externes. Le troisième pilier porte sur les structures de gouvernance interne et les mesures organisationnelles destinées à encadrer le développement de ces applications d'IA, ainsi que sur la formation et le développement de compétences et de connaissances
# 6 Les autres défis posés par le ML dans le contexte IRB

Dans leurs réponses à l'EBA (cf. Encadré 5), les associations professionnelles bancaires européennes évoquent plusieurs défis liés à la mise en place du ML dans le contexte IRB : la question des capacités informatiques et des logiciels, la formation des personnels à ces nouvelles méthodes, la reproductibilité des résultats, le suivi de la performance des modèles dans le temps, etc. La plupart de ces défis relèvent d'une problématique générale de gouvernance du ML. Toutefois, à ces enjeux, nous ajouterons deux défis particuliers, à savoir, d'une part celui de la maîtrise des risques opérationnels, et notamment du risque de modèle, et d'autre part celui de l'équité algorithmique et du contrôle des biais systématiques, en lien avec la future réglementation sur l'IA de la Commission Européenne (EC, 2021).

## 6.1 Le challenge de la gouvernance du ML dans le contexte IRB

L'utilisation de plus en plus courante par les banques de l'IA, et du ML en particulier, a conduit les régulateurs à proposer des règles de bonnes pratiques concernant la gouvernance de ces nouveaux outils (ACPR, 2020; EBA, 2020; EC, 2020). Dans son rapport sur le Big Data et les approches analytiques avancées (EBA, 2020), l'EBA identifie quatre piliers essentiels pour le développement, la mise en œuvre et l'adoption de la l'IA dans le secteur bancaire. Le premier pilier porte sur la gestion des données et vise à garantir l'utilisation de données de qualité (exactitude et intégrité, actualité, cohérence et exhaustivité), tout en tenant compte des contraintes de protection des données personnelles, et notamment la conformité vis-à-vis du Règlement Général sur la Protection des Données (RGPD). Le second pilier porte sur l'infrastructure technologique. Quel que soit le contexte d'application, il n'y a pas de bonne gouvernance du ML sans une bonne gouvernance des bases de données, des infrastructures de calcul, des logiciels, etc. Dans le contexte réglementaire, on peut par exemple s'interroger sur l'utilisation de logiciels libres tels que Python ou R, et de certains modules et packages de méthodes avancées de ML qui pourraient être utilisés en production sans avoir été testés et validés au préalable, et sur les conséquences en cas d'erreur de programmation de ces packages. De même, la question de la sécurité peut devenir centrale lorsque les solutions de ML sont déployées sur des serveurs de calculs appartenant à des prestataires externes. Le troisième pilier porte sur les structures de gouvernance interne et les mesures organisationnelles destinées à encadrer le développement de ces applications d'IA, ainsi que sur la formation et le développement de compétences et de connaissances
suffisantes. La question de la formation est d'autant plus importante que si les premières méthodes de ML datent de la fin des années 50 et que la plupart des méthodes actuellement utilisées dans les banques ont été élaborées entre le milieu des années 80 et le début des années 2000, la grande majorité des formations supérieures en économie, finance ou économétrie, n'ont intégré ces outils dans leurs programmes qu'à partir de la fin des années 2010.34 Dès lors, l'utilisation du ML doit s'accompagner d'un effort conséquent de formation à destination des personnes en charge de la construction des modèles et de leur validation, mais aussi à destination des personnels d'encadrement, des organes de direction, et des équipes en charge de la supervision. Le dernier pilier concerne la méthodologie qui doit être mise en place pour faciliter le développement et l'adoption des solutions d'IA au sein des banques. Le développement d'un projet de ML suit un cycle de vie avec des étapes spécifiques, e.g., la préparation des données, la modélisation, la validation, le suivi au cours du temps, etc. La gouvernance mise en place doit ainsi avoir pour objectif de mettre en œuvre une IA de confiance, intégrant notamment les dimensions d'éthique (cf. section 6.3), d'explicabilité, d'interprétabilité, de traçabilité et d'auditabilité.

Ces principes généraux se retrouvent dans la gouvernance du ML qui doit s'opérer dans le contexte spécifique des modèles IRB. Nous ne reviendrons pas ici sur les exigences des CRR/CRD relatives aux modèles internes quels qu'ils soient, mais insisterons davantage sur la spécificité des modèles issus d'algorithmes de ML. Dans son document de réflexion, l'EBA part du postulat que les modèles de ML peuvent apporter une valeur ajoutée dans le contexte IRB, à condition qu'ils soient assortis d'un suivi, d'une validation et d'une explicabilité acceptables. L'EBA décline ces principes généraux en un ensemble de recommandations plus précises qui peuvent être résumées de la façon suivante :

1. **Formation.** Lorsqu'une institution met en place des modèles de ML à des fins de fonds propres réglementaires, toutes les parties prenantes concernées (équipes de développement, équipes de validation et organes de direction) doivent avoir un niveau de connaissance approprié du fonctionnement du modèle.

2. **Interprétation économique.** Les parties prenantes doivent être en mesure d'évaluer la pertinence et l'adéquation des facteurs de risque utilisés, ainsi que la solidité

<footnote n="34">34. Par exemple, l'algorithme CART pour les arbres de classification a été publié en 1984 (Breiman et al., 1984), les méthodes de bagging en 1996 Breiman (1996), les forêts aléatoires en 2001 (Breiman, 2001). La seule exception parmi les méthodes les plus utilisées par les banques est la méthode XGBoost qui est plus récente et date de la seconde moitié des années 2010 (Chen et Guestrin, 2016), mais la technique du Boosting trouve sa source dans une première publication de 1997 (Freund et Schapire, 1997).</footnote>
suffisantes. La question de la formation est d'autant plus importante que si les premières méthodes de ML datent de la fin des années 50 et que la plupart des méthodes actuellement utilisées dans les banques ont été élaborées entre le milieu des années 80 et le début des années 2000, la grande majorité des formations supérieures en économie, finance ou économétrie, n'ont intégré ces outils dans leurs programmes qu'à partir de la fin des années 2010.34 Dès lors, l'utilisation du ML doit s'accompagner d'un effort conséquent de formation à destination des personnes en charge de la construction des modèles et de leur validation, mais aussi à destination des personnels d'encadrement, des organes de direction, et des équipes en charge de la supervision. Le dernier pilier concerne la méthodologie qui doit être mise en place pour faciliter le développement et l'adoption des solutions d'IA au sein des banques. Le développement d'un projet de ML suit un cycle de vie avec des étapes spécifiques, e.g., la préparation des données, la modélisation, la validation, le suivi au cours du temps, etc. La gouvernance mise en place doit ainsi avoir pour objectif de mettre en œuvre une IA de confiance, intégrant notamment les dimensions d'éthique (cf. section 6.3), d'explicabilité, d'interprétabilité, de traçabilité et d'auditabilité.

Ces principes généraux se retrouvent dans la gouvernance du ML qui doit s'opérer dans le contexte spécifique des modèles IRB. Nous ne reviendrons pas ici sur les exigences des CRR/CRD relatives aux modèles internes quels qu'ils soient, mais insisterons davantage sur la spécificité des modèles issus d'algorithmes de ML. Dans son document de réflexion, l'EBA part du postulat que les modèles de ML peuvent apporter une valeur ajoutée dans le contexte IRB, à condition qu'ils soient assortis d'un suivi, d'une validation et d'une explicabilité acceptables. L'EBA décline ces principes généraux en un ensemble de recommandations plus précises qui peuvent être résumées de la façon suivante :

1. **Formation.** Lorsqu'une institution met en place des modèles de ML à des fins de fonds propres réglementaires, toutes les parties prenantes concernées (équipes de développement, équipes de validation et organes de direction) doivent avoir un niveau de connaissance approprié du fonctionnement du modèle.

2. **Interprétation économique.** Les parties prenantes doivent être en mesure d'évaluer la pertinence et l'adéquation des facteurs de risque utilisés, ainsi que la solidité

<footnote n="34">34. Par exemple, l'algorithme CART pour les arbres de classification a été publié en 1984 (Breiman et al., 1984), les méthodes de bagging en 1996 Breiman (1996), les forêts aléatoires en 2001 (Breiman, 2001). La seule exception parmi les méthodes les plus utilisées par les banques est la méthode XGBoost qui est plus récente et date de la seconde moitié des années 2010 (Chen et Guestrin, 2016), mais la technique du Boosting trouve sa source dans une première publication de 1997 (Freund et Schapire, 1997).</footnote>
du raisonnement économique sous-jacent dans le modèle global. Il s'agit ici d'évaluer
les hypothèses de modélisation et de déterminer si les facteurs de risque sélectionnés
contribuent à l'évaluation des risques conformément à leur signification économique.
Implicitement, cela revient à préconiser l'utilisation de méthodes d'interprétabilité
ou d'explicabilité ex-post, e.g., importance des caractéristiques, PDP, SHAP, LIME.

3. **Arbitrage performance / explicabilité.** L'EBA part du postulat qu'il existe un arbitrage entre la complexité des modèles et leurs performances prédictives, et recommande de trouver un compromis entre ces deux impératifs.<fnref n="35" /> On peut noter que les méthodes de ML nativement interprétables constituent ici un compromis particulièrement attractif.

4. **Validation.** Pour les modèles ML complexes, dont l'explicabilité est limitée ou pour les modèles fréquemment mis à jour, une validation fiable est particulièrement importante et peut nécessiter une analyse en profondeur et/ou à une fréquence accrue. La validation doit se concentrer en particulier sur les questions de surajustement et de fixation des hyperparamètres, sur l'analyse de la stabilité du modèle, sur les enjeux de représentativité et de qualité des données, et sur la qualité des documentations qui accompagnent ces modèles.

5. **Mises à jour.** Il est recommandé de ne pas mettre à jour trop fréquemment les modèles de ML sans raison économique, e.g. rupture dans les conditions économiques ou dans les processus de l'établissement. L'objectif est ici de limiter le risque de modèle et les phénomènes dynamiques de surajustement.

## 6.2 Les risques opérationnels associés au ML

Une source importante de risque opérationnel dans la mise en œuvre du ML, est le risque de surajustement (overfitting) du modèle. Typiquement, un modèle ayant des hyperparamètres mal configurés peut être sujet à un surapprentissage, défini comme une situation dans laquelle le modèle surajuste les données d'entraînement (i.e., le biais des prévisions est faible) et ne peut pas généraliser correctement ces prévisions à de nouvelles données (la variance des prévisions est élevée). Le surajustement se traduit par une plus grande erreur de prévision sur l'échantillon de test, que sur l'échantillon d'apprentissage. Le contrôle du

<footnote n="35">35. L'EBA recommande par exemple le fait de ne pas inclure trop de facteurs explicatifs si cela n'apporte pas d'information prédictive significative, de ne pas utiliser de données non structurées s'il existe des données plus conventionnelles offrant des capacités prédictives similaires, de ne pas choisir des modélisations trop complexes si des approches plus simples donnant des résultats similaires sont disponibles.</footnote>
du raisonnement économique sous-jacent dans le modèle global. Il s'agit ici d'évaluer
les hypothèses de modélisation et de déterminer si les facteurs de risque sélectionnés
contribuent à l'évaluation des risques conformément à leur signification économique.
Implicitement, cela revient à préconiser l'utilisation de méthodes d'interprétabilité
ou d'explicabilité ex-post, e.g., importance des caractéristiques, PDP, SHAP, LIME.

3. **Arbitrage performance / explicabilité.** L'EBA part du postulat qu'il existe un arbitrage entre la complexité des modèles et leurs performances prédictives, et recommande de trouver un compromis entre ces deux impératifs.<fnref n="35" /> On peut noter que les méthodes de ML nativement interprétables constituent ici un compromis particulièrement attractif.

4. **Validation.** Pour les modèles ML complexes, dont l'explicabilité est limitée ou pour les modèles fréquemment mis à jour, une validation fiable est particulièrement importante et peut nécessiter une analyse en profondeur et/ou à une fréquence accrue. La validation doit se concentrer en particulier sur les questions de surajustement et de fixation des hyperparamètres, sur l'analyse de la stabilité du modèle, sur les enjeux de représentativité et de qualité des données, et sur la qualité des documentations qui accompagnent ces modèles.

5. **Mises à jour.** Il est recommandé de ne pas mettre à jour trop fréquemment les modèles de ML sans raison économique, e.g. rupture dans les conditions économiques ou dans les processus de l'établissement. L'objectif est ici de limiter le risque de modèle et les phénomènes dynamiques de surajustement.

## 6.2 Les risques opérationnels associés au ML

Une source importante de risque opérationnel dans la mise en œuvre du ML, est le risque de surajustement (overfitting) du modèle. Typiquement, un modèle ayant des hyperparamètres mal configurés peut être sujet à un surapprentissage, défini comme une situation dans laquelle le modèle surajuste les données d'entraînement (i.e., le biais des prévisions est faible) et ne peut pas généraliser correctement ces prévisions à de nouvelles données (la variance des prévisions est élevée). Le surajustement se traduit par une plus grande erreur de prévision sur l'échantillon de test, que sur l'échantillon d'apprentissage. Le contrôle du

<footnote n="35">35. L'EBA recommande par exemple le fait de ne pas inclure trop de facteurs explicatifs si cela n'apporte pas d'information prédictive significative, de ne pas utiliser de données non structurées s'il existe des données plus conventionnelles offrant des capacités prédictives similaires, de ne pas choisir des modélisations trop complexes si des approches plus simples donnant des résultats similaires sont disponibles.</footnote>
risque de surajustement est essentiel dans le contexte IRB car le but des modèles internes,
qui sont entraînés sur une base de défauts passés (base d'apprentissage), est précisément
de fournir des prévisions fiables des paramètres de risque pour des crédits sains n'ayant
pas encore connu le défaut, actuellement dans le portefeuille de la banque (base de test).
Dans le contexte IRB, le risque de surajustement est ainsi directement lié au risque de sous
estimation des exigences en fonds propres.

Le risque de surajustement peut être contrôlé par le choix des hyperparamètres, i.e., des
paramètres de configuration qui déterminent la forme générale du modèle de ML. Les hy-
perparamètres ne doivent pas être confondus avec les paramètres du modèle, ces derniers
étant déterminés par l'algorithme de sorte à permettre au modèle de s'ajuster aux données.
A l'inverse, les hyperparamètres ne sont pas déterminés par l'algorithme d'apprentissage
lui-même, mais sont définis avant l'entraînement du modèle. Par exemple, dans le cas d'un
arbre de décision, les hyperparamètres que l'on fixe sont généralement la profondeur de
l'arbre et le nombre minimum d'observations par feuille. Une fois ces hyperparamètres fixés
et la forme générale de l'arbre donnée, l'algorithme détermine les variables retenues et es-
time les paramètres de ce modèle, i.e., les seuils qui déterminent les règles de décision à
chaque noeud. Tout changement de la valeur des hyperparamètres peut conduire à modifier
radicalement la forme fonctionnelle d'un modèle de ML, sa complexité, son degré d'interpré-
tabilité, ses règles de décision, et in fine ses prévisions. L'EBA prend comme exemple, le cas
simple d'un arbre de régression. <fnref n="36" /> Si la profondeur de l'arbre est fixée à deux, on obtient un
modèle très simple qui peut prédire au maximum quatre valeurs différentes, en exploitant
les informations de trois variables différentes au maximum. Mais si la profondeur est fixée à
dix, la complexité du modèle devient significative, car le nombre de prédictions différentes
possibles grimpe à 1024 et le modèle peut mobiliser jusqu'à 1023 variables différentes. Cet
exemple illustre à quel point de petits changements dans la valeur des hyperparamètres, ou
dans la manière de les déterminer, peuvent engendrer de forts changements de la structure
d'un modèle de ML et de ses capacités prédictives. Ainsi, la détermination des hyperpa-
ramètres permet de contrôler la complexité du modèle de ML, cette complexité affectant
à son tour l'arbitrage entre le biais et la variance des prévisions : en général, plus un mo-
dèle est complexe, plus son biais sera faible et sa variance élevée, impliquant un risque de
surajustement.

<footnote n="36">36. Pour des modèles de ML plus sophistiqués, l'influence des hyperparamètres est tout aussi importante, mais elle est plus difficile à représenter de façon simple.</footnote>
risque de surajustement est essentiel dans le contexte IRB car le but des modèles internes,
qui sont entraînés sur une base de défauts passés (base d'apprentissage), est précisément
de fournir des prévisions fiables des paramètres de risque pour des crédits sains n'ayant
pas encore connu le défaut, actuellement dans le portefeuille de la banque (base de test).
Dans le contexte IRB, le risque de surajustement est ainsi directement lié au risque de sous
estimation des exigences en fonds propres.

Le risque de surajustement peut être contrôlé par le choix des hyperparamètres, i.e., des
paramètres de configuration qui déterminent la forme générale du modèle de ML. Les hy-
perparamètres ne doivent pas être confondus avec les paramètres du modèle, ces derniers
étant déterminés par l’algorithme de sorte à permettre au modèle de s’ajuster aux données.
A l’inverse, les hyperparamètres ne sont pas déterminés par l’algorithme d’apprentissage
lui-même, mais sont définis avant l’entraînement du modèle. Par exemple, dans le cas d’un
arbre de décision, les hyperparamètres que l’on fixe sont généralement la profondeur de
l’arbre et le nombre minimum d’observations par feuille. Une fois ces hyperparamètres fixés
et la forme générale de l’arbre donnée, l’algorithme détermine les variables retenues et es-
time les paramètres de ce modèle, i.e., les seuils qui déterminent les règles de décision à
chaque noeud. Tout changement de la valeur des hyperparamètres peut conduire à modifier
radicalement la forme fonctionnelle d’un modèle de ML, sa complexité, son degré d’interpré-
tabilité, ses règles de décision, et in fine ses prévisions. L’EBA prend comme exemple, le cas
simple d’un arbre de régression. <fnref n="36" /> Si la profondeur de l’arbre est fixée à deux, on obtient un
modèle très simple qui peut prédire au maximum quatre valeurs différentes, en exploitant
les informations de trois variables différentes au maximum. Mais si la profondeur est fixée à
dix, la complexité du modèle devient significative, car le nombre de prédictions différentes
possibles grimpe à 1024 et le modèle peut mobiliser jusqu’à 1023 variables différentes. Cet
exemple illustre à quel point de petits changements dans la valeur des hyperparamètres, ou
dans la manière de les déterminer, peuvent engendrer de forts changements de la structure
d’un modèle de ML et de ses capacités prédictives. Ainsi, la détermination des hyperpa-
ramètres permet de contrôler la complexité du modèle de ML, cette complexité affectant
à son tour l’arbitrage entre le biais et la variance des prévisions : en général, plus un mo-
dèle est complexe, plus son biais sera faible et sa variance élevée, impliquant un risque de
surajustement.

<footnote n="36">36. Pour des modèles de ML plus sophistiqués, l'influence des hyperparamètres est tout aussi importante, mais elle est plus difficile à représenter de façon simple.</footnote>
Il existe différentes méthodes permettant de fixer les hyperparamètres optimaux de façon à
contrôler cet arbitrage entre biais et variance, et de limiter le risque de surajustement, la
plus connue étant celle de la validation croisée. Il existe plusieurs variantes de cette méthode,
e.g., *hold-out*, *K-fold* ou *leave-one-out*.37 Mais de façon générale, ces méthodes consistent à
séparer les données en un échantillon d'apprentissage sur lequel est entraîné le modèle, et
un échantillon de validation sur lequel on évalue ses performances prédictives. On cherche
alors à déterminer par optimisation (i.e. optimisation sur une grille de valeurs, optimisation
aléatoire, ou optimisation bayésienne) la valeur optimale des hyperparamètres, de sorte
à obtenir la meilleure performance du modèle sur l'échantillon de validation (Bergstra et
Bengio, 2012). Une fois que les hyperparamètres optimaux ont été déterminés de façon à
limiter le risque de surajustement, le modèle est entraîné sur l'ensemble des observations des
bases d'entraînement et de validation. La phase finale d'évaluation du modèle est réalisée à
partir d'un échantillon de test, différent des échantillons d'apprentissage et de validation.

Quelle que soit la méthode retenue, la fixation des hyperparamètres repose toujours sur un
ensemble de choix arbitraires laissés au jugement du modélisateur. Ces choix peuvent être
une source de risque opérationnel et doivent faire l'objet d'une validation stricte dans le
contexte IRB. Le premier de ces choix est tout simplement celui des hyperparamètres qui
seront obtenus (« *fine tuned* ») par une méthode de validation croisée, et de ceux qui, au
contraire, seront laissés aux valeurs par défaut fixées dans les packages Python ou R. Même si
les développeurs expérimentés ont souvent une intuition sur les hyperparamètres appropriés
pour un problème donné, il convient de s'assurer de la validité de ces choix. Le deuxième
choix arbitraire est souvent celui des grilles de valeurs ou des valeurs limites entre lesquelles
s'effectuera l'optimisation aléatoire des hyperparamètres dans la procédure de validation
croisée. Enfin, il convient de noter que la taille et la qualité des données peuvent affecter la
détermination des hyperparamètres : plus les données sont nombreuses et diversifiées, plus il
est probable que les hyperparamètres trouvés soient robustes et généralisables. En revanche,

<footnote n="37">37. La méthode *hold-out* est la plus simple, et consiste à diviser l'ensemble de données en un ensemble de données d'apprentissage et un ensemble de données de test. La méthode *K-fold* consiste à diviser l'ensemble de données en *K* parties égales. Le modèle est entraîné *K* fois, chaque fois en utilisant une des parties comme ensemble de données de validation et les *K* − 1 parties restantes comme ensemble de données d'apprentissage. Les performances du modèle sont ensuite calculées en moyenne sur les *K* évaluations. Cette méthode est plus fiable que la méthode *hold-out*, car elle utilise toutes les données disponibles pour l'apprentissage et l'évaluation du modèle. Cependant, elle est plus coûteuse en temps de calcul. La méthode *leave-one-out* est une méthode *K-fold* particulière où *K* est égal au nombre d'observations dans l'ensemble de données *n*. Elle consiste à entraîner le modèle *n* fois en laissant une seule observation comme échantillon de validation à chaque fois, et à calculer les performances du modèle en moyenne sur les *n* évaluations.</footnote>
Il existe différentes méthodes permettant de fixer les hyperparamètres optimaux de façon à
contrôler cet arbitrage entre biais et variance, et de limiter le risque de surajustement, la
plus connue étant celle de la validation croisée. Il existe plusieurs variantes de cette méthode,
e.g., *hold-out*, *K-fold* ou *leave-one-out*.37 Mais de façon générale, ces méthodes consistent à
séparer les données en un échantillon d'apprentissage sur lequel est entraîné le modèle, et
un échantillon de validation sur lequel on évalue ses performances prédictives. On cherche
alors à déterminer par optimisation (i.e. optimisation sur une grille de valeurs, optimisation
aléatoire, ou optimisation bayésienne) la valeur optimale des hyperparamètres, de sorte
à obtenir la meilleure performance du modèle sur l'échantillon de validation (Bergstra et
Bengio, 2012). Une fois que les hyperparamètres optimaux ont été déterminés de façon à
limiter le risque de surajustement, le modèle est entraîné sur l'ensemble des observations des
bases d'entraînement et de validation. La phase finale d'évaluation du modèle est réalisée à
partir d'un échantillon de test, différent des échantillons d'apprentissage et de validation.

Quelle que soit la méthode retenue, la fixation des hyperparamètres repose toujours sur un
ensemble de choix arbitraires laissés au jugement du modélisateur. Ces choix peuvent être
une source de risque opérationnel et doivent faire l'objet d'une validation stricte dans le
contexte IRB. Le premier de ces choix est tout simplement celui des hyperparamètres qui
seront obtenus (« *fine tuned* ») par une méthode de validation croisée, et de ceux qui, au
contraire, seront laissés aux valeurs par défaut fixées dans les packages Python ou R. Même si
les développeurs expérimentés ont souvent une intuition sur les hyperparamètres appropriés
pour un problème donné, il convient de s'assurer de la validité de ces choix. Le deuxième
choix arbitraire est souvent celui des grilles de valeurs ou des valeurs limites entre lesquelles
s'effectuera l'optimisation aléatoire des hyperparamètres dans la procédure de validation
croisée. Enfin, il convient de noter que la taille et la qualité des données peuvent affecter la
détermination des hyperparamètres : plus les données sont nombreuses et diversifiées, plus il
est probable que les hyperparamètres trouvés soient robustes et généralisables. En revanche,

<footnote n="37">37. La méthode *hold-out* est la plus simple, et consiste à diviser l'ensemble de données en un ensemble de données d'apprentissage et un ensemble de données de test. La méthode *K-fold* consiste à diviser l'ensemble de données en *K* parties égales. Le modèle est entraîné *K* fois, chaque fois en utilisant une des parties comme ensemble de données de validation et les *K* − 1 parties restantes comme ensemble de données d'apprentissage. Les performances du modèle sont ensuite calculées en moyenne sur les *K* évaluations. Cette méthode est plus fiable que la méthode *hold-out*, car elle utilise toutes les données disponibles pour l'apprentissage et l'évaluation du modèle. Cependant, elle est plus coûteuse en temps de calcul. La méthode *leave-one-out* est une méthode *K-fold* particulière où *K* est égal au nombre d'observations dans l'ensemble de données *n*. Elle consiste à entraîner le modèle *n* fois en laissant une seule observation comme échantillon de validation à chaque fois, et à calculer les performances du modèle en moyenne sur les *n* évaluations.</footnote>
si les données sont limitées ou biaisées, le choix des hyperparamètres peut conduire à des modèles mal spécifiés. Par conséquent, du fait de l'importance critique de la fixation des hyperparamètres et de la prédominance du jugement humain dans cette étape, l'EBA insiste sur la nécessité d'accorder une grande importance à la validation de ces choix. Les experts en charge de la validation des modèles internes doivent vérifier la logique qui sous-tend le choix des hyperparamètres. Le problème est que cette vérification peut s'avérer particulièrement difficile, notamment pour les modèles complexes, car elle suppose une connaissance approfondie de la méthodologie, qui seule permet d'appréhender toutes les implications des hyperparamètres. Cette validation est en outre essentielle pour limiter tout risque d'arbitrage réglementaire, qui consisterait, par exemple, à ajuster les hyperparamètres selon des approches de validation croisée afin de réduire le niveau des paramètres de risque et, in fine des exigences en fonds propres.

Dans la littérature académique, plusieurs exemples prouvent l'existence de ces risques opérationnels dans le cadre de la gestion du risque de crédit. L'étude de Fraisse et Laporte (2022) montre ainsi que les classes de risque homogènes, établies à partir des scores de certains modèles de ML, échouent aux tests de conformité en raison des comportements de surajustement de ces modèles. C'est notamment le cas pour les forêts aléatoires, qui affichent le niveau le plus élevé de performance prédictive sur les données d'apprentissage. Alors même que dans l'étude, les hyperparamètres de ces modèles ont été fixés selon une approche de validation croisée de type K-fold visant à limiter les risques de surajustement, les auteurs observent une baisse de près de 10 points de la moyenne des AUC obtenus sur les 6 bases d'apprentissage et les 6 bases de test, et une baisse de 0.44 points du F-score.38 Cette instabilité explique l'absence de robustesse du score de risque produit par le modèle.

La fixation des hyperparamètres peut également générer d'autres risques opérationnels que les seuls risques liés au surajustement. Dans le cadre d'un modèle de scoring bancaire, Hurlin et al. (2022) montrent ainsi que de petites modifications des hyperparamètres peuvent avoir des conséquences importantes en termes d'équité et d'apparition de biais de discrimination

<footnote n="38">38. La stratégie de validation croisée de l'étude est basée sur un découpage chronologique en 6 blocs. Pour chaque ensemble de valeurs d'hyperparamètres fixées lors de la recherche sur la grille, le modèle est entraîné 6 fois sur 5 années de données et évalué sur l'année d'observation restante, extraite de l'échantillon d'entraînement et utilisé en tant que base de validation. Les auteurs cherchent alors les hyperparamètres qui minimisent l'AUC moyenne obtenue sur les 6 ensembles de validation. Pour les forêts aléatoires, le nombre d'arbres dans la forêt est fixé, tandis que l'hyperparamètre optimisé est la profondeur de l'arbre. Les paramètres optimaux sont obtenus par une recherche directe sur une grille de valeurs définies sur la profondeur maximale des arbres.</footnote>
si les données sont limitées ou biaisées, le choix des hyperparamètres peut conduire à des modèles mal spécifiés. Par conséquent, du fait de l'importance critique de la fixation des hyperparamètres et de la prédominance du jugement humain dans cette étape, l'EBA insiste sur la nécessité d'accorder une grande importance à la validation de ces choix. Les experts en charge de la validation des modèles internes doivent vérifier la logique qui sous-tend le choix des hyperparamètres. Le problème est que cette vérification peut s'avérer particulièrement difficile, notamment pour les modèles complexes, car elle suppose une connaissance approfondie de la méthodologie, qui seule permet d'appréhender toutes les implications des hyperparamètres. Cette validation est en outre essentielle pour limiter tout risque d'arbitrage réglementaire, qui consisterait, par exemple, à ajuster les hyperparamètres selon des approches de validation croisée afin de réduire le niveau des paramètres de risque et, in fine des exigences en fonds propres.

Dans la littérature académique, plusieurs exemples prouvent l'existence de ces risques opérationnels dans le cadre de la gestion du risque de crédit. L'étude de Fraisse et Laporte (2022) montre ainsi que les classes de risque homogènes, établies à partir des scores de certains modèles de ML, échouent aux tests de conformité en raison des comportements de surajustement de ces modèles. C'est notamment le cas pour les forêts aléatoires, qui affichent le niveau le plus élevé de performance prédictive sur les données d'apprentissage. Alors même que dans l'étude, les hyperparamètres de ces modèles ont été fixés selon une approche de validation croisée de type K-fold visant à limiter les risques de surajustement, les auteurs observent une baisse de près de 10 points de la moyenne des AUC obtenus sur les 6 bases d'apprentissage et les 6 bases de test, et une baisse de 0.44 points du F-score. 38 Cette instabilité explique l'absence de robustesse du score de risque produit par le modèle.

La fixation des hyperparamètres peut également générer d'autres risques opérationnels que les seuls risques liés au surajustement. Dans le cadre d'un modèle de scoring bancaire, Hurlin et al. (2022) montrent ainsi que de petites modifications des hyperparamètres peuvent avoir des conséquences importantes en termes d'équité et d'apparition de biais de discrimination

<footnote n="38">38. La stratégie de validation croisée de l'étude est basée sur un découpage chronologique en 6 blocs. Pour chaque ensemble de valeurs d'hyperparamètres fixées lors de la recherche sur la grille, le modèle est entraîné 6 fois sur 5 années de données et évalué sur l'année d'observation restante, extraite de l'échantillon d'entraînement et utilisé en tant que base de validation. Les auteurs cherchent alors les hyperparamètres qui minimisent l'AUC moyenne obtenue sur les 6 ensembles de validation. Pour les forêts aléatoires, le nombre d'arbres dans la forêt est fixé, tandis que l'hyperparamètre optimisé est la profondeur de l'arbre. Les paramètres optimaux sont obtenus par une recherche directe sur une grille de valeurs définies sur la profondeur maximale des arbres.</footnote>
(cf. section 6.3). Plus précisément, l'étude montre qu'un changement dans les grilles de valeurs utilisées pour l'optimisation des hyperparamètres d'un arbre de classification, conduit à obtenir deux modèles de score présentant des performances prédictives globalement comparables (AUC de 0,88 contre 0,83), mais dont l'un génère une forte discrimination de genre dans l'octroi du crédit. 39 Ainsi, même si le genre n'est pas inclus dans l'espace des caractéristiques du modèle, un arbre de classification suivant la valeur des hyperparamètres, peut conduire à une discrimination de genre par proxy, le genre étant approximé par d'autres variables légitimes dans les règles de décision.

## 6.3 L'évaluation de l'équité et les biais systématiques

La gouvernance du ML dans le contexte IRB s'inscrit à la fois dans le cadre réglementaire des CRD/CRR, mais aussi dans le contexte plus général des règlements qui encadrent l'utilisation et la gouvernance de l'IA. C'est notamment le cas de la proposition européenne de règlement sur l'IA, connue sous le nom *d'Artificial Intelligence Act*. Cette proposition de règlement publiée le 21 avril 2021, vise à réguler l'utilisation de l'IA dans l'Union européenne en établissant des normes de transparence, de supervision et de responsabilité pour les entreprises qui développent, déploient ou utilisent ces systèmes. 40 Dans ce contexte, le choix européen est de réguler en priorité les systèmes d'IA qualifiés d'applications « à haut risque », celles-ci étant définies comme présentant des risques importants pour la santé, la sécurité ou les droits fondamentaux des personnes. L'article 6 du titre III du règlement et l'annexe III énoncent les règles de classification et définissent deux grandes catégories de systèmes d'IA à haut risque : les systèmes d'IA destinés à être utilisés en tant que composants de sécurité de produits et les autres systèmes d'IA autonomes qui soulèvent principalement des questions quant au respect des droits fondamentaux. C'est précisément dans cette seconde catégorie que sont considérés « *les systèmes d'IA utilisés pour évaluer la note de crédit ou la solvabilité des personnes physiques car ils conditionnent l'accès de ces personnes à des ressources financières ou à des services essentiels* ». 41 Pour la Commission Européenne, la

<footnote n="39">39. Dans cette étude, les hyperparamètres optimisés dans le cadre d'une procédure de type 5-fold sont la profondeur maximale de l'arbre, le nombre minimal d'individus requis pour diviser un nœud, le nombre minimal d'individus par feuille, la valeur seuil pour la diminution de l'impureté.</footnote>

<footnote n="40">40. Ce projet de règlement doit encore être adoptée par le Parlement européen et le Conseil de l'Union européenne avant de s'appliquer à tous les pays de l'Union.</footnote>

<footnote n="41">41. Le règlement prévoit toutefois une exception pour les systèmes d'IA utilisés à des fins d'évaluation de la solvabilité et de notation de crédit lorsqu'ils sont mis en service par des petits fournisseurs, typiquement des Fintechs, pour leur usage propre. Cette exemption, destinée à ne pas étouffer l'innovation financière, permet de ne pas soumettre aux mêmes exigences réglementaires les grandes banques et les petits acteurs de l'industrie du crédit.</footnote>
(cf. section 6.3). Plus précisément, l'étude montre qu'un changement dans les grilles de valeurs utilisées pour l'optimisation des hyperparamètres d'un arbre de classification, conduit à obtenir deux modèles de score présentant des performances prédictives globalement comparables (AUC de 0,88 contre 0,83), mais dont l'un génère une forte discrimination de genre dans l'octroi du crédit. 39 Ainsi, même si le genre n'est pas inclus dans l'espace des caractéristiques du modèle, un arbre de classification suivant la valeur des hyperparamètres, peut conduire à une discrimination de genre par proxy, le genre étant approximé par d'autres variables légitimes dans les règles de décision.

## 6.3 L'évaluation de l'équité et les biais systématiques

La gouvernance du ML dans le contexte IRB s'inscrit à la fois dans le cadre réglementaire des CRD/CRR, mais aussi dans le contexte plus général des règlements qui encadrent l'utilisation et la gouvernance de l'IA. C'est notamment le cas de la proposition européenne de règlement sur l'IA, connue sous le nom *d'Artificial Intelligence Act*. Cette proposition de règlement publiée le 21 avril 2021, vise à réguler l'utilisation de l'IA dans l'Union européenne en établissant des normes de transparence, de supervision et de responsabilité pour les entreprises qui développent, déploient ou utilisent ces systèmes. 40 Dans ce contexte, le choix européen est de réguler en priorité les systèmes d'IA qualifiés d'applications « à haut risque », celles-ci étant définies comme présentant des risques importants pour la santé, la sécurité ou les droits fondamentaux des personnes. L'article 6 du titre III du règlement et l'annexe III énoncent les règles de classification et définissent deux grandes catégories de systèmes d'IA à haut risque : les systèmes d'IA destinés à être utilisés en tant que composants de sécurité de produits et les autres systèmes d'IA autonomes qui soulèvent principalement des questions quant au respect des droits fondamentaux. C'est précisément dans cette seconde catégorie que sont considérés « les systèmes d'IA utilisés pour évaluer la note de crédit ou la solvabilité des personnes physiques car ils conditionnent l'accès de ces personnes à des ressources financières ou à des services essentiels ». 41 Pour la Commission Européenne, la

<footnote n="39">39. Dans cette étude, les hyperparamètres optimisés dans le cadre d'une procédure de type 5-fold sont la profondeur maximale de l'arbre, le nombre minimal d'individus requis pour diviser un nœud, le nombre minimal d'individus par feuille, la valeur seuil pour la diminution de l'impureté.</footnote>

<footnote n="40">40. Ce projet de règlement doit encore être adoptée par le Parlement européen et le Conseil de l'Union européenne avant de s'appliquer à tous les pays de l'Union.</footnote>

<footnote n="41">41. Le règlement prévoit toutefois une exception pour les systèmes d'IA utilisés à des fins d'évaluation de la solvabilité et de notation de crédit lorsqu'ils sont mis en service par des petits fournisseurs, typiquement des Fintechs, pour leur usage propre. Cette exemption, destinée à ne pas étouffer l'innovation financière, permet de ne pas soumettre aux mêmes exigences réglementaires les grandes banques et les petits acteurs de l'industrie du crédit.</footnote>
crainte est ici que les systèmes d'IA utilisés dans le domaine du crédit puissent conduire à « une discrimination à l'égard de personnes ou de groupes et perpétuer des schémas historiques de discrimination, par exemple fondés sur les origines raciales ou ethniques, les handicaps, l'âge ou l'orientation sexuelle, ou créer de nouvelles formes d'incidences discriminatoires ». <fnref n="42" />
Si le terme de systèmes d'IA « utilisés à des fins d'évaluation de la solvabilité et de notation de crédit » renvoie de façon évidente aux modèles de scores utilisés de façon directe ou indirecte (comme aide à une décision humaine) dans un processus d'octroi, la question se pose de savoir s'il couvre également les modèles IRB et tous les modèles de suivi des risques utilisés en internes par les établissements de crédit. Dans ce cas, les exigences de transpa- rence, de fourniture d'informations aux utilisateurs, de contrôle humain, de robustesse et de sécurité, induites par l'AI act viendront ainsi se rajouter aux exigences définies dans le cadre des CRR. Du fait de la très grande proximité des exigences requises dans les deux cadres réglementaires, la Commission a d'ailleurs prévu que les superviseurs bancaires nationaux et l'EBA soient également en charge de veiller à l'application des recommandations de l'AI act dans les banques.

Au coeur de la préoccupation de l'AI act, figure la question de l'équité algorithmique (fairness). Un algorithme est dit non-équitable s'il désavantage de façon systématique un groupe d'individus qui partagent un attribut protégé (e.g., genre, âge, lieu de résidence, origine ethnique). Dans le cas d'un modèle de risque de crédit, ce désavantage peut se traduire en termes d'accès au crédit (taux d'acceptation) ou de coût (taux d'intérêt). La plupart des études académiques sur la question portent sur l'octroi de crédit. Ainsi, Bartlett et al. (2022) montrent, qu'aux États-Unis, les emprunteurs hispaniques et afro-américains paient respectivement 7,9 et 3,6 points de base de plus en intérêts pour l'achat d'un logement ou le refinancement d'un prêt hypothécaire, en raison de discriminations. Cependant, l'étude montre également que les Fintech dont les décisions de crédit sont fondées sur des algo- rithmes, réduisent ces disparités de taux de plus d'un tiers entre les emprunteurs et ne font preuve d'aucune discrimination dans les taux de rejet. A l'inverse, en utilisant des don- nées administratives détaillées sur les prêts hypothécaires américains, Fuster et al. (2022) montrent que l'utilisation d'algorithmes de ML augmente la disparité des taux d'intérêt entre les emprunteurs blancs/asiatiques et les emprunteurs noirs/hispaniques.

<footnote n="42">42. Du fait de cette justification, le projet de règlement ne concerne pas à ce stade les modèles d'évaluation pour les crédits aux personnes morales, i.e., entreprises ou organisations, mais rien ne garantit que cette distinction soit maintenue à l'avenir.</footnote>
crainte est ici que les systèmes d'IA utilisés dans le domaine du crédit puissent conduire à «
une discrimination à l'égard de personnes ou de groupes et perpétuer des schémas historiques
de discrimination, par exemple fondés sur les origines raciales ou ethniques, les handicaps,
l'âge ou l'orientation sexuelle, ou créer de nouvelles formes d'incidences discriminatoires ».<fnref n="42" />
Si le terme de systèmes d'IA « utilisés à des fins d'évaluation de la solvabilité et de notation
de crédit » renvoie de façon évidente aux modèles de scores utilisés de façon directe ou
indirecte (comme aide à une décision humaine) dans un processus d'octroi, la question se
pose de savoir s'il couvre également les modèles IRB et tous les modèles de suivi des risques
utilisés en internes par les établissements de crédit. Dans ce cas, les exigences de transpa-
rence, de fourniture d'informations aux utilisateurs, de contrôle humain, de robustesse et de
sécurité, induites par l'AI act viendront ainsi se rajouter aux exigences définies dans le cadre
des CRR. Du fait de la très grande proximité des exigences requises dans les deux cadres
réglementaires, la Commission a d'ailleurs prévu que les superviseurs bancaires nationaux
et l'EBA soient également en charge de veiller à l'application des recommandations de l'AI
act dans les banques.

Au coeur de la préoccupation de l'AI act, figure la question de l'équité algorithmique (fairness). Un algorithme est dit non-équitable s'il désavantage de façon systématique un groupe d'individus qui partagent un attribut protégé (e.g., genre, âge, lieu de résidence, origine ethnique). Dans le cas d'un modèle de risque de crédit, ce désavantage peut se traduire en termes d'accès au crédit (taux d'acceptation) ou de coût (taux d'intérêt). La plupart des études académiques sur la question portent sur l'octroi de crédit. Ainsi, Bartlett et al. (2022) montrent, qu'aux États-Unis, les emprunteurs hispaniques et afro-américains paient respectivement 7,9 et 3,6 points de base de plus en intérêts pour l'achat d'un logement ou le refinancement d'un prêt hypothécaire, en raison de discriminations. Cependant, l'étude montre également que les Fintech dont les décisions de crédit sont fondées sur des algorithmes, réduisent ces disparités de taux de plus d'un tiers entre les emprunteurs et ne font preuve d'aucune discrimination dans les taux de rejet. A l'inverse, en utilisant des données administratives détaillées sur les prêts hypothécaires américains, Fuster et al. (2022) montrent que l'utilisation d'algorithmes de ML augmente la disparité des taux d'intérêt entre les emprunteurs blancs/asiatiques et les emprunteurs noirs/hispaniques.

<footnote n="42">42. Du fait de cette justification, le projet de règlement ne concerne pas à ce stade les modèles d'évaluation pour les crédits aux personnes morales, i.e., entreprises ou organisations, mais rien ne garantit que cette distinction soit maintenue à l'avenir.</footnote>
Ces conclusions divergentes mettent en exergue la difficulté d'évaluer l'équité d'un modèle de risque de crédit, et notamment (1) d'identifier les variables qui doivent être considérées comme des attributs protégés et pour lesquelles les banques doivent démontrer l'absence de discrimination, (2) de définir statistiquement le concept d'équité et de mesurer les éventuelles discriminations, et (3) de comprendre l'origine d'une violation de l'équité. Concernant le premier point, certaines législations listent précisément les sources de discrimination qui doivent être évaluées. Par exemple, aux Etats-Unis, la loi sur le crédit à la consommation (Equal Credit Opportunity Act ou ECOA) interdit toute discrimination opérée sur la base de l'origine raciale, du sexe, de la couleur, de l'âge, de la nationalité, de l'état civil ou de la perception de revenus provenant d'un programme d'aide publique. A l'inverse en Europe, l'AI act ne propose qu'une liste d'exemples de sources possibles de discrimination (e.g., origine ethnique, handicap, âge et orientation sexuelle). Par ailleurs, la plupart de ces sources ne peuvent pas être testées en pratique puisque, pour pouvoir tester si un modèle génère un biais de discrimination par rapport à une caractéristique, il faut détenir des données sur cette variable. C'est pourquoi, en pratique seules les discriminations liées au genre, à l'âge ou à la localisation géographique, peuvent être évaluées par les banques dans leur procesus de validation de modèle. La deuxième difficulté porte sur la définition statistique qu'il convient de donner à la notion d'équité. Il existe des dizaines de définitions statistiques de l'équité (Verma et Rubin, 2018), certaines étant incompatibles entre elles (Barocas et al., 2022).43 De plus, pour une définition donnée, se pose la question de savoir à partir de quel seuil de déviation, on doit considérer un modèle comme étant non équitable et générateur de discrimination. Dans ce contexte, Hurlin et al. (2022) proposent une procédure générale d'inférence, permettant de tester l'hypothèse d'équité ou de non-équité au sein de chaque classe de risque. Enfin, la dernière question porte sur l'origine d'une éventuelle discrimination dans un modèle. Dans le cas d'une discrimination indirecte, i.e., non liée à l'introduction directe de la variable protégée dans le modèle, il convient d'identifier les variables légitimes qui permettent de triangulariser l'attribut protégé et sont responsables de la discrimination. Cette identification est d'autant plus compliquée que le modèle de ML est opaque et fortement flexible. Une solution consiste à mobiliser des outils dérivés des méthodes de ML interprétable, comme les Fairness Partial Dependence Plots (FPDP) récemment proposés par Hurlin et al. (2022).

<footnote n="43">43. La définition la plus couramment utilisée est celle de la parité statistique, qui implique l'égalité des probabilités d'être classé comme bon type dans les groupes d'individus présentant l'attribut protégé et ceux qui ne le présentent pas.</footnote>
Ces conclusions divergentes mettent en exergue la difficulté d'évaluer l'équité d'un modèle de risque de crédit, et notamment (1) d'identifier les variables qui doivent être considérées comme des attributs protégés et pour lesquelles les banques doivent démontrer l'absence de discrimination, (2) de définir statistiquement le concept d'équité et de mesurer les éventuelles discriminations, et (3) de comprendre l'origine d'une violation de l'équité. Concernant le premier point, certaines législations listent précisément les sources de discrimination qui doivent être évaluées. Par exemple, aux Etats-Unis, la loi sur le crédit à la consommation (Equal Credit Opportunity Act ou ECOA) interdit toute discrimination opérée sur la base de l'origine raciale, du sexe, de la couleur, de l'âge, de la nationalité, de l'état civil ou de la perception de revenus provenant d'un programme d'aide publique. A l'inverse en Europe, l'AI act ne propose qu'une liste d'exemples de sources possibles de discrimination (e.g., origine ethnique, handicap, âge et orientation sexuelle). Par ailleurs, la plupart de ces sources ne peuvent pas être testées en pratique puisque, pour pouvoir tester si un modèle génère un biais de discrimination par rapport à une caractéristique, il faut détenir des données sur cette variable. C'est pourquoi, en pratique seules les discriminations liées au genre, à l'âge ou à la localisation géographique, peuvent être évaluées par les banques dans leur procesus de validation de modèle. La deuxième difficulté porte sur la définition statistique qu'il convient de donner à la notion d'équité. Il existe des dizaines de définitions statistiques de l'équité (Verma et Rubin, 2018), certaines étant incompatibles entre elles (Barocas et al., 2022).43 De plus, pour une définition donnée, se pose la question de savoir à partir de quel seuil de déviation, on doit considérer un modèle comme étant non équitable et générateur de discrimination. Dans ce contexte, Hurlin et al. (2022) proposent une procédure générale d'inférence, permettant de tester l'hypothèse d'équité ou de non-équité au sein de chaque classe de risque. Enfin, la dernière question porte sur l'origine d'une éventuelle discrimination dans un modèle. Dans le cas d'une discrimination indirecte, i.e., non liée à l'introduction directe de la variable protégée dans le modèle, il convient d'identifier les variables légitimes qui permettent de triangulariser l'attribut protégé et sont responsables de la discrimination. Cette identification est d'autant plus compliquée que le modèle de ML est opaque et fortement flexible. Une solution consiste à mobiliser des outils dérivés des méthodes de ML interprétable, comme les Fairness Partial Dependence Plots (FPDP) récemment proposés par Hurlin et al. (2022).

<footnote n="43">43. La définition la plus couramment utilisée est celle de la parité statistique, qui implique l'égalité des probabilités d'être classé comme bon type dans les groupes d'individus présentant l'attribut protégé et ceux qui ne le présentent pas.</footnote>
Il est important de noter qu'un biais de discrimination peut apparaître de façon tout à fait involontaire, du fait d'une discrimination indirecte (par proxy). Pour autant, le modélisateur et la banque ne pourront arguer du caractère involontaire de la discrimination ou de la non-interprétabilité du modèle, pour se dédouaner de leurs responsabilités juridiques. Aux États-Unis, ce principe a été récemment réaffirmé par le Consumer Financial Protection Bureau dans une décision de mai 2022. Cette décision confirme que la loi fédérale ECOA exige que les banques puissent expliquer aux demandeurs les raisons spécifiques pour lesquelles elles refusent une demande de crédit, même si le créancier s'appuie sur des modèles de crédit utilisant des algorithmes complexes et non interprétables. Toutefois, il convient de bien dissocier les questions d'interprétabilité et d'équité (EBA, 2020) : un modèle peut être interprétable, ou rendu interprétable ex-post par une technique de ML interprétable, et pour autant générer des biais de discrimination. A l'inverse, un modèle boîte noire n'est pas nécessairement à l'origine de ce type de biais de discrimination, qui peuvent préexister dans les données.

# 7 Conclusion

Plusieurs conclusions et recommandations émergent de notre analyse. Tout d'abord, le ML présente d'indéniables avantages dans le contexte IRB. Utilisées en amont ou en aval de la phase de différenciation des risques, ces méthodes permettent d'importants gains de productivité et d'efficacité, comme par exemple dans la préparation des données, la transformation des variables, ou dans la construction de modèles challengers. Utilisés dans la phase centrale de différenciation des risques, certains modèles de ML, notamment les modèles d'ensemble homogènes, permettent d'obtenir des estimations des paramètres de risque (PD ou LGD) plus précises que celles fournies par les approches paramétriques usuelles. Toutefois, ces gains ont tendance à plafonner avec la complexité des modèles. Ainsi, dans la littérature académique, il devient de plus en plus difficile d'améliorer significativement les performances des modèles de scoring bancaire en développant de nouvelles méthodes de classification. Enfin, l'utilisation de certains modèles de ML pour la différenciation des risques, offre des perspectives de réductions significatives des fonds propres réglementaires, comprises entre 2% et 20% suivant les études, tout en respectant les critères de validation imposés par le régulateur. A ce stade, aucune méthode de ML ne semble se dégager en la matière, le choix de l'algorithme de ML influençant à la fois la probabilité d'obtenir l'approbation réglementaire
Il est important de noter qu'un biais de discrimination peut apparaître de façon tout à fait involontaire, du fait d'une discrimination indirecte (par proxy). Pour autant, le modélisateur et la banque ne pourront arguer du caractère involontaire de la discrimination ou de la non-interprétabilité du modèle, pour se dédouaner de leurs responsabilités juridiques. Aux États-Unis, ce principe a été récemment réaffirmé par le Consumer Financial Protection Bureau dans une décision de mai 2022. Cette décision confirme que la loi fédérale ECOA exige que les banques puissent expliquer aux demandeurs les raisons spécifiques pour lesquelles elles refusent une demande de crédit, même si le créancier s'appuie sur des modèles de crédit utilisant des algorithmes complexes et non interprétables. Toutefois, il convient de bien dissocier les questions d'interprétabilité et d'équité (EBA, 2020) : un modèle peut être interprétable, ou rendu interprétable ex-post par une technique de ML interprétable, et pour autant générer des biais de discrimination. A l'inverse, un modèle boîte noire n'est pas nécessairement à l'origine de ce type de biais de discrimination, qui peuvent préexister dans les données.

# 7 Conclusion

Plusieurs conclusions et recommandations émergent de notre analyse. Tout d'abord, le ML présente d'indéniables avantages dans le contexte IRB. Utilisées en amont ou en aval de la phase de différenciation des risques, ces méthodes permettent d'importants gains de productivité et d'efficacité, comme par exemple dans la préparation des données, la transformation des variables, ou dans la construction de modèles challengers. Utilisés dans la phase centrale de différenciation des risques, certains modèles de ML, notamment les modèles d'ensemble homogènes, permettent d'obtenir des estimations des paramètres de risque (PD ou LGD) plus précises que celles fournies par les approches paramétriques usuelles. Toutefois, ces gains ont tendance à plafonner avec la complexité des modèles. Ainsi, dans la littérature académique, il devient de plus en plus difficile d'améliorer significativement les performances des modèles de scoring bancaire en développant de nouvelles méthodes de classification. Enfin, l'utilisation de certains modèles de ML pour la différenciation des risques, offre des perspectives de réductions significatives des fonds propres réglementaires, comprises entre 2% et 20% suivant les études, tout en respectant les critères de validation imposés par le régulateur. A ce stade, aucune méthode de ML ne semble se dégager en la matière, le choix de l'algorithme de ML influençant à la fois la probabilité d'obtenir l'approbation réglementaire
et le niveau des exigences en fonds propres.

Mais l'adoption du ML soulève également plusieurs défis. Le premier est celui de l'accepta-
bilité de ces méthodes, à la fois par le régulateur et par les banques. Lorsque les méthodes
de ML sont utilisées pour la validation des modèles internes ou en amont de la différencia-
tion des risques, cette acceptabilité semble, au final, poser peu de problèmes. Il n'en va pas
de même concernant la différenciation des risques. Comment la banque pourrait-elle justi-
fier l'utilisation d'une forêt aléatoire ou d'un modèle XGBoost, en lieu et place du modèle
standard de la régression logistique ? Si ce changement génère une trop forte diminution
des exigences en fonds propres réglementaires, il pourrait être sujet à une suspicion d'ar-
bitrage réglementaire de la part du superviseur ou des équipes de validation interne. Ce
risque est d'autant plus grand, qu'à méthode de ML donnée, le choix des hyperparamètres
peut affecter de façon assez peu transparente la complexité du modèle et ses performances
prédictives. Si à l'inverse, ce changement génère une faible diminution (voire une augmenta-
tion) du capital réglementaire, la banque n'aura aucun intérêt à adopter le ML et à refondre
ses modèles internes. Par conséquent, seuls des critères objectifs de mesure statistique des
gains en termes de précision dans les estimations des paramètres de risque peuvent résoudre
ce dilemme. Mais là encore, la littérature académique montre clairement que les modèles
de ML qui permettent de mieux estimer les paramètres de risque au sens des critères sta-
tistiques usuels (AUC, sensibilité, précision, etc.), ne sont pas toujours nécessairement ceux
qui permettent de réduire les RWA ou de passer les tests de validation permettant d'obtenir
l'approbation du superviseur.

Le deuxième défi lié à l'utilisation du ML dans le contexte IRB est celui de l'interprétabilité et de l'explicabilité des modèles de ML. Il est évident qu'il n'est pas possible de confier la détermination des fonds propres réglementaires d'une banque à un modèle de type boîte noire. Dans ce contexte, la démarche usuelle consiste à utiliser des modèles de ML non interprétables couplés à des techniques permettant de rendre leurs prédictions et leur fonctionnement général interprétables ex-post. Le problème est qu'il n'existe pas *une* explication universelle du fonctionnement d'un modèle complexe. Au contraire, il existe une pléthore de méthodes d'interprétabilité fournissant tout autant d'explications sur le fonctionnement global d'un modèle ou sur les décisions prises par ce modèle au niveau d'un emprunteur ou d'un contrat. La question se pose alors de savoir quel type d'interprétations et d'explications attend le superviseur concernant le fonctionnement des modèles internes. C'est sans
et le niveau des exigences en fonds propres.

Mais l'adoption du ML soulève également plusieurs défis. Le premier est celui de l'accepta-
bilité de ces méthodes, à la fois par le régulateur et par les banques. Lorsque les méthodes
de ML sont utilisées pour la validation des modèles internes ou en amont de la différencia-
tion des risques, cette acceptabilité semble, au final, poser peu de problèmes. Il n'en va pas
de même concernant la différenciation des risques. Comment la banque pourrait-elle justi-
fier l'utilisation d'une forêt aléatoire ou d'un modèle XGBoost, en lieu et place du modèle
standard de la régression logistique ? Si ce changement génère une trop forte diminution
des exigences en fonds propres réglementaires, il pourrait être sujet à une suspicion d'ar-
bitrage réglementaire de la part du superviseur ou des équipes de validation interne. Ce
risque est d'autant plus grand, qu'à méthode de ML donnée, le choix des hyperparamètres
peut affecter de façon assez peu transparente la complexité du modèle et ses performances
prédictives. Si à l'inverse, ce changement génère une faible diminution (voire une augmenta-
tion) du capital réglementaire, la banque n'aura aucun intérêt à adopter le ML et à refondre
ses modèles internes. Par conséquent, seuls des critères objectifs de mesure statistique des
gains en termes de précision dans les estimations des paramètres de risque peuvent résoudre
ce dilemme. Mais là encore, la littérature académique montre clairement que les modèles
de ML qui permettent de mieux estimer les paramètres de risque au sens des critères sta-
tistiques usuels (AUC, sensibilité, précision, etc.), ne sont pas toujours nécessairement ceux
qui permettent de réduire les RWA ou de passer les tests de validation permettant d'obtenir
l'approbation du superviseur.

Le deuxième défi lié à l'utilisation du ML dans le contexte IRB est celui de l'interprétabilité et de l'explicabilité des modèles de ML. Il est évident qu'il n'est pas possible de confier la détermination des fonds propres réglementaires d'une banque à un modèle de type boîte noire. Dans ce contexte, la démarche usuelle consiste à utiliser des modèles de ML non interprétables couplés à des techniques permettant de rendre leurs prédictions et leur fonctionnement général interprétables ex-post. Le problème est qu'il n'existe pas *une* explication universelle du fonctionnement d'un modèle complexe. Au contraire, il existe une pléthore de méthodes d'interprétabilité fournissant tout autant d'explications sur le fonctionnement global d'un modèle ou sur les décisions prises par ce modèle au niveau d'un emprunteur ou d'un contrat. La question se pose alors de savoir quel type d'interprétations et d'explications attend le superviseur concernant le fonctionnement des modèles internes. C'est sans
aucun doute cette incertitude sur la procédure de validation réglementaire des modèles de ML qui explique qu'aujourd'hui ces outils sont encore très peu utilisés par les banques dans les contextes IRB ou IFRS9.

Nous montrons qu'une façon de sortir de cette situation consiste à promouvoir l'utilisation de modèles de ML nativement interprétables dans le contexte IRB. Des travaux théoriques récents et des études empiriques dans le domaine du scoring de crédit remettent en cause l'idée d'un nécessaire arbitrage entre performance et interprétabilité. Utilisés dans le contexte de la différenciation des risques, des modèles de ML interprétables peuvent tout à fait fournir des estimations des paramètres de risque aussi précises que les modèles de type boîte noire, habituellement considérés comme plus performants. Même si ces nouvelles approches permettent de lever les freins au développement du ML liés à la question de l'interprétabilité, n'en demeurent pas moins les défis de la gouvernance, de la formation des personnels, des risques opérationnels et de l'évaluation de l'équité algorithmique, notamment en lien avec l'AI act.
aucun doute cette incertitude sur la procédure de validation réglementaire des modèles de ML qui explique qu'aujourd'hui ces outils sont encore très peu utilisés par les banques dans les contextes IRB ou IFRS9.

Nous montrons qu'une façon de sortir de cette situation consiste à promouvoir l'utilisation de modèles de ML nativement interprétables dans le contexte IRB. Des travaux théoriques récents et des études empiriques dans le domaine du scoring de crédit remettent en cause l'idée d'un nécessaire arbitrage entre performance et interprétabilité. Utilisés dans le contexte de la différenciation des risques, des modèles de ML interprétables peuvent tout à fait fournir des estimations des paramètres de risque aussi précises que les modèles de type boîte noire, habituellement considérés comme plus performants. Même si ces nouvelles approches permettent de lever les freins au développement du ML liés à la question de l'interprétabilité, n'en demeurent pas moins les défis de la gouvernance, de la formation des personnels, des risques opérationnels et de l'évaluation de l'équité algorithmique, notamment en lien avec l'AI act.
Références

ACPR : Artificial intelligence : Challenges for the financial sector. Discussion papers
publication, December, 2018.

ACPR : Governance of artificial intelligence in finance. Discussion papers publication, November, 2020.

H. J. ALLEN : "Just Say No" to machine learning in IRB models. *Oxford Business Law Blog*, 2021. URL https://blogs.law.ox.ac.uk/business-law-blog/blog/2021/12/just-say-no-machine-learning-irb-models.

A. ALONSO et J. CARBÓ : Machine learning in credit risk : Measuring the dilemma between prediction and supervisory cost. *Working Paper, Banco de Espana*, 2020.

E. ALTMAN, G. MARCO et F. VARETTO : Corporate distress diagnosis : Comparisons using linear discriminant analysis and neural networks (the italian experience). *Journal of Banking and Finance*, 18:505-529, 1994.

D. W. APLEY et J. ZHU : Visualizing the effects of predictor variables in black box supervised learning models. *Journal of the Royal Statistical Society Series B : Statistical Methodology*, 82(4):1059-1086, 06 2020.

B. BAENSENS, T. V. GESTEL, S. VIAENE, M. STEPANOVA, J. SUYKENS et J. VANTHIENEN :
Benchmarking state-of-the-art classification algorithms for credit scoring.  
*Journal of the Operational Research Society*, 54(6):627-635, 2003.

S. BAROCAS, M. HARDT et A. NARAYANAN : *Fairness and Machine Learning*. 2022.
http://www.fairmlbook.org.

R. BARTLETT, A. MORSE, R. STANTON et N. WALLACE : Consumer-lending discrimination in the fintech era. *Journal of Financial Economics*, 143:30-56, 2022.

T. BELLOTTI et J. CROOK : Loss given default models incorporating macroeconomic variables for credit cards. *International Journal of Forecasting*, 28(1):171-182, 2012. ISSN 0169-2070.

T. BERG, V. BURG, A. GOMBOVIĆ et M. PURI : On the rise of fintechs : Credit scoring using digital footprints. *Review of Financial Studies*, 33(7):2845-2897, 2020.
Références

ACPR : Artificial intelligence : Challenges for the financial sector. Discussion papers
publication, December, 2018.

ACPR : Governance of artificial intelligence in finance. Discussion papers publication, November, 2020.

H. J. ALLEN : "Just Say No" to machine learning in IRB models. *Oxford Business Law Blog*, 2021. URL https://blogs.law.ox.ac.uk/business-law-blog/blog/2021/12/just-say-no-machine-learning-irb-models.

A. ALONSO et J. CARBÓ : Machine learning in credit risk : Measuring the dilemma between prediction and supervisory cost. *Working Paper, Banco de Espana*, 2020.

E. ALTMAN, G. MARCO et F. VARETTO : Corporate distress diagnosis : Comparisons using linear discriminant analysis and neural networks (the italian experience). *Journal of Banking and Finance*, 18:505-529, 1994.

D. W. APLEY et J. ZHU : Visualizing the effects of predictor variables in black box supervised learning models. *Journal of the Royal Statistical Society Series B : Statistical Methodology*, 82(4):1059-1086, 06 2020.

B. BAESENS, T. V. GESTEL, S. VIAENE, M. STEPANOVA, J. SUYKENS et J. VANTHIENEN :
Benchmarking state-of-the-art classification algorithms for credit scoring.  
*Journal of the Operational Research Society*, 54(6):627-635, 2003.

S. BAROCAS, M. HARDT et A. NARAYANAN : *Fairness and Machine Learning*. 2022.
http://www.fairmlbook.org.

R. BARTLETT, A. MORSE, R. STANTON et N. WALLACE : Consumer-lending discrimination in the fintech era. *Journal of Financial Economics*, 143:30-56, 2022.

T. BELLOTTI et J. CROOK : Loss given default models incorporating macroeconomic variables for credit cards. *International Journal of Forecasting*, 28(1):171-182, 2012. ISSN 0169-2070.

T. BERG, V. BURG, A. GOMBOVIĆ et M. PURI : On the rise of fintechs : Credit scoring using digital footprints. *Review of Financial Studies*, 33(7):2845-2897, 2020.
J. BERGSTRA et Y. BENGIO : Random search for hyper-parameter optimization. *Journal of Machine Learning Research*, 13:281-305, 2012.

P. BRACKE, A. DATTA, C. JUNG et S. SEN : Machine learning explainability in finance : An application to default risk analysis. Bank of England, Staff Working Paper No. 816, 2019.

L. BREIMAN : Bagging predictors. *Machine Learning*, 26:123-140, 1996.

L. BREIMAN : Random forest. *Machine Learning*, 45:5-32, 2001.

L. BREIMAN, J. FRIEDMAN, C. STONE et R. OLSHEN : *Classification and Regression Trees*. Chapman and Hall/CRC, 1984.

C. CARTER et J. CATLETT : Assessing credit card applications using machine learning. *IEEE Expert*, 2:71-79, 1987.

A. CHARPENTIER, E. FLACHAIRE et A. LY : Econometrics and machine learning. *Economics and Statistics*, 505-506:147-169, 2018.

C. CHEN, K. LIN, C. RUDIN, Y. SHAPOSHNIK, S. WANG et T. WANG : An interpretable model with globally consistent explanations for credit risk. *arXiv*, 2018. URL https://doi.org/10.48550/arXiv.1811.12615.

T. CHEN et C. GUESTRIN : XGBoost : A scalable tree boosting system. *In Krishnapuram et al. (eds)*, p. 785-794. 2016.

Y. CHEN, R. CALABRESE et B. MARTIN-BARRAGAN : Effects of imbalanced datasets on interpretable machine learning. *Working Paper, University of Edinburgh*, 2022.

L. CLERC, A. MORAGLIA et S. PEYRON : Les néobanques vont-elles bouleverser leur secteur d'activité ? *Revue d'économie financière*, 135(3):165-180, 2020.

X. DASTILE, T. CELIK et M. POTSANE : Statistical and machine learning models in credit scoring : A systematic literature survey. *Applied Soft Computing*, 91:106263, 2020.

E. DUMITRESCU, S. HUÉ, C. HURLIN et S. TOKPAVI : Machine learning for credit scoring : Improving logistic regression with non-linear decision-tree effects. *European Journal of Operational Research*, 297(3):1178-1192, 2022.
J. BERGSTRA et Y. BENGIO : Random search for hyper-parameter optimization. *Journal of Machine Learning Research*, 13:281–305, 2012.

P. BRACKE, A. DATTA, C. JUNG et S. SEN : Machine learning explainability in finance : An application to default risk analysis. Bank of England, Staff Working Paper No. 816, 2019.

L. BREIMAN : Bagging predictors. *Machine Learning*, 26:123–140, 1996.

L. BREIMAN : Random forest. *Machine Learning*, 45:5–32, 2001.

L. BREIMAN, J. FRIEDMAN, C. STONE et R. OLSHEN : *Classification and Regression Trees*. Chapman and Hall/CRC, 1984.

C. CARTER et J. CATLETT : Assessing credit card applications using machine learning. *IEEE Expert*, 2:71–79, 1987.

A. CHARPENTIER, E. FLACHAIRE et A. LY : Econometrics and machine learning. *Economics and Statistics*, 505-506:147–169, 2018.

C. CHEN, K. LIN, C. RUDIN, Y. SHAPOSHNIK, S. WANG et T. WANG : An interpretable model with globally consistent explanations for credit risk. *arXiv*, 2018. URL https://doi.org/10.48550/arXiv.1811.12615.

T. CHEN et C. GUESTRIN : XGBoost : A scalable tree boosting system. *In Krishnapuram et al. (eds)*, p. 785–794. 2016.

Y. CHEN, R. CALABRESE et B. MARTIN-BARRAGAN : Effects of imbalanced datasets on interpretable machine learning. *Working Paper, University of Edinburgh*, 2022.

L. CLERC, A. MORAGLIA et S. PEYRON : Les néobanques vont-elles bouleverser leur secteur d'activité ? *Revue d'économie financière*, 135(3):165–180, 2020.

X. DASTILE, T. CELIK et M. POTSANE : Statistical and machine learning models in credit scoring : A systematic literature survey. *Applied Soft Computing*, 91:106263, 2020.

E. DUMITRESCU, S. HUÉ, C. HURLIN et S. TOKPAVI : Machine learning for credit scoring : Improving logistic regression with non-linear decision-tree effects. *European Journal of Operational Research*, 297(3):1178–1192, 2022.
EBA: Report on Big Data and advanced analytics. European Banking Authority, January, 2020.

EBA: Discussion paper on machine learning for IRB models. European Banking Authority, November, 2021.

EC: White paper on artificial intelligence: A European approach to excellence and trust. European Commission, February, 2020.

EC: Proposal for a regulation of the european parliament and of the council laying down harmonised rules on artificial intelligence, COM/2021/206 final. European Commission, April, 2021.

E. FLACHAIRE, G. HACHEME, S. HUÉ et S. LAURENT: GAM(L)A: An econometric model for interpretable machine learning. *arXiv*, 2022. URL https://doi.org/10.48550/arXiv.2203.11691.

H. FRAISSE et M. LAPORTE: Return on investment on artificial intelligence: The case of bank capital requirement. *Journal of Banking & Finance*, 138:106401, 2022.

Y. FREUND et R. SCHAPIRE: A decision-theoric generalization of on-line learning and application to boosting. *Journal of Computer and System Sciences*, 55(1):119-139, 1997.

J. FRIEDMAN: Greedy function approximation: A gradient boosting machine. *Annals of statistics*, p. 1189-1232, 2001.

A. FUSTER, P. GOLDSMITH-PINKHAM, T. RAMADORAI et A. WALTHER: Predictably unequal? The effects of machine learning on credit markets. *Journal of Finance*, 77:5-47, 2022.

N. GRENNEPOIS, A. ALVIRESCU et M. BOMBAIL: Using random forest for credit risk models. *Deloitte Risk Advisory*, 2018.

B. R. GUNNARSSON, S. VANDEN BROUCKE, B. BAESENS, M. ÓSKARSDÓTTIR et W. LEMAHIEU: Deep learning for credit scoring: Do or don't? *European Journal of Operational Research*, 295(1):292-305, 2021.

D. GUÉGAN et B. HASSANI: Regulatory learning: How to supervise machine learning models? an application to credit scoring. *The Journal of Finance and Data Science*, 4 (3):157-171, 2018.
EBA: Report on Big Data and advanced analytics. European Banking Authority, January, 2020.

EBA: Discussion paper on machine learning for IRB models. European Banking Authority, November, 2021.

EC: White paper on artificial intelligence: A European approach to excellence and trust. European Commission, February, 2020.

EC: Proposal for a regulation of the european parliament and of the council laying down harmonised rules on artificial intelligence, COM/2021/206 final. European Commission, April, 2021.

E. FLACHAIRE, G. HACHEME, S. HUÉ et S. LAURENT: GAM(L)A: An econometric model for interpretable machine learning. *arXiv*, 2022. URL https://doi.org/10.48550/arXiv.2203.11691.

H. FRAISSE et M. LAPORTE: Return on investment on artificial intelligence: The case of bank capital requirement. *Journal of Banking & Finance*, 138:106401, 2022.

Y. FREUND et R. SCHAPIRE: A decision-theoric generalization of on-line learning and application to boosting. *Journal of Computer and System Sciences*, 55(1):119-139, 1997.

J. FRIEDMAN: Greedy function approximation: A gradient boosting machine. *Annals of statistics*, p. 1189-1232, 2001.

A. FUSTER, P. GOLDSMITH-PINKHAM, T. RAMADORAI et A. WALTHER: Predictably unequal? The effects of machine learning on credit markets. *Journal of Finance*, 77:5-47, 2022.

N. GRENNEPOIS, A. ALVIRESCU et M. BOMBAIL: Using random forest for credit risk models. *Deloitte Risk Advisory*, 2018.

B. R. GUNNARSSON, S. VANDEN BROUCKE, B. BAESENS, M. ÓSKARSDÓTTIR et W. LEMAHIEU: Deep learning for credit scoring: Do or don't? *European Journal of Operational Research*, 295(1):292-305, 2021.

D. GUÉGAN et B. HASSANI: Regulatory learning: How to supervise machine learning models? an application to credit scoring. *The Journal of Finance and Data Science*, 4 (3):157-171, 2018.
C. HURLIN, J. LEYMARIE et A. PATIN : Loss functions for loss given default model comparison. *European Journal of Operational Research*, 268(1):348-360, 2018.

C. HURLIN et C. PÉRIGNON : Machine learning et nouvelles sources de données pour le scoring de crédit. *Revue d'économie financière*, 135(3):21-50, 2019.

C. HURLIN, C. PÉRIGNON et S. SAURIN : The fairness of credit scoring models. *arXiv*, 2022. URL https://doi.org/10.48550/arXiv.2205.10200.

S. HUÉ, C. HURLIN, C. PÉRIGNON et S. SAURIN : Explainable performance. *arXiv*, 2022. URL https://doi.org/10.48550/arXiv.2212.05866.

IIF : Machine learning in credit risk. Institute of International Finance, 2nd Edition Summary Report, August, 2019.

IIF : Survey report on machine learning uses in credit risk and AML applications. Institute of International Finance and EY, Public Summary, December, 2022.

J. JAGTIANI et C. LEMIEUX : The roles of alternative data and machine learning in fintech lending : Evidence from the LendingClub consumer platform. *Financial Management*, 48 (4):1009-1029, 2019.

S. KRISHNA, T. HAN, A. GU, J. POMBRA, S. JABBARI, S. WU et H. LAKKARAJU : The disagreement problem in explainable machine learning : A practitioner's perspective. *arXiv*, 2022. URL https://doi.org/10.48550/arXiv.2202.01602.

S. LESSMANN, B. BAESENS, H.-V. SEOW et L. C. THOMAS : Benchmarking state-of-the-art classification algorithms for credit scoring : An update of research. *European Journal of Operational Research*, 247(1):124-136, 2015.

G. LOTERMAN, I. BROWN, D. MARTENS, C. MUES et B. BAESENS : Benchmarking regression algorithms for loss given default modeling. *International Journal of Forecasting*, 28 (1):161-170, 2012.

S. M. LUNDBERG et S.-I. LEE : A unified approach to interpreting model predictions. *In Proceedings of the 31st International Conference on Neural Information Processing Systems*, NIPS'17, p. 4768-4777, 2017.

P. MAKOWSKI : Credit scoring branches out. *The Credit World*, 75:30-37, 1985.
C. HURLIN, J. LEYMARIE et A. PATIN : Loss functions for loss given default model comparison. *European Journal of Operational Research*, 268(1):348-360, 2018.

C. HURLIN et C. PÉRIGNON : Machine learning et nouvelles sources de données pour le scoring de crédit. *Revue d'économie financière*, 135(3):21-50, 2019.

C. HURLIN, C. PÉRIGNON et S. SAURIN : The fairness of credit scoring models. *arXiv*, 2022. URL https://doi.org/10.48550/arXiv.2205.10200.

S. HUÉ, C. HURLIN, C. PÉRIGNON et S. SAURIN : Explainable performance. *arXiv*, 2022. URL https://doi.org/10.48550/arXiv.2212.05866.

IIF : Machine learning in credit risk. Institute of International Finance, 2nd Edition Summary Report, August, 2019.

IIF : Survey report on machine learning uses in credit risk and AML applications. Institute of International Finance and EY, Public Summary, December, 2022.

J. JAGTIANI et C. LEMIEUX : The roles of alternative data and machine learning in fintech lending : Evidence from the LendingClub consumer platform. *Financial Management*, 48 (4):1009-1029, 2019.

S. KRISHNA, T. HAN, A. GU, J. POMBRA, S. JABBARI, S. WU et H. LAKKARAJU : The disagreement problem in explainable machine learning : A practitioner's perspective. *arXiv*, 2022. URL https://doi.org/10.48550/arXiv.2202.01602.

S. LESSMANN, B. BAESENS, H.-V. SEOW et L. C. THOMAS : Benchmarking state-of-the-art classification algorithms for credit scoring : An update of research. *European Journal of Operational Research*, 247(1):124-136, 2015.

G. LOTERMAN, I. BROWN, D. MARTENS, C. MUES et B. BAESENS : Benchmarking regression algorithms for loss given default modeling. *International Journal of Forecasting*, 28 (1):161-170, 2012.

S. M. LUNDBERG et S.-I. LEE : A unified approach to interpreting model predictions. *In Proceedings of the 31st International Conference on Neural Information Processing Systems*, NIPS'17, p. 4768-4777, 2017.

P. MAKOWSKI : Credit scoring branches out. *The Credit World*, 75:30-37, 1985.
A. MARKOV, Z. SELEZNYOVA et V. LAPSHIN : Credit scoring methods : Latest trends and points to consider. *The Journal of Finance and Data Science*, 8:180-201, 2022.

C. MOLNAR : *Interpretable Machine Learning*. 2019. https://christophm.github.io/interpretable-ml-book/.

C. MOLNAR, G. CASALICCHIO et B. BISCHL : Interpretable machine learning – a brief history, state-of-the-art and challenges. *arXiv*, 2022. URL https://doi.org/10.48550/arXiv.2010.09337.

S. MULLAINATHAN et J. SPIESS : Machine learning : An applied econometric approach. *Journal of Economic Perspectives*, 31:87-106, 2017.

M. OSKARSDOTTIR, C. BRAVO, C. SARRAUTE, J. VANTHIENEN et B. BAENSENS : The value of big data for credit scoring : Enhancing financial inclusion using mobile phone data and social network analytics. *Applied Soft Computing*, 74:26-39, 2019.

P. OULD : Improving IRB and RWA calculations with machine learning. *FICO Decision Blog*, February, 2022. URL https://www.fico.com/blogs/improving-irb-and-rwa-calculations-machine-learning.

L. E. PAPKE et J. M. WOOLDRIDGE : Econometric methods for fractional response variables with an application to 401(k) plan participation rates. *Journal of Applied Econometrics*, 11(6):619-632, 1996.

M. RIBEIRO, S. SINGH et C. GUESTRIN : "Why should I trust you?" : Explaining the predictions of any classifier. *In Proceedings of the 2016 Conference of the North American Chapter of the Association for Computational Linguistics : Demonstrations*, p. 97-101, juin 2016.

J.-C. ROCHET et J. TIROLE : Platform competition in two-sided markets. *Journal of the European Economic Association*, 1(4):990-1029, 06 2003.

C. RUDIN : Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. *Nature Machine Intelligence*, 1:206-215, 2019.

L. SEMENOVA, C. RUDIN et R. PARR : On the existence of simpler machine learning models. *In 2022 ACM Conference on Fairness, Accountability, and Transparency*, FAccT '22, p.
A. MARKOV, Z. SELEZNYOVA et V. LAPSHIN : Credit scoring methods : Latest trends and points to consider. *The Journal of Finance and Data Science*, 8:180-201, 2022.

C. MOLNAR : *Interpretable Machine Learning*. 2019. https://christophm.github.io/interpretable-ml-book/.

C. MOLNAR, G. CASALICCHIO et B. BISCHL : Interpretable machine learning – a brief history, state-of-the-art and challenges. *arXiv*, 2022. URL https://doi.org/10.48550/arXiv.2010.09337.

S. MULLAINATHAN et J. SPIESS : Machine learning : An applied econometric approach. *Journal of Economic Perspectives*, 31:87-106, 2017.

M. OSKARSDOTTIR, C. BRAVO, C. SARRAUTE, J. VANTHIENEN et B. BAENSENS : The value of big data for credit scoring : Enhancing financial inclusion using mobile phone data and social network analytics. *Applied Soft Computing*, 74:26-39, 2019.

P. OULD : Improving IRB and RWA calculations with machine learning. *FICO Decision Blog*, February, 2022. URL https://www.fico.com/blogs/improving-irb-and-rwa-calculations-machine-learning.

L. E. PAPKE et J. M. WOOLDRIDGE : Econometric methods for fractional response variables with an application to 401(k) plan participation rates. *Journal of Applied Econometrics*, 11(6):619-632, 1996.

M. RIBEIRO, S. SINGH et C. GUESTRIN : "Why should I trust you?" : Explaining the predictions of any classifier. *In Proceedings of the 2016 Conference of the North American Chapter of the Association for Computational Linguistics : Demonstrations*, p. 97-101, juin 2016.

J.-C. ROCHET et J. TIROLE : Platform competition in two-sided markets. *Journal of the European Economic Association*, 1(4):990-1029, 06 2003.

C. RUDIN : Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. *Nature Machine Intelligence*, 1:206-215, 2019.

L. SEMENOVA, C. RUDIN et R. PARR : On the existence of simpler machine learning models. *In 2022 ACM Conference on Fairness, Accountability, and Transparency*, FAccT '22, p.
1827-1858, New York, NY, USA, 2022. Association for Computing Machinery. ISBN
9781450393522.

L. S. SHAPLEY : A value for n-person games. *In Contributions to the Theory of Games*, p. 307-317. 1953.

V. SRINIVASAN et Y. KIM : Credit granting : A comparative analysis of classification procedures. *Journal of Finance*, 42:665-683, 1987.

A. SUDJIANTO, J. QIU, M. LI et J. CHEN : Linear iterative feature embedding : An ensemble framework for interpretable model. *arXiv*, 2021. URL https://doi.org/10.48550/arXiv.2103.09983.

A. SUDJIANTO et A. ZHANG : Designing inherently interpretable machine learning models. *arXiv*, 2021. URL https://doi.org/10.48550/arXiv.2111.01743.

K. TAM et M. KIANG : Managerial applications of neural networks : The case of bank failure predictions. *Management Science*, 38:926-947, 1992.

L. THOMAS : A survey of credit and behavioural scoring : Forecasting financial risk of lending to customers. *International Journal of Forecasting*, 16:149-172, 2000.

R. TIBSHIRANI : Regression shrinkage and selection via the lasso. *Journal of the Royal Statistical Society. Series B (Methodological)*, 58(1):267-288, 1996. ISSN 00359246.

E. N. TONG, C. MUES, I. BROWN et L. C. THOMAS : Exposure at default models with and without the credit conversion factor. *European Journal of Operational Research*, 252 (3):910-920, 2016. ISSN 0377-2217.

V. VAPNIK : The nature of statistical learning theory. Springer Science & Business Media, 2013.

T. VERDONCK, B. BAESENS, M. ÓSKARSDÓTTIR et S. vanden BROUCKE : Special issue on feature engineering editorial. *Machine Learning*, 2021.

S. VERMA et J. RUBIN : Fairness Definitions Explained. In *2018 IEEE/ACM International Workshop on Software Fairness (FairWare)*, p. 1-7, 2018.
1827-1858, New York, NY, USA, 2022. Association for Computing Machinery. ISBN
9781450393522.

L. S. SHAPLEY : A value for n-person games. *In Contributions to the Theory of Games*, p. 307-317. 1953.

V. SRINIVASAN et Y. KIM : Credit granting : A comparative analysis of classification procedures. *Journal of Finance*, 42:665-683, 1987.

A. SUDJIANTO, J. QIU, M. LI et J. CHEN : Linear iterative feature embedding : An ensemble framework for interpretable model. *arXiv*, 2021. URL https://doi.org/10.48550/arXiv.2103.09983.

A. SUDJIANTO et A. ZHANG : Designing inherently interpretable machine learning models. *arXiv*, 2021. URL https://doi.org/10.48550/arXiv.2111.01743.

K. TAM et M. KIANG : Managerial applications of neural networks : The case of bank failure predictions. *Management Science*, 38:926-947, 1992.

L. THOMAS : A survey of credit and behavioural scoring : Forecasting financial risk of lending to customers. *International Journal of Forecasting*, 16:149-172, 2000.

R. TIBSHIRANI : Regression shrinkage and selection via the lasso. *Journal of the Royal Statistical Society. Series B (Methodological)*, 58(1):267-288, 1996. ISSN 00359246.

E. N. TONG, C. MUES, I. BROWN et L. C. THOMAS : Exposure at default models with and without the credit conversion factor. *European Journal of Operational Research*, 252 (3):910-920, 2016. ISSN 0377-2217.

V. VAPNIK : The nature of statistical learning theory. Springer Science & Business Media, 2013.

T. VERDONCK, B. BAESENS, M. ÓSKARSDÓTTIR et S. vanden BROUCKE : Special issue on feature engineering editorial. *Machine Learning*, 2021.

S. VERMA et J. RUBIN : Fairness Definitions Explained. In *2018 IEEE/ACM International Workshop on Software Fairness (FairWare)*, p. 1-7, 2018.
X. YAO, J. CROOK et G. ANDREEVA : Enhancing two-stage modelling methodology for loss given default with support vector machines. *European Journal of Operational Research*, 263(2):679-689, 2017. ISSN 0377-2217.

H. ZOU : The adaptive lasso and its oracle properties. *Journal of the American Statistical Association*, 101(476):1418-1429, 2006.
X. YAO, J. CROOK et G. ANDREEVA : Enhancing two-stage modelling methodology for loss given default with support vector machines. *European Journal of Operational Research*, 263(2):679-689, 2017. ISSN 0377-2217.

H. ZOU : The adaptive lasso and its oracle properties. *Journal of the American Statistical Association*, 101(476):1418-1429, 2006.