# Approximation de la fonction de densité de probabilité d'un processus d'optimisation

Rafael Lopez, Didier Lemosse, Eduardo Souza de Cursi

► To cite this version:

Rafael Lopez, Didier Lemosse, Eduardo Souza de Cursi. Approximation de la fonction de densité de probabilité d'un processus d'optimisation. 9e Colloque national en calcul des structures, CSMA, May 2009, Giens, France. hal-01408400

HAL Id: hal-01408400

https://hal.science/hal-01408400v1

Submitted on 4 Dec 2016

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons CC BY 4.0 - Attribution - International License
# Approximation de la fonction de densité de probabilité d'un processus d'optimisation

R.H. Lopez, D. Lemosse, E.S. de Cursi

¹ Institut National des Sciences Appliquées de Rouen
Saint Etienne du Rouvray, 76800 CEDEX, France
rafaelholdorf@gmail.com
didier.lemosse@insa-rouen.fr
eduardo.souza@insa-rouen.fr

**Résumé** – Ce papier traite de la prise en compte des incertitudes dans les procédures d'optimisation. La solution est cherchée sous la forme d'une approximation de sa Fonction de Densité de Probabilités (FDP). La méthode numérique proposée estime la FDP de variable à optimiser à l'aide d'une Approximation par Polynômes de Chaos (APC). La fonctionnelle obtenue est résolue par une méthode d'approximation stochastique et validée par comparaison avec le résultat de la simulation de Monte-Carlo.

**Mots clés** – optimisation, incertitudes, non-convexe, polynômes de chaos.

## 1 Introduction

L'optimisation est devenue un sujet très important dans tous les domaines, depuis l'ingénierie jusqu'à la biologie. Parmi toutes les applications de l'optimisation, il est toutefois difficile de trouver des exemples de systèmes à optimiser qui ne comprennent pas un certain niveau d'incertitude sur les valeurs des quelques paramètres [7].

Les approches de l'optimisation prenant en compte les incertitudes ont suivi une série de principes de modélisations, comme par exemple : la minimisation de la moyenne, la réduction de la variance ou encore l'inclusion de contraintes probabilistes. Les principales techniques utilisées pour prendre en compte les incertitudes sont : la programmation stochastique, les variables flous et l'optimisation fiabiliste.

La programmation stochastique aborde la minimisation d'une ou plusieurs caractéristiques statistiques de la réponse d'un système [7]. Elle a été notamment largement appliquée à la planification de la production, à la télécommunication et à la finance pour ne citer que ces domaines. Les techniques les plus utilisées pour résoudre les problèmes de programmation stochastique sont les méthodes d'approximation stochastique[6] et les méthodes basées sur la simulation [4].

Dans le domaine de l'ingénierie, la programmation stochastique est plus connue au sens de la conception robuste [1]. Elle a comme principal objectif l'optimisation de la performance moyenne de la réponse du système et la réduction de sa variation. En plus des méthodes de résolution de la programmation stochastique, la méthode de Taguchi et les méthodes d'optimisation ont été appliquées pour résoudre ce genre de problème. La conception robuste ayant généralement au moins deux fonctions objectif (classiquement le minimisation de la moyenne et de la variance d'une variable), sa formulation est donnée sous la forme d'un problème d'optimisation multi-objectif. Pour faire face à ce type de problème, la somme
pondérée, « compromise approach » et « preference aggregation » ont été employées.

La principale différence entre la programmation stochastique et les méthodes de variables floues est la façon dont l'incertitude du système est modélisée. Dans la programmation stochastique, les incertitudes sur les paramètres sont représentées par des variables aléatoires. La seconde approche considère ces paramètres comme des variables floues et les contraintes associées comme des ensembles flous. Les deux approches peuvent être utilisées pour résoudre le même type de problème. Le choix est fondé sur les connaissances sur les incertitudes du modèle. On préfère ainsi la programmation stochastique dans les situations où l'on connaît bien les paramètres aléatoires et que l'on peut les représenter par des variables aléatoires. Et il est préférable d'utiliser les variables floues quand l'incertitude ne peut pas être facilement quantifiée.

Le but de l'optimisation fiabiliste est la minimisation d'une fonction objectif soumise à des contraintes probabilistes. L'évaluation de ces contraintes est la tâche la plus difficile de ce type d'optimisation et c'est d'ailleurs ce qui représente la majorité du temps de calcul. Cette évaluation est appelée analyse de fiabilité et il s'agit de l'approximation de la probabilité de défaillance du système. Les méthodes de fiabilité du premier et second ordres sont les techniques les plus communes pour l'évaluation de la probabilité de défaillance [5]. Elles sont basées sur l'approche de l'indice de fiabilité ou l'approche de la mesure de la performance. Ces problèmes sont résolus en utilisant soit les algorithmes classiques d'optimisation non linéaire, soit des algorithmes développés spécifiquement en profitant de la nature du problème de façon à améliorer les performances.

Toutes ces approches cherchent à déterminer ou minimiser une ou plusieurs caractéristiques statistiques de la réponse du système. Il n'a pas été trouvé dans la littérature un travail qui aborde le problème de l'identification de l'information statistique du point optimal d'une procédure d'optimisation.

Cet article présente donc une méthode afin caractériser statistiquement le point optimal d'une procédure d'optimisation. Nous cherchons ainsi à approcher la fonction densité de probabilité (FDP) de la solution optimale où les autres méthodes cherchent la solution déterministe minimisant les informations statistiques de la réponse du système. L'approximation par Polynômes de Chaos (APC) a été employée afin d'obtenir une telle fonction. Les techniques d'approximation stochastique ont été utilisées pour réaliser la minimisation de la fonctionnelle stochastique introduite. Seules les fonctions non convexes sans contraintes sont considérées dans ce travail. L'article est organisé comme suit : la section 2 présente la définition du problème. L'approximation de la FDP ainsi que la méthode d'optimisation stochastique sont présentées dans la section 3. Les résultats numériques et la validation de la méthodologie sont présentés dans la section 4. La dernière section contient les principales conclusions tirées de l'analyse.

## 2 Définition du Problème

Cette étude traite donc l'optimisation de fonctions qui dépendent de paramètres aléatoires. Ainsi pour une fonction F qui dépend d'un paramètre aléatoire b, son point optimal x* ainsi que sa valeur optimale F* ont une dépendance telle que :

$$F^* = \min F(x, b) \qquad (1)$$

$$X^* = \operatorname{Arg Min} F(x, b) \qquad (2)$$

Nous nous intéressons particulièrement à l'expression de la variable aléatoire X*, et nous avons en particulier pour objectif d'approcher sa FDP. Pour cet article on suppose que la loi de b est connue.
# 3 Approximation de la FDP

Cette section présente la méthodologie proposée afin d'approcher numériquement la FDP de $X^*$. La méthode de simulation de Monte-Carlo (SMC) est utilisée pour servir de base de validation. La méthode numérique proposée approxime la FDP de la variable à optimiser à l'aide d'une APC. Comme on cherche à résoudre les problèmes de fonctions non convexes soumises à des paramètres aléatoires, il est nécessaire d'utiliser des méthodes d'optimisation globale. C'est la méthode de perturbation aléatoire du gradient qui est utilisée ici. Les deux méthodes, la simulation et l'approximation numérique, sont décrites ci-dessous.

## 3.1 Approximation par Polynômes de Chaos (APC)

Dans cette section, nous présentons une méthode numérique d'approximation de la FDP de $X^*$. La variable $x$ de l'équation (2) peut être approchée par la relation suivante :

$$x(z) = \sum_{i=0}^{\infty} z_i \cdot \psi_i(\{\xi\}_{n=1}^{\infty}) \quad (3)$$

Les termes $\psi_i(\{\xi\}_{n=1}^{\infty})$ sont des fonctions qui dépendent d'une variable aléatoire $\xi$ dont la FDP est connue. Les termes $z_i$ sont alors les coefficients déterministes de l'expansion. Il faut noter que les variables aléatoires de l'APC peuvent avoir des caractéristiques statistiques différentes des paramètres aléatoires $b$ de la fonction à minimiser. Cependant, ici, ils sont considérés comme ayant des caractéristiques analogues. Par conséquent, l'hypothèse de base de la méthode proposée est la suivante :

$$X^* = \underset{\text{formal}}{X(b)} = \underset{\text{hypothèse}}{\sum_{i=0}^{\infty} z_i \cdot \psi_i(b)} \quad (4)$$

En d'autres termes, il est supposé que la FDP de $X^*$ peut être approchée par une expansion en termes de paramètres aléatoires $b$ qui agissent sur la fonction.

Le problème est donc maintenant d'évaluer les coefficients déterministes $z^*$ de l'APC de façon à obtenir une définition statistique du minimum de $F(...)$.

$$z^* = \arg \min F(X(z),b) = \arg \min F\left(\sum_{i=0}^{\infty} z_i \cdot \psi_i(b), b\right) \quad (5)$$

Cette dernière étant dépendante des variables aléatoires (i.e. $b$), le processus d'optimisation doit être réalisé sur une de ses caractéristiques statistiques comme par exemple sa moyenne.

$$z^* = \arg \min E \left[ F \left( \sum_{i=0}^{\infty} z_i \cdot \psi_i(b), b \right) \right] \quad (6)$$

où $E[...]$ est l'opération de moyenne. La validation de la méthode est faite en comparant ses résultats avec ceux obtenus par l'intermédiaire de la SMC détaillée ci dessous.

## 3.2 Simulation de Monte-Carlo

Les méthodes de simulation utilisant un échantillonnage et une estimation sont bien connues dans la littérature. On considère dans la pratique qu'elles fournissent la « vraie » réponse de l'optimisation. Elles sont alors utilisés comme outils d'évaluation des autres approches.
La SMC consiste tout d'abord à faire un tirage $b_n$ du paramètre aléatoire $b$. On cherche ensuite le résultat $\mathbf{x}_n^*$ de l'optimisation déterministe de la fonction $F(\mathbf{x},b_n)$. Cette procédure est répétée $n$ fois (n grand, c'est-à-dire $n \ge 10^5$) de façon à générer un échantillon de $\mathbf{x}^*$, ce qui conduit à une distribution empirique de $\mathbf{X}^*$. Cette dernière peut alors être considérée comme une approximation de la FDP de la variable aléatoire $\mathbf{X}^*$.

### 3.3 Optimisation de la fonctionnelle stochastique

L'équation (6) est résolue par une méthode d'approximation stochastique telle que la méthode de quasi-gradient [4]. Il s'agit d'un algorithme itératif de descente qui produit une suite de points

$$ \mathbf{x}_{n+1} = \text{prj}_s[\mathbf{x}_n - \rho_n \cdot \mathbf{g}_n] \quad (7) $$

jusqu'à la vérification d'un critère d'arrêt. Le pas $\rho_n$ de chaque itération est évalué par la méthode de Robbins-Monro [6] et le gradient $\mathbf{g}_n$ est approché par une méthode d'échantillonnage.

Cet algorithme converge systématiquement vers le point optimum pour les fonctions convexes [4]. Mais dans le cas qui nous intéresse, les fonctions sont non convexes. Un algorithme d'optimisation globale a donc dû être introduit pour assurer leur résolution. Nous avons choisi la méthode de Perturbation Aléatoire du Gradient (PAG) [2]. La méthode PAG a la propriété de converger quasi systématiquement vers l'optimum global, ce qui la rend particulièrement adaptée à notre étude.

## 4 Analyse numérique

En exemple d'illustration nous traitons le problème de la maximisation de la charge de flambage d'une plaque de composite stratifiée. Le stratifié est composé de 8 couches de même épaisseur. La charge de flambage est fonction de l'orientation angulaire des 8 couches. Ces orientations sont donc les variables de conception du problème. L'optimisation est posée de la façon suivante :

$$ \begin{array}{ll} \text{Maximiser:} & \text{Charge de Flambage} = \lambda_{cr}(x_j) \\ \text{sous:} & - x_j = [-90^\circ \ 90^\circ], \quad j=1...8 \end{array} \quad (8) $$

Les $x_i$ sont les orientations angulaires du stratifié. La plaque est modélisée selon la théorie classique des composites stratifiés [3]. La fonction objectif est alors :

$$ \lambda_{cr}(m,n) = \frac{\pi^2 \left[ D_{11} \left(\frac{m}{l_p}\right)^4 + 2(D_{12} + 2D_{66}) \left(\frac{m}{l_p}\right)^2 \left(\frac{n}{w_p}\right)^2 + D_{22} \left(\frac{n}{w_p}\right)^4 \right]}{\left(\frac{m}{l_p}\right)^2 N_x + \left(\frac{n}{w_p}\right)^2 N_y} \quad (9) $$

où $D_{kk}$ sont les coefficients de la matrice de rigidité à la flexion du stratifié ; m et n sont les nombres d'ondes de flexion dans le plan de la plaque (mode de flambage) ; $l_p$ et $w_p$ sont la longueur et la largeur de la plaque ; $N_x$ et $N_y$ sont les charges du stratifié ($N_x = N_y = -0.5$ N/m). Les propriétés matériaux du stratifié sont données dans le Tableau 1.

<table><caption>Tableau 1 – Propriétés matériaux du stratifié</caption><tr><td>l<sub>p</sub> = wp</td><td>1.0m</td><td>E<sub>1</sub></td><td>45 GPa</td><td>v<sub>12</sub></td><td>0.30</td></tr><tr><td>épaisseur</td><td>0.127mm</td><td>E<sub>2</sub></td><td>12 GPa</td><td>G<sub>12</sub></td><td>4.5 GPa</td></tr></table>
L'optimum global déterministe est $\mathbf{x}^*=[45 45 45 45 45 45 45]$ et $\lambda_c(\mathbf{x}^*)=42.6889$. Nous considérons que les paramètres aléatoires affectent l'orientation des angles de la manière suivante :

$$X_j = (1 - b_j) x_j, \quad j = 1 \dots 8 \qquad (10)$$

où les $b_j$ sont des variables aléatoires indépendantes de loi connue (N~(0, 0.1)). Des polynômes d'ordre un à l'ordre cinq ont été utilisés :

$$X_j = \left( z_{0j} + \sum_{i=1}^{n} z_{ij} \cdot b_j^i \right), \quad n = 1 \dots 5 \qquad (11)$$

Dans cet exemple, l'effet de l'ordre du polynôme de l'APC sur la moyenne, écart type ainsi que la kurtosis et l'asymétrie sont analysés. Comme le comportement de toutes les variables est similaire, cette analyse est uniquement présentée pour la variable $X_I$. La figure 1 montre le résultat de l'approximation de la FDP du point optimal de ce problème. L'approximation de la FDP se rapproche du résultat obtenu en utilisant la SMC lorsque le degré du polynôme d'approximation grandit. Le tableau 2, dans lequel sont synthétisées les différences (en pourcentage) entre les caractéristiques statistiques obtenues à l'aide de la SMC et les cinq APC, permet de confirmer cette conclusion de façon évidente.

Nous pouvons constater que le rapprochement de la FDP obtenue avec l'APC de premier ordre n'est pas représentatif, et en particulier pour les caractéristiques statistiques d'ordre élevé - kurtosis et asymétrie. Lorsque le degré du polynôme augmente, le résultat de l'approximation se rapproche de la valeur considérée « vraie » obtenu à l'aide de la SMC. Même la kurtosis et l'asymétrie sont bien représentées par l'APC de 4ᵉ et 5ᵉ ordres. Les résultats de cet exemple démontrent la capacité de la méthode proposée à approximer la FDP du point optimal d'un procédure d'optimisation.

<table><caption>Tableau 2 – Différence entre SMC et APC pour la variable $X_I$</caption><thead><tr><th rowspan="2"></th><th colspan="4">Différence (%)</th></tr><tr><th>Moyenne</th><th>Écart type</th><th>Kurtosis</th><th>Asymétrie</th></tr></thead><tbody><tr><td>5<sup>th</sup> ordre</td><td>0.02397</td><td>2.19629</td><td>0.42184</td><td>0.53846</td></tr><tr><td>4<sup>th</sup> ordre</td><td>0.02397</td><td>2.34007</td><td>1.28106</td><td>0.95385</td></tr><tr><td>3<sup>rd</sup> ordre</td><td>0.05366</td><td>2.45051</td><td>3.61801</td><td>6.64615</td></tr><tr><td>2<sup>nd</sup> ordre</td><td>0.05388</td><td>5.26568</td><td>10.4917</td><td>9.12308</td></tr><tr><td>1<sup>er</sup> ordre</td><td>1.04387</td><td>6.20754</td><td>22.3473</td><td>99.8923</td></tr></tbody></table>

<figure><img src="image_2.png" /></figure>
<figure><img src="image_3.png" /><figcaption>Figure 1 – FDP obtenues les méthodes SMC et APC</figcaption></figure>

**5 Conclusions**

Le rapprochement de la FPD du point optimal d'une procédure d'optimisation de fonctions non convexes a été traité dans cette communication. La méthode numérique proposée estime la FDP de la variable à optimiser à l'aide d'une Approximation par Polynômes de Chaos (APC). La fonctionnelle obtenue a été résolue par une méthode d'approximation stochastique combinée avec un algorithme d'optimisation global. La méthodologie a été validée en comparant ses résultats avec ceux de la SMC. Les résultats de l'analyse numérique ont montré que la méthode proposée a réussi à estimer la FDP du point optimal du problème d'optimisation du stratifié.

**6 Remerciements**

Le premier auteur de cette communication est accompagné financièrement dans le cadre du programme Alban, le programme de l'union Européenne pour le soutien des études supérieurs de ressortissant d'Amérique Latine, scholarship no. E07D401224BR.

**Références**

[1] H.G. Beyer and B. Sendhoff. Robust optimization – a comprehensive review. *Computer Methods in Applied Mechanics and Engineering*, 196, 3190-3218, 2006.

[2] J.E. Cursi, M.B.S. Cortes. In: Developments in Neural Networks and Evolutionary Computing for Civil and Structural Engineering, *General Genetic algorithms and simulated annealing perturbation of the gradient method with a fixed parameter*, 189-198, 1995.

[3] R.M. Jones. *Mechanics of Composite Materials*. 2nd ed, Taylor and Francis, 1999.

[4] A.J. Kleywegt, A. Shapiro. *Stochastic Optimization, 3rd Edition of the Handbook of Industrial Engineering*, John Wiley, 2001.

[5] M. Lemaire, A. Chateauneuf and J.C. Mitteau. *Fiabilite des structures*. Lavoisier, 2005.

[6] H. Robbins, S. Monro. In: *Annals of Mathematical Statistics* 22, *A stochastic approximation method*, 400-407, 1951.

[7] R. J-B Wets. Stochastic programming. In: *Handbook for Operations Research and Management Sciences*, Vol. 1, Elsevier, 1989.