# Mètode d'entropia creuada

El mètode d'entropia creuada ( CE ) és un mètode de Montecarlo per al mostreig d'importància i l'optimització. És aplicable tant a problemes combinatoris com continus, amb un objectiu estàtic o sorollós.
El mètode aproxima l'estimador de mostreig d'importància òptima repetint dues fases:
* Treu una mostra d'una distribució de probabilitat.
* Minimitzar l'entropia creuada entre aquesta distribució i una distribució objectiu per produir una millor mostra en la següent iteració.
Reuven Rubinstein va desenvolupar el mètode en el context de la simulació d'esdeveniments rars, on s'han d'estimar probabilitats minúscules, per exemple en l'anàlisi de la fiabilitat de la xarxa, els models de cua o l'anàlisi del rendiment dels sistemes de telecomunicacions. El mètode també s'ha aplicat als problemes del venedor ambulant, l'assignació quadràtica, l'alineació de la seqüència d'ADN, el tall màxim i l'assignació del buffer.

## Estimació mitjançant mostreig d'importància

Considereu el problema general d'estimar la quantitat
on $H$ és alguna funció de rendiment i $f(\mathbf {x} ;\mathbf {u} )$ és un membre d'alguna família paramètrica de distribucions. Utilitzant el mostreig d'importància aquesta quantitat es pot estimar com
${\hat {\ell }}={\frac {1}{N}}\sum _{i=1}^{N}H(\mathbf {X} _{i}){\frac {f(\mathbf {X} _{i};\mathbf {u} )}{g(\mathbf {X} _{i})}}$
on $\mathbf {X} _{1},\dots ,\mathbf {X} _{N}$ és una mostra aleatòria de $g\,$. Per positiu $H$, la densitat de mostreig d'importància teòricament òptima (PDF) ve donada per
$g^{*}(\mathbf {x} )=H(\mathbf {x} )f(\mathbf {x} ;\mathbf {u} )/\ell$
Això, però, depèn de la desconeguda $\ell$. El mètode CE té com a objectiu aproximar el PDF òptim seleccionant de manera adaptativa els membres de la família paramètrica més propers (en el sentit de Kullback-Leibler ) al PDF òptim. $g^{*}$.

## Algorisme genèric CE

* Trieu el vector del paràmetre inicial $\mathbf {v} ^{(0)}$ ; establir t = 1.
* Generar una mostra aleatòria $\mathbf {X} _{1},\dots ,\mathbf {X} _{N}$ des de $f(\cdot ;\mathbf {v} ^{(t-1)})$
* Resol per $\mathbf {v} ^{(t)}$, on
$\mathbf {v} ^{(t)}=\mathop {\textrm {argmax}} _{\mathbf {v} }{\frac {1}{N}}\sum _{i=1}^{N}H(\mathbf {X} _{i}){\frac {f(\mathbf {X} _{i};\mathbf {u} )}{f(\mathbf {X} _{i};\mathbf {v} ^{(t-1)})}}\log f(\mathbf {X} _{i};\mathbf {v} )$
4. Si s'aconsegueix la convergència, atureu-vos ; en cas contrari, augmenta t en 1 i repeteix des del pas 2.
En diversos casos, la solució al pas 3 es pot trobar analíticament. Les situacions en què això passa són
* Quan $f\,$ pertany a la família exponencial natural
* Quan $f\,$ és discret amb suport finit
* Quan $H(\mathbf {X} )=\mathrm {I} _{\{\mathbf {x} \in A\}}$ i $f(\mathbf {X} _{i};\mathbf {u} )=f(\mathbf {X} _{i};\mathbf {v} ^{(t-1)})$, doncs $\mathbf {v} ^{(t)}$ correspon a l'estimador de màxima versemblança basat en aquests $\mathbf {X} _{k}\in A$.

## Optimització contínua — exemple

El mateix algorisme CE es pot utilitzar per a l'optimització, en lloc d'estimar. Suposem que el problema és maximitzar alguna funció $S$, per exemple, $S(x)={\textrm {e}}^{-(x-2)^{2}}+0.8\,{\textrm {e}}^{-(x+2)^{2}}$. Per aplicar CE, primer es considera el problema estocàstic associat de l'estimació $\mathbb {P} _{\boldsymbol {\theta }}(S(X)\geq \gamma )$ per a un nivell determinat $\gamma \,$, i família paramètrica $\left\{f(\cdot ;{\boldsymbol {\theta }})\right\}$, per exemple la distribució gaussiana unidimensional, parametritzada per la seva mitjana $\mu _{t}\,$ i la variància $\sigma _{t}^{2}$ (així ${\boldsymbol {\theta }}=(\mu ,\sigma ^{2})$ aquí). Per tant, per un fet $\gamma \,$, l'objectiu és trobar ${\boldsymbol {\theta }}$ de manera que $D_{\mathrm {KL} }({\textrm {I}}_{\{S(x)\geq \gamma \}}\|f_{\boldsymbol {\theta }})$ es minimitza. Això es fa resolent la versió de mostra (contrapart estocàstica) del problema de minimització de la divergència KL, com al pas 3 anterior. Resulta que els paràmetres que minimitzen la contrapartida estocàstica per a aquesta elecció de distribució objectiu i família paramètrica són la mitjana mostral i la variància mostral corresponents a les mostres d'elit, que són aquelles mostres que tenen valor de funció objectiu. $\geq \gamma$. La pitjor de les mostres d'elit s'utilitza com a paràmetre de nivell per a la següent iteració. Això produeix el següent algorisme aleatoritzat que coincideix amb l'anomenat Estimation of Multivariate Normal Algorithm (EMNA), un algorisme d'estimació de distribució.

## Referències

* ↑ «[https://web.mit.edu/6.454/www/www_fall_2003/gew/CEtutorial.pdf A Tutorial on the Cross-Entropy Method]» (en anglès). [Consulta: 31 gener 2025].
* ↑ «The Cross-Entropy Method for Optimization» (en anglès). [Consulta: 31 gener 2025].
* ↑ Botev, Zdravko I.; Kroese, Dirk P.; Rubinstein, Reuven Y.; L’Ecuyer, Pierre. Chapter 3 - The Cross-Entropy Method for Optimization. 31. Elsevier, 2013, p. 35–59.
* ↑ de Boer, Pieter-Tjerk; Kroese, Dirk P.; Mannor, Shie; Rubinstein, Reuven Y. «A Tutorial on the Cross-Entropy Method» (en anglès). Annals of Operations Research, 134, 1, 01-02-2005, pàg. 19–67. DOI: 10.1007/s10479-005-5724-z. ISSN: 1572-9338.