# Optimisation bayésienne

L'Optimisation bayésienne est une stratégie de conception séquentielle pour l'optimisation globale de fonctions boîte noire$^,$$^,$, qui ne présume aucune forme fonctionnelle. Elle est généralement employée pour optimiser des fonctions coûteuses à évaluer. Avec l'essor de l'intelligence artificielle au XXIe siècle, les optimisations bayésiennes trouvent une utilisation marquante dans des problèmes d'apprentissage automatique pour optimiser les valeurs d'hyperparamètre$^,$.

## Historique

Le terme est généralement attribué à Jonas Mockus et se trouve dans son travail issu d'une série de publications sur l'optimisation globale dans les années 1970 et 1980$^,$$^,$

## Stratégie

L'optimisation bayésienne est typiquement utilisée pour des problèmes de la forme max$_{x∈A}$f(x){\textstyle \max _{x\in A}f(x)}, où A{\textstyle A} est un ensemble de points, x{\textstyle x}, qui reposent sur au plus 20 dimensions (R$^d$, d≤20{\textstyle \mathbb {R} ^{d}, d\leq 20}) et dont l'appartenance s'évalue facilement. L'optimisation bayésienne présente un avantage particulier pour des problèmes où f(x){\textstyle f(x)} est difficile à évaluer en raison de son coût computationnel. La fonction objectif, f{\textstyle f}, est continue et prend la forme d'une structure inconnue, qualifiée de "boîte noire". Lors de son évaluation, seule f(x){\textstyle f(x)} s'observe et ses dérivées ne s'évaluent pas.
Puisque la fonction objectif est inconnue, la stratégie bayésienne consiste à la traiter comme une fonction aléatoire et à lui appliquer un prior. Le prior capte les croyances concernant le comportement de la fonction. Après la collecte des évaluations de la fonction, traitées comme des données, le prior se met à jour pour former la distribution a posteriori sur la fonction objectif. La distribution a posteriori s'utilise ensuite pour construire une fonction d'acquisition (souvent également appelée critère d'échantillonnage complémentaire) qui détermine le prochain point d'interrogation.
Il existe plusieurs méthodes pour définir la distribution a priori/a posteriori sur la fonction objectif. Les deux méthodes les plus courantes utilisent des processus gaussiens dans une méthode appelée krigeage. Une autre méthode moins coûteuse s'emploie avec l'estimation par arbre de Parzen pour construire deux distributions pour les points « élevés » et « bas », puis trouve l'emplacement qui maximise l'amélioration attendue.
L'optimisation bayésienne standard repose sur la facilité d'évaluation de chaque $x\in A$ et les problèmes qui dévient de cette hypothèse sont connus sous le nom de problèmes d'« optimisation bayésienne exotique ». Les problèmes d'optimisation deviennent exotiques s'il s'avère qu'il existe du bruit, que les évaluations s'effectuent en parallèle, que la qualité des évaluations repose sur un compromis entre difficulté et précision, sur la présence de conditions environnementales aléatoires ou si l'évaluation implique des dérivées.

## Fonctions d'acquisition

Des exemples de fonctions d'acquisition comprennent
* la probabilité d'amélioration,
* l'amélioration attendue,
* les pertes bayésiennes attendues,
* les bornes de confiance supérieures (UCB) ou inférieures,
* échantillonnage de Thompson,
et leurs hybrides. Elles équilibrent le dilemme exploration–exploitation afin de minimiser le nombre d'interrogations de la fonction. Ainsi, l'optimisation bayésienne convient particulièrement aux fonctions coûteuses à évaluer.

## Méthodes de résolution

Le maximum de la fonction d'acquisition se trouve typiquement en recourant à la discrétisation ou par l'intermédiaire d'un optimiseur auxiliaire. Les fonctions d'acquisition se maximisent en utilisant une technique d'optimisation numérique, telle que la méthode de Newton en optimisation ou des méthodes quasi-Newton comme l'algorithme Broyden–Fletcher–Goldfarb–Shanno.

## Applications

L'approche s'applique à une large gamme de problèmes, y compris l'apprentissage par classement, l'infographie et design visuel$^,$$^,$, la robotique$^,$$^,$$^,$, les réseaux de capteurs$^,$ ; la configuration automatique d'algorithmes$^,$, l'AutoML$^,$$^,$, l'apprentissage par renforcement ; planification, attention visuelle, configuration d'architecture dans l'apprentissage profond, analyse statique de programme, physique expérimentale des particules$^,$ ; optimisation de la diversité-qualité$^,$$^,$ ; chimie, conception de matériaux et développement de médicaments$^,$.
L'optimisation bayésienne s'applique dans le domaine de la reconnaissance faciale. La performance de l'algorithme Histogram of Oriented Gradients (HOG), méthode populaire d'extraction de caractéristiques, repose fortement sur ses paramètres. Optimiser ces paramètres s'avère difficile mais crucial pour atteindre une haute précision. Une approche novatrice pour optimiser les paramètres de l'algorithme HOG et la taille d'image pour la reconnaissance faciale, utilisant une technique d'optimisation bayésienne basée sur l'estimation par arbre de Parzen (TPE), est proposée. Cette approche optimisée a le potentiel d'être adaptée à d'autres applications en vision par ordinateur et contribue au développement continu des algorithmes d'extraction de caractéristiques élaborés manuellement en vision par ordinateur.