# Optimisation de politique proximale

L'optimisation de politique proximale (PPO en anglais dans la littérature) est un algorithme dans le domaine de l'apprentissage par renforcement qui entraîne la fonction de décision d'un agent informatique à accomplir des tâches difficiles. PPO a été développé par John Schulman en 2017 et était devenu l'algorithme d'apprentissage par renforcement par défaut de la société américaine d'intelligence artificielle OpenAI. En 2018, PPO a remporté de nombreux succès, tels que le contrôle d'un bras robotique, la victoire contre des joueurs professionnels de Dota 2 et d'excellentes performances sur les jeux Atari. PPO est considérée comme l'état de l'art dans les méthodes d'apprentissage par renforcement car elle allie performance et compréhension. Par rapport à d'autres algorithmes, les trois principaux avantages de PPO sont la simplicité, la stabilité et l'efficacité d’échantillonnage.
PPO est classé comme une méthode à gradient de politique pour former le réseau de la politique d'un agent. Le réseau est la fonction que l'agent utilise pour prendre des décisions. Essentiellement, pour trouver la politique appropriée au problème, PPO effectue une petite modification de la politique de référence (proportionnelle à la taille du pas), afin que l'agent puisse atteindre de manière fiable la solution optimale. Un pas trop important risque d’orienter la politique dans la mauvaise direction, avec ainsi peu de chances de recouvrement; un pas trop petit réduit l’efficacité algorithmique globalement. Par conséquent, PPO implémente un écrêtage qui empêche la mise à jour de la politique d'un agent d'être trop grande ou trop petite.

## Développement

L'apprentissage par renforcement (RL en anglais dans la littérature), auquel appartient l'optimisation de politique proximale, a ses racines dans la psychologie et les neurosciences. Comparé à d’autres domaines de l’apprentissage automatique, l’apprentissage par renforcement imite fidèlement le type d’apprentissage effectué par les humains et les autres animaux. Nombreux algorithmes fondamentaux, y compris PPO, s'inspirent à l'origine des systèmes d'apprentissage biologique, comme l'apprentissage par essais et erreurs du psychologue Edward Thorndike (1913)$^,$.
En 2015, John Schulman a introduit l'optimisation de politique en intervalle de confiance (TRPO en anglais dans la littérature) comme version antérieure de PPO. TRPO a résolu le problème d'instabilité trouvé dans l'algorithme précédent, les réseaux de Q-valeurs profonds (DQN en anglais dans la littérature), en utilisant la contrainte de région de confiance pour réguler la divergence KL entre l'ancienne et la nouvelle politique. Cependant, TRPO est complexe sur le plan calculatoire et inefficace en raison de son optimisation de second ordre, ce qui conduit à une mise en œuvre coûteuse et difficile pour des problèmes à grande échelle$^,$.
En 2017, John Schulman a résolu le problème de complexité de TRPO en adoptant l'optimisation de premier ordre dans le PPO. Schulman et ses équipes ont conçu un mécanisme d'écrêtage qui interdit à la nouvelle politique de s'écarter de manière significative de l'ancienne lorsque le rapport des vraisemblances est hors de la plage d'écrêtage$^,$. En d’autres termes, le PPO modifie la fonction objectif de TRPO en sanctionnant les mises à jour politiques trop importantes. En outre, PPO supprime les contraintes complexes de la région de confiance et utilise à la place la fonction d'écrêtage . En conséquence, PPO améliore les performances et la mise en œuvre sur la base du cadre de TRPO.

## Avantages
### Simplicité

PPO se rapproche de TRPO en étant calculatoirement plus simple. Elle utilise l'optimisation de premier ordre pour contraindre la mise à jour de la politique, tandis que TRPO utilise des contraintes de divergence KL en outre de la fonction objectif (optimisation de second ordre). Par rapport à TRPO, la méthode PPO est relativement simple à mettre en œuvre et prend moins de temps de calcul. Par conséquent, il est moins coûteux et plus efficace d’utiliser le PPO pour résoudre des problèmes à grande échelle.

### Stabilité

Alors que d'autres algorithmes d'apprentissage par renforcement nécessitent un réglage des hyperparamètres, PPO ne nécessite pas nécessairement un réglage des hyperparamètres ou de techniques d’optimisation sophistiquées. Il peut être facilement mis en place avec des librairies standards d’apprentissage profond et généralisé à un large éventail de tâches.

### Efficacité d’échantillonnage

L'efficacité d’échantillonnage caractérise le besoin en données pour atteindre une politique satisfaisante. Les algorithmes régis par politique, notamment PPO et TRPO, ont généralement un faible niveau d’efficacité d’échantillonnage. Les objectifs secondaires de PPO permettent d’éviter que la nouvelle politique ne s’éloigne trop de l’ancienne politique : la fonction clip régularise la mise à jour de la politique et réutilise les données d'entraînement, ce qui permet une meilleur efficacité d’échantillonnage en ne conservant que l'information nécessaire. L’efficacité des échantillons est particulièrement utile pour les tâches complexes et en grandes dimensions, où la collecte de données et le temps de calcul peuvent être coûteux.