Optimisation proximale de politique (PPO)
Objectif substitut tronqué, estimation de l’avantage par GAE, PPO avec stable-baselines3.
Optimisation proximale de politique (PPO) est une leçon Learn AI with Python gratuite sur CoddyKit. Ceci est la leçon 3 sur 4. Tu peux lire la leçon complète ci-dessous gratuitement — puis la pratiquer en direct dans le navigateur avec un éditeur de code intégré et un tuteur IA 24/7. Elle fait partie du parcours d'apprentissage Learn AI with Python, et ta progression se synchronise sur le web et l'application CoddyKit. Le cours Learn AI with Python comprend 4 leçons au total.
Pourquoi PPO ?
PPO est aujourd'hui l'algorithme RL de référence : il est stable, efficace en matière d'échantillonnage et facile à régler. Il corrige un problème central des gradients de politique, à savoir les mises à jour trop importantes qui détruisent la politique, en limitant l'ampleur des changements de la politique à chaque mise à jour.
Le danger des grandes mises à jour
Une seule mise à jour de politique excessivement importante peut faire s'effondrer les performances et, comme RL utilise la politique courante, il est difficile de récupérer. PPO maintient chaque mise à jour proche de la politique courante afin de rester sûr.
Le ratio de probabilités
PPO suit le ratio entre les probabilités d'action nouvelles et anciennes : ratio = pi_new(a|s) / pi_old(a|s). Un ratio proche de 1 signifie que la politique a à peine changé ; un ratio éloigné de 1 indique une modification importante.
ratio = torch.exp(new_log_prob - old_log_prob)L'objectif écrêté
La particularité de PPO est son objectif de substitution écrêté. Il multiplie le ratio par l'avantage, mais écrête le ratio à [1-eps, 1+eps], supprimant ainsi toute incitation à modifier la politique de façon excessive.
clipped = torch.clamp(ratio, 1 - eps, 1 + eps)
objective = torch.min(ratio * adv, clipped * adv)
loss = -objective.mean()Le seuil epsilon d'écrêtage
eps (généralement égal à 0.2) est le seuil d'écrêtage. Il limite l'écart du ratio par rapport à 1. Ainsi, même lorsque l'avantage est important, la mise à jour de la politique reste bornée et stable.
eps = 0.2 # allow at most +/-20% change in probabilityPourquoi min() et l'écrêtage fonctionnent
Prendre le min de l'objectif écrêté et de l'objectif non écrêté rend la borne pessimiste : les améliorations au-delà de la plage d'écrêtage n'apportent aucune récompense supplémentaire, si bien que l'optimiseur n'a aucune raison de la dépasser.
Estimation généralisée de l'avantage
PPO estime les avantages avec GAE, qui combine des retours sur plusieurs étapes à l'aide des paramètres gamma et lambda. GAE établit un compromis entre biais et variance afin de fournir des estimations d'avantage régulières et fiables.
def gae(rewards, values, gamma=0.99, lam=0.95):
adv, gae_acc = [], 0
for t in reversed(range(len(rewards))):
delta = rewards[t] + gamma * values[t+1] - values[t]
gae_acc = delta + gamma * lam * gae_acc
adv.insert(0, gae_acc)
return advPlusieurs époques par lot
Contrairement à REINFORCE, PPO réutilise chaque lot de données collectées pendant plusieurs époques d'optimisation. L'écrêtage rend cette pratique sûre et améliore considérablement l'efficacité d'échantillonnage.
for _ in range(n_epochs):
# recompute ratio and clipped loss on the same batch
optimizer.zero_grad()
loss.backward()
optimizer.step()PPO avec Stable-Baselines3
En pratique, vous codez rarement PPO vous-même. Stable-Baselines3 fournit une implémentation testée. Créez-la en indiquant le type de politique, l'environnement et la verbosité, puis appelez learn.
from stable_baselines3 import PPO
model = PPO("MlpPolicy", env, verbose=1)
model.learn(total_timesteps=100_000)Utiliser l'agent entraîné
Après l'entraînement, utilisez predict pour obtenir des actions à partir de nouvelles observations. Définissez deterministic=True lors de l'évaluation afin de choisir l'action la plus probable plutôt que d'effectuer un échantillonnage.
obs, _ = env.reset()
action, _ = model.predict(obs, deterministic=True)
model.save("ppo_agent")Pourquoi PPO domine
PPO combine des mises à jour écrêtées stables, les avantages GAE et la réutilisation des données au sein d'un algorithme robuste et général qui fonctionne sur de nombreuses tâches avec un réglage minimal, ce qui explique pourquoi il est utilisé dans des domaines allant de la robotique au RLHF.
Vérification rapide
Testez votre compréhension de PPO.
Récapitulatif : PPO
Vous avez appris l'objectif de substitution écrêté de PPO, qui utilise le ratio de probabilités et un seuil d'écrêtage eps pour borner les mises à jour, ainsi que GAE pour estimer l'avantage et réutiliser les données sur plusieurs époques. Vous l'avez exécuté facilement avec PPO("MlpPolicy", env, verbose=1) dans Stable-Baselines3.
Questions Fréquemment Posées
La leçon « Optimisation proximale de politique (PPO) » est-elle gratuite ?
Oui — le texte complet de « Optimisation proximale de politique (PPO) » est gratuit à lire ici sur le web. Pour la pratiquer de manière interactive (un éditeur de code intégré et un tuteur IA 24/7) et déverrouiller le reste du cours Learn AI with Python, passe à CoddyKit PRO. Le cours Learn AI with Python comprend 4 leçons au total.
Qu'est-ce que j'apprendrai dans « Optimisation proximale de politique (PPO) » ?
Objectif substitut tronqué, estimation de l’avantage par GAE, PPO avec stable-baselines3. Tu pratiques Learn AI with Python avec du code pratique que tu exécutes directement dans le navigateur, et un tuteur IA 24/7 répond à tes questions au fur et à mesure que tu avances dans la leçon.
Dois-je avoir de l'expérience pour commencer Learn AI with Python ?
Aucune expérience préalable n'est requise. Learn AI with Python sur CoddyKit est structuré pour les débutants jusqu'aux apprenants avancés, donc tu peux commencer ici ou depuis le début et avancer à ton rythme. Ceci est la leçon 3 sur 4.
Combien de temps prend la leçon « Optimisation proximale de politique (PPO) » ?
La plupart des leçons CoddyKit prennent environ 5–10 minutes. Chacune est courte et interactive, tu progresses régulièrement et tu repiques exactement où tu t'es arrêté sur le web et l'app.
Peux-tu écrire et exécuter du code dans cette leçon Learn AI with Python ?
Oui. Chaque leçon Learn AI with Python inclut un éditeur de code intégré, tu écris et exécutes du vrai code directement dans ton navigateur et tu reçois des retours IA instantanés — aucune configuration locale requise.
Toutes les leçons de ce cours
- Méthodes de gradient de politique : REINFORCE
- Méthodes acteur-critique (A2C)
- Optimisation proximale de politique (PPO)
- Environnements Gymnasium personnalisés