Effondrement des modes et astuces de stabilisation
Diagnostiquez et corrigez l’entraînement instable d’un GAN.
Effondrement des modes et astuces de stabilisation est une leçon Deep Learning Academy gratuite sur CoddyKit. Ceci est la leçon 4 sur 4. Tu peux lire la leçon complète ci-dessous gratuitement — puis la pratiquer en direct dans le navigateur avec un éditeur de code intégré et un tuteur IA 24/7. Elle fait partie du parcours d'apprentissage Deep Learning Academy, et ta progression se synchronise sur le web et l'application CoddyKit. Le cours Deep Learning Academy comprend 4 leçons au total.
Certaines parties de cette leçon n'ont pas encore été traduites et s'affichent en anglais.
GANs Are Hard to Train
GANs are powerful but notoriously fragile. Two networks chasing each other can swing, stall, or collapse. Knowing the failure modes saves you hours. 🧯
What Is Mode Collapse
Mode collapse happens when the generator produces only a few outputs that reliably fool the judge, ignoring the full variety of the real data.
Spotting the Collapse
You spot it when generated samples all look nearly identical, even though your real dataset is rich and diverse. Variety has vanished.
When the Judge Wins Too Fast
If the discriminator gets too strong too quickly, its gradients dry up and the generator stops learning. Balance between the two is everything.
Trick: Label Smoothing
Label smoothing softens the real target from 1.0 to about 0.9. This keeps the discriminator humble and its gradients useful.
real_label = 0.9Trick: Add Input Noise
Adding a little noise to the discriminator's inputs makes its job slightly harder, which steadies the training game and reduces collapse.
noisy = real + 0.05 * torch.randn_like(real)Trick: Tune the Optimizer
The DCGAN paper uses Adam with a low learning rate and beta1 set to 0.5. These settings are a reliable starting point.
Adam(params, lr=2e-4, betas=(0.5, 0.999))Trick: Minibatch Diversity
Minibatch features let the discriminator compare samples within a batch. If they all look the same, it notices, punishing collapse directly.
Trick: Wasserstein Loss
The Wasserstein loss with gradient penalty gives smoother signals than plain cross-entropy, making notoriously unstable GANs far easier to train.
Keep the Two Balanced
Aim for a fair fight. If one network dominates, slow it down or update the other more often. Balance beats any single trick.
Judge by Diversity Too
A healthy GAN makes images that are both sharp and varied. Always check that different latent vectors give genuinely different outputs.
Quick Check
Recognizing the symptom is half the cure.
Recap: Stabilizing GANs
You learned to spot mode collapse and to fight it with label smoothing, input noise, tuned Adam, and a balanced generator-discriminator duo. 💪
Questions Fréquemment Posées
La leçon « Effondrement des modes et astuces de stabilisation » est-elle gratuite ?
Oui — le texte complet de « Effondrement des modes et astuces de stabilisation » est gratuit à lire ici sur le web. Pour la pratiquer de manière interactive (un éditeur de code intégré et un tuteur IA 24/7) et déverrouiller le reste du cours Deep Learning Academy, passe à CoddyKit PRO. Le cours Deep Learning Academy comprend 4 leçons au total.
Qu'est-ce que j'apprendrai dans « Effondrement des modes et astuces de stabilisation » ?
Diagnostiquez et corrigez l’entraînement instable d’un GAN. Tu pratiques Deep Learning Academy avec du code pratique que tu exécutes directement dans le navigateur, et un tuteur IA 24/7 répond à tes questions au fur et à mesure que tu avances dans la leçon.
Dois-je avoir de l'expérience pour commencer Deep Learning Academy ?
Aucune expérience préalable n'est requise. Deep Learning Academy sur CoddyKit est structuré pour les débutants jusqu'aux apprenants avancés, donc tu peux commencer ici ou depuis le début et avancer à ton rythme. Ceci est la leçon 4 sur 4.
Combien de temps prend la leçon « Effondrement des modes et astuces de stabilisation » ?
La plupart des leçons CoddyKit prennent environ 5–10 minutes. Chacune est courte et interactive, tu progresses régulièrement et tu repiques exactement où tu t'es arrêté sur le web et l'app.
Peux-tu écrire et exécuter du code dans cette leçon Deep Learning Academy ?
Oui. Chaque leçon Deep Learning Academy inclut un éditeur de code intégré, tu écris et exécutes du vrai code directement dans ton navigateur et tu reçois des retours IA instantanés — aucune configuration locale requise.
Toutes les leçons de ce cours
- Générateur ou discriminateur : le jeu
- La perte antagoniste
- Construire un DCGAN
- Effondrement des modes et astuces de stabilisation