Deep Learning Academy · Урок

Коллапс мод и стабилизация

Диагностируйте и исправляйте нестабильное обучение GAN

«Коллапс мод и стабилизация» — бесплатный урок Deep Learning Academy на CoddyKit. Это урок 4 из 4. Ты можешь прочитать весь урок бесплатно ниже — а потом практиковать его прямо в браузере с встроенным редактором кода и ИИ-репетитором 24/7. Это часть пути обучения Deep Learning Academy, и твой прогресс синхронизируется между веб-версией и приложением CoddyKit. Курс Deep Learning Academy содержит 4 уроков всего.

Части этого урока еще не переведены и отображаются на английском.

GANs Are Hard to Train

GANs are powerful but notoriously fragile. Two networks chasing each other can swing, stall, or collapse. Knowing the failure modes saves you hours. 🧯

What Is Mode Collapse

Mode collapse happens when the generator produces only a few outputs that reliably fool the judge, ignoring the full variety of the real data.

Spotting the Collapse

You spot it when generated samples all look nearly identical, even though your real dataset is rich and diverse. Variety has vanished.

When the Judge Wins Too Fast

If the discriminator gets too strong too quickly, its gradients dry up and the generator stops learning. Balance between the two is everything.

Trick: Label Smoothing

Label smoothing softens the real target from 1.0 to about 0.9. This keeps the discriminator humble and its gradients useful.

real_label = 0.9

Trick: Add Input Noise

Adding a little noise to the discriminator's inputs makes its job slightly harder, which steadies the training game and reduces collapse.

noisy = real + 0.05 * torch.randn_like(real)

Trick: Tune the Optimizer

The DCGAN paper uses Adam with a low learning rate and beta1 set to 0.5. These settings are a reliable starting point.

Adam(params, lr=2e-4, betas=(0.5, 0.999))

Trick: Minibatch Diversity

Minibatch features let the discriminator compare samples within a batch. If they all look the same, it notices, punishing collapse directly.

Trick: Wasserstein Loss

The Wasserstein loss with gradient penalty gives smoother signals than plain cross-entropy, making notoriously unstable GANs far easier to train.

Keep the Two Balanced

Aim for a fair fight. If one network dominates, slow it down or update the other more often. Balance beats any single trick.

Judge by Diversity Too

A healthy GAN makes images that are both sharp and varied. Always check that different latent vectors give genuinely different outputs.

Quick Check

Recognizing the symptom is half the cure.

Recap: Stabilizing GANs

You learned to spot mode collapse and to fight it with label smoothing, input noise, tuned Adam, and a balanced generator-discriminator duo. 💪

Часто задаваемые вопросы

Урок «Коллапс мод и стабилизация» бесплатный?

Да — полный текст урока «Коллапс мод и стабилизация» бесплатно доступен здесь в веб-версии. Чтобы практиковать его интерактивно (встроенный редактор кода и ИИ-репетитор 24/7) и разблокировать остальной курс Deep Learning Academy, подпишись на CoddyKit PRO. Курс Deep Learning Academy содержит 4 уроков всего.

Чему я научусь в уроке «Коллапс мод и стабилизация»?

Диагностируйте и исправляйте нестабильное обучение GAN Ты практикуешь Deep Learning Academy с помощью реального кода, который запускаешь прямо в браузере, и ИИ-репетитор 24/7 отвечает на твои вопросы во время урока.

Нужен ли мне опыт, чтобы начать Deep Learning Academy?

Предыдущий опыт не требуется. Deep Learning Academy на CoddyKit структурирован для всех уровней — от новичков до продвинутых, поэтому ты можешь начать отсюда или с самого начала и учиться в своем темпе. Это урок 4 из 4.

Сколько времени занимает урок «Коллапс мод и стабилизация»?

Большинство уроков CoddyKit занимают около 5–10 минут. Каждый из них компактный и интерактивный, поэтому ты постоянно делаешь прогресс и продолжаешь с того же места в веб-версии и приложении.

Можно ли писать и запускать код в этом уроке Deep Learning Academy?

Да. Каждый урок Deep Learning Academy включает встроенный редактор кода, поэтому ты пишешь и запускаешь реальный код прямо в браузере и получаешь моментальную обратную связь от AI — локальная установка не требуется.

Все уроки этого курса

← Назад к Deep Learning Academy