Portes LSTM et GRU
Mémorisez les dépendances à longue portée.
Portes LSTM et GRU est une leçon Deep Learning Academy gratuite sur CoddyKit. Ceci est la leçon 3 sur 4. Tu peux lire la leçon complète ci-dessous gratuitement — puis la pratiquer en direct dans le navigateur avec un éditeur de code intégré et un tuteur IA 24/7. Elle fait partie du parcours d'apprentissage Deep Learning Academy, et ta progression se synchronise sur le web et l'application CoddyKit. Le cours Deep Learning Academy comprend 4 leçons au total.
Certaines parties de cette leçon n'ont pas encore été traduites et s'affichent en anglais.
The Long-Memory Problem
Vanilla RNNs forget early clues over long sequences. Gated cells fix this by deciding what to keep, update, or throw away.
Meet the LSTM
The LSTM adds a separate cell state, a memory highway that runs straight across time with only small, controlled edits.
Gates Are Soft Switches
A gate is a sigmoid layer outputting values from 0 to 1. Zero blocks information, one lets it pass, and in between mixes the two.
gate = torch.sigmoid(W @ x + U @ h)The Forget Gate
The forget gate looks at the input and memory and chooses which parts of the old cell state to erase before adding anything new.
The Input Gate
The input gate decides how much of the fresh candidate information should be written into the cell state at this step.
The Output Gate
The output gate controls how much of the updated cell state becomes the visible hidden state passed to the next step. 🚪
Why Gates Help Gradients
Because the cell state changes gently, gradients flow back across many steps without vanishing, so the model learns long-range patterns.
Meet the GRU
The GRU is a lighter cousin: it merges gates and drops the separate cell state, giving similar power with fewer parameters.
GRU's Two Gates
A GRU uses just two gates, a reset gate and an update gate, to balance old memory against new input each step.
Drop-In in PyTorch
Both are one-liners in PyTorch. Swap nn.LSTM or nn.GRU for nn.RNN and keep almost the same training code.
lstm = nn.LSTM(input_size=10, hidden_size=20)Which to Choose?
GRUs are faster and often match LSTMs; LSTMs can edge ahead on the hardest long sequences. Try both and let your validation score decide.
Quick Check
What is the job of the forget gate in an LSTM?
Recap
LSTMs and GRUs use gates to control memory, letting gradients survive long sequences and capturing far-apart dependencies. ✅
Questions Fréquemment Posées
La leçon « Portes LSTM et GRU » est-elle gratuite ?
Oui — le texte complet de « Portes LSTM et GRU » est gratuit à lire ici sur le web. Pour la pratiquer de manière interactive (un éditeur de code intégré et un tuteur IA 24/7) et déverrouiller le reste du cours Deep Learning Academy, passe à CoddyKit PRO. Le cours Deep Learning Academy comprend 4 leçons au total.
Qu'est-ce que j'apprendrai dans « Portes LSTM et GRU » ?
Mémorisez les dépendances à longue portée. Tu pratiques Deep Learning Academy avec du code pratique que tu exécutes directement dans le navigateur, et un tuteur IA 24/7 répond à tes questions au fur et à mesure que tu avances dans la leçon.
Dois-je avoir de l'expérience pour commencer Deep Learning Academy ?
Aucune expérience préalable n'est requise. Deep Learning Academy sur CoddyKit est structuré pour les débutants jusqu'aux apprenants avancés, donc tu peux commencer ici ou depuis le début et avancer à ton rythme. Ceci est la leçon 3 sur 4.
Combien de temps prend la leçon « Portes LSTM et GRU » ?
La plupart des leçons CoddyKit prennent environ 5–10 minutes. Chacune est courte et interactive, tu progresses régulièrement et tu repiques exactement où tu t'es arrêté sur le web et l'app.
Peux-tu écrire et exécuter du code dans cette leçon Deep Learning Academy ?
Oui. Chaque leçon Deep Learning Academy inclut un éditeur de code intégré, tu écris et exécutes du vrai code directement dans ton navigateur et tu reçois des retours IA instantanés — aucune configuration locale requise.
Toutes les leçons de ce cours
- Pourquoi les séquences ont besoin de mémoire
- La cellule RNN classique
- Portes LSTM et GRU
- Regrouper les séquences et gérer le remplissage