Les gradients pointent vers le haut : avancez donc dans l’autre sens
Utilisez la pente pour améliorer les poids.
Les gradients pointent vers le haut : avancez donc dans l’autre sens est une leçon Deep Learning Academy gratuite sur CoddyKit. Ceci est la leçon 2 sur 4. Tu peux lire la leçon complète ci-dessous gratuitement — puis la pratiquer en direct dans le navigateur avec un éditeur de code intégré et un tuteur IA 24/7. Elle fait partie du parcours d'apprentissage Deep Learning Academy, et ta progression se synchronise sur le web et l'application CoddyKit. Le cours Deep Learning Academy comprend 4 leçons au total.
Lire la pente
Pour descendre, vous devez d’abord savoir dans quelle direction aller. Le gradient est l’outil qui vous indique la pente de la perte à l’endroit où vous vous trouvez.
Le gradient pointe vers le haut
Voici la surprise : le gradient pointe dans la direction où la perte augmente le plus rapidement. Il indique le chemin le plus escarpé vers le haut, et non vers le bas.
Avancez donc dans l’autre direction
Puisque le gradient pointe vers le haut, vous devez vous déplacer dans la direction opposée pour descendre. Soustraire le gradient vous dirige vers une perte plus faible.
w = w - gradLa règle de mise à jour
Cette ligne est au cœur de l’entraînement. Vous multipliez le gradient par une petite taille de pas, puis vous le soustrayez de chaque poids. Répétez l’opération et la perte diminue.
w = w - lr * gradLe gradient est un vecteur
Avec de nombreux poids, le gradient est un vecteur complet : une pente par poids. Chaque poids est légèrement modifié par la composante correspondante de ce vecteur.
La norme indique la pente
Une grande valeur du gradient signifie que la perte est très raide dans cette direction ; le poids concerné nécessite donc une correction plus importante. De petites valeurs indiquent que le terrain est presque plat à cet endroit.
Là où le gradient est nul
Au fond d’une vallée, la pente s’aplatit et le gradient devient nul. Comme il n’y a plus rien à soustraire, les poids cessent de bouger. Vous avez convergé.
Un pas après l’autre
Vous atteignez presque jamais le fond en un seul saut. Chaque pas n’améliore la situation que légèrement ; la descente est donc une longue série de petits déplacements vers le bas.
Suivre le gradient négatif
Le chemin que vous suivez en vous dirigeant toujours selon le gradient négatif est celui de la descente la plus raide. C’est le raccourci glouton vers une perte plus faible.
step = -gradPourquoi la soustraction fonctionne
Soustraire vous déplace dans le sens opposé à l’augmentation ; la perte doit donc diminuer si le pas est suffisamment petit. Ce simple changement de signe transforme une pente en progression.
Vers les gradients automatiques
Vous calculerez rarement ces pentes à la main. La différentiation automatique de PyTorch trouve le gradient pour vous, mais la règle reste la même : soustrayez-le pour descendre.
Vérification rapide
Dans quelle direction le gradient pointe-t-il ?
Récapitulatif
Le gradient pointe vers le haut, en direction d’une perte plus élevée ; vous devez donc en soustraire une version multipliée par un facteur pour descendre. Répétez cette mise à jour et le modèle avance vers la vallée. ⬇️
Apprends Python avec un tuteur IA — gratuit
Écris et exécute du vrai code dans ton navigateur, obtiens de l'aide instantanée d'un tuteur IA disponible 24h/24, et reprends là où tu t'es arrêté sur le web ou dans l'app.
- Cours
- 30
- Leçons
- 120
Questions Fréquemment Posées
La leçon « Les gradients pointent vers le haut : avancez donc dans l’autre sens » est-elle gratuite ?
Oui — le texte complet de « Les gradients pointent vers le haut : avancez donc dans l’autre sens » est gratuit à lire ici sur le web. Pour la pratiquer de manière interactive (un éditeur de code intégré et un tuteur IA 24/7) et déverrouiller le reste du cours Deep Learning Academy, passe à CoddyKit PRO. Le cours Deep Learning Academy comprend 4 leçons au total.
Qu'est-ce que j'apprendrai dans « Les gradients pointent vers le haut : avancez donc dans l’autre sens » ?
Utilisez la pente pour améliorer les poids. Tu pratiques Deep Learning Academy avec du code pratique que tu exécutes directement dans le navigateur, et un tuteur IA 24/7 répond à tes questions au fur et à mesure que tu avances dans la leçon.
Dois-je avoir de l'expérience pour commencer Deep Learning Academy ?
Aucune expérience préalable n'est requise. Deep Learning Academy sur CoddyKit est structuré pour les débutants jusqu'aux apprenants avancés, donc tu peux commencer ici ou depuis le début et avancer à ton rythme. Ceci est la leçon 2 sur 4.
Combien de temps prend la leçon « Les gradients pointent vers le haut : avancez donc dans l’autre sens » ?
La plupart des leçons CoddyKit prennent environ 5–10 minutes. Chacune est courte et interactive, tu progresses régulièrement et tu repiques exactement où tu t'es arrêté sur le web et l'app.
Peux-tu écrire et exécuter du code dans cette leçon Deep Learning Academy ?
Oui. Chaque leçon Deep Learning Academy inclut un éditeur de code intégré, tu écris et exécutes du vrai code directement dans ton navigateur et tu reçois des retours IA instantanés — aucune configuration locale requise.
Toutes les leçons de ce cours
- La perte comme paysage à parcourir
- Les gradients pointent vers le haut : avancez donc dans l’autre sens
- Taux d’apprentissage : trop grand, trop petit ou idéal
- Minimiser une fonction à la main en Python