Gradiënten wijzen omhoog — zet dus de andere kant op
Gebruik de helling om gewichten te verbeteren.
Gradiënten wijzen omhoog — zet dus de andere kant op is een gratis Deep Learning Academy-les op CoddyKit. Dit is les 2 van 4. Je kunt de volledige les hieronder gratis lezen en daarna in de browser praktisch oefenen met een ingebouwde code-editor en een AI-begeleider die 24/7 beschikbaar is. Deze les maakt deel uit van het leertraject Deep Learning Academy. Je voortgang wordt gesynchroniseerd op het web en in de CoddyKit-app. De cursus Deep Learning Academy bevat in totaal 4 lessen.
De helling aflezen
Om bergafwaarts te lopen, moet je eerst weten welke kant omlaag is. De gradiënt is het hulpmiddel dat je de helling van het verlies op je huidige plek vertelt.
De gradiënt wijst bergopwaarts
Dit is de verrassing: de gradiënt wijst in de richting waarin het verlies het snelst toeneemt. Hij toont je de steilste weg omhoog, niet omlaag.
Zet dus een stap de andere kant op
Omdat de gradiënt bergopwaarts wijst, beweeg je in de tegenovergestelde richting om af te dalen. Door de gradiënt af te trekken, ga je naar een lager verlies.
w = w - gradDe bijwerkregel
Deze ene regel vormt het hart van het trainen. Je vermenigvuldigt de gradiënt met een kleine stapgrootte en trekt die daarna van elk gewicht af. Herhaal dit en het verlies daalt.
w = w - lr * gradDe gradiënt is een vector
Bij veel gewichten is de gradiënt een volledige vector: één helling per gewicht. Elk gewicht krijgt een duwtje op basis van zijn eigen deel van die vector.
De grootte geeft de steilheid aan
Een grote gradiëntwaarde betekent dat het verlies in die richting erg steil is, dus dat gewicht een grotere correctie nodig heeft. Kleine waarden betekenen dat het daar bijna vlak is.
Waar de gradiënt nul is
Helemaal onderaan een dal wordt de helling vlak en wordt de gradiënt nul. Omdat er niets meer af te trekken is, stoppen de gewichten met bewegen. Je bent geconvergeerd.
Stap voor stap
Bijna nooit bereik je de bodem in één sprong. Elke stap verbetert de situatie maar een beetje, dus afdalen bestaat uit een lange reeks kleine bewegingen bergafwaarts.
De negatieve gradiënt volgen
Het pad dat je aflegt door steeds de negatieve gradiënt te volgen, is de route van de steilste afdaling. Het is de gretige kortste weg naar een lager verlies.
step = -gradWaarom aftrekken werkt
Door af te trekken beweeg je tegen de toename in, dus moet het verlies bij een voldoende kleine stap dalen. Die eenvoudige tekenomkering verandert een helling in vooruitgang.
Op weg naar automatische gradiënten
Je zult deze hellingen zelden met de hand berekenen. PyTorch's autograd vindt de gradiënt voor je, maar de regel blijft hetzelfde: trek hem af om af te dalen.
Korte controle
In welke richting wijst de gradiënt?
Samenvatting
De gradiënt wijst bergopwaarts naar een hoger verlies, dus trek je er een geschaalde versie van af om af te dalen. Herhaal die bijwerking en het model rolt naar het dal. ⬇️
Leer Python met een AI-tutor — gratis
Schrijf echte code en voer die uit in je browser, krijg direct hulp van een AI-tutor die 24/7 beschikbaar is en ga verder waar je gebleven bent op het web of in de app.
- Cursussen
- 30
- Lessen
- 120
Veelgestelde vragen
Is de les “Gradiënten wijzen omhoog — zet dus de andere kant op” gratis?
Ja — de volledige tekst van “Gradiënten wijzen omhoog — zet dus de andere kant op” kun je hier gratis op het web lezen. Als je interactief wilt oefenen met een ingebouwde code-editor en een AI-begeleider die 24/7 beschikbaar is, en de rest van de cursus Deep Learning Academy wilt ontgrendelen, kun je upgraden naar CoddyKit PRO. De cursus Deep Learning Academy bevat in totaal 4 lessen.
Wat leer ik in “Gradiënten wijzen omhoog — zet dus de andere kant op”?
Gebruik de helling om gewichten te verbeteren. Je oefent met Deep Learning Academy door code rechtstreeks in de browser uit te voeren. Een AI-begeleider die 24/7 beschikbaar is beantwoordt je vragen terwijl je de les doorwerkt.
Heb ik ervaring nodig om met Deep Learning Academy te beginnen?
Ervaring vooraf is niet nodig. Deep Learning Academy op CoddyKit is opgebouwd voor beginners tot gevorderden, zodat je hier of bij het begin kunt starten en in je eigen tempo kunt leren. Dit is les 2 van 4.
Hoe lang duurt de les “Gradiënten wijzen omhoog — zet dus de andere kant op”?
De meeste lessen van CoddyKit duren ongeveer 5–10 minuten. Elke les is kort en interactief, zodat je gestaag vooruitgaat en op het web en in de app precies verdergaat waar je was gebleven.
Kan ik code schrijven en uitvoeren in deze les over Deep Learning Academy?
Ja. Elke les over Deep Learning Academy bevat een ingebouwde code-editor, zodat je rechtstreeks in je browser echte code kunt schrijven en uitvoeren en direct feedback van AI krijgt — lokale installatie is niet nodig.
Alle lessen in deze cursus
- Loss als landschap om af te dalen
- Gradiënten wijzen omhoog — zet dus de andere kant op
- Learning rate: te groot, te klein, precies goed
- Een functie met de hand minimaliseren in Python