Chiami backward() per ottenere i gradienti
Valorizzi .grad con una sola riga
Chiami backward() per ottenere i gradienti è una lezione Deep Learning Academy gratuita su CoddyKit. Questa è la lezione 2 di 4. Puoi leggere la lezione completa qui gratuitamente — poi esercitati direttamente nel browser con un editor di codice integrato e un tutor IA disponibile 24/7. Fa parte del percorso di apprendimento Deep Learning Academy, e i tuoi progressi si sincronizzano tra il web e l'app CoddyKit. Il corso Deep Learning Academy include 4 lezioni in totale.
Una riga per derivare
Una volta costruito il grafo, una sola chiamata esegue tutti i calcoli differenziali. Esegua backward() sul risultato e i gradienti risaliranno fino a ogni input.
Si parte da uno scalare
Si chiama backward sul numero finale che si desidera minimizzare, di solito la loss. Deve essere un unico scalare, così autograd sa da dove iniziare.
y = x ** 2
y.backward()I gradienti finiscono in .grad
Dopo l'esecuzione di backward, il .grad di ogni tensore foglia contiene la derivata dell'output rispetto a quel tensore. I calcoli sono già stati eseguiti.
print(x.grad)Una rapida verifica a mano
Per y uguale a x al quadrato, il calcolo differenziale dice che la derivata è 2x. Per x uguale a 2, quindi, è 4 e PyTorch inserisce esattamente 4.0 in x.grad.
Backward percorre il grafo
backward() percorre il grafo dall'output agli input, applicando la regola della catena a ogni nodo. Lei ha scritto solo la matematica del forward e ha ottenuto tutto questo gratuitamente.
Gradienti per più input
Se l'output dipende da diversi tensori tracciati, una sola chiamata a backward riempie contemporaneamente il .grad di ciascuno di essi. È così che si aggiornano interi modelli.
loss = (a * b + c).sum()
loss.backward()Il grafo viene consumato
Per impostazione predefinita, dopo backward il grafo viene liberato per risparmiare memoria, quindi chiamarlo due volte genera un errore. Al passaggio forward successivo si costruisce un grafo nuovo.
Lo si conservi se necessario
Deve chiamare di nuovo backward sullo stesso grafo? Passi retain_graph uguale a true. È raro che serva, quindi lo ometta a meno che un errore non glielo richieda.
loss.backward(retain_graph=True)Output non scalari
Se l'output è un vettore, backward richiede un argomento gradient che indichi come pesare ogni elemento. Nella maggior parte dei casi, invece, si esegue prima una somma ottenendo uno scalare.
Questo è il passaggio backward
Quella singola chiamata a backward è il famoso passaggio backward dell'addestramento. Il forward calcola le predizioni, mentre backward calcola come correggere i pesi.
Dai gradienti all'apprendimento
I numeri in .grad indicano a ciascun peso in quale direzione spostarsi. Un ottimizzatore li legge e sposta leggermente i pesi per ridurre un po' la loss.
Verifica rapida
Riepilogo
Chiami backward() su una loss scalare e autograd applica la regola della catena attraverso il grafo, riempiendo il .grad di ogni tensore con la relativa derivata. Questo è il passaggio backward. 🔁
Domande Frequenti
La lezione «Chiami backward() per ottenere i gradienti» è gratuita?
Sì — il testo completo di «Chiami backward() per ottenere i gradienti» è gratuito qui sul web. Per esercitarvi in modo interattivo (un editor di codice integrato e un tutor IA 24/7) e sbloccare il resto del corso Deep Learning Academy, passa a CoddyKit PRO. Il corso Deep Learning Academy include 4 lezioni in totale.
Cosa imparerò in «Chiami backward() per ottenere i gradienti»?
Valorizzi .grad con una sola riga Eserciti Deep Learning Academy con codice pratico che esegui direttamente nel browser, e un tutor IA 24/7 risponde alle tue domande mentre lavori sulla lezione.
Ho bisogno di esperienza per iniziare Deep Learning Academy?
Non è richiesta alcuna esperienza precedente. Deep Learning Academy su CoddyKit è strutturato per principianti e studenti avanzati, quindi puoi iniziare da qui o dall'inizio e procedere al tuo ritmo. Questa è la lezione 2 di 4.
Quanto tempo richiede la lezione «Chiami backward() per ottenere i gradienti»?
La maggior parte delle lezioni CoddyKit richiede circa 5–10 minuti. Ogni lezione è breve e interattiva, quindi fai progressi costanti e riprendi esattamente da dove hai lasciato su web e app.
Posso scrivere ed eseguire codice in questa lezione Deep Learning Academy?
Sì. Ogni lezione Deep Learning Academy include un editor di codice integrato, quindi scrivi ed esegui codice reale direttamente nel tuo browser e ricevi feedback istantaneo dall'IA — nessuna configurazione locale necessaria.
Tutte le lezioni di questo corso
- requires_grad e il grafo computazionale
- Chiami backward() per ottenere i gradienti
- Leggere e azzerare .grad
- torch.no_grad() per l'inferenza