Faça a Retropropagação de uma Rede Pequena à Mão
Calcule gradientes no papel e confirme no código
Faça a Retropropagação de uma Rede Pequena à Mão é uma aula grátis de Deep Learning Academy no CoddyKit. Esta é a aula 3 de 4. Você pode ler a aula completa abaixo gratuitamente — depois pratica ao vivo no navegador com um editor de código integrado e um tutor de IA 24/7. Faz parte do caminho de aprendizado de Deep Learning Academy, e seu progresso é sincronizado entre a web e o app CoddyKit. O curso de Deep Learning Academy inclui 4 aulas no total.
Nossa Pequena Rede
Vamos acompanhar manualmente a menor rede: uma entrada x, um peso w e nenhum viés. A saída é simplesmente y = w vezes x. Pequena o suficiente para fazer no papel.
y = w * xAdicione uma Perda Simples
Comparamos a saída com um alvo t usando o erro quadrático. Essa perda penaliza estar distante do alvo e é fácil de derivar manualmente.
loss = (y - t) ** 2Propagação para Frente com Números
Substitua x = 2, w = 3 e t = 10. A propagação para frente fornece y = 6 e perda = (6 - 10) ao quadrado = 16. Agora vamos caminhar backward para encontrar dloss/dw.
Etapa Um: da Perda à Saída
Primeiro elo: como a perda muda em relação a y? A derivada de (y - t) ao quadrado é 2(y - t), que aqui é 2 vezes (6 - 10) = -8.
dloss_dy = 2 * (y - t)Etapa Dois: da Saída ao Peso
Segundo elo: como y muda em relação a w? Como y = w vezes x, dy/dw é simplesmente x, que em nosso exemplo é 2.
dy_dw = xEncadeie os Dois
A regra da cadeia multiplica os elos: dloss/dw = dloss/dy vezes dy/dw = -8 vezes 2 = -16. Esse único número é o nosso gradiente.
dloss_dw = dloss_dy * dy_dwInterprete o Sinal do Gradiente
Um gradiente negativo significa que aumentar w reduziria a perda. Portanto, devemos aumentar w ligeiramente para obter um resultado melhor da próxima vez.
Dê um Passo de Atualização
Com uma taxa de aprendizado de 0.1, a atualização é w = w - 0.1 vezes (-16) = 3 + 1.6 = 4.6. O peso se aproximou de um valor melhor.
w = w - lr * dloss_dwConfirme que Melhorou
Refaça a passagem para frente com w = 4.6: y = 9.2 e perda = (9.2 - 10) ao quadrado = 0.64. Bem abaixo de 16, portanto o passo realmente ajudou.
Verifique no PyTorch
O PyTorch obtém o mesmo gradiente automaticamente. Defina requires_grad em w, execute a propagação para frente, chame backward e leia w.grad para ver -16.
w = torch.tensor(3.0, requires_grad=True)
loss = (w * 2 - 10) ** 2
loss.backward()
print(w.grad)Os Mesmos Passos, Redes Maiores
Uma rede com um milhão de pesos faz exatamente isso, apenas com mais elos encadeados. A matemática que você fez manualmente aumenta diretamente de escala.
Verificação Rápida
Vamos verificar seu acompanhamento manual.
Recapitulação
Você acompanhou uma pequena rede: propagação para frente para obter valores, depois backward, multiplicando derivadas locais para obter o gradiente, e então um passo que reduziu a perda. ✏️
Aprenda Python com um tutor de IA — grátis
Escreva e execute código real no seu navegador, obtenha ajuda instantânea de um tutor de IA 24/7 e continue de onde parou na web ou no app.
- Cursos
- 30
- Aulas
- 120
Perguntas Frequentes
A aula “Faça a Retropropagação de uma Rede Pequena à Mão” é grátis?
Sim — o texto completo de “Faça a Retropropagação de uma Rede Pequena à Mão” é grátis para ler aqui na web. Para praticá-la interativamente (um editor de código integrado e um tutor de IA 24/7) e desbloquear o restante do curso de Deep Learning Academy, atualize para CoddyKit PRO. O curso de Deep Learning Academy inclui 4 aulas no total.
O que vou aprender em “Faça a Retropropagação de uma Rede Pequena à Mão”?
Calcule gradientes no papel e confirme no código Você pratica Deep Learning Academy com código prático que executa diretamente no navegador, e um tutor de IA 24/7 responde suas dúvidas enquanto trabalha na aula.
Preciso ter experiência prévia para começar Deep Learning Academy?
Nenhuma experiência prévia é necessária. Deep Learning Academy no CoddyKit é estruturado para alunos iniciantes até avançados, então você pode começar aqui ou desde o início e aprender no seu ritmo. Esta é a aula 3 de 4.
Quanto tempo leva a aula “Faça a Retropropagação de uma Rede Pequena à Mão”?
A maioria das aulas CoddyKit leva cerca de 5–10 minutos. Cada uma é compacta e interativa, então você faz progresso constante e retoma exatamente de onde parou entre web e app.
Posso escrever e executar código nesta aula de Deep Learning Academy?
Sim. Cada aula de Deep Learning Academy inclui um editor de código integrado, então você escreve e executa código real direto no navegador e recebe feedback de IA instantaneamente — nenhuma configuração local necessária.
Todas as aulas deste curso
- A Regra da Cadeia, Camada por Camada
- A Passagem Direta Armazena, a Retropropagação Reutiliza
- Faça a Retropropagação de uma Rede Pequena à Mão
- Gradientes que Desaparecem e Explodem