LeNet og AlexNet: De første gjennombruddene
Her begynte moderne CNN-er
LeNet og AlexNet: De første gjennombruddene er en gratis leksjon i Deep Learning Academy på CoddyKit. Dette er leksjon 1 av 4. Du kan lese hele leksjonen gratis nedenfor – og deretter øve praktisk i nettleseren med en innebygd kodeeditor og en AI-veileder som er tilgjengelig døgnet rundt. Den er en del av læringsløpet i Deep Learning Academy, og fremdriften din synkroniseres mellom nettet og CoddyKit-appen. Kurset i Deep Learning Academy inneholder totalt 4 leksjoner.
Der CNN-er begynte
Lenge før dagens giganter beviste to små nettverk at innlærte convolutions kunne lese bilder. La oss møte pionerene.
LeNet-5 leser sifre
I 1998 bygde Yann LeCun LeNet-5 for å gjenkjenne håndskrevne sifre på sjekker. Det var lite, men fungerte svært godt.
En enkel oppskrift
Mønsteret i LeNet var tydelig: alterner mellom konvolusjons- og pooling-lag, og avslutt deretter med noen fullt tilkoblede lag. Denne oppskriften brukes fortsatt i dag.
Trent fra ende til ende
Den store ideen var at LeNet lærte filtrene sine fra data gjennom backpropagation, i stedet for at en utvikler håndkodet kantdetektorer.
Så kom pausen
Data og beregningskraft var mangelvare, så fremgangen stanset i flere år. Verden var ennå ikke klar til å skalere denne ideen opp.
AlexNet vekker feltet
I 2012 knuste AlexNet konkurrentene i ImageNet-konkurransen, halverte feilraten og satte fart på den moderne deep learning-boomen.
Større og dypere
AlexNet var en oppskalert LeNet: flere lag, langt flere filtre og millioner av parametere som trengte mye data.
ReLU gjør treningen raskere
AlexNet byttet ut langsomme, mettende aktiveringer med den raske og enkle ReLU, slik at et dypt nettverk kunne trenes på rimelig tid.
Trent på to GPU-er
Det kjørte på to GPU-er i parallell. Dette maskinvarevalget gjorde en gammel idé om til et praktisk system som vant.
Dropout motvirker overtilpasning
For å hindre memorering la AlexNet til dropout i de fullt tilkoblede lagene og slo tilfeldig av nevroner under treningen.
import torch.nn as nn
classifier = nn.Sequential(nn.Dropout(0.5), nn.Linear(4096, 1000))Et conv-lag i PyTorch
Begge nettverkene består av stabler med én grunnleggende blokk. Her er ett enkelt Conv2d-lag, byggesteinen alt er laget av.
import torch.nn as nn
layer = nn.Conv2d(in_channels=3, out_channels=96, kernel_size=11, stride=4)Rask sjekk
Tenk over hva som gjorde AlexNet så innflytelsesrikt.
Oppsummering: De første seirene
LeNet viste at CNN-er kunne lære, og AlexNet beviste at de kunne vinne i stor skala. Sammen innledet de æraen De studerer. En god start!
Lær deg Python med en AI-veileder – gratis
Skriv og kjør ekte kode i nettleseren, få umiddelbar hjelp fra en AI-veileder som er tilgjengelig døgnet rundt, og fortsett der du slapp – på nettet eller i appen.
- Kurs
- 30
- Leksjoner
- 120
Ofte stilte spørsmål
Er leksjonen «LeNet og AlexNet: De første gjennombruddene» gratis?
Ja – hele teksten i «LeNet og AlexNet: De første gjennombruddene» er gratis å lese her på nettet. For å øve interaktivt med en innebygd kodeeditor og en AI-veileder som er tilgjengelig døgnet rundt, og for å låse opp resten av Deep Learning Academy-kurset, kan du oppgradere til CoddyKit PRO. Kurset i Deep Learning Academy inneholder totalt 4 leksjoner.
Hva lærer jeg i «LeNet og AlexNet: De første gjennombruddene»?
Her begynte moderne CNN-er Du øver på Deep Learning Academy med praktisk kode som du kjører direkte i nettleseren, mens en AI-veileder som er tilgjengelig døgnet rundt, svarer på spørsmålene dine mens du jobber deg gjennom leksjonen.
Trenger jeg erfaring for å begynne med Deep Learning Academy?
Ingen tidligere erfaring er nødvendig. Deep Learning Academy på CoddyKit er lagt opp for både nybegynnere og viderekomne, så De kan begynne her eller helt fra start og lære i Deres eget tempo. Dette er leksjon 1 av 4.
Hvor lang tid tar leksjonen «LeNet og AlexNet: De første gjennombruddene»?
De fleste CoddyKit-leksjoner tar omtrent 5–10 minutter. Hver leksjon er kort og interaktiv, slik at De gjør jevne fremskritt og kan fortsette akkurat der De slapp – både på nettet og i appen.
Kan jeg skrive og kjøre kode i denne Deep Learning Academy-leksjonen?
Ja. Alle Deep Learning Academy-leksjoner har en innebygd kodeeditor, slik at De kan skrive og kjøre ekte kode direkte i nettleseren og få umiddelbar tilbakemelding fra AI – uten lokal konfigurering.
Alle leksjonene i dette kurset
- LeNet og AlexNet: De første gjennombruddene
- VGG: Stabler av små filtre
- ResNet: Skip connections går i dybden
- Last inn torchvision-modeller