Deep Learning Academy · Oppitunti

LeNet ja AlexNet: ensimmäiset voitot

Mistä modernit CNN:t alkoivat

Oppitunti 1/413 vaihetta

LeNet ja AlexNet: ensimmäiset voitot on ilmainen Deep Learning Academy-oppitunti CoddyKitissä. Tämä on oppitunti 1/4. Voit lukea koko oppitunnin alta ilmaiseksi ja harjoitella sen jälkeen käytännössä selaimessa sisäänrakennetulla koodieditorilla ja ympäri vuorokauden käytettävissä olevan tekoälytuutorin avulla. Oppitunti kuuluu Deep Learning Academy-oppimispolkuun, ja edistymisesi synkronoituu verkon ja CoddyKit-sovelluksen välillä. Deep Learning Academy-kurssilla on yhteensä 4 oppituntia.

Mistä CNN:t alkoivat

Kauan ennen nykyisiä jättiläismalleja kaksi pientä verkkoa osoitti, että opitut konvoluutiot pystyvät käsittelemään kuvia. Tutustutaan näihin pioneereihin.

LeNet-5 lukee numeroita

Vuonna 1998 Yann LeCun rakensi LeNet-5-verkon tunnistamaan käsinkirjoitettuja numeroita shekeistä. Se oli pieni, mutta toimi erinomaisesti.

Yksinkertainen resepti

LeNetin rakenne oli selkeä: vuorotellen konvoluutio- ja pooling-kerroksia, joiden jälkeen muutama tiheä kerros. Tämä resepti kaikuu edelleen nykyisissä malleissa.

Koulutettu alusta loppuun

Suuri oivallus oli, että LeNet oppi suodattimensa datasta takaisinkuljetuksen avulla sen sijaan, että insinööri olisi ohjelmoinut reunantunnistimet käsin.

Sitten tuli tauko

Dataa ja laskentatehoa oli niukasti, joten kehitys pysähtyi vuosiksi. Maailma ei ollut vielä valmis laajentamaan tätä ideaa.

AlexNet herättää alan

Vuonna 2012 AlexNet murskasi ImageNet-kilpailun puolittamalla virhesuhteen ja käynnistämällä modernin syväoppimisen nousukauden.

Suurempi ja syvempi

AlexNet oli laajennettu LeNet: enemmän kerroksia, huomattavasti enemmän suodattimia ja miljoonia dataa ahmivia parametreja.

ReLU nopeuttaa koulutusta

AlexNet vaihtoi hitaat saturoituvat aktivoinnit nopeaan ja yksinkertaiseen ReLU-aktivointiin, minkä ansiosta syvä verkko voitiin kouluttaa kohtuullisessa ajassa.

Koulutettu kahdella GPU:lla

Se toimi kahdella rinnakkain käytetyllä GPU:lla. Tämä laitteistovalinta muutti vanhan idean käytännölliseksi ja voitokkaaksi järjestelmäksi.

Dropout torjuu ylisovittamista

Muistamisen estämiseksi AlexNet käytti tiheissä kerroksissaan dropoutia, joka vaimensi neuroneita satunnaisesti koulutuksen aikana.

import torch.nn as nn
classifier = nn.Sequential(nn.Dropout(0.5), nn.Linear(4096, 1000))

Konvoluutiokerros PyTorchissa

Molemmat verkot ovat yhden peruslohkon pinoja. Tässä on yksittäinen Conv2d-kerros, josta kaikki rakennetaan.

import torch.nn as nn
layer = nn.Conv2d(in_channels=3, out_channels=96, kernel_size=11, stride=4)

Pikatarkistus

Pohtikaa, mikä teki AlexNetistä niin vaikutusvaltaisen.

Vastaa interaktiivisessa oppitunnissa

Kertaus: ensimmäiset voitot

LeNet osoitti, että CNN:t voivat oppia, ja AlexNet todisti niiden pystyvän voittoihin suuressa mittakaavassa. Yhdessä ne käynnistivät aikakauden, jota opiskelette. Hieno alku!

Aloita maksutta

Opi Python tekoälytuutorin avulla — ilmaiseksi

Kirjoita ja suorita oikeaa koodia selaimessa, saa välitöntä apua tekoälytuutorilta ympäri vuorokauden ja jatka siitä, mihin jäit, verkossa tai sovelluksessa.

Kurssit: 30
Oppitunnit: 120

Aloita opiskelu maksutta Näytä koko kurssi

Usein kysytyt kysymykset

Onko oppitunti ”LeNet ja AlexNet: ensimmäiset voitot” ilmainen?

Kyllä – oppitunnin ”LeNet ja AlexNet: ensimmäiset voitot” koko tekstin voi lukea täällä verkossa ilmaiseksi. Jos haluat harjoitella interaktiivisesti sisäänrakennetulla koodieditorilla ja ympäri vuorokauden käytettävissä olevan tekoälytuutorin avulla sekä avata koko Deep Learning Academy-kurssin, päivitä CoddyKit PROhon. Deep Learning Academy-kurssilla on yhteensä 4 oppituntia.

Mitä opin oppitunnilla ”LeNet ja AlexNet: ensimmäiset voitot”?

Mistä modernit CNN:t alkoivat Harjoittelet Deep Learning Academy-aihetta koodilla, jonka suoritat suoraan selaimessa. Ympäri vuorokauden käytettävissä oleva tekoälytuutori vastaa kysymyksiisi oppitunnin aikana.

Tarvitsenko kokemusta aloittaakseni Deep Learning Academy-opiskelun?

Aiempi kokemus ei ole tarpeen. CoddyKitin Deep Learning Academy-oppimispolku sopii vasta-alkajista edistyneisiin, joten voit aloittaa tästä tai alusta ja edetä omaan tahtiisi. Tämä on oppitunti 1/4.

Kuinka kauan ”LeNet ja AlexNet: ensimmäiset voitot”-oppitunnin suorittaminen kestää?

Useimmat CoddyKitin oppitunnit kestävät noin 5–10 minuuttia. Jokainen oppitunti on lyhyt ja interaktiivinen, joten edistyt tasaisesti ja voit jatkaa siitä, mihin jäit – sekä verkossa että sovelluksessa.

Voinko kirjoittaa ja suorittaa koodia tällä Deep Learning Academy-oppitunnilla?

Kyllä. Jokainen Deep Learning Academy-oppitunti sisältää sisäänrakennetun koodieditorin, joten voit kirjoittaa ja suorittaa oikeaa koodia suoraan selaimessa ja saada välitöntä palautetta tekoälyltä – paikallista asennusta ei tarvita.

Kaikki tämän kurssin oppitunnit

← Takaisin: Deep Learning Academy