Data Science Academy · Oppitunti

Ridgen ja Lasson regularisointi

Hillitse ylisovittamista rangaistuksilla

Oppitunti 2/413 vaihetta

Ridgen ja Lasson regularisointi on ilmainen Data Science Academy-oppitunti CoddyKitissä. Tämä on oppitunti 2/4. Voit lukea koko oppitunnin alta ilmaiseksi ja harjoitella sen jälkeen käytännössä selaimessa sisäänrakennetulla koodieditorilla ja ympäri vuorokauden käytettävissä olevan tekoälytuutorin avulla. Oppitunti kuuluu Data Science Academy-oppimispolkuun, ja edistymisesi synkronoituu verkon ja CoddyKit-sovelluksen välillä. Data Science Academy-kurssilla on yhteensä 4 oppituntia.

Kun viiva ylisovittuu

Tavallinen lineaarinen regressio voi alkaa seurata kohinaa ja kasvattaa valtavia kertoimia, jotka sopivat opetusdataan mutta epäonnistuvat uudella datalla. Tätä ansaa kutsutaan ylisovittamiseksi. 😬

Lisätään rangaistus

Regularisointi korjaa tämän lisäämällä suurille kertoimille rangaistuksen. Malli tasapainottaa nyt datan sovittamisen ja painojen pitämisen pieninä.

Ridge pienentää painoja

Ridge rankaisee kertoimien neliöityä kokoa. Se vetää kaikki painot kohti nollaa, mutta harvoin tekee niistä täsmälleen nollia.

from sklearn.linear_model import Ridge
model = Ridge(alpha=1.0).fit(X, y)

Lasso voi nollata ne

Lasso rankaisee sen sijaan kertoimien itseisarvoa. Tämä voi painaa heikot kertoimet kokonaan nollaan ja poistaa vastaavat piirteet.

from sklearn.linear_model import Lasso
model = Lasso(alpha=0.1).fit(X, y)

Lasso valitsee piirteitä

Koska Lasso nollaa heikot painot, se toimii samalla piirteiden valintana. Jäljelle jäävät nollasta poikkeavat kertoimet ovat piirteitä, jotka se havaitsi hyödyllisiksi.

Alpha määrittää voimakkuuden

alpha-parametri määrittää, kuinka voimakkaasti rangaistus vaikuttaa. Suurempi alpha tarkoittaa voimakkaampaa kutistamista ja yksinkertaisempaa, tasaisempaa mallia.

Liian suuri alpha aiheuttaa alisovittamista

Jos kasvatatte alphan liian suureksi, kertoimet kutistuvat niin paljon, että malli sivuuttaa todellisen signaalin. Tätä vastakkaista virhettä kutsutaan alisovittamiseksi.

Skaalatkaa ennen rankaisemista

Rangaistukset vertaavat kertoimia suoraan, joten piirteillä on ensin oltava sama skaala. Standardoikaa data, muuten rangaistus kohdistuu epäoikeudenmukaisesti suuren yksikön piirteisiin.

from sklearn.preprocessing import StandardScaler

Ridge vai Lasso?

Käyttäkää Ridgeä, kun useimmat piirteet auttavat hieman, ja Lassoa, kun epäilette monien olevan hyödyttömiä ja haluatte harvan, kevyen mallin.

ElasticNet yhdistää molemmat

Ettekö osaa päättää? ElasticNet yhdistää Ridgen ja Lasson rangaistukset, joten saatte samanaikaisesti kutistamista ja joidenkin piirteiden poistamista.

from sklearn.linear_model import ElasticNet

Säätäkää ristiinvalidoinnilla

Älkää koskaan arvatko alphaa käsin. Kokeilkaa eri arvoja ja valitkaa arvo, joka saa parhaat pisteet erilleen pidetyillä osioilla ristiinvalidoinnissa.

from sklearn.linear_model import RidgeCV

Pikatarkistus

Käytännössä yksi keskeinen ero erottaa nämä kaksi toisistaan.

Kertaus

Regularisointi hillitsee ylisovittamista: Ridge pienentää painoja, Lasso voi asettaa ne nolliksi, ja alpha määrittää voimakkuuden. Skaalatkaa ensin ja säätäkää sitten parametrit. 🎯

Aloita maksutta

Opi Python tekoälytuutorin avulla — ilmaiseksi

Kirjoita ja suorita oikeaa koodia selaimessa, saa välitöntä apua tekoälytuutorilta ympäri vuorokauden ja jatka siitä, mihin jäit, verkossa tai sovelluksessa.

Kurssit
30
Oppitunnit
120

Usein kysytyt kysymykset

Onko oppitunti ”Ridgen ja Lasson regularisointi” ilmainen?

Kyllä – oppitunnin ”Ridgen ja Lasson regularisointi” koko tekstin voi lukea täällä verkossa ilmaiseksi. Jos haluat harjoitella interaktiivisesti sisäänrakennetulla koodieditorilla ja ympäri vuorokauden käytettävissä olevan tekoälytuutorin avulla sekä avata koko Data Science Academy-kurssin, päivitä CoddyKit PROhon. Data Science Academy-kurssilla on yhteensä 4 oppituntia.

Mitä opin oppitunnilla ”Ridgen ja Lasson regularisointi”?

Hillitse ylisovittamista rangaistuksilla Harjoittelet Data Science Academy-aihetta koodilla, jonka suoritat suoraan selaimessa. Ympäri vuorokauden käytettävissä oleva tekoälytuutori vastaa kysymyksiisi oppitunnin aikana.

Tarvitsenko kokemusta aloittaakseni Data Science Academy-opiskelun?

Aiempi kokemus ei ole tarpeen. CoddyKitin Data Science Academy-oppimispolku sopii vasta-alkajista edistyneisiin, joten voit aloittaa tästä tai alusta ja edetä omaan tahtiisi. Tämä on oppitunti 2/4.

Kuinka kauan ”Ridgen ja Lasson regularisointi”-oppitunnin suorittaminen kestää?

Useimmat CoddyKitin oppitunnit kestävät noin 5–10 minuuttia. Jokainen oppitunti on lyhyt ja interaktiivinen, joten edistyt tasaisesti ja voit jatkaa siitä, mihin jäit – sekä verkossa että sovelluksessa.

Voinko kirjoittaa ja suorittaa koodia tällä Data Science Academy-oppitunnilla?

Kyllä. Jokainen Data Science Academy-oppitunti sisältää sisäänrakennetun koodieditorin, joten voit kirjoittaa ja suorittaa oikeaa koodia suoraan selaimessa ja saada välitöntä palautetta tekoälyltä – paikallista asennusta ei tarvita.

Kaikki tämän kurssin oppitunnit

  1. Lineaarinen regressio uudelleen
  2. Ridgen ja Lasson regularisointi
  3. Päätöspuureihin perustuva regressio
  4. Random Forest -regressio
← Takaisin: Data Science Academy