Beslutningstræsregression

Et beslutningstræ forudsiger tal ved at stille ja-eller-nej-spørgsmål om dine egenskaber og opdele dataene trin for trin. Der kræves ingen ret linje. 🌳

Hver gren er en opdeling, for eksempel: er størrelsen over 80? Træet bliver ved med at spørge og indsnævrer rækkerne til mindre og mindre grupper.

Nederst sidder bladene. Hvert blad forudsiger ét tal: gennemsnittet af målet for alle træningsrækker, der endte dér.

Træet afprøver mange opdelingspunkter og beholder det, der reducerer forudsigelsesfejlen mest i de resulterende grupper. Grådigt, ét trin ad gangen.

Den velkendte fit-predict-kontrakt gælder stadig. Opret en DecisionTreeRegressor, tilpas den, og lav forudsigelser ligesom med enhver anden estimator.

Da hvert blad giver én konstant værdi, danner et træs forudsigelser en trappe og ikke en glat kurve. Det fungerer fint for mange virkelige mønstre.

Opdelinger kan bøje i alle retninger, så et træ opfanger ikke-lineære sammenhænge, som en linje ville overse fuldstændigt. Det er træets egentlige styrke.

Hvis det ikke begrænses, vokser et træ, indtil hvert blad indeholder én række, og det lærer støjen udenad. Det dybe træ overtilpasser og klarer sig dårligt på nye data.

Styr væksten med max_depth. Et mindre dybt træ forbliver generelt og er langt lettere at læse og have tillid til.

Du kan også angive min_samples_leaf, så bladene indeholder tilstrækkeligt mange rækker. Det forhindrer træet i at udskære bittesmå grupper fyldt med støj.

Træer opdeler efter tærskler, så enhederne for egenskaberne er ligegyldige. Du kan springe skalering over, hvilket står i fin kontrast til Ridge og Lasso.

Et beslutningstræ opdeler data med spørgsmål, forudsiger et bladgennemsnit og tilpasser sig ikke-lineære former. Begræns dybden, så det generaliserer. 🎯