Random Forest til regression

Et enkelt træ er ustabilt og overtilpasser. En random forest opbygger hundredvis af træer og kombinerer dem til én mere stabil forudsigelse. 🌲🌲

Hvert træ laver sit eget gæt, hvorefter skoven beregner gennemsnittet af dem. Individuelle fejl udligner hinanden, så der bliver ét mere jævnt og pålideligt tal.

Hvert træ trænes på et tilfældigt udsnit af rækker, der udtages med tilbagelægning, et trick kaldet bootstrapning. Det giver hvert træ sit eget, lidt anderledes perspektiv.

Ved hver opdeling ser et træ også kun et tilfældigt udsnit af egenskaberne. Denne tilfældighed forhindrer træerne i at komme til at ligne hinanden.

Variation er hele pointen: Når træerne er uenige på forskellige måder, reducerer gennemsnittet de voldsomme udsving fra et enkelt træ. Det sænker variansen.

Samme kontrakt som altid. Opret en RandomForestRegressor, tilpas den, og lav forudsigelser uden ekstra besvær.

Indstillingen n_estimators bestemmer, hvor mange træer der skal opbygges. Flere træer hjælper som regel, hvorefter effekten flader ud, men træningen bliver langsommere.

Du kan også begrænse hvert træ med max_depth. Sammen med mange træer forbliver skoven præcis uden at lære støjen udenad.

En praktisk bonus er, at skoven rapporterer feature_importances_ og rangerer, hvilke input der i højeste grad drev dens forudsigelser. Det er godt til at forstå dine data.

Random forests er et fremragende standardvalg: præcise, svære at overtilpasse og med kun lidt behov for justering. Ofte er de din første stærke model til tabulære data.

Ulempen er overskueligheden. Med hundredvis af træer mister du den enkle, læsbare vej gennem et enkelt træ, så en skov er sværere at forklare.

En random forest beregner gennemsnittet af mange forskellige træer, reducerer variansen og modstår overtilpasning. Et stærkt standardvalg med kun lidt justering til tabulære tal. 🎯