Vælg komponenter med scree-plots

PCA kan give dig dusinvis af komponenter, men du ønsker kun de få nyttige. Den egentlige færdighed er at vælge, hvor mange der skal bevares.

Et scree-plot viser hver komponent i forhold til den varians, den forklarer, så du med et blik kan se, hvor betydningen falder.

Variansen falder hurtigt og flader derefter ud i en lang, flad hale. Bøjningen, der kaldes albuen, viser, hvor ekstra komponenter holder op med at betale sig.

Tilpas PCA med alle komponenter, og afbild derefter explained_variance_ratio_ for at tegne kurven og finde denne albue.

Læg forholdene sammen undervejs for at få den kumulerede varians, som viser den samlede information, der bevares af de første k komponenter.

En almindelig regel er at beholde nok komponenter til at nå et mål, f.eks. at bevare 95 procent af den samlede varians.

Angiv en brøk som n_components, så beholder scikit-learn netop så mange komponenter, at målet for den forklarede varians nås.

En anden tommelfingerregel, Kaiser-reglen, beholder komponenter, hvis egenværdi er større end én, hvilket betyder, at de forklarer mere end én enkelt feature.

Færre komponenter giver enklere og hurtigere modeller, men medfører større tab af detaljer. Valget af k er altid et kompromis mellem størrelse og nøjagtighed.

Det bedste k er det, der hjælper med din virkelige opgave. Prøv nogle få værdier, og sammenlign modellernes resultater med krydsvalidering.

Komponenter efter albuen indfanger ofte hovedsageligt støj. Det hjælper sjældent at beholde dem, og de kan ubemærket forringe din model.

Brug et scree-plot, en albue eller en tærskel for kumuleret varians til kun at beholde nok komponenter, og validér derefter k efterfølgende. 🎯