Klassegewichten en drempels

Je kunt onbalans bestrijden zonder de gegevens zelf aan te raken. Twee knoppen aan de modelkant helpen: klassegewichten en de beslisdrempel.

Klassegewichten vertellen het model dat fouten bij de zeldzame klasse zwaarder wegen. Het krijgt een grotere straf wanneer het rijen uit de minderheidsklasse mist.

Veel scikit-learn-modellen accepteren class_weight met de waarde balanced. Daarmee wordt elke klasse automatisch gewogen in omgekeerde verhouding tot hoe vaak die voorkomt.

Klassegewichten veranderen de verliesfunctie in plaats van de gegevensverzameling. Er worden geen rijen toegevoegd of verwijderd, dus je behoudt al je oorspronkelijke gegevens.

De meeste classificatiemodellen voorspellen een waarschijnlijkheid en geven vervolgens het label positief als die boven 0.5 uitkomt. Die standaardgrens is een keuze, geen natuurwet.

Verlaag je de drempel, dan markeert het model positieven sneller. Daardoor vang je meer zeldzame gevallen, ten koste van meer valse alarmen.

Vraag het model voor het afstellen van een drempel om waarschijnlijkheden, niet om vaste labels. Pas vervolgens je eigen grens toe op die scores.

Een lagere drempel verhoogt de volledigheid maar verlaagt de precisie. Een hogere drempel doet het tegenovergestelde. Het juiste punt hangt af van welke fout meer kost.

Als een gemiste fraude veel erger is dan een vals alarm, kies dan voor een lagere drempel, zodat je de zeldzame klasse zo min mogelijk mist.

Klassegewichten en het afstellen van de drempel vullen elkaar goed aan. Geef de zeldzame klasse tijdens het trainen meer gewicht en kies daarna een grens die bij je werkelijke kosten past.

Kies de drempel met validatiegegevens, nooit met de testset. Gebruik vervolgens diezelfde vaste grens voor een eerlijke eindscore.

Zonder herbemonsteren bestraffen klassegewichten fouten bij de zeldzame klasse en weegt een afgestelde drempel volledigheid af tegen precisie, passend bij je kosten. 🎯