Uthenting av egenskaper fra dato og klokkeslett

Et rått Unix-tidsstempel som 1718784000 eller en datetime-streng som '2024-06-19 14:30:00' inneholder mye informasjon – klokkeslett, ukedag og måned – men en modell kan ikke få tilgang til denne informasjonen fra råverdien. En lineær modell ser tidsstempelet som ett stort heltall og kan bare lære at senere tidspunkter forutsier høyere eller lavere målverdier, mens alle periodiske mønstre overses. Feature-ekstraksjon deler opp tidsstempelet i meningsfulle numeriske komponenter som modeller kan bruke direkte.

Analyser alltid dato- og tidsstrenger til pd.Timestamp eller datatypen datetime64 ved hjelp av pd.to_datetime() før De trekker ut features. Når dataene er analysert, tilbyr Pandas en .dt-tilgang med dusinvis av attributter: .dt.year, .dt.month, .dt.day, .dt.hour, .dt.minute, .dt.dayofweek (0=mandag), .dt.dayofyear, .dt.quarter, .dt.is_weekend og flere. Hvert attributt blir en ny heltallskolonne i feature-matrisen.

Time 23 og 0 ligger ved siden av hverandre (én time fra hverandre), men er numerisk langt fra hverandre (23 enheter). Hvis De koder time som et heltall fra 0 til 23, kan ikke en lineær modell lære at mønstre ved midnatt ligner på mønstre klokken 23. Det samme gjelder måneder (desember og januar ligger ved siden av hverandre), ukedager (søndag=6 og mandag=0) og alle andre sykliske størrelser. Når disse behandles som rå heltall, oppstår et kunstig brudd ved syklusens grense som modellene må forsøke å håndtere.

Løsningen er å kode sykliske features som par av sinus og cosinus. For en variabel som går fra 0 til T-1 kodes den som: sin(2π × value / T) og cos(2π × value / T). Dette avbilder syklusen på en sirkel i et todimensjonalt rom. Time 23 og time 0 er nå nabopunkter på sirkelen, så den euklidiske avstanden mellom dem er liten. Alle modeller som beregner avstander eller lineære kombinasjoner, kan nå fange opp sykliske mønstre korrekt ved å bruke sinus- og cosinuskomponentene sammen.

Mønsteret for syklisk koding kan generaliseres til alle periodiske features: måned (T=12), ukedag (T=7), time (T=24), minutt (T=60) og dag i året (T=365). Hver sykliske feature genererer to nye features (sinus og cosinus). For trebaserte modeller fungerer rå heltallskoding ofte fint fordi trær deler ved terskler og kan fange opp sykliske mønstre gjennom flere delinger. For lineære modeller, nevrale nettverk og avstandsbaserte algoritmer er syklisk koding imidlertid viktig.

I stedet for å trekke ut kalenderkomponenter er det noen ganger forløpt tid siden en hendelse som er viktig: dager siden siste kjøp, timer siden systemet ble startet på nytt eller måneder siden kontoen ble opprettet. Disse relative varighetsfeature-ene fanger opp effekter av aktualitet som absolutte kalenderfeatures ikke får med seg. Beregn dem som enkle differanser: (now - event_date).dt.days eller (now - event_date).dt.total_seconds(). Features for aktualitet er spesielt verdifulle i modeller for kundeatferd (churn og LTV) og prediktivt vedlikehold.

Boolsk indikatorfeatures som er utledet fra tidsstempler, er enkle, men ofte effektive. is_weekend, is_business_hours, is_holiday, is_month_end – disse oppretter tydelige binære delinger som trebaserte modeller kan utnytte i én enkelt deling. Lineære modeller har også nytte av dem fordi disse flaggene oppretter separate justeringer av konstantleddet. Et flagg for offentlige helligdager kan være spesielt nyttig i modeller for detaljhandelssalg, trafikk og energiforbruk, der helligdager fører til systematiske endringer i etterspørselen.

For tidsseriedata er tidligere verdier av målvariabelen ofte blant de beste prediktorene. Lag-features forskyver målet med N tidssteg: df['target_lag1'] = df['target'].shift(1) oppretter en feature som er lik gårsdagens målverdi. Rullerende statistikk oppsummerer den siste historikken: df['rolling_mean_7'] = df['target'].rolling(7).mean() gir et glidende gjennomsnitt over sju dager. Disse feature-ene koder inn tidsmessig momentum og sesongvariasjon som kalenderfeatures alene ikke kan fange opp.

For å bruke datoekstraksjon i en scikit-learn Pipeline uten lekkasje oppretter De en egendefinert transformer ved hjelp av BaseEstimator og TransformerMixin. Dette sikrer at datofeatures beregnes konsekvent og reproduserbart i hver fold av kryssvalideringen. Vær ekstra forsiktig med lag- og rullerende features – rullerende statistikk som beregnes på hele datasettet (inkludert fremtidige testdata), vil lekke informasjon. Beregn alltid lag- og rullerende features bare frem til treningsskjæringsdatoen.

Effektiv feature engineering for datetime-data krever forståelse av hvilke tidsmønstre som er viktige for problemet Deres. For etterspørsel etter samkjøringstjenester er klokkeslett og ukedag avgjørende. For detaljhandelssalg er ukedag, uke i året, avstand til helligdager og utviklingen fra år til år viktige. For deteksjon av nettverksinntrengning er tid siden siste hendelse og utbruddsrate relevante. For energiforbruk er samspill mellom time, dag og temperatur viktig. Start alltid med å plotte målet mot hver tidskomponent for å identifisere synlige periodiske mønstre før De konstruerer features.

Når datasettet dekker flere tidssoner, må De alltid konvertere tidsstemplene til én felles referansesone før feature-ekstraksjon. Det er vanlig praksis å bruke UTC som kanonisk tidssone. Etter at De har trukket ut features, kan De bruke lokale tidsforskyvninger på nytt dersom lokale mønstre er viktige (for eksempel er klokkeslettet i kundens lokale tid mer prediktivt enn UTC-klokkeslettet for modellering av bruker atferd). Pandas-metodene dt.tz_localize() og dt.tz_convert() håndterer konvertering av tidssoner på en ryddig måte.

I denne leksjonen lærte De at: rå tidsstempler må deles opp i meningsfulle komponenter før de brukes som features, sykliske features som time og måned krever sinus-/cosinuskoding for å unngå brudd ved grensen, og lag- og rullerende features koder inn tidsmønstre for prediksjonsoppgaver med tidsserier. Neste tema er feature-seleksjon med Variance Threshold og SelectKBest for å forkaste features uten informasjonsverdi.