NLP Academy · leksjon

Hvorfor bokstavstorrelse og mellomrom betyr noe

Hvordan små forskjeller skaper falske avvik

Leksjon 1 av 413 trinn

Hvorfor bokstavstorrelse og mellomrom betyr noe er en gratis leksjon i NLP Academy på CoddyKit. Dette er leksjon 1 av 4. Du kan lese valgfritt 3 leksjoner fra denne læringsstien gratis i sin helhet – deretter låser CoddyKit PRO opp alle leksjoner, samt praktisk øving med en innebygd kodeeditor og en AI-veileder som er tilgjengelig døgnet rundt. Den er en del av læringsløpet i NLP Academy, og fremdriften din synkroniseres mellom nettet og CoddyKit-appen. Kurset i NLP Academy inneholder totalt 4 leksjoner.

Problemet med matching

For en datamaskin samsvarer to strenger bare hvis hvert eneste tegn er identisk. Derfor ser Apple og apple ut som to helt forskjellige ord, selv om De leser dem likt. 🤔

Samme ord, ulik skrivemåte

Menneskespråk er rotete. Den samme ideen kan skrives som Run, run og RUN, men råtekst behandler hver av dem som et eget token med sin egen opptelling.

Se hvordan det feiler

Sammenlign to skrivemåter av det samme ordet, så sier Python at de er forskjellige. Dette lille avviket er akkurat det normalisering skal rette opp.

print('Apple' == 'apple')
print('Apple' == 'apple'.capitalize())

Mellomrom sniker seg inn

Usynlige mellomrom er like lumske. Et mellomrom på slutten gjør hello til en streng som ikke lenger er lik hello, og opptellingen blir feil.

print('hello ' == 'hello')

Usynlige tegn

Tabulatorer og linjeskift teller også som tegn. Ordet som er omgitt av en tabulator eller et linjeskift, er teknisk sett forskjellig fra det vanlige word De forventet.

print('\tword' == 'word')

Hvorfor opptellinger blir splittet

Se for Dem at De teller ord i en anmeldelse. Hvis Good forekommer tre ganger og good to ganger, får De to oppføringer med henholdsvis to og tre i stedet for én riktig opptelling på fem.

Falske avvik

Et søk etter paris bør finne Paris, PARIS og paris på samme måte. Uten normalisering går brukeren glipp av resultater på grunn av et rent avvik i store og små bokstaver. 😕

Normalisering til unnsetning

Normalisering betyr å omforme tekst til én konsekvent form, slik at den samme ideen alltid samsvarer med seg selv. Det er det stille steget som får alt som kommer etterpå, til å fungere.

En liten forhåndsvisning

Én kalling kan fjerne forskjeller i store og små bokstaver med én gang. Her omformer lower begge ordene til samme form, og nå samsvarer de endelig.

print('Apple'.lower() == 'apple'.lower())

Mellomrom kan også ordnes

Overflødige mellomrom har også en enkel løsning. Metoden strip fjerner mellomrom fra kantene, slik at verdien samsvarer med det rene tokenet De ønsker.

print('hello '.strip() == 'hello')

Konsekvens gir resultater

Alle rense stegene De skal lære, har samme mål: å samle varianter av et ord i én kanonisk form som modellene kan stole på. ✨

Rask sjekk

La oss feste i minnet hvorfor normalisering er viktig.

Oppsummering

De har sett hvordan små forskjeller i store og små bokstaver samt mellomrom skaper falske avvik og splitter opptellingene. Normalisering omformer tekst til én konsekvent form. En fin start! 🎉

Gratis å komme i gang

Lær deg Python med en AI-veileder – gratis

Skriv og kjør ekte kode i nettleseren, få umiddelbar hjelp fra en AI-veileder som er tilgjengelig døgnet rundt, og fortsett der du slapp – på nettet eller i appen.

Kurs
30
Leksjoner
120

Ofte stilte spørsmål

Er leksjonen «Hvorfor bokstavstorrelse og mellomrom betyr noe» gratis?

Ja – du kan lese valgfritt 3 av leksjonene i læringsstien NLP Academy, inkludert «Hvorfor bokstavstorrelse og mellomrom betyr noe», gratis i sin helhet her på nettet. Deretter låser CoddyKit PRO opp alle leksjoner, samt interaktiv øving med en innebygd kodeeditor og en AI-veileder som er tilgjengelig døgnet rundt. Kurset i NLP Academy inneholder totalt 4 leksjoner.

Hva lærer jeg i «Hvorfor bokstavstorrelse og mellomrom betyr noe»?

Hvordan små forskjeller skaper falske avvik Du øver på NLP Academy med praktisk kode som du kjører direkte i nettleseren, mens en AI-veileder som er tilgjengelig døgnet rundt, svarer på spørsmålene dine mens du jobber deg gjennom leksjonen.

Trenger jeg erfaring for å begynne med NLP Academy?

Ingen tidligere erfaring er nødvendig. NLP Academy på CoddyKit er lagt opp for både nybegynnere og viderekomne, så De kan begynne her eller helt fra start og lære i Deres eget tempo. Dette er leksjon 1 av 4.

Hvor lang tid tar leksjonen «Hvorfor bokstavstorrelse og mellomrom betyr noe»?

De fleste CoddyKit-leksjoner tar omtrent 5–10 minutter. Hver leksjon er kort og interaktiv, slik at De gjør jevne fremskritt og kan fortsette akkurat der De slapp – både på nettet og i appen.

Kan jeg skrive og kjøre kode i denne NLP Academy-leksjonen?

Ja. Alle NLP Academy-leksjoner har en innebygd kodeeditor, slik at De kan skrive og kjøre ekte kode direkte i nettleseren og få umiddelbar tilbakemelding fra AI – uten lokal konfigurering.

Alle leksjonene i dette kurset

  1. Hvorfor bokstavstorrelse og mellomrom betyr noe
  2. Gjør om til små bokstaver og fjern mellomrom
  3. Stemming: Kutt ned til roten
  4. Lemmatisering: Smartere grunnformer
← Tilbake til NLP Academy