Hvorfor modeller har brug for tal, ikke ord

Du kan ikke sige, at cat er større end dog. Ord er kategorier, ikke størrelser, så rå tekst har ingen numerisk betydning, der kan beregnes på.

Denne konvertering fra ord til talarrays kaldes vektorisering. Den er forbindelsen mellem sprog og maskinlæring.

Den enkleste vektor angiver blot, hvor mange gange hvert ord forekommer. Denne optællingsbaserede idé er kernen i bag-of-words. 🛍️

Det kaldes en pose, fordi rækkefølgen kasseres. Du bevarer hvilke ord der forekommer, og hvor ofte de forekommer, men ikke den rækkefølge, de kom i.

Forestil dig to anmeldelser. Vi kan give hver af dem en score ved at tælle positive og negative ord for at få en enkel numerisk repræsentation af tonen.

Hvert dokument bliver til en vektor med samme længde, én plads for hvert kendt ord, så en model kan sammenligne rækker direkte.

Hvis et ord aldrig forekommer i et dokument, er dets plads ganske enkelt nul. De fleste pladser ender med at være nul, hvilket gør disse vektorer sparse.

Når teksten er numerisk, fungerer alle klassiske værktøjer: afstand, lighed og klassifikatorer arbejder alle på disse vektorer.

Optællinger ignorerer grammatik og ordrækkefølge, så bag-of-words er en grov, men overraskende stærk baseline til mange opgaver.

Du så, hvorfor modeller har brug for vektorer, stiftede bekendtskab med bag-of-words og lærte, at ordoptællinger omdanner dokumenter til tal, som en model kan læse. 🎉