Behovet for vektordatabaser

Forestil dig, at du leder efter dokumenter om "hurtige biler", men at nogle dokumenter bruger udtrykket "hurtige automobiler". En simpel søgning efter nøgleord kan overse disse dokumenter!

Traditionelle databaser er gode til eksakte match, men har svært ved at forstå betydningen bag ordene.

De fleste traditionelle databaser (som SQL eller NoSQL) er afhængige af eksakt matchning af nøgleord eller foruddefinerede indekser.

• SQL-databaser: Bruger strukturerede forespørgsler til at finde data, der matcher bestemte værdier.
• NoSQL-databaser: Giver større fleksibilitet, men er ofte stadig afhængige af nøgler eller nøgleordsindekser.

De minder om en bibliotekar, der kun kan finde bøger, hvis du kender den nøjagtige titel.

Hvis du søger efter "æble", finder en traditionel database "æble". Men hvad nu, hvis du mente "frugt" eller "teknologivirksomhed"?

Den forstår ikke synonymer, relaterede begreber eller den overordnede kontekst. Det kaldes det "semantiske hul".

Semantisk søgning handler om at finde resultater baseret på betydningen eller hensigten med din forespørgsel – ikke kun på nøgleord.

Målet er at give relevante oplysninger, selv når de nøjagtige ord ikke findes. Tænk på det som en intelligent bibliotekar, der forstår, hvad du virkelig leder efter.

For at muliggøre semantisk søgning skal vi kunne repræsentere tekst (ord, sætninger og dokumenter) numerisk.

Det er her, vektorer kommer ind i billedet! En vektor er en liste med tal, der indfanger "betydningen" af et stykke tekst.

Tekster med lignende betydning har vektorer, der numerisk er "tæt på" hinanden.

Disse numeriske vektorer kaldes embeddings. De genereres af særlige maskinlæringsmodeller (embedding-modeller).

En embedding-model tager tekst som input og returnerer en vektor med mange dimensioner. For eksempel kan "konge" og "dronning" have vektorer, der ligger tæt på hinanden, og "mand" og "kvinde" kan også have vektorer, der ligger tæt på hinanden, med en tilsvarende "køn"-retning mellem dem.

Selvom du kan gemme vektorer i en traditionel database, er det en stor udfordring at udføre effektive forespørgsler på dem.

• Langsomme sammenligninger: Det kræver komplekse matematiske sammenligninger at finde vektorer, der ligger "tæt på" hinanden.
• Ingen indbygget understøttelse: Traditionelle databaser er ikke bygget til at optimere denne type "lighedssøgninger".
• Problemer med skalering: Ydeevnen forringes hurtigt, når dine data og vektorer vokser.

Vektordatabaser er udviklet specifikt til effektiv lagring, indeksering og forespørgsel på vektorer med mange dimensioner.

De bruger avancerede algoritmer, som Approximate Nearest Neighbor (ANN)-søgning, til hurtigt at finde de vektorer, der ligner en given forespørgselsvektor mest.

Forestil dig hver vektor som et punkt i et enormt rum med mange dimensioner. Vektordatabaser hjælper os med hurtigt at finde de punkter (dokumenter), der ligger tættest på vores forespørgselspunkt (vores søgehensigt).

Det er meget hurtigere end at kontrollere hvert enkelt punkt individuelt, hvilket en traditionel database skulle gøre.

I et RAG-system (Retrieval Augmented Generation) er vektordatabaser afgørende.

De gemmer embeddings fra din vidensbase. Når en bruger stiller et spørgsmål, omdannes spørgsmålet også til en embedding, hvorefter vektordatabasen hurtigt henter de tekststykker med den største semantiske relevans.

Den hentede kontekst gives derefter til LLM'en, så den kan generere et præcist svar.

Vi lærte, at traditionelle databaser ikke er gode nok til semantisk søgning, fordi de fokuserer på søgning efter nøgleord i stedet for betydning.

Vektordatabaser er specialiserede værktøjer, der gemmer og effektivt forespørger numeriske repræsentationer af tekst (indlejringer). De er afgørende for RAG-systemer, fordi de kan hente kontekst baseret på semantisk relevans og dermed i høj grad forbedre nøjagtigheden og nyttigheden af LLM'er.