Vektorikantojen tallennusarkkitehtuurit

Kun puhumme vektoritietokannoista, puhumme oikeastaan erityisten numerojonoiksi kutsuttujen upotusten (eli vektoreiden) tallentamisesta ja hakemisesta. Aivan kuten tavalliset tiedostot tarvitsevat kiintolevyn, myös vektorit tarvitsevat tallennuspaikan.

Kaikki tallennustavat eivät kuitenkaan ole samanarvoisia! Tapa, jolla vektoritietokanta tallentaa tietonsa, vaikuttaa merkittävästi siihen, kuinka nopeasti se löytää samankaltaisia vektoreita ja kuinka paljon dataa se pystyy käsittelemään.

Saatat pohtia, miksemme voisi käyttää tavallista tietokantaa vektoreiden tallentamiseen. Haasteena on, että vektoritietokantojen on suoritettava yksi hyvin erityinen tehtävä erittäin nopeasti: samankaltaisuushaku.

• Moniulotteinen data: Vektorit ovat pitkiä numerojonoja (satoja tai tuhansia lukuja!). Niiden tehokas tallentaminen on olennaista.
• Nopeat vertailut: ”Samankaltaisten” vektoreiden löytäminen tarkoittaa useiden pitkien numerojonojen nopeaa vertailemista. Tämä edellyttää erikoistuneita indeksointi- ja hakustrategioita, jotka riippuvat suuresti taustalla olevasta tallennuksesta.

Nopein tapa käyttää dataa on säilyttää se tietokoneen RAM-muistissa (Random Access Memory). Muistissa toimivat vektoritietokannat tekevät juuri näin.

• Toimintaperiaate: Kaikki vektoridata ja indeksit ladataan suoraan RAM-muistiin tietokannan käynnistyessä.
• Edut: Kyselyiden vertaansa vailla oleva nopeus ja välitön käyttö.
• Haitat: Käytettävissä olevan RAM-muistin määrä rajoittaa kapasiteettia, data menetetään järjestelmän uudelleenkäynnistyksen yhteydessä (ellei sitä ole erikseen tallennettu levylle), ja gigatavu maksaa enemmän kuin levytallennuksessa.

Muistissa tapahtuva tallennus sopii erinomaisesti tilanteisiin, joissa nopeus on ensisijaisen tärkeää eikä datan säilyvyys ole tärkein tavoite tai joissa aineisto on riittävän pieni mahtuakseen mukavasti RAM-muistiin.

• Pienet aineistot: Kun vektorikokoelma on hallittavissa (esimerkiksi tuhansia tai muutamia miljoonia vektoreita).
• Väliaikainen välimuisti: Usein käytettyjen vektoreiden tallentaminen ”kuumana välimuistina” vastausten nopeuttamiseksi.
• Nopea prototyypitys: Nopeat kokeilut, joissa pysyvän tallennuksen määrittäminen olisi ylimitoitettua.

Suurempia aineistoja varten, joiden on säilyttävä uudelleenkäynnistysten yli, vektoritietokannat käyttävät levyperustaista tallennusta, yleensä SSD- tai HDD-levyillä.

• Toimintaperiaate: Vektorit ja niiden indeksit kirjoitetaan levylle ja luetaan levyltä aivan kuten tavalliset tiedostot.
• Edut: Datan säilyvyys (data säilyy myös virrankatkaisun jälkeen!), erittäin suurten aineistojen käsittelykyky ja yleensä RAM-muistia edullisempi hinta gigatavua kohden.
• Haitat: Kyselyt ovat hitaampia kuin muistissa tapahtuvassa tallennuksessa, koska levyltä lukeminen vie enemmän aikaa.

Useimmat tuotantovalmiit RAG-sovellukset käyttävät levyperustaista tallennusta ensisijaisena vektorivarastona. Tämä varmistaa datan eheyden ja mahdollistaa skaalautumisen valtaviin tietomääriin.

• Laajamittainen RAG: Miljardien dokumenttiosien tallentaminen kattavia tietämyskantoja varten.
• Ensisijainen datavarasto: Kaikkien vektoriupotusten pääasiallinen ja kestävä säilytyspaikka.
• Kustannustehokkuus: Käytännöllinen valinta, kun dataa on tallennettava paljon ilman kohtuuttomia kustannuksia.

Monet kehittyneet vektoritietokannat käyttävät hybridiratkaisua, jossa muistissa tapahtuva ja levyperustainen tallennus yhdistetään älykkäästi. Ajattele asiaa niin, että tietokoneen käyttöjärjestelmä käyttää RAM-muistia aktiivisiin ohjelmiin ja levyä kaikkeen muuhun.

Tavoitteena on saada molempien parhaat puolet: usein käytetyn datan nopea käyttö ja koko aineiston säilyvyys.

Mitä tapahtuu, kun vektoriaineisto on niin valtava, ettei se mahdu yhdelle koneelle, tai kun tarvitaan erittäin hyvää käytettävyyttä? Silloin tarvitaan hajautettua tallennusta.

• Toimintaperiaate: Data jaetaan pienempiin osiin (sirpaleisiin), jotka levitetään useille eri palvelimille, yleensä klusteriin.
• Edut: Valtava skaalautuvuus (kokoa voidaan kasvattaa lähes rajattomasti), hyvä vikasietoisuus (yhden palvelimen vikaantuessa muut voivat ottaa sen tehtävät) ja hyvä käytettävyys.
• Haitat: Asennuksen ja hallinnan monimutkaisuus kasvaa, ja verkkoviive voi heikentää suorituskykyä.

Hajautetut vektoritietokannat ovat suuria datamääriä käsittelevien ja keskeytymätöntä palvelua edellyttävien laajamittaisten tekoälysovellusten selkäranka.

• Petatavun kokoinen data: Kun vektoreita on todella valtavia kokoelmia.
• Hyvä käytettävyys: Kriittisiin sovelluksiin, joissa käyttökatkoja ei voida hyväksyä.
• Maailmanlaajuinen kattavuus: Datan maantieteellinen hajauttaminen nopeampaa käyttöä varten eri alueilla.

Olemme tarkastelleet eri tapoja, joilla vektoritietokannat tallentavat tietonsa. Jokaisella tavalla on omat kompromissinsa:

• Muistissa tapahtuva: Nopein, mutta häviävä ja kapasiteetiltaan rajallinen.
• Levyperustainen: Säilyvä, skaalautuu suuriin aineistoihin ja tarjoaa hyvän tasapainon useimpiin tarpeisiin.
• Hybridi: Yhdistää muistin nopeuden ja levyn säilyvyyden.
• Hajautettu: Massiiviseen mittakaavaan ja hyvään käytettävyyteen useiden koneiden ympäristössä.

Oikean arkkitehtuurin valinta riippuu nopeutta, säilyvyyttä ja skaalautuvuutta koskevista tarpeistanne. Seuraavaksi perehdymme algoritmeihin, jotka tekevät samankaltaisuushaun nopeaksi!