Overzicht van de basisarchitectuur van een RAG-systeem

Laten we nu kijken naar de bouwstenen van een RAG-systeem. Als je de architectuur kent, zie je precies hoe RAG LLM's nauwkeuriger en betrouwbaarder maakt.

RAG combineert informatie ophalen (informatie vinden) en generatie (tekst maken) via drie onderdelen: gegevensbronnen, een ophaalcomponent en een generator.

De gegevensbronnen bevatten de externe kennis waarop je LLM niet is getraind: pdf's, webpagina's, interne wiki's, databasegegevens en meer.

Eerst worden je gegevens verwerkt: grote documenten worden opgesplitst in kleinere, doorzoekbare stukken die chunks worden genoemd. Dit is vergelijkbaar met een bibliotheek indexeren per hoofdstuk in plaats van per heel boek.

De ophaalcomponent is een slimme zoekmachine voor je chunks. Deze begrijpt de betekenis van een vraag, niet alleen trefwoorden, om de meest relevante context op te halen.

Wanneer een gebruiker een vraag stelt, scant de ophaalcomponent alle verwerkte chunks en haalt deze de paar stukken eruit die waarschijnlijk het antwoord bevatten. Die worden als context doorgegeven.

De generator is je LLM: het onderdeel dat het antwoord schrijft. In RAG krijgt deze twee invoerwaarden: je oorspronkelijke vraag en de context die de ophaalcomponent heeft gevonden.

In plaats van alleen op vooraf getrainde kennis te steunen, gebruikt de LLM de opgehaalde context om zijn antwoord te onderbouwen, alsof een expert precies de juiste referentiedocumenten krijgt aangereikt.

De volledige RAG-stroom: de vraag komt binnen, de ophaalcomponent vindt chunks, de vraag en chunks gaan naar de generator, de LLM schrijft een onderbouwd antwoord en de gebruiker krijgt een feitelijk antwoord.

Samenvatting: een RAG-systeem bestaat uit drie onderdelen: gegevensbronnen (de kennis), de ophaalcomponent (de slimme zoekfunctie) en de generator (de LLM die onderbouwde antwoorden maakt).