Hva RAG løser (kunnskapsgrense, hallusinering)
RAG henter relevant kontekst når spørringen sendes, slik at LLM-en kan vise til virkelige kilder i stedet for å finne på fakta.
Hva RAG løser (kunnskapsgrense, hallusinering) er en gratis leksjon i AI-agenter på CoddyKit. Dette er leksjon 1 av 4. Du kan lese hele leksjonen gratis nedenfor – og deretter øve praktisk i nettleseren med en innebygd kodeeditor og en AI-veileder som er tilgjengelig døgnet rundt. Den er en del av læringsløpet i AI-agenter, og fremdriften din synkroniseres mellom nettet og CoddyKit-appen. Kurset i AI-agenter inneholder totalt 4 leksjoner.
To problemer med vanlige LLM-er
Selv de beste LLM-ene har to strukturelle problemer:
- Kunnskapsgrense – de kjenner bare til det som var med i treningsdataene. Spør GPT-4 om en hendelse i går, så har modellen ingen anelse.
- Hallusinasjon – når modellen ikke vet, finner den selvsikkert på ting.
Hva RAG er
Retrieval-Augmented Generation (RAG) betyr:
- Søk i en kunnskapsbase etter relevante utdrag
- Legg disse utdragene inn i prompten
- Be LLM-en svare ved å bruke KUN disse utdragene
Modellen blir en «leser» av ekstern kunnskap i stedet for å basere seg på de fastlåste vektene sine.
Et konkret eksempel
Bruker: «Hva er returreglene våre for åpnet elektronikk?»
- Søk i selskapets kunnskapsbase etter «returregler elektronikk» – finn tre avsnitt fra hjelpedokumentene
- Bygg prompten: «Svar på følgende ved å bruke konteksten nedenfor: ...»
- Modellen gir et pålitelig svar med kildehenvisninger
Hvorfor RAG slår finjustering
For faktabasert kunnskap er RAG bedre enn finjustering fordi:
- Kunnskapsbasen kan oppdateres uten ny trening
- Data per bruker eller leietaker kan enkelt holdes adskilt
- Kildehenvisninger er mulig (man vet HVILKET utdrag som produserte svaret)
- Billigere å vedlikeholde
Hvorfor RAG reduserer hallusinasjoner
Hvis modellen instrueres til å svare KUN ut fra den angitte konteksten, og konteksten inneholder sannheten, er det langt mer sannsynlig at modellen svarer riktig enn hvis den baserer seg på hukommelsen.
Det er ikke perfekt – modeller finner fortsatt av og til på ting – men det reduserer hallusinasjoner kraftig.
De tre fasene
Alle RAG-systemer har tre faser:
- Inntak (offline) – del opp dokumenter, embed, lagre
- Henting (online) – embed spørringen, finn topp K-deler
- Generering (online) – LLM-en produserer svaret ved hjelp av de hentede delene
Naiv RAG og avansert RAG
Naiv RAG (prototype på fem linjer):
- Chunking med fast størrelse
- Henting med én vektor
- Legg topp K inn i prompten
Avansert RAG legger til omrangering, omskriving av spørringer, HyDE, flervektorstøtte og evaluering – hvert tiltak gir bedre kvalitet, men også mer kompleksitet.
Når RAG er nyttig
- Selskapets kunnskapsbaser og dokumenter
- Kundestøtte basert på en produkthåndbok
- Faktaspørsmål og -svar fra langhalen
- Personlige assistenter basert på brukerdata
Når RAG gjør skade
- Enkel småprat (ingen fakta er nødvendig)
- Oppgaver som krever resonnering, ikke fakta
- Når korpuset uansett er lite nok til å få plass i konteksten
Promptmalen
En typisk RAG-prompt ser slik ut:
prompt = f'''
Answer the user\'s question using ONLY the context below.
If the answer is not in the context, say 'I do not know'.
Context:
{retrieved_chunks}
Question:
{user_question}
Answer:
'''Kildehenvisninger
Formater utdragene med kilde-ID-er, og be modellen henvise til dem:
context = '\n'.join(
f'[doc {i+1}] {chunk.text}'
for i, chunk in enumerate(chunks)
)
# Then ask: 'Cite the relevant [doc N] for each claim.'RAG-mål
Hva er det RAG først og fremst løser?
Oppsummering
RAG gjør LLM-er til kandidater som tar en prøve med åpen bok. Neste steg er å se hvordan dokumenter faktisk deles opp for henting.
Lær deg AI-agenter med en AI-veileder – gratis
Skriv og kjør ekte kode i nettleseren, få umiddelbar hjelp fra en AI-veileder som er tilgjengelig døgnet rundt, og fortsett der du slapp – på nettet eller i appen.
- Kurs
- 60
- Leksjoner
- 239
Ofte stilte spørsmål
Er leksjonen «Hva RAG løser (kunnskapsgrense, hallusinering)» gratis?
Ja – hele teksten i «Hva RAG løser (kunnskapsgrense, hallusinering)» er gratis å lese her på nettet. For å øve interaktivt med en innebygd kodeeditor og en AI-veileder som er tilgjengelig døgnet rundt, og for å låse opp resten av AI-agenter-kurset, kan du oppgradere til CoddyKit PRO. Kurset i AI-agenter inneholder totalt 4 leksjoner.
Hva lærer jeg i «Hva RAG løser (kunnskapsgrense, hallusinering)»?
RAG henter relevant kontekst når spørringen sendes, slik at LLM-en kan vise til virkelige kilder i stedet for å finne på fakta. Du øver på AI-agenter med praktisk kode som du kjører direkte i nettleseren, mens en AI-veileder som er tilgjengelig døgnet rundt, svarer på spørsmålene dine mens du jobber deg gjennom leksjonen.
Trenger jeg erfaring for å begynne med AI-agenter?
Ingen tidligere erfaring er nødvendig. AI-agenter på CoddyKit er lagt opp for både nybegynnere og viderekomne, så De kan begynne her eller helt fra start og lære i Deres eget tempo. Dette er leksjon 1 av 4.
Hvor lang tid tar leksjonen «Hva RAG løser (kunnskapsgrense, hallusinering)»?
De fleste CoddyKit-leksjoner tar omtrent 5–10 minutter. Hver leksjon er kort og interaktiv, slik at De gjør jevne fremskritt og kan fortsette akkurat der De slapp – både på nettet og i appen.
Kan jeg skrive og kjøre kode i denne AI-agenter-leksjonen?
Ja. Alle AI-agenter-leksjoner har en innebygd kodeeditor, slik at De kan skrive og kjøre ekte kode direkte i nettleseren og få umiddelbar tilbakemelding fra AI – uten lokal konfigurering.
Alle leksjonene i dette kurset
- Hva RAG løser (kunnskapsgrense, hallusinering)
- Strategier for oppdeling (fast størrelse, setning, semantikk)
- Indeksere et dokumentsett
- Bygge en enkel RAG med FAISS eller Chroma