Registrering og begrænsning af hallucinationer
Hallucinationer er selvsikre, men falske LLM-output. Lær, hvorfor de opstår, hvordan De registrerer dem, og konkrete teknikker til at reducere dem i produktion.
Registrering og begrænsning af hallucinationer er en gratis Promptdesign og optimering af LLM'er for udviklere-lektion på CoddyKit. Dette er lektion 4 af 4. Du kan læse hele lektionen gratis nedenfor — og derefter øve dig praktisk i browseren med en indbygget kodeeditor og en AI-vejleder, der er tilgængelig døgnet rundt. Den er en del af læringsforløbet i Promptdesign og optimering af LLM'er for udviklere, og dine fremskridt synkroniseres på tværs af nettet og CoddyKit-appen. Promptdesign og optimering af LLM'er for udviklere-kurset indeholder 4 lektioner i alt.
Hvad er en hallucination?
En hallucination opstår, når et LLM producerer tekst, der er flydende og selvsikker, men faktuelt forkert eller ikke understøttes af nogen kilde.
Fordi outputtet ser autoritativt ud, er hallucinationer farlige i apps, der vender mod brugere.
Hvorfor opstår de?
LLM'er forudsiger det mest sandsynlige næste token, ikke sandheden. Uden forankring udfylder de huller med opfindelser, der lyder plausible.
- Manglende viden i træningsdataene
- Tvetydige eller ledende prompts
- Pres for altid at svare
Typer af hallucinationer
Der er to overordnede kategorier:
- Faktuelle: forkerte datoer, falske kildehenvisninger, opfundne API'er
- Troskab: svaret modsiger den angivne kontekst (almindeligt i RAG)
Forankring med kontekst
Det stærkeste forsvar er forankring: giv modellen betroet kildetekst, og instruer den i kun at svare ud fra denne tekst.
Answer ONLY using the context below.
If the answer is not in the context, say "I do not know".
Context:
{retrieved_docs}Krav om kildehenvisninger
Bed modellen angive, hvilken passage der understøtter hver påstand. Sætninger uden belæg bliver nemme at finde og kontrollere.
For each sentence, add a [doc_id] citation.
Do not make claims you cannot cite.Sænkning af temperatur
Højere temperatur øger kreativiteten — og opfindsomheden. Til faktuelle opgaver skal du indstille en lav temperatur, så modellen holder sig tæt på tokens med høj sandsynlighed og et solidt grundlag.
const res = await client.chat.completions.create({
model: "gpt-4o-mini",
temperature: 0,
messages
});Kontrol af selvkonsistens
Generer svaret flere gange. Hvis modellen angiver forskellige fakta hver gang, er påstanden sandsynligvis en hallucination. Overensstemmelse er et svagt, men nyttigt signal om pålidelighed.
Verifikation med LLM som dommer
Brug et andet modelkald til at kontrollere, om svaret understøttes af konteksten. Dommeren returnerer en vurdering af troskaben, som du kan handle på.
Does the ANSWER follow only from the CONTEXT?
Reply: SUPPORTED, PARTIAL, or UNSUPPORTED.Programmatisk validering
Når output har en fast struktur, skal du validere det. En angivet URL bør kunne åbnes, et citeret tal bør stemme overens med kilden, og et JSON-felt bør passe til et skema.
function validateCitation(cit, docs) {
return docs.some(d => d.id === cit.doc_id);
}Lad modellen afstå fra at svare
Giv modellen tilladelse til at sige Det ved jeg ikke. Når presset for altid at svare fjernes, reduceres opdigtet indhold målbarligt.
Menneskelig kontrol ved høj risiko
Ved medicinske, juridiske eller økonomiske output skal du sende svar med lav sikkerhed eller uden kildehenvisninger til et menneske, før du viser dem til brugerne. Automatisering kombineret med tilsyn er bedre end hver del for sig.
Hurtigt tjek
Test din forståelse.
Opsummering
Du har lært at bekæmpe hallucinationer: forankre svar i betroet kontekst, kræve kildehenvisninger, sænke temperaturen, bruge selvkonsistens og kontroller med LLM som dommer, validere output programmatisk, tillade afståelse fra at svare og tilføje menneskelig kontrol i situationer med høj risiko.
Lær Promptdesign og optimering af LLM'er for udviklere med en AI-underviser — gratis
Skriv og kør rigtig kode i din browser, få øjeblikkelig hjælp fra en AI-underviser døgnet rundt, og fortsæt, hvor du slap, på web eller i appen.
- Kurser
- 12
- Lektioner
- 48
Ofte stillede spørgsmål
Er lektionen “Registrering og begrænsning af hallucinationer” gratis?
Ja — hele teksten til “Registrering og begrænsning af hallucinationer” kan læses gratis her på nettet. Hvis du vil øve dig interaktivt med en indbygget kodeeditor og en AI-vejleder døgnet rundt og få adgang til resten af Promptdesign og optimering af LLM'er for udviklere-kurset, skal du opgradere til CoddyKit PRO. Promptdesign og optimering af LLM'er for udviklere-kurset indeholder 4 lektioner i alt.
Hvad lærer jeg i “Registrering og begrænsning af hallucinationer”?
Hallucinationer er selvsikre, men falske LLM-output. Lær, hvorfor de opstår, hvordan De registrerer dem, og konkrete teknikker til at reducere dem i produktion. Du øver dig i Promptdesign og optimering af LLM'er for udviklere med praktisk kode, som du kører direkte i browseren, og en AI-vejleder døgnet rundt besvarer dine spørgsmål, mens du arbejder dig gennem lektionen.
Skal jeg have erfaring for at begynde på Promptdesign og optimering af LLM'er for udviklere?
Der kræves ingen tidligere erfaring. Promptdesign og optimering af LLM'er for udviklere på CoddyKit er tilrettelagt for både begyndere og øvede, så du kan starte her eller fra begyndelsen og lære i dit eget tempo. Dette er lektion 4 af 4.
Hvor lang tid tager lektionen “Registrering og begrænsning af hallucinationer”?
De fleste CoddyKit-lektioner tager cirka 5–10 minutter. Hver lektion er kort og interaktiv, så du gør løbende fremskridt og kan fortsætte, hvor du slap – på både web og app.
Kan jeg skrive og køre kode i denne Promptdesign og optimering af LLM'er for udviklere-lektion?
Ja. Alle Promptdesign og optimering af LLM'er for udviklere-lektioner har en indbygget kodeeditor, så du kan skrive og køre rigtig kode direkte i din browser og få øjeblikkelig feedback fra AI – uden lokal opsætning.
Alle lektioner i dette kursus
- LLM-evalueringsmålinger og benchmarks
- Feedbacksystemer med mennesket i løkken
- Prompt injection og bedste praksis for sikkerhed
- Registrering og begrænsning af hallucinationer