Varför AI självsäkert hittar på saker

AI:n vet inte vad som faktiskt är sant. Den har ingen medvetenhet och ingen faktagranskare inbyggd. Den producerar bara trovärdigt språk.

Därför kan den hitta på en statistikuppgift, ett datum eller ett citat med fullständig säkerhet. För AI:n ser en övertygande lögn och ett faktum likadana ut: båda är bara sannolika or mönster av ord.

När AI:n inte vet något säger den ofta inte det. I stället fyller den luckan med något som passar in i mönstret för ett svar.

Be om ett obskyrt faktum som den aldrig har lärt sig, så kan den i stället för att erkänna sin okunskap smidigt hitta på ett trovärdigt svar. Instinkten att fylla luckor är precis där hallucinationer uppstår.

Du ber AI:n om ett citat ur en viss bok. Den ger dig ett elegant och passande citat med en exakt angiven källa. Det låter perfekt, förutom att citatet inte existerar.

AI:n genererade något som lät som ett citat ur den boken. Ingen illvilja, ingen medvetenhet, bara mönsterigenkänning som självsäkert gick fel. Det här händer oftare än nybörjare förväntar sig.

Hallucinationer förekommer särskilt kring vissa saker: specifika fakta, siffror, datum, namn, källor och citat. Ju mer exakt och obskyr detaljen är, desto högre är risken.

Allmänna förklaringar är vanligtvis tillförlitliga. Det är den exakta hänvisningen, den precisa statistikuppgiften och det nischade namnet som AI:n oftast självsäkert hittar på. Om du känner till detta vet du när du bör vara extra försiktig.

AI-modeller lär sig från data fram till en viss tidpunkt och kanske inte känner till nya händelser särskilt väl. Om de får frågor om något nytt kan de gissa och presentera gissningen som ett faktum.

Var särskilt skeptisk till svar om aktuella nyheter, priser eller ämnen som förändras snabbt. AI:n kan självsäkert beskriva en värld som inte längre existerar eller som aldrig har funnits.

Det är bra att veta att AI:n inte försöker lura dig. Den har ingen avsikt alls. En hallucination är en bieffekt av hur den fungerar, inte ett medvetet val att vilseleda.

Det här är viktigt eftersom det betyder att du inte kan åtgärda problemet genom att be AI:n vara ärlig. Den tror redan att den hjälper dig. Skyddet måste komma från dig.

Om du tar varje självsäkert svar för sanning kommer du förr eller senare att agera utifrån något falskt: ett felaktigt faktum i en rapport, en påhittad källa eller ett felaktigt datum.

Lösningen är inte att sluta använda AI, utan att använda den klokt: förlita dig på den för tänkande och utkast, och verifiera de specifika fakta som är viktiga innan du förlitar dig på dem.

Anta en enkel grundinställning: AI:n är en briljant och snabb assistent som ibland har självsäkert fel. Lita på den när det gäller riktningen, men dubbelkolla detaljerna.

Det här är inte paranoia; det är samma skepsis som du skulle ha inför vilken enskild källa som helst. Att känna till att hallucinationer förekommer ger dig redan ett försprång framför de flesta användare.

Be AI:n om något obskyrt och specifikt, till exempel en exakt statistikuppgift eller ett citat från en mindre känd källa. Försök sedan att verifiera uppgiften någon annanstans.

Du kanske upptäcker att den hittades på med fullständig säkerhet. Att själv se en hallucination en gång gör att lärdomen fastnar mycket bättre än att bara få höra att det kan hända.

Hallucinationer är självsäkra, påhittade svar. De uppstår eftersom AI:n förutsäger sannolika ord och saknar en verklig uppfattning om sant och falskt. Därför fyller den i luckor i stället för att erkänna att den inte vet.

Risken är störst när det gäller specifika fakta, siffror, citat, källor och aktuella händelser. AI:n ljuger inte; den har ingen avsikt. Skyddet är du: lita på riktningen och verifiera detaljerna.