Hvorfor KI finner på ting med stor selvsikkerhet

AI-en vet egentlig ikke hva som er sant. Den har ingen bevissthet og ingen faktasjekker innebygd. Den produserer bare sannsynlig språk.

Derfor kan den finne på en statistikk, en dato eller et sitat med full overbevisning. For AI-en ser en overbevisende løgn og et faktum like ut: Begge er bare sannsynlige mønstre av ord.

Når AI-en ikke vet noe, sier den ofte ikke fra. I stedet fyller den ut hullet med noe som passer inn i mønsteret til et svar.

Hvis du spør om et obskurt faktum den aldri har lært, kan den i stedet for å innrømme at den ikke vet, finne på et sannsynlig svar på en overbevisende måte. Denne trangen til å fylle ut hull er akkurat der hallusinasjoner oppstår.

Du ber AI-en om et sitat fra en bestemt bok. Den gir deg et elegant og passende sitat med en presis kildehenvisning. Det høres perfekt ut, bortsett fra at sitatet ikke finnes.

AI-en genererte noe som hørtes ut som et sitat fra den boken. Ingen ond hensikt, ingen bevissthet, bare mønstergjenkjenning som gikk selvsikkert galt. Dette skjer oftere enn nybegynnere forventer.

Hallusinasjoner opptrer særlig rundt bestemte ting: konkrete fakta, tall, datoer, navn, kilder og sitater. Jo mer presis og obskur detaljen er, desto større er risikoen.

Generelle forklaringer er som regel pålitelige. Det er den nøyaktige kildehenvisningen, den presise statistikken og det lite kjente navnet AI-en oftest finner på med stor selvsikkerhet. Når du vet dette, vet du også når du bør være ekstra forsiktig.

AI-modeller lærer av data frem til et bestemt tidspunkt, og kjenner kanskje ikke nyere hendelser særlig godt. Når de blir spurt om noe nytt, kan de gjette og presentere gjetningen som et faktum.

Vær spesielt skeptisk til svar om nylige nyheter, priser eller emner som endrer seg raskt. AI-en kan selvsikkert beskrive en verden som ikke lenger finnes, eller som aldri har eksistert.

Det er nyttig å vite at AI-en ikke prøver å lure deg. Den har ingen hensikt i det hele tatt. En hallusinasjon er en bivirkning av hvordan den fungerer, ikke et bevisst valg om å villede.

Dette er viktig fordi det betyr at du ikke kan løse problemet ved å be AI-en om å være ærlig. Den tror allerede at den er hjelpsom. Sikkerheten må komme fra deg.

Hvis du tar hvert selvsikkert svar for god fisk, kommer du før eller siden til å handle på grunnlag av noe som er falskt – et feilaktig faktum i en rapport, en oppdiktet kilde eller en feil dato.

Løsningen er ikke å slutte å bruke AI, men å bruke den klokt: Stol på den når det gjelder tenkning og utkast, men verifiser de konkrete faktaene som er viktige, før du bygger videre på dem.

Ha en enkel grunnholdning: AI-en er en glimrende og rask assistent som av og til tar feil med stor selvsikkerhet. Stol på den når det gjelder retning, men dobbeltsjekk detaljene.

Dette er ikke paranoia; det er den samme skepsisen du ville hatt overfor enhver enkeltkilde. Bare det å vite at hallusinasjoner finnes, gir deg allerede et forsprang på de fleste brukere.

Be AI-en om noe obskurt og konkret, for eksempel en presis statistikk eller et sitat fra en lite kjent kilde. Prøv deretter å verifisere det et annet sted.

Det kan hende du oppdager at det ble funnet på med stor selvsikkerhet. Når du selv har sett en hallusinasjon én gang, fester lærdommen seg langt bedre enn om du bare får høre at det kan skje.

Hallusinasjoner er selvsikre, oppdiktede svar. De oppstår fordi AI forutsier sannsynlige ord og ikke har noen reell forståelse av sant og usant. Derfor fyller den ut hull i stedet for å innrømme at den ikke vet.

Risikoen er størst for konkrete fakta, tall, sitater, kilder og nylige hendelser. AI-en lyver ikke; den har ingen hensikt. Sikkerheten ligger hos deg: Stol på retningen, men verifiser detaljene.