Miksi tekoäly keksii asioita vakuuttavasti

Tekoäly ei oikeastaan tiedä, mikä on totta. Sillä ei ole tietoisuutta eikä sisäistä faktantarkistajaa. Se tuottaa vain uskottavalta kuulostavaa kieltä.

Siksi se voi keksiä tilaston, päivämäärän tai sitaatin täysin vakuuttavasti. Tekoälyn näkökulmasta vakuuttavalta kuulostava valhe ja fakta näyttävät samalta: molemmat ovat vain todennäköisiä sanakuvioita.

Kun tekoäly ei tiedä jotakin, se ei useinkaan sano sitä. Sen sijaan se täyttää aukon jollakin, joka sopii vastauksen kaavaan.

Jos kysytte harvinaisesta faktasta, jota se ei ole koskaan oppinut, se saattaa tietämättömyyden myöntämisen sijaan keksiä sujuvasti uskottavalta kuulostavan vastauksen. Aukkojen täyttämisen taipumus synnyttää hallusinaatioita.

Pyydätte tekoälyltä sitaattia tietystä kirjasta. Se antaa tyylikkään, aiheeseen sopivan sitaatin ja ilmoittaa sille täsmällisen lähteen. Sitaatti kuulostaa täydelliseltä, paitsi ettei sitä ole olemassa.

Tekoäly tuotti jotakin, joka kuulosti kyseisestä kirjasta peräisin olevalta sitaatilta. Ei pahantahtoisuutta eikä tietoisuutta, vain itsevarmasti pieleen mennyttä kaavojen tunnistamista. Tätä tapahtuu useammin kuin aloittelijat odottavat.

Hallusinaatioita esiintyy erityisesti tietyntyyppisissä asioissa: tarkoissa faktoissa, luvuissa, päivämäärissä, nimissä, lähteissä ja sitaateissa. Mitä täsmällisempi ja harvinaisempi yksityiskohta on, sitä suurempi riski on.

Yleiset selitykset ovat yleensä luotettavia. Tekoäly keksii kaikkein todennäköisimmin itsevarmasti juuri tarkan lähdeviitteen, täsmällisen tilaston tai harvinaisen nimen. Kun tiedätte tämän, osaatte olla erityisen varovaisia.

Tekoälymallit oppivat datasta tiettyyn ajankohtaan asti eivätkä välttämättä tunne tuoreita tapahtumia hyvin. Kun niiltä kysytään jostakin uudesta, ne voivat arvailla ja esittää arvauksen faktana.

Suhtautukaa erityisen epäilevästi vastauksiin, jotka koskevat tuoreita uutisia, hintoja tai nopeasti muuttuvia aiheita. Tekoäly saattaa kuvata itsevarmasti maailmaa, jota ei enää ole tai jota ei koskaan ollutkaan.

On hyvä tietää, ettei tekoäly yritä huijata teitä. Sillä ei ole lainkaan aikomuksia. Hallusinaatio on sen toimintatavan sivuvaikutus, ei päätös johtaa harhaan.

Tämä on tärkeää, koska ette voi korjata ongelmaa pyytämällä tekoälyä olemaan rehellinen. Se pitää toimintaansa jo hyödyllisenä. Suojan on siis tultava teiltä.

Jos uskotte jokaista varmalta kuulostavaa vastausta sellaisenaan, toimitte ennen pitkää jonkin väärän tiedon perusteella: raportin virheellisen faktan, keksityn lähteen tai väärän päivämäärän.

Ratkaisu ei ole lopettaa tekoälyn käyttöä, vaan käyttää sitä viisaasti: hyödyntäkää sitä ajatteluun ja luonnosteluun ja tarkistakaa tärkeät faktat ennen kuin luotatte niihin.

Omaksukaa yksinkertainen ajattelutapa: tekoäly on nerokas ja nopea apuri, joka on toisinaan itsevarmasti väärässä. Luottakaa siihen suuntaviivoissa, mutta tarkistakaa yksityiskohdat.

Tämä ei ole vainoharhaisuutta, vaan samaa kriittisyyttä, jota soveltaisitte mihin tahansa yksittäiseen lähteeseen. Kun tiedätte hallusinaatioiden olemassaolosta, olette jo useimpia käyttäjiä edellä.

Pyytäkää tekoälyltä jotakin harvinaista ja täsmällistä, kuten tarkkaa tilastoa tai sitaattia vähemmän tunnetusta lähteestä. Yrittäkää sitten tarkistaa tieto muualta.

Saatatte huomata, että vastaus oli keksitty itsevarmasti. Kun näette hallusinaation itse edes kerran, oppi jää mieleen paljon paremmin kuin pelkän kuulemisen perusteella.

Hallusinaatiot ovat itsevarmoja, keksittyjä vastauksia. Niitä syntyy, koska tekoäly ennustaa uskottavia sanoja eikä todella ymmärrä, mikä on totta ja mikä ei, joten se täyttää aukot sen sijaan, että myöntäisi tietämättömyytensä.

Riski on suurin tarkkojen faktojen, lukujen, sitaattien, lähteiden ja tuoreiden tapahtumien kohdalla. Tekoäly ei valehtele, sillä sillä ei ole aikomuksia. Suojaudutte luottamalla suuntaviivoihin ja tarkistamalla yksityiskohdat.