Yapay Zekâ Neden Kendinden Emin Bir Şekilde Bilgi Uydurur?

Yapay zekâyla ilgili en zorlayıcı şey, tamamen yanlış olduğu hâlde tamamen eminmiş gibi konuşabilmesidir. Endişeli bir tonu yoktur, belki de demez. Uydurma bir bilgiyi doğru bir bilgi kadar akıcı biçimde ifade eder.

Bu kendinden emin hatalara halüsinasyonlar adı verilir. Neden ortaya çıktıklarını anlamak, kandırılmaya karşı ilk savunmanızdır.

Yapay zekânın nasıl çalıştığını hatırlayın: olası kelimeleri art arda tahmin eder. Gerçekleri bir veri tabanında aramaz. Doğruymuş gibi görünen metin üretir.

Çoğu zaman doğruymuş gibi görünmek ile doğru olmak örtüşür. Ancak bazen kulağa en doğal gelen cümle tamamen yanlıştır ve yapay zekânın bunu bildiren yerleşik bir alarmı yoktur.

Yapay zekâ gerçekte neyin doğru olduğunu bilmez. Farkındalığı yoktur, içinde bir doğrulama mekanizması bulunmaz. Yalnızca kulağa makul gelen bir dil üretir.

Bu nedenle bir istatistiği, tarihi veya alıntıyı tam bir özgüvenle uydurabilir. Yapay zekâ için inandırıcı görünen bir yalanla gerçek aynı görünür: ikisi de yalnızca olası kelime kalıplarıdır.

Yapay zekâ bir şeyi bilmediğinde çoğu zaman bunu söylemez. Bunun yerine boşluğu doldurur ve yanıt kalıbına uyan bir şey üretir.

Hiç öğrenmediği az bilinen bir bilgiyi sorarsanız, bilgisiz olduğunu kabul etmek yerine akla yatkın bir yanıtı akıcı biçimde uydurabilir. Boşluk doldurma eğilimi, halüsinasyonların tam olarak doğduğu yerdir.

Yapay zekâdan belirli bir kitaptan alıntı yapmasını istersiniz. Size kitaba uygun, zarif bir alıntı verir ve kaynağını da kesin biçimde belirtir. Kulağa kusursuz gelir; ancak böyle bir alıntı yoktur.

Yapay zekâ, o kitaptan alınmış gibi kulağa gelen bir şey üretmiştir. Kötü niyet yoktur, farkındalık yoktur; yalnızca kendinden emin biçimde yanlış giden bir örüntü eşleştirme vardır. Bu, yeni başlayanların beklediğinden daha sık gerçekleşir.

Halüsinasyonlar belirli şeylerin çevresinde yoğunlaşır: özel bilgiler, sayılar, tarihler, isimler, kaynaklar ve alıntılar. Ayrıntı ne kadar kesin ve az biliniyorsa risk o kadar yüksektir.

Genel açıklamalar genellikle güvenilirdir. Yapay zekânın kendinden emin biçimde uydurma yapma olasılığı; tam kaynak gösterimlerinde, kesin istatistiklerde ve az bilinen isimlerde en yüksektir. Bunu bilmek, ne zaman daha dikkatli olmanız gerektiğini gösterir.

Yapay zekâ modelleri belirli bir tarihe kadar olan verilerle öğrenir ve güncel olayları iyi bilmiyor olabilir. Yeni bir konu hakkında soru sorulduğunda tahminde bulunabilir ve bu tahmini gerçekmiş gibi sunabilir.

Güncel haberler, fiyatlar veya hızla değişen konular hakkındaki yanıtlar konusunda özellikle kuşkucu olun. Yapay zekâ artık var olmayan veya hiç var olmamış bir dünyayı kendinden emin biçimde anlatıyor olabilir.

Yapay zekânın sizi aldatmaya çalışmadığını bilmek yardımcı olur. Hiçbir niyeti yoktur. Halüsinasyon, sizi yanıltma tercihi değil, nasıl çalıştığının bir yan etkisidir.

Bu önemlidir; çünkü yapay zekâdan dürüst olmasını isteyerek bu sorunu düzeltemezsiniz. Zaten yardımcı olduğunu düşünmektedir. Koruma sizden gelmelidir.

Kendinden emin her yanıtı sorgulamadan kabul ederseniz, sonunda yanlış bir bilgiye göre hareket edersiniz: raporda yanlış bir bilgi, uydurma bir kaynak veya hatalı bir tarih.

Çözüm yapay zekâyı kullanmayı bırakmak değil, ondan akıllıca yararlanmaktır: düşünme ve taslak oluşturma için ona güvenin, ancak güvenmeden önce önemli belirli bilgileri doğrulayın.

Basit bir bakış açısı benimseyin: yapay zekâ parlak ve hızlı bir yardımcıdır, ancak zaman zaman kendinden emin biçimde yanılır. Yönlendirmesi için ona güvenin, ayrıntıları iki kez kontrol edin.

Bu paranoya değildir; herhangi bir kaynağa karşı göstereceğiniz kuşkuculuğun aynısıdır. Halüsinasyonların var olduğunu bilmek bile sizi çoğu kullanıcının önüne geçirir.

Yapay zekâdan kesin bir istatistik veya az bilinen bir kaynaktan alıntı gibi az bilinen ve belirli bir bilgi isteyin. Ardından bunu başka bir yerde doğrulamayı deneyin.

Bilginin kendinden emin biçimde uydurulmuş olduğunu görebilirsiniz. Bir halüsinasyonu kendi gözlerinizle bir kez görmek, bunun gerçekleşebileceğinin size yalnızca söylenmesinden çok daha etkili biçimde dersi aklınızda tutar.

Temel fikri sınayalım.

Halüsinasyonlar kendinden emin biçimde uydurulmuş yanıtlardır. Yapay zekâ olası kelimeleri tahmin eder ve doğruyla yanlış arasında gerçek bir ayrım yapamaz; bu nedenle bilmediğini kabul etmek yerine boşlukları doldurur.

Risk; belirli bilgilerde, sayılarda, alıntılarda, kaynaklarda ve güncel olaylarda en yüksektir. Yapay zekâ yalan söylemez; hiçbir niyeti yoktur. Koruma sizsiniz: yönlendirmeye güvenin, ayrıntıları doğrulayın.