Adalet, Önyargı ve Gerçek Dünyadaki Zararlar

Yapay zekâ, insanlara ait devasa miktarda metin ve görselden öğrenir; insanlığın birikiminde ise adaletsizlikler, kalıp yargılar ve gözden kaçan noktalar bulunur. Bu nedenle yapay zekâ, kötü niyetle değil, kendisine sunulanları yansıttığı için bu örüntüleri özümseyip tekrarlayabilir. Bunu anlamak, yapay zekâyı daha adil kullanmanıza ve yanlış davrandığında bunu fark etmenize yardımcı olur.

Önyargı somut biçimlerde ortaya çıkar. Bir görsel oluşturucudan "bir CEO" istendiğinde çoğunlukla tek bir cinsiyeti veya ırkı gösterebilir. Bir özgeçmiş tarama aracı belirli isimleri kayırabilir. Bir çeviri, doktorun erkek, hemşirenin kadın olduğunu varsayabilir. Bunlar varsayımsal durumlar değildir — her biri gerçek sistemlerde yaşanmış ve gerçek insanları etkilemiştir.

Önyargılı yapay zekâ işe alım, kredi verme, kolluk çalışmaları veya sağlık hizmetleri kararlarının arkasında yer aldığında zarar soyut değildir. İnsanlar tarafsız görünen ancak bazı grupları sessizce kayıran bir sistem yüzünden iş, kredi veya adil muamele fırsatlarından mahrum kalabilir. "Bilgisayar böyle söyledi" havası adaletsiz kararların nesnel görünmesine yol açar, bu da kararlara itiraz etmeyi zorlaştırabilir.

Çoğunlukla eğitim verileri yoluyla girer: geçmiş veriler geçmişteki ayrımcılığı yansıtıyorsa yapay zekâ bunu tekrarlamayı öğrenir. Önyargı, sistemi kimin geliştirdiği ve neleri sınadığı yoluyla da girebilir. Makine adaletsiz olmaya karar vermiyor — hatalı verilerdeki örüntüleri sadakatle kopyalıyor. Hatalı veri girerse önyargı çıkar.

Yapay zekâ sistemleri geliştirmiyor olabilirsiniz, ancak onların çıktılarını kullanıyorsunuz. Yapay zekâdan adayları elemesini, performans değerlendirmeleri yazmasını veya insanları yargılamasını isterseniz, onun önyargıları sizin kararlarınıza dönüşür. Dikkatli olun: Bu çıktı birini haksız biçimde dezavantajlı duruma düşürür mü? İnsanların fırsatlarını veya onurunu etkileyen her şey için insan incelemesi ekleyin.

Yapay zekâyı daha adil çıktılar üretmeye yönlendirebilirsiniz. Çeşitli örnekler isteyin: "Farklı insanlardan oluşan bir yelpaze göster", "Farklı kültürlerin bakış açılarına yer ver", "Kalıp yargılardan kaçın." İnsanları veya rolleri oluştururken, verilerdeki çoğunluk örüntüsüne doğru çarpılan varsayılanı kabul etmek yerine çeşitliliği açıkça isteyin.

Yapay zekâ çıktılarını adalet filtresinden geçirerek okuyun. Bir mesleğin cinsiyetini varsaymış mı? Bir grubu dar ve klişe ifadelerle mi anlatmış? Bazı bakış açılarını tamamen dışarıda mı bırakmış? Kalıp yargıyı adlandırmak onu düzeltmenizi sağlar: "Bu anlatım bir kalıp yargıya dayanıyor — lütfen adil biçimde yeniden yaz." Önyargıyı yayımlamayı reddeden editör sizsiniz.

İş adaylarını sıralamak için yapay zekâ kullandığınızı düşünün. Geçmiş işe alımlar tek bir yöne ağırlık verdiyse yapay zekâ, güçlü adaylar olsalar bile benzer profilleri sessizce daha üst sıralara taşıyabilir ve diğerlerini cezalandırabilir. Ona körü körüne güvenmek adaletsiz olabilir ve birçok yerde yasa dışıdır. Yapay zekâ aday elemesine yardımcı olabilir, ancak insanların geçim kaynaklarını şekillendiren kararların sorumluluğunu bir insan üstlenmelidir.

Geliştiriciler önyargıyı azaltmak için aktif olarak çalışıyor ve araçlar zamanla gelişiyor. Sizin rolünüz umutsuzluğa kapılmak değil, gerçekçi bir dikkat göstermektir. Yapay zekânın büyük yararlarından faydalanırken adaleti etkileyen çıktılara eleştirel gözle bakın. Farkındalığı yüksek kullanıcılar, önyargılı sonuçları kabul etmeyi reddederek bile yapay zekâyı daha güvenli hâle getirir.

Bir yapay zekâ aracının açıkça önyargılı veya zararlı çıktılar ürettiğini fark ederseniz bildirin — çoğu platformda geri bildirim düğmeleri bulunur. Bildiriminiz, birçok kişiyi etkileyen örüntüleri geliştiricilerin düzeltmesine yardımcı olur. Adaleti yalnızca mühendislerin değil, herkesin görevi olarak görmek, bu sistemlerin gelişmesini sağlayan şeydir.

Yapay zekâ, eğitim verilerindeki insan önyargısını yansıtır ve insanların hakkındaki kararların arkasında yer aldığında bu önyargı gerçek zarara yol açar. Kendi kullanımınızda dikkatli olun, istemlerde çeşitlilik isteyin, kalıp yargıları fark edin, kritik kararların sorumluluğunu insanlarda tutun ve sorunları bildirin. Onun önyargısını aktarmayı reddederek bile daha adil bir yapay zekâ oluşturulmasına katkıda bulunursunuz.

Bir pozisyon için iş adaylarını sıralamaya yardımcı olması amacıyla bir yapay zekâ aracı kullanmayı planlıyorsunuz.

Yapay zekâ, hatalı eğitim verilerindeki insan önyargısını yansıtır ve insanlarla ilgili kararları yönlendirdiğinde bu önyargı gerçek zarara yol açar. Kullanımınızda dikkatli olun, çeşitlilik isteyin, kalıp yargıları fark edin, kritik kararların sorumluluğunu insanlarda tutun ve sorunları bildirin. Önyargıyı aktarmayı reddetmek, daha adil bir yapay zekâ oluşturulmasına katkıda bulunmanızı sağlar.