0Pricing
Learn AI with Python · Ders

Makine Öğrenmesi Modellerinde Önyargı Tespiti

Korunan özellikler, farklı etkiler, fairlearn ölçütleri, eşitlenmiş olasılıklar, demografik eşitlik.

Makine Öğrenmesi Modellerinde Önyargı Tespiti, CoddyKit'te ücretsiz bir Learn AI with Python dersidir. Bu, 4 dersinin 1. dersidir. Aşağıdan dersin tamamını ücretsiz okuyabilir, sonra tarayıcıda yerleşik kod editörü ve 7/24 yapay zeka koçu ile uygulamalı olarak pratik yapabilirsin. Bu, Learn AI with Python öğrenme yolunun bir parçasıdır ve ilerlemeniz web ve CoddyKit uygulaması arasında senkronize olur. Learn AI with Python kursu toplamda 4 dersten oluşur.

Algoritmik Önyargı Nedir

Bir model, duyarlı bir özellikle (cinsiyet, ırk, yaş) tanımlanan bir grubu tahminleriyle sistematik olarak dezavantajlı duruma düşürdüğünde önyargılı olur. Önyargı çoğunlukla çarpık eğitim verilerinden kaynaklanır ve işe alım, kredi verme veya sağlık hizmetleri kararlarında gerçek zarara yol açabilir.

Duyarlı Özellikler

Duyarlı özellik, cinsiyet veya etnik köken gibi adaleti ölçtüğümüz niteliktir. Adalet metrikleri, özellik model girdisi olarak kullanılmasa bile bu özelliğin tanımladığı gruplar arasındaki model davranışını karşılaştırır.

Demografik Eşitlik

Demografik eşitlik, gruplar arasındaki pozitif tahmin oranının eşit olmasını gerektirir. Bir kredi modeli A grubunun %60'ını onaylarken B grubunun yalnızca %35'ini onaylıyorsa, başvuranların gerçek kredi değerliliğinden bağımsız olarak demografik eşitlik ihlal edilmiş olur.

# P(prediction = 1 | group = A) == P(prediction = 1 | group = B)

Eşitlenmiş Olasılık Oranları

Eşitlenmiş olasılık oranları daha katı bir ölçüttür: gruplar arasındaki doğru pozitif ve yanlış pozitif oranlarının eşit olmasını gerektirir. Bu ölçüt gerçek etikete göre koşullandığından, model her grup için eşit derecede doğru olduğu sürece farklı seçilme oranlarına izin verir.

# TPR and FPR equal across groups
# P(pred=1 | y=1, A) == P(pred=1 | y=1, B)
# P(pred=1 | y=0, A) == P(pred=1 | y=0, B)

Eşitlik ve Olasılık Oranları

Bu metrikler birbiriyle çelişebilir:

  • Demografik eşitlik gerçek etiketi dikkate almaz; bu nedenle temel oranlar gerçekten farklı olduğunda bile oranların eşitlenmesini zorlayabilir
  • Eşitlenmiş olasılık oranları gerçek etiketi dikkate alır, ancak eşit olmayan seçilme oranlarına izin verir

Hiçbir metrik her durumda doğru değildir; seçim bağlama ve yasalara bağlıdır.

fairlearn'e Giriş

fairlearn, adaletsizliği ölçmek ve azaltmak için kullanılan bir Python kütüphanesidir. Temel ölçüm aracı olan MetricFrame, herhangi bir metriği hassas gruba göre ayrıştırarak hesaplar.

import pandas as pd
from fairlearn.metrics import MetricFrame
from sklearn.metrics import accuracy_score, selection_rate

MetricFrame Oluşturma

Bir metrikler sözlüğünü, gerçek etiketleri, tahminleri ve sensitive_features değerlerini aktarırsınız. fairlearn her metriği grup bazında değerlendirir.

mf = MetricFrame(
    metrics={
        "accuracy": accuracy_score,
        "selection_rate": selection_rate,
    },
    y_true=y_test,
    y_pred=y_pred,
    sensitive_features=X_test["gender"],
)

Grup Bazında Sonuçlar

by_group özniteliği, her grup için her metriğin bulunduğu bir tablo döndürerek eşitsizlikleri bir bakışta görünür kılar.

print(mf.by_group)
#            accuracy  selection_rate
# gender
# female        0.81            0.34
# male          0.83            0.59

Genel Sonuçlar ve Farklar

fairlearn toplu görünümler de sunar: tüm veri kümesi için overall ve en iyi ile en kötü gruplar arasındaki farkı özetleyen difference() ve ratio() gibi yardımcılar.

print(mf.overall)
print(mf.difference(method="between_groups"))
# selection_rate    0.25  -> 25 point gap between groups

Eşitsizlikleri Görselleştirme

by_group değerlerinin bar grafiği, sayıları sezgisel bir görünüme dönüştürür. Aynı metriğe ait çubuklar arasındaki büyük fark, modelin gruplara farklı davrandığını gösteren açık bir uyarı işaretidir.

mf.by_group.plot.bar(
    subplots=True,
    layout=[1, 2],
    figsize=(10, 4),
    title="Metrics by group",
)

Tespitten Azaltmaya

Önyargıyı ölçtükten sonra fairlearn, bir adalet kısıtını karşılamak üzere modelleri yeniden eğiten veya eşikleri ayarlayan azaltma algoritmaları (örneğin ExponentiatedGradient ve ThresholdOptimizer ile sonradan işleme) sunar. Tespit her zaman ilk adımdır: ölçmediğiniz bir şeyi düzeltemezsiniz.

Hızlı Kontrol

Adalet konusundaki bilginizi sınayın.

Özet

Önyargıyı tespit etmeyi öğrendiniz:

  • Demografik eşitlik, gruplar arasındaki pozitif oranları eşitler
  • Eşitlenmiş olasılık oranları, etikete göre koşullandırarak TPR ve FPR değerlerini eşitler
  • fairlearn MetricFrame, her sensitive_features grubu için bir metrik sözlüğü hesaplar
  • Eşitsizlikleri belirlemek için by_group değerlerini görselleştirin, ardından azaltma uygulayın

Sıkça Sorulan Sorular

“Makine Öğrenmesi Modellerinde Önyargı Tespiti” dersi ücretsiz mi?

Evet — “Makine Öğrenmesi Modellerinde Önyargı Tespiti” dersin tüm metni burada web'de ücretsiz olarak okunabilir. Etkileşimli olarak pratik yapmak (yerleşik kod editörü ve 7/24 yapay zeka koçu) ve Learn AI with Python kursunun geri kalanını açmak için CoddyKit PRO'ya yükselt. Learn AI with Python kursu toplamda 4 dersten oluşur.

“Makine Öğrenmesi Modellerinde Önyargı Tespiti” dersinde ne öğreneceğim?

Korunan özellikler, farklı etkiler, fairlearn ölçütleri, eşitlenmiş olasılıklar, demografik eşitlik. Learn AI with Python ile uygulamalı kodu tarayıcıda doğrudan çalıştırarak pratik yaparsın ve 7/24 yapay zeka koçu dersi çalışırken sorularını yanıtlar.

Learn AI with Python öğrenmeye başlamak için deneyim gerekli mi?

Önceden deneyim gerekmez. CoddyKit'te Learn AI with Python, başlangıçtan ileri seviyeye kadar yapılandırıldığı için buradan başlayabilir veya başından başlayıp kendi hızında ilerleme yapabilirsin. Bu, 4 dersinin 1. dersidir.

“Makine Öğrenmesi Modellerinde Önyargı Tespiti” dersi ne kadar sürer?

Çoğu CoddyKit dersi yaklaşık 5–10 dakika sürer. Her biri kısa ve etkileşimli olduğu için sabit ilerleme yaparsın ve web ile uygulama arasında tam olarak bıraktığın yerden devam edebilirsin.

Bu Learn AI with Python dersinde kod yazıp çalıştırabilir miyim?

Evet. Her Learn AI with Python dersi yerleşik bir kod editörü içerir, bu sayede tarayıcıda gerçek kod yazıp çalıştırabilir ve anlık yapay zeka geri bildirimi alırsın — yerel kurulum gerekli değildir.

Bu kursun tüm dersleri

  1. Makine Öğrenmesi Modellerinde Önyargı Tespiti
  2. Model Açıklanabilirliği için SHAP Değerleri
  3. LIME: Yerel Yorumlanabilir Açıklamalar
  4. Yapay Zeka Etiği ve Yönetişim Çerçeveleri
← Learn AI with Python Sayfasına Dön