Detecção de viés em modelos de aprendizado de máquina
Atributos protegidos, impacto díspar, métricas do fairlearn, chances equalizadas e paridade demográfica.
Detecção de viés em modelos de aprendizado de máquina é uma aula grátis de Learn AI with Python no CoddyKit. Esta é a aula 1 de 4. Você pode ler a aula completa abaixo gratuitamente — depois pratica ao vivo no navegador com um editor de código integrado e um tutor de IA 24/7. Faz parte do caminho de aprendizado de Learn AI with Python, e seu progresso é sincronizado entre a web e o app CoddyKit. O curso de Learn AI with Python inclui 4 aulas no total.
O que é viés algorítmico
Um modelo é enviesado quando suas previsões prejudicam sistematicamente um grupo definido por um atributo sensível (gênero, raça, idade). O viés geralmente decorre de dados de treinamento distorcidos e pode causar danos reais em decisões de contratação, concessão de crédito ou assistência médica.
Atributos sensíveis
Uma característica sensível é o atributo pelo qual medimos a equidade, como gênero ou etnia. As métricas de equidade comparam o comportamento do modelo entre os grupos definidos por essa característica, mesmo que ela não seja usada como entrada do modelo.
Paridade demográfica
Paridade demográfica exige que a taxa de previsões positivas seja igual entre os grupos. Se um modelo de empréstimos aprova 60% do grupo A, mas apenas 35% do grupo B, a paridade demográfica é violada, independentemente da verdadeira capacidade de crédito dos solicitantes.
# P(prediction = 1 | group = A) == P(prediction = 1 | group = B)Odds equalizadas
Odds equalizadas são mais rigorosas: exigem taxas iguais de verdadeiros positivos e falsos positivos entre os grupos. Como essa medida considera o rótulo real, ela permite taxas de seleção diferentes, desde que o modelo seja igualmente preciso para cada grupo.
# TPR and FPR equal across groups
# P(pred=1 | y=1, A) == P(pred=1 | y=1, B)
# P(pred=1 | y=0, A) == P(pred=1 | y=0, B)Paridade vs. odds
Essas métricas podem entrar em conflito:
- Paridade demográfica ignora o rótulo real, portanto pode impor taxas iguais mesmo quando as taxas de base realmente diferem
- Odds equalizadas respeitam o rótulo real, mas permitem taxas de seleção diferentes
Nenhuma métrica é universalmente correta; a escolha depende do contexto e da legislação.
Apresentando o fairlearn
fairlearn é uma biblioteca Python para medir e reduzir a falta de equidade. Sua principal ferramenta de medição é o MetricFrame, que calcula qualquer métrica separadamente para cada grupo sensível.
import pandas as pd
from fairlearn.metrics import MetricFrame
from sklearn.metrics import accuracy_score, selection_rateConstruindo um MetricFrame
Você fornece um dicionário de métricas, os rótulos reais, as previsões e as características sensíveis. O fairlearn avalia cada métrica por grupo.
mf = MetricFrame(
metrics={
"accuracy": accuracy_score,
"selection_rate": selection_rate,
},
y_true=y_test,
y_pred=y_pred,
sensitive_features=X_test["gender"],
)Resultados por grupo
O atributo by_group retorna uma tabela com cada métrica para cada grupo, tornando as disparidades evidentes à primeira vista.
print(mf.by_group)
# accuracy selection_rate
# gender
# female 0.81 0.34
# male 0.83 0.59Visão geral e diferenças
O fairlearn também apresenta visões agregadas: overall para todo o conjunto de dados e funções auxiliares como difference() e ratio(), que resumem a diferença entre os melhores e os piores grupos.
print(mf.overall)
print(mf.difference(method="between_groups"))
# selection_rate 0.25 -> 25 point gap between groupsVisualizando disparidades
Um gráfico de barras de by_group transforma os números em uma imagem intuitiva. Uma grande diferença entre as barras da mesma métrica é um sinal claro de alerta de que o modelo trata os grupos de maneira diferente.
mf.by_group.plot.bar(
subplots=True,
layout=[1, 2],
figsize=(10, 4),
title="Metrics by group",
)Da detecção à mitigação
Depois de quantificar o viés, o fairlearn oferece algoritmos de mitigação, como ExponentiatedGradient e o pós-processamento com ThresholdOptimizer, que treinam novamente o modelo ou ajustam os limiares para satisfazer uma restrição de equidade. A detecção sempre vem primeiro: não é possível corrigir aquilo que não foi medido.
Verificação rápida
Teste seus conhecimentos sobre equidade.
Recapitulação
Você aprendeu a detectar viés:
- Paridade demográfica iguala as taxas positivas entre os grupos
- Odds equalizadas igualam TPR e FPR, considerando o rótulo
- O MetricFrame do fairlearn calcula um dicionário de métricas para cada grupo de
sensitive_features - Visualize
by_grouppara identificar disparidades e depois aplique a mitigação
Perguntas Frequentes
A aula “Detecção de viés em modelos de aprendizado de máquina” é grátis?
Sim — o texto completo de “Detecção de viés em modelos de aprendizado de máquina” é grátis para ler aqui na web. Para praticá-la interativamente (um editor de código integrado e um tutor de IA 24/7) e desbloquear o restante do curso de Learn AI with Python, atualize para CoddyKit PRO. O curso de Learn AI with Python inclui 4 aulas no total.
O que vou aprender em “Detecção de viés em modelos de aprendizado de máquina”?
Atributos protegidos, impacto díspar, métricas do fairlearn, chances equalizadas e paridade demográfica. Você pratica Learn AI with Python com código prático que executa diretamente no navegador, e um tutor de IA 24/7 responde suas dúvidas enquanto trabalha na aula.
Preciso ter experiência prévia para começar Learn AI with Python?
Nenhuma experiência prévia é necessária. Learn AI with Python no CoddyKit é estruturado para alunos iniciantes até avançados, então você pode começar aqui ou desde o início e aprender no seu ritmo. Esta é a aula 1 de 4.
Quanto tempo leva a aula “Detecção de viés em modelos de aprendizado de máquina”?
A maioria das aulas CoddyKit leva cerca de 5–10 minutos. Cada uma é compacta e interativa, então você faz progresso constante e retoma exatamente de onde parou entre web e app.
Posso escrever e executar código nesta aula de Learn AI with Python?
Sim. Cada aula de Learn AI with Python inclui um editor de código integrado, então você escreve e executa código real direto no navegador e recebe feedback de IA instantaneamente — nenhuma configuração local necessária.
Todas as aulas deste curso
- Detecção de viés em modelos de aprendizado de máquina
- Valores SHAP para explicabilidade de modelos
- LIME: explicações locais interpretáveis
- Estruturas de ética e governança de IA