Estruturas de ética e governança de IA

Modelos capazes trazem riscos reais: discriminação, danos à privacidade, desinformação e falhas de segurança. A governança de IA é o conjunto de políticas, processos e documentação que mantém os sistemas de IA legais, justos e responsáveis durante todo o seu ciclo de vida.

A Lei de IA da EU é uma regulamentação histórica que classifica os sistemas de IA por risco e impõe obrigações proporcionais a esse risco. Ela usa uma pirâmide de risco com quatro níveis.

No topo, os sistemas de risco inaceitável são proibidos por completo. Entre os exemplos estão a pontuação social governamental e os sistemas manipuladores que exploram vulnerabilidades. Eles não podem ser implantados, independentemente das salvaguardas.

Os sistemas de alto risco, como dispositivos médicos, contratação, avaliação de crédito e infraestrutura crítica, são permitidos, mas fortemente regulamentados: exigem gestão de riscos, dados de alta qualidade, registro de atividades, supervisão humana e avaliação de conformidade antes de entrar no mercado.

Os níveis inferiores têm exigências mais leves:

• Risco limitado, como chatbots e conteúdos falsificados por IA, exige transparência; por exemplo, informar aos usuários que estão interagindo com uma IA
• Risco mínimo, como filtros de mensagens indesejadas e IA de jogos, praticamente não tem obrigações

De cima para baixo, a pirâmide da Lei de IA da EU é: inaceitável, proibido; alto, requisitos rigorosos; limitado, deveres de transparência; e mínimo, uso livre. A maior parte da IA usada no dia a dia está nos dois níveis inferiores.

Um cartão do modelo é um documento curto e padronizado publicado junto com um modelo. Ele informa para que o modelo serve e onde não deve ser usado, ajudando as equipes que o utilizarão a tomar decisões conscientes. É o equivalente, para a IA, de um rótulo nutricional.

A seção de uso pretendido declara a finalidade principal, os usuários-alvo e os usos explicitamente fora do escopo. Isso evita usos indevidos, como aplicar a um contrato jurídico um modelo de análise de sentimentos treinado com publicações em inglês.

A seção de desempenho apresenta as métricas, idealmente separadas por subgrupo, e os dados usados na avaliação. As métricas desagregadas revelam se o modelo funciona bem para todos ou apenas para o grupo majoritário.

A seção de ressalvas e limitações lista modos de falha conhecidos, vieses e condições em que o modelo perde desempenho, como idiomas com poucos recursos ou entradas fora da distribuição. Ressalvas honestas geram confiança e evitam danos.

As equipes colocam a governança em prática com uma lista de verificação de IA responsável, revisada antes do lançamento:

• Os dados de treinamento são representativos e obtidos com consentimento?
• Medimos a equidade entre os grupos?
• Há supervisão humana para decisões de alto impacto?
• As explicações estão disponíveis para os usuários afetados?
• Um cartão do modelo foi publicado e há um plano de monitoramento?

Você aprendeu ética e governança de IA:

• A pirâmide de riscos da Lei de IA da EU: inaceitável (proibido), alto (rigoroso), limitado (transparência), mínimo (livre)
• Um Cartão do Modelo documenta o uso pretendido, o desempenho (desagregado) e as ressalvas
• Uma lista de verificação de IA responsável transforma princípios em critérios de aprovação antes do lançamento