Équité, biais et préjudices concrets

Une IA apprend à partir de quantités considérables de textes et d'images produits par les humains, et les traces laissées par l'humanité contiennent des injustices, des stéréotypes et des angles morts. L'IA peut donc assimiler et reproduire ces schémas, non par malveillance, mais parce qu'elle reflète ce qu'on lui a fourni. Comprendre cela vous aide à utiliser l'IA plus équitablement et à repérer ses erreurs.

Le biais se manifeste de manière concrète. Si vous demandez à un générateur d'images de représenter « un CEO », il peut montrer principalement des personnes d'un seul genre ou d'une seule origine. Un outil de tri des CV peut favoriser certains noms. Une traduction peut supposer qu'un médecin est un homme et qu'une infirmière est une femme. Ce ne sont pas des hypothèses : ces situations se sont toutes produites dans de vrais systèmes et ont touché de vraies personnes.

Lorsque des systèmes d'IA biaisés interviennent dans des décisions liées au recrutement, aux prêts, au maintien de l'ordre ou aux soins de santé, le préjudice n'a rien d'abstrait. Des personnes peuvent se voir refuser un emploi, un prêt ou un traitement équitable par un système qui semble neutre, mais favorise discrètement certains groupes. L'aura du « c'est l'ordinateur qui l'a dit » donne aux décisions injustes une apparence d'objectivité, ce qui peut les rendre plus difficiles à contester.

Il apparaît principalement dans les données d'entraînement : si les données du passé reflètent les discriminations passées, l'IA apprend à les reproduire. Il peut également venir des personnes qui ont conçu le système et de ce qu'elles ont vérifié. La machine ne décide pas d'être injuste : elle copie fidèlement les schémas présents dans des données imparfaites. Des données erronées en entrée produisent du biais en sortie.

Vous ne concevez peut-être pas de systèmes d'IA, mais vous utilisez leurs résultats. Si vous demandez à l'IA de trier des candidats, de rédiger des évaluations professionnelles ou de juger des personnes, ses biais deviennent vos décisions. Restez vigilant : ce résultat désavantagerait-il quelqu'un injustement ? Prévoyez une vérification humaine pour tout ce qui affecte les possibilités ou la dignité des personnes.

Vous pouvez orienter l'IA vers des résultats plus équitables. Demandez-lui des exemples diversifiés : « Montrez des personnes variées », « Incluez des points de vue issus de cultures différentes », « Évitez les stéréotypes ». Lorsque vous générez des personnes ou des rôles, demandez explicitement de la variété plutôt que d'accepter la réponse par défaut, qui penche souvent vers le schéma majoritaire présent dans les données.

Lisez les résultats de l'IA en vous demandant s'ils sont équitables. A-t-elle supposé le genre d'une profession ? A-t-elle décrit un groupe en des termes réducteurs et stéréotypés ? A-t-elle complètement omis certains points de vue ? Nommer le stéréotype vous permet de le corriger : « Cette formulation repose sur un stéréotype ; veuillez la reformuler de manière équitable. » Vous êtes la personne qui relit et refuse de laisser passer le biais.

Imaginez que vous utilisez l'IA pour classer des candidats à un emploi. Si les recrutements passés penchaient fortement dans une direction, l'IA pourrait discrètement mieux classer les profils similaires et défavoriser les autres, même s'il s'agit de candidats compétents. Lui faire aveuglément confiance pourrait être injuste et, dans de nombreux endroits, illégal. L'IA peut aider au tri des candidatures, mais un humain doit assumer les décisions qui façonnent les moyens de subsistance des personnes.

Les développeurs travaillent activement à réduire les biais et les outils s'améliorent avec le temps. Votre rôle consiste à rester raisonnablement vigilant, et non à désespérer. Profitez des grands avantages de l'IA tout en gardant un regard critique sur les résultats qui touchent à l'équité. Les utilisateurs avertis rendent l'IA plus sûre simplement en refusant d'accepter des résultats biaisés.

Si vous remarquez qu'un outil d'IA produit des résultats clairement biaisés ou nuisibles, signalez-le : la plupart des plateformes disposent de boutons de signalement. Votre signalement aide les développeurs à corriger des schémas qui touchent de nombreuses personnes. Considérer l'équité comme la responsabilité de tous, et pas seulement celle des ingénieurs, permet à ces systèmes de s'améliorer.

L'IA reflète les biais humains présents dans ses données d'entraînement, et ces biais causent un préjudice réel lorsqu'ils interviennent dans des décisions concernant des personnes. Restez vigilant dans votre propre utilisation, demandez de la diversité dans vos consignes, repérez les stéréotypes, gardez les humains aux commandes des décisions importantes et signalez les problèmes. Vous contribuez à rendre l'IA plus équitable simplement en refusant de transmettre ses biais.

Vous prévoyez d'utiliser un outil d'IA pour vous aider à classer des candidats à un poste.

L'IA reflète les biais humains présents dans des données d'entraînement imparfaites, et ces biais causent un préjudice réel lorsqu'ils orientent des décisions concernant des personnes. Restez vigilant dans votre utilisation, demandez de la diversité, repérez les stéréotypes, gardez les humains aux commandes des décisions importantes et signalez les problèmes. Refuser de transmettre les biais fait de vous un acteur de la construction d'une IA plus équitable.