Cadres éthiques et de gouvernance de l’IA

Les modèles performants comportent de vrais risques : discrimination, atteintes à la vie privée, désinformation et défaillances de sécurité. La gouvernance de l’IA regroupe les politiques, les processus et la documentation qui garantissent que les systèmes d’IA restent conformes à la loi, équitables et responsables tout au long de leur cycle de vie.

La réglementation de l’EU sur l’IA est un texte majeur qui classe les systèmes d’IA selon leur niveau de risque et impose des obligations proportionnelles à ce risque. Elle s’appuie sur une pyramide des risques à quatre niveaux.

Au sommet, les systèmes présentant un risque inacceptable sont purement et simplement interdits. Il peut s’agir, par exemple, de la notation sociale mise en place par un gouvernement ou de systèmes manipulateurs qui exploitent les vulnérabilités. Ils ne peuvent pas être déployés, quelles que soient les mesures de protection prévues.

Les systèmes à haut risque, comme les dispositifs médicaux, les systèmes de recrutement, l’évaluation du risque de crédit et les infrastructures critiques, sont autorisés, mais fortement réglementés : ils nécessitent une gestion des risques, des données de haute qualité, une journalisation, une supervision humaine et une évaluation de conformité avant leur mise sur le marché.

Les niveaux inférieurs sont soumis à des obligations plus légères :

• Le risque limité, qui concerne notamment les agents conversationnels et les hypertrucages, exige de la transparence, par exemple en informant les utilisateurs qu’ils interagissent avec une IA
• Le risque minimal, qui concerne notamment les filtres anti-spam et l’IA des jeux vidéo, n’impose pratiquement aucune obligation

De haut en bas, la pyramide de la réglementation de l’EU sur l’IA comprend les niveaux suivants : inacceptable (interdit), élevé (exigences strictes), limité (obligations de transparence) et minimal (utilisation libre). La plupart des systèmes d’IA du quotidien appartiennent aux deux niveaux inférieurs.

Une fiche de modèle est un document court et standardisé publié avec un modèle. Elle indique à quoi le modèle sert et dans quels cas il ne doit pas être utilisé, afin que les équipes qui l’intègrent puissent prendre des décisions éclairées. C’est l’équivalent, pour l’IA, d’une étiquette nutritionnelle.

La section relative à l’usage prévu indique l’objectif principal, les utilisateurs visés et les usages explicitement hors périmètre. Elle prévient les utilisations abusives, comme le fait d’appliquer à des contrats juridiques un modèle d’analyse des sentiments entraîné sur des tweets en anglais.

La section relative aux performances présente les métriques, idéalement ventilées par sous-groupe, ainsi que les données d’évaluation utilisées. Les métriques désagrégées révèlent si le modèle fonctionne bien pour tout le monde ou seulement pour le groupe majoritaire.

La section relative aux réserves et aux limites répertorie les modes de défaillance et les biais connus, ainsi que les situations dans lesquelles le modèle perd en efficacité, comme les langues peu dotées ou les entrées hors distribution. Des réserves formulées honnêtement renforcent la confiance et évitent les préjudices.

Les équipes mettent la gouvernance en pratique à l’aide d’une liste de contrôle pour une IA responsable, vérifiée avant le lancement :

• Les données d’entraînement sont-elles représentatives et collectées avec le consentement nécessaire ?
• Avons-nous mesuré l’équité entre les groupes ?
• Une supervision humaine est-elle prévue pour les décisions à forts enjeux ?
• Des explications sont-elles accessibles aux utilisateurs concernés ?
• Une fiche de modèle est-elle publiée et un plan de surveillance est-il en place ?

Vérifiez vos connaissances en matière de gouvernance.

Vous avez appris les notions d’éthique et de gouvernance de l’IA :

• La pyramide des risques du règlement européen sur l’IA : inacceptable (interdit), élevé (strict), limité (transparence), minimal (libre)
• Une fiche de modèle documente l’utilisation prévue, les performances (désagrégées) et les réserves
• Une liste de contrôle pour une IA responsable transforme les principes en critères à vérifier avant le lancement