Этика искусственного интеллекта и системы управления

Производительные модели несут реальные риски: дискриминацию, угрозы конфиденциальности, распространение дезинформации и сбои, связанные с безопасностью. Управление ИИ — это совокупность политик, процессов и документации, которые обеспечивают законность, справедливость и подотчётность систем ИИ на протяжении всего их жизненного цикла.

Закон EU об ИИ — важный нормативный акт, который классифицирует системы ИИ по уровню риска и устанавливает обязательства, соответствующие этому уровню. В нём используется четырёхуровневая пирамида рисков.

На вершине пирамиды системы с неприемлемым риском полностью запрещены. К ним относятся государственная социальная оценка и манипулятивные системы, использующие уязвимости людей. Такие системы нельзя внедрять независимо от предусмотренных мер защиты.

Системы с высоким риском (медицинские устройства, подбор сотрудников, оценка кредитоспособности, критически важная инфраструктура) разрешены, но строго регулируются: до выхода на рынок они требуют управления рисками, высококачественных данных, журналирования, человеческого контроля и оценки соответствия.

Для нижних уровней требования менее строгие:

• Ограниченный риск (чат-боты, дипфейки) требует прозрачности, например информирования пользователей о том, что они взаимодействуют с ИИ
• Минимальный риск (фильтры спама, игровой ИИ) практически не предполагает обязательств

Сверху вниз пирамида закона EU об ИИ выглядит так: неприемлемый риск (запрещён), высокий (строгие требования), ограниченный (обязанности по прозрачности) и минимальный (свободное использование). Большинство повседневных систем ИИ относится к двум нижним уровням.

Карточка модели — это короткий стандартизированный документ, публикуемый вместе с моделью. В ней описывается назначение модели и случаи, когда её не следует использовать, чтобы команды, применяющие её дальше, могли принимать обоснованные решения. Это эквивалент этикетки с пищевой ценностью для ИИ.

Раздел предполагаемое использование описывает основное назначение, целевых пользователей и явно указывает случаи применения, не входящие в область действия модели. Это предотвращает неправильное использование, например применение модели анализа тональности, обученной на англоязычных публикациях в социальных сетях, к юридическим договорам.

В разделе производительности приводятся метрики, желательно в разбивке по подгруппам, а также данные, использованные для оценки. Метрики в разбивке по группам показывают, хорошо ли модель работает для всех или только для большинства.

В разделе оговорок и ограничений перечисляются известные сценарии сбоев, виды предвзятости и условия, при которых качество модели снижается, например языки с ограниченными ресурсами или входные данные вне распределения. Честные оговорки укрепляют доверие и помогают предотвращать вред.

Команды внедряют управление ИИ в рабочие процессы с помощью контрольного списка ответственного ИИ, который проверяют перед запуском:

• Репрезентативны ли обучающие данные и получены ли они с согласия?
• Измерили ли мы справедливость модели для разных групп?
• Предусмотрен ли человеческий контроль для решений с высокими последствиями?
• Доступны ли затронутым пользователям объяснения?
• Опубликована ли карточка модели и подготовлен ли план контроля?

Проверьте свои знания о корпоративном управлении.

Вы изучили этику и корпоративное управление в области ИИ:

• пирамида рисков Закона ЕС об ИИ: неприемлемый риск (запрещён), высокий (строгие требования), ограниченный (прозрачность), минимальный (свободное использование)
• карточка модели описывает предполагаемое применение, производительность (с разбивкой по группам) и оговорки
• контрольный список ответственного ИИ превращает принципы в контрольные условия перед запуском