Справедливость, предвзятость и реальный вред

ИИ учится на огромных массивах человеческих текстов и изображений, а история человечества включает несправедливость, стереотипы и неочевидные ограничения восприятия. Поэтому ИИ может усваивать и повторять такие закономерности — не из злого умысла, а потому, что отражает данные, на которых его обучали. Понимание этого помогает Вам справедливее использовать ИИ и замечать, когда он ошибается.

Предвзятость проявляется вполне конкретно. Генератор изображений, если попросить его показать «CEO», может изображать преимущественно людей одного пола или одной расы. Инструмент отбора резюме может отдавать предпочтение определённым именам. Переводчик может предположить, что врач — мужчина, а медсестра — женщина. Это не гипотетические случаи: каждый из них происходил в реальных системах и затрагивал реальных людей.

Когда предвзятый ИИ используется при найме, выдаче кредитов, работе полиции или принятии решений в здравоохранении, вред не является абстрактным. Люди могут лишиться работы, кредита или справедливого отношения из-за системы, которая выглядит нейтральной, но незаметно отдаёт предпочтение некоторым группам. Аура фразы «так сказал компьютер» заставляет воспринимать несправедливые решения как объективные, из-за чего оспаривать их становится сложнее.

В основном из обучающих данных: если прошлые данные отражают прежнюю дискриминацию, ИИ учится её повторять. Предвзятость также может появиться из-за того, кто создал систему и что именно проверял. Машина не решает быть несправедливой — она добросовестно копирует закономерности из несовершенных данных. Что подали на вход, то получили на выходе.

Возможно, Вы не создаёте системы ИИ, но используете их результаты. Если Вы просите ИИ отбирать кандидатов, писать отзывы о результатах работы или оценивать людей, его предвзятость становится частью Ваших решений. Будьте внимательны: не поставит ли этот результат кого-то в несправедливо невыгодное положение? Добавляйте проверку человеком для всего, что влияет на возможности или достоинство людей.

Вы можете направить ИИ к более справедливому результату. Просите приводить разнообразные примеры: «Покажите разных людей», «Включите точки зрения людей из разных культур», «Избегайте стереотипов». Создавая изображения людей или ролей, явно просите о разнообразии, а не принимайте вариант по умолчанию, который часто склоняется к преобладающему в данных шаблону.

Проверяйте результат ИИ с точки зрения справедливости. Предположил ли он пол человека по его профессии? Описал ли группу узкими, шаблонными выражениями? Полностью ли он исключил какие-то точки зрения? Если назвать стереотип, его можно исправить: «В этой формулировке используется стереотип — пожалуйста, перепишите её справедливо». Вы — редактор, который не позволяет выпустить предвзятый результат.

Представьте, что Вы используете ИИ для ранжирования соискателей. Если среди принятых в прошлом сотрудников преобладала какая-то одна группа, ИИ может незаметно ставить выше похожие профили и занижать оценку другим — даже сильным кандидатам. Слепо полагаться на него было бы несправедливо, а во многих местах ещё и незаконно. ИИ может помогать с отбором, но решения, влияющие на средства к существованию людей, должен принимать человек.

Разработчики активно работают над уменьшением предвзятости, и со временем инструменты совершенствуются. Ваша задача — проявлять осмотрительность, а не впадать в отчаяние. Пользуйтесь огромными преимуществами ИИ, но критически оценивайте результаты, затрагивающие справедливость. Внимательные пользователи делают ИИ безопаснее, просто отказываясь принимать предвзятые результаты.

Если Вы заметили, что инструмент ИИ выдаёт явно предвзятый или вредный результат, сообщите об этом: на большинстве платформ есть кнопки обратной связи. Ваша жалоба поможет разработчикам исправить закономерности, затрагивающие многих людей. Именно признание справедливости общей задачей, а не обязанностью одних только инженеров, помогает улучшать такие системы.

ИИ отражает человеческую предвзятость из своих обучающих данных, и эта предвзятость причиняет реальный вред, когда лежит в основе решений о людях. Следите за собственным использованием, просите о разнообразии в запросах, выявляйте стереотипы, оставляйте принятие важных решений за людьми и сообщайте о проблемах. Вы помогаете создавать более справедливый ИИ, просто отказываясь передавать его предвзятость дальше.

Вы планируете использовать инструмент ИИ, чтобы помочь ранжировать соискателей на вакансию.

ИИ отражает человеческую предвзятость из несовершенных обучающих данных, и эта предвзятость причиняет реальный вред, когда влияет на решения о людях. Будьте внимательны при использовании ИИ, просите о разнообразии, выявляйте стереотипы, оставляйте принятие важных решений за людьми и сообщайте о проблемах. Отказываясь передавать предвзятость дальше, Вы помогаете создавать более справедливый ИИ.