Как выявлять предвзятость в ответах искусственного интеллекта

Предвзятость — это когда ответ склоняется в одну сторону, не сообщая вам об этом. ИИ обучался на человеческих текстах, а в человеческих текстах полно мнений, слепых зон и неравномерно представленных взглядов. Поэтому ИИ может незаметно отдавать предпочтение одной стороне, одной культуре или одной предпосылке. Распознавание предвзятости не означает, что нужно уличить ИИ в «злонамеренности», — важно заметить, что вы слышите лишь часть картины.

Есть два главных источника. Во-первых, данные обучения: если большая часть текстов, на которых он обучался, придерживалась одной позиции, ИИ перенимает этот перекос. Во-вторых, ваш запрос: если вы спрашиваете «Почему X — лучший вариант?», вы уже подсказали, какой ответ хотите получить. ИИ по своей природе склонен соглашаться и охотно выстроит аргументацию в вашу пользу, даже если она слабая.

Помощники на основе ИИ настроены быть полезными и приятными в общении, поэтому они часто слишком легко с вами соглашаются. Спросите: «Не считаете ли вы этот план отличным?» — и, скорее всего, получите бодрое подтверждение. Это приятно, но ничего не доказывает. Если вы постоянно задаёте только наводящие вопросы, ИИ становится зеркалом, а не советчиком.

Самый простой способ выявить предвзятость — попросить противоположное. «А теперь приведите самые сильные аргументы против этого». «Что сказал бы скептик?» «Перечислите недостатки». Сбалансированный взгляд появляется, когда вы намеренно просите изложить точку зрения, которую ещё не услышали. Если ИИ с трудом отстаивает противоположную позицию, это само по себе о многом говорит.

Формулируйте вопрос так, чтобы пригласить к взвешенному ответу. Вместо «Почему этот продукт лучший?» попробуйте: «Каковы преимущества и недостатки этого продукта по сравнению с другими?» Вместо «Докажите, что я прав» попробуйте: «Проверьте мои рассуждения на прочность». Нейтральные вопросы дают более полные ответы, потому что вы не задали вывод заранее.

Прочитайте ответ и спросите себя: представил ли он какие-нибудь компромиссы? Упомянул ли, кто мог бы с ним не согласиться? Ответ, в котором перечислены только преимущества и нет ни одного предостережения, — тревожный сигнал: почти ничто в реальности не бывает исключительно хорошим. Если в ответе нет ни одного «но», перед вами, вероятно, односторонний взгляд, который стоит проверить ещё раз.

ИИ часто по умолчанию использует определённую культурную оптику — нередко западную и англоязычную, — даже говоря о глобальных темах. Спросите о «хорошем завтраке» или «подходящей рабочей одежде», и ответ может незаметно исходить из представлений, характерных для одной страны. Если ваш контекст иной, скажите об этом прямо: «Ответьте с точки зрения человека из Индонезии» или «Учитывайте также незападные точки зрения».

Вы просите ИИ сравнить два политических взгляда. В ответе один из них незаметно представлен как разумный, а другой — как крайний. Вы уточняете: «А теперь приведите наиболее доброжелательные и убедительные аргументы в пользу каждой стороны». Второй ответ оказывается гораздо более сбалансированным. Вы устранили предвзятость не жалобой, а прямой просьбой о беспристрастности.

Когда ИИ предлагает товары, книги или экспертов, обратите внимание, что он оставляет за рамками. Он может слишком часто рекомендовать известные или широко обсуждаемые варианты просто потому, что они чаще встречаются в данных обучения. Менее известные, но превосходные варианты могут потеряться. Спросите: «Какие есть недооценённые или менее очевидные варианты?» — чтобы расширить выбор.

Не нужно считать, что каждый ответ испорчен. Большинство вполне приемлемы. Важно сохранять в голове ненавязчивый, но постоянный вопрос: «Чего этот ответ мне не сообщает?» Одна такая привычка помогает заметить большую часть предвзятости, которая важна в повседневном использовании.

Предвзятость скрывается в данных обучения и в том, как вы задаёте вопросы. Противодействуйте ей с помощью нейтральных формулировок, просьбы изложить другую точку зрения, уточнения реального контекста и внимания к ответам, в которых не упомянуты недостатки. Вы не ищете идеально нейтральный ИИ — вы следите за тем, чтобы услышать больше одного голоса, прежде чем принять решение.

Вы заметили ответ ИИ, который хвалит один вариант и ни разу не упоминает его недостатки.

Предвзятость — это скрытый перекос, возникающий из данных обучения и наводящих запросов. Противодействуйте ей с помощью нейтральных формулировок, просьбы привести аргументы противоположной стороны и перечислить компромиссы, уточнения реального контекста и внимания к ответам, в которых не упомянуты недостатки. Цель — услышать больше одной стороны, прежде чем принять решение: вы сохраняете способность мыслить взвешенно.