Ограничения темы и области

Модели ИИ обучены быть полезными и исчерпывающими. Если их не ограничивать, они часто добавляют контекст, предысторию, варианты и оговорки, которые не нужны для вашей конкретной задачи.

Ограничения области в запросах указывают модели оставаться в заданных рамках — темы, предметной области, точки зрения или набора аспектов. Без таких ограничений вы часто получаете ответы, которые в целом верны, но слишком широки, чтобы быть непосредственно полезными.

Самая прямая формулировка ограничения области — «Сосредоточьтесь только на X»:

• «Сосредоточьтесь только на последствиях для безопасности — не обсуждайте производительность».
• «Раскройте только процесс адаптации новых пользователей, а не весь набор функций продукта».
• «Обсуждайте только инструменты с открытым исходным кодом. Не упоминайте коммерческие продукты».

Этот подход лучше всего работает, когда X — чётко определённая и ограниченная категория. Расплывчатые инструкции («сосредоточьтесь на важных вещах») слишком субъективны и не дают практической пользы.

Ограничения на исключение убирают конкретные темы, которые вы не хотите затрагивать:

• «Не упоминайте цены или стоимость».
• «Избегайте любых упоминаний финансового кризиса 2008 года».
• «Не обсуждайте ограничения этого подхода».
• «Исключите любые упоминания политических партий».

Ограничения на исключение полезны, когда вы заранее знаете, что модель естественным образом добавит нежелательное содержание. Они особенно важны для контента, безопасного для бренда, и материалов с повышенными требованиями к соблюдению правил.

Ограничения предметной области удерживают модель в рамках конкретной сферы или контекста:

• «Оставайтесь в рамках темы разработки мобильных приложений».
• «Ограничьте ответ контекстом небольших розничных компаний».
• «Оставайтесь в рамках Python 3.10 и более поздних версий».
• «Ваши ответы должны касаться только нормативного контекста EU».

Ограничения предметной области особенно важны, когда модель используется в специализированном приложении (например, в кулинарном помощнике, который не должен давать медицинские рекомендации).

Исключение конкурентов — распространённое требование для маркетингового контента и материалов о продуктах:

• «Не называйте конкурирующие продукты и не сравнивайте с ними наш продукт».
• «Сосредоточьтесь на сильных сторонах нашего продукта. Не упоминайте конкурентную среду».
• «Избегайте любых сравнений с другими инструментами CRM».

Это ограничение области важно для поддержания безопасности бренда в контенте, созданном ИИ. Модели, обученные на данных из интернета, знают о конкурентах и будут упоминать их, если явно это не запретить.

Можно ограничить не только тему, но и точку зрения, с которой выступает модель:

• «Представьте только аргументы в пользу удалённой работы. Не приводите контраргументы».
• «Анализируйте это только с точки зрения человека, впервые покупающего жильё».
• «Сосредоточьтесь на технической реализации. Не обсуждайте вопросы бизнеса или стратегии».

Ограничения точки зрения полезны, когда для конкретной цели нужен частичный анализ — краткий материал для подготовки к дебатам, отчёт для определённой группы заинтересованных лиц или односторонний убеждающий текст.

Для приложений с постоянными ограничениями области задавайте их в системном запросе. Это не позволит пользователям случайно или намеренно вывести модель за пределы предназначенной для неё предметной области:

Ограничения области не всегда соблюдаются идеально. Распространённые причины:

• Дрейф — в первой части ответа модель остаётся в заданной области, а затем выходит за её пределы.
• Неявное включение — вы запретили явные упоминания, но модель подразумевает запрещённое содержание.
• Неоднозначные границы — определение области недостаточно точное, чтобы модель могла применять его последовательно.

Исправление для всех трёх случаев одно: сделайте границы области более явными и конкретными. Вместо «оставайтесь в рамках темы» точно перечислите в двух отдельных списках, что входит в область, а что выходит за её пределы.

Область можно задать через включения (что добавить) или исключения (что убрать). Оба подхода полезны и хорошо дополняют друг друга:

Положительное определение (включение): «Раскройте только следующие пункты: описания функций, тарифные планы и варианты интеграции».

Отрицательное определение (исключение): «Не включайте следующие сведения: историю компании, биографии сотрудников и подробности технической архитектуры».

Для сложных требований к области используйте оба подхода: явно определите список того, что входит в область, AND список того, что в неё не входит. Такая двойная граница надёжнее, чем использование только одного из этих подходов.

Ограничения временного охвата задают период времени, на котором следует сосредоточиться модели:

• «Обсуждайте только события с 2020 года по настоящее время».
• «Сосредоточьтесь на текущем состоянии технологии, а не на её историческом развитии».
• «Игнорируйте любые разработки после 2022 года — наша аудитория пока о них не знает».

Это полезно, когда Вы пишете для аудитории с ограниченными базовыми знаниями или когда исторический контекст может отвлечь от практического ответа, ориентированного на настоящее. Обратите внимание: ограничения, связанные с датой отсечения знаний моделей, могут влиять на точность сведений о самых недавних событиях.

Охват также может определять степень детализации или глубину:

• «Дайте общий обзор — не вдавайтесь в технические подробности реализации».
• «Сосредоточьтесь на особенностях реализации. Опустите концептуальный контекст».
• «Оставайтесь на стратегическом уровне. Тактические подробности не входят в охват этого документа».

Ограничения охвата по степени детализации особенно полезны при создании многоуровневой документации — одной версии для руководителей и другой для инженеров, — когда каждой версии нужно оставаться на соответствующем уровне, не смешиваясь с другой.

Ограничения охвата направляют вывод ИИ, определяя, что входит в область, а что исключается. Основные схемы таковы: сосредоточиться только на X, не упоминать Y, оставаться в пределах области Z и ограничивать перспективу.

Наиболее надёжное задание охвата сочетает позитивные и негативные формулировки, использует явные списки вместо расплывчатых терминов и размещает ограничения в системном промпте для приложений, работающих постоянно.

На следующем уроке Вы примените ограничения на уровне стиля — будете управлять не только тем, что говорит модель, но и тем, как она это говорит.