Динамический выбор примеров для малообразцового режима

При статическом обучении по нескольким примерам для каждого запроса используются одни и те же примеры. Динамическое обучение по нескольким примерам извлекает из пула наиболее релевантные демонстрации для каждого запроса, подбирая для модели примеры, похожие на текущие входные данные.

Это обучение в контексте с дополнением извлечёнными данными: оно повышает релевантность демонстраций, что является одним из самых сильных факторов качества ICL, особенно при неоднородном потоке запросов.

Заранее постройте векторные представления для каждой демонстрации-кандидата и сохраните их в индексе приближённого поиска ближайших соседей (FAISS, HNSW или векторная база данных). Во время обработки запроса один раз примените embed к входным данным и извлеките наиболее близкие совпадения.

Выбирайте модель построения векторных представлений, соответствующую смыслу Вашей задачи: универсальная модель может группировать данные по поверхностным признакам, а не по измерению, которое позволяет предсказать правильную метку.

Канонический метод (Liu и др., 2022) извлекает из размеченного пула k ближайших соседей запроса и использует их как демонстрации. Выбор на основе извлечения стабильно превосходит случайный выбор, поскольку релевантные демонстрации лучше задают задачу и предоставляют правильное пространство меток.

Извлечённые метки также выступают как априорный сигнал мягкого классификатора kNN, склоняя модель к ответам соседей.

Простой выбор top-k может вернуть почти дублирующиеся примеры, напрасно расходуя контекст. Применяйте MMR или кластеризацию к извлечённым кандидатам, чтобы сохранить релевантность и одновременно обеспечить охват выбранными демонстрациями разных аспектов запроса.

Это особенно важно для составных входных данных, где для каждого отдельного аспекта нужен свой показательный пример.

Динамический выбор добавляет вызов для построения векторного представления и поиск в индексе ANN к каждому запросу. Учитывайте это в бюджете: кэшируйте векторные представления повторяющихся запросов, выполняйте извлечение пакетами и храните индекс в памяти.

В системах с высоким QPS этап извлечения должен занимать менее миллисекунды; иначе выигрыш в релевантности будет поглощён увеличением хвостовой задержки.

Динамические демонстрации нарушают кэширование префикса промпта, поскольку блок примеров меняется для каждого запроса. Уменьшить этот эффект можно с помощью стабильного кэшируемого пролога (инструкций и нескольких универсальных примеров), добавляя после него только извлечённые демонстрации, зависящие от запроса.

Так сохраняется большая часть экономии от кэширования, а хвост по-прежнему остаётся релевантным для каждого запроса.

Если сам запрос находится в пуле, что часто бывает во время оценки, извлечение может вернуть точный ответ и завысить метрики. Во время оценки всегда исключайте запрос и почти идентичные соседние элементы, превышающие порог сходства.

В рабочей среде удаляйте дубликаты из пула и не допускайте возврата пользователю его собственного предыдущего ввода в качестве демонстрации.

Вначале пул невелик, поэтому извлечение может возвращать слабые совпадения. Начните с отобранного статического набора, а затем расширяйте пул проверенными рабочими примерами, периодически заново создавая векторные представления и перестраивая индекс.

Отслеживайте использование и результат для каждой демонстрации, чтобы удалять малоценные или устаревшие примеры и поддерживать компактность индекса.

Релевантность ближайших соседей — хорошая настройка по умолчанию, но не всегда оптимальная. Продвинутые методы выбора учитывают информативность (устраняет ли демонстрация неоднозначность запроса?), разнообразие и охват меток. Некоторые методы обучают стратегию выбора, которая максимизирует итоговую точность, а не только исходное сходство.

Рассматривайте выбор как подбор набора демонстраций, который сильнее всего уменьшает неопределённость модели для данного запроса.

Сравнивайте динамический вариант со статическими и случайными базовыми вариантами на отложенных данных с контролем утечек. Отчитывайтесь о точности, распределении сходства извлечённых элементов, сквозной задержке и доле обращений к кэшу.

Динамическая система, которая выигрывает по точности, но резко снижает повторное использование кэша, может в итоге повысить стоимость; оценивайте всю целевую функцию, а не только качество.

Сквозной процесс включает проверенный пул демонстраций, модель построения векторных представлений, хранящийся в памяти индекс ANN, модуль выбора с защитой от утечек, обеспечением разнообразия и упорядочиванием по сходству, стабильный кэшируемый пролог и цикл обратной связи, который расширяет и сокращает пул.

Такая архитектура превращает обучение по нескольким примерам в систему извлечения с соответствующей операционной дисциплиной.

Основные выводы:

• Динамическое обучение по нескольким примерам извлекает демонстрации для каждого запроса и превосходит случайный и статический подходы благодаря повышению релевантности.
• Создавайте векторные представления пула в индексе ANN; формирование промптов с помощью kNN — хорошая настройка по умолчанию, при этом примеры следует упорядочивать по возрастающему сходству.
• Добавляйте разнообразие с помощью MMR и учитывайте методы выбора по информативности и снижению неопределённости.
• Защищайтесь от утечек при извлечении, контролируйте задержку и сохраняйте статический кэшируемый пролог с динамическим хвостом.
• Расширяйте и сокращайте пул на основе проверенных рабочих примеров; оценивайте точность, задержку и долю обращений к кэшу вместе.