Sélection dynamique de quelques exemples

L’approche statique à quelques exemples utilise les mêmes exemples pour chaque requête. L’apprentissage dynamique à quelques exemples récupère, pour chaque requête, les exemples les plus pertinents dans un ensemble et conditionne le modèle avec des exemples qui ressemblent à l’input actuel.

Il s’agit d’un apprentissage en contexte augmenté par récupération : la pertinence des exemples augmente, ce qui constitue l’un des leviers les plus puissants pour améliorer la qualité de l’ICL, en particulier sur un trafic hétérogène.

Calculez à l’avance les représentations vectorielles de chaque exemple candidat et stockez-les dans un index de recherche des plus proches voisins approximatifs (FAISS, HNSW ou une base de données vectorielle). Au moment de la requête, appliquez embed une seule fois à l’input et récupérez les meilleures correspondances.

Choisissez un modèle de vectorisation adapté à la sémantique de votre tâche ; un modèle générique peut regrouper les éléments selon des caractéristiques de surface plutôt que selon la dimension qui prédit l’étiquette correcte.

La method canonique (Liu et al., 2022) récupère les k plus proches voisins de la requête dans l’ensemble annoté et les utilise comme exemples. La sélection fondée sur la récupération dépasse systématiquement la sélection aléatoire, car les exemples pertinents permettent de mieux cerner la tâche et fournissent le bon espace d’étiquettes.

Les étiquettes récupérées jouent également le rôle d’un a priori souple de classifieur kNN, qui oriente le modèle vers les réponses des voisins.

Une simple sélection des k premiers résultats peut renvoyer des quasi-doublons et gaspiller le contexte. Appliquez MMR ou un regroupement aux candidats récupérés afin de préserver la pertinence tout en veillant à ce que les exemples choisis couvrent des facettes distinctes de la requête.

C’est particulièrement important pour les entrées compositionnelles, dont les différents sous-aspects ont chacun besoin d’un exemple représentatif.

La sélection dynamique ajoute un appel de vectorisation et une recherche dans un index ANN à chaque requête. Prévoyez ce coût : mettez en cache les représentations vectorielles des requêtes répétées, effectuez les recherches par lots et conservez l’index en mémoire.

Pour les systèmes à fort débit, l’étape de récupération doit prendre moins d’une milliseconde ; sinon, le gain de pertinence est annulé par l’augmentation de la latence de fin de traitement.

Les exemples dynamiques empêchent la mise en cache du préfixe de l’invite, car le bloc d’exemples change à chaque requête. Limitez ce problème en conservant un préambule stable mis en cache (instructions et quelques exemples universels), puis en ajoutant uniquement les exemples récupérés et spécifiques à la requête après celui-ci.

Vous récupérez ainsi la majeure partie des économies liées à la mise en cache tout en préservant la pertinence de la fin pour chaque requête.

Si la requête elle-même se trouve dans l’ensemble (ce qui est fréquent lors de l’évaluation), la récupération peut renvoyer la réponse exacte et gonfler les métriques. Lors de l’évaluation, excluez toujours la requête ainsi que les voisins presque identiques dont la similarité dépasse un seuil.

En production, dédupliquez l’ensemble et empêchez qu’une entrée input antérieure de l’utilisateur lui soit renvoyée comme exemple.

Au début, l’ensemble est réduit et la récupération peut renvoyer de faibles correspondances. Initialisez-le avec un ensemble statique sélectionné, puis faites croître l’ensemble à partir de traces de production vérifiées, en recalculant les représentations vectorielles et en réindexant selon un calendrier défini.

Suivez l’utilisation et le résultat de chaque exemple afin de pouvoir supprimer les exemples peu utiles ou obsolètes et conserver un index compact.

La pertinence des plus proches voisins constitue un bon choix par défaut, mais elle n’est pas toujours optimale. Les sélecteurs avancés pondèrent l’valeur informative (l’exemple lève-t-il l’ambiguïté de la requête ?), la diversité et la couverture des étiquettes. Certaines méthodes apprennent une stratégie de sélection qui maximise l’exactitude finale plutôt que la similarité brute.

Considérez la sélection comme le choix de l’ensemble d’exemples qui réduit le plus l’incertitude du modèle sur cette requête.

Comparez le système dynamique à des références statiques et aléatoires sur des données mises de côté et contrôlées contre les fuites. Indiquez l’exactitude, la distribution des similarités de récupération, la latence de bout en bout et le taux d’utilisation du cache.

Un système dynamique qui gagne en exactitude mais dégrade fortement la réutilisation du cache peut avoir un bilan négatif en matière de coût ; évaluez l’objectif global, pas uniquement la qualité.

De bout en bout : un ensemble d’exemples vérifiés, un modèle de vectorisation, un index ANN en mémoire, un sélecteur qui applique des protections contre les fuites, la diversité et le classement par similarité, un préambule stable mis en cache, ainsi qu’une boucle de rétroaction qui fait croître et réduit l’ensemble.

Cette architecture transforme les invites à quelques exemples en système de récupération, avec la rigueur opérationnelle que cela implique.

Diagnostiquez un résultat d’évaluation trompeusement élevé.

Points essentiels :

• L’apprentissage dynamique à quelques exemples récupère des exemples pour chaque requête et dépasse les approches aléatoires ou statiques en augmentant la pertinence.
• Vectorisez l’ensemble dans un index ANN ; les invites kNN constituent un bon choix par défaut, classé par similarité croissante.
• Ajoutez de la diversité (MMR) et envisagez des sélecteurs fondés sur la valeur informative ou la réduction de l’incertitude.
• Protégez-vous contre les fuites de récupération, maîtrisez la latence et conservez un préambule statique mis en cache avec une fin dynamique.
• Faites croître et réduisez l’ensemble à partir de traces vérifiées ; évaluez conjointement l’exactitude, la latence et l’utilisation du cache.