Zéro, un ou quelques exemples

Les exemples désignent le nombre de démonstrations annotées placées dans l'instruction avant la requête à traiter. Le mode sans exemple repose entièrement sur les a priori préentraînés du modèle ; le mode à quelques exemples conditionne le modèle sur une petite distribution propre à la tâche au moment de l'inférence, sans aucune mise à jour des poids.

Il s'agit de l'apprentissage en contexte (ICL) : le transformeur traite les exemples comme une partie de la séquence et effectue implicitement une forme de régression issue d'un méta-apprentissage. Le choix de k, c'est-à-dire le nombre d'exemples, est un hyperparamètre que vous réglez empiriquement, et non une pratique optimale fixe.

Préférez le sans-exemple lorsque la tâche est bien représentée dans le préentraînement (résumé, traduction, classification courante) et lorsque des exemples risqueraient de biaiser le format de sortie. Pour les modèles réglés sur des instructions, une directive concise accompagnée d’un schéma de sortie l’emporte souvent sur des exemples qui imposent subtilement un style.

Le sans-exemple réduit également le coût en jetons et la latence, et évite le biais de l’étiquette majoritaire, lorsque le modèle prédit trop souvent la classe dominante dans vos démonstrations.

L’approche à un exemple est particulièrement efficace lorsque la tâche est conceptuellement claire, mais que le format de sortie est inhabituel ou strict. Une seule démonstration enseigne la structure exacte (clés JSON, délimiteurs, casse) bien plus efficacement qu’une description en prose.

Utilisez un exemple lorsque vous souhaitez contraindre la structure sans dépenser de jetons supplémentaires ni risquer le déséquilibre de la distribution des étiquettes introduit par plusieurs exemples.

Les performances en fonction de k sont rarement monotones. Elles augmentent généralement, atteignent un plateau, puis se dégradent lorsque les exemples encombrent le contexte, dispersent l’attention et éloignent la requête en cours du point de focalisation lié à la récence du modèle.

Faites varier empiriquement k parmi {1, 2, 4, 8, 16} sur un ensemble mis de côté. La valeur optimale de k dépend de la complexité de la tâche, de la longueur des exemples et de l’utilisation effective du contexte par le modèle, généralement bien inférieure à la fenêtre annoncée.

Les travaux de recherche présentent ICL comme une inférence bayésienne implicite effectuée par le modèle : les démonstrations l’aident à localiser le concept latent de la tâche que le modèle a déjà appris pendant le préentraînement. Les exemples servent de preuves qui restreignent la distribution a posteriori sur les tâches, et non de nouvelles connaissances.

Cela explique un résultat contre-intuitif : même des étiquettes incorrectes dans les démonstrations peuvent préserver une grande partie de la précision, car le signal dominant est le format et l’espace des étiquettes, et non la correspondance entre l’entrée et l’étiquette.

Chaque exemple consomme du contexte et de l’argent. Avec de longues démonstrations, quatre exemples peuvent éclipser la requête. Calculez une mesure du coût par point de précision : si k=8 apporte 0,5 % de plus que k=4 pour deux fois plus de jetons, k=4 l’emporte en production.

Pour les chaînes de traitement à haut débit, préférez la mise en cache de l’invite contenant le bloc d’exemples statique, afin que les démonstrations répétées ne soient facturées et traitées qu’une seule fois.

Les invites à quelques exemples présentent des biais cachés. Le biais de l’étiquette majoritaire pousse le modèle à privilégier la classe la plus fréquente dans les démonstrations. Le biais de récence accorde trop de poids au dernier exemple. Le biais des jetons fréquents favorise les jetons qui apparaissent souvent.

Des techniques d’étalonnage telles que l’étalonnage contextuel estiment le a priori du modèle sur une entrée dépourvue de contenu (par exemple, le jeton N/A), puis neutralisent cet effet, ce qui stabilise considérablement les classifieurs utilisant quelques exemples.

Pour contrer le biais de l’étiquette majoritaire, équilibrez les classes dans les démonstrations et faites varier leur ordre. Pour k=4 en classification binaire, utilisez 2 exemples positifs et 2 exemples négatifs, mélangés, plutôt qu’une répartition de 3 à 1.

Pour les tâches de génération, équilibrez les dimensions importantes (longueur, ton, difficulté) afin que le modèle ne se réduise pas à un seul mode, celui qu’il a vu le plus souvent.

L’approche à quelques exemples est l’outil adapté lorsque la tâche change souvent, que les données sont rares ou que vous ne pouvez pas héberger un modèle réglé. Le réglage fin l’emporte lorsque vous disposez de milliers d’exemples, que vous avez besoin de la latence la plus faible par appel ou que vous souhaitez intégrer le format afin que les invites restent courtes.

Une démarche courante en production consiste à commencer par quelques exemples, à collecter les traces concluantes, puis à les distiller dans un réglage fin afin de supprimer entièrement les jetons des exemples.

Pour le raisonnement en plusieurs étapes, de simples paires question-réponse avec quelques exemples peuvent nuire aux performances : le modèle apprend à passer directement à une réponse qu’il ne peut pas justifier. Associez l’approche à quelques exemples à des démonstrations de chaîne de raisonnement qui montrent la trace du raisonnement, et pas seulement l’étiquette finale.

Le nombre d’exemples interagit avec la profondeur du raisonnement ; souvent, k=2 exemples CoT de haute qualité surpassent k=8 exemples ne contenant que les réponses dans les évaluations de calcul arithmétique et de logique.

Traitez la sélection du nombre d’exemples comme une recherche empirique appuyée par un harness. Gardez un ensemble de validation de côté, contrôlez l’ordre des exemples à l’aide de plusieurs initialisations aléatoires et indiquez la moyenne ainsi que la variance, car la précision avec quelques exemples peut varier de plusieurs points uniquement à cause de l’ordre.

Consignez le nombre de jetons et la latence pour chaque valeur de k afin que le choix final optimise l’objectif complet, et pas seulement la précision.

Vérifiez votre compréhension de la sélection du nombre d’exemples et des biais d’ICL.

Points clés :

• k est un hyperparamètre réglable ; faites varier sa valeur et observez la courbe de hausse, de plateau puis de dégradation.
• Le sans-exemple convient aux tâches connues ; un exemple ancre les formats stricts ; quelques exemples conditionnent le modèle sur une distribution de tâches.
• ICL fonctionne en localisant une tâche apprise lors du préentraînement : le format et l’espace des étiquettes dominent donc la justesse des étiquettes.
• Contrez les biais liés à l’étiquette majoritaire, à la récence et aux jetons fréquents par l’équilibrage, le mélange et l’étalonnage contextuel.
• Optimisez la précision par dollar, associez les tâches de raisonnement à des exemples CoT et distillez les invites stables à quelques exemples dans des réglages fins.