Selección dinámica de ejemplos few-shot

El aprendizaje few-shot estático utiliza los mismos ejemplos para cada consulta. El few-shot dinámico recupera las demostraciones más relevantes para cada consulta desde un conjunto, de modo que el modelo se condiciona con ejemplos parecidos a la entrada actual.

Esto es aprendizaje en contexto aumentado por recuperación: aumenta la relevancia de las demostraciones, uno de los factores que más influyen en la calidad del ICL, especialmente con tráfico heterogéneo.

Calcule previamente los embeddings de cada demostración candidata y almacénelos en un índice de vecinos más cercanos aproximados (FAISS, HNSW o una base de datos vectorial). En el momento de la consulta, genere el embedding de la entrada una sola vez y recupere las coincidencias principales.

Elija un modelo de embeddings alineado con la semántica de su tarea; un embedder genérico puede agrupar según características superficiales en lugar de hacerlo según la dimensión que predice la etiqueta correcta.

El método canónico (Liu et al., 2022) recupera los k vecinos más cercanos de la consulta desde el conjunto etiquetado y los utiliza como demostraciones. La selección basada en recuperación supera sistemáticamente a la selección aleatoria porque las demostraciones relevantes ayudan a identificar mejor la tarea y proporcionan el espacio de etiquetas adecuado.

Las etiquetas recuperadas también actúan como una distribución previa suave de un clasificador kNN, orientando al modelo hacia las respuestas de los vecinos.

Un top-k puro puede devolver duplicados casi idénticos y desperdiciar contexto. Aplique MMR o agrupación a los candidatos recuperados para conservar la relevancia y, al mismo tiempo, garantizar que las demostraciones elegidas cubran aspectos distintos de la consulta.

Esto es especialmente importante en entradas compositivas, donde cada subaspecto necesita una demostración representativa.

La selección dinámica añade una llamada para generar embeddings y una consulta al índice ANN en cada solicitud. Planifique este coste: almacene en caché los embeddings de consultas repetidas, agrupe las recuperaciones y mantenga el índice en memoria.

En sistemas con un QPS alto, el paso de recuperación debe tardar menos de un milisegundo; de lo contrario, la ganancia de relevancia queda anulada por el aumento de la latencia de cola.

Las demostraciones dinámicas impiden el almacenamiento en caché del prefijo del prompt porque el bloque de ejemplos cambia con cada consulta. Mitigue este efecto manteniendo un preámbulo estable en caché (instrucciones más algunos ejemplos universales) y añadiendo después únicamente las demostraciones recuperadas y específicas de la consulta.

Así recuperará la mayor parte del ahorro de la caché y conservará la relevancia específica de cada consulta en la parte final.

Si la propia consulta está en el conjunto (algo habitual durante la evaluación), la recuperación puede devolver la respuesta exacta e inflar las métricas. Durante la evaluación, excluya la consulta y los vecinos casi idénticos cuya similitud supere un umbral.

En producción, elimine los duplicados del conjunto y evite devolver como demostración la propia entrada anterior de un usuario.

Al principio, el conjunto es pequeño y la recuperación puede devolver coincidencias débiles. Inicialícelo con un conjunto estático seleccionado y, después, amplíelo a partir de trazas de producción verificadas, generando de nuevo los embeddings y reindexando según un calendario.

Registre el uso y el resultado de cada demostración para poder eliminar ejemplos de poco valor u obsoletos y mantener el índice optimizado.

La relevancia de los vecinos más cercanos es un buen valor predeterminado, pero no siempre es óptima. Los selectores avanzados ponderan la capacidad informativa (¿resuelve la demostración la ambigüedad de la consulta?), la diversidad y la cobertura de etiquetas. Algunos métodos aprenden una política de selección que maximiza la exactitud posterior en lugar de la similitud bruta.

Plantee la selección como la elección del conjunto de demostraciones que más reduce la incertidumbre del modelo sobre esta consulta.

Compare el método dinámico con referencias estáticas y aleatorias usando datos retenidos, con control de fugas. Informe de la exactitud, la distribución de las similitudes de recuperación, la latencia de extremo a extremo y la tasa de aciertos de la caché.

Un sistema dinámico que gana en exactitud, pero reduce drásticamente la reutilización de la caché, puede tener un balance negativo en términos de coste; evalúe el objetivo completo, no solo la calidad.

De extremo a extremo: un conjunto verificado de demostraciones, un modelo de embeddings, un índice ANN en memoria, un selector que aplica controles contra fugas, diversidad y ordenación por similitud, un preámbulo estable en caché y un ciclo de retroalimentación que amplía y depura el conjunto.

Esta arquitectura convierte el prompting few-shot en un sistema de recuperación con la disciplina operativa que ello implica.

Diagnostique un resultado de evaluación engañosamente sólido.

Conclusiones principales:

• El few-shot dinámico recupera demostraciones para cada consulta y supera a los métodos aleatorios o estáticos al aumentar la relevancia.
• Genere embeddings del conjunto en un índice ANN; el prompting kNN es un buen valor predeterminado, ordenado por similitud ascendente.
• Añada diversidad (MMR) y considere selectores basados en la capacidad informativa o la reducción de incertidumbre.
• Evite las fugas de recuperación, gestione la latencia y mantenga un preámbulo estático en caché con una parte final dinámica.
• Amplíe y depure el conjunto a partir de trazas verificadas; evalúe conjuntamente la exactitud, la latencia y los aciertos de la caché.