Zero, um e poucos exemplos

Exemplos indicam o número de demonstrações rotuladas inseridas na instrução antes da consulta em tempo real. A abordagem sem exemplos depende inteiramente dos conhecimentos prévios pré-treinados do modelo; a abordagem com poucos exemplos condiciona o modelo a uma pequena distribuição específica da tarefa no momento da inferência, sem atualizar nenhum peso.

Isso é o aprendizado em contexto (ICL): o transformador trata os exemplos como parte da sequência e realiza implicitamente uma espécie de regressão baseada em meta-aprendizado sobre eles. A escolha de k, o número de exemplos, é um hiperparâmetro que você ajusta empiricamente, não uma prática recomendada fixa.

Prefira a abordagem sem exemplos quando a tarefa estiver bem representada no pré-treinamento (resumo, tradução e classificação comum) e quando os exemplos puderem influenciar o formato da saída. Para modelos ajustados para seguir instruções, uma instrução direta e clara acompanhada de um esquema de saída geralmente supera exemplos que ancoram sutilmente o estilo.

A abordagem sem exemplos também minimiza o custo de tokens e a latência, além de evitar o viés do rótulo majoritário, no qual o modelo prevê em excesso a classe que domina seus exemplos.

A abordagem com um exemplo é especialmente eficaz quando a tarefa é conceitualmente clara, mas o formato da saída é incomum ou rigoroso. Uma única demonstração ensina o formato exato (chaves JSON, delimitadores e uso de maiúsculas e minúsculas) com muito mais confiabilidade do que uma descrição em prosa.

Use um exemplo quando quiser restringir a estrutura sem gastar tokens nem correr o risco da assimetria na distribuição de rótulos introduzida por vários exemplos.

O desempenho em relação a k raramente é monotônico. Normalmente ele aumenta, atinge um platô e depois piora à medida que os exemplos ocupam o contexto, diluem a atenção e afastam a consulta ativa do foco de recência do modelo.

Faça empiricamente uma varredura de k em {1, 2, 4, 8, 16} usando um conjunto reservado para validação. O k ideal depende da complexidade da tarefa, do comprimento dos exemplos e do aproveitamento efetivo do contexto pelo modelo, que geralmente fica muito abaixo da janela anunciada.

As pesquisas descrevem o ICL como o modelo realizando inferência bayesiana implícita: as demonstrações ajudam a localizar o conceito latente da tarefa que o modelo já aprendeu durante o pré-treinamento. Os exemplos funcionam como evidências que restringem a distribuição posterior sobre as tarefas, e não como conhecimento novo.

Isso explica uma descoberta contraintuitiva: até mesmo rótulos incorretos nas demonstrações podem preservar grande parte da precisão, porque o sinal dominante é o formato e o espaço de rótulos, não o mapeamento entre entrada e rótulo em si.

Cada exemplo consome contexto e dinheiro. Com demonstrações longas, quatro exemplos podem ser muito maiores do que a consulta. Calcule uma métrica de custo por ponto de precisão: se k=8 proporcionar 0,5% a mais do que k=4 ao custo do dobro de tokens, k=4 será melhor em produção.

Para fluxos de processamento de alta vazão, prefira armazenar em cache o bloco estático de exemplos da instrução, para que demonstrações repetidas sejam cobradas e processadas uma única vez.

As instruções com poucos exemplos carregam vieses ocultos. O viés do rótulo majoritário faz o modelo favorecer a classe mais frequente nos exemplos. O viés de recência dá peso excessivo ao último exemplo. O viés de tokens comuns favorece tokens que aparecem com frequência.

Técnicas de calibração, como a calibração contextual, estimam a distribuição prévia do modelo em uma entrada sem conteúdo (por exemplo, o token N/A) e a eliminam por divisão, estabilizando drasticamente os classificadores com poucos exemplos.

Para combater o viés do rótulo majoritário, equilibre as classes nas demonstrações e varie a ordem delas. Para k=4 em uma classificação binária, use 2 exemplos positivos e 2 negativos, embaralhados, em vez de uma proporção de 3:1.

Em tarefas de geração, equilibre as dimensões importantes (comprimento, tom e dificuldade) para que o modelo não se restrinja a um único padrão que tenha visto com mais frequência.

Usar poucos exemplos é a ferramenta certa quando a tarefa muda com frequência, os dados são escassos ou não é possível hospedar um modelo ajustado. O ajuste fino é melhor quando você tem milhares de exemplos, precisa da menor latência por chamada ou quer incorporar o formato ao modelo para manter as instruções curtas.

Um caminho comum em produção é: criar um protótipo com poucos exemplos, coletar as trajetórias bem-sucedidas e então destilá-las em um modelo ajustado para eliminar completamente os tokens dos exemplos.

Para raciocínio em várias etapas, pares brutos de pergunta e resposta com poucos exemplos podem prejudicar: o modelo aprende a saltar diretamente para uma resposta que não consegue justificar. Combine poucos exemplos com demonstrações de cadeia de raciocínio que mostrem a trajetória do raciocínio, e não apenas o rótulo final.

A quantidade de exemplos interage com a profundidade do raciocínio; com frequência, 2 exemplos de cadeia de raciocínio de alta qualidade superam 8 exemplos que mostram apenas respostas em avaliações de aritmética e lógica.

Trate a seleção da quantidade de exemplos como uma busca empírica apoiada por uma estrutura de avaliação. Separe um conjunto de validação, controle a ordem dos exemplos usando várias sementes e informe a média e a variância, pois a precisão com poucos exemplos pode variar vários pontos apenas por causa da ordem.

Registre as contagens de tokens e a latência para cada k, para que a escolha final otimize o objetivo completo, e não apenas a precisão.

Teste sua compreensão da seleção da quantidade de exemplos e do viés do ICL.

Principais conclusões:

• k é um hiperparâmetro ajustável; faça uma varredura dele e observe a curva de aumento, platô e queda.
• A abordagem sem exemplos é adequada para tarefas conhecidas; um exemplo ancora formatos rigorosos; poucos exemplos condicionam o modelo a uma distribuição de tarefas.
• O ICL funciona localizando uma tarefa pré-treinada, portanto o formato e o espaço de rótulos predominam sobre a correção dos rótulos.
• Combata os vieses do rótulo majoritário, de recência e de tokens comuns equilibrando, embaralhando e aplicando calibração contextual.
• Otimize a precisão por unidade monetária, combine tarefas de raciocínio com exemplos de cadeia de raciocínio e destile instruções estáveis com poucos exemplos em modelos ajustados.