Agentes de debate e votação

A resposta, ou answer, de um único modelo é uma amostra de uma distribuição que inclui erros e excesso de confiança. Executar vários agentes e agregar seus resultados — por votação ou debate estruturado — explora a independência e a discordância para revelar erros e chegar a conclusões mais confiáveis.

• A votação suaviza erros aleatórios independentes.
• O debate expõe raciocínios falhos ao escrutínio.

A forma mais simples de agregação: gere várias linhas independentes de raciocínio para a mesma pergunta e escolha a answer final majoritária. Cadeias diversas frequentemente chegam à mesma resposta correta, enquanto os erros se dispersam; por isso, a moda é mais confiável do que qualquer linha isolada.

Funciona melhor quando as opções de answer são discretas e as linhas são realmente independentes.

A votação só ajuda se os erros forem independentes. Se todos os agentes compartilharem o mesmo modelo, a mesma instrução e o mesmo viés, eles falharão juntos, e a votação apenas ampliará um erro compartilhado. Introduza diversidade: temperaturas diferentes, formulações diferentes das instruções, decomposições diferentes ou modelos diferentes.

Eleitores correlacionados geram uma confiança falsa — o perigo do consenso sem independência.

No debate, os agentes produzem respostas iniciais, depois leem o raciocínio uns dos outros e revise suas respostas ao longo das rodadas. A exposição a argumentos opostos permite que os agentes detectem seus próprios erros e abandonem posições fracas, frequentemente convergindo para uma resposta melhor do que qualquer uma com que começaram.

• Rodada 1: respostas independentes.
• Rodada 2 em diante: critique e revise com base nos argumentos dos pares.

O debate pode desmoronar em concordância pelo motivo errado: os agentes cedem a um par confiante, em vez de se renderem a um argumento melhor. Combata isso instruindo os agentes a mudar de ideia somente com base no mérito, a defender posições corretas sob pressão e a declarar o argumento específico que os convenceu.

O objetivo é a discordância produtiva; o consenso prematuro é uma falha.

Em vez de esperar que os debatedores convirjam, adicione um juiz neutro que leia as posições e os argumentos finais e tome uma decisão com justificativa. O juiz não é um debatedor e não tem interesse no resultado, o que reduz a influência da voz mais estridente.

Separar a defesa da decisão é um padrão poderoso e auditável.

Nem todos os votos têm o mesmo peso. Os agentes podem informar uma confiança calibrada, e você pode ponderar a agregação de acordo com isso — ou descartar votos de baixa confiança. Tenha cuidado: a confiança do modelo costuma ser mal calibrada; portanto, valide se a ponderação realmente melhora a precisão antes de confiar nela.

• Pondere pela confiança somente se ela estiver calibrada.
• Caso contrário, a maioria simples é mais segura.

A agregação multiplica o custo linearmente com o número de agentes e rodadas, mas os ganhos de precisão diminuem. As primeiras amostras adicionais ajudam bastante; a décima raramente ajuda. Ajuste a quantidade empiricamente e pare quando a precisão marginal já não justificar o gasto marginal.

A interrupção adaptive — parar cedo quando o consenso é forte — economiza orçamento em itens fáceis.

A votação é adequada para tarefas com uma resposta discreta clara e amostras independentes. O debate é adequado para tarefas em que o raciocínio é o ponto de falha — provas com várias etapas e planos com falhas sutis — porque o valor está em criticar a cadeia, não em contabilizar conclusões.

Combine o método com o local onde os erros estão: na resposta (votação) ou no raciocínio (debate).

Defina o que acontece quando os agentes não convergem: um empate na votação ou um debate em impasse. Tenha um critério determinístico de desempate (decisão do juiz, opção de menor risco ou escalonamento para uma pessoa), em vez de deixar o sistema entrar em loop ou escolher arbitrariamente.

• Limite as rodadas de debate; em caso de impasse, o juiz decide ou o caso é escalonado.
• Apresente 'sem consenso' como um resultado válido e acionável.

Para obter um consenso confiável: garanta a independência dos eleitores por meio de diversidade real, escolha a votação para respostas discretas e o debate para tarefas que exigem muito raciocínio, combata a bajulação com revisão baseada somente no mérito, adicione um juiz neutro para decidir, pondere pela confiança somente quando ela estiver calibrada, interrompa de forma adaptive para controlar o custo e defina um desempate determinístico com escalonamento. A discordância é o recurso; gerencie-a deliberadamente.

Agregar vários agentes melhora a confiabilidade ao explorar a independência e a discordância. Use a votação por consistência própria para respostas discretas e o debate entre vários agentes para tarefas que exigem muito raciocínio, mas somente quando os eleitores forem realmente diversos — agentes correlacionados amplificam vieses compartilhados. Combata a bajulação com revisão baseada somente no mérito, adicione um juiz neutro para decidir, pondere pela confiança somente quando ela estiver calibrada, interrompa de forma adaptive para controlar o custo e defina um desempate determinístico com escalonamento.