Pesquisando o espaço de parâmetros

Cada combinação dos seus controles forma o espaço de parâmetros. Pesquisá-lo significa testar combinações e descobrir qual executa mais rapidamente.

Primeiro, liste os valores que cada controle pode assumir. O conjunto de todos os pares de tamanho do bloco e largura fornece os candidatos a avaliar.

Para cada combinação, o compilador cria uma versão especializada do kernel, incorporando nela os valores exatos dos parâmetros.

Execute cada candidato com uma entrada representativa e registre quanto tempo ele leva. Uma medição de tempo confiável é o que torna a comparação significativa.

Descarte as primeiras execuções como aquecimento. Os caches e a CPU se estabilizam, portanto as medições iniciais são ruidosas e não representativas.

Meça cada candidato várias vezes e use o melhor tempo ou a mediana. A repetição suaviza o ruído aleatório do sistema operacional.

Forneça a mesma entrada e o mesmo tamanho de carga de trabalho a todos os candidatos, para que a única variação seja a configuração em teste.

O candidato com o menor tempo se torna o vencedor. Esse conjunto de parâmetros é aquele em que seu código deve ser especializado.

Um espaço pequeno permite uma busca em grade completa de todas as combinações. Um espaço grande pode exigir amostragem para que o ajuste não leve uma eternidade.

A busca acontece uma vez, antes da implantação. Você paga o tempo de ajuste agora para aproveitar execuções mais rápidas posteriormente.

Salve os valores vencedores para poder reutilizá-los. Um resultado registrado significa que você não precisará repetir toda a busca da próxima vez.

Você enumerou os candidatos, criou e mediu cada um em uma carga de trabalho justa, reduziu o ruído e escolheu a configuração mais rápida como vencedora. 🎯