Dicas por meio de cudaMemAdvise

A pré-busca move os dados agora; já cudaMemAdvise informa ao controlador como você planeja usar uma região, para que ele possa posicionar as páginas com inteligência ao longo do tempo.

Você passa o ponteiro, a quantidade de bytes, um sinalizador de orientação e um identificador de dispositivo. O controlador incorpora essa indicação às suas futuras decisões de migração.

Use cudaMemAdviseSetReadMostly para dados lidos por muitos dispositivos, mas raramente gravados. O controlador pode manter cópias somente para leitura em cada lado, evitando a migração.

Com cudaMemAdviseSetPreferredLocation, você indica um dispositivo como casa das páginas. Elas resistem a se afastar, mesmo quando outro lado as acessa.

cudaMemAdviseSetAccessedBy informa que um dispositivo acessará essa região, então o controlador a mapeia nesse dispositivo. O acesso ocorre pelo barramento, em vez de mover as páginas.

Quando dois dispositivos disputam as mesmas páginas, a orientação correta encerra o movimento. Você estabiliza o posicionamento para que os dados parem de migrar de um lado para o outro.

Diferentemente de uma pré-busca única, a orientação persiste na região até que você a altere. Ela influencia cada decisão de migração durante toda a vida do buffer.

Cada sinalizador Set tem uma forma Unset correspondente para revogar a indicação. Remova a orientação quando o padrão de acesso mudar, para que ela não induza o controlador ao erro.

As duas ferramentas combinam bem. Defina PreferredLocation para estabelecer a casa, faça a pré-busca para preenchê-la e as migrações se estabilizarão em um padrão constante.

Lembre-se do nome: uma orientação é uma sugestão, não uma garantia. O controlador pode substituí-la, portanto sempre faça uma análise de desempenho para confirmar se o posicionamento ajudou.

Agora, você tem três recursos: um ponteiro gerenciado, prefetch para controlar o momento e advise para definir o posicionamento. Juntos, eles tornam a Unified Memory fácil e rápida.

Você aprendeu a usar orientações de cudaMemAdvise, como ReadMostly, PreferredLocation e AccessedBy, para direcionar o posicionamento das páginas. Combine isso com prefetch e criação de perfil. Muito bem! 🎯