Eventi per misurazione e sincronizzazione

Un evento CUDA è un marcatore inserito in uno stream. La GPU registra quando lo raggiunge, permettendo di misurare e ordinare il lavoro. ⏱️

Gli eventi usano un handle cudaEvent_t, proprio come gli stream. Lo crea, lo registra, lo interroga e lo distrugge quando ha finito di usarlo.

Chiami cudaEventCreate per ogni evento necessario. Per la misurazione dei tempi, di solito ne servono due: uno prima del lavoro e uno dopo.

cudaEventRecord inserisce l'evento in uno stream. La GPU registra il timestamp nel momento in cui termina tutto ciò che era stato accodato prima dell'evento.

Registri l'inizio, avvii il kernel e poi registri la fine, tutto nello stesso stream. L'intervallo tra i due eventi è il reale tempo di esecuzione sulla GPU.

Gli eventi sono asincroni, quindi l'host deve attendere. cudaEventSynchronize blocca l'esecuzione finché l'evento specificato non è stato effettivamente registrato sulla GPU.

cudaEventElapsedTime restituisce i millisecondi trascorsi tra due eventi registrati. È molto più preciso rispetto a un orologio della CPU lato host.

I timer dell'host includono l'overhead di avvio e non misurano il tempo reale della GPU. Gli eventi si trovano all'interno dello stream, quindi rilevano esattamente ciò che ha fatto il dispositivo.

Gli eventi permettono anche di sincronizzare gli stream. cudaStreamWaitEvent fa sì che uno stream si metta in pausa finché non si verifica un evento registrato in un altro stream.

Con stream-wait-event si esprime una dipendenza: streamB inizia il proprio lavoro solo dopo che streamA ha raggiunto il suo evento, senza bloccare l'host.

Libere gli eventi non più necessari con cudaEventDestroy. Come gli stream, sono economici, ma non devono essere lasciati senza liberare le risorse nelle applicazioni a esecuzione prolungata.

Gli eventi permettono di misurare con precisione il lavoro della GPU e di ordinare uno stream dopo l'altro. Sono lo strumento per misurare e coordinare la sovrapposizione. 🎯