Che cos'è davvero CUDA

Avete visto perché le GPU sono veloci. CUDA è lo strumento che vi permette di scrivere effettivamente codice per loro in C++. È il momento di conoscerlo meglio. 🚀

CUDA è la piattaforma di NVIDIA per il calcolo generico su GPU. Vi permette di eseguire i vostri programmi sulla GPU, non solo la grafica.

CUDA C++ è semplicemente C++ con alcune parole chiave e funzioni aggiuntive. Se conoscete C++, gran parte di CUDA vi risulterà familiare fin dal primo giorno.

Una funzione che contrassegnate per l'esecuzione sulla GPU viene chiamata kernel. Migliaia di thread eseguiranno quella singola funzione in parallelo.

Il tag __global__ contrassegna una funzione come kernel: può essere chiamata dalla CPU, ma viene eseguita sulla GPU. È il vostro punto di accesso al device.

Nel linguaggio di CUDA, il lato CPU è l'host e il lato GPU è il device. Sentirete continuamente queste due parole, quindi fissatele subito.

CUDA offre una runtime API intuitiva: funzioni come cudaMalloc e cudaMemcpy che gestiscono la memoria della GPU e spostano i dati al posto vostro.

Compilate il codice CUDA con nvcc. Il compilatore divide il file, invia il codice host al compilatore normale e il codice device al compilatore GPU.

CUDA funziona solo sulle GPU NVIDIA. Questo stretto legame spiega perché sia così ottimizzato, ma significa anche che è specifico del produttore.

CUDA include librerie ottimizzate come cuBLAS per le matrici e cuDNN per il deep learning, quindi raramente dovrete affrontare da zero un problema complesso.

Strumenti maturi, librerie veloci e un solido supporto dell'ecosistema hanno reso CUDA il metodo predefinito per il calcolo su GPU nella scienza e nell'IA moderna.

CUDA è la piattaforma di NVIDIA che estende C++ con kernel, una runtime API e il compilatore nvcc, così il vostro codice può essere eseguito sulla GPU. 👍