CUDA Academy · Lezione

cuDNN per il deep learning

Convoluzioni e operazioni sui tensori su larga scala

cuDNN per il deep learning è una lezione CUDA Academy gratuita su CoddyKit. Questa è la lezione 4 di 4. Puoi leggere la lezione completa qui gratuitamente — poi esercitati direttamente nel browser con un editor di codice integrato e un tutor IA disponibile 24/7. Fa parte del percorso di apprendimento CUDA Academy, e i tuoi progressi si sincronizzano tra il web e l'app CoddyKit. Il corso CUDA Academy include 4 lezioni in totale.

Il motore alla base dei framework di IA

cuDNN è la libreria NVIDIA per il deep learning. PyTorch e TensorFlow si affidano a essa per convoluzioni veloci e altri blocchi fondamentali delle reti neurali. 🧠

Perché le convoluzioni hanno bisogno di aiuto

Una convoluzione fa scorrere un piccolo filtro su un'immagine, eseguendo enormi quantità di calcoli. cuDNN la implementa molto più velocemente di un kernel ingenuo.

Inizia con un handle

Come cuBLAS, cuDNN conserva lo stato in un handle che crei una volta e riutilizzi per ogni operazione, per poi distruggerlo allo spegnimento.

cudnnHandle_t h;
cudnnCreate(&h);

Descrivi i tuoi dati

cuDNN funziona tramite descriptor. Un descrittore di tensore registra forma, tipo di dati e layout, così la libreria sa esattamente che cosa sta elaborando.

cudnnTensorDescriptor_t xDesc;
cudnnCreateTensorDescriptor(&xDesc);

Il layout NCHW

I tensori sono in genere in formato NCHW: batch, canali, altezza, larghezza. Impostare correttamente questo layout è essenziale affinché i calcoli siano coerenti.

cudnnSetTensor4dDescriptor(xDesc,
  CUDNN_TENSOR_NCHW, CUDNN_DATA_FLOAT, N, C, H, W);

I filtri hanno un descriptor dedicato

I pesi del kernel di convoluzione usano un filter descriptor separato, che descrive i canali di output, i canali di input e l'altezza e la larghezza del filtro.

cudnnFilterDescriptor_t wDesc;
cudnnCreateFilterDescriptor(&wDesc);

Impostazioni della convoluzione

Un convolution descriptor memorizza padding, stride e dilatazione: i parametri che determinano come il filtro scorre sul tensore di input.

Scegli un algoritmo

cuDNN offre diversi algoritmi di convoluzione, con compromessi differenti tra velocità e memoria. Puoi interrogare la libreria per trovare quello migliore per le forme dei tuoi tensori.

Riserva uno spazio di lavoro

Gli algoritmi veloci hanno bisogno di spazio temporaneo. Allochi un buffer di workspace sul device, la cui dimensione viene indicata in anticipo da cuDNN.

size_t bytes;
cudnnGetConvolutionForwardWorkspaceSize(...,&bytes);

Esegui il passaggio forward

cudnnConvolutionForward riunisce tutto: handle, descriptor, algoritmo e workspace producono la feature map di output con una sola chiamata.

cudnnConvolutionForward(h, &alpha, xDesc, x,
  wDesc, w, convDesc, algo, ws, bytes, &beta, yDesc, y);

Oltre le convoluzioni

cuDNN accelera anche pooling, attivazioni e normalizzazione, gli altri livelli che compongono una rete neurale moderna.

Verifica rapida

Ricorda che cosa è progettato per accelerare cuDNN.

Riepilogo

Hai configurato un handle, descritto tensori e filtri in NCHW, scelto un algoritmo con un workspace ed eseguito un passaggio forward di convoluzione. 🎓

Domande Frequenti

La lezione «cuDNN per il deep learning» è gratuita?

Sì — il testo completo di «cuDNN per il deep learning» è gratuito qui sul web. Per esercitarvi in modo interattivo (un editor di codice integrato e un tutor IA 24/7) e sbloccare il resto del corso CUDA Academy, passa a CoddyKit PRO. Il corso CUDA Academy include 4 lezioni in totale.

Cosa imparerò in «cuDNN per il deep learning»?

Convoluzioni e operazioni sui tensori su larga scala Eserciti CUDA Academy con codice pratico che esegui direttamente nel browser, e un tutor IA 24/7 risponde alle tue domande mentre lavori sulla lezione.

Ho bisogno di esperienza per iniziare CUDA Academy?

Non è richiesta alcuna esperienza precedente. CUDA Academy su CoddyKit è strutturato per principianti e studenti avanzati, quindi puoi iniziare da qui o dall'inizio e procedere al tuo ritmo. Questa è la lezione 4 di 4.

Quanto tempo richiede la lezione «cuDNN per il deep learning»?

La maggior parte delle lezioni CoddyKit richiede circa 5–10 minuti. Ogni lezione è breve e interattiva, quindi fai progressi costanti e riprendi esattamente da dove hai lasciato su web e app.

Posso scrivere ed eseguire codice in questa lezione CUDA Academy?

Sì. Ogni lezione CUDA Academy include un editor di codice integrato, quindi scrivi ed esegui codice reale direttamente nel tuo browser e ricevi feedback istantaneo dall'IA — nessuna configurazione locale necessaria.

Tutte le lezioni di questo corso

← Torna a CUDA Academy