Cosa calcolano i Tensor Core
Unità fuse di moltiplicazione e accumulo di matrici
Cosa calcolano i Tensor Core è una lezione CUDA Academy gratuita su CoddyKit. Questa è la lezione 1 di 4. Puoi leggere la lezione completa qui gratuitamente — poi esercitati direttamente nel browser con un editor di codice integrato e un tutor IA disponibile 24/7. Fa parte del percorso di apprendimento CUDA Academy, e i tuoi progressi si sincronizzano tra il web e l'app CoddyKit. Il corso CUDA Academy include 4 lezioni in totale.
Ecco il Tensor Core
Un Tensor Core è un'unità hardware speciale delle moderne GPU NVIDIA, progettata per svolgere un compito a velocità straordinaria: piccoli calcoli matriciali. 🚀
Un'operazione: MMA
I Tensor Core calcolano una moltiplicazione di matrici con accumulo, scritta come D = A times B plus C. Eseguono moltiplicazione e addizione in un'unica operazione.
Blocchi interi alla volta
Invece di un singolo numero, un Tensor Core gestisce un piccolo blocco di matrice a ogni ciclo. Ecco perché supera nettamente il lavoro eseguito elemento per elemento da un core normale.
Moltiplicazione-addizione fusa
La moltiplicazione e l'addizione avvengono in modo fuso, quindi il prodotto intermedio non viene arrotondato separatamente. Questo preserva una maggiore accuratezza rispetto a due passaggi distinti.
Perché le matrici sono importanti
Il deep learning e la grafica sono pieni di moltiplicazioni di matrici. I Tensor Core esistono perché questa singola operazione domina moltissimi carichi di lavoro reali.
La parte di accumulo
Il termine plus C in D = A times B plus C consente di mantenere un totale progressivo. Questo accumulatore permette di costruire grandi risultati a partire da molti piccoli blocchi.
Velocità rispetto ai core normali
Per i calcoli matriciali, un Tensor Core può offrire un throughput molte volte superiore a quello dei normali core CUDA, perché racchiude una moltiplicazione di un intero blocco in una sola istruzione.
Input misti, somme più ampie
I Tensor Core spesso accettano input a bassa precisione, ma mantengono un accumulatore a precisione maggiore. Si ottiene velocità nella moltiplicazione e sicurezza nel totale progressivo.
Nato nell'era Volta
I Tensor Core sono arrivati con l'architettura Volta e si sono evoluti con Turing, Ampere e Hopper. Ogni generazione ha ampliato i blocchi e aggiunto nuovi formati.
Non per ogni kernel
I Tensor Core sono utili solo quando il lavoro assomiglia a una moltiplicazione di matrici. Una semplice somma di vettori o un ciclo scalare non li utilizzerà affatto.
Un piccolo assaggio
Si accede ai Tensor Core tramite librerie o l'API WMMA. Questa forma della chiamata rappresenta la moltiplicazione con accumulo che scriverà in seguito.
wmma::mma_sync(acc, a_frag, b_frag, acc);Verifica rapida
Quale singola operazione sono progettati per accelerare i Tensor Core?
Riepilogo
Ha imparato che un Tensor Core fonde una moltiplicazione di matrici con accumulo, su un blocco completo, in un'unica operazione rapida, ideale per i calcoli matriciali alla base del deep learning. Prossimo argomento: i formati di precisione. 🎉
Domande Frequenti
La lezione «Cosa calcolano i Tensor Core» è gratuita?
Sì — il testo completo di «Cosa calcolano i Tensor Core» è gratuito qui sul web. Per esercitarvi in modo interattivo (un editor di codice integrato e un tutor IA 24/7) e sbloccare il resto del corso CUDA Academy, passa a CoddyKit PRO. Il corso CUDA Academy include 4 lezioni in totale.
Cosa imparerò in «Cosa calcolano i Tensor Core»?
Unità fuse di moltiplicazione e accumulo di matrici Eserciti CUDA Academy con codice pratico che esegui direttamente nel browser, e un tutor IA 24/7 risponde alle tue domande mentre lavori sulla lezione.
Ho bisogno di esperienza per iniziare CUDA Academy?
Non è richiesta alcuna esperienza precedente. CUDA Academy su CoddyKit è strutturato per principianti e studenti avanzati, quindi puoi iniziare da qui o dall'inizio e procedere al tuo ritmo. Questa è la lezione 1 di 4.
Quanto tempo richiede la lezione «Cosa calcolano i Tensor Core»?
La maggior parte delle lezioni CoddyKit richiede circa 5–10 minuti. Ogni lezione è breve e interattiva, quindi fai progressi costanti e riprendi esattamente da dove hai lasciato su web e app.
Posso scrivere ed eseguire codice in questa lezione CUDA Academy?
Sì. Ogni lezione CUDA Academy include un editor di codice integrato, quindi scrivi ed esegui codice reale direttamente nel tuo browser e ricevi feedback istantaneo dall'IA — nessuna configurazione locale necessaria.
Tutte le lezioni di questo corso
- Cosa calcolano i Tensor Core
- Precisione mista: FP16, BF16, TF32
- L'API dei fragment WMMA
- Compromessi sulla stabilità numerica