cuBLAS GEMM comme il se doit
Handles, ordre majeur par colonne et dimensions principales
cuBLAS GEMM comme il se doit est une leçon CUDA Academy gratuite sur CoddyKit. Ceci est la leçon 1 sur 4. Tu peux lire la leçon complète ci-dessous gratuitement — puis la pratiquer en direct dans le navigateur avec un éditeur de code intégré et un tuteur IA 24/7. Elle fait partie du parcours d'apprentissage CUDA Academy, et ta progression se synchronise sur le web et l'application CoddyKit. Le cours CUDA Academy comprend 4 leçons au total.
Sur les épaules de NVIDIA
Écrire soi-même une multiplication de matrices rapide est difficile. cuBLAS fournit un GEMM éprouvé qui exploite déjà votre GPU presque à ses performances maximales. 🚀
Que signifie GEMM
GEMM signifie multiplication générale de matrices. Il calcule C = alpha * A * B + beta * C, l'opération au cœur des graphiques et de l'apprentissage profond.
C = alpha * (A * B) + beta * CChaque appel a besoin d'un descripteur
cuBLAS conserve son état dans un descripteur. Vous en créez un au démarrage, le réutilisez pour chaque appel, puis le détruisez à la fin.
cublasHandle_t h;
cublasCreate(&h);
// ... use h ...
cublasDestroy(h);La surprise de l'ordre par colonnes
cuBLAS attend des matrices en ordre par colonnes, comme dans l'organisation Fortran. Vos tableaux C++ sont généralement en ordre par lignes : cette incompatibilité déroute donc presque tout le monde.
Dimension principale
La dimension principale indique à cuBLAS le pas entre les colonnes en mémoire. Pour une matrice M par N en ordre par colonnes et stockée de manière contiguë, c'est simplement M.
int lda = M; // rows, column-major strideL'astuce de la transposition
Une solution élégante : A fois B en ordre par lignes est égal à la transposée de B fois A en ordre par colonnes. Beaucoup de personnes préfèrent simplement permuter les opérandes plutôt que de transposer les données.
Les scalaires vivent dans alpha et beta
Vous transmettez alpha et beta sous forme de pointeurs. Utilisez alpha = 1 et beta = 0 pour obtenir simplement C = A * B, sans rien lui ajouter.
const float alpha = 1.0f, beta = 0.0f;Appeler cublasSgemm
cublasSgemm est le GEMM en précision simple avec des nombres float. Sa longue liste d'arguments ne contient que les dimensions, les indicateurs de transposition, les scalaires et les trois pointeurs vers la mémoire du GPU.
cublasSgemm(h, CUBLAS_OP_N, CUBLAS_OP_N,
M, N, K, &alpha, dA, M, dB, K, &beta, dC, M);Les pointeurs doivent se trouver sur le GPU
dA, dB et dC pointent vers la mémoire du GPU. Si vous transmettez par erreur des pointeurs vers la mémoire hôte, cuBLAS renvoie une erreur au lieu d'un résultat.
Choisir le suffixe de précision
La lettre indique le type : S pour float, D pour double, C et Z pour les nombres complexes. Choisissez Dgemm lorsque vous avez besoin d'une double précision.
cublasDgemm(...); // double precision GEMMVérifier le statut de retour
Chaque appel cuBLAS renvoie un cublasStatus_t. Comparez-le à CUBLAS_STATUS_SUCCESS afin qu'un descripteur ou une dimension incorrecte ne passe jamais inaperçu.
if (status != CUBLAS_STATUS_SUCCESS) { /* handle */ }Vérification rapide
Réfléchissez à l'organisation des données supposée par cuBLAS.
Récapitulatif
Vous avez créé un descripteur, respecté l'organisation par colonnes et les dimensions principales, défini alpha et beta, puis appelé Sgemm avec des pointeurs vers la mémoire du GPU. 🎯
Apprends C++ avec un tuteur IA — gratuit
Écris et exécute du vrai code dans ton navigateur, obtiens de l'aide instantanée d'un tuteur IA disponible 24h/24, et reprends là où tu t'es arrêté sur le web ou dans l'app.
- Cours
- 30
- Leçons
- 120
Questions Fréquemment Posées
La leçon « cuBLAS GEMM comme il se doit » est-elle gratuite ?
Oui — le texte complet de « cuBLAS GEMM comme il se doit » est gratuit à lire ici sur le web. Pour la pratiquer de manière interactive (un éditeur de code intégré et un tuteur IA 24/7) et déverrouiller le reste du cours CUDA Academy, passe à CoddyKit PRO. Le cours CUDA Academy comprend 4 leçons au total.
Qu'est-ce que j'apprendrai dans « cuBLAS GEMM comme il se doit » ?
Handles, ordre majeur par colonne et dimensions principales Tu pratiques CUDA Academy avec du code pratique que tu exécutes directement dans le navigateur, et un tuteur IA 24/7 répond à tes questions au fur et à mesure que tu avances dans la leçon.
Dois-je avoir de l'expérience pour commencer CUDA Academy ?
Aucune expérience préalable n'est requise. CUDA Academy sur CoddyKit est structuré pour les débutants jusqu'aux apprenants avancés, donc tu peux commencer ici ou depuis le début et avancer à ton rythme. Ceci est la leçon 1 sur 4.
Combien de temps prend la leçon « cuBLAS GEMM comme il se doit » ?
La plupart des leçons CoddyKit prennent environ 5–10 minutes. Chacune est courte et interactive, tu progresses régulièrement et tu repiques exactement où tu t'es arrêté sur le web et l'app.
Peux-tu écrire et exécuter du code dans cette leçon CUDA Academy ?
Oui. Chaque leçon CUDA Academy inclut un éditeur de code intégré, tu écris et exécutes du vrai code directement dans ton navigateur et tu reçois des retours IA instantanés — aucune configuration locale requise.
Toutes les leçons de ce cours
- cuBLAS GEMM comme il se doit
- Vecteurs et transformations Thrust
- Réduction, balayage et tri avec Thrust
- cuDNN pour l’apprentissage profond