CUDA Academy · Lektion

cuBLAS-GEMM richtig einsetzen

Handles, spaltenmajor und führende Dimensionen

cuBLAS-GEMM richtig einsetzen ist eine kostenlose CUDA Academy-Lektion auf CoddyKit. Dies ist Lektion 1 von 4. Du kannst die komplette Lektion unten kostenlos lesen – dann übst du sie direkt im Browser mit einem integrierten Code-Editor und einem KI-Tutor rund um die Uhr. Sie ist Teil des CUDA Academy-Lernpfads, und dein Fortschritt wird über Web und CoddyKit-App synchronisiert. Der CUDA Academy-Kurs umfasst insgesamt 4 Lektionen.

Teile dieser Lektion wurden noch nicht übersetzt und werden auf Englisch angezeigt.

Stand on NVIDIA's Shoulders

Writing a fast matmul by hand is hard. cuBLAS ships a battle-tested GEMM that already squeezes your GPU near peak performance. 🚀

What GEMM Means

GEMM stands for general matrix-matrix multiply. It computes C = alpha * A * B + beta * C, the workhorse behind graphics and deep learning.

C = alpha * (A * B) + beta * C

Every Call Needs a Handle

cuBLAS keeps its state in a handle. You create one at startup, reuse it for every call, and destroy it at the end.

cublasHandle_t h;
cublasCreate(&h);
// ... use h ...
cublasDestroy(h);

The Column-Major Surprise

cuBLAS expects column-major matrices, the Fortran layout. Your C++ arrays are usually row-major, so this mismatch trips up almost everyone.

Leading Dimension

The leading dimension tells cuBLAS the stride between columns in memory. For a tightly packed M-by-N column-major matrix, it is simply M.

int lda = M; // rows, column-major stride

The Transpose Trick

A neat fix: row-major A times B equals the transpose of column-major B times A. Many people just swap the operands instead of transposing data.

Scalars Live in alpha and beta

You pass alpha and beta as pointers. Use alpha = 1 and beta = 0 for a plain C = A * B with nothing added in.

const float alpha = 1.0f, beta = 0.0f;

Calling cublasSgemm

cublasSgemm is the single-precision float GEMM. Its long argument list is just dimensions, transpose flags, scalars, and the three device pointers.

cublasSgemm(h, CUBLAS_OP_N, CUBLAS_OP_N,
  M, N, K, &alpha, dA, M, dB, K, &beta, dC, M);

Pointers Must Be on the Device

dA, dB, and dC point to device memory. Pass host pointers by mistake and cuBLAS returns an error instead of a result.

Pick the Precision Suffix

The letter encodes the type: S for float, D for double, C and Z for complex. Choose Dgemm when you need double precision.

cublasDgemm(...); // double precision GEMM

Check the Return Status

Every cuBLAS call returns a cublasStatus_t. Compare it to CUBLAS_STATUS_SUCCESS so a bad handle or dimension never passes unnoticed.

if (status != CUBLAS_STATUS_SUCCESS) { /* handle */ }

Quick Check

Think about the data layout cuBLAS assumes.

Recap

You created a handle, respected column-major layout and leading dimensions, set alpha and beta, and called Sgemm with device pointers. 🎯

Häufig gestellte Fragen

Ist die Lektion „cuBLAS-GEMM richtig einsetzen“ kostenlos?

Ja — der vollständige Text von „cuBLAS-GEMM richtig einsetzen“ ist hier im Web kostenlos zu lesen. Um sie interaktiv zu üben (integrierter Code-Editor und 24/7 KI-Tutor) und den Rest des CUDA Academy-Kurses freizuschalten, upgrade auf CoddyKit PRO. Der CUDA Academy-Kurs umfasst insgesamt 4 Lektionen.

Was lerne ich in „cuBLAS-GEMM richtig einsetzen“?

Handles, spaltenmajor und führende Dimensionen Du übst CUDA Academy mit praktischem Code, den du direkt im Browser ausführst, und ein 24/7 KI-Tutor beantwortet deine Fragen während du die Lektion bearbeitest.

Brauche ich Erfahrung, um CUDA Academy zu starten?

Keine Vorkenntnisse erforderlich. CUDA Academy auf CoddyKit ist für Anfänger bis fortgeschrittene Lernende strukturiert, sodass du hier starten oder von Anfang an beginnen und in deinem eigenen Tempo voranschreiten kannst. Dies ist Lektion 1 von 4.

Wie lange dauert die Lektion „cuBLAS-GEMM richtig einsetzen“?

Die meisten CoddyKit-Lektionen dauern etwa 5–10 Minuten. Jede ist kompakt und interaktiv, sodass du stetig Fortschritte machst und genau dort weitermachst, wo du aufgehört hast – im Web und in der App.

Kann ich in dieser CUDA Academy-Lektion Code schreiben und ausführen?

Ja. Jede CUDA Academy-Lektion enthält einen integrierten Code-Editor, sodass du echten Code direkt in deinem Browser schreibst und ausführst und sofort KI-Feedback erhältst — ohne lokale Einrichtung erforderlich.

Alle Lektionen in diesem Kurs

← Zurück zu CUDA Academy