CUDA Academy · 강의

cuBLAS GEMM 제대로 사용하기

핸들, 열 우선 저장 방식, 선행 차원을 다룹니다

cuBLAS GEMM 제대로 사용하기은(는) CoddyKit의 무료 CUDA Academy 강의입니다. 이것은 4개 중 1번째 강의입니다. 아래에서 전체 강의를 무료로 읽을 수 있으며, 내장 코드 에디터와 24/7 AI 튜터와 함께 브라우저에서 직접 실습할 수 있습니다. 이 강의는 CUDA Academy 학습 경로의 일부이며, 진행 상황이 웹과 CoddyKit 앱에 동기화됩니다. CUDA Academy 강의에는 총 4개의 강의가 포함되어 있습니다.

이 강의의 일부는 아직 번역되지 않았으며 영어로 표시됩니다.

Stand on NVIDIA's Shoulders

Writing a fast matmul by hand is hard. cuBLAS ships a battle-tested GEMM that already squeezes your GPU near peak performance. 🚀

What GEMM Means

GEMM stands for general matrix-matrix multiply. It computes C = alpha * A * B + beta * C, the workhorse behind graphics and deep learning.

C = alpha * (A * B) + beta * C

Every Call Needs a Handle

cuBLAS keeps its state in a handle. You create one at startup, reuse it for every call, and destroy it at the end.

cublasHandle_t h;
cublasCreate(&h);
// ... use h ...
cublasDestroy(h);

The Column-Major Surprise

cuBLAS expects column-major matrices, the Fortran layout. Your C++ arrays are usually row-major, so this mismatch trips up almost everyone.

Leading Dimension

The leading dimension tells cuBLAS the stride between columns in memory. For a tightly packed M-by-N column-major matrix, it is simply M.

int lda = M; // rows, column-major stride

The Transpose Trick

A neat fix: row-major A times B equals the transpose of column-major B times A. Many people just swap the operands instead of transposing data.

Scalars Live in alpha and beta

You pass alpha and beta as pointers. Use alpha = 1 and beta = 0 for a plain C = A * B with nothing added in.

const float alpha = 1.0f, beta = 0.0f;

Calling cublasSgemm

cublasSgemm is the single-precision float GEMM. Its long argument list is just dimensions, transpose flags, scalars, and the three device pointers.

cublasSgemm(h, CUBLAS_OP_N, CUBLAS_OP_N,
  M, N, K, &alpha, dA, M, dB, K, &beta, dC, M);

Pointers Must Be on the Device

dA, dB, and dC point to device memory. Pass host pointers by mistake and cuBLAS returns an error instead of a result.

Pick the Precision Suffix

The letter encodes the type: S for float, D for double, C and Z for complex. Choose Dgemm when you need double precision.

cublasDgemm(...); // double precision GEMM

Check the Return Status

Every cuBLAS call returns a cublasStatus_t. Compare it to CUBLAS_STATUS_SUCCESS so a bad handle or dimension never passes unnoticed.

if (status != CUBLAS_STATUS_SUCCESS) { /* handle */ }

Quick Check

Think about the data layout cuBLAS assumes.

Recap

You created a handle, respected column-major layout and leading dimensions, set alpha and beta, and called Sgemm with device pointers. 🎯

자주 묻는 질문

“cuBLAS GEMM 제대로 사용하기” 강의는 무료인가요?

네 — “cuBLAS GEMM 제대로 사용하기” 전체 내용을 이 웹사이트에서 무료로 읽을 수 있습니다. 인터랙티브하게 실습하려면(내장 코드 에디터와 24/7 AI 튜터), CoddyKit PRO로 업그레이드하면 CUDA Academy 강의 전체를 잠금 해제할 수 있습니다. CUDA Academy 강의에는 총 4개의 강의가 포함되어 있습니다.

“cuBLAS GEMM 제대로 사용하기”에서 뭘 배우나요?

핸들, 열 우선 저장 방식, 선행 차원을 다룹니다 브라우저에서 직접 실행하는 실습 코드로 CUDA Academy을(를) 배우며, 24/7 AI 튜터가 강의를 진행하면서 질문에 답변해줍니다.

CUDA Academy을(를) 시작하는 데 경험이 필요한가요?

사전 경험은 필요하지 않습니다. CoddyKit의 CUDA Academy은(는) 초급자부터 고급 학습자까지를 위해 구성되어 있으므로, 여기서 시작하거나 처음부터 시작할 수 있으며 자신의 속도대로 진행할 수 있습니다. 이것은 4개 중 1번째 강의입니다.

“cuBLAS GEMM 제대로 사용하기” 강의는 얼마나 걸리나요?

대부분의 CoddyKit 강의는 약 5~10분이 소요됩니다. 각 강의는 간결하고 인터랙티브하여 꾸준한 진행이 가능하며, 웹과 앱에서 중단한 부분부터 바로 시작할 수 있습니다.

이 CUDA Academy 강의에서 코드를 작성하고 실행할 수 있나요?

네. 모든 CUDA Academy 강의에는 내장 코드 에디터가 포함되어 있으므로, 브라우저에서 바로 실제 코드를 작성하고 실행한 후 즉시 AI 피드백을 받을 수 있습니다 — 로컬 설정이 필요 없습니다.

이 강의의 모든 강의

← CUDA Academy(으)로 돌아가기