CUDA Academy · Lekcja

cuBLAS GEMM jak należy

Uchwyty, układ kolumnowy i wymiary wiodące

cuBLAS GEMM jak należy to bezpłatna lekcja CUDA Academy na CoddyKit. To lekcja 1 z 4. Możesz przeczytać całą lekcję poniżej za darmo — a potem ćwiczyć ją interaktywnie w przeglądarce z wbudowanym edytorem kodu i tutorem AI dostępnym 24/7. To część ścieżki edukacyjnej CUDA Academy, a Twój postęp synchronizuje się między webem a aplikacją CoddyKit. Kurs CUDA Academy zawiera 4 lekcji w sumie.

Stań na ramionach NVIDIA

Samodzielne napisanie szybkiego mnożenia macierzy jest trudne. cuBLAS dostarcza sprawdzoną implementację GEMM, która już teraz pozwala wykorzystać GPU niemal z maksymalną wydajnością. 🚀

Co oznacza GEMM

GEMM to skrót od general matrix-matrix multiply, czyli ogólnego mnożenia macierzy przez macierz. Oblicza C = alpha * A * B + beta * C — podstawową operację grafiki komputerowej i uczenia głębokiego.

C = alpha * (A * B) + beta * C

Każde wywołanie wymaga uchwytu

cuBLAS przechowuje swój stan w obiekcie handle. Należy utworzyć go podczas uruchamiania programu, używać ponownie przy każdym wywołaniu i zniszczyć na końcu.

cublasHandle_t h;
cublasCreate(&h);
// ... use h ...
cublasDestroy(h);

Zaskoczenie związane z układem kolumnowym

cuBLAS oczekuje macierzy w układzie column-major, czyli w układzie znanym z języka Fortran. Tablice w języku C++ są zwykle przechowywane w układzie row-major, dlatego ta niezgodność sprawia problemy niemal każdemu.

Wymiar wiodący

Wymiar wiodący informuje cuBLAS o kroku między kolumnami w pamięci. W przypadku ciasno upakowanej macierzy M na N w układzie kolumnowym jest on po prostu równy M.

int lda = M; // rows, column-major stride

Sztuczka z transpozycją

Jest na to prosty sposób: iloczyn A i B w układzie wierszowym jest równy transpozycji iloczynu B i A w układzie kolumnowym. Wiele osób po prostu zamienia operandy miejscami, zamiast transponować dane.

Skalary znajdują się w alpha i beta

Wartości alpha i beta przekazuje się jako wskaźniki. Użyj alpha = 1 i beta = 0, aby uzyskać zwykłe C = A * B bez dodawania żadnego składnika.

const float alpha = 1.0f, beta = 0.0f;

Wywołanie cublasSgemm

cublasSgemm to GEMM dla liczb zmiennoprzecinkowych pojedynczej precyzji. Jego długa lista argumentów obejmuje tylko wymiary, flagi transpozycji, skalary i trzy wskaźniki do pamięci urządzenia.

cublasSgemm(h, CUBLAS_OP_N, CUBLAS_OP_N,
  M, N, K, &alpha, dA, M, dB, K, &beta, dC, M);

Wskaźniki muszą wskazywać pamięć urządzenia

dA, dB i dC wskazują na pamięć urządzenia. Jeśli przez pomyłkę przekażesz wskaźniki hosta, cuBLAS zwróci błąd zamiast wyniku.

Wybierz przyrostek precyzji

Litera określa typ: S oznacza float, D — double, a C i Z — liczby zespolone. Wybierz Dgemm, gdy potrzebujesz podwójnej precyzji.

cublasDgemm(...); // double precision GEMM

Sprawdzaj status zwracany przez funkcję

Każde wywołanie cuBLAS zwraca wartość typu cublasStatus_t. Porównuj ją z CUBLAS_STATUS_SUCCESS, aby błędny uchwyt lub wymiar nigdy nie pozostały niezauważone.

if (status != CUBLAS_STATUS_SUCCESS) { /* handle */ }

Szybkie sprawdzenie

Zastanów się, jaki układ danych zakłada cuBLAS.

Podsumowanie

Utworzyłeś handle, uwzględniłeś układ kolumnowy i wymiary wiodące, ustawiłeś alpha i beta oraz wywołałeś Sgemm ze wskaźnikami do pamięci urządzenia. 🎯

Często zadawane pytania

Czy lekcja „cuBLAS GEMM jak należy” jest bezpłatna?

Tak — pełny tekst „cuBLAS GEMM jak należy” jest dostępny za darmo tutaj w sieci. Aby ćwiczyć ją interaktywnie (wbudowany edytor kodu i tutor AI dostępny 24/7) i odblokować resztę kursu CUDA Academy, przejdź na CoddyKit PRO. Kurs CUDA Academy zawiera 4 lekcji w sumie.

Co nauczysz się w „cuBLAS GEMM jak należy”?

Uchwyty, układ kolumnowy i wymiary wiodące Ćwiczysz CUDA Academy z praktycznym kodem, który uruchamiasz bezpośrednio w przeglądarce, a tutor AI dostępny 24/7 odpowiada na Twoje pytania podczas pracy nad lekcją.

Czy potrzebuję doświadczenia, aby zacząć CUDA Academy?

Nie wymagamy żadnego doświadczenia. CUDA Academy w CoddyKit jest strukturyzowany dla początkujących i zaawansowanych użytkowników, więc możesz zacząć tutaj lub od początku i uczyć się w swoim tempie. To lekcja 1 z 4.

Ile czasu zajmuje lekcja „cuBLAS GEMM jak należy”?

Większość lekcji CoddyKit trwa około 5–10 minut. Każda lekcja to mały, interaktywny krok, dzięki czemu robisz systematyczne postępy i zawsze wracasz dokładnie do tego samego miejsca — na webie i w aplikacji.

Czy mogę pisać i uruchamiać kod w tej lekcji CUDA Academy?

Tak. Każda lekcja CUDA Academy zawiera wbudowany edytor kodu, więc piszesz i uruchamiasz prawdziwy kod bezpośrednio w przeglądarce i od razu otrzymujesz sprzężenie zwrotne od AI — bez konfiguracji na komputerze.

Wszystkie lekcje w tym kursie

← Powrót do CUDA Academy