Wyjaśnienie cudaDeviceSynchronize

Po uruchomieniu CPU działa dalej, podczas gdy GPU wciąż pracuje. Aby zatrzymać wykonanie i zaczekać, należy wywołać cudaDeviceSynchronize. ⏳

cudaDeviceSynchronize blokuje hosta do czasu zakończenia wszystkich zadań GPU znajdujących się w kolejce. Dopiero wtedy wykonywana jest następna instrukcja CPU.

Bez synchronizacji można odczytać wyniki, których GPU jeszcze nie zapisało. Synchronizacja gwarantuje, że kernel rzeczywiście jest gotowy.

Synchronizacja opróżnia również urządzeniowy printf. Jeśli kernel drukuje, ale nic się nie pojawia, przyczyną zwykle jest brak synchronizacji.

Wywołanie zwraca wartość typu cudaError_t. Błąd w tym miejscu często ujawnia awarię, która wystąpiła wewnątrz kernela.

Kernely mogą kończyć się niepowodzeniem bez wyraźnego komunikatu, dlatego sprawdzanie kodu błędu z synchronizacji pozwala wykryć dostęp poza zakresem lub błędne uruchomienie.

Zwykłe cudaMemcpy z powrotem do hosta również czeka na GPU. W tym typowym przypadku osobna synchronizacja może nie być potrzebna.

Wywoływanie synchronizacji po każdym kroku eliminuje nakładanie się pracy i spowalnia program. Należy synchronizować tylko wtedy, gdy naprawdę trzeba odczytać wyniki lub zmierzyć czas.

Aby uczciwie zmierzyć czas działania kernela, należy zsynchronizować wykonanie przed uruchomieniem i po nim. W przeciwnym razie stoper mierzy jedynie szybkość umieszczenia zadania w kolejce przez CPU.

Aby uzyskać większą kontrolę, można użyć cudaStreamSynchronize, które czeka na jeden strumień zamiast na całe urządzenie. Jest to przydatne, gdy praca wykonywana jest nakładane.

Podczas nauki należy synchronizować wykonanie po każdym uruchomieniu i sprawdzać wynik. Gdy kod będzie stabilny, można usunąć dodatkowe synchronizacje, aby zwiększyć szybkość.

cudaDeviceSynchronize sprawia, że CPU czeka na GPU, opróżnia printf i ujawnia ukryte awarie. Należy używać go rozsądnie, a nie wszędzie. 🎉