Penjelasan cudaDeviceSynchronize

Setelah peluncuran, CPU terus berjalan sementara GPU masih bekerja. Untuk berhenti dan menunggu, panggil cudaDeviceSynchronize. ⏳

cudaDeviceSynchronize menahan host sampai semua tugas GPU yang berada dalam antrean selesai. Hanya setelah itu baris CPU berikutnya dijalankan.

Tanpa sinkronisasi, Anda mungkin membaca hasil yang belum ditulis GPU. Sinkronisasi menjamin kernel benar-benar selesai.

Sinkronisasi juga mengosongkan printf perangkat. Jika kernel mencetak tetapi tidak ada yang muncul, biasanya penyebabnya adalah sinkronisasi yang terlewat.

Panggilan tersebut mengembalikan cudaError_t. Kegagalan di sini sering mengungkap kerusakan yang terjadi di dalam kernel.

Kernel gagal tanpa pesan, jadi memeriksa kode kesalahan dari sinkronisasi adalah cara menemukan akses di luar batas atau peluncuran yang salah.

cudaMemcpy biasa kembali ke host juga menunggu GPU. Dalam kasus umum tersebut, Anda mungkin tidak memerlukan sinkronisasi terpisah.

Memanggil sinkronisasi setelah setiap langkah menghilangkan tumpang tindih dan memperlambat program. Lakukan sinkronisasi hanya saat benar-benar perlu membaca hasil atau mengukur waktu.

Untuk mengukur waktu kernel secara akurat, sinkronkan sebelum dan sesudahnya. Jika tidak, pengukur waktu Anda hanya mengukur seberapa cepat CPU memasukkan pekerjaan ke antrean.

Untuk kendali yang lebih terperinci, cudaStreamSynchronize menunggu satu stream, bukan seluruh perangkat. Sangat berguna saat pekerjaan saling tumpang tindih.

Saat belajar, lakukan sinkronisasi setelah setiap peluncuran dan periksa hasilnya. Setelah kode Anda stabil, hapus sinkronisasi tambahan demi kecepatan.

cudaDeviceSynchronize membuat CPU menunggu GPU, mengosongkan printf, dan menampilkan kerusakan tersembunyi. Gunakan dengan bijak, bukan di setiap tempat. 🎉