Mengalirkan Tile untuk Gambar Besar

Citra yang sangat besar mungkin tidak muat di memori GPU, atau penyalinan seluruh citra dapat menghentikan alur pemrosesan. Solusinya adalah membaginya menjadi ubin dan memprosesnya secara bergantian. 🖼️

Potong citra menjadi pita baris atau ubin berbentuk persegi panjang. Setiap ubin cukup kecil untuk diunggah, diproses, dan diunduh tanpa membebani memori perangkat.

Setiap ubin mengikuti urutan yang sama: salin ke perangkat, jalankan kernel, lalu salin hasilnya kembali. Ulangi hingga seluruh citra selesai diproses.

Jika dikerjakan satu per satu, GPU menganggur selama setiap penyalinan. Untuk memperoleh manfaatnya, Anda harus menindih transfer satu ubin dengan perhitungan ubin lainnya.

Masukkan pekerjaan setiap ubin ke dalam alirannya sendiri. Dengan demikian, pengandar dapat menjalankan kernel satu ubin sementara penyalinan ubin lain masih berlangsung.

cudaMemcpy biasa memblokir host dan menghilangkan penindihan. Gunakan cudaMemcpyAsync pada sebuah aliran agar penyalinan masuk antrean tanpa menghentikan semuanya.

Transfer asinkron memerlukan memori host yang terkunci agar dapat menggunakan DMA. Alokasikan buffer penampungan ubin dengan cudaMallocHost, atau penindihan akan diam-diam beralih ke operasi pemblokiran.

Sediakan dua buffer ubin dan gunakan aliran secara bergantian. Saat ubin N dihitung, ubin N+1 diunggah, sehingga transfer tersembunyi di balik pekerjaan dalam alur pemrosesan yang lancar.

Pengaburan di dekat batas ubin memerlukan piksel dari ubin tetangga. Sertakan margin tumpang tindih berupa halo agar hasil di tepi tetap benar.

Pekerjaan asinkron belum selesai saat pemanggilan mengembalikan hasil. Panggil cudaStreamSynchronize pada setiap aliran sebelum membaca kembali hasil ubin di host.

Dengan ubin yang dialirkan dan menggunakan dua buffer, GPU tetap memperoleh pekerjaan berapa pun ukuran citranya. Transfer menghilang di balik perhitungan dan laju pemrosesan tetap tinggi. ⚡

Anda telah membagi citra besar menjadi ubin, menggunakan aliran dengan penyalinan asinkron dan memori terkunci untuk melakukan penindihan, menggunakan dua buffer pada alur pemrosesan, serta menambahkan halo agar tepi tetap benar. 🎯