Menulis Fungsi Kernel GPU

Kernel GPU adalah fungsi yang dijalankan oleh setiap thread. Anda menulis pekerjaan untuk satu elemen, lalu perangkat keras mengulanginya pada banyak elemen.

Triknya adalah menulis kernel dari sudut pandang satu thread. Setiap thread mengerjakan bagian kecilnya sendiri dari pekerjaan.

Dalam Mojo, kernel adalah sebuah fungsi biasa. Sifatnya yang ketat dan bertipe jelas persis seperti yang diperlukan kode perangkat agar dapat dikompilasi dengan cepat.

Kernel menerima pointer ke memori perangkat sebagai parameter. Buffer ini menyimpan input dan output yang akan diisinya.

Di dalam kernel, setiap thread terlebih dahulu menghitung posisinya sendiri. Indeks tersebut menentukan elemen mana yang harus diprosesnya.

Selalu periksa indeks sebelum mengakses memori. Pemeriksaan batas mencegah thread yang tidak semestinya membaca melewati array.

Isi kernel sangat kecil: baca input, lakukan perhitungan, lalu tulis satu hasil. Seluruh kernel sering kali cukup ditulis dalam satu baris perhitungan.

Anda meluncurkannya dengan memilih grid dan ukuran block. Peluncuran tersebut menyebarkan kode untuk satu thread ke seluruh grid.

Kernel tidak mengembalikan hasil kepada pemanggil. Kernel menulis ke buffer output, yang kemudian Anda baca kembali.

Thread bekerja paling baik secara serempak. Percabangan yang berat membuat lajur berjalan berbeda dan saling menunggu, jadi buat logika kernel tetap sederhana dan seragam.

Satu kernel singkat ditambah grid besar menghasilkan jutaan hasil. Skala tersebut berasal dari peluncuran, bukan dari kode yang lebih panjang.

Kernel adalah fungsi untuk satu thread: temukan indeks Anda, jaga batas, lakukan perhitungan satu elemen, lalu luncurkan pada sebuah grid. ⚡