Anatomi Kernel Komputasi

Kernel komputasi adalah rutin kecil dan terfokus yang mengerjakan pekerjaan numerik sebenarnya, seperti menjumlahkan dua array elemen demi elemen.

Sebagian besar waktu kernel dihabiskan dalam satu loop dalam yang rapat. Percepat loop tersebut dan Anda mempercepat seluruh program.

Kernel yang bersih menerima buffer datanya sebagai parameter, sehingga rutin yang sama dapat dijalankan pada array apa pun yang Anda berikan.

Kernel ditulis dengan fn, bukan def. Gaya yang ketat dan bertipe memungkinkan Mojo mengompilasi kode mesin yang rapat tanpa kejutan.

Kernel tercepat mengerjakan satu hal. Body dalam yang singkat dan dapat diprediksi mudah dioptimalkan secara agresif oleh kompilator.

Hindari pekerjaan berat seperti alokasi atau I/O di dalam loop panas. Setiap iterasi harus murah dan seragam demi throughput maksimum.

Pikirkan dalam bentuk total operasi. Kernel atas n elemen melakukan kira-kira n unit pekerjaan, sehingga n menentukan biayanya.

Banyak kernel tidak dibatasi oleh komputasi, melainkan oleh memori. Kernel menunggu data, sehingga cara Anda memindahkan byte sering kali paling penting.

Rancang loop agar setiap langkah nantinya dapat memproses banyak elemen dengan SIMD. Pola akses yang teratur memudahkan vektorisasi.

Kernel klasik adalah saxpy: out = scale kali a ditambah b. Kernel ini kecil, teratur, dan merupakan baseline yang bagus untuk dioptimalkan.

Mulailah dengan versi sederhana yang benar dan ukur waktunya. Angka tersebut adalah baseline Anda untuk setiap pengoptimalan berikutnya.

Kernel adalah fn kecil yang loop dalamnya mengerjakan tugas; jaga agar seragam, perhatikan memori, dan ukur baseline terlebih dahulu. 🔧