Masalah yang Diselesaikan Autotuning

Ukuran tile atau lebar vektor tercepat pada laptop Anda jarang menjadi yang terbaik pada server. Perangkat keras berbeda-beda, sehingga satu angka tetap dapat menyia-nyiakan kinerja.

Penyetelan manual berarti mengubah angka, membangun ulang, mengukur waktunya, lalu mengulanginya. Pencarian manual itu melelahkan dan mudah keliru.

Penyetelan otomatis mengotomatiskan perulangan tersebut: mencoba banyak pengaturan parameter, mengukur masing-masing, lalu mempertahankan konfigurasi yang berjalan paling cepat pada mesin ini.

Nilai yang dijelajahinya adalah parameter seperti ukuran tile, lebar SIMD, atau faktor unrolling. Anda menyediakan pengaturnya dan membiarkan pencarian mengubahnya.

Mojo menyematkan parameter pada waktu kompilasi, sehingga setiap kandidat menjadi kode mesin khusus yang cepat, bukan percabangan lambat saat runtime.

Penyetelan otomatis lebih mempercayai pengukuran daripada intuisi. Waktu nyata pada perangkat keras nyata menentukan pemenangnya, bukan dugaan tentang apa yang seharusnya cepat.

Sumber yang sama dapat disetel ulang pada setiap mesin baru, sehingga kernel Anda tetap cepat di berbagai perangkat tanpa menulis ulang konstanta secara manual.

Keuntungan terbesar terdapat pada perulangan yang sering dijalankan dan kernel numerik yang dijalankan jutaan kali, karena peningkatan kecil pada setiap iterasi akan terakumulasi secara besar.

Penyetelan otomatis hanya mencari pengatur yang Anda berikan. Algoritme yang buruk tetap buruk, jadi buat rancangan yang baik terlebih dahulu, lalu biarkan penyetelan menyempurnakan hasilnya.

Anggap penyetelan otomatis sebagai asisten yang tak kenal lelah: asisten ini menjelajahi ruang parameter yang membosankan untuk Anda dan melaporkan satu pengaturan terbaik. 🤖

Bayangkan sebuah kenop untuk setiap pengatur. Penyetelan otomatis memutar setiap kombinasi, mencari pelaksanaan tercepat, lalu mengunci kenop tepat di sana.

Anda melihat mengapa konstanta tetap berkinerja buruk dan bagaimana penyetelan otomatis mengotomatiskan perulangan coba-ukur-pertahankan untuk menemukan konfigurasi tercepat bagi setiap mesin. 🎯