Masalah XOR: Mengapa Satu Neuron Tidak Cukup

Aturan XOR menghasilkan 1 ketika tepat satu masukan bernilai 1, dan 0 untuk kondisi lainnya. Aturannya tampak sederhana, tetapi dahulu membuat jaringan saraf awal mengalami kebuntuan. 🤔

XOR menghasilkan 0 untuk (0,0) dan (1,1), tetapi 1 untuk (0,1) dan (1,0). Pasangan yang sama berarti tidak, sedangkan pasangan yang berbeda berarti ya.

Tempatkan keempat masukan pada kisi. Dua titik ya berada di sudut yang berlawanan, sementara titik tidak mengisi dua sudut lainnya.

Cobalah memisahkan sudut ya dari sudut tidak dengan satu garis lurus. Anda tidak mungkin melakukannya. Kelas-kelas tersebut saling mengunci secara diagonal.

XOR adalah contoh klasik data yang tidak dapat dipisahkan secara linier. Satu neuron yang terbatas pada batas lurus tidak akan pernah dapat menyelesaikannya.

Latih perceptron dengan XOR, dan perceptron tidak pernah konvergen. Bobot terus berubah-ubah karena tidak ada garis yang memenuhi keempat contoh sekaligus.

Keterbatasan XOR ini, yang terungkap pada 1969, turut memicu musim dingin AI. Orang-orang meragukan bahwa jaringan saraf dapat menangani masalah yang sulit.

Solusinya adalah menumpuk neuron. Lapisan tersembunyi memungkinkan jaringan menggabungkan beberapa garis menjadi bentuk yang lebih kompleks.

Dengan lapisan tersembunyi dan nonlinieritas, jaringan dapat membengkokkan batasnya. Kini jaringan dapat mengelilingi sudut ya dan mengabaikan sudut tidak.

Hanya dua neuron tersembunyi yang memasok satu neuron keluaran sudah cukup untuk menyelesaikan XOR. Setiap unit tersembunyi menggambar satu garis, lalu keluaran menggabungkan keduanya.

XOR adalah bukti paling sederhana bahwa kedalaman itu penting. Menumpuk lapisan memungkinkan jaringan mempelajari kurva, sudut, dan kompleksitas dunia nyata.

XOR tidak dapat dipisahkan secara linier, sehingga satu neuron gagal. Menambahkan lapisan tersembunyi memungkinkan jaringan membengkokkan batasnya dan menyelesaikan XOR. Kedalaman membuka kemampuan yang lebih besar. 🚀