Trik Kernel: RBF, Polinomial, dan Sigmoid
Alasan kernel dapat bekerja, parameter gamma kernel RBF, memilih kernel untuk berbagai bentuk data.
Trik Kernel: RBF, Polinomial, dan Sigmoid adalah pelajaran Learn AI with Python gratis di CoddyKit. Ini adalah pelajaran 2 dari 4. Kamu bisa membaca pelajaran lengkapnya di bawah secara gratis — lalu praktikkan langsung di browser dengan editor kode bawaan dan tutor AI 24/7. Ini adalah bagian dari jalur belajar Learn AI with Python, dan progresmu tersinkronisasi di web dan aplikasi CoddyKit. Kursus Learn AI with Python mencakup 4 pelajaran total.
Saat Garis Tidak Lagi Cukup
SVM linear hanya dapat menggambar batas lurus. Banyak dataset tidak dapat dipisahkan secara linear; misalnya, lingkaran dari satu kelas yang dikelilingi kelas lain tidak dapat dipisahkan oleh garis. Trik kernel menyelesaikan masalah ini.
Memetakan ke Dimensi yang Lebih Tinggi
Jika data tidak dapat dipisahkan dalam ruang asalnya, memproyeksikannya ke ruang berdimensi lebih tinggi dapat membuatnya dapat dipisahkan. Kurva dalam 2D dapat menjadi bidang datar dalam 3D.
Trik Kernel
Trik kernel menghitung kemiripan K(x, z) antara titik-titik seolah-olah titik tersebut dipetakan ke dimensi tinggi, tanpa benar-benar melakukan pemetaan yang mahal. Hal ini membuat SVM non-linear menjadi efisien.
Apa Itu Fungsi Kernel
Kernel K(x, z) adalah fungsi yang mengembalikan hasil kali titik x dan z dalam suatu ruang fitur berdimensi tinggi. Kernel yang berbeda menyiratkan pemetaan fitur dan bentuk batas yang berbeda.
Kernel RBF
Kernel RBF (Gaussian) adalah pilihan bawaan umum yang paling populer: K(x, z) = exp(-gamma * ||x - z||^2). Kernel ini mengukur kemiripan yang berkurang seiring jarak, sehingga memungkinkan batas yang fleksibel dan melengkung.
from sklearn.svm import SVC
model = SVC(kernel="rbf", gamma="scale", C=1.0)
model.fit(X, y)Parameter gamma
gamma mengendalikan lebar RBF. gamma besar berarti setiap titik memiliki pengaruh yang sempit sehingga menghasilkan batas berliku yang dapat mengalami overfitting. gamma kecil berarti pengaruh yang luas dan batas yang lebih halus.
from sklearn.svm import SVC
wiggly = SVC(kernel="rbf", gamma=10) # tight, can overfit
smooth = SVC(kernel="rbf", gamma=0.01) # broad, may underfitgamma dan C Bersama-sama
SVM RBF bergantung pada gamma (fleksibilitas batas) dan C (toleransi kesalahan). Keduanya saling berinteraksi, jadi biasanya Anda menyesuaikannya secara bersamaan dengan pencarian kisi.
from sklearn.model_selection import GridSearchCV
from sklearn.svm import SVC
param = {"C": [0.1, 1, 10], "gamma": [0.01, 0.1, 1]}
gs = GridSearchCV(SVC(kernel="rbf"), param, cv=5)
gs.fit(X, y)Kernel Polinomial
Kernel polinomial K(x, z) = (gamma * x . z + r)^degree memodelkan interaksi hingga derajat yang dipilih. Gunakan kernel ini saat Anda memperkirakan adanya interaksi fitur dengan tingkat yang diketahui.
from sklearn.svm import SVC
model = SVC(kernel="poly", degree=3, coef0=1, gamma="scale")
model.fit(X, y)Kernel Sigmoid
Kernel sigmoid K(x, z) = tanh(gamma * x . z + r) berperilaku seperti fungsi aktivasi jaringan saraf. Kernel ini lebih jarang digunakan dan tidak selalu merupakan kernel yang valid, sehingga jarang menjadi pilihan pertama.
from sklearn.svm import SVC
model = SVC(kernel="sigmoid", gamma="scale", coef0=0)Memilih Kernel
Panduan:
- Linear untuk data berdimensi tinggi atau data teks
- RBF sebagai pilihan bawaan umum yang kuat untuk data non-linear
- Polinomial saat interaksi dengan derajat yang diketahui menjadi hal penting
- Sigmoid hanya untuk kasus khusus yang jarang
Selalu Skalakan Fitur
Kernel seperti RBF bergantung pada jarak, jadi skala fitur sangat berpengaruh. Selalu lakukan standardisasi fitur sebelum menggunakan SVM berbasis kernel; jika tidak, fitur berskala besar akan mendominasi kemiripan.
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import StandardScaler
from sklearn.svm import SVC
pipe = make_pipeline(StandardScaler(), SVC(kernel="rbf"))
pipe.fit(X, y)Pemeriksaan Singkat
Uji pengetahuan Anda tentang kernel.
Rangkuman
Rangkuman: Trik kernel menghitung K(x, z) sebagai hasil kali titik berdimensi tinggi tanpa biaya pemetaan, sehingga memungkinkan batas non-linear. RBF menggunakan exp(-gamma * ||x-z||^2); gamma besar menyebabkan overfitting. Polinomial menangkap interaksi hingga derajat tertentu. Selalu skalakan fitur sebelum menggunakan SVM berbasis kernel.
Pertanyaan yang Sering Diajukan
Apakah pelajaran “Trik Kernel: RBF, Polinomial, dan Sigmoid” gratis?
Ya — teks lengkap “Trik Kernel: RBF, Polinomial, dan Sigmoid” gratis dibaca di sini di web. Untuk praktiknya secara interaktif (editor kode bawaan dan tutor AI 24/7) dan buka sisa kursus Learn AI with Python, upgrade ke CoddyKit PRO. Kursus Learn AI with Python mencakup 4 pelajaran total.
Apa yang akan aku pelajari di “Trik Kernel: RBF, Polinomial, dan Sigmoid”?
Alasan kernel dapat bekerja, parameter gamma kernel RBF, memilih kernel untuk berbagai bentuk data. Kamu berlatih Learn AI with Python dengan kode praktik yang langsung kamu jalankan di browser, dan tutor AI 24/7 menjawab pertanyaanmu saat kamu mengerjakan pelajaran ini.
Apakah aku perlu pengalaman untuk memulai Learn AI with Python?
Tidak diperlukan pengalaman sebelumnya. Learn AI with Python di CoddyKit dirancang untuk pemula hingga pelajar tingkat lanjut, jadi kamu bisa memulai di sini atau dari awal dan belajar sesuai kecepatan kamu sendiri. Ini adalah pelajaran 2 dari 4.
Berapa lama pelajaran “Trik Kernel: RBF, Polinomial, dan Sigmoid” memakan waktu?
Sebagian besar pelajaran CoddyKit memakan waktu sekitar 5–10 menit. Setiap pelajaran ringkas dan interaktif, jadi kamu membuat kemajuan stabil dan melanjutkan dari tempat kamu tinggalkan di web dan aplikasi.
Bisakah aku menulis dan menjalankan kode dalam pelajaran Learn AI with Python ini?
Ya. Setiap pelajaran Learn AI with Python menyertakan editor kode bawaan, jadi kamu menulis dan menjalankan kode nyata langsung di browser dan mendapatkan umpan balik AI instan — tidak diperlukan penyiapan lokal.
Semua pelajaran dalam kursus ini
- Teori SVM: Margin dan Vektor Pendukung
- Trik Kernel: RBF, Polinomial, dan Sigmoid
- SVM untuk Klasifikasi dengan sklearn
- SVM untuk Regresi (SVR)