Kaedah Pemilihan Ciri
Kaedah penurasan (varians, korelasi), pembalut (RFE) dan terbenam (regularisasi L1).
Kaedah Pemilihan Ciri ialah pelajaran Pelajari AI dengan Python percuma di CoddyKit. Ini ialah pelajaran 1 daripada 4. Sebanyak 3 pelajaran dalam laluan pembelajaran ini boleh dibaca sepenuhnya secara percuma — selepas itu, CoddyKit PRO membuka akses kepada semua pelajaran, serta latihan praktikal dengan penyunting kod terbina dalam dan tutor kecerdasan buatan yang tersedia 24/7. Pelajaran ini merupakan sebahagian daripada laluan pembelajaran Pelajari AI dengan Python, dan kemajuan anda disegerakkan merentas web serta aplikasi CoddyKit. Kursus Pelajari AI dengan Python merangkumi sejumlah 4 pelajaran.
Mengapa Memilih Ciri
Pemilihan ciri mengekalkan hanya lajur yang paling berguna. Lebih sedikit ciri bermakna latihan lebih pantas, padanan berlebihan yang lebih rendah dan tafsiran yang lebih mudah. Membuang hingar juga sering meningkatkan ketepatan.
Tiga Kumpulan Kaedah
Kaedah pemilihan terbahagi kepada tiga kumpulan:
- Penapis menyusun kedudukan ciri berdasarkan statistik (pantas, tanpa model)
- Pembalut mencari subset dengan melatih model (perlahan, tepat)
- Terbenam pemilihan berlaku semasa proses fit model
VarianceThreshold
Penapis paling mudah: VarianceThreshold membuang ciri yang variansnya berada di bawah nilai ambang. Lajur yang hampir malar tidak membawa maklumat.
from sklearn.feature_selection import VarianceThreshold
sel = VarianceThreshold(threshold=0.01)
X_reduced = sel.fit_transform(X)
print("Kept:", X_reduced.shape[1], "of", X.shape[1])SelectKBest dengan f_classif
SelectKBest mengekalkan K ciri dengan skor tertinggi. Dengan f_classif, kaedah ini menggunakan ujian-F ANOVA yang mengukur sejauh mana setiap ciri berkaitan dengan penanda kelas.
from sklearn.feature_selection import SelectKBest, f_classif
sel = SelectKBest(score_func=f_classif, k=10)
X_best = sel.fit_transform(X, y)
print(sel.get_support(indices=True))Maklumat Salingan
mutual_info_classif mengukur sebarang kebergantungan, termasuk yang tidak linear, antara ciri dengan sasaran. Berbeza daripada ujian-F, kaedah ini menangkap hubungan tidak linear yang terlepas daripada ANOVA.
from sklearn.feature_selection import SelectKBest, mutual_info_classif
sel = SelectKBest(score_func=mutual_info_classif, k=10)
X_mi = sel.fit_transform(X, y)Perbandingan f_classif dengan Maklumat Salingan
f_classif pantas dan mengesan hubungan linear; mutual_info_classif lebih perlahan tetapi dapat menangkap hubungan tidak linear. Jika anda mengesyaki hubungan yang kompleks, utamakan maklumat salingan.
import numpy as np
from sklearn.feature_selection import f_classif, mutual_info_classif
f_scores, _ = f_classif(X, y)
mi_scores = mutual_info_classif(X, y)
print("F-test top:", np.argsort(f_scores)[::-1][:5])
print("MI top:", np.argsort(mi_scores)[::-1][:5])Penyingkiran Ciri Secara Berulang
RFE ialah kaedah pembalut: kaedah ini melatih model, membuang ciri yang paling lemah dan mengulangi proses tersebut. Kaedah ini menggunakan isyarat kepentingan model itu sendiri untuk menyusun kedudukan ciri.
from sklearn.feature_selection import RFE
from sklearn.linear_model import LogisticRegression
rfe = RFE(estimator=LogisticRegression(max_iter=1000), n_features_to_select=10)
rfe.fit(X, y)
print(rfe.support_)RFECV: Memilih Bilangan Secara Automatik
RFECV menambahkan pengesahan silang kepada RFE supaya kaedah ini menemukan bilangan ciri yang optimum berdasarkan skor pengesahan, bukannya tekaan tetap.
from sklearn.feature_selection import RFECV
from sklearn.ensemble import RandomForestClassifier
rfecv = RFECV(
estimator=RandomForestClassifier(),
cv=5,
scoring="accuracy",
)
rfecv.fit(X, y)
print("Optimal features:", rfecv.n_features_)SelectFromModel dengan Lasso
Pemilihan terbenam: Lasso (L1) mengecilkan pekali yang tidak penting sehingga tepat-tepat sifar. SelectFromModel kemudian mengekalkan hanya pekali yang bukan sifar.
from sklearn.feature_selection import SelectFromModel
from sklearn.linear_model import Lasso
sel = SelectFromModel(Lasso(alpha=0.01))
sel.fit(X, y)
X_lasso = sel.transform(X)
print("Kept:", X_lasso.shape[1])SelectFromModel dengan Kepentingan Pepohon
SelectFromModel juga berfungsi dengan mana-mana penganggar yang mendedahkan feature_importances_, seperti hutan rawak. Tetapkan threshold seperti "mean" atau "median".
from sklearn.feature_selection import SelectFromModel
from sklearn.ensemble import RandomForestClassifier
sel = SelectFromModel(
RandomForestClassifier(n_estimators=200),
threshold="median",
)
sel.fit(X, y)Memilih Kaedah
Mulakan dengan penapis murah (VarianceThreshold, SelectKBest) untuk membuang data tidak berguna yang jelas. Gunakan SelectFromModel terbenam untuk keseimbangan yang baik. Simpan RFECV untuk keadaan apabila ketepatan paling penting dan sumber pengiraan mencukupi.
Semakan Pantas
Uji pengetahuan anda tentang pemilihan ciri.
Ringkasan
Ringkasan: Pemilihan ciri mempunyai kaedah penapis (VarianceThreshold, SelectKBest dengan f_classif atau mutual_info_classif), pembalut (RFECV) dan terbenam (SelectFromModel dengan Lasso atau kepentingan pepohon). Penapis adalah yang paling pantas; RFECV adalah yang paling tepat. Gunakan maklumat salingan untuk hubungan tidak linear.
Pelajari Python dengan tutor kecerdasan buatan — percuma
Tulis dan jalankan kod sebenar dalam pelayar anda, dapatkan bantuan segera daripada tutor kecerdasan buatan yang tersedia 24/7, dan sambung semula dari tempat anda berhenti di web atau dalam aplikasi.
- Kursus
- 53
- Pelajaran
- 225
Soalan Lazim
Adakah pelajaran “Kaedah Pemilihan Ciri” percuma?
Ya — sebanyak 3 pelajaran dalam laluan pembelajaran Pelajari AI dengan Python, termasuk “Kaedah Pemilihan Ciri”, boleh dibaca sepenuhnya secara percuma di web ini. Selepas itu, CoddyKit PRO membuka akses kepada semua pelajaran, serta latihan interaktif dengan penyunting kod terbina dalam dan tutor kecerdasan buatan yang tersedia 24/7. Kursus Pelajari AI dengan Python merangkumi sejumlah 4 pelajaran.
Apakah yang akan saya pelajari dalam “Kaedah Pemilihan Ciri”?
Kaedah penurasan (varians, korelasi), pembalut (RFE) dan terbenam (regularisasi L1). Anda berlatih Pelajari AI dengan Python menggunakan kod praktikal yang dijalankan terus dalam pelayar, manakala tutor kecerdasan buatan 24/7 menjawab soalan anda semasa anda mengikuti pelajaran.
Adakah saya memerlukan pengalaman untuk memulakan Pelajari AI dengan Python?
Tiada pengalaman terdahulu diperlukan. Pembelajaran Pelajari AI dengan Python di CoddyKit disusun untuk pelajar daripada peringkat pemula hingga lanjutan, jadi anda boleh bermula di sini atau dari awal dan belajar mengikut kadar anda sendiri. Ini ialah pelajaran 1 daripada 4.
Berapa lamakah pelajaran “Kaedah Pemilihan Ciri” diambil?
Kebanyakan pelajaran CoddyKit mengambil masa kira-kira 5–10 minit. Setiap pelajaran ringkas dan interaktif, jadi anda boleh membuat kemajuan secara berterusan dan menyambung tepat dari tempat anda berhenti di web atau aplikasi.
Bolehkah saya menulis dan menjalankan kod dalam pelajaran Pelajari AI dengan Python ini?
Ya. Setiap pelajaran Pelajari AI dengan Python menyertakan penyunting kod terbina dalam, jadi anda boleh menulis dan menjalankan kod sebenar terus dalam pelayar serta menerima maklum balas kecerdasan buatan serta-merta — tanpa memerlukan persediaan setempat.
Semua pelajaran dalam kursus ini
- Kaedah Pemilihan Ciri
- Mencipta Ciri Interaksi dan Polinomial
- Pengekodan Sasaran dan Pengendalian Kategori Lanjutan
- Kejuruteraan Ciri Automatik dengan Featuretools