Membangun Model Teks RNN
Merangkainya dalam PyTorch atau Keras
Membangun Model Teks RNN adalah pelajaran NLP Academy gratis di CoddyKit. Ini adalah pelajaran 3 dari 4. Kamu bisa membaca pelajaran lengkapnya di bawah secara gratis — lalu praktikkan langsung di browser dengan editor kode bawaan dan tutor AI 24/7. Ini adalah bagian dari jalur belajar NLP Academy, dan progresmu tersinkronisasi di web dan aplikasi CoddyKit. Kursus NLP Academy mencakup 4 pelajaran total.
Dari Teori ke Kode
Saatnya menghubungkan model nyata. Baik PyTorch maupun Keras menyediakan lapisan RNN siap pakai, sehingga Anda dapat berfokus pada bentuk data, bukan matematika mentah.
Mulai dengan Embedding
Lapisan pertama Anda biasanya adalah lapisan embedding. Lapisan ini memetakan setiap ID kata bilangan bulat ke vektor padat yang dapat dipelajari.
Tambahkan Lapisan Berulang
Berikutnya adalah lapisan RNN itu sendiri. Lapisan ini mengulang seluruh urutan yang telah di-embedding dan menghasilkan keadaan tersembunyi untuk input tersebut.
Sketsa Keras
Dalam Keras, RNN teks dasar hanya terdiri atas beberapa lapisan bertumpuk yang mudah dibaca dari atas ke bawah.
model = Sequential([
Embedding(vocab, 64),
SimpleRNN(32),
Dense(1, activation="sigmoid")])Cara PyTorch
Dalam PyTorch, Anda mendefinisikan nn.RNN dan memasukkan sejumlah kelompok data ke dalamnya, lalu membaca keadaan tersembunyi terakhir untuk menghasilkan prediksi.
rnn = nn.RNN(64, 32, batch_first=True)
out, h = rnn(embedded)Menambahkan Padding pada Urutan
Kalimat nyata memiliki panjang yang berbeda-beda, sehingga Anda perlu menambahkan padding agar ukurannya sama dan membiarkan model mengabaikan posisi pengisi.
Lapisan Padat Terakhir
Di atas RNN, Anda menambahkan lapisan padat yang mengubah keadaan ringkasan menjadi skor kelas atau probabilitas.
Memilih Fungsi Kerugian
Untuk masalah dua kelas, pasangkan output sigmoid dengan entropi silang biner; untuk banyak kelas, gunakan entropi silang kategorikal.
Melatih Model
Selanjutnya, Anda memanggil fit atau perulangan pelatihan, lalu memasukkan sejumlah kelompok data agar jaringan menyesuaikan bobot untuk mengurangi kerugian.
Waspadai Overfitting
RNN dapat menghafal himpunan data kecil. Tambahkan dropout atau hentikan lebih awal agar model Anda tetap jujur saat menghadapi teks baru.
Anda Telah Membuat Model Urutan
Embedding, RNN, lalu lapisan padat: susunan sederhana ini sudah dapat membaca teks secara berurutan dan mempelajari cara mengklasifikasikannya dari awal hingga akhir. 🛠️
Pemeriksaan Singkat
Lapisan mana yang biasanya muncul pertama dalam model teks RNN?
Ringkasan
RNN yang berfungsi menyusun embedding, lapisan berulang, dan kepala padat, lalu berlatih menggunakan urutan yang telah diberi padding untuk mengklasifikasikan teks. 🎯
Belajar Python dengan tutor AI — gratis
Tulis dan jalankan kode asli di browser kamu, dapatkan bantuan instan dari tutor AI 24/7, dan lanjutkan di mana kamu tinggalkan di web atau aplikasi.
- Kursus
- 30
- Pelajaran
- 120
Pertanyaan yang Sering Diajukan
Apakah pelajaran “Membangun Model Teks RNN” gratis?
Ya — teks lengkap “Membangun Model Teks RNN” gratis dibaca di sini di web. Untuk praktiknya secara interaktif (editor kode bawaan dan tutor AI 24/7) dan buka sisa kursus NLP Academy, upgrade ke CoddyKit PRO. Kursus NLP Academy mencakup 4 pelajaran total.
Apa yang akan aku pelajari di “Membangun Model Teks RNN”?
Merangkainya dalam PyTorch atau Keras Kamu berlatih NLP Academy dengan kode praktik yang langsung kamu jalankan di browser, dan tutor AI 24/7 menjawab pertanyaanmu saat kamu mengerjakan pelajaran ini.
Apakah aku perlu pengalaman untuk memulai NLP Academy?
Tidak diperlukan pengalaman sebelumnya. NLP Academy di CoddyKit dirancang untuk pemula hingga pelajar tingkat lanjut, jadi kamu bisa memulai di sini atau dari awal dan belajar sesuai kecepatan kamu sendiri. Ini adalah pelajaran 3 dari 4.
Berapa lama pelajaran “Membangun Model Teks RNN” memakan waktu?
Sebagian besar pelajaran CoddyKit memakan waktu sekitar 5–10 menit. Setiap pelajaran ringkas dan interaktif, jadi kamu membuat kemajuan stabil dan melanjutkan dari tempat kamu tinggalkan di web dan aplikasi.
Bisakah aku menulis dan menjalankan kode dalam pelajaran NLP Academy ini?
Ya. Setiap pelajaran NLP Academy menyertakan editor kode bawaan, jadi kamu menulis dan menjalankan kode nyata langsung di browser dan mendapatkan umpan balik AI instan — tidak diperlukan penyiapan lokal.
Semua pelajaran dalam kursus ini
- Mengapa Urutan Penting dalam Bahasa
- Cara RNN Membaca Urutan
- Membangun Model Teks RNN
- Masalah Gradien yang Menghilang