Profilkan Bottleneck
Temukan ke mana waktu dan memori digunakan
Profilkan Bottleneck adalah pelajaran Deep Learning Academy gratis di CoddyKit. Ini adalah pelajaran 3 dari 4. Kamu bisa membaca pelajaran lengkapnya di bawah secara gratis — lalu praktikkan langsung di browser dengan editor kode bawaan dan tutor AI 24/7. Ini adalah bagian dari jalur belajar Deep Learning Academy, dan progresmu tersinkronisasi di web dan aplikasi CoddyKit. Kursus Deep Learning Academy mencakup 4 pelajaran total.
Bagian dari pelajaran ini belum diterjemahkan dan ditampilkan dalam bahasa Inggris.
Why Profile First
Before optimizing, find out where time actually goes. Guessing wastes effort, while a quick profile shows you the real slow spots.
Two Common Bottlenecks
Training usually stalls in one of two places: the GPU compute doing math, or the data pipeline feeding it. Knowing which one matters.
Time It Crudely First
Start simple by timing a loop section with the clock. A rough perf_counter reading often points you to the right area in seconds.
import time
t = time.perf_counter()
# run one batch
print(time.perf_counter() - t)GPU Work Is Async
CUDA runs in the background, so naive timers lie. Call synchronize first to make sure the GPU has truly finished before you read the clock.
torch.cuda.synchronize()The Built-In Profiler
For real detail, use the torch.profiler context manager. It records how long every operation takes on both CPU and GPU.
from torch.profiler import profileWrap the Code to Profile
Run the part you care about inside a profile block. Choosing both CPU and CUDA activities captures the whole picture.
with profile(activities=[ProfilerActivity.CPU, ProfilerActivity.CUDA]) as prof:
model(x)Read the Table
Print results sorted by cost to see the heaviest ops at the top. The key_averages table groups identical operations together.
print(prof.key_averages().table(sort_by='cuda_time_total'))Spot a Data Bottleneck
If the GPU often sits idle waiting, your DataLoader is too slow. More workers or cached data usually fixes that gap.
Spot a Compute Bottleneck
If one matmul or conv dominates the table, the limit is raw compute. Mixed precision or a smaller model is the lever to pull.
Watch Memory Too
The profiler can also report peak memory. Tracking profile_memory reveals which layers eat the most, guiding what to trim.
with profile(profile_memory=True) as prof:
model(x)Measure, Change, Re-Measure
Optimization is a loop: profile, make one change, then profile again. Trust numbers, not hunches, to confirm a fix actually helped.
Quick Check
Your GPU often sits idle between batches. What is the likely bottleneck?
Recap
Profile before you tune: synchronize for honest timings, use torch.profiler to find the heaviest ops, then fix data or compute and measure again. 🔍
Pertanyaan yang Sering Diajukan
Apakah pelajaran “Profilkan Bottleneck” gratis?
Ya — teks lengkap “Profilkan Bottleneck” gratis dibaca di sini di web. Untuk praktiknya secara interaktif (editor kode bawaan dan tutor AI 24/7) dan buka sisa kursus Deep Learning Academy, upgrade ke CoddyKit PRO. Kursus Deep Learning Academy mencakup 4 pelajaran total.
Apa yang akan aku pelajari di “Profilkan Bottleneck”?
Temukan ke mana waktu dan memori digunakan Kamu berlatih Deep Learning Academy dengan kode praktik yang langsung kamu jalankan di browser, dan tutor AI 24/7 menjawab pertanyaanmu saat kamu mengerjakan pelajaran ini.
Apakah aku perlu pengalaman untuk memulai Deep Learning Academy?
Tidak diperlukan pengalaman sebelumnya. Deep Learning Academy di CoddyKit dirancang untuk pemula hingga pelajar tingkat lanjut, jadi kamu bisa memulai di sini atau dari awal dan belajar sesuai kecepatan kamu sendiri. Ini adalah pelajaran 3 dari 4.
Berapa lama pelajaran “Profilkan Bottleneck” memakan waktu?
Sebagian besar pelajaran CoddyKit memakan waktu sekitar 5–10 menit. Setiap pelajaran ringkas dan interaktif, jadi kamu membuat kemajuan stabil dan melanjutkan dari tempat kamu tinggalkan di web dan aplikasi.
Bisakah aku menulis dan menjalankan kode dalam pelajaran Deep Learning Academy ini?
Ya. Setiap pelajaran Deep Learning Academy menyertakan editor kode bawaan, jadi kamu menulis dan menjalankan kode nyata langsung di browser dan mendapatkan umpan balik AI instan — tidak diperlukan penyiapan lokal.
Semua pelajaran dalam kursus ini
- Presisi Campuran dengan autocast dan GradScaler
- Akumulasi Gradien untuk Batch Besar
- Profilkan Bottleneck
- Kurangi Penggunaan Memori GPU