TorchScript ve torch.compile
Bir modeli sunum için dondurup hızlandırın.
TorchScript ve torch.compile, CoddyKit'te ücretsiz bir Deep Learning Academy dersidir. Bu, 4 dersinin 1. dersidir. Aşağıdan dersin tamamını ücretsiz okuyabilir, sonra tarayıcıda yerleşik kod editörü ve 7/24 yapay zeka koçu ile uygulamalı olarak pratik yapabilirsin. Bu, Deep Learning Academy öğrenme yolunun bir parçasıdır ve ilerlemeniz web ve CoddyKit uygulaması arasında senkronize olur. Deep Learning Academy kursu toplamda 4 dersten oluşur.
Üretimde Dondurulmuş Model Neden Gereklidir
Eğitim kodunuz esnek Python'dır, ancak sunucular hızlı ve kararlı bir yapı ister. TorchScript, modelinizi taşınabilir ve iyileştirilmiş bir biçimde dondurur. 🚀
TorchScript Aslında Nedir
TorchScript, Python yorumlayıcısı olmadan çalışan, serileştirilebilir ve iyileştirilebilir bir Python alt kümesidir; bu sayede modelinizi C++ sunucularına ve mobil cihazlara taşıyabilirsiniz.
İzleme: Gerçek Bir Çalışmayı Kaydetme
İzleme, modelinizi örnek bir girdiyle çalıştırır ve gerçekleştirdiği her işlemi kaydederek verilerin gerçekte izlediği yolu yakalar.
import torch
traced = torch.jit.trace(model, example_input)İzleme, Denetim Akışını Kaçırır
İzleme yalnızca tek bir çalışmayı takip ettiğinden veriye bağlı if-ifadelerini ve döngüleri sessizce yok sayar. Bu dallar tamamen ortadan kalkar.
Betikleme: Mantığı Okuma
Betikleme, kodunuzu doğrudan derleyerek tüm döngüleri ve koşulları korur. Denetim akışı girdi değerlerine bağlıysa bunu kullanın.
scripted = torch.jit.script(model)Her Yerde Kaydedin ve Yükleyin
Betiklenmiş veya izlenmiş bir model, özgün sınıf tanımı gerektirmeden herhangi bir makineye yükleyebileceğiniz, kendi kendine yeterli tek bir dosyaya kaydedilir.
scripted.save('model.pt')
loaded = torch.jit.load('model.pt')torch.compile ile Tanışın
Modern alternatif, kodunuzu yalın Python olarak korurken modelinizi tek satırla hızlandıran torch.compile'dır.
model = torch.compile(model)torch.compile İşleri Nasıl Hızlandırır
torch.compile, perde arkasında birçok küçük işlemi daha az sayıda iyileştirilmiş çekirdekte birleştirir; böylece ek yükü azaltır ve GPU üzerindeki işlem hacmini artırır.
İlk Çağrı Yavaştır
torch.compile sonrasındaki ilk ileri geçiş yavaştır, çünkü derleme arka planda yapılır. Bundan sonraki her çağrı çok daha hızlı çalışır. ⏳
Önce Her Zaman Değerlendirme Kipini Ayarlayın
Sunum için izleme, betikleme veya derleme yapmadan önce model.eval() çağrısını yapın; böylece dropout ve yığın normalizasyonu çıkarım için doğru şekilde davranır.
model.eval()
traced = torch.jit.trace(model, x)Hangisini Tercih Etmelisiniz
Python içermeyen bir dağıtım dosyasına ihtiyacınız varsa TorchScript'i, Python içinde hızlı bir hız artışı istiyorsanız torch.compile'ı seçin.
Hızlı Kontrol
Bir yöntem yalnızca tek bir örneğin izlediği yolu yakalar. Bu hangisidir?
Özet: Dondurun ve Hızlandırın
Bir modeli izleme veya betikleme yoluyla TorchScript kullanarak dondürmeyi, her yerde kaydetmeyi ve Python içinde çıkarımı torch.compile ile hızlandırmayı öğrendiniz. 🎉
Yapay zeka eğitmeniyle Python öğren — ücretsiz
Tarayıcında gerçek kod yaz ve çalıştır, 7/24 yapay zeka eğitmeninden anında yardım al; web'de ya da uygulamada kaldığın yerden devam et.
- Kurslar
- 30
- Dersler
- 120
Sıkça Sorulan Sorular
“TorchScript ve torch.compile” dersi ücretsiz mi?
Evet — “TorchScript ve torch.compile” dersin tüm metni burada web'de ücretsiz olarak okunabilir. Etkileşimli olarak pratik yapmak (yerleşik kod editörü ve 7/24 yapay zeka koçu) ve Deep Learning Academy kursunun geri kalanını açmak için CoddyKit PRO'ya yükselt. Deep Learning Academy kursu toplamda 4 dersten oluşur.
“TorchScript ve torch.compile” dersinde ne öğreneceğim?
Bir modeli sunum için dondurup hızlandırın. Deep Learning Academy ile uygulamalı kodu tarayıcıda doğrudan çalıştırarak pratik yaparsın ve 7/24 yapay zeka koçu dersi çalışırken sorularını yanıtlar.
Deep Learning Academy öğrenmeye başlamak için deneyim gerekli mi?
Önceden deneyim gerekmez. CoddyKit'te Deep Learning Academy, başlangıçtan ileri seviyeye kadar yapılandırıldığı için buradan başlayabilir veya başından başlayıp kendi hızında ilerleme yapabilirsin. Bu, 4 dersinin 1. dersidir.
“TorchScript ve torch.compile” dersi ne kadar sürer?
Çoğu CoddyKit dersi yaklaşık 5–10 dakika sürer. Her biri kısa ve etkileşimli olduğu için sabit ilerleme yaparsın ve web ile uygulama arasında tam olarak bıraktığın yerden devam edebilirsin.
Bu Deep Learning Academy dersinde kod yazıp çalıştırabilir miyim?
Evet. Her Deep Learning Academy dersi yerleşik bir kod editörü içerir, bu sayede tarayıcıda gerçek kod yazıp çalıştırabilir ve anlık yapay zeka geri bildirimi alırsın — yerel kurulum gerekli değildir.
Bu kursun tüm dersleri
- TorchScript ve torch.compile
- ONNX'e Dışa Aktarma
- Daha Küçük ve Hızlı Modeller için Nicemleme
- FastAPI ile Sunma