التكميم لنماذج أصغر وأسرع
صغّر الأوزان باستخدام استدلال int8
التكميم لنماذج أصغر وأسرع درس مجاني في Deep Learning Academy على CoddyKit. هذا هو الدرس 3 من أصل 4. يمكنك قراءة الدرس كاملاً أدناه مجاناً — ثم تمرن عليه مباشرة في المتصفح باستخدام محرر أكواد مدمج ومدرس ذكاء اصطناعي متاح 24/7. هذا الدرس جزء من مسار التعلم في Deep Learning Academy، وتقدمك يتزامن عبر الويب وتطبيق CoddyKit. تتضمن دورة Deep Learning Academy 4 دروس في المجموع.
أوزان أصغر، ونماذج أسرع
تكون النماذج الكبيرة بطيئة وثقيلة عند تقديمها. تعمل المَكْمَمة على تقليص حجمها عبر تخزين الأرقام بعدد أقل من البِتّات، فتعمل بسرعة أكبر وبحجم أخف. 📉
Float32 مقابل Int8
تخزّن النماذج أوزانها عادةً كأعداد عائمة من 32 بت. وتحولها المَكْمَمة إلى أعداد صحيحة من 8 بت، مما يقلّل الحجم بنحو أربعة أضعاف.
لماذا يعمل Int8 بسرعة أكبر
تكون الحسابات الصحيحة أقل تكلفة من حسابات الفاصلة العائمة على معظم العتاد، لذا يستهلك الاستدلال باستخدام int8 نطاقًا تردديًا أقل للذاكرة وينتهي بسرعة أكبر.
تحويل الأعداد العائمة إلى أعداد صحيحة
تعمل scale ونقطة الصفر على تحويل كل نطاق من الأعداد العائمة إلى أعداد صحيحة. وتتيحان للنموذج استعادة قيمة عائمة تقريبية أثناء الحساب.
توقّع تكلفة بسيطة في الدقة
يعني استخدام عدد أقل من البِتّات فقدان بعض الدقة، ولذلك قد تنخفض الدقة قليلًا. لكن الانخفاض صغير في معظم النماذج ويستحق السرعة المكتسبة.
المَكْمَمة الديناميكية: مكسب سهل
المَكْمَمة الديناميكية هي أبسط مسار. فهي تكمّم الأوزان مسبقًا والتنشيطات عند التشغيل، وتناسب طبقات linear وRNN بشكل مثالي.
import torch
q = torch.quantization.quantize_dynamic(
model, {torch.nn.Linear}, dtype=torch.qint8)المَكْمَمة الساكنة: عاير أولًا
تكمّم المَكْمَمة الساكنة التنشيطات مسبقًا أيضًا. تزوّدها ببيانات نموذجية لمعايرة النطاقات، فتحصل على سرعة أكبر على وحدات CPU.
التدريب الواعي بالمَكْمَمة
للحصول على أفضل دقة، يحاكي التدريب الواعي بالمَكْمَمة استخدام int8 أثناء التدريب، لكي يتعلّم النموذج تحمّل الدقة الأقل.
قِس مكسب الحجم
بعد إجراء المَكْمَمة، احفظ النموذج وقارن أحجام الملفات. يكون إصدار int8 عادةً بحجم يقارب ربع حجم إصدار float32 الأصلي. 💾
torch.save(q.state_dict(), 'model_int8.pt')أعد اختبار الدقة دائمًا
شغّل مجموعة التحقّق على النموذج المكمَّم، وتأكد من بقاء الدقة مقبولة قبل نشره للمستخدمين الفعليين.
تتألق المَكْمَمة على CPU والأجهزة الطرفية
تحقق المَكْمَمة أكبر فائدة على وحدات CPU والهواتف والأجهزة الطرفية، حيث تكون الذاكرة محدودة وتكون الحسابات الصحيحة مدعومة جيدًا. 📱
تحقّق سريع
تريد أسرع مَكْمَمة دون خطوة معايرة. أي خيار يناسبك؟
مراجعة: أخف وأسرع
قلّصت حجم نموذج باستخدام المَكْمَمة، واستبدلت float32 بـ int8، واخترت المَكْمَمة الديناميكية أو الساكنة أو التدريب الواعي بها، ثم أعدت التحقّق من الدقة. 🎉
تعلم Python مع معلم ذكاء اصطناعي — مجانًا
اكتب وقم بتشغيل أكوادك الفعلية في المتصفح، واحصل على مساعدة فورية من معلم ذكاء اصطناعي متاح 24/7، واستمر من حيث توقفت على الويب أو في التطبيق.
- الدورات
- 30
- الدروس
- 120
الأسئلة الشائعة
هل درس «التكميم لنماذج أصغر وأسرع» مجاني؟
نعم — نص درس «التكميم لنماذج أصغر وأسرع» كامل متاح مجاناً هنا على الويب. لتمرينه بشكل تفاعلي (محرر أكواد مدمج ومدرس ذكاء اصطناعي متاح 24/7) وفتح باقي دورة Deep Learning Academy، انتقل إلى CoddyKit PRO. تتضمن دورة Deep Learning Academy 4 دروس في المجموع.
ماذا ستتعلم في «التكميم لنماذج أصغر وأسرع»؟
صغّر الأوزان باستخدام استدلال int8 تتمرن على Deep Learning Academy مع أكواد عملية تشغلها مباشرة في المتصفح، ومدرس ذكاء اصطناعي متاح 24/7 يجيب على أسئلتك أثناء عملك.
هل أحتاج إلى خبرة سابقة لأبدأ Deep Learning Academy؟
لا تُشترط خبرة سابقة. Deep Learning Academy على CoddyKit منظم للمبتدئين حتى المتقدمين، لذا يمكنك البدء من هنا أو من البداية والتقدم بسرعتك الخاصة. هذا هو الدرس 3 من أصل 4.
كم من الوقت يستغرق درس «التكميم لنماذج أصغر وأسرع»؟
معظم دروس CoddyKit تستغرق حوالي 5–10 دقائق. كل منها موجز وتفاعلي، لذا تحرز تقدماً مستمراً وتستأنف من حيث توقفت عبر الويب والتطبيق.
هل يمكنني كتابة وتشغيل أكواد في درس Deep Learning Academy هذا؟
نعم. كل درس في Deep Learning Academy يتضمن محرر أكواد مدمج، لذا تكتب وتشغل أكواداً حقيقية مباشرة في متصفحك وتحصل على تعليقات فورية من الذكاء الاصطناعي — بدون إعداد محلي.
جميع الدروس في هذه الدورة
- TorchScript وtorch.compile
- التصدير إلى ONNX
- التكميم لنماذج أصغر وأسرع
- تقديم النموذج باستخدام FastAPI