torch.no_grad() pour l’inférence
Ignorez le suivi du graphe pour économiser de la mémoire.
torch.no_grad() pour l’inférence est une leçon Deep Learning Academy gratuite sur CoddyKit. Ceci est la leçon 4 sur 4. Tu peux lire la leçon complète ci-dessous gratuitement — puis la pratiquer en direct dans le navigateur avec un éditeur de code intégré et un tuteur IA 24/7. Elle fait partie du parcours d'apprentissage Deep Learning Academy, et ta progression se synchronise sur le web et l'application CoddyKit. Le cours Deep Learning Academy comprend 4 leçons au total.
Toutes les passes n’ont pas besoin de gradients
Vous n’avez besoin de gradients que pendant l’entraînement. Lorsque vous voulez simplement effectuer des prédictions, suivre le graphe est un travail inutile ; PyTorch vous permet donc de désactiver ce suivi. 🛑
Découvrez torch.no_grad
Placez votre code dans un bloc torch.no_grad() et autograd cesse d’enregistrer ce qui s’y trouve. Aucun graphe n’est construit et aucun gradient n’est stocké.
with torch.no_grad():
preds = model(x)Pourquoi ignorer le graphe
Construire le graphe consomme de la mémoire pour mémoriser chaque étape d’une propagation en arrière qui n’aura jamais lieu. En inférence, cette surcharge est totalement inutile.
Plus rapide et plus léger
Dans no_grad, votre propagation avant utilise moins de mémoire et s’exécute un peu plus rapidement. Avec de grands modèles, cela permet de traiter de plus grands lots lors des simples prédictions.
Les sorties sont détachées
Les tensors créés dans le bloc ont requires_grad défini sur false. Ce sont de simples résultats que vous pouvez afficher, enregistrer ou convertir en NumPy sans problème.
Utilisez-le pour l’évaluation
Les boucles de validation et de test doivent toujours s’exécuter dans no_grad. Vous évaluez le modèle au lieu de l’entraîner ; il n’y a donc aucune raison de suivre les gradients.
with torch.no_grad():
for x, y in val_loader:
out = model(x)Associez-le au mode eval
Pour l’inférence, définissez model.eval() et entourez simultanément les appels de no_grad. eval configure correctement des couches comme dropout ; no_grad arrête la construction du graphe. Ces deux outils répondent à des besoins différents.
C’est un gestionnaire de contexte
no_grad n’agit que sur le code situé à l’intérieur du bloc with. Dès que vous en sortez, autograd réactive automatiquement le suivi pour votre prochaine étape d’entraînement.
La forme décorateur
Vous pouvez également marquer toute une fonction avec @torch.no_grad(). Chaque opération sur un tensor effectuée dans cette fonction s’exécute alors sans construire de graphe.
@torch.no_grad()
def predict(x):
return model(x)Détacher un seul tensor
Vous devez libérer un seul tensor du graphe plutôt qu’un bloc entier ? Appelez .detach() dessus pour obtenir une copie dépourvue d’historique des gradients.
frozen = output.detach()Une habitude sûre et courante
Utilisez no_grad dès que vous n’êtes pas en train d’apprendre : inférence, métriques ou enregistrement des sorties. Ce petit changement économise discrètement de la mémoire et accélère l’exécution.
Vérification rapide
Récapitulatif
Placez l’inférence dans torch.no_grad() pour éviter de construire le graphe et économiser du temps et de la mémoire. Associez-le à model.eval() chaque fois que vous prédisez au lieu d’entraîner. 🚀
Apprends Python avec un tuteur IA — gratuit
Écris et exécute du vrai code dans ton navigateur, obtiens de l'aide instantanée d'un tuteur IA disponible 24h/24, et reprends là où tu t'es arrêté sur le web ou dans l'app.
- Cours
- 30
- Leçons
- 120
Questions Fréquemment Posées
La leçon « torch.no_grad() pour l’inférence » est-elle gratuite ?
Oui — le texte complet de « torch.no_grad() pour l’inférence » est gratuit à lire ici sur le web. Pour la pratiquer de manière interactive (un éditeur de code intégré et un tuteur IA 24/7) et déverrouiller le reste du cours Deep Learning Academy, passe à CoddyKit PRO. Le cours Deep Learning Academy comprend 4 leçons au total.
Qu'est-ce que j'apprendrai dans « torch.no_grad() pour l’inférence » ?
Ignorez le suivi du graphe pour économiser de la mémoire. Tu pratiques Deep Learning Academy avec du code pratique que tu exécutes directement dans le navigateur, et un tuteur IA 24/7 répond à tes questions au fur et à mesure que tu avances dans la leçon.
Dois-je avoir de l'expérience pour commencer Deep Learning Academy ?
Aucune expérience préalable n'est requise. Deep Learning Academy sur CoddyKit est structuré pour les débutants jusqu'aux apprenants avancés, donc tu peux commencer ici ou depuis le début et avancer à ton rythme. Ceci est la leçon 4 sur 4.
Combien de temps prend la leçon « torch.no_grad() pour l’inférence » ?
La plupart des leçons CoddyKit prennent environ 5–10 minutes. Chacune est courte et interactive, tu progresses régulièrement et tu repiques exactement où tu t'es arrêté sur le web et l'app.
Peux-tu écrire et exécuter du code dans cette leçon Deep Learning Academy ?
Oui. Chaque leçon Deep Learning Academy inclut un éditeur de code intégré, tu écris et exécutes du vrai code directement dans ton navigateur et tu reçois des retours IA instantanés — aucune configuration locale requise.
Toutes les leçons de ce cours
- requires_grad et le graphe de calcul
- Appelez backward() pour obtenir les gradients
- Lire et remettre .grad à zéro
- torch.no_grad() pour l’inférence