Deep Learning Academy · Leçon

Softmax pour les probabilités

Transformez des scores bruts en distribution de classes.

Leçon 4 sur 413 étapes

Softmax pour les probabilités est une leçon Deep Learning Academy gratuite sur CoddyKit. Ceci est la leçon 4 sur 4. Tu peux lire la leçon complète ci-dessous gratuitement — puis la pratiquer en direct dans le navigateur avec un éditeur de code intégré et un tuteur IA 24/7. Elle fait partie du parcours d'apprentissage Deep Learning Academy, et ta progression se synchronise sur le web et l'application CoddyKit. Le cours Deep Learning Academy comprend 4 leçons au total.

Des scores aux choix

La dernière couche d’un classifieur produit des scores bruts, un par classe. Ces nombres non bornés sont appelés des scores logarithmiques et sont difficiles à interpréter directement. 🔢

Voici softmax

Softmax transforme un vecteur de scores logarithmiques en une distribution de probabilités claire sur toutes vos classes. Chaque score devient alors une probabilité.

import torch.nn.functional as F
probs = F.softmax(logits, dim=-1)

Deux garanties

Softmax garantit deux choses : chaque sortie est comprise entre 0 et 1, et toutes les sorties ont une somme égale à un. C’est exactement ce qu’il faut pour une distribution.

Fonctionnement

Softmax calcule l’exponentielle de chaque score logarithmique, puis divise par le total. L’exponentielle donne l’avantage aux scores logarithmiques les plus élevés et accentue ainsi le gagnant.

exp = logits.exp()
probs = exp / exp.sum()

Relative, pas absolue

Softmax s’intéresse aux écarts entre les scores logarithmiques, et non à leur valeur brute. Ajouter la même constante à chaque score logarithmique ne modifie pas les probabilités.

Sigmoïde ou softmax

Utilisez la sigmoïde pour une sortie unique de type oui/non. Utilisez softmax lorsque les classes sont en compétition et qu’une seule doit gagner parmi plusieurs.

Choisir le gagnant

Pour obtenir la classe prédite, prenez l’argmax de la sortie de softmax. Cet indice correspond à la classe ayant la probabilité la plus élevée.

pred = probs.argmax(dim=-1)

Attention à la dimension

Définissez toujours la bonne dimension afin que softmax normalise les valeurs entre les classes, et non entre les éléments du lot. Un axe incorrect ruine discrètement vos probabilités.

Ne l’utilisez pas pendant l’entraînement

Pendant l’entraînement, vous n’appliquez généralement pas softmax vous-même. La perte d’entropie croisée attend les scores logarithmiques bruts et applique softmax en interne.

loss = F.cross_entropy(logits, target)  # logits, not probs

Pourquoi cette méthode est plus sûre

Combiner softmax et le logarithme dans une seule fonction est plus stable numériquement. Effectuer les deux étapes manuellement peut provoquer un dépassement de capacité ou une perte de précision.

La température modifie la netteté

Diviser les scores logarithmiques par une température avant softmax permet de contrôler la confiance. Les petites valeurs accentuent le pic ; les grandes l’aplanissent.

Vérification rapide

Réfléchissez à ce que la perte d’entropie croisée attend comme entrée.

Récapitulatif

Softmax convertit les scores logarithmiques en probabilités dont la somme vaut un, ce qui convient parfaitement à une sortie multiclasse. Mais pendant l’entraînement, laissez la perte d’entropie croisée s’en charger. 🏁

Gratuit pour commencer

Apprends Python avec un tuteur IA — gratuit

Écris et exécute du vrai code dans ton navigateur, obtiens de l'aide instantanée d'un tuteur IA disponible 24h/24, et reprends là où tu t'es arrêté sur le web ou dans l'app.

Cours
30
Leçons
120

Questions Fréquemment Posées

La leçon « Softmax pour les probabilités » est-elle gratuite ?

Oui — le texte complet de « Softmax pour les probabilités » est gratuit à lire ici sur le web. Pour la pratiquer de manière interactive (un éditeur de code intégré et un tuteur IA 24/7) et déverrouiller le reste du cours Deep Learning Academy, passe à CoddyKit PRO. Le cours Deep Learning Academy comprend 4 leçons au total.

Qu'est-ce que j'apprendrai dans « Softmax pour les probabilités » ?

Transformez des scores bruts en distribution de classes. Tu pratiques Deep Learning Academy avec du code pratique que tu exécutes directement dans le navigateur, et un tuteur IA 24/7 répond à tes questions au fur et à mesure que tu avances dans la leçon.

Dois-je avoir de l'expérience pour commencer Deep Learning Academy ?

Aucune expérience préalable n'est requise. Deep Learning Academy sur CoddyKit est structuré pour les débutants jusqu'aux apprenants avancés, donc tu peux commencer ici ou depuis le début et avancer à ton rythme. Ceci est la leçon 4 sur 4.

Combien de temps prend la leçon « Softmax pour les probabilités » ?

La plupart des leçons CoddyKit prennent environ 5–10 minutes. Chacune est courte et interactive, tu progresses régulièrement et tu repiques exactement où tu t'es arrêté sur le web et l'app.

Peux-tu écrire et exécuter du code dans cette leçon Deep Learning Academy ?

Oui. Chaque leçon Deep Learning Academy inclut un éditeur de code intégré, tu écris et exécutes du vrai code directement dans ton navigateur et tu reçois des retours IA instantanés — aucune configuration locale requise.

Toutes les leçons de ce cours

  1. Pourquoi la non-linéarité libère toute la puissance
  2. ReLU et ses cousines Leaky et GELU
  3. Sigmoid et Tanh : comprimer dans un intervalle
  4. Softmax pour les probabilités
← Retour à Deep Learning Academy