Gem og indlæs med state_dict
Gem vægte som checkpoint, så De kan fortsætte senere.
Gem og indlæs med state_dict er en gratis Deep Learning Academy-lektion på CoddyKit. Dette er lektion 3 af 4. Du kan læse hele lektionen gratis nedenfor — og derefter øve dig praktisk i browseren med en indbygget kodeeditor og en AI-vejleder, der er tilgængelig døgnet rundt. Den er en del af læringsforløbet i Deep Learning Academy, og dine fremskridt synkroniseres på tværs af nettet og CoddyKit-appen. Deep Learning Academy-kurset indeholder 4 lektioner i alt.
Hvorfor kontrolpunkter er vigtige
Træning kan tage flere timer, og nedbrud sker. Når du gemmer dine fremskridt som et kontrolpunkt, kan du stoppe, genoptage eller levere modellen uden at træne fra nul igen.
Hvad en state_dict indeholder
En models state_dict er en almindelig ordbog, der knytter hvert lagnavn til dets indlærte tensorer. Den indeholder alt, hvad modellen ved, pakket til lagring.
model.state_dict()Gem vægtene
Brug torch.save på state_dict for at skrive vægtene til disken. Endelsen .pt eller .pth er den almindelige konvention for disse filer.
torch.save(model.state_dict(), 'model.pt')Indlæs vægtene igen
For at gendanne dem skal du læse filen med torch.load og hælde den ind i en model ved hjælp af load_state_dict. Arkitekturen skal svare til den gemte arkitektur.
model.load_state_dict(torch.load('model.pt'))Genskab arkitekturen først
En state_dict indeholder tal, ikke selve klassen. Du skal opbygge det samme modelobjekt i koden, før du kan indlæse vægtene i det.
model = MyNet()
model.load_state_dict(torch.load('model.pt'))Evalueringstilstand efter indlæsning
Lige efter indlæsning til inferens skal du kalde model.eval(). Det skifter dropout og batchnorm til forudsigelsesadfærd, så outputtet bliver korrekt.
model.eval()Gem også optimeringsalgoritmen
Hvis du virkelig vil genoptage træningen, skal du også gemme optimeringsalgoritmens state_dict. Den indeholder momentum og adaptive statistikker, som ellers nulstilles.
torch.save(optimizer.state_dict(), 'opt.pt')Saml et komplet kontrolpunkt
Pak model, optimeringsalgoritme og den aktuelle epoke i én kontrolpunkt-ordbog. Nu kan én fil gendanne hele din træningssession.
ckpt = {'epoch': epoch, 'model': model.state_dict(), 'opt': optimizer.state_dict()}
torch.save(ckpt, 'ckpt.pt')Genoptag fra et kontrolpunkt
Indlæs pakken, og gendan hver del efter tur. Når du læser den gemte epoke, kan du fortsætte løkken præcis dér, hvor den blev afbrudt.
ckpt = torch.load('ckpt.pt')
model.load_state_dict(ckpt['model'])
optimizer.load_state_dict(ckpt['opt'])Tilknyt til den rigtige enhed
Hvis du gemte på en GPU og indlæser på en CPU, skal du sende map_location til torch.load. Det flytter vægtene til en enhed, som din maskine faktisk har.
torch.load('model.pt', map_location='cpu')Gem den bedste, ikke den sidste
Hold øje med valideringsfejlen, og overskriv kun dit kontrolpunkt, når den forbedres. På den måde bevarer du den bedste model og ikke blot den, som den sidste epoke frembragte.
Hurtigt tjek
Du gemte kun model.state_dict(). Hvad skal eksistere, før du kan indlæse den?
Opsummering
Gem vægte med state_dict og torch.save, genskab modellen for at indlæse dem, og pak optimeringsalgoritmen og epoken med for at kunne genoptage alt. Bevar den bedste model. 💾
Lær Python med en AI-underviser — gratis
Skriv og kør rigtig kode i din browser, få øjeblikkelig hjælp fra en AI-underviser døgnet rundt, og fortsæt, hvor du slap, på web eller i appen.
- Kurser
- 30
- Lektioner
- 120
Ofte stillede spørgsmål
Er lektionen “Gem og indlæs med state_dict” gratis?
Ja — hele teksten til “Gem og indlæs med state_dict” kan læses gratis her på nettet. Hvis du vil øve dig interaktivt med en indbygget kodeeditor og en AI-vejleder døgnet rundt og få adgang til resten af Deep Learning Academy-kurset, skal du opgradere til CoddyKit PRO. Deep Learning Academy-kurset indeholder 4 lektioner i alt.
Hvad lærer jeg i “Gem og indlæs med state_dict”?
Gem vægte som checkpoint, så De kan fortsætte senere. Du øver dig i Deep Learning Academy med praktisk kode, som du kører direkte i browseren, og en AI-vejleder døgnet rundt besvarer dine spørgsmål, mens du arbejder dig gennem lektionen.
Skal jeg have erfaring for at begynde på Deep Learning Academy?
Der kræves ingen tidligere erfaring. Deep Learning Academy på CoddyKit er tilrettelagt for både begyndere og øvede, så du kan starte her eller fra begyndelsen og lære i dit eget tempo. Dette er lektion 3 af 4.
Hvor lang tid tager lektionen “Gem og indlæs med state_dict”?
De fleste CoddyKit-lektioner tager cirka 5–10 minutter. Hver lektion er kort og interaktiv, så du gør løbende fremskridt og kan fortsætte, hvor du slap – på både web og app.
Kan jeg skrive og køre kode i denne Deep Learning Academy-lektion?
Ja. Alle Deep Learning Academy-lektioner har en indbygget kodeeditor, så du kan skrive og køre rigtig kode direkte i din browser og få øjeblikkelig feedback fra AI – uden lokal opsætning.
Alle lektioner i dette kursus
- Opdel i train, validation og test
- Et epoch-loop med validering
- Gem og indlæs med state_dict
- Early stopping på val loss