โหมดฝึกกับโหมดประเมิน
เหตุใด model.train() และ model.eval() จึงต่างกัน
โหมดฝึกกับโหมดประเมิน เป็นบทเรียน Deep Learning Academy ฟรีบน CoddyKit นี่คือบทเรียนที่ 4 จากทั้งหมด 4 บทเรียน คุณสามารถอ่านบทเรียนทั้งหมดด้านล่างฟรี — จากนั้นลองปฏิบัติด้วยตัวคุณเองในเบราว์เซอร์พร้อมตัวแก้ไขโค้ดในตัวและติวเตอร์ AI ตลอด 24/7 บทเรียนนี้เป็นส่วนหนึ่งของเส้นทางการเรียน Deep Learning Academy และความก้าวหน้าของคุณจะซิงค์ข้ามเว็บและแอป CoddyKit คอร์ส Deep Learning Academy มีบทเรียนทั้งหมด 4 บทเรียน
โมเดลมีสองโฉมหน้า
โครงข่ายของคุณจะทำงานแตกต่างกันระหว่างการเรียนรู้กับการถูกทดสอบ PyTorch เรียกสถานะทั้งสองนี้ว่าโหมด train และโหมด eval 🎭
สลับเข้าสู่โหมด Train
ก่อนเริ่มฝึก ให้เรียกใช้ model.train คำสั่งนี้จะบอกให้ทุกเลเยอร์ทำงานตามที่ควรเป็นขณะที่โมเดลกำลังเรียนรู้จากข้อมูล
model.train()สลับเข้าสู่โหมด Eval
ก่อนตรวจสอบความถูกต้องหรือสร้างการคาดคะเน ให้เรียกใช้ model.eval จากนั้นโครงข่ายจะเปลี่ยนไปทำงานในลักษณะที่คงที่และกำหนดได้ เพื่อให้การวัดผลเที่ยงตรง
model.eval()Dropout ก็มีความสำคัญ
ดรอปเอาต์จะทำให้เซลล์ประสาทบางส่วนเป็นศูนย์แบบสุ่มระหว่าง train เพื่อป้องกันการเรียนรู้มากเกินไป เมื่ออยู่ในโหมด eval ดรอปเอาต์จะปิดการทำงานทั้งหมด ทำให้เซลล์ประสาททุกเซลล์มีส่วนร่วมในการทำนาย
แบตช์นอร์มก็มีผลเช่นกัน
แบตช์นอร์มจะใช้สถิติของแต่ละแบตช์ระหว่าง train แต่จะเปลี่ยนไปใช้ค่าเฉลี่ยสะสมที่บันทึกไว้เมื่อถึงเวลา eval เพื่อให้ผลลัพธ์มีเสถียรภาพและสม่ำเสมอ
มันเป็นเพียงสวิตช์
การเรียกใช้เหล่านี้ไม่ได้ทำให้เกิดการ train หรือ test ด้วยตัวเอง แต่เพียงสลับแฟล็กที่บอกชั้นดรอปเอาต์และชั้นนอร์มว่าควรใช้พฤติกรรมใด
eval ไม่ใช่ no_grad
ความสับสนที่พบบ่อยคือ eval จะเปลี่ยนพฤติกรรมของชั้นต่าง ๆ ส่วน no_grad จะหยุดการติดตามเกรเดียนต์ ทั้งสองอย่างแก้ปัญหาคนละเรื่อง ดังนั้นโดยทั่วไปจึงใช้ร่วมกัน
model.eval()
with torch.no_grad():
pred = model(x)ลืมใช้ eval ส่งผลเสีย
หากตรวจสอบความถูกต้องโดยไม่ใช้ eval ดรอปเอาต์และแบตช์นอร์มจะยังคงใช้พฤติกรรมแบบ train อยู่ คะแนนของคุณจะผันผวนและดูแย่กว่าความสามารถจริงของโมเดล
ลืมใช้ train ส่งผลเสีย
ในทางกลับกัน หากปล่อยโมเดลไว้ในโหมด eval ดรอปเอาต์จะไม่ทำงานเลย ทำให้การทำให้เป็นระเบียบหายไปโดยไม่รู้ตัวระหว่าง train
ใส่ไว้ในลูป
ทำให้การสลับโหมดเป็นนิสัย: ตั้งเป็น train ก่อนรอบการ train และตั้งเป็น eval ก่อนการตรวจสอบความถูกต้องในทุกยุคโดยไม่มีข้อยกเว้น เพื่อไม่ให้โมเดลค้างอยู่ในโหมดที่ผิด
for epoch in range(epochs):
model.train()
# ... train ...
model.eval()
# ... validate ...การเรียกสั้น ๆ แต่ผลกระทบใหญ่
การเรียกใช้เล็ก ๆ สองครั้งนี้เป็นตัวตัดสินว่าค่าชี้วัดของคุณน่าเชื่อถือหรือไม่ ให้ถือว่าการสลับโหมดเป็นส่วนที่ขาดไม่ได้ของทุกลูป
ตรวจสอบอย่างรวดเร็ว
การเรียกใช้ model.eval() เปลี่ยนแปลงอะไรจริง ๆ
ทบทวน
คุณได้เรียนรู้สองโหมด: train จะเปิดใช้ดรอปเอาต์และสถิติของแบตช์ ส่วน eval จะทำให้การทำงานเป็นแบบกำหนดแน่นอน สลับโหมดในทุกยุค และใช้ eval คู่กับ no_grad 🎉
เรียนรู้ Python ด้วย AI tutor — ฟรี
เขียนและเรียกใช้โค้ดจริงในเบราว์เซอร์ของคุณ รับความช่วยเหลือทันทีจาก AI tutor 24/7 และเรียนรู้ต่อจากที่คุณหยุดบนเว็บหรือในแอป
- คอร์ส
- 30
- บทเรียน
- 120
คำถามที่พบบ่อย
บทเรียน “โหมดฝึกกับโหมดประเมิน” ฟรีหรือไม่
ใช่ — ข้อความเต็มของ “โหมดฝึกกับโหมดประเมิน” ฟรีให้อ่านที่นี่บนเว็บ เพื่อปฏิบัติแบบโต้ตอบ (ตัวแก้ไขโค้ดในตัวและติวเตอร์ AI ตลอด 24/7) และปลดล็อคส่วนที่เหลือของคอร์ส Deep Learning Academy ให้อัปเกรดเป็น CoddyKit PRO คอร์ส Deep Learning Academy มีบทเรียนทั้งหมด 4 บทเรียน
คุณจะเรียนรู้อะไรในบทเรียน “โหมดฝึกกับโหมดประเมิน”
เหตุใด model.train() และ model.eval() จึงต่างกัน คุณปฏิบัติ Deep Learning Academy ด้วยโค้ดที่ใช้งานได้จริงที่คุณเรียกใช้โดยตรงในเบราว์เซอร์ และติวเตอร์ AI ตลอด 24/7 ตอบคำถามของคุณขณะที่คุณไปผ่านบทเรียน
คุณต้องมีประสบการณ์ก่อนที่จะเริ่มเรียน Deep Learning Academy หรือไม่
ไม่จำเป็นต้องมีประสบการณ์มาก่อน Deep Learning Academy บน CoddyKit ออกแบบมาสำหรับผู้เริ่มต้นไปจนถึงผู้เรียนขั้นสูง คุณสามารถเริ่มต้นที่นี่หรือเริ่มจากตัวแรกและเรียนด้วยความเร็วของคุณเอง นี่คือบทเรียนที่ 4 จากทั้งหมด 4 บทเรียน
บทเรียน “โหมดฝึกกับโหมดประเมิน” ใช้เวลานานแค่ไหน
บทเรียน CoddyKit ส่วนใหญ่ใช้เวลาประมาณ 5–10 นาที แต่ละบทเรียนจึงสั้นและเป็นแบบโต้ตอบ คุณสามารถก้าวหน้าอย่างต่อเนื่องและกลับมาเรียนต่อจากตรงที่เพิ่งหยุดบนเว็บและแอปได้เลย
ฉันเขียนและรันโค้ดในบทเรียน Deep Learning Academy นี้ได้ไหม
ได้ บทเรียน Deep Learning Academy ทุกบทมีตัวแก้ไขโค้ดในตัว คุณจึงเขียนและรันโค้ดจริงได้เลยในเบราว์เซอร์ และได้รับข้อเสนอแนะจาก AI ในทันที — ไม่ต้องติดตั้งในเครื่องของคุณ
บทเรียนทั้งหมดในหลักสูตรนี้
- การส่งต่อ ค่าความสูญเสีย ย้อนกลับ และก้าวปรับค่า
- เขียนวงจรการฝึกแบบพื้นฐาน
- ติดตามความแม่นยำระหว่างการฝึก
- โหมดฝึกกับโหมดประเมิน