LeNet และ AlexNet: ชัยชนะครั้งแรก
จุดเริ่มต้นของ CNN สมัยใหม่
LeNet และ AlexNet: ชัยชนะครั้งแรก เป็นบทเรียน Deep Learning Academy ฟรีบน CoddyKit นี่คือบทเรียนที่ 1 จากทั้งหมด 4 บทเรียน คุณสามารถอ่านบทเรียนทั้งหมดด้านล่างฟรี — จากนั้นลองปฏิบัติด้วยตัวคุณเองในเบราว์เซอร์พร้อมตัวแก้ไขโค้ดในตัวและติวเตอร์ AI ตลอด 24/7 บทเรียนนี้เป็นส่วนหนึ่งของเส้นทางการเรียน Deep Learning Academy และความก้าวหน้าของคุณจะซิงค์ข้ามเว็บและแอป CoddyKit คอร์ส Deep Learning Academy มีบทเรียนทั้งหมด 4 บทเรียน
จุดเริ่มต้นของ CNN
นานก่อนจะมีโมเดลยักษ์ใหญ่ในปัจจุบัน โครงข่ายขนาดเล็กสองแบบได้พิสูจน์ว่าการเรียนรู้ คอนโวลูชันสามารถอ่านภาพได้ มาทำความรู้จักผู้บุกเบิกกัน
LeNet-5 อ่านตัวเลข
ในปี 1998 Yann LeCun สร้าง LeNet-5 เพื่อรู้จำตัวเลขลายมือบนเช็ค โมเดลมีขนาดเล็ก แต่ทำงานได้ยอดเยี่ยม
สูตรง่าย ๆ
รูปแบบของ LeNets ชัดเจนมาก: สลับเลเยอร์คอนโวลูชันกับการพูล แล้วจบด้วยเลเยอร์หนาแน่นไม่กี่ชั้น สูตรนี้ยังคงส่งอิทธิพลมาถึงปัจจุบัน
ฝึกตั้งแต่ต้นจนจบ
แนวคิดสำคัญคือ LeNet เรียนรู้ตัวกรองจากข้อมูลด้วย การแพร่ย้อนกลับ แทนที่วิศวกรจะเขียนตัวตรวจจับขอบด้วยตนเอง
จากนั้นก็มาถึงช่วงหยุดชะงัก
ข้อมูลและกำลังประมวลผลมีจำกัด ความก้าวหน้าจึงหยุดชะงักไปหลายปี โลกในเวลานั้นยังไม่พร้อมจะขยาย แนวคิดนี้
AlexNet ปลุกวงการ
ในปี 2012 AlexNet เอาชนะการแข่งขัน ImageNet ได้อย่างขาดลอย ลดอัตราความผิดพลาดลงครึ่งหนึ่ง และจุดประกายยุคบูมของการเรียนรู้เชิงลึกสมัยใหม่
ใหญ่ขึ้นและลึกขึ้น
AlexNet คือ LeNet ที่ขยายขนาดขึ้น: มีเลเยอร์มากขึ้น ตัวกรองมากขึ้นอย่างมาก และมี พารามิเตอร์นับล้านที่ต้องการข้อมูลจำนวนมาก
ReLU ทำให้การฝึกเร็วขึ้น
AlexNet เปลี่ยนจากฟังก์ชันกระตุ้นแบบอิ่มตัวที่ช้า มาใช้ ReLU ที่รวดเร็วและเรียบง่าย ทำให้โครงข่ายลึกฝึกได้ภายในเวลาที่เหมาะสม
ฝึกด้วย GPU สองตัว
โมเดลทำงานบน หน่วยประมวลผลกราฟิกสองตัวพร้อมกัน การเลือกฮาร์ดแวร์นี้เปลี่ยนแนวคิดเก่าให้กลายเป็นระบบที่ใช้งานได้จริงและคว้าชัยชนะ
Dropout ต่อสู้กับการจำข้อมูลมากเกินไป
เพื่อหยุดการจดจำข้อมูล AlexNet เพิ่ม การดรอปเอาต์ในเลเยอร์หนาแน่น โดยสุ่มปิดการทำงานของเซลล์ประสาทระหว่างการฝึก
import torch.nn as nn
classifier = nn.Sequential(nn.Dropout(0.5), nn.Linear(4096, 1000))เลเยอร์คอนโวลูชันใน PyTorch
โครงข่ายทั้งสองแบบประกอบด้วยองค์ประกอบหลักหนึ่งชนิดที่ซ้อนกัน นี่คือเลเยอร์ Conv2d เดี่ยว ซึ่งเป็นหน่วยพื้นฐานของทุกสิ่ง
import torch.nn as nn
layer = nn.Conv2d(in_channels=3, out_channels=96, kernel_size=11, stride=4)ตรวจสอบอย่างรวดเร็ว
ลองนึกดูว่าอะไรทำให้ AlexNet มีอิทธิพลมากเช่นนั้น
สรุป: ชัยชนะครั้งแรก
LeNet แสดงให้เห็นว่า CNN สามารถเรียนรู้ได้ และ AlexNet พิสูจน์ว่ามันสามารถเอาชนะได้เมื่อขยายขนาด ทั้งสองโมเดลร่วมกันเปิดศักราชที่คุณกำลังศึกษาอยู่ เริ่มต้นได้ดีมาก
เรียนรู้ Python ด้วย AI tutor — ฟรี
เขียนและเรียกใช้โค้ดจริงในเบราว์เซอร์ของคุณ รับความช่วยเหลือทันทีจาก AI tutor 24/7 และเรียนรู้ต่อจากที่คุณหยุดบนเว็บหรือในแอป
- คอร์ส
- 30
- บทเรียน
- 120
คำถามที่พบบ่อย
บทเรียน “LeNet และ AlexNet: ชัยชนะครั้งแรก” ฟรีหรือไม่
ใช่ — ข้อความเต็มของ “LeNet และ AlexNet: ชัยชนะครั้งแรก” ฟรีให้อ่านที่นี่บนเว็บ เพื่อปฏิบัติแบบโต้ตอบ (ตัวแก้ไขโค้ดในตัวและติวเตอร์ AI ตลอด 24/7) และปลดล็อคส่วนที่เหลือของคอร์ส Deep Learning Academy ให้อัปเกรดเป็น CoddyKit PRO คอร์ส Deep Learning Academy มีบทเรียนทั้งหมด 4 บทเรียน
คุณจะเรียนรู้อะไรในบทเรียน “LeNet และ AlexNet: ชัยชนะครั้งแรก”
จุดเริ่มต้นของ CNN สมัยใหม่ คุณปฏิบัติ Deep Learning Academy ด้วยโค้ดที่ใช้งานได้จริงที่คุณเรียกใช้โดยตรงในเบราว์เซอร์ และติวเตอร์ AI ตลอด 24/7 ตอบคำถามของคุณขณะที่คุณไปผ่านบทเรียน
คุณต้องมีประสบการณ์ก่อนที่จะเริ่มเรียน Deep Learning Academy หรือไม่
ไม่จำเป็นต้องมีประสบการณ์มาก่อน Deep Learning Academy บน CoddyKit ออกแบบมาสำหรับผู้เริ่มต้นไปจนถึงผู้เรียนขั้นสูง คุณสามารถเริ่มต้นที่นี่หรือเริ่มจากตัวแรกและเรียนด้วยความเร็วของคุณเอง นี่คือบทเรียนที่ 1 จากทั้งหมด 4 บทเรียน
บทเรียน “LeNet และ AlexNet: ชัยชนะครั้งแรก” ใช้เวลานานแค่ไหน
บทเรียน CoddyKit ส่วนใหญ่ใช้เวลาประมาณ 5–10 นาที แต่ละบทเรียนจึงสั้นและเป็นแบบโต้ตอบ คุณสามารถก้าวหน้าอย่างต่อเนื่องและกลับมาเรียนต่อจากตรงที่เพิ่งหยุดบนเว็บและแอปได้เลย
ฉันเขียนและรันโค้ดในบทเรียน Deep Learning Academy นี้ได้ไหม
ได้ บทเรียน Deep Learning Academy ทุกบทมีตัวแก้ไขโค้ดในตัว คุณจึงเขียนและรันโค้ดจริงได้เลยในเบราว์เซอร์ และได้รับข้อเสนอแนะจาก AI ในทันที — ไม่ต้องติดตั้งในเครื่องของคุณ
บทเรียนทั้งหมดในหลักสูตรนี้
- LeNet และ AlexNet: ชัยชนะครั้งแรก
- VGG: การวางตัวกรองขนาดเล็กซ้อนกัน
- ResNet: การเชื่อมข้ามทำให้โครงข่ายลึกขึ้น
- โหลดโมเดล torchvision