ปรับละเอียดโมเดล Hugging Face
ปรับ Transformer ที่ฝึกไว้ล่วงหน้าให้เข้ากับข้อมูลของคุณ
ปรับละเอียดโมเดล Hugging Face เป็นบทเรียน Deep Learning Academy ฟรีบน CoddyKit นี่คือบทเรียนที่ 4 จากทั้งหมด 4 บทเรียน คุณสามารถอ่านบทเรียนทั้งหมดด้านล่างฟรี — จากนั้นลองปฏิบัติด้วยตัวคุณเองในเบราว์เซอร์พร้อมตัวแก้ไขโค้ดในตัวและติวเตอร์ AI ตลอด 24/7 บทเรียนนี้เป็นส่วนหนึ่งของเส้นทางการเรียน Deep Learning Academy และความก้าวหน้าของคุณจะซิงค์ข้ามเว็บและแอป CoddyKit คอร์ส Deep Learning Academy มีบทเรียนทั้งหมด 4 บทเรียน
ศูนย์รวมโมเดลที่ฝึกไว้ล่วงหน้า
Hugging Face ให้บริการทรานส์ฟอร์เมอร์พร้อมใช้งานหลายพันรายการสำหรับข้อความ ภาพ และเสียง คุณสามารถปรับละเอียดโมเดลเหล่านี้ด้วยข้อมูลของคุณเองได้ภายในไม่กี่นาที 🤗
ติดตั้ง Transformers
ไลบรารี transformers มอบโมเดล ตัวแปลงโทเคน และเครื่องมือฝึกไว้ในแพ็กเกจเดียว
pip install transformers datasetsโหลดตัวแปลงโทเคน
ข้อความต้องถูกเปลี่ยนเป็นตัวเลขก่อน ตัวแปลงโทเคนที่มาพร้อมกับแต่ละโมเดลรู้แน่ชัดว่าจะแบ่งและเข้ารหัสข้อความของคุณอย่างไร
from transformers import AutoTokenizer
tok = AutoTokenizer.from_pretrained('bert-base-uncased')โหลดโมเดลพร้อมส่วนหัวใหม่
เลือกคลาสให้เหมาะกับงานของคุณ AutoModelForSequenceClassification จะโหลดแกนหลักและติดตั้งส่วนหัวตัวจำแนกใหม่สำหรับป้ายกำกับของคุณ
from transformers import AutoModelForSequenceClassification
model = AutoModelForSequenceClassification.from_pretrained('bert-base-uncased', num_labels=2)แปลงชุดข้อมูลเป็นโทเคน
ส่งตัวอย่างทุกตัวผ่านตัวแปลงโทนด้วยการเติมเต็มและการตัดทอน เพื่อให้อินพุตทั้งหมดมีความยาวเท่ากัน
def encode(b):
return tok(b['text'], truncation=True, padding='max_length')TrainingArguments
TrainingArguments รวมไฮเปอร์พารามิเตอร์ของคุณไว้ด้วยกัน ได้แก่ อัตราการเรียนรู้ ขนาดแบตช์ จำนวนยุค และตำแหน่งสำหรับบันทึกจุดตรวจสอบ
from transformers import TrainingArguments
args = TrainingArguments(output_dir='out', learning_rate=2e-5, num_train_epochs=3)รักษาอัตรานั้นให้ต่ำ
สังเกตว่าอัตรานี้มีค่าเพียง 2e-5 เช่นเดียวกับการปรับละเอียดทุกประเภท อัตราการเรียนรู้ต่ำช่วยปกป้องค่าน้ำหนักที่ฝึกไว้ล่วงหน้าไม่ให้เสียหาย
ตัวฝึก
คลาส Trainer ครอบคลุมวงจรทั้งหมด ได้แก่ การส่งไปข้างหน้า ค่าความสูญเสีย การส่งย้อนกลับ การปรับหนึ่งขั้น และการประเมินผล คุณไม่ต้องเขียนวงจรนี้ด้วยตนเอง
from transformers import Trainer
trainer = Trainer(model=model, args=args, train_dataset=train_ds)ฝึกด้วยการเรียกเพียงครั้งเดียว
เมื่อเชื่อมต่อทุกอย่างเรียบร้อยแล้ว ให้เริ่มการปรับละเอียดด้วยการเรียก train เพียงครั้งเดียว และดูค่าความสูญเสียลดลง
trainer.train()ประเมินผลและทำนาย
หลังการฝึก ให้เรียก evaluate เพื่อดูเมตริกจากข้อมูลที่กันไว้ จากนั้นใช้ predict เพื่อให้คะแนนตัวอย่างใหม่เอี่ยม
trainer.evaluate()บันทึกและแบ่งปัน
บันทึกโมเดลที่ปรับแล้วด้วย save_pretrained จากนั้นโหลดกลับมาใช้ที่ใดก็ได้ หรือส่งไปยัง Hub เพื่อให้ผู้อื่นใช้งาน
model.save_pretrained('my-classifier')ตรวจสอบความเข้าใจอย่างรวดเร็ว
คลาสใดของ Hugging Face ที่ดำเนินวงจรการฝึกทั้งหมดให้คุณ ทำให้คุณไม่ต้องเขียนเอง
สรุปทบทวน
คุณแปลงข้อมูลเป็นโทเคน โหลดโมเดลพร้อมส่วนหัวใหม่ ตั้งอัตราต่ำใน TrainingArguments และปรับละเอียดด้วย Trainer 🎯
เรียนรู้ Python ด้วย AI tutor — ฟรี
เขียนและเรียกใช้โค้ดจริงในเบราว์เซอร์ของคุณ รับความช่วยเหลือทันทีจาก AI tutor 24/7 และเรียนรู้ต่อจากที่คุณหยุดบนเว็บหรือในแอป
- คอร์ส
- 30
- บทเรียน
- 120
คำถามที่พบบ่อย
บทเรียน “ปรับละเอียดโมเดล Hugging Face” ฟรีหรือไม่
ใช่ — ข้อความเต็มของ “ปรับละเอียดโมเดล Hugging Face” ฟรีให้อ่านที่นี่บนเว็บ เพื่อปฏิบัติแบบโต้ตอบ (ตัวแก้ไขโค้ดในตัวและติวเตอร์ AI ตลอด 24/7) และปลดล็อคส่วนที่เหลือของคอร์ส Deep Learning Academy ให้อัปเกรดเป็น CoddyKit PRO คอร์ส Deep Learning Academy มีบทเรียนทั้งหมด 4 บทเรียน
คุณจะเรียนรู้อะไรในบทเรียน “ปรับละเอียดโมเดล Hugging Face”
ปรับ Transformer ที่ฝึกไว้ล่วงหน้าให้เข้ากับข้อมูลของคุณ คุณปฏิบัติ Deep Learning Academy ด้วยโค้ดที่ใช้งานได้จริงที่คุณเรียกใช้โดยตรงในเบราว์เซอร์ และติวเตอร์ AI ตลอด 24/7 ตอบคำถามของคุณขณะที่คุณไปผ่านบทเรียน
คุณต้องมีประสบการณ์ก่อนที่จะเริ่มเรียน Deep Learning Academy หรือไม่
ไม่จำเป็นต้องมีประสบการณ์มาก่อน Deep Learning Academy บน CoddyKit ออกแบบมาสำหรับผู้เริ่มต้นไปจนถึงผู้เรียนขั้นสูง คุณสามารถเริ่มต้นที่นี่หรือเริ่มจากตัวแรกและเรียนด้วยความเร็วของคุณเอง นี่คือบทเรียนที่ 4 จากทั้งหมด 4 บทเรียน
บทเรียน “ปรับละเอียดโมเดล Hugging Face” ใช้เวลานานแค่ไหน
บทเรียน CoddyKit ส่วนใหญ่ใช้เวลาประมาณ 5–10 นาที แต่ละบทเรียนจึงสั้นและเป็นแบบโต้ตอบ คุณสามารถก้าวหน้าอย่างต่อเนื่องและกลับมาเรียนต่อจากตรงที่เพิ่งหยุดบนเว็บและแอปได้เลย
ฉันเขียนและรันโค้ดในบทเรียน Deep Learning Academy นี้ได้ไหม
ได้ บทเรียน Deep Learning Academy ทุกบทมีตัวแก้ไขโค้ดในตัว คุณจึงเขียนและรันโค้ดจริงได้เลยในเบราว์เซอร์ และได้รับข้อเสนอแนะจาก AI ในทันที — ไม่ต้องติดตั้งในเครื่องของคุณ
บทเรียนทั้งหมดในหลักสูตรนี้
- ตรึงแกนหลักแล้วฝึกส่วนหัว
- ปรับละเอียดด้วยอัตราการเรียนรู้ที่ต่ำลง
- อัตราการเรียนรู้จำแนกตามชั้น
- ปรับละเอียดโมเดล Hugging Face