เมื่อการปรับแต่งโมเดลดีกว่าการเขียนคำสั่ง
ปรับแต่งโมเดลสำหรับงานเฉพาะ รูปแบบกำหนดเอง หรือเพื่อลดขนาดคำสั่ง — ไม่ใช่เพื่อสอนข้อเท็จจริงใหม่
เมื่อการปรับแต่งโมเดลดีกว่าการเขียนคำสั่ง เป็นบทเรียน AI Agents ฟรีบน CoddyKit นี่คือบทเรียนที่ 1 จากทั้งหมด 4 บทเรียน คุณสามารถอ่านบทเรียนทั้งหมดด้านล่างฟรี — จากนั้นลองปฏิบัติด้วยตัวคุณเองในเบราว์เซอร์พร้อมตัวแก้ไขโค้ดในตัวและติวเตอร์ AI ตลอด 24/7 บทเรียนนี้เป็นส่วนหนึ่งของเส้นทางการเรียน AI Agents และความก้าวหน้าของคุณจะซิงค์ข้ามเว็บและแอป CoddyKit คอร์ส AI Agents มีบทเรียนทั้งหมด 4 บทเรียน
เขียนพรอมต์ก่อน แล้วค่อยปรับแต่งแบบละเอียด
ลองใช้การเขียนพรอมต์ให้เต็มที่ก่อนเริ่มปรับแต่งแบบละเอียด:
- พรอมต์ระบบที่ดีขึ้น
- ตัวอย่างแบบไม่กี่ช็อต
- คำอธิบายเครื่องมือ
- แบบจำลองที่ดีขึ้น
- เอาต์พุตแบบมีโครงสร้าง / ไพแดนติก
- RAG
- ... THEN การปรับแต่งแบบละเอียด
เมื่อการปรับแต่งแบบละเอียดช่วยได้
- รูปแบบหรือสไตล์เฉพาะ — ภาษาผลลัพธ์ YAML ที่ออกแบบเฉพาะสำหรับคุณ
- โดเมนแคบ — การแพทย์ กฎหมาย การตรวจสอบโค้ด
- เวลาแฝง — พรอมต์สั้น (ไม่มีตัวอย่างแบบไม่กี่ช็อต) ทำให้อนุมานได้เร็วขึ้น
- ต้นทุน — พรอมต์สั้นลง ทำให้เรียกเก็บเงินจากโทเค็นน้อยลง
- บุคลิกที่สม่ำเสมอ — น้ำเสียงของตัวละคร น้ำเสียงของแบรนด์
เมื่อการปรับแต่งแบบละเอียดส่งผลเสีย
- การสอนข้อเท็จจริง — RAG เหมาะกว่า การปรับแต่งแบบละเอียดอาจทำให้แบบจำลองลืมข้อเท็จจริง
- การให้เหตุผลทั่วไป — แบบจำลองแนวหน้ามีความสามารถยอดเยี่ยมอยู่แล้ว
- การอัปเดตบ่อยครั้ง — การฝึกใหม่ใช้เวลานาน
- ชุดข้อมูลขนาดเล็กมาก — ตัวอย่างน้อยกว่า 100 รายการแทบไม่ช่วยให้ผลลัพธ์ดีขึ้น
การปรับแต่งแบบละเอียดของแบบจำลองปิด
OpenAI และแอนโทรปิกต่างก็มี API สำหรับการปรับแต่งแบบละเอียด:
# OpenAI:
client.fine_tuning.jobs.create(
training_file='file-abc',
model='gpt-4o-mini-2024-07-18'
)การปรับแต่งแบบละเอียดของแบบจำลองเปิด
สำหรับ Llama/Mistral/Qwen คุณควบคุมทุกอย่างได้ เครื่องมือมีดังนี้:
- อันสลอธ — เร็วที่สุด ใช้ VRAM ต่ำ
- แอกโซลอตล์ — ขับเคลื่อนด้วยการกำหนดค่าและมีความครอบคลุม
- LLaMA-Factory — ทางเลือกจากทีมจีน
- HuggingFace TRL — เป็นทางการและยืดหยุ่น
การปรับแต่งแบบละเอียดทั้งหมดเทียบกับ PEFT
มีสองแนวทาง:
- ทั้งหมด — อัปเดตน้ำหนักทุกค่า มีต้นทุนสูง (ต้องใช้ VRAM จำนวนมาก)
- PEFT / LoRA — ฝึกชั้นอะแดปเตอร์ขนาดเล็กมาก ประหยัดกว่าถึง 100 เท่า และให้คุณภาพใกล้เคียงกันสำหรับงานส่วนใหญ่
ต้นทุนการปรับแต่งแบบละเอียด (OpenAI)
ค่าประมาณ (กลางปี 2025):
- การฝึก: 0.003 ดอลลาร์ / 1,000 โทเค็น
- การอนุมานบนแบบจำลองที่ปรับแต่งแล้ว: แพงกว่าแบบจำลองพื้นฐานเล็กน้อย
- ตัวอย่างหลายหมื่นรายการ: ต้นทุนการฝึกรวม 20–200 ดอลลาร์
ต้นทุนการปรับแต่งแบบละเอียด (โฮสต์เอง)
หนึ่งชั่วโมงบน 8xH100 มีค่าใช้จ่ายประมาณ 100 ดอลลาร์กับ Lambda Labs การทำ LoRA บน Llama 70B ด้วยตัวอย่าง 10,000 รายการมีค่าใช้จ่ายรวมประมาณ 50–150 ดอลลาร์
หลักคร่าว ๆ เรื่องปริมาณข้อมูล
- 50 ตัวอย่าง — มีประโยชน์เฉพาะด้านสไตล์หรือรูปแบบ
- 500 ตัวอย่าง — ช่วยให้ดีขึ้นอย่างมีนัยสำคัญ
- 5,000 ตัวอย่างขึ้นไป — เพิ่มความสามารถใหม่ได้อย่างมาก
- 50,000 ตัวอย่างขึ้นไป — ผลตอบแทนลดลงเมื่อเทียบกับการปรับปรุงคุณภาพชุดข้อมูล
ข้อมูลมาจากไหน
- ร่องรอยจากระบบใช้งานจริง (พร้อมการแก้ไข)
- การสร้างข้อมูลสังเคราะห์โดยแบบจำลองที่มีความสามารถสูงกว่า
- การติดป้ายกำกับโดยมนุษย์
- ชุดข้อมูลสาธารณะ
การตัดสินใจระหว่างการปรับแต่งแบบละเอียด RAG และการเขียนพรอมต์
| เป้าหมาย | แนวทางที่ดีที่สุด |
|---|---|
| ข้อเท็จจริงใหม่ | RAG |
| รูปแบบใหม่ | การปรับแต่งแบบละเอียด (หรือพรอมต์ที่ดี) |
| สไตล์ใหม่ | การปรับแต่งแบบละเอียด |
| การให้เหตุผลที่ดีขึ้น | แบบจำลองที่มีความสามารถสูงกว่า |
| ต้นทุนหรือเวลาแฝงต่ำลง | แบบจำลองขนาดเล็กลงร่วมกับการปรับแต่งแบบละเอียด |
การประเมินก่อนและหลัง
โปรดเปรียบเทียบประสิทธิภาพของโมเดลที่ปรับแต่งกับโมเดลฐานบนชุดประเมินของ YOUR เสมอ บางครั้งการปรับแต่งทำให้ผลลัพธ์แย่ลง ดังนั้นควรพร้อมที่จะทิ้งโมเดลนั้น
เหตุผลที่ดีที่สุดในการปรับแต่ง
เหตุผลที่ BEST ในการปรับแต่งคืออะไร
สรุปทบทวน
เริ่มจากพรอมต์ก่อน ปรับแต่งเฉพาะเมื่อมีเหตุผลเฉพาะด้านรูปแบบ สไตล์ หรือโดเมนเท่านั้น ใช้ PEFT/LoRA เพื่อลดต้นทุน และประเมินก่อนกับหลังเสมอ
เรียนรู้ AI Agents ด้วย AI tutor — ฟรี
เขียนและเรียกใช้โค้ดจริงในเบราว์เซอร์ของคุณ รับความช่วยเหลือทันทีจาก AI tutor 24/7 และเรียนรู้ต่อจากที่คุณหยุดบนเว็บหรือในแอป
- คอร์ส
- 60
- บทเรียน
- 239
คำถามที่พบบ่อย
บทเรียน “เมื่อการปรับแต่งโมเดลดีกว่าการเขียนคำสั่ง” ฟรีหรือไม่
ใช่ — ข้อความเต็มของ “เมื่อการปรับแต่งโมเดลดีกว่าการเขียนคำสั่ง” ฟรีให้อ่านที่นี่บนเว็บ เพื่อปฏิบัติแบบโต้ตอบ (ตัวแก้ไขโค้ดในตัวและติวเตอร์ AI ตลอด 24/7) และปลดล็อคส่วนที่เหลือของคอร์ส AI Agents ให้อัปเกรดเป็น CoddyKit PRO คอร์ส AI Agents มีบทเรียนทั้งหมด 4 บทเรียน
คุณจะเรียนรู้อะไรในบทเรียน “เมื่อการปรับแต่งโมเดลดีกว่าการเขียนคำสั่ง”
ปรับแต่งโมเดลสำหรับงานเฉพาะ รูปแบบกำหนดเอง หรือเพื่อลดขนาดคำสั่ง — ไม่ใช่เพื่อสอนข้อเท็จจริงใหม่ คุณปฏิบัติ AI Agents ด้วยโค้ดที่ใช้งานได้จริงที่คุณเรียกใช้โดยตรงในเบราว์เซอร์ และติวเตอร์ AI ตลอด 24/7 ตอบคำถามของคุณขณะที่คุณไปผ่านบทเรียน
คุณต้องมีประสบการณ์ก่อนที่จะเริ่มเรียน AI Agents หรือไม่
ไม่จำเป็นต้องมีประสบการณ์มาก่อน AI Agents บน CoddyKit ออกแบบมาสำหรับผู้เริ่มต้นไปจนถึงผู้เรียนขั้นสูง คุณสามารถเริ่มต้นที่นี่หรือเริ่มจากตัวแรกและเรียนด้วยความเร็วของคุณเอง นี่คือบทเรียนที่ 1 จากทั้งหมด 4 บทเรียน
บทเรียน “เมื่อการปรับแต่งโมเดลดีกว่าการเขียนคำสั่ง” ใช้เวลานานแค่ไหน
บทเรียน CoddyKit ส่วนใหญ่ใช้เวลาประมาณ 5–10 นาที แต่ละบทเรียนจึงสั้นและเป็นแบบโต้ตอบ คุณสามารถก้าวหน้าอย่างต่อเนื่องและกลับมาเรียนต่อจากตรงที่เพิ่งหยุดบนเว็บและแอปได้เลย
ฉันเขียนและรันโค้ดในบทเรียน AI Agents นี้ได้ไหม
ได้ บทเรียน AI Agents ทุกบทมีตัวแก้ไขโค้ดในตัว คุณจึงเขียนและรันโค้ดจริงได้เลยในเบราว์เซอร์ และได้รับข้อเสนอแนะจาก AI ในทันที — ไม่ต้องติดตั้งในเครื่องของคุณ
บทเรียนทั้งหมดในหลักสูตรนี้
- เมื่อการปรับแต่งโมเดลดีกว่าการเขียนคำสั่ง
- การรวบรวมข้อมูล: เส้นทางการทำงานและการเล่นร่องรอยซ้ำ
- LoRA และ QLoRA เพื่อการปรับแต่งที่ประหยัดค่าใช้จ่าย
- การประเมินโมเดลที่ปรับแต่งเทียบกับโมเดลฐาน