จำลองทราฟฟิกโดยไม่กระทบผู้ใช้
ทำสำเนาคำขอจริงไปยังโมเดลตัวเลือกอย่างเงียบ ๆ
จำลองทราฟฟิกโดยไม่กระทบผู้ใช้ เป็นบทเรียน MLOps Academy ฟรีบน CoddyKit นี่คือบทเรียนที่ 2 จากทั้งหมด 4 บทเรียน คุณสามารถอ่านบทเรียนทั้งหมดด้านล่างฟรี — จากนั้นลองปฏิบัติด้วยตัวคุณเองในเบราว์เซอร์พร้อมตัวแก้ไขโค้ดในตัวและติวเตอร์ AI ตลอด 24/7 บทเรียนนี้เป็นส่วนหนึ่งของเส้นทางการเรียน MLOps Academy และความก้าวหน้าของคุณจะซิงค์ข้ามเว็บและแอป CoddyKit คอร์ส MLOps Academy มีบทเรียนทั้งหมด 4 บทเรียน
โหมดเงาคืออะไร
ใน โหมดเงา โมเดลที่อยู่ระหว่างการประเมินจะเห็นคำขอจริงจากระบบที่ใช้งานจริง แต่จะไม่แสดงคำตอบให้ผู้ใช้ โมเดลนี้ทำงานอยู่เบื้องหลัง 👀
จำลองคำขอ แต่อย่าใช้ให้บริการ
คำขอจริงทุกรายการจะถูก จำลองส่งไปยังโมเดลเงา โมเดลตัวหลักยังคงสร้างคำตอบที่ผู้ใช้ได้รับจริง
ไม่กระทบผู้ใช้เลย
เนื่องจากเอาต์พุตของโหมดเงาจะถูกทิ้ง โมเดลที่มีปัญหาอย่างรุนแรงก็ไม่สามารถทำร้ายผู้ใช้แม้แต่คนเดียวได้ นี่คือจุดเด่นทั้งหมดของ การทดสอบแบบเงา
ทดสอบด้วยข้อมูลจริง
โหมดเงาจะส่ง ข้อมูลการใช้งานจริงที่โมเดลจะต้องเผชิญให้โมเดลที่อยู่ระหว่างการประเมิน รวมถึงกรณีขอบที่ยุ่งยาก ซึ่งชุดทดสอบออฟไลน์มักพลาดไป
การจำลองคำขอทำงานอย่างไร
ส่งอินพุตเดียวกันไปยังโมเดลทั้งสอง ส่งคืนเฉพาะผลจากตัวหลัก และเก็บผลจากโมเดลเงาไว้ใช้ภายหลัง ผู้ใช้รอเพียงโมเดลตัวหลัก
def handle(request):
primary = champion.predict(request)
shadow = candidate.predict(request)
store_shadow(request, primary, shadow)
return primaryเรียกใช้โหมดเงานอกเส้นทางหลัก
เรียกโมเดลเงาแบบ ไม่พร้อมกัน เพื่อไม่ให้เพิ่มเวลาแฝงที่ผู้ใช้รับรู้ โมเดลเงาที่ช้าต้องไม่ทำให้การตอบกลับจริงช้าลง
เปรียบเทียบเอาต์พุตทั้งสอง
ภายหลัง ให้นำการพยากรณ์จากโมเดลเงามาเทียบกับตัวหลักเพื่อค้นหา ความไม่ตรงกัน ช่องว่างขนาดใหญ่จะชี้ให้เห็นจุดที่โมเดลที่อยู่ระหว่างการประเมินทำงานแตกต่างออกไป
ตรวจจับการหยุดทำงานตั้งแต่เนิ่น ๆ
การทำงานแบบเงาจะเปิดเผยปัญหาในทางปฏิบัติ เช่น หมดเวลารอ หน่วยความจำพุ่งสูง หรือโครงสร้างข้อมูลไม่ตรงกันภายใต้โหลดจริง ทั้งหมดนี้เกิดขึ้นก่อนที่ผู้ใช้จะได้รับผลกระทบ
ช่องว่างระหว่างผลลัพธ์จริงกับค่าความจริง
Shadow แสดงสิ่งที่โมเดลคาดการณ์ ไม่ได้แสดงว่าคาดการณ์ถูกต้องหรือไม่ คุณยังต้องใช้ป้ายกำกับในภายหลังเพื่อประเมินความแม่นยำที่แท้จริง
ระวังผลข้างเคียง
หากโมเดลของคุณทำให้เกิดการเขียนข้อมูล การส่งอีเมล หรือการเรียกเก็บเงิน การเรียกใช้แบบ Shadow ต้องข้ามการกระทำเหล่านั้น มิฉะนั้นการทดสอบแบบเงียบจะก่อให้เกิดผลกระทบจริงที่รุนแรงมาก
ใช้ Shadow ก่อน แล้วจึงใช้ Canary
Shadow พิสูจน์ว่ารุ่นผู้สมัครทำงานได้อย่างปลอดภัย ส่วนคานารีจะพิสูจน์ต่อว่ารุ่นนั้นให้บริการได้ดี หลายทีมจึงใช้ Shadow ก่อน แล้วค่อยใช้คานารีกับผู้ใช้จริง
ตรวจสอบอย่างรวดเร็ว
อะไรคือสิ่งที่กำหนดการปรับใช้แบบ Shadow อย่างแท้จริง
สรุป
โหมด Shadow จำลองปริมาณการใช้งานจริงไปยังรุ่นผู้สมัคร ทิ้งคำตอบของรุ่นนั้น และเรียกใช้แยกจากเส้นทางหลัก จึงทดสอบกับข้อมูลจริงได้โดยไม่มีความเสี่ยงต่อผู้ใช้เลย ✅
คำถามที่พบบ่อย
บทเรียน “จำลองทราฟฟิกโดยไม่กระทบผู้ใช้” ฟรีหรือไม่
ใช่ — ข้อความเต็มของ “จำลองทราฟฟิกโดยไม่กระทบผู้ใช้” ฟรีให้อ่านที่นี่บนเว็บ เพื่อปฏิบัติแบบโต้ตอบ (ตัวแก้ไขโค้ดในตัวและติวเตอร์ AI ตลอด 24/7) และปลดล็อคส่วนที่เหลือของคอร์ส MLOps Academy ให้อัปเกรดเป็น CoddyKit PRO คอร์ส MLOps Academy มีบทเรียนทั้งหมด 4 บทเรียน
คุณจะเรียนรู้อะไรในบทเรียน “จำลองทราฟฟิกโดยไม่กระทบผู้ใช้”
ทำสำเนาคำขอจริงไปยังโมเดลตัวเลือกอย่างเงียบ ๆ คุณปฏิบัติ MLOps Academy ด้วยโค้ดที่ใช้งานได้จริงที่คุณเรียกใช้โดยตรงในเบราว์เซอร์ และติวเตอร์ AI ตลอด 24/7 ตอบคำถามของคุณขณะที่คุณไปผ่านบทเรียน
คุณต้องมีประสบการณ์ก่อนที่จะเริ่มเรียน MLOps Academy หรือไม่
ไม่จำเป็นต้องมีประสบการณ์มาก่อน MLOps Academy บน CoddyKit ออกแบบมาสำหรับผู้เริ่มต้นไปจนถึงผู้เรียนขั้นสูง คุณสามารถเริ่มต้นที่นี่หรือเริ่มจากตัวแรกและเรียนด้วยความเร็วของคุณเอง นี่คือบทเรียนที่ 2 จากทั้งหมด 4 บทเรียน
บทเรียน “จำลองทราฟฟิกโดยไม่กระทบผู้ใช้” ใช้เวลานานแค่ไหน
บทเรียน CoddyKit ส่วนใหญ่ใช้เวลาประมาณ 5–10 นาที แต่ละบทเรียนจึงสั้นและเป็นแบบโต้ตอบ คุณสามารถก้าวหน้าอย่างต่อเนื่องและกลับมาเรียนต่อจากตรงที่เพิ่งหยุดบนเว็บและแอปได้เลย
ฉันเขียนและรันโค้ดในบทเรียน MLOps Academy นี้ได้ไหม
ได้ บทเรียน MLOps Academy ทุกบทมีตัวแก้ไขโค้ดในตัว คุณจึงเขียนและรันโค้ดจริงได้เลยในเบราว์เซอร์ และได้รับข้อเสนอแนะจาก AI ในทันที — ไม่ต้องติดตั้งในเครื่องของคุณ
บทเรียนทั้งหมดในหลักสูตรนี้
- การทยอยปล่อยแบบ Canary: ส่งให้ผู้ใช้บางส่วนก่อน
- จำลองทราฟฟิกโดยไม่กระทบผู้ใช้
- กำหนดเกณฑ์การย้อนกลับอัตโนมัติ
- การส่งมอบแบบค่อยเป็นค่อยไปด้วย Argo Rollouts