0Pricing
MLOps Academy · บทเรียน

จำลองทราฟฟิกโดยไม่กระทบผู้ใช้

ทำสำเนาคำขอจริงไปยังโมเดลตัวเลือกอย่างเงียบ ๆ

จำลองทราฟฟิกโดยไม่กระทบผู้ใช้ เป็นบทเรียน MLOps Academy ฟรีบน CoddyKit นี่คือบทเรียนที่ 2 จากทั้งหมด 4 บทเรียน คุณสามารถอ่านบทเรียนทั้งหมดด้านล่างฟรี — จากนั้นลองปฏิบัติด้วยตัวคุณเองในเบราว์เซอร์พร้อมตัวแก้ไขโค้ดในตัวและติวเตอร์ AI ตลอด 24/7 บทเรียนนี้เป็นส่วนหนึ่งของเส้นทางการเรียน MLOps Academy และความก้าวหน้าของคุณจะซิงค์ข้ามเว็บและแอป CoddyKit คอร์ส MLOps Academy มีบทเรียนทั้งหมด 4 บทเรียน

โหมดเงาคืออะไร

ใน โหมดเงา โมเดลที่อยู่ระหว่างการประเมินจะเห็นคำขอจริงจากระบบที่ใช้งานจริง แต่จะไม่แสดงคำตอบให้ผู้ใช้ โมเดลนี้ทำงานอยู่เบื้องหลัง 👀

จำลองคำขอ แต่อย่าใช้ให้บริการ

คำขอจริงทุกรายการจะถูก จำลองส่งไปยังโมเดลเงา โมเดลตัวหลักยังคงสร้างคำตอบที่ผู้ใช้ได้รับจริง

ไม่กระทบผู้ใช้เลย

เนื่องจากเอาต์พุตของโหมดเงาจะถูกทิ้ง โมเดลที่มีปัญหาอย่างรุนแรงก็ไม่สามารถทำร้ายผู้ใช้แม้แต่คนเดียวได้ นี่คือจุดเด่นทั้งหมดของ การทดสอบแบบเงา

ทดสอบด้วยข้อมูลจริง

โหมดเงาจะส่ง ข้อมูลการใช้งานจริงที่โมเดลจะต้องเผชิญให้โมเดลที่อยู่ระหว่างการประเมิน รวมถึงกรณีขอบที่ยุ่งยาก ซึ่งชุดทดสอบออฟไลน์มักพลาดไป

การจำลองคำขอทำงานอย่างไร

ส่งอินพุตเดียวกันไปยังโมเดลทั้งสอง ส่งคืนเฉพาะผลจากตัวหลัก และเก็บผลจากโมเดลเงาไว้ใช้ภายหลัง ผู้ใช้รอเพียงโมเดลตัวหลัก

def handle(request):
    primary = champion.predict(request)
    shadow = candidate.predict(request)
    store_shadow(request, primary, shadow)
    return primary

เรียกใช้โหมดเงานอกเส้นทางหลัก

เรียกโมเดลเงาแบบ ไม่พร้อมกัน เพื่อไม่ให้เพิ่มเวลาแฝงที่ผู้ใช้รับรู้ โมเดลเงาที่ช้าต้องไม่ทำให้การตอบกลับจริงช้าลง

เปรียบเทียบเอาต์พุตทั้งสอง

ภายหลัง ให้นำการพยากรณ์จากโมเดลเงามาเทียบกับตัวหลักเพื่อค้นหา ความไม่ตรงกัน ช่องว่างขนาดใหญ่จะชี้ให้เห็นจุดที่โมเดลที่อยู่ระหว่างการประเมินทำงานแตกต่างออกไป

ตรวจจับการหยุดทำงานตั้งแต่เนิ่น ๆ

การทำงานแบบเงาจะเปิดเผยปัญหาในทางปฏิบัติ เช่น หมดเวลารอ หน่วยความจำพุ่งสูง หรือโครงสร้างข้อมูลไม่ตรงกันภายใต้โหลดจริง ทั้งหมดนี้เกิดขึ้นก่อนที่ผู้ใช้จะได้รับผลกระทบ

ช่องว่างระหว่างผลลัพธ์จริงกับค่าความจริง

Shadow แสดงสิ่งที่โมเดลคาดการณ์ ไม่ได้แสดงว่าคาดการณ์ถูกต้องหรือไม่ คุณยังต้องใช้ป้ายกำกับในภายหลังเพื่อประเมินความแม่นยำที่แท้จริง

ระวังผลข้างเคียง

หากโมเดลของคุณทำให้เกิดการเขียนข้อมูล การส่งอีเมล หรือการเรียกเก็บเงิน การเรียกใช้แบบ Shadow ต้องข้ามการกระทำเหล่านั้น มิฉะนั้นการทดสอบแบบเงียบจะก่อให้เกิดผลกระทบจริงที่รุนแรงมาก

ใช้ Shadow ก่อน แล้วจึงใช้ Canary

Shadow พิสูจน์ว่ารุ่นผู้สมัครทำงานได้อย่างปลอดภัย ส่วนคานารีจะพิสูจน์ต่อว่ารุ่นนั้นให้บริการได้ดี หลายทีมจึงใช้ Shadow ก่อน แล้วค่อยใช้คานารีกับผู้ใช้จริง

ตรวจสอบอย่างรวดเร็ว

อะไรคือสิ่งที่กำหนดการปรับใช้แบบ Shadow อย่างแท้จริง

สรุป

โหมด Shadow จำลองปริมาณการใช้งานจริงไปยังรุ่นผู้สมัคร ทิ้งคำตอบของรุ่นนั้น และเรียกใช้แยกจากเส้นทางหลัก จึงทดสอบกับข้อมูลจริงได้โดยไม่มีความเสี่ยงต่อผู้ใช้เลย ✅

คำถามที่พบบ่อย

บทเรียน “จำลองทราฟฟิกโดยไม่กระทบผู้ใช้” ฟรีหรือไม่

ใช่ — ข้อความเต็มของ “จำลองทราฟฟิกโดยไม่กระทบผู้ใช้” ฟรีให้อ่านที่นี่บนเว็บ เพื่อปฏิบัติแบบโต้ตอบ (ตัวแก้ไขโค้ดในตัวและติวเตอร์ AI ตลอด 24/7) และปลดล็อคส่วนที่เหลือของคอร์ส MLOps Academy ให้อัปเกรดเป็น CoddyKit PRO คอร์ส MLOps Academy มีบทเรียนทั้งหมด 4 บทเรียน

คุณจะเรียนรู้อะไรในบทเรียน “จำลองทราฟฟิกโดยไม่กระทบผู้ใช้”

ทำสำเนาคำขอจริงไปยังโมเดลตัวเลือกอย่างเงียบ ๆ คุณปฏิบัติ MLOps Academy ด้วยโค้ดที่ใช้งานได้จริงที่คุณเรียกใช้โดยตรงในเบราว์เซอร์ และติวเตอร์ AI ตลอด 24/7 ตอบคำถามของคุณขณะที่คุณไปผ่านบทเรียน

คุณต้องมีประสบการณ์ก่อนที่จะเริ่มเรียน MLOps Academy หรือไม่

ไม่จำเป็นต้องมีประสบการณ์มาก่อน MLOps Academy บน CoddyKit ออกแบบมาสำหรับผู้เริ่มต้นไปจนถึงผู้เรียนขั้นสูง คุณสามารถเริ่มต้นที่นี่หรือเริ่มจากตัวแรกและเรียนด้วยความเร็วของคุณเอง นี่คือบทเรียนที่ 2 จากทั้งหมด 4 บทเรียน

บทเรียน “จำลองทราฟฟิกโดยไม่กระทบผู้ใช้” ใช้เวลานานแค่ไหน

บทเรียน CoddyKit ส่วนใหญ่ใช้เวลาประมาณ 5–10 นาที แต่ละบทเรียนจึงสั้นและเป็นแบบโต้ตอบ คุณสามารถก้าวหน้าอย่างต่อเนื่องและกลับมาเรียนต่อจากตรงที่เพิ่งหยุดบนเว็บและแอปได้เลย

ฉันเขียนและรันโค้ดในบทเรียน MLOps Academy นี้ได้ไหม

ได้ บทเรียน MLOps Academy ทุกบทมีตัวแก้ไขโค้ดในตัว คุณจึงเขียนและรันโค้ดจริงได้เลยในเบราว์เซอร์ และได้รับข้อเสนอแนะจาก AI ในทันที — ไม่ต้องติดตั้งในเครื่องของคุณ

บทเรียนทั้งหมดในหลักสูตรนี้

  1. การทยอยปล่อยแบบ Canary: ส่งให้ผู้ใช้บางส่วนก่อน
  2. จำลองทราฟฟิกโดยไม่กระทบผู้ใช้
  3. กำหนดเกณฑ์การย้อนกลับอัตโนมัติ
  4. การส่งมอบแบบค่อยเป็นค่อยไปด้วย Argo Rollouts
← กลับไปที่ MLOps Academy