ขยายระบบแนวนอนด้วยเซสชัน

กระบวนการเซิร์ฟเวอร์เพียงกระบวนการเดียวทำงานได้จำกัด หากต้องรองรับการรับส่งข้อมูลมากขึ้น คุณต้องเรียกใช้ อินสแตนซ์ หลายชุดพร้อมกัน 📈

การเพิ่มสำเนาของเซิร์ฟเวอร์เรียกว่าการขยายระบบแบบ แนวนอน ซึ่งมักมีราคาถูกและปลอดภัยกว่าการซื้อเครื่องที่ใหญ่ขึ้นเรื่อย ๆ เพียงเครื่องเดียว

ตัวกระจายโหลดจะอยู่ด้านหน้าและกระจายคำขอที่เข้ามาไปยังอินสแตนซ์ต่าง ๆ เพื่อไม่ให้สำเนาใดสำเนาหนึ่งรับภาระมากเกินไป

การขยายระบบแบบแนวนอนต้องใช้การรับส่งข้อมูลผ่านเครือข่าย ดังนั้นเซิร์ฟเวอร์ MCP จึงทำงานผ่าน Streamable HTTP แทนการรับส่งข้อมูลแบบ stdio ที่ใช้ได้เฉพาะในเครื่อง

MCP เก็บสถานะของไคลเอ็นต์แต่ละรายไว้ใน เซสชัน ซึ่งระบุด้วยรหัสเซสชันที่ไคลเอ็นต์ส่งกลับมาในคำขอติดตามผลทุกครั้ง

หากเซสชันอยู่ในหน่วยความจำของอินสแตนซ์เดียวเท่านั้น คำขอที่ถูกส่งไปยังที่อื่นจะสูญเสียสถานะ ความไม่ตรงกันนี้คือปัญหาเรื่อง การยึดติด

วิธีแก้แบบหนึ่งคือ เซสชันแบบยึดติด โดยตัวกระจายโหลดจะส่งรหัสเซสชันหนึ่ง ๆ กลับไปยังอินสแตนซ์เดิมที่สร้างเซสชันนั้นเสมอ

สำหรับการขยายระบบ ที่เก็บข้อมูล ร่วมกัน เช่น Redis เหมาะกว่า อินสแตนซ์ใดก็สามารถโหลดเซสชันได้ คำขอจึงถูกส่งไปที่ใดก็ได้และยังทำงานต่อได้หลังการเริ่มระบบใหม่

ทำให้อินสแตนซ์เป็นแบบ ไร้สถานะ โดยไม่เก็บสิ่งสำคัญไว้เฉพาะในหน่วยความจำภายในเครื่อง จากนั้นคุณจะเพิ่ม ลบ หรือแทนที่อินสแตนซ์เหล่านี้เมื่อใดก็ได้

ตัวกระจายโหลดจะส่งสัญญาณไปยังปลายทาง สุขภาพของแต่ละอินสแตนซ์ และหยุดส่งการรับส่งข้อมูลไปยังสำเนาที่ทำงานล้มเหลว เพื่อให้ผู้ใช้ยังอยู่กับสำเนาที่พร้อมใช้งาน

เมื่อใช้อินสแตนซ์แบบไร้สถานะ คุณจะ ปรับขนาดอัตโนมัติได้ โดยเพิ่มสำเนาเมื่อภาระงานสูงขึ้นและนำออกเมื่อภาระงานลดลง จ่ายเฉพาะสิ่งที่ใช้งาน

คุณเรียกใช้อินสแตนซ์หลายชุดด้านหลัง ตัวกระจายโหลด ใช้เซสชันร่วมกันในที่เก็บข้อมูลส่วนกลาง และทำให้สำเนาต่าง ๆ เป็นแบบไร้สถานะเพื่อปรับขนาดอัตโนมัติตามความต้องการ 🚀