สตรีมการตอบกลับด้วย SSE

เครื่องมือบางอย่างใช้เวลา เช่น การค้นหาข้อมูลขนาดใหญ่หรือการเรียก API ที่ช้า แทนที่จะปล่อยให้ไคลเอ็นต์รอเงียบ ๆ เซิร์ฟเวอร์สามารถ สตรีม การอัปเดตออกมาได้ทันทีที่เกิดขึ้น ⏳

Streamable HTTP ใช้ Server-Sent Events หรือ SSE ในการสตรีม ซึ่งเป็นวิธีที่เรียบง่ายและเป็นธรรมชาติของเว็บสำหรับให้เซิร์ฟเวอร์ส่งข้อความหลายรายการผ่านการเชื่อมต่อที่เปิดค้างไว้เพียงหนึ่งรายการ

SSE ไหลไปในทิศทางเดียว คือจากเซิร์ฟเวอร์ไปยังไคลเอ็นต์ เซิร์ฟเวอร์จะเปิดการเชื่อมต่อค้างไว้และ ส่ง เหตุการณ์ลงมาตามการเชื่อมต่อทุกครั้งที่มีข้อมูลใหม่

คุณทราบได้ว่าการตอบกลับเป็นสตรีมจาก Content-Type เมื่อเซิร์ฟเวอร์ตั้งค่าเป็น text/event-stream ไคลเอ็นต์จะอ่านเหตุการณ์แทนที่จะรอเนื้อหาสุดท้ายเพียงรายการเดียว

เหตุการณ์ SSE แต่ละรายการเป็นเพียงข้อความ บรรทัดที่ขึ้นต้นด้วย data: จะมีข้อมูลอยู่ และบรรทัดว่างจะระบุจุดสิ้นสุดของเหตุการณ์หนึ่ง ก่อนที่เหตุการณ์ถัดไปจะเริ่มต้น

ภายในแต่ละเหตุการณ์จะมีข้อความ JSON-RPC ที่คุ้นเคย การสตรีมไม่ได้สร้างฟอร์แมตใหม่ แต่เพียงส่งข้อความเดิมออกมาตามช่วงเวลา

การตอบกลับแบบสตรีมสามารถส่งการแจ้งเตือนเรื่อง ความคืบหน้า ก่อน แล้วจึงส่งผลลัพธ์สุดท้ายเป็นรายการสุดท้าย ผู้ใช้จะเห็นว่าเครื่องมือกำลังทำงาน แทนที่จะต้องจ้องตัวหมุนรอ

การสตรีมเป็นทางเลือก สำหรับเครื่องมือที่ทำงานเร็ว เซิร์ฟเวอร์สามารถส่งการตอบกลับแบบ JSON เพียงรายการเดียวแล้วปิดการเชื่อมต่อได้ โดยไม่จำเป็นต้องมีสตรีมเหตุการณ์เลย

SSE อนุญาตให้เซิร์ฟเวอร์ติดป้ายเหตุการณ์ด้วย id รายละเอียดเล็ก ๆ นี้จะมีความสำคัญในภายหลัง เพราะทำให้ไคลเอ็นต์กลับมาสตรีมต่อได้หลังการเชื่อมต่อขาดหาย

โดยทั่วไปคุณไม่ต้องเขียน SSE ดิบด้วยตนเอง SDK ของ MCP จะจัดรูปแบบเหตุการณ์ให้ คุณเพียงส่งความคืบหน้าและผลลัพธ์ แล้ว SDK จะสตรีมให้อย่างถูกต้อง

การสตรีมไม่ได้เปลี่ยนสิ่งที่เครื่องมือส่งกลับ แต่เปลี่ยนเพียง ความรู้สึกในการใช้งาน คำตอบสุดท้ายยังเหมือนเดิม ผู้ใช้เพียงได้รับประสบการณ์ที่ลื่นไหลและตอบสนองได้ดีขึ้น ✨

SSE ทำให้เซิร์ฟเวอร์ ส่ง เหตุการณ์ JSON-RPC ผ่านการเชื่อมต่อที่เปิดค้างไว้เพียงหนึ่งรายการ โดยส่งความคืบหน้าก่อนและผลลัพธ์เป็นรายการสุดท้าย เป็นทางเลือกที่ใช้ได้กับเว็บโดยตรง และทำให้เครื่องมือที่ทำงานช้าดูเหมือนรวดเร็ว 🎉