Antworten mit SSE streamen

Manche Tools benötigen Zeit, etwa eine lange Suche oder ein langsamer API-Aufruf. Statt den Client schweigend warten zu lassen, kann der Server währenddessen Updates streamen. ⏳

Streamable HTTP streamt mithilfe von Server-Sent Events oder SSE. Das ist eine einfache, webnative Möglichkeit für einen Server, eine Folge von Nachrichten über eine offene Verbindung zu übertragen.

SSE fließt nur in eine Richtung: vom Server zum Client. Der Server hält die Verbindung offen und sendet Ereignisse darüber, sobald es etwas Neues mitzuteilen gibt.

Am Content-Type erkennen Sie, dass eine Antwort ein Stream ist. Wenn der Server ihn auf text/event-stream setzt, liest der Client Ereignisse statt eines einzigen abschließenden Inhalts.

Jedes SSE-Ereignis besteht einfach aus Text. Zeilen, die mit data: beginnen, enthalten die Nutzdaten, und eine Leerzeile markiert das Ende eines Ereignisses, bevor das nächste beginnt.

In jedem Ereignis befindet sich eine vertraute JSON-RPC-Nachricht. Streaming führt kein neues Format ein, sondern übermittelt dieselben Nachrichten im Laufe der Zeit.

Eine Streaming-Antwort kann zuerst Fortschrittsbenachrichtigungen und erst zuletzt das Endergebnis senden. Der Benutzer sieht, dass das Tool arbeitet, statt nur auf einen Ladekreis zu starren.

Streaming ist optional. Bei einem schnellen Tool kann der Server einfach eine einzelne JSON-Antwort zurückgeben und die Verbindung schließen, ohne einen Ereignisstrom zu benötigen.

SSE ermöglicht es dem Server, Ereignisse mit einer id zu versehen. Dieses kleine Detail wird später wichtig: So kann ein Client einen Stream nach einer unterbrochenen Verbindung fortsetzen.

Nur selten schreiben Sie rohes SSE von Hand. Das MCP-SDK formatiert Ereignisse für Sie. Sie senden einfach Fortschrittsmeldungen und Ergebnisse, und das SDK streamt sie korrekt.

Streaming ändert nicht, was ein Tool zurückgibt, sondern nur, wie es sich anfühlt. Die abschließende Antwort ist identisch; der Benutzer erhält lediglich ein flüssigeres und reaktionsschnelleres Erlebnis. ✨

SSE ermöglicht es dem Server, JSON-RPC-Ereignisse über eine offene Verbindung zu senden: zuerst den Fortschritt, zuletzt das Ergebnis. Es ist optional, webnative und lässt langsame Tools schnell wirken. 🎉