कृत्रिम बुद्धिमत्ता प्रतिक्रियाओं की स्ट्रीमिंग
जानें कि कृत्रिम बुद्धिमत्ता मॉडल से टोकन वास्तविक समय में कैसे स्ट्रीम करें, ताकि उपयोगकर्ताओं को पूरी प्रतिक्रिया की प्रतीक्षा करने के बजाय उत्तर क्रमशः दिखाई दें।
कृत्रिम बुद्धिमत्ता प्रतिक्रियाओं की स्ट्रीमिंग, CoddyKit पर AI-संचालित SaaS: Stripe + प्रमाणीकरण + बिलिंग + तैनाती का एक निःशुल्क पाठ है। यह 4 में से 4वाँ पाठ है। आप नीचे पूरा पाठ निःशुल्क पढ़ सकते हैं—फिर अंतर्निहित कोड संपादक और 24/7 एआई ट्यूटर के साथ ब्राउज़र में इसका व्यावहारिक अभ्यास कर सकते हैं। यह AI-संचालित SaaS: Stripe + प्रमाणीकरण + बिलिंग + तैनाती सीखने के मार्ग का हिस्सा है और आपकी प्रगति वेब तथा CoddyKit ऐप पर सिंक होती रहती है। AI-संचालित SaaS: Stripe + प्रमाणीकरण + बिलिंग + तैनाती पाठ्यक्रम में कुल 4 पाठ शामिल हैं।
प्रतिक्रियाएँ स्ट्रीम क्यों करें?
बड़े भाषा मॉडल को पूरा उत्तर तैयार करने में कई सेकंड लग सकते हैं। स्ट्रीमिंग से token बनते ही client को भेजे जाते हैं, इसलिए उपयोगकर्ता शब्द-दर-शब्द दिखाई देने वाला पाठ देखता है।
- अनुभूत विलंब कम होता है
- उपयोगकर्ता तुरंत पढ़ना शुरू कर सकते हैं
- यह बातचीत जैसा, chat की तरह महसूस होता है
स्ट्रीमिंग कैसे काम करती है
स्ट्रीमिंग एक लंबे समय तक खुले रहने वाले HTTP connection पर निर्भर करती है। server response को खुला रखता है और model provider से आते ही chunk भेजता है।
दो सामान्य transport हैं Server-Sent Events और chunked HTTP responses। अधिकांश AI SDK डिफ़ॉल्ट रूप से SSE का उपयोग करते हैं।
स्ट्रीम मोड सक्षम करना
अधिकांश AI API stream: true flag स्वीकार करते हैं। एकल JSON object के बजाय आपको छोटे JSON events का क्रम मिलता है, जिनमें से हर एक में उत्तर का एक हिस्सा होता है।
const response = await client.chat.completions.create({
model: "gpt-4o-mini",
stream: true,
messages: [{ role: "user", content: "Explain streaming." }],
});server पर स्ट्रीम पढ़ना
SDK एक async iterable लौटाता है। आप उस पर loop चलाकर हर delta को अपने client तक भेजते हैं।
for await (const chunk of response) {
const token = chunk.choices[0].delta.content || "";
process.stdout.write(token);
}SSE के ज़रिए ब्राउज़र तक भेजना
हर token को SSE data: frame में लपेटें। सही headers सेट करें, ताकि browser connection को खुला रखे।
res.setHeader("Content-Type", "text/event-stream");
res.setHeader("Cache-Control", "no-cache");
for await (const chunk of aiStream) {
const t = chunk.choices[0].delta.content || "";
res.write("data: " + JSON.stringify({ t }) + "\n\n");
}
res.end();UI में स्ट्रीम का उपयोग करना
client पर EventSource API या reader के साथ fetch का उपयोग करें। हर token को दिखाई जा रही message state में जोड़ें।
const es = new EventSource("/api/chat");
es.onmessage = (e) => {
const { t } = JSON.parse(e.data);
setMessage((prev) => prev + t);
};टाइपिंग संकेतक दिखाना
जब token stream हो रहे हों, तब टिमटिमाता cursor या animated dots दिखाएँ। stream बंद होने पर उसे हटा दें। इससे यह अनुभव मजबूत होता है कि AI सक्रिय रूप से जवाब दे रहा है।
स्ट्रीम त्रुटियाँ संभालना
बीच में connection टूट सकते हैं। हमेशा error event को संभालें और source बंद करें। पुनः प्रयास करने का button दें और पहले से प्राप्त आंशिक text को सुरक्षित रखें।
es.onerror = () => {
es.close();
showRetry();
};स्ट्रीम रद्द करना
उपयोगकर्ताओं को लंबा उत्तर रोकने दें। fetch के साथ आप AbortController के ज़रिए abort करते हैं; EventSource के साथ close() call करते हैं। रद्द करने से token की लागत भी बचती है।
const controller = new AbortController();
fetch("/api/chat", { signal: controller.signal });
// later:
controller.abort();लागत और token की गणना
स्ट्रीमिंग से billing नहीं बदलती: बनाए गए कुल token के लिए आपको अब भी भुगतान करना होता है। token आते ही उनकी गिनती करें या stream समाप्त होने पर कुछ providers द्वारा भेजे गए अंतिम usage event को पढ़ें।
बैकप्रेशर और बफ़रिंग
यदि client, model द्वारा बनाए जाने की गति से धीमे पढ़ता है, तो token कतार में लग जाते हैं। अधिकांश runtime इसे अपने-आप संभालते हैं, लेकिन बहुत अधिक throughput के लिए write overhead घटाने हेतु भेजने से पहले token के छोटे batches को बफ़र करने पर विचार करें।
त्वरित जाँच
स्ट्रीमिंग AI प्रतिक्रियाओं की अपनी समझ जाँचें।
पुनरावलोकन
आपने शुरू से अंत तक AI प्रतिक्रियाओं को stream करना सीखा:
- API call में
stream: trueसक्षम करें - server-side chunk पर क्रम से काम करें और SSE के ज़रिए आगे भेजें
- टाइपिंग संकेतक के साथ UI में token जोड़ें
- त्रुटियों, रद्दीकरण और token की गणना को संभालें
स्ट्रीमिंग AI सुविधाओं को तेज़ और बातचीत जैसा महसूस कराती है।
एआई शिक्षक के साथ AI-संचालित SaaS: Stripe + प्रमाणीकरण + बिलिंग + तैनाती सीखें — निःशुल्क
अपने ब्राउज़र में वास्तविक कोड लिखें और चलाएँ, चौबीसों घंटे एआई शिक्षक से तुरंत सहायता पाएँ, और वेब या ऐप पर वहीं से शुरू करें जहाँ आपने छोड़ा था।
- पाठ्यक्रम
- 12
- पाठ
- 48
अक्सर पूछे जाने वाले प्रश्न
क्या “कृत्रिम बुद्धिमत्ता प्रतिक्रियाओं की स्ट्रीमिंग” पाठ निःशुल्क है?
हाँ—“कृत्रिम बुद्धिमत्ता प्रतिक्रियाओं की स्ट्रीमिंग” का पूरा पाठ यहाँ वेब पर निःशुल्क पढ़ा जा सकता है। इंटरैक्टिव अभ्यास (अंतर्निहित कोड संपादक और 24/7 एआई ट्यूटर) करने और AI-संचालित SaaS: Stripe + प्रमाणीकरण + बिलिंग + तैनाती पाठ्यक्रम का बाकी हिस्सा अनलॉक करने के लिए CoddyKit PRO लें। AI-संचालित SaaS: Stripe + प्रमाणीकरण + बिलिंग + तैनाती पाठ्यक्रम में कुल 4 पाठ शामिल हैं।
“कृत्रिम बुद्धिमत्ता प्रतिक्रियाओं की स्ट्रीमिंग” में मैं क्या सीखूँगा?
जानें कि कृत्रिम बुद्धिमत्ता मॉडल से टोकन वास्तविक समय में कैसे स्ट्रीम करें, ताकि उपयोगकर्ताओं को पूरी प्रतिक्रिया की प्रतीक्षा करने के बजाय उत्तर क्रमशः दिखाई दें। आप ब्राउज़र में सीधे चलाए जाने वाले व्यावहारिक कोड के साथ AI-संचालित SaaS: Stripe + प्रमाणीकरण + बिलिंग + तैनाती का अभ्यास करते हैं, और पाठ पूरा करते समय 24/7 एआई ट्यूटर आपके प्रश्नों के उत्तर देता है।
क्या AI-संचालित SaaS: Stripe + प्रमाणीकरण + बिलिंग + तैनाती शुरू करने के लिए मुझे किसी अनुभव की आवश्यकता है?
पहले के अनुभव की आवश्यकता नहीं है। CoddyKit पर AI-संचालित SaaS: Stripe + प्रमाणीकरण + बिलिंग + तैनाती शुरुआती से लेकर उन्नत शिक्षार्थियों तक सभी के लिए व्यवस्थित किया गया है, इसलिए आप यहीं से या शुरुआत से सीखना शुरू कर सकते हैं और अपनी गति से आगे बढ़ सकते हैं। यह 4 में से 4वाँ पाठ है।
“कृत्रिम बुद्धिमत्ता प्रतिक्रियाओं की स्ट्रीमिंग” पाठ पूरा करने में कितना समय लगता है?
CoddyKit का अधिकांश पाठ लगभग 5–10 मिनट में पूरा हो जाता है। हर पाठ छोटा और संवादात्मक है, इसलिए आप लगातार प्रगति करते हैं और वेब या ऐप पर वहीं से सीखना जारी रख सकते हैं जहाँ आपने छोड़ा था।
क्या मैं इस AI-संचालित SaaS: Stripe + प्रमाणीकरण + बिलिंग + तैनाती पाठ में कोड लिख और चला सकता हूँ?
हाँ। हर AI-संचालित SaaS: Stripe + प्रमाणीकरण + बिलिंग + तैनाती पाठ में एक अंतर्निर्मित कोड संपादक शामिल है, जिससे आप सीधे अपने ब्राउज़र में वास्तविक कोड लिख और चला सकते हैं और तुरंत एआई प्रतिक्रिया पा सकते हैं—स्थानीय सेटअप की आवश्यकता नहीं है।
इस पाठ्यक्रम के सभी पाठ
- कृत्रिम बुद्धिमत्ता सेवा API एकीकरण
- प्रॉम्प्ट इंजीनियरिंग की मूल बातें
- यूआई में कृत्रिम बुद्धिमत्ता का समावेश
- कृत्रिम बुद्धिमत्ता प्रतिक्रियाओं की स्ट्रीमिंग