सत्र प्रबंधन और संदर्भ स्थायित्व
निर्बाध LLM अनुभव के लिए अनेक इंटरैक्शन के दौरान बातचीत की स्थिति और उपयोगकर्ता संदर्भ बनाए रखना सीखिए।
सत्र प्रबंधन और संदर्भ स्थायित्व, CoddyKit पर उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) का एक निःशुल्क पाठ है। यह 4 में से 2वाँ पाठ है। आप नीचे पूरा पाठ निःशुल्क पढ़ सकते हैं—फिर अंतर्निहित कोड संपादक और 24/7 एआई ट्यूटर के साथ ब्राउज़र में इसका व्यावहारिक अभ्यास कर सकते हैं। यह उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) सीखने के मार्ग का हिस्सा है और आपकी प्रगति वेब तथा CoddyKit ऐप पर सिंक होती रहती है। उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) पाठ्यक्रम में कुल 4 पाठ शामिल हैं।
LLM को मेमोरी की आवश्यकता क्यों होती है
कल्पना कीजिए कि आप ऐसे व्यक्ति से बात कर रहे हैं जो कुछ क्षण पहले कही आपकी हर बात भूल जाता है। डिफ़ॉल्ट रूप से Large Language Models (LLMs) अक्सर इसी तरह काम करते हैं!
वास्तव में स्वाभाविक और उपयोगी अनुभव के लिए LLM अनुप्रयोगों को पिछली बातचीत याद रखने की आवश्यकता होती है। यहीं सत्र प्रबंधन और संदर्भ स्थायित्व काम आते हैं।
LLM: डिज़ाइन से ही स्टेटलेस
जब आप LLM API को कोई प्रॉम्प्ट भेजते हैं, तो वह उस एक अनुरोध को स्वतंत्र रूप से संसाधित करता है। उसे पिछले प्रॉम्प्ट या उत्तर स्वाभाविक रूप से 'याद' नहीं रहते।
- हर API कॉल एक नई शुरुआत होती है।
- यह स्टेटलेस प्रकृति सरल, एक-बार वाले प्रश्नों के लिए प्रभावी है।
- लेकिन बातचीत या व्यक्तिगत कार्यों के लिए यह पर्याप्त नहीं रहती।
बातचीत का प्रवाह बनाए रखना
संदर्भ स्थायित्व नई LLM अनुरोधों के साथ शामिल करने के लिए पिछली प्रासंगिक जानकारी को संग्रहित और पुनर्प्राप्त करने की तकनीक है।
इससे LLM चल रही बातचीत, उपयोगकर्ता की प्राथमिकताओं या पहले दी गई विशिष्ट जानकारियों को समझ पाता है, जिससे उसके उत्तर अधिक सुसंगत और उपयोगी बनते हैं।
बुनियादी रणनीति: बातचीत का इतिहास
चैट-आधारित LLM अनुप्रयोगों में संदर्भ बनाए रखने का सबसे सामान्य तरीका बातचीत का इतिहास बनाए रखना है।
- प्रत्येक उपयोगकर्ता क्वेरी और LLM उत्तर को एक सूची में जोड़ा जाता है।
- नई उपयोगकर्ता क्वेरी भेजने से पहले इस पूरे इतिहास को प्रॉम्प्ट में शामिल किया जाता है।
- इससे LLM को पूरी बातचीत की 'मेमोरी' मिलती है।
चैट इतिहास का अनुकरण
आइए एक सरल Python उदाहरण देखें, जिसमें हम एक सूची में बातचीत का इतिहास तैयार करते हैं। ध्यान दें कि नए संदेश कैसे जोड़े जाते हैं।
def simulate_chat():
chat_history = []
chat_history.append({"role": "user", "content": "Hi there!"})
chat_history.append({"role": "assistant", "content": "Hello! How can I help?"})
chat_history.append({"role": "user", "content": "What's the weather?"})
print("--- Current Chat History ---")
for msg in chat_history:
print(f"{msg['role']}: {msg['content']}")
if __name__ == "__main__":
simulate_chat()मेमोरी-आधारित इतिहास की सीमाएँ
सरल Python सूचियाँ प्रदर्शन के लिए अच्छी होती हैं, लेकिन वास्तविक अनुप्रयोगों में उनकी बड़ी सीमाएँ हैं:
- अस्थायी: अनुप्रयोग दोबारा शुरू होने पर डेटा खो जाता है।
- एकल सत्र: यह केवल एक उपयोगकर्ता की वर्तमान बातचीत के लिए काम करता है।
- विस्तार संबंधी समस्याएँ: यह एक साथ कई उपयोगकर्ताओं के लिए उपयुक्त नहीं है।
हमें स्थायित्व के लिए अधिक मजबूत समाधानों की आवश्यकता है!
संदर्भ को बाहरी रूप से संग्रहित करना
मेमोरी में संग्रहण की सीमाओं को दूर करने के लिए संदर्भ को किसी बाहरी, स्थायी प्रणाली में संग्रहित करना आवश्यक है।
सामान्य विकल्पों में शामिल हैं:
- डेटाबेस: संरचित इतिहास के लिए SQL (PostgreSQL, MySQL) या NoSQL (MongoDB, Cassandra)।
- कुंजी-मान संग्रह: सत्र डेटा तक तेज़ पहुँच के लिए Redis या Memcached।
- क्लाउड संग्रहण: कम बार पहुँच वाले डेटा के लिए S3 जैसे ऑब्जेक्ट संग्रहण।
क्रियान्वित संदर्भ: LLM कॉल
बाहरी संग्रहण का उपयोग करने पर प्रक्रिया इस प्रकार होती है:
- उपयोगकर्ता नया संदेश भेजता है।
- अनुप्रयोग बाहरी संग्रह से उपयोगकर्ता की पिछली बातचीत का संदर्भ प्राप्त करता है।
- पूरा संदर्भ (इतिहास + नया संदेश) LLM को भेजा जाता है।
- LLM एक उत्तर तैयार करता है।
- नया उत्तर संदर्भ में जोड़ा जाता है और वापस बाहरी संग्रह में सहेजा जाता है।
वैचारिक कोड: संग्रहित संदर्भ का उपयोग
यह वैचारिक स्निपेट दिखाता है कि LLM को भेजने से पहले इतिहास कैसे लोड किया जाता है और नए संदेश के साथ जोड़ा जाता है। मान लें कि load_history() और save_history() किसी बाहरी संग्रह के साथ काम करते हैं।
def send_to_llm_with_context(user_id, new_message):
# Imagine these load/save from Redis/DB
def load_history(uid): return [] # Placeholder
def save_history(uid, hist): pass # Placeholder
history = load_history(user_id)
history.append({"role": "user", "content": new_message})
# Construct the full prompt for the LLM
llm_prompt = "".join([f"{msg['role']}: {msg['content']}\n" for msg in history])
llm_prompt += "Assistant: "
print(f"--- Sending to LLM ---\n{llm_prompt}")
# Simulate LLM response
llm_response = "I understand."
history.append({"role": "assistant", "content": llm_response})
save_history(user_id, history)
if __name__ == "__main__":
send_to_llm_with_context("user_123", "Tell me about context persistence.")सिर्फ चैट इतिहास से आगे
संदर्भ स्थायित्व केवल बातचीत के इतिहास तक सीमित नहीं है। इसमें यह भी शामिल हो सकता है:
- उपयोगकर्ता प्रोफ़ाइल: नाम, प्राथमिकताएँ, स्थान।
- अनुप्रयोग स्थिति: वर्तमान कार्य, सक्रिय चयन।
- दस्तावेज़ संदर्भ: उपयोगकर्ता ने किन दस्तावेज़ों के साथ काम किया है।
इससे LLM की समझ समृद्ध होती है और वास्तव में व्यक्तिगत अनुभव संभव होते हैं।
अपनी समझ जाँचें
मजबूत अनुप्रयोग बनाने के लिए यह समझना अत्यंत महत्वपूर्ण है कि LLM को संदर्भ की आवश्यकता क्यों होती है।
पुनरावलोकन: अतीत को याद रखना
इस पाठ में हमने LLM अनुप्रयोगों के लिए सत्र प्रबंधन और संदर्भ स्थायित्व की महत्वपूर्ण भूमिका देखी।
- LLM स्टेटलेस होते हैं, इसलिए संदर्भ स्पष्ट रूप से देना पड़ता है।
- बातचीत का इतिहास संदर्भ का एक प्रमुख रूप है।
- बाहरी संग्रहण (डेटाबेस, Redis) मजबूत स्थायित्व के लिए आवश्यक है।
- संदर्भ चैट से आगे बढ़कर उपयोगकर्ता प्रोफ़ाइल और अनुप्रयोग स्थिति को भी शामिल करता है।
संदर्भ स्थायित्व में दक्षता सहज और शक्तिशाली LLM अनुभव बनाने की कुंजी है!
एआई शिक्षक के साथ उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) सीखें — निःशुल्क
अपने ब्राउज़र में वास्तविक कोड लिखें और चलाएँ, चौबीसों घंटे एआई शिक्षक से तुरंत सहायता पाएँ, और वेब या ऐप पर वहीं से शुरू करें जहाँ आपने छोड़ा था।
- पाठ्यक्रम
- 12
- पाठ
- 48
अक्सर पूछे जाने वाले प्रश्न
क्या “सत्र प्रबंधन और संदर्भ स्थायित्व” पाठ निःशुल्क है?
हाँ—“सत्र प्रबंधन और संदर्भ स्थायित्व” का पूरा पाठ यहाँ वेब पर निःशुल्क पढ़ा जा सकता है। इंटरैक्टिव अभ्यास (अंतर्निहित कोड संपादक और 24/7 एआई ट्यूटर) करने और उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) पाठ्यक्रम का बाकी हिस्सा अनलॉक करने के लिए CoddyKit PRO लें। उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) पाठ्यक्रम में कुल 4 पाठ शामिल हैं।
“सत्र प्रबंधन और संदर्भ स्थायित्व” में मैं क्या सीखूँगा?
निर्बाध LLM अनुभव के लिए अनेक इंटरैक्शन के दौरान बातचीत की स्थिति और उपयोगकर्ता संदर्भ बनाए रखना सीखिए। आप ब्राउज़र में सीधे चलाए जाने वाले व्यावहारिक कोड के साथ उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) का अभ्यास करते हैं, और पाठ पूरा करते समय 24/7 एआई ट्यूटर आपके प्रश्नों के उत्तर देता है।
क्या उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) शुरू करने के लिए मुझे किसी अनुभव की आवश्यकता है?
पहले के अनुभव की आवश्यकता नहीं है। CoddyKit पर उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) शुरुआती से लेकर उन्नत शिक्षार्थियों तक सभी के लिए व्यवस्थित किया गया है, इसलिए आप यहीं से या शुरुआत से सीखना शुरू कर सकते हैं और अपनी गति से आगे बढ़ सकते हैं। यह 4 में से 2वाँ पाठ है।
“सत्र प्रबंधन और संदर्भ स्थायित्व” पाठ पूरा करने में कितना समय लगता है?
CoddyKit का अधिकांश पाठ लगभग 5–10 मिनट में पूरा हो जाता है। हर पाठ छोटा और संवादात्मक है, इसलिए आप लगातार प्रगति करते हैं और वेब या ऐप पर वहीं से सीखना जारी रख सकते हैं जहाँ आपने छोड़ा था।
क्या मैं इस उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) पाठ में कोड लिख और चला सकता हूँ?
हाँ। हर उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) पाठ में एक अंतर्निर्मित कोड संपादक शामिल है, जिससे आप सीधे अपने ब्राउज़र में वास्तविक कोड लिख और चला सकते हैं और तुरंत एआई प्रतिक्रिया पा सकते हैं—स्थानीय सेटअप की आवश्यकता नहीं है।
इस पाठ्यक्रम के सभी पाठ
- Redis/Memcached के साथ वितरित कैशिंग
- सत्र प्रबंधन और संदर्भ स्थायित्व
- उन्नत कैश अमान्यकरण रणनीतियाँ
- LLM प्रतिक्रियाओं के लिए अर्थ-आधारित कैशिंग