Docker के साथ LLM ऐप्लिकेशन को कंटेनरीकृत करना
विभिन्न परिवेशों में एकसमान परिनियोजन के लिए अपने RAG ऐप्लिकेशन और उसकी निर्भरताओं को Docker कंटेनरों में पैकेज करना सीखिए।
Docker के साथ LLM ऐप्लिकेशन को कंटेनरीकृत करना, CoddyKit पर उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) का एक निःशुल्क पाठ है। यह 4 में से 1वाँ पाठ है। आप नीचे पूरा पाठ निःशुल्क पढ़ सकते हैं—फिर अंतर्निहित कोड संपादक और 24/7 एआई ट्यूटर के साथ ब्राउज़र में इसका व्यावहारिक अभ्यास कर सकते हैं। यह उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) सीखने के मार्ग का हिस्सा है और आपकी प्रगति वेब तथा CoddyKit ऐप पर सिंक होती रहती है। उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) पाठ्यक्रम में कुल 4 पाठ शामिल हैं।
LLM अनुप्रयोगों को कंटेनरीकृत क्यों करें?
Large Language Model (LLM) अनुप्रयोगों को लागू करना कठिन हो सकता है। आपको अक्सर कई निर्भरताओं, विशिष्ट Python संस्करणों और अलग-अलग परिवेशों से निपटना पड़ता है।
कंटेनरीकरण आपके अनुप्रयोग और उसकी सभी आवश्यकताओं को एकल, पृथक इकाई में पैक करके इन समस्याओं को हल करने में सहायता करता है। इसे हल्की और पोर्टेबल आभासी मशीन की तरह समझिए।
Docker से परिचय: कंटेनर उपकरण
Docker कंटेनर बनाने और प्रबंधित करने का सबसे लोकप्रिय उपकरण है। यह आपको अलग-अलग परिवेशों में अनुप्रयोगों को एकसमान तरीके से बनाना, भेजना और चलाना देता है।
- Docker Image एक हल्का, स्वतंत्र और निष्पादन योग्य पैकेज है, जिसमें किसी सॉफ़्टवेयर को चलाने के लिए आवश्यक सभी चीज़ें शामिल होती हैं।
- Docker Container Docker Image का चलने योग्य उदाहरण है। आप किसी कंटेनर को शुरू, बंद, स्थानांतरित या हटा सकते हैं।
Dockerfile: आपके अनुप्रयोग की रूपरेखा
Dockerfile एक साधारण पाठ फ़ाइल है, जिसमें Docker image बनाने के निर्देशों का समूह होता है। यह आपके अनुप्रयोग के परिवेश की विधि जैसा है।
Dockerfile का प्रत्येक निर्देश image में एक परत बनाता है, जिससे निर्माण अधिक कुशल होता है। यह सुनिश्चित करता है कि आपकी image बनाने वाले प्रत्येक व्यक्ति को बिल्कुल एक जैसा परिवेश मिले।
Dockerfile के मूल निर्देश
आइए, कुछ सामान्य Dockerfile निर्देश देखते हैं:
FROM: आधार image निर्दिष्ट करता है (जैसे, Python, Node.js)।WORKDIR: कंटेनर के अंदर कार्य निर्देशिका निर्धारित करता है।COPY: आपके प्रोजेक्ट की फ़ाइलों को image में कॉपी करता है।RUN: image निर्माण प्रक्रिया के दौरान कमांड चलाता है (जैसे, निर्भरताएं इंस्टॉल करना)।CMD: कंटेनर शुरू होने पर चलने वाली डिफ़ॉल्ट कमांड निर्धारित करता है।
हमारा सरल Python अनुप्रयोग
कल्पना कीजिए कि यह सरल Python स्क्रिप्ट आपके LLM अनुप्रयोग का मुख्य भाग है—शायद कोई उपयोगिता फ़ंक्शन या छोटा API एंडपॉइंट। हम इसे कंटेनरीकृत करेंगे।
import os
def process_text(text):
# In a real LLM app, this might call an LLM API
# or perform some text preprocessing.
return f"Processed: {text.upper()}"
if __name__ == "__main__":
message = os.getenv("APP_MESSAGE", "Hello CoddyKit!")
print(process_text(message))अपने अनुप्रयोग के लिए Dockerfile बनाना
हम अपने Python अनुप्रयोग के लिए Dockerfile इस तरह लिखेंगे। यह Python परिवेश तैयार करता है और हमारा कोड जोड़ता है।
पहले, एक requirements.txt फ़ाइल बनाइए:
# requirements.txt
# No external libraries for this simple example
फिर, Dockerfile:
FROM python:3.9-slim-buster
WORKDIR /app
COPY requirements.txt .
RUN pip install --no-cache-dir -r requirements.txt
COPY . .
CMD ["python", "./your_app.py"]Image बनाना और चलाना
जब आपके पास Dockerfile और अनुप्रयोग का कोड (जैसे, your_app.py) हो, तो आप अपनी Docker image बना कर उसे चला सकते हैं।
- बनाना:
docker buildकमांड आपके Dockerfile से image बनाती है।-tफ़्लैग उसे एक नाम देता है। - चलाना:
docker runकमांड आपकी image से नया कंटेनर शुरू करती है।
# Build the image (from the directory with Dockerfile)
docker build -t my-llm-app .
# Run the container
docker run my-llm-app
# Run with an environment variable
docker run -e APP_MESSAGE="Docker is awesome!" my-llm-appनिर्भरताओं और परिवेश का प्रबंधन
वास्तविक LLM अनुप्रयोगों में कई निर्भरताएं होती हैं (जैसे, langchain, openai, numpy)। उन्हें requirements.txt में सूचीबद्ध करना और Dockerfile के अंदर pip install -r requirements.txt से इंस्टॉल करना अत्यंत महत्वपूर्ण है।
LLM API कुंजियों जैसी संवेदनशील जानकारी के लिए परिवेश चर का उपयोग कीजिए। docker run के साथ -e फ़्लैग का उपयोग करके उन्हें अपने कंटेनर में भेजिए, या Docker Compose की .env फ़ाइल में परिभाषित कीजिए।
RAG स्टैक के लिए Docker Compose
एक पूर्ण RAG अनुप्रयोग में अक्सर कई सेवाएं शामिल होती हैं: आपका LLM अनुप्रयोग, एक वेक्टर डेटाबेस (जैसे Chroma या Pinecone) और शायद कैशिंग परत (जैसे Redis)।
Docker Compose आपको कई-कंटेनर वाले Docker अनुप्रयोगों को परिभाषित करके चलाने में सहायता करता है। आप अपनी सभी सेवाओं, नेटवर्क और वॉल्यूम को कॉन्फ़िगर करने के लिए docker-compose.yml फ़ाइल का उपयोग करते हैं, जिससे एक ही कमांड से अपना पूरा RAG स्टैक शुरू करना आसान हो जाता है।
अपने Docker ज्ञान की जांच कीजिए
LLM अनुप्रयोगों को लागू करने के लिए Docker कंटेनरों का उपयोग करने के प्रमुख लाभों में से कौन से निम्नलिखित हैं?
पुनरावलोकन: LLM परिनियोजन के लिए Docker
आपने सीखा कि Docker, LLM अनुप्रयोगों की तैनाती को सुव्यवस्थित करने में कैसे मदद करता है। अपने अनुप्रयोग को कंटेनर में पैक करके आप एकरूपता सुनिश्चित करते हैं, निर्भरता प्रबंधन को सरल बनाते हैं और तैनाती की पोर्टेबल इकाइयाँ तैयार करते हैं।
हमने इमेज बनाने के लिए Dockerfile, Docker की मूल कमांड और बहु-सेवा RAG आर्किटेक्चर के लिए Docker Compose की अवधारणा को समझा। उत्पादन परिवेश में मजबूत और विस्तार योग्य LLM प्रणालियाँ बनाने के लिए यह आधार बहुत महत्वपूर्ण है!
एआई शिक्षक के साथ उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) सीखें — निःशुल्क
अपने ब्राउज़र में वास्तविक कोड लिखें और चलाएँ, चौबीसों घंटे एआई शिक्षक से तुरंत सहायता पाएँ, और वेब या ऐप पर वहीं से शुरू करें जहाँ आपने छोड़ा था।
- पाठ्यक्रम
- 12
- पाठ
- 48
अक्सर पूछे जाने वाले प्रश्न
क्या “Docker के साथ LLM ऐप्लिकेशन को कंटेनरीकृत करना” पाठ निःशुल्क है?
हाँ—“Docker के साथ LLM ऐप्लिकेशन को कंटेनरीकृत करना” का पूरा पाठ यहाँ वेब पर निःशुल्क पढ़ा जा सकता है। इंटरैक्टिव अभ्यास (अंतर्निहित कोड संपादक और 24/7 एआई ट्यूटर) करने और उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) पाठ्यक्रम का बाकी हिस्सा अनलॉक करने के लिए CoddyKit PRO लें। उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) पाठ्यक्रम में कुल 4 पाठ शामिल हैं।
“Docker के साथ LLM ऐप्लिकेशन को कंटेनरीकृत करना” में मैं क्या सीखूँगा?
विभिन्न परिवेशों में एकसमान परिनियोजन के लिए अपने RAG ऐप्लिकेशन और उसकी निर्भरताओं को Docker कंटेनरों में पैकेज करना सीखिए। आप ब्राउज़र में सीधे चलाए जाने वाले व्यावहारिक कोड के साथ उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) का अभ्यास करते हैं, और पाठ पूरा करते समय 24/7 एआई ट्यूटर आपके प्रश्नों के उत्तर देता है।
क्या उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) शुरू करने के लिए मुझे किसी अनुभव की आवश्यकता है?
पहले के अनुभव की आवश्यकता नहीं है। CoddyKit पर उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) शुरुआती से लेकर उन्नत शिक्षार्थियों तक सभी के लिए व्यवस्थित किया गया है, इसलिए आप यहीं से या शुरुआत से सीखना शुरू कर सकते हैं और अपनी गति से आगे बढ़ सकते हैं। यह 4 में से 1वाँ पाठ है।
“Docker के साथ LLM ऐप्लिकेशन को कंटेनरीकृत करना” पाठ पूरा करने में कितना समय लगता है?
CoddyKit का अधिकांश पाठ लगभग 5–10 मिनट में पूरा हो जाता है। हर पाठ छोटा और संवादात्मक है, इसलिए आप लगातार प्रगति करते हैं और वेब या ऐप पर वहीं से सीखना जारी रख सकते हैं जहाँ आपने छोड़ा था।
क्या मैं इस उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) पाठ में कोड लिख और चला सकता हूँ?
हाँ। हर उत्पादन में LLM अनुप्रयोग (RAG + वेक्टर DB + कैशिंग) पाठ में एक अंतर्निर्मित कोड संपादक शामिल है, जिससे आप सीधे अपने ब्राउज़र में वास्तविक कोड लिख और चला सकते हैं और तुरंत एआई प्रतिक्रिया पा सकते हैं—स्थानीय सेटअप की आवश्यकता नहीं है।
इस पाठ्यक्रम के सभी पाठ
- Docker के साथ LLM ऐप्लिकेशन को कंटेनरीकृत करना
- स्केलेबिलिटी के लिए Kubernetes के साथ ऑर्केस्ट्रेशन
- LLM ऐप्लिकेशन परिनियोजन के लिए CI/CD
- परिनियोजन में कॉन्फ़िगरेशन और रहस्यों का प्रबंधन