Llama, Mistral और Qwen का अवलोकन
ओपन-वेट मॉडल परिवारों के तीन बड़े समूह: लाइसेंस, आकार और प्रत्येक की उपयोगिता।
Llama, Mistral और Qwen का अवलोकन, CoddyKit पर AI एजेंट का एक निःशुल्क पाठ है। यह 4 में से 1वाँ पाठ है। आप नीचे पूरा पाठ निःशुल्क पढ़ सकते हैं—फिर अंतर्निहित कोड संपादक और 24/7 एआई ट्यूटर के साथ ब्राउज़र में इसका व्यावहारिक अभ्यास कर सकते हैं। यह AI एजेंट सीखने के मार्ग का हिस्सा है और आपकी प्रगति वेब तथा CoddyKit ऐप पर सिंक होती रहती है। AI एजेंट पाठ्यक्रम में कुल 4 पाठ शामिल हैं।
इस पाठ के कुछ हिस्सों का अभी तक अनुवाद नहीं हुआ है और वे अंग्रेज़ी में दिखाए गए हैं।
मुक्त स्रोत क्यों?
मुक्त-वज़न मॉडल आपको देते हैं:
- प्रति-टोकन API लागत नहीं
- डेटा गोपनीयता — मॉडल आपके हार्डवेयर पर चलता है
- किसी भी स्तर पर अनुकूलन (फ़ाइन-ट्यूनिंग)
- किसी विक्रेता पर निर्भरता नहीं
लागत: इंजीनियरों के घंटे, GPU के बिल और आम तौर पर अग्रणी मॉडलों की तुलना में कम गुणवत्ता।
Llama परिवार (Meta)
- 2023-2025 में 1B से 405B तक के आकारों में जारी
- Llama 3.x अत्यंत सक्षम है; 8B मध्यम स्तर के बंद मॉडलों को टक्कर देता है
- सामुदायिक लाइसेंस (कुछ शर्तों के अंतर्गत व्यावसायिक उपयोग की अनुमति)
- बहुत बड़ा पारिस्थितिकी तंत्र; अधिकांश फ़ाइन-ट्यून मॉडल Llama से बने हैं
Mistral परिवार (Mistral AI)
- Mistral 7B Instruct — शक्तिशाली छोटा मॉडल
- Mixtral 8x7B — विशेषज्ञों का मिश्रण, तेज़ और सक्षम
- Mistral Large / Medium — बंद वज़न, API के माध्यम से उपलब्ध
- मुक्त रूपांतरों पर Apache 2.0 लाइसेंस
Qwen परिवार (Alibaba)
- Qwen 2.5 — अग्रणी मुक्त-वज़न तर्क मॉडल (2024)
- उत्कृष्ट बहुभाषी समर्थन, विशेष रूप से चीनी भाषा के लिए
- 0.5B से 72B तक के आकार
- Apache 2.0
अन्य उल्लेखनीय मॉडल
- Gemma (Google) — छोटा और परिष्कृत
- Phi (Microsoft) — बहुत छोटा, फिर भी सक्षम
- DeepSeek — कम लागत में शक्तिशाली तर्क क्षमता
- Yi — शक्तिशाली बहुभाषी समर्थन
आकार चुनना
| आकार | उपयोग का मामला |
|---|---|
| 1-3B | एज डिवाइस, मोबाइल, वर्गीकरण |
| 7-8B | एकल GPU, सरल एजेंट |
| 13-30B | बड़ा GPU या 2-4 छोटे GPU, वास्तविक एजेंट |
| 70B+ | कई GPU, अग्रणी गुणवत्ता |
महत्वपूर्ण बेंचमार्क
- MMLU — सामान्य ज्ञान
- GSM8K — गणित
- HumanEval — कोड
- MT-Bench — बातचीत की गुणवत्ता
- HELM / LMSYS Chatbot Arena — मानवीय पसंद
अपने YOUR कार्य के अनुरूप बेंचमार्क चुनें।
अग्रणी मॉडलों का अंतर घट रहा है
अग्रणी बंद मॉडल (GPT-4o, Claude Sonnet 4.5) अभी भी सबसे कठिन बेंचमार्क पर आगे हैं। लेकिन मुक्त 70B मॉडल अधिकांश एजेंट कार्यों में बंद मध्यम-स्तरीय मॉडलों के बराबर हैं।
लाइसेंस संबंधी बातें
हर मॉडल का लाइसेंस जाँचें:
- Apache 2.0 — पूरी तरह अनुमति देने वाला
- Llama सामुदायिक लाइसेंस — बहुत बड़े स्तर की सेवाओं और कुछ उपयोग मामलों पर प्रतिबंध
- कुछ "केवल शोध" लाइसेंस — व्यावसायिक रूप से तैनात नहीं किए जा सकते
होस्टेड बनाम स्वयं-होस्टेड
आप बुनियादी ढाँचा चलाए बिना होस्टेड API के माध्यम से मुक्त मॉडल इस्तेमाल कर सकते हैं (Together AI, Anyscale, Groq, Fireworks) — समान गुणवत्ता के लिए अक्सर OpenAI से सस्ता विकल्प।
Hosted Open Models on Groq
from openai import OpenAI
client = OpenAI(
base_url='https://api.groq.com/openai/v1',
api_key=GROQ_KEY
)
response = client.chat.completions.create(
model='llama-3.1-70b-versatile',
messages=[{'role': 'user', 'content': 'Hello'}]
)जब OSS बेहतर है
- गोपनीयता अत्यंत महत्वपूर्ण हो: चिकित्सा, कानूनी, रक्षा
- बहुत अधिक मात्रा: प्रति-कॉल कुछ सेंट का अंतर महत्वपूर्ण हो
- भारी अनुकूलन: किसी विशेष क्षेत्र के लिए फ़ाइन-ट्यून मॉडल
- बहुभाषी उपयोग, जहाँ बंद प्रदाता कमजोर हों
जब बंद मॉडल बेहतर हैं
- अग्रणी तर्क क्षमता
- बहुआयामी कार्य (दृष्टि, आवाज़)
- लंबा संदर्भ: Claude / Gemini अभी भी आगे हैं
- त्वरित प्रोटोटाइप बनाना
सबसे छोटा सक्षम मॉडल
एकल GPU पर चलने वाले सरल आंतरिक एजेंट के लिए आम तौर पर कौन-सी आकार-सीमा होती है?
पुनरावलोकन
Llama, Mistral और Qwen तीन प्रमुख परिवार हैं। गुणवत्ता की आवश्यकता पूरी करने वाला सबसे छोटा आकार चुनें। होस्टेड प्रदाता (Groq, Together) आपको बुनियादी ढाँचा चलाने से बचाते हैं।
एआई शिक्षक के साथ AI एजेंट सीखें — निःशुल्क
अपने ब्राउज़र में वास्तविक कोड लिखें और चलाएँ, चौबीसों घंटे एआई शिक्षक से तुरंत सहायता पाएँ, और वेब या ऐप पर वहीं से शुरू करें जहाँ आपने छोड़ा था।
- पाठ्यक्रम
- 60
- पाठ
- 239
अक्सर पूछे जाने वाले प्रश्न
क्या “Llama, Mistral और Qwen का अवलोकन” पाठ निःशुल्क है?
हाँ—“Llama, Mistral और Qwen का अवलोकन” का पूरा पाठ यहाँ वेब पर निःशुल्क पढ़ा जा सकता है। इंटरैक्टिव अभ्यास (अंतर्निहित कोड संपादक और 24/7 एआई ट्यूटर) करने और AI एजेंट पाठ्यक्रम का बाकी हिस्सा अनलॉक करने के लिए CoddyKit PRO लें। AI एजेंट पाठ्यक्रम में कुल 4 पाठ शामिल हैं।
“Llama, Mistral और Qwen का अवलोकन” में मैं क्या सीखूँगा?
ओपन-वेट मॉडल परिवारों के तीन बड़े समूह: लाइसेंस, आकार और प्रत्येक की उपयोगिता। आप ब्राउज़र में सीधे चलाए जाने वाले व्यावहारिक कोड के साथ AI एजेंट का अभ्यास करते हैं, और पाठ पूरा करते समय 24/7 एआई ट्यूटर आपके प्रश्नों के उत्तर देता है।
क्या AI एजेंट शुरू करने के लिए मुझे किसी अनुभव की आवश्यकता है?
पहले के अनुभव की आवश्यकता नहीं है। CoddyKit पर AI एजेंट शुरुआती से लेकर उन्नत शिक्षार्थियों तक सभी के लिए व्यवस्थित किया गया है, इसलिए आप यहीं से या शुरुआत से सीखना शुरू कर सकते हैं और अपनी गति से आगे बढ़ सकते हैं। यह 4 में से 1वाँ पाठ है।
“Llama, Mistral और Qwen का अवलोकन” पाठ पूरा करने में कितना समय लगता है?
CoddyKit का अधिकांश पाठ लगभग 5–10 मिनट में पूरा हो जाता है। हर पाठ छोटा और संवादात्मक है, इसलिए आप लगातार प्रगति करते हैं और वेब या ऐप पर वहीं से सीखना जारी रख सकते हैं जहाँ आपने छोड़ा था।
क्या मैं इस AI एजेंट पाठ में कोड लिख और चला सकता हूँ?
हाँ। हर AI एजेंट पाठ में एक अंतर्निर्मित कोड संपादक शामिल है, जिससे आप सीधे अपने ब्राउज़र में वास्तविक कोड लिख और चला सकते हैं और तुरंत एआई प्रतिक्रिया पा सकते हैं—स्थानीय सेटअप की आवश्यकता नहीं है।
इस पाठ्यक्रम के सभी पाठ
- Llama, Mistral और Qwen का अवलोकन
- Ollama और llama.cpp से स्थानीय मॉडल चलाना
- ओपन मॉडल में फ़ंक्शन-कॉलिंग (Hermes, Functionary)
- संतुलन: विलंबता, लागत, क्षमता