हैलुसिनेशन पहचानना और कम करना
हैलुसिनेशन LLM के आत्मविश्वासपूर्ण लेकिन गलत आउटपुट होते हैं। जानें कि वे क्यों होते हैं, उन्हें कैसे पहचानें और प्रोडक्शन में घटाने की ठोस तकनीकें कौन-सी हैं।
हैलुसिनेशन पहचानना और कम करना, CoddyKit पर डेवलपरों के लिए प्रॉम्प्ट इंजीनियरिंग और LLM अनुकूलन का एक निःशुल्क पाठ है। यह 4 में से 4वाँ पाठ है। आप नीचे पूरा पाठ निःशुल्क पढ़ सकते हैं—फिर अंतर्निहित कोड संपादक और 24/7 एआई ट्यूटर के साथ ब्राउज़र में इसका व्यावहारिक अभ्यास कर सकते हैं। यह डेवलपरों के लिए प्रॉम्प्ट इंजीनियरिंग और LLM अनुकूलन सीखने के मार्ग का हिस्सा है और आपकी प्रगति वेब तथा CoddyKit ऐप पर सिंक होती रहती है। डेवलपरों के लिए प्रॉम्प्ट इंजीनियरिंग और LLM अनुकूलन पाठ्यक्रम में कुल 4 पाठ शामिल हैं।
Hallucination क्या है?
Hallucination तब होती है जब LLM ऐसा text बनाता है जो सहज और आत्मविश्वासपूर्ण तो लगता है, लेकिन तथ्यात्मक रूप से गलत होता है या किसी source से समर्थित नहीं होता।
क्योंकि output प्रामाणिक लगता है, इसलिए उपयोगकर्ताओं के सामने आने वाले apps में hallucinations खतरनाक होती हैं।
वे क्यों होती हैं
LLMs सत्य नहीं, बल्कि सबसे संभावित अगला token predict करते हैं। Grounding न होने पर वे खाली स्थानों को विश्वसनीय लगने वाली कल्पित बातों से भर देते हैं।
- Training data में ज्ञान का अभाव
- अस्पष्ट या दिशा देने वाले prompts
- हर बार answer देने का दबाव
Hallucination के प्रकार
दो व्यापक श्रेणियाँ हैं:
- तथ्यात्मक: गलत तिथियाँ, नकली citations, गढ़े हुए APIs
- निष्ठा-संबंधी: answer दिए गए context का खंडन करता है (RAG में आम)
Context से Grounding
सबसे मजबूत बचाव grounding है: model को विश्वसनीय source text दें और निर्देश दें कि वह केवल उसी text से answer दे।
Answer ONLY using the context below.
If the answer is not in the context, say "I do not know".
Context:
{retrieved_docs}Citations अनिवार्य करना
Model से कहें कि वह प्रत्येक claim का समर्थन करने वाले passage का citation दे। बिना समर्थन वाले वाक्यों को पहचानना और सत्यापित करना आसान हो जाता है।
For each sentence, add a [doc_id] citation.
Do not make claims you cannot cite.Temperature कम करना
अधिक temperature रचनात्मकता — और कल्पना — बढ़ाता है। तथ्यात्मक कार्यों के लिए temperature कम set करें, ताकि model अधिक संभावित और अच्छी तरह grounded tokens के निकट रहे।
const res = await client.chat.completions.create({
model: "gpt-4o-mini",
temperature: 0,
messages
});स्व-संगति जाँच
Answer कई बार generate करें। यदि model हर run में अलग-अलग तथ्य देता है, तो claim के hallucination होने की संभावना है। सहमति विश्वसनीयता का कमजोर, लेकिन उपयोगी संकेत है।
LLM-as-a-Judge सत्यापन
यह जाँचने के लिए दूसरी model call का उपयोग करें कि answer context से समर्थित है या नहीं। Judge एक निष्ठा-संबंधी verdict लौटाता है, जिस पर आप कार्रवाई कर सकते हैं।
Does the ANSWER follow only from the CONTEXT?
Reply: SUPPORTED, PARTIAL, or UNSUPPORTED.प्रोग्राम द्वारा सत्यापन
जब outputs संरचित हों, तो उन्हें validate करें। उद्धृत URL खुलना चाहिए, उद्धृत संख्या source से मेल खानी चाहिए और JSON field को schema से मेल खाना चाहिए।
function validateCitation(cit, docs) {
return docs.some(d => d.id === cit.doc_id);
}Model को उत्तर न देने की अनुमति देना
Model को मुझे नहीं पता कहने की अनुमति दें। हर बार answer देने का दबाव हटाने से गढ़ी हुई सामग्री में मापने योग्य कमी आती है।
महत्वपूर्ण मामलों में मानवीय समीक्षा
चिकित्सीय, कानूनी या वित्तीय outputs के लिए कम-विश्वास या बिना citation वाले answers को उपयोगकर्ताओं को दिखाने से पहले किसी व्यक्ति तक भेजें। Automation और निगरानी, दोनों में से किसी एक से बेहतर हैं।
त्वरित जाँच
अपनी समझ जाँचें।
पुनरावलोकन
आपने hallucinations से निपटना सीखा: answers को विश्वसनीय context पर आधारित करना, citations अनिवार्य करना, temperature कम करना, स्व-संगति और LLM-as-a-judge जाँचों का उपयोग करना, outputs को प्रोग्राम द्वारा validate करना, उत्तर न देने की अनुमति देना और महत्वपूर्ण मामलों में मानवीय समीक्षा जोड़ना।
एआई शिक्षक के साथ डेवलपरों के लिए प्रॉम्प्ट इंजीनियरिंग और LLM अनुकूलन सीखें — निःशुल्क
अपने ब्राउज़र में वास्तविक कोड लिखें और चलाएँ, चौबीसों घंटे एआई शिक्षक से तुरंत सहायता पाएँ, और वेब या ऐप पर वहीं से शुरू करें जहाँ आपने छोड़ा था।
- पाठ्यक्रम
- 12
- पाठ
- 48
अक्सर पूछे जाने वाले प्रश्न
क्या “हैलुसिनेशन पहचानना और कम करना” पाठ निःशुल्क है?
हाँ—“हैलुसिनेशन पहचानना और कम करना” का पूरा पाठ यहाँ वेब पर निःशुल्क पढ़ा जा सकता है। इंटरैक्टिव अभ्यास (अंतर्निहित कोड संपादक और 24/7 एआई ट्यूटर) करने और डेवलपरों के लिए प्रॉम्प्ट इंजीनियरिंग और LLM अनुकूलन पाठ्यक्रम का बाकी हिस्सा अनलॉक करने के लिए CoddyKit PRO लें। डेवलपरों के लिए प्रॉम्प्ट इंजीनियरिंग और LLM अनुकूलन पाठ्यक्रम में कुल 4 पाठ शामिल हैं।
“हैलुसिनेशन पहचानना और कम करना” में मैं क्या सीखूँगा?
हैलुसिनेशन LLM के आत्मविश्वासपूर्ण लेकिन गलत आउटपुट होते हैं। जानें कि वे क्यों होते हैं, उन्हें कैसे पहचानें और प्रोडक्शन में घटाने की ठोस तकनीकें कौन-सी हैं। आप ब्राउज़र में सीधे चलाए जाने वाले व्यावहारिक कोड के साथ डेवलपरों के लिए प्रॉम्प्ट इंजीनियरिंग और LLM अनुकूलन का अभ्यास करते हैं, और पाठ पूरा करते समय 24/7 एआई ट्यूटर आपके प्रश्नों के उत्तर देता है।
क्या डेवलपरों के लिए प्रॉम्प्ट इंजीनियरिंग और LLM अनुकूलन शुरू करने के लिए मुझे किसी अनुभव की आवश्यकता है?
पहले के अनुभव की आवश्यकता नहीं है। CoddyKit पर डेवलपरों के लिए प्रॉम्प्ट इंजीनियरिंग और LLM अनुकूलन शुरुआती से लेकर उन्नत शिक्षार्थियों तक सभी के लिए व्यवस्थित किया गया है, इसलिए आप यहीं से या शुरुआत से सीखना शुरू कर सकते हैं और अपनी गति से आगे बढ़ सकते हैं। यह 4 में से 4वाँ पाठ है।
“हैलुसिनेशन पहचानना और कम करना” पाठ पूरा करने में कितना समय लगता है?
CoddyKit का अधिकांश पाठ लगभग 5–10 मिनट में पूरा हो जाता है। हर पाठ छोटा और संवादात्मक है, इसलिए आप लगातार प्रगति करते हैं और वेब या ऐप पर वहीं से सीखना जारी रख सकते हैं जहाँ आपने छोड़ा था।
क्या मैं इस डेवलपरों के लिए प्रॉम्प्ट इंजीनियरिंग और LLM अनुकूलन पाठ में कोड लिख और चला सकता हूँ?
हाँ। हर डेवलपरों के लिए प्रॉम्प्ट इंजीनियरिंग और LLM अनुकूलन पाठ में एक अंतर्निर्मित कोड संपादक शामिल है, जिससे आप सीधे अपने ब्राउज़र में वास्तविक कोड लिख और चला सकते हैं और तुरंत एआई प्रतिक्रिया पा सकते हैं—स्थानीय सेटअप की आवश्यकता नहीं है।
इस पाठ्यक्रम के सभी पाठ
- LLM मूल्यांकन मेट्रिक्स और बेंचमार्क
- Human-in-the-Loop फ़ीडबैक प्रणालियाँ
- प्रॉम्प्ट इंजेक्शन और सुरक्षा की सर्वोत्तम विधियाँ
- हैलुसिनेशन पहचानना और कम करना