कृत्रिम बुद्धिमत्ता नैतिकता और शासन के फ़्रेमवर्क

सबसे ऊपर अस्वीकार्य जोखिम वाली प्रणालियाँ पूरी तरह प्रतिबंधित हैं। इनके उदाहरणों में सरकारी सामाजिक स्कोरिंग और ऐसी हेरफेर करने वाली प्रणालियाँ शामिल हैं जो लोगों की कमजोरियों का लाभ उठाती हैं। सुरक्षा उपाय मौजूद होने पर भी इन्हें लागू नहीं किया जा सकता।

उच्च-जोखिम वाली प्रणालियों (चिकित्सीय उपकरण, भर्ती, ऋण-स्कोरिंग, महत्वपूर्ण बुनियादी ढाँचा) की अनुमति है, लेकिन उनका कड़ा विनियमन होता है: बाज़ार में प्रवेश से पहले इनके लिए जोखिम प्रबंधन, उच्च-गुणवत्ता वाला डेटा, लॉगिंग, मानवीय निगरानी और अनुरूपता आकलन आवश्यक हैं।

निचले स्तरों में अपेक्षाकृत हल्के दायित्व होते हैं:

• सीमित जोखिम (चैटबॉट, डीपफेक) में पारदर्शिता आवश्यक है, जैसे उपयोगकर्ताओं को बताना कि वे एआई से बातचीत कर रहे हैं
• न्यूनतम जोखिम (स्पैम फ़िल्टर, गेम एआई) पर लगभग कोई दायित्व नहीं होता

ऊपर से नीचे तक EU के एआई अधिनियम का पिरामिड इस प्रकार है: अस्वीकार्य (प्रतिबंधित), उच्च (कठोर आवश्यकताएँ), सीमित (पारदर्शिता संबंधी दायित्व) और न्यूनतम (मुक्त उपयोग)। रोज़मर्रा में उपयोग होने वाला अधिकांश एआई निचले दो स्तरों में आता है।

मॉडल कार्ड किसी मॉडल के साथ प्रकाशित किया जाने वाला एक छोटा, मानकीकृत दस्तावेज़ है। यह बताता है कि मॉडल किस काम के लिए है और कहाँ इसका उपयोग नहीं किया जाना चाहिए, ताकि बाद में इसका उपयोग करने वाली टीमें सूचित निर्णय ले सकें। यह एआई के लिए पोषण-लेबल के समान है।

इच्छित उपयोग वाला अनुभाग मुख्य उद्देश्य, लक्षित उपयोगकर्ताओं और स्पष्ट रूप से दायरे से बाहर रखे गए उपयोगों को बताता है। इससे दुरुपयोग रुकता है, जैसे अंग्रेज़ी ट्वीट्स पर प्रशिक्षित भाव-विश्लेषण मॉडल को कानूनी अनुबंधों पर लागू करना।

प्रदर्शन वाला अनुभाग मापदंडों की जानकारी देता है, जिन्हें आदर्श रूप से उपसमूहों के अनुसार विभाजित किया जाता है, साथ ही उपयोग किए गए मूल्यांकन डेटा की भी जानकारी देता है। अलग-अलग समूहों के मापदंड बताते हैं कि मॉडल सभी के लिए अच्छी तरह काम करता है या केवल बहुसंख्यक समूह के लिए।

सावधानियाँ और सीमाएँ वाला अनुभाग ज्ञात विफलता-स्थितियों, पक्षपातों और उन परिस्थितियों की सूची देता है जहाँ मॉडल का प्रदर्शन घटता है, जैसे कम-संसाधन वाली भाषाएँ या वितरण से बाहर के इनपुट। ईमानदार सावधानियाँ भरोसा बनाती हैं और नुकसान से बचाती हैं।

टीमें लॉन्च से पहले समीक्षा की जाने वाली उत्तरदायी एआई जाँच-सूची के माध्यम से शासन को व्यवहार में लागू करती हैं:

• क्या प्रशिक्षण डेटा प्रतिनिधिक और सहमति-आधारित है?
• क्या हमने समूहों के बीच निष्पक्षता मापी है?
• क्या उच्च-दाँव वाले निर्णयों के लिए मानवीय निगरानी मौजूद है?
• क्या प्रभावित उपयोगकर्ताओं के लिए व्याख्याएँ उपलब्ध हैं?
• क्या मॉडल कार्ड प्रकाशित किया गया है और निगरानी योजना लागू है?

आपने एआई नैतिकता और शासन के बारे में सीखा:

• EU AI अधिनियम का जोखिम पिरामिड: अस्वीकार्य (प्रतिबंधित), उच्च (कठोर), सीमित (पारदर्शिता), न्यूनतम (मुक्त)
• मॉडल कार्ड इच्छित उपयोग, प्रदर्शन (अलग-अलग समूहों के अनुसार) और सावधानियों का दस्तावेज़ीकरण करता है
• जिम्मेदार एआई जाँच-सूची सिद्धांतों को लॉन्च-पूर्व मानदंडों में बदलती है