أطر أخلاقيات الذكاء الاصطناعي وحوكمته
نظرة عامة على قانون الذكاء الاصطناعي للاتحاد الأوروبي، وبطاقات النماذج، وأوراق بيانات مجموعات البيانات، وقوائم التحقق للذكاء الاصطناعي المسؤول
أطر أخلاقيات الذكاء الاصطناعي وحوكمته درس مجاني في Learn AI with Python على CoddyKit. هذا هو الدرس 4 من أصل 4. يمكنك قراءة الدرس كاملاً أدناه مجاناً — ثم تمرن عليه مباشرة في المتصفح باستخدام محرر أكواد مدمج ومدرس ذكاء اصطناعي متاح 24/7. هذا الدرس جزء من مسار التعلم في Learn AI with Python، وتقدمك يتزامن عبر الويب وتطبيق CoddyKit. تتضمن دورة Learn AI with Python 4 دروس في المجموع.
أهمية الحوكمة
تنطوي النماذج القادرة على مخاطر حقيقية: التمييز، والإضرار بالخصوصية، والمعلومات المضللة، وإخفاقات السلامة. وتشمل حوكمة الذكاء الاصطناعي مجموعة السياسات والعمليات والوثائق التي تحافظ على قانونية أنظمة الذكاء الاصطناعي وإنصافها وخضوعها للمساءلة طوال دورة حياتها.
قانون الذكاء الاصطناعي للاتحاد الأوروبي
قانون الذكاء الاصطناعي للاتحاد الأوروبي لائحة بارزة تصنف أنظمة الذكاء الاصطناعي حسب مستوى المخاطر، وتفرض التزامات تتناسب مع ذلك المستوى. ويستخدم القانون هرمًا للمخاطر من أربع فئات.
فئة المخاطر: غير المقبولة
في القمة، تكون أنظمة المخاطر غير المقبولة محظورة حظرًا تامًا. ومن أمثلتها التنقيط الاجتماعي الحكومي والأنظمة التلاعبية التي تستغل مواطن الضعف. ولا يجوز نشر هذه الأنظمة بصرف النظر عن الضمانات.
فئة المخاطر: العالية
الأنظمة عالية المخاطر (الأجهزة الطبية، والتوظيف، وتقييم الجدارة الائتمانية، والبنية التحتية الحيوية) مسموح بها، لكنها تخضع لتنظيم صارم: إذ تتطلب إدارة المخاطر، وبيانات عالية الجودة، وتسجيل السجلات، وإشرافًا بشريًا، وتقييم المطابقة قبل دخول السوق.
فئتا المخاطر: المحدودة والدنيا
الفئات الأدنى أقل صرامة:
- المخاطر المحدودة (روبوتات المحادثة والتزييف العميق) تتطلب الشفافية، مثل إخبار المستخدمين بأنهم يتفاعلون مع الذكاء الاصطناعي
- المخاطر الدنيا (مرشحات البريد المزعج وذكاء الألعاب) لا تترتب عليها التزامات تُذكر
ملخص هرم المخاطر
من الأعلى إلى الأسفل، يتكون هرم قانون الذكاء الاصطناعي للاتحاد الأوروبي من: غير المقبولة (محظورة)، والعالية (متطلبات صارمة)، والمحدودة (واجبات الشفافية)، والدنيا (استخدام غير مقيّد). ويقع معظم الذكاء الاصطناعي المستخدم يوميًا ضمن الفئتين الأدنى.
بطاقات النماذج
بطاقة النموذج وثيقة قصيرة وموحدة تُنشر إلى جانب النموذج. وتوضح الغرض من النموذج ومواطن عدم ملاءمة استخدامه، كي تتخذ الفرق التي تعتمد عليه لاحقًا قرارات مستنيرة. وهي بمثابة ملصق المعلومات الغذائية في مجال الذكاء الاصطناعي.
بطاقة النموذج: الاستخدام المقصود
يحدد قسم الاستخدام المقصود الغرض الأساسي والمستخدمين المستهدفين والاستخدامات المستثناة صراحةً من النطاق. ويمنع ذلك إساءة الاستخدام، مثل تطبيق نموذج لتحليل المشاعر مدرّب على تغريدات باللغة الإنجليزية على عقود قانونية.
# Intended use:
# - Primary: classify product reviews as positive/negative
# - Users: internal analytics team
# - Out of scope: medical or legal textبطاقة النموذج: الأداء
يعرض قسم الأداء المقاييس، ويفضل تفصيلها حسب المجموعة الفرعية، وبيانات التقييم المستخدمة. وتكشف المقاييس المفصلة ما إذا كان النموذج يعمل جيدًا مع الجميع أم مع مجموعة الأغلبية فقط.
# Performance:
# - Overall accuracy: 0.91
# - By language: en 0.93, es 0.84
# - Eval set: 10k held-out reviewsبطاقة النموذج: التحفظات
يسرد قسم التحفظات والقيود حالات الفشل المعروفة والتحيزات والظروف التي يتدهور فيها أداء النموذج، مثل اللغات منخفضة الموارد أو المدخلات خارج التوزيع. ويسهم التصريح الصادق بالتحفظات في بناء الثقة ومنع الضرر.
قائمة التحقق للذكاء الاصطناعي المسؤول
تُفعّل الفرق الحوكمة عمليًا باستخدام قائمة التحقق للذكاء الاصطناعي المسؤول التي تُراجع قبل الإطلاق:
- هل بيانات التدريب ممثلة للفئات، وحصلنا على الموافقة عليها؟
- هل قسنا الإنصاف بين المجموعات؟
- هل يوجد إشراف بشري على القرارات عالية المخاطر؟
- هل تتوفر تفسيرات للمستخدمين المتأثرين؟
- هل نُشرت بطاقة نموذج ووُضعت خطة للمراقبة؟
اختبار سريع
اختبروا معرفتكم بالحوكمة.
مراجعة
لقد تعلّمتم أخلاقيات الذكاء الاصطناعي وحوكمته:
- هرم المخاطر في EU AI Act: غير مقبول (محظور)، مرتفع (ضوابط صارمة)، محدود (شفافية)، ضئيل (حر)
- يوثّق Model Card الاستخدام المقصود، والأداء (مفصّلًا حسب الفئات)، والتحفظات
- تحوّل قائمة التحقق للذكاء الاصطناعي المسؤول المبادئ إلى ضوابط إلزامية قبل الإطلاق
تعلم Python مع معلم ذكاء اصطناعي — مجانًا
اكتب وقم بتشغيل أكوادك الفعلية في المتصفح، واحصل على مساعدة فورية من معلم ذكاء اصطناعي متاح 24/7، واستمر من حيث توقفت على الويب أو في التطبيق.
- الدورات
- 53
- الدروس
- 225
الأسئلة الشائعة
هل درس «أطر أخلاقيات الذكاء الاصطناعي وحوكمته» مجاني؟
نعم — نص درس «أطر أخلاقيات الذكاء الاصطناعي وحوكمته» كامل متاح مجاناً هنا على الويب. لتمرينه بشكل تفاعلي (محرر أكواد مدمج ومدرس ذكاء اصطناعي متاح 24/7) وفتح باقي دورة Learn AI with Python، انتقل إلى CoddyKit PRO. تتضمن دورة Learn AI with Python 4 دروس في المجموع.
ماذا ستتعلم في «أطر أخلاقيات الذكاء الاصطناعي وحوكمته»؟
نظرة عامة على قانون الذكاء الاصطناعي للاتحاد الأوروبي، وبطاقات النماذج، وأوراق بيانات مجموعات البيانات، وقوائم التحقق للذكاء الاصطناعي المسؤول تتمرن على Learn AI with Python مع أكواد عملية تشغلها مباشرة في المتصفح، ومدرس ذكاء اصطناعي متاح 24/7 يجيب على أسئلتك أثناء عملك.
هل أحتاج إلى خبرة سابقة لأبدأ Learn AI with Python؟
لا تُشترط خبرة سابقة. Learn AI with Python على CoddyKit منظم للمبتدئين حتى المتقدمين، لذا يمكنك البدء من هنا أو من البداية والتقدم بسرعتك الخاصة. هذا هو الدرس 4 من أصل 4.
كم من الوقت يستغرق درس «أطر أخلاقيات الذكاء الاصطناعي وحوكمته»؟
معظم دروس CoddyKit تستغرق حوالي 5–10 دقائق. كل منها موجز وتفاعلي، لذا تحرز تقدماً مستمراً وتستأنف من حيث توقفت عبر الويب والتطبيق.
هل يمكنني كتابة وتشغيل أكواد في درس Learn AI with Python هذا؟
نعم. كل درس في Learn AI with Python يتضمن محرر أكواد مدمج، لذا تكتب وتشغل أكواداً حقيقية مباشرة في متصفحك وتحصل على تعليقات فورية من الذكاء الاصطناعي — بدون إعداد محلي.
جميع الدروس في هذه الدورة
- اكتشاف التحيّز في نماذج التعلم الآلي
- قيم SHAP لقابلية تفسير النماذج
- LIME: تفسيرات محلية قابلة للتفسير
- أطر أخلاقيات الذكاء الاصطناعي وحوكمته