تقنيات الذكاء الاصطناعي القابل للتفسير (XAI)

هل تساءلتم يومًا عن سبب اتخاذ الذكاء الاصطناعي قرارًا معينًا؟ الذكاء الاصطناعي القابل للتفسير (XAI) هو مجال يركّز على جعل نماذج الذكاء الاصطناعي أكثر شفافية وقابلية للفهم.

فهو يساعدنا على فهم سبب توقّع الذكاء الاصطناعي لشيء ما، بدلًا من معرفة ما الذي توقّعه فحسب. ويُعدّ ذلك ضروريًا لبناء الثقة وتصحيح أخطاء أنظمة الذكاء الاصطناعي بفاعلية.

لا يُعدّ فهم قرارات الذكاء الاصطناعي أمرًا ثانويًا، بل هو ضروري لعدة أسباب في برمجيات الذكاء الاصطناعي كخدمة:

• الثقة: تزداد احتمالية اعتماد المستخدمين على الذكاء الاصطناعي إذا فهموا آلية استدلاله.
• تصحيح الأخطاء: يساعد المطورين على تحديد الأخطاء أو التحيّزات في النماذج وإصلاحها.
• الامتثال: تتطلب العديد من اللوائح (مثل GDPR) تقديم تفسيرات للقرارات المؤتمتة.
• التحسين: يمكن للرؤى المستخلصة من XAI أن توجّه تحسين النموذج وهندسة الخصائص.

يمكن تصنيف تفسيرات XAI بحسب نطاقها:

• التفسيرات المحلية: تركز على تفسير تنبؤ واحد. فعلى سبيل المثال، تفسير سبب رفض طلب قرض محدد.
• التفسيرات العامة: تهدف إلى فهم سلوك النموذج ككل. فعلى سبيل المثال، تحديد الخصائص التي تكون عمومًا الأكثر أهمية لجميع التنبؤات التي يجريها النموذج.

يتمتع كلا النوعين بقيمة، إذ يقدّم كل منهما منظورًا مختلفًا حول طريقة عمل نموذج الذكاء الاصطناعي لديكم.

تتمثل طريقة أخرى لتصنيف تقنيات XAI في تحديد وقت إنشاء التفسير:

• التفسيرات القبلية: هي تفسيرات «مدمجة» ناتجة عن نماذج قابلة للتفسير بطبيعتها، مثل أشجار القرار أو الانحدار الخطي. فمنطق النموذج شفاف بطبيعته.
• التفسيرات اللاحقة: يتم إنشاؤها بعد أن يجري نموذج معقد «صندوقي» (مثل شبكة عصبية عميقة) تنبؤًا. وتهدف إلى إلقاء الضوء على آلية اتخاذه للقرار.

LIME (Local Interpretable Model-agnostic Explanations) هي تقنية لاحقة شائعة.

تعمل LIME من خلال إنشاء نموذج محلي قابل للتفسير (مثل نموذج خطي بسيط) حول تنبؤ محدد. وتُجري تغييرات طفيفة على بيانات الإدخال، ثم تراقب كيفية تغير تنبؤ النموذج الصندوقي. ويساعد ذلك على تحديد الخصائص التي أثرت في تلك النتيجة تحديدًا.

SHAP (SHapley Additive exPlanations) هي طريقة لاحقة قوية أخرى، تستند إلى قيم Shapley من نظرية الألعاب.

تُسند SHAP قيمة «أهمية» إلى كل خاصية في تنبؤ معين. وتمثل هذه القيم مقدار مساهمة كل خاصية في نقل التنبؤ من خط الأساس (المتوسط) إلى التنبؤ الفعلي. وتوفر SHAP رؤى محلية وعامة على حد سواء.

يُعدّ أهمية الخصائص مفهومًا أبسط نسبيًا في XAI. ويهدف إلى قياس مقدار مساهمة كل خاصية في دقة تنبؤ النموذج ككل أو في ناتجه.

تتمثل إحدى الطرق الشائعة في أهمية الخصائص بالتبديل. إذ تعمل على خلط قيم خاصية واحدة عشوائيًا، ثم ملاحظة مقدار انخفاض أداء النموذج. ويشير الانخفاض الكبير إلى أن الخاصية التي جرى تبديلها كانت مهمة بدرجة كبيرة.

تجيب التفسيرات المضادة للواقع عن السؤال التالي: «ما أصغر تغيير في خصائص الإدخال من شأنه تغيير تنبؤ النموذج إلى نتيجة مرغوبة؟»

فعلى سبيل المثال، إذا رُفض طلب قرض، فقد يقترح التفسير المضاد للواقع ما يلي: «لو كانت درجتكم الائتمانية أعلى بـ50 نقطة، لتمت الموافقة على قرضكم». ويوفر ذلك رؤى قابلة للتنفيذ للمستخدمين.

كيف تستخدم منتجات الذكاء الاصطناعي كخدمة XAI عمليًا؟

• التقييم الائتماني: تفسير سبب الموافقة على القرض أو رفضه.
• التشخيص الطبي: توضيح الأعراض التي أدت إلى تنبؤ تشخيصي معين.
• اكتشاف الاحتيال: إبراز تفاصيل المعاملة التي أدت إلى إطلاق تنبيه احتيال.
• التوصيات المخصصة: تفسير سبب التوصية بمنتج معين.

تبني هذه التفسيرات ثقة المستخدمين وتوفر شفافية بالغة الأهمية.

لنتحقق من فهمكم لتقنيات XAI.

أحسنتم! لقد تعلّمتم الذكاء الاصطناعي القابل للتفسير (XAI) وأهميته.

• يجعل XAI قرارات الذكاء الاصطناعي شفافة، مما يبني الثقة ويساعد على تصحيح الأخطاء.
• استكشفنا الفرق بين التفسيرات المحلية والعامة، وبين التفسيرات اللاحقة والقبلية.
• تساعدنا تقنيات أساسية مثل LIME وSHAP وأهمية الخصائص والتفسيرات المضادة للواقع على فهم نماذج الذكاء الاصطناعي بصورة أفضل.
• يمكن أن يؤدي تطبيق XAI في منتجكم القائم على نموذج SaaS إلى تحسين تجربة المستخدم والامتثال التنظيمي بدرجة كبيرة.

سنتناول بعد ذلك الإنصاف والمساءلة في تطوير الذكاء الاصطناعي.