الإنصاف والتحيز والضرر في العالم الحقيقي

يتعلم الذكاء الاصطناعي من كمّ هائل من النصوص والصور التي أنشأها البشر، ويتضمن سجل البشرية الظلم والقوالب النمطية ومواطن القصور. لذلك قد يستوعب الذكاء الاصطناعي هذه الأنماط ويكررها — ليس بدافع سوء النية، بل لأنه يعكس ما تم تزويده به. وفهم ذلك يساعدكم على استخدام الذكاء الاصطناعي بإنصاف أكبر، وعلى اكتشاف أخطائه عندما ينحرف.

يظهر التحيز بطرق ملموسة. فقد يعرض مولّد صور طُلب منه إنشاء «مدير تنفيذي» أشخاصًا من جنس أو عِرق واحد في الغالب. وقد تفضّل أداة لفرز السير الذاتية أسماءً معينة. وقد تفترض ترجمة ما أن الطبيب رجل وأن الممرضة امرأة. هذه ليست افتراضات نظرية — فكل حالة منها حدثت في أنظمة حقيقية وأثرت في أشخاص حقيقيين.

عندما يكون الذكاء الاصطناعي المتحيز جزءًا من قرارات التوظيف أو الإقراض أو إنفاذ القانون أو الرعاية الصحية، فإن الضرر لا يكون مجرد فكرة مجردة. فقد يُحرم أشخاص من وظائف أو قروض أو معاملة عادلة بسبب نظام يبدو محايدًا، لكنه يفضّل بعض المجموعات خفيةً. وتجعل هالة «الحاسوب قال ذلك» القرارات غير العادلة تبدو موضوعية، مما قد يصعّب الاعتراض عليها.

يتسلل التحيز غالبًا عبر بيانات التدريب: فإذا كانت البيانات السابقة تعكس تمييزًا سابقًا، تعلّم الذكاء الاصطناعي تكراره. وقد يتسلل أيضًا عبر الأشخاص الذين بنوا النظام وما اختبروه بحثًا عنه. فالآلة لا تقرر أن تكون غير عادلة، بل تنسخ بأمانة الأنماط الموجودة في بيانات معيبة. مدخلات رديئة، مخرجات متحيزة.

قد لا تبنون أنظمة ذكاء اصطناعي، لكنكم تستخدمون مخرجاتها. فإذا طلبتم من الذكاء الاصطناعي فرز المرشحين، أو كتابة تقييمات الأداء، أو الحكم على الأشخاص، أصبحت تحيزاته قرارات تتخذونها أنتم. ابقوا متيقظين: هل ستلحق هذه المخرجات ضررًا غير عادل بأحد؟ أضيفوا مراجعة بشرية لكل ما يؤثر في فرص الناس أو كرامتهم.

يمكنكم توجيه الذكاء الاصطناعي نحو مخرجات أكثر إنصافًا. اطلبوا أمثلة متنوعة: «أظهر مجموعة متنوعة من الأشخاص»، و«أدرج وجهات نظر من ثقافات مختلفة»، و«تجنب القوالب النمطية». وعند إنشاء أشخاص أو أدوار، اطلبوا التنوع صراحةً بدلًا من قبول الإعداد الافتراضي، الذي يميل غالبًا إلى النمط السائد في البيانات.

اقرؤوا مخرجات الذكاء الاصطناعي وفق معيار للإنصاف. هل افترضت جنسًا لمهنة ما؟ هل وصفت مجموعة بعبارات ضيقة ومبتذلة؟ هل أغفلت وجهات النظر تمامًا؟ تتيح تسمية القالب النمطي تصحيحه: «يعتمد هذا التصوير على قالب نمطي — يُرجى إعادة صياغته بإنصاف». أنتم المحررون الذين يرفضون تمرير التحيز.

تخيلوا استخدام الذكاء الاصطناعي لترتيب المتقدمين إلى وظيفة. إذا كانت التعيينات السابقة تميل بشدة إلى اتجاه واحد، فقد يرتب الذكاء الاصطناعي ملفات مشابهة في مراتب أعلى خفيةً ويضعف ترتيب ملفات أخرى — حتى لو كانت لمرشحين أقوياء. وقد يكون الاعتماد عليه بشكل أعمى غير عادل، بل وغير قانوني في أماكن كثيرة. يمكن للذكاء الاصطناعي المساعدة في الفرز، لكن يجب أن يتحمل إنسان مسؤولية القرارات التي تؤثر في سبل عيش الناس.

يعمل المطورون بنشاط على تقليل التحيز، وتتحسن الأدوات بمرور الوقت. ويتمثل دوركم في اليقظة الواقعية، لا في اليأس. استخدموا الذكاء الاصطناعي للاستفادة من فوائده الهائلة، مع الحفاظ على نظرة نقدية إلى المخرجات التي تمس الإنصاف. فالمستخدمون الواعون يجعلون الذكاء الاصطناعي أكثر أمانًا بمجرد رفض قبول النتائج المتحيزة.

إذا لاحظتم أن أداة ذكاء اصطناعي تنتج مخرجات متحيزة أو ضارة بوضوح، فأبلغوا عنها — إذ تحتوي معظم المنصات على أزرار لإرسال الملاحظات. ويساعد بلاغكم المطورين على إصلاح أنماط تؤثر في أشخاص كثيرين. فالتعامل مع الإنصاف بوصفه مسؤولية الجميع، لا المهندسين وحدهم، هو ما يجعل هذه الأنظمة أفضل.

يعكس الذكاء الاصطناعي التحيز البشري الموجود في بيانات تدريبه، ويسبب هذا التحيز ضررًا حقيقيًا عندما يكون جزءًا من القرارات المتعلقة بالناس. ابقوا متيقظين في استخدامكم، واطلبوا التنوع في المطالبات، واكتشفوا القوالب النمطية، وأبقوا البشر مسؤولين عن القرارات عالية المخاطر، وأبلغوا عن المشكلات. فأنتم تساعدون في بناء ذكاء اصطناعي أكثر إنصافًا بمجرد رفض تمرير تحيزه.

تخططون لاستخدام أداة ذكاء اصطناعي للمساعدة في ترتيب المتقدمين لوظيفة.

يعكس الذكاء الاصطناعي التحيز البشري الموجود في بيانات تدريب معيبة، ويسبب هذا التحيز ضررًا حقيقيًا عندما يقود القرارات المتعلقة بالناس. ابقوا يقظين في استخدامكم، واطلبوا التنوع، واكتشفوا القوالب النمطية، وأبقوا البشر مسؤولين عن القرارات عالية المخاطر، وأبلغوا عن المشكلات. إن رفض تمرير التحيز يجعلكم جزءًا من بناء ذكاء اصطناعي أكثر إنصافًا.