دراسة: أنظمة التعرف على ملامح الوجه رقميًا متحيزة عنصريًا

ذكرت دراسة للمعهد الوطني للمعايير والتكنولوجيا الأمريكي أن الكثير من أنظمة التعرف على ملامح الوجه رقميا، تجد صعوبة في تحديد هوية الأمريكيين من أصول أفريقية أو آسيوية أو السكان الأصليين، مقارنة بتحديد هوية الأمريكيين من أصول أوروبية.

وأشارت الدراسة إلى ارتفاع نسبة الإجابة الخطأ عندما تتم مطابقة صورة وجه من ذوي الأصول الأفريقية أو الآسيوية أو من السكان الأصليين بصورة لنفس الشخص على قاعدة بيانات.

وتستخدم هذه التقنية المعروفة باسم مطابقة واحد بواحد في بعض الأعمال مثل فتح شاشة هاتف ذكي أو فحص كلمة مرور.

شملت الدراسة 189 لوغاريتما (برنامج تحليل بيانات) للتعرف على ملامح الوجه من 99 شركة تكنولوجيا كبرى مثل مايكروسوفت وإنتل وباناسونيك.

وذكر المعهد أن شركة أمازون للتجارة الإلكترونية لم تقدم لوغاريتما لاختباره، في حين يواجه اللوغاريتم الخاص بها واسمه ريكوجنيشن للتعرف على ملامح الوجه انتقادات بسبب تحيزاته المرتبطة بالعرق ونوع الجنس.

وأشار موقع سي نت دوت كوم المتخصص في موضوعات التكنولوجيا إلى أن الردود الإيجابية الخطأ تزداد في حالة مطابقة صور سيدة مقارنة بصورة الرجل، حيث اكتشف المعهد هذه المشكلة تتكرر باستمرار في كل البرامج والأنظمة التي فحصتها.

كما أن الردود الإيجابية الخطأ تزداد في حالة كبار السن والأطفال.

وقال باتريك جوتر خبير الكمبيوتر في المعهد وأحد معدي الدراسة في بيان "في حين أنه من الخطأ عادة الإدلاء ببيانات عن اللوغاريتمات، إلا أننا وجدنا بالفعل تحيزات ديموغرافية في أغلب هذه اللوغاريتمات، وفي حين أننا لا نبحث عن السبب المحتمل وراء هذا التباين، فإن نتائج الدراسة يمكن أن تكون مفيدة لصناعة السياسة والمطورين والمستخدمين للتفكير في المحددات والاستخدام المناسب لهذه اللوغاريتمات".

وأشار المعهد إلى أنه عند دراسة البرمجيات التي تستخدم في مطابقة صورة واحدة بعدة صور اكتشف أن احتمالات النتيجة الإيجابية الخطأ تزداد في حال السيدة الأمريكية من أصل إفريقي.

وهذه النتيجة مهمة للغاية لأن الخطأ في مطابقة صورة مع صورة أخرى يمكن أن يؤدي إلى اتهام شخص ما برئ بارتكاب جريمة على سبيل المثال.