فضيحة عنصرية لأحدث تقنيات التعرف على الوجه

واجهت أحدث تقنيات أمازون للتعرف على الوجه انتقادات لاذعة حينما عجزت عن تحديد عدد من النساء ذوات البشرة الداكنة حسب ما أفاد معهد ماساتشوستس للتكنولوجيا.
وأظهرت التقنية أداء سيئا بشكل خاص عند تحديد النساء والنساء ذوات البشرة الداكنة إذ حددت التقنية بشكل غير صحيح 19 في المئة من الوجوه الأنثوية المعروضة عليه على أنهم رجال.
كما أن النتيجة كانت أسوأ بكثير بالنسبة للنساء ذوات البشرة الداكنة إذ حددت بشكل غير صحيح ما يصل إلى 31 في المئة منهن على أنهم رجال. بينما على سبيل المقارنة لم ترتكب التقنية أية أخطاء في محاولاتها لتحديد الرجال ذوي البشرة الفاتحة.
وحسب البوابة العربية للأخبار التقنية وجد معهد ماساتشوستس للتكنولوجيا أن تقنيات مماثلة طورتها آي بي إم IBM ومايكروسوفت كان أداؤها أفضل من تقنية أمازون إذ حددت تقنية مايكروسوفت بشكل غير صحيح 1.5 في المئة من النساء ذوات البشرة الداكنة على أنهن رجال.
وكانت الباحثة في معهد ماساتشوستس للتكنولوجيا جوي بولامويني قد أجرت دراسة مماثلة في شهر فبراير الماضي ووجدت أن تقنية التعرف على الوجه من IBM ومايكروسوفت تعاني من التحيز العنصري.
وولدت تلك الدراسة ردة فعل كبيرة للشركات حيث تعهدت كل من مايكروسوفت و IBM بإعادة تجهيز التقنية لتكون أكثر دقة وتقليل معدلات الخطأ بينما لم تقم شركة أمازون بإجراء أي تغييرات بعد الدراسة.
ويحذر الخبراء وكذلك مؤلفو التقرير من أنه في حالة استمرار تقنيات التعرف على الوجوه من المعاناة بشأن التحيز العنصري فإن ذلك يمكن أن يؤدي إلى تنميط المجتمع عرقيًا وغيره من المظالم.
وكتب الباحثون لا يمكن تجاهل إمكانية إساءة استخدام تقنيات تحليل الوجه ولا تتقلص التهديدات للخصوصية أو انتهاكات الحريات المدنية حتى مع انخفاض الفوارق الدقيقة .
وأضافوا هناك حاجة إلى مزيد من الاستكشافات بشأن الممارسات التجارية والمبادئ الأخلاقية لضمان حماية الفئات الضعيفة والمهمشة من السكان وعدم إلحاق الضرر بها مع تطور هذه التكنولوجيا .
وكانت أمازون قد واجهت دعوات متكررة لوقف بيع تقنية Rekognition للشرطة ويعتقد أن مكتب التحقيقات الفيدرالي FBI يختبر التقنية المثيرة للجدل في حين أكدت بيانات بيع أمازون للتقنية إلى وكالات تطبيق القانون في مدينة أورلاندو بولاية فلوريدا ومقاطعة واشنطن بولاية أوريغون.