سلسلة من الانتقادات والاتهامات بالعنصرية واجهت أحدث تقنيات أمازون للتعرف على الوجه، حينما أظهرت التقنية أداءً سيئاً عند تحديد عدد من النساء ذوات البشرة الداكنة، حسب ما أفاد معهد ماساتشوستس للتكنولوجيا.

إذ حددت بشكل غير صحيح ما يصل إلى 31 في المئة من النساء على أنهم رجال. بينما لم ترتكب التقنية أخطاء في محاولاتها لتحديد الرجال ذوي البشرة الفاتحة.

وحسب البوابة العربية للأخبار التقنية، وجد معهد ماساتشوستس للتكنولوجيا أن تقنيات مماثلة طورتها آي بي إم IBM ومايكروسوفت كان أداؤها أفضل من تقنية أمازون، إذ حددت تقنية مايكروسوفت بشكل غير صحيح 1.5 في المئة من النساء ذوات البشرة الداكنة على أنهن رجال.

وكانت الباحثة في معهد ماساتشوستس للتكنولوجيا، جوي بولامويني، قد أجرت دراسة مماثلة في شهر فبراير الماضي، ووجدت أن تقنية التعرف على الوجه من IBM ومايكروسوفت تعاني من التحيز العنصري.

وبموجبها تعهدت كل من مايكروسوفت و IBM بإعادة تجهيز التقنية لتكون أكثر دقة وتقليل معدلات الخطأ، بينما لم تقم شركة أمازون بإجراء أي تغييرات بعد الدراسة.

ويحذر الخبراء، بأن استمرار تقنيات أمازون بعدم التعرف على الوجوه، سيشكل معاناة بشأن التحيز العنصري، ومن الممكن أن يؤدي إلى تنميط المجتمع عرقيًا وغيره من المظالم.

وفي ذات السياق، كتب الباحثون "لا يمكن تجاهل إمكانية إساءة استخدام تقنيات تحليل الوجه، ولا تتقلص التهديدات للخصوصية أو انتهاكات الحريات المدنية حتى مع انخفاض الفوارق الدقيقة".

وأضافوا :"هناك حاجة إلى مزيد من الاستكشافات بشأن الممارسات التجارية والمبادئ الأخلاقية لضمان حماية الفئات الضعيفة والمهمشة من السكان وعدم إلحاق الضرر بها مع تطور هذه التكنولوجيا".

وكانت أمازون قد واجهت دعوات متكررة لوقف بيع تقنية Rekognition للشرطة، ويعتقد أن مكتب التحقيقات الفيدرالي FBI يختبر التقنية المثيرة للجدل، في حين أكدت بيانات بيع أمازون للتقنية إلى وكالات تطبيق القانون في مدينة أورلاندو بولاية فلوريدا ومقاطعة واشنطن بولاية أوريغون.