Rite Aid تنهي التعرف على الوجه بواسطة الذكاء الاصطناعي وسط مخاوف من التحيز

الاستيطان يشعل التغيير

توصلت شركة Rite Aid إلى تسوية مع لجنة التجارة الفيدرالية (FTC)، مما أدى إلى وقف تقنية التعرف على الوجه المستندة إلى الذكاء الاصطناعي. وقد واجهت هذه التكنولوجيا، المستخدمة منذ عام 2012 لمنع السرقة من المتاجر، انتقادات بسبب التنميط العنصري. وبحسب ما ورد استهدفت المتسوقين السود واللاتينيين والآسيويين أكثر من الأفراد البيض.

التحيز في الذكاء الاصطناعي: دراسة حالة لعنصرية البيع بالتجزئة

تشمل الادعاءات ضد نظام Rite Aid التنميط العنصري، وخاصة ضد العملاء الملونين. تم الإبلاغ عن هؤلاء العملاء في كثير من الأحيان بتهمة السرقة المحتملة، وهي ممارسة مرتبطة بقضايا العنصرية الأوسع في مجال البيع بالتجزئة. لقد تجلى هذا التمييز تاريخيًا في ممارسات البيع بالتجزئة المختلفة، حيث استهدف المتسوقين السود بشكل غير عادل.

سجل التكنولوجيا المزعج

لقد أظهر استخدام الذكاء الاصطناعي في أماكن البيع بالتجزئة مثل Rite Aid’s اتجاها مثيرا للقلق: إدامة التحيزات العنصرية. تعكس هذه التحيزات، وفقا لراشون راي من معهد بروكينجز، الصور النمطية المجتمعية. ويمكن للذكاء الاصطناعي، عند تصميمه في بيئات غير متنوعة، تشفير هذه التحيزات وتضخيمها.

التدابير المضللة وآثارها

لم يساهم نظام الذكاء الاصطناعي الخاص بشركة Rite Aid في التنميط العنصري فحسب، بل كان له أيضًا آثار مالية. وواجه المتسوقون الذين استهدفوا بشكل خاطئ، ومعظمهم من الأقليات، إذلالًا علنيًا، مما أثر بدوره على إيرادات المتجر. وفي بعض المناطق، لم يكن لدى هؤلاء المتسوقين خيارات أخرى للبيع بالتجزئة، مما أجبرهم على تحمل هذه البيئة التمييزية.

ما وراء البيع بالتجزئة: مخاوف أوسع بشأن الذكاء الاصطناعي

لا تقتصر المشكلات المتعلقة بالذكاء الاصطناعي المتحيز على البيع بالتجزئة. وكانت هناك حالات في قطاعات أخرى، مثل الشرطة، حيث أدت أخطاء الذكاء الاصطناعي إلى اعتقالات غير مشروعة. تُظهر البيانات الواردة من مركز بيو للأبحاث نقصًا كبيرًا في الثقة في الذكاء الاصطناعي بين مجتمعات السود، لا سيما فيما يتعلق باستخدامه في إنفاذ القانون.

يدعو إلى المسؤولية والاختبار

ردًا على هذه المخاوف، اعترض بعض أعضاء مجلس الشيوخ الأمريكي على استخدام تقنية التعرف على الوجه في المطارات، مشيرين إلى ارتفاع معدلات الخطأ بالنسبة للأشخاص ذوي البشرة الملونة. كجزء من التسوية مع لجنة التجارة الفيدرالية، ستوقف Rite Aid مراقبة الذكاء الاصطناعي لمدة خمس سنوات. ويدعو الخبراء تجار التجزئة الآخرين إلى إجراء اختبارات شاملة لتحديد وتصحيح التحيزات في تقنيات الذكاء الاصطناعي.

يثير إيقاف تقنية التعرف على الوجه الخاصة بـ Rite Aid أسئلة أساسية حول الاستخدام الأخلاقي للذكاء الاصطناعي في تجارة التجزئة وخارجها. وفي حين أنه يمثل خطوة نحو معالجة التحيز العنصري في التكنولوجيا، فإنه يسلط الضوء أيضًا على التحديات المستمرة في ضمان أن تكون أنظمة الذكاء الاصطناعي عادلة ومنصفة للجميع.