يحقق Twitter في التحيز العنصري الذي يظهر في معاينات الصور

جاكرتا - تختبر الشبكة الاجتماعية Twitter ميزات اكتشاف الوجه والصور باستخدام تقنية الشبكة العصبية. لسوء الحظ ، يقول بعض المستخدمين في الواقع أن هذه الميزة ترعى الوجوه بطريقة عنصرية.

وفقًا لـ Gizmodo ، يوم الاثنين 21 سبتمبر ، وجد عدد من مستخدمي الإنترنت أن ميزة Twitter الجديدة هذه تختار الوجوه البيضاء فقط على المستخدمين السود. ليس ذلك فحسب ، فإن ميزة الاقتصاص التلقائي في Twitter تضع المستخدمين السود بشكل حساس في أسفل قليلاً من وضعهم العام.

أبلغ المستخدمون الآخرون أيضًا عن نفس الشيء ، حيث قاموا بالتغريد عن مشكلات خوارزمية الكشف من Zoom والتي تم تحميلها على Twitter. حيث لا يتعرف مرشح Zoom background على وجوه مستخدميها من السود.

فيما يتعلق بهذه المشكلة ، غرد رئيس تصميم تويتر دانتلي ديفيس أن الشركة كانت تحقق في خطأ حسابي حدث في نظام شبكتها العصبية. حيث لا يزال تويتر يقوم بإجراء التجارب في عدة قطاعات ، مثل التعرف على الوجه.

في غضون ذلك ، كشف رئيس تقنية Twitter Parag Agrawal في تغريدة أن الميزة لا تزال بحاجة إلى تحسين. حيث لا تزال خوارزمية Twitter تدرس سلوك مستخدمي Twitter.

قال المتحدث باسم تويتر ليز كيلي لموقع Gizmodo: "اختبر فريقنا التحيز قبل تقديم النموذج ولم يجد أي دليل على التحيز العنصري أو الجنساني في اختباراتنا. لكن من الواضح من هذه الأمثلة أن لدينا المزيد من التحليلات التي يجب القيام بها"

يعد Twitter بالتحقيق في مشكلات الخوارزمية التي يجدها مستخدموها. ومع ذلك ، أكد تويتر أنه لن يكون عنصريًا ومنحازًا في تطوير هذه الميزة الجديدة.

في وقت سابق من عام 2018 ، نشر Twitter منشور مدونة يشرح كيفية استخدام تقنية الشبكة العصبية لاتخاذ قرارات معاينة الصور. أحد العوامل التي تجعل النظام يحدد جزءًا من الصورة هو مستوى التباين الأعلى.

قد يفسر هذا كيف يبدو أن خوارزمية Twitter تفضل الوجوه البيضاء. قد لا يكون قرار استخدام التباين كعامل حاسم عنصريًا عن عمد ، ولكن إظهار وجه أبيض أكثر من الوجه الأسود هو نتيجة متحيزة.