جاكرتا - تختبر الشبكة الاجتماعية Twitter ميزات اكتشاف الوجه والصور باستخدام تقنية الشبكة العصبية. لسوء الحظ ، يقول بعض المستخدمين في الواقع أن هذه الميزة ترعى الوجوه بطريقة عنصرية.
وفقًا لـ Gizmodo ، يوم الاثنين 21 سبتمبر ، وجد عدد من مستخدمي الإنترنت أن ميزة Twitter الجديدة هذه تختار الوجوه البيضاء فقط على المستخدمين السود. ليس ذلك فحسب ، فإن ميزة الاقتصاص التلقائي في Twitter تضع المستخدمين السود بشكل حساس في أسفل قليلاً من وضعهم العام.
محاولة تجربة مروعة ... أيهما ستختاره خوارزمية تويتر: ميتش مكونيل أم باراك أوباما؟ pic.twitter.com/bR1GRyCkia
- توني “Abolish (Pol) ICE” Arcieri 🦀 (bascule) 19 سبتمبر 2020
أبلغ المستخدمون الآخرون أيضًا عن نفس الشيء ، حيث قاموا بالتغريد عن مشكلات خوارزمية الكشف من Zoom والتي تم تحميلها على Twitter. حيث لا يتعرف مرشح Zoom background على وجوه مستخدميها من السود.
فيما يتعلق بهذه المشكلة ، غرد رئيس تصميم تويتر دانتلي ديفيس أن الشركة كانت تحقق في خطأ حسابي حدث في نظام شبكتها العصبية. حيث لا يزال تويتر يقوم بإجراء التجارب في عدة قطاعات ، مثل التعرف على الوجه.
أتساءل كيف قلت هذا دون اختباره؟ pic.twitter.com/rro1vn8Mh8
- Graham Christensen (grhmc) 19 سبتمبر 2020
في غضون ذلك ، كشف رئيس تقنية Twitter Parag Agrawal في تغريدة أن الميزة لا تزال بحاجة إلى تحسين. حيث لا تزال خوارزمية Twitter تدرس سلوك مستخدمي Twitter.
قال المتحدث باسم تويتر ليز كيلي لموقع Gizmodo: "اختبر فريقنا التحيز قبل تقديم النموذج ولم يجد أي دليل على التحيز العنصري أو الجنساني في اختباراتنا. لكن من الواضح من هذه الأمثلة أن لدينا المزيد من التحليلات التي يجب القيام بها"
يعد Twitter بالتحقيق في مشكلات الخوارزمية التي يجدها مستخدموها. ومع ذلك ، أكد تويتر أنه لن يكون عنصريًا ومنحازًا في تطوير هذه الميزة الجديدة.
هذا سؤال مهم جدا. لمعالجة ذلك ، قمنا بتحليل نموذجنا عندما قمنا بشحنه ، لكننا بحاجة إلى تحسين مستمر. أحب هذا الاختبار العام والمفتوح والصارم - وحريصًا على التعلم من ذلك. https://t.co/E8Y71qSLXa
- Parag Agrawal (paraga) 20 سبتمبر 2020
في وقت سابق من عام 2018 ، نشر Twitter منشور مدونة يشرح كيفية استخدام تقنية الشبكة العصبية لاتخاذ قرارات معاينة الصور. أحد العوامل التي تجعل النظام يحدد جزءًا من الصورة هو مستوى التباين الأعلى.
قد يفسر هذا كيف يبدو أن خوارزمية Twitter تفضل الوجوه البيضاء. قد لا يكون قرار استخدام التباين كعامل حاسم عنصريًا عن عمد ، ولكن إظهار وجه أبيض أكثر من الوجه الأسود هو نتيجة متحيزة.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
أخبار ذات صلة
