تويتر يفتح المنافسة على حل الخوارزميات التي تعتبر تمييزية، ما هي الجوائز؟

تويتر يجعل المنافسة لأي شخص يمكن أن تحل مشكلة خوارزمية التطبيق. (الصورة: غير فلاش)

جاكرتا - يقدم تويتر مكافآت نقدية للمستخدمين يمكن أن تساعد في القضاء على التحيز في خوارزميات تشذيب الصور الآلية. أعلنت منصة وسائل الاعلام الاجتماعية 'مكافأة' من 3500 دولار كجزء من مؤتمر القراصنة DEF CON هذا الاسبوع في لاس فيغاس.

واجهت الشبكة الاجتماعية التي تتخذ من سان فرانسيسكو مقرا لها انتقادات بأن خوارزمية "saliency" الخاصة بها ، والتي تستخدم الذكاء الاصطناعي لتحديد أجزاء الصور الأكبر الأكثر أهمية أو أهمية للمراجعة ، تمييزية. لأن التكنولوجيا التي تعتبر تجسيد المرأة واختيار المواضيع البيضاء على تلك الملونة.

وقال رمان شودري وجوتا ويليامز من مشروع التعلم الآلي والأخلاق والشفافية والمساءلة على تويتر في تدوينة: "من الصعب العثور على تحيز في نماذج التعلم الآلي، وفي بعض الأحيان، تعرف الشركات عن الأضرار الأخلاقية غير المرغوب فيها بمجرد وصولها إلى الجمهور.

وقال "نريد تغيير ذلك. نريد أن ننمي مجتمعا مماثلا يركز على الأخلاق (التعلم الآلي)، لمساعدتنا في تحديد مجموعة أوسع من القضايا مما يمكننا القيام به بمفردنا".

وفي منشور نشر في أيار/مايو الماضي، قال شودري إن الاختبارات الداخلية التي أجرتها تويتر وجدت تفضيل 4 في المئة فقط للبيض على السود، و8 في المئة تفضيل للنساء على الرجال. واضاف "مقابل كل مئة صورة لكل مجموعة، يتم قطع حوالى ثلاث صور في مواقع اخرى غير الرأس".

لكن تشودري، الذي لديه خلفية تدقيق خوارزمية، قال إن تويتر لا يزال قلقا بشأن التحيز المحتمل في الخوارزميات الآلية لأنه "لا يسمح للناس بتمثيل أنفسهم بالطريقة التي يريدونها على المنصة".

"Saliency يحمل أيضا مخاطر محتملة أخرى خارج نطاق هذا التحليل، بما في ذلك عدم الحساسية للفروق الدقيقة الثقافية،" كتب.

وفقا للتعليمات على موقع HackerOne ، لا يجب أن يكون المرسلون في DEF CON للدخول في مسابقة هذا الأسبوع.

سيتم الحكم على المشاركات على مجموعة متنوعة من المعايير المرجحة، بما في ذلك ما إذا كان هناك تشهير، أو قوالب نمطية، أو نقص تمثيل أو تحريف، أو إزالة، أو فقدان السمعة، أو اقتصادي، أو حول هذا الموضوع - وما إذا كانت الخسارة متعمدة أو غير مقصودة.

كما ذكروا في المبادئ التوجيهية للمنافسة ما يلي: "يهدف تخصيص النقاط أيضا إلى تحفيز المشاركين على استكشاف المخاطر التمثيلية، لأنهم لم يحظوا تاريخيا باهتمام يذكر".

تستمر المسابقة حتى يوم الجمعة 6 أغسطس الساعة 11:59 مساء.m. كما يعد هذا التحدي بجائزة المركز الثانى التى تبلغ قيمتها الف دولار امريكى والمركز الثالث 500 دولار امريكى مع 1000 دولار امريكى لكل شحنة مبتكرة وينطبق على معظم انواع الخوارزميات .

سيتم الإعلان عن الفائز في ورشة عمل DEF CON الذكاء الاصطناعي Village التي تستضيفها تويتر في 9 أغسطس.

كما الصناعة "الأولى"، وقال وليامز وشوري أنهم يأملون في المسابقة يضع معيارا "لتحديد استباقية وجماعية من المخاطر الخوارزمية".