Twitter Enquête Sur Les Préjugés Raciaux Vus Dans Les Aperçus De Photos

Twitter ilustrasi (Photo de Kon Karampelas sur Unsplash)

JAKARTA - Le réseau social Twitter teste les fonctionnalités de détection des visages et des photos à l'aide de la technologie des réseaux neuronaux. Malheureusement, certains utilisateurs disent en fait que cette fonctionnalité organise les visages de manière raciste.

Rapporté par Gizmodo, lundi 21 septembre, un certain nombre d'internautes ont constaté que cette nouvelle fonctionnalité Twitter ne choisit que les visages blancs plutôt que les utilisateurs noirs. Non seulement cela, la fonction de recadrage automatique de Twitter réduit également légèrement les utilisateurs noirs par rapport à leur position générale.

Tenter une expérience horrible ... Quel sera le choix de l'algorithme Twitter: Mitch McConnell ou Barack Obama? pic.twitter.com/bR1GRyCkia

- Tony «Abolish (Pol) ICE» Arcieri 🦀 (@bascule) 19 septembre 2020

D'autres utilisateurs ont également signalé la même chose, en tweetant des problèmes avec l'algorithme de détection de Zoom qui ont été téléchargés sur Twitter. Où le filtre d'arrière-plan Zoom ne reconnaît pas les visages de ses utilisateurs noirs.

À propos de ce problème, le chef de la conception de Twitter, Dantley Davis, a tweeté que la société enquêtait sur une erreur algorithmique survenue dans son système de réseau neuronal. Là où Twitter fait encore des essais dans plusieurs secteurs, comme la reconnaissance faciale.

Je me demande comment se fait-il que vous ayez dit cela sans le tester? pic.twitter.com/rro1vn8Mh8

- Graham Christensen (@grhmc) 19 septembre 2020

Pendant ce temps, le responsable de la technologie Twitter Parag Agrawal a également révélé dans un tweet que la fonctionnalité devait encore être améliorée. Là où l'algorithme de Twitter étudie toujours le comportement des utilisateurs de Twitter.

"Notre équipe a testé les préjugés avant de soumettre le modèle et n'a trouvé aucune preuve de préjugé racial ou sexiste dans nos tests. Mais il est clair d'après ces exemples que nous avons plus d'analyses à faire", a déclaré la porte-parole de Twitter, Liz Kelley, à Gizmodo.

Twitter promet d'étudier les problèmes d'algorithme que ses utilisateurs trouvent. Cependant, Twitter a souligné ne sera pas raciste et partial dans le développement de cette nouvelle fonctionnalité.

C'est une question très importante. Pour y remédier, nous avons analysé notre modèle lors de son expédition, mais nous avons besoin d'une amélioration continue. J'adore ce test public, ouvert et rigoureux - et je suis impatient d'en tirer des leçons. https://t.co/E8Y71qSLXa

- Parag Agrawal (@paraga) 20 septembre 2020

Plus tôt en 2018, Twitter a publié un article de blog expliquant comment la technologie des réseaux neuronaux est utilisée pour prendre des décisions relatives à l'aperçu des photos. L'un des facteurs qui amène le système à sélectionner une partie de l'image est un niveau de contraste plus élevé.

Cela pourrait expliquer comment l'algorithme Twitter semble préférer les visages blancs. La décision d'utiliser le contraste comme facteur déterminant n'a peut-être pas été délibérément raciste, mais montrer un visage blanc plus souvent qu'un visage noir est un résultat biaisé.