Twitter Ouvre Un Concours Pour Résoudre Les Algorithmes Considérés Comme Discriminatoires, Quels Sont Les Prix?

JAKARTA - Twitter offre des récompenses en espèces aux utilisateurs qui peuvent aider à éliminer les biais dans ses algorithmes automatisés de découpage de photos. La plate-forme de médias sociaux a annoncé une « récompense » de 3 500 $ dans le cadre de la convention de pirates DEF CON de cette semaine à Las Vegas.

Le réseau social basé à San Francisco a fait face à des critiques selon lesquelles son algorithme de « saliency », qui utilise l’intelligence artificielle pour décider quelles parties d’images plus grandes sont les plus pertinentes ou les plus importantes à examiner, est discriminatoire. Parce que leur technologie est considérée comme objectiver les femmes et choisir des sujets blancs plutôt que ceux de couleur.

« Trouver des préjugés dans les modèles d’apprentissage automatique est difficile, et parfois, les entreprises sont au courant des préjudices éthiques indésirables une fois qu’ils atteignent le public », ont déclaré Rumman Chowdhury et Jutta Williams du projet d’apprentissage automatique, d’éthique, de transparence et de responsabilité (META) de Twitter dans un billet de blog.

« Nous voulons changer cela. Nous voulons développer une communauté similaire, axée sur l’éthique (apprentissage automatique), pour nous aider à identifier un éventail plus large de problèmes que nous ne pouvons le faire seuls », a ajouté le post.

Dans un post en mai dernier, Chowdhury a déclaré que les tests internes de Twitter n’ont trouvé que 4% de préférence pour les Blancs par rapport aux Noirs, et 8% de préférence pour les femmes par rapport aux hommes. « Pour 100 images par groupe, environ trois sont coupées dans des endroits autres que la tête », a-t-il ajouté.

Mais Chowdhury, qui a une expérience de l’audit algorithmique, a déclaré que Twitter était toujours préoccupé par un possible biais dans les algorithmes automatisés car « les gens ne sont pas autorisés à se représenter comme ils le souhaitent sur la plate-forme ».

« L’importance détient également d’autres dangers potentiels au-delà de la portée de cette analyse, y compris l’insensibilité aux nuances culturelles », a-t-il écrit.

Selon les instructions sur le site HackerOne, les expéditeurs n’ont pas besoin d’être à DEF CON pour participer au concours de cette semaine.

Les participations seront jugées sur une variété de critères pondérés, y compris s’il y a diffamation, stéréotypes, sous-représentation ou fausse déclaration, retrait ou perte de réputation, économique ou psychologique sur le sujet - et si la perte était intentionnelle ou non.

Dans les lignes directrices du concours, ils ont également mentionné: « L’attribution de points vise également à inciter les participants à explorer les dangers de représentation, car ils ont historiquement reçu peu d’attention ».

La compétition se déroule jusqu’au vendredi 6 août à 23h59.m. Le défi promet également une deuxième place de 1 000 dollars américains et une troisième place de 500 dollars américains, avec 1 000 dollars américains chacun pour les envois les plus innovants et qui s’applique à la plupart des types d’algorithmes.

Le gagnant sera annoncé lors de l’atelier DEF CON AI Village organisé sur Twitter le 9 août.

En tant que « première » de l’industrie, Williams et Chowdhury ont déclaré qu’ils espéraient que le concours définirait la norme « pour l’identification proactive et collective des dangers algorithmiques ».