Twitch Lance Un Outil De Détection De Discours De Haine
JAKARTA - Le site de diffusion en direct de Amazon.com Inc, Twitch, a lancé un outil pour détecter les utilisateurs qui tentent d’accéder aux chaînes où ils ont été interdits. Cette fonctionnalité entre en service le mardi 30 novembre.
Le nouvel outil, appelé Détection des utilisateurs suspects, signalera les fraudeurs d’interdiction de canal comme « probables » ou « possibles », afin que les créateurs et les modérateurs de chaînes puissent décider s’ils prennent des mesures.
Twitch a maintenant subi des pressions de la part des utilisateurs pour lutter contre les abus sur son site, y compris le harcèlement ciblé et les attaques dites haineuses dans lesquelles les streamers de chat sont inondés de messages harcelants.
La plate-forme, populaire auprès des joueurs vidéo, a déclaré avoir lancé l’outil en réponse aux commentaires des utilisateurs sur la nécessité de mieux lutter contre les fraudeurs de l’interdiction.
« Cela résout le problème fondamental du harcèlement ciblé », a déclaré Alison Huffman, directrice des produits de Santé publique de Twitch, dans une interview. « Nous avons entendu à travers des conversations avec des créateurs de contenu et leurs modérateurs de temps en temps que c’est un problème persistant pour eux. »
Huffman a déclaré que l’outil d’apprentissage automatique, sur lequel Twitch travaille depuis plusieurs mois, détecte certains types de comportement des utilisateurs et les caractéristiques du compte pour signaler les évadés potentiels à l’interdiction.
L’outil sera activé par défaut pour toutes les chaînes mais peut être ajusté ou désactivé, dit Twitch. Il indique également que les gens peuvent ajouter manuellement des utilisateurs des outils qu’ils souhaitent surveiller de plus près.
En septembre, Twitch a ajouté un moyen pour les créateurs et les modérateurs de demander la vérification du téléphone et des e-mails avant de pouvoir envoyer des messages de chat, dans une nouvelle mesure anti-harcèlement. Ce mois-là, il a également déposé une plainte devant un tribunal fédéral américain contre deux auteurs présumés d’abus de discours de haine.
Plus tôt cette année, la société a déclaré qu’elle interdirait les utilisateurs pour les violations graves qui se produisent en dehors de sa plate-forme.
L’apprentissage automatique, un sous-ensemble de l’intelligence artificielle, est l’étude d’algorithmes informatiques qui peuvent être améliorés automatiquement par l’expérience et l’utilisation de données.