Roblox utilise l’IA pour transformer les mots grossiers en phrases courtoises
JAKARTA - Roblox a introduit une nouvelle façon de contrôler les conversations de ses utilisateurs. Ils cesseront d’utiliser le hashtag « ### » dans les phrases censurées et les modifieront plus subtilement.
Cette capacité est disponible avec le soutien de l’intelligence artificielle (IA). Le nouveau système que Roblox a dévelopṕ peut transformer les mots qui enfreignent les règles en phrases plus courtoises dans toutes les langues, y compris l’indonésien.
Auparavant, Roblox censurerait une phrase complète avec des haillons lorsqu’il trouvait un mot qui violait leurs politiques. Cela a souvent été critiqué par les utilisateurs car ils auraient du mal à comprendre la phrase de leur interlocuteur.
Heureusement, le système traduira désormais les messages en phrases qui correspondent à ce que l'utilisateur a tapé, mais avec des phrases meilleures. Par exemple, si auparavant l'utilisateur avait écrit «hurry tf !», Roblox l'aurait transformé en «hurry !».
« La modification des phrases en temps réal aide à maintenir le jeu sur la bonne voie tout en dirigeant le langage dans la bonne direction », a déclaré Rajiv Bhatia, vice-président de la recherche et de la recherche d’usagers chez Roblox, cit́é vendredi 6 mars.
Lorsque le système modifie un message, tous les joueurs du chat reçoivent une notification indiquant que le texte a été modifié. Cette mesure est prise pour éduquer les utilisateurs à maintenir la décence pendant l'interaction dans le jeu.
Cette fonction n’est actuellement disponible que pour les utilisateurs qui ont vérifié leur âge et qui sont dans un groupe d’âge similaire. Le système prend également en charge toutes les langues disponibles dans l’outil de traduction automatique de Roblox.
En plus de la modification des phrases, Roblox a également amélioré les filtres de texte pour détecter les tentatives de manipulation de mots en utilisant des chiffres ou des symboles. L’entreprise affirme avoir réussi à réduire les fuites d’informations personnelles jusqu’à 20 fois grâce à cette mise à jour.