Meta demande au conseil de surveillance de réviser les règles concernant la pornographie AI

Illustration d'une image créée par Meta.ai (photo: x @EMA)

JAKARTA - Le conseil de surveillance de Meta a critiqué jeudi 25 juillet les règles de l’entreprise considérées comme « pas assez claires » pour interdire les images sexuelles explicites générées par l’IA. Ils ont demandé des modifications pour éviter la propagation de telles images sur la plate-forme Meta.

Le Conseil de surveillance, financé par Meta mais opérant de manière indépendante, a publié la décision après avoir passé en revue deux images pornographiques contrecarrant des femmes célèbres utilisant l’intelligence artificielle et publiées sur Facebook et Instagram de Meta.

Meta a confirmé qu’il examinerait les recommandations du conseil et fournirait des mises à jour sur les modifications reçues. Dans son rapport, le conseil n’a mentionné que les deux femmes comme femmes publiques d’Inde et des États-Unis, pour des raisons de confidentialité.

Le conseil a constaté que les deux images enfreignaient les règles de Meta qui interdisaient les « photographies sexuelles infligées », ce que l’entreprise classe comme une forme d’intimidation et d’abus. Le conseil a déclaré que Meta devrait supprimer immédiatement l’image.

Dans le cas des femmes indiennes, Meta n’a pas réussi à examiner le rapport de l’utilisateur concernant l’image dans les 48 heures, de sorte que le billet s’est automatiquement fermé sans action. L’utilisateur a fait appel, mais la société a de nouveau refusé d’agir et n’a inversé la décision qu’après que le conseil a soulevé l’affaire.

Dans le cas de célébrités américaines, le système Meta supprime automatiquement l’image.

« Les restrictions sur ce contenu sont légitimes », a déclaré le conseil, cité par VOI à Reuters. « Compte tenu de la gravité de l’impact, supprimer le contenu est le seul moyen efficace de protéger les personnes touchées. »

Le conseil a recommandé à Meta de mettre à jour ses règles pour clarifier sa couverture, affirmant, par exemple, que l’utilisation du mot «photometer » est trop étroite et que l’interdiction devrait inclure diverses techniques d’édition, y compris l’IA générative.

Le Conseil a également condamné Meta pour avoir refusé d’ajouter des images d’une femme indienne à une base de données permettant une suppression automatisée, comme c’est le cas dans le cas des femmes américaines.

Selon le rapport, Meta a déclaré au conseil qu’il comptait sur la couverture médiatique pour déterminer quand pour ajouter des images à la base de données, une pratique que le conseil a considérée comme « préoccupante ».

« De nombreuses victimes d’images intime de fanfare ne sont pas sous les projecteurs du public et sont forcées d’accepter la diffusion de leurs images non consensusales ou de rechercher et de signaler chaque instance », a déclaré le conseil d’administration.