JAKARTA - Un nouveau document judiciaire a révélé des accusations graves contre le PDG de Meta, Mark Zuckerberg, qui a été accusé de refuser délibérément les recommandations de son personnel de sécurité concernant la restriction du contenu sexuel sur un chatbot AI pour les utilisateurs mineurs.
Le dossier de la plainte introduit par le procureur général du Nouveau-Mexique, Raul Torrez, affirme que Zuckerberg a donné son consentement aux adolescents pour accéder à un assistant IA que le personnel interne de l’entreprise lui-même avait averti d’avoir un potentiel d’interaction sexuelle dangereux.
L’action, qui doit être jugée le mois prochain, met en lumière l’échec de Meta à endiguer le flux de contenu sexuel et de comportement immoraux destiné aux enfants sur les plateformes Facebook et Instagram. Sur la base des conclusions de la documentation juridique publiée lundi, le document contient une série de courriers électroniques et de messages internes d’employés qui montrent le refus de la haute direction de mettre en place un « mur de protection » approprié.
Le procureur général Torrez a affirmé que la décision était directement motivée par la politique de Zuckerberg qui privilégie le principe de liberté de contenu plutôt que la protection des jeunes utilisateurs.
Dans une correspondance interne en janvier 2024, Ravi Sinha, directeur de la politique de sécurité des enfants de Meta, a exprimé une forte objection en déclarant que la commercialisation de produits AI à thème romantique pour adultes impliquant des personnages mineurs était une action défendable.
Ces inquiétudes sont partagées par Nick Clegg, qui a occupé le poste de directeur de la politique mondiale de Meta jusqu’à début 2025. Clegg a prévenu que si l’interaction sexuelle devenait l’utilisation dominante des adolescents, cela nuirait non seulement à la réputation du produit, mais déclencherait également une réaction violente de la société dans son ensemble.
Bien que le porte-parole de Meta, Andy Stone, ait nié ces allégations et accusé le procureur général d’avoir choisi sélectivement des documents pour mettre en difficulté Zuckerberg, les preuves au tribunal racontent une autre histoire. Un résumé de la réunion datée de février 2024 note que Zuckerberg voulait que la narration de l’entreprise soit centrée sur les principes de choix et d’anti-censorship.
Il aurait demandé que la politique de l'entreprise ne soit pas trop restrictive et qu'elle autorise les adultes à participer à des conversations plus « courageuses » sur le sexe sur le système d'IA.
Plus surprenant encore, un message interne aux employés en mars 2024 a révélé que Zuckerberg aurait refusé de créer une fonction de contrôle parental pour désactiver la fonction AI générative pour les enfants. Cela a été renforcé par un rapport d’enquête qui a émergé plus tard, dans lequel des personnages AI mineurs étaient impliqués dans des jeux de rôle sexuels explicites.
Après des pressions incessantes du Congrès américain et des rapports des médias sur des directives internes qui avaient permis des conversations sensuelles avec des enfants, Meta a finalement annoncé la semaine dernière qu'elle avait retiré l'accès des adolescents à toutes les assistants IA jusqu'à ce qu'une nouvelle version plus sûre soit développée.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
