JAKARTA - Le gouvernement de la ville de Baltimore a intenté une action en justice contre des entreprises appartenant à Elon Musk, y compris X Corp., xAI et SpaceX, en raison de l’utilisation présumée de ses outils d’intelligence artificielle (IA), qui génèrent du contenu sexuel deepfake sans consentement.
Présenté au tribunal de circuit de Baltimore le 24 mars, le recours affirme que Grok, qui permet aux utilisateurs de produire et de manipuler des images de personnes réelles en vue de contenu sexuellement explicite, est dégradant ou autrement dangereux.
Cette fonction peut même être utilisée pour « enlever les vêtements » numériquement ou pour sexuer des individus, y compris des civils et des enfants.
Le maire de Baltimore, Brandon M. Scott, a déclaré que les effets de ce type de deepfake étaient si graves qu’ils rendaient les habitants de Baltimore vulnérables à de graves violations de la vie privée, des agressions et des préjudices psychologiques.
« Nous parlons d’entreprises technologiques qui permettent l’exploitation sexuelle des enfants. Notre ville ne restera pas silencieuse et ne permettra pas que cela continue, c’est une menace à la vie privée, à la dignité et à la sécurité publique, et ceux qui sont responsables doivent être tenus responsables », a déclaré Scott dans une déclaration officielle.
En outre, la ville estime que les défendeurs ont trompé le public en commercialisant Grok comme un assistant AI sûr et polyvalent, sans révéler les potentiels d’abus pour produire du contenu explicite.
Bien qu'il y ait des revendications publiques selon lesquelles ce type de contenu est interdit, dans la pratique, le système peut produire du matériel similaire avec un petit nombre de commandes de l'utilisateur.
« La loi de protection des consommateurs de Baltimore existe pour protéger les citoyens de ce type de nouveaux dangers », a déclaré le procureur de la ville, Ebony M. Thompson.
Il a insisté sur le fait que le gouvernement avait l’obligation de protéger les citoyens des effets des nouvelles technologies à risque. Il a qualifié le manque de restrictions, de vérification de l’âge et de contrôle du contenu de formes de négligence grave.
Dans le document de plainte, il est dit que la conception de Grok et son intégration dans les grandes plateformes de médias sociaux ont accéléré la diffusion massive de contenu dangereux.
Il est estimé que des millions d'images sexuelles sont produites en quelques jours, y compris des milliers impliquant des mineurs.
La ville de Baltimore a également accusé la société d’avoir tiré profit de cette fonction à haut risque, notamment en la plaçant derrière un abonnement payant après que les abus se sont généralisés.
Par le biais de cette action, Baltimore demande des sanctions civiles, l'arrêt des pratiques jugées illégales, une indemnisation pour les victimes et le recouvrement des bénéfices obtenus de manière illicite.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
