JAKARTA - Un tribunal néerlandais a prononcé une décision rare mais ferme sur la technologie d’intelligence artificielle d’Elon Musk. Dans une décision provisoire, le tribunal d’Amsterdam a ordonné aux entreprises xAI et Grok chatbot de cesser la création et la distribution d’images « dénucléifiantes » d’une personne - adultes et enfants - sans consentement explicite.
Cette mesure est l'une des premières interventions juridiques en Europe qui vise directement la capacité de l'IA générative à créer du contenu sexuel non consensuel, une question de plus en plus brûlante au milieu de l'explosion de l'utilisation des technologies « nudifier ».
Le tribunal a affirmé que Grok ne pouvait produire ni diffuser des images qui montrent des individus en état de nudité ou de nudité partielle sans autorisation. En cas de violation, xAI est menacée d’une amende pouvant atteindre 100 000 euros par jour - un chiffre qui fait trembler le CFO.
Non seulement cela, mais le tribunal a également ordonné que le service Grok ne soit pas disponible sur la plate-forme X tant qu’il enfreint les conditions.
L’affaire a été introduite par l’organisation à but non lucratif Offlimits avec le Victims Support Fund, qui s’occupe activement des cas de violence sexuelle digitale. Lors de la session, les plaignants ont montré que Grok était toujours capable de manipuler des images de personnes en contenu sexuel sans autorisation, même après que xAI a affirmé avoir renforcé le système de sécurité.
Le directeur d’Offlimits, Robbert Hoving, a déclaré que la réponse ne pouvait pas être rétrocrite aux utilisateurs. « Le fardeau est sur les entreprises pour s’assurer que leurs technologies ne sont pas abusées », a-t-il déclaré.
D'autre part, xAI a fait valoir qu'ils ne pouvaient pas complètement empêcher les abus par des utilisateurs malveillants. Ils ont également mentionné avoir limité certaines fonctionnalités, y compris l'accès uniquement à la génération d'images aux utilisateurs payants. Cependant, le juge a jugé que cette mesure n'était pas suffisante.
Cette décision survient dans le contexte de la surveillance étroite de l'UE sur les technologies d'IA par le Digital Services Act. En fait, la Commission européenne a ouvert une enquête sur la plate-forme X concernant les risques de contenu illégal généré par l'IA, y compris la manipulation d'images explicites.
Le Parlement européen a également contribué à l'escalade des tensions en soutenant une interdiction des applications d'IA qui peuvent créer des images sexuelles fausses - ce qui signifie que l'ère de l' « IA libre d'expérimenter » en Europe commence à être remplacée par l'ère de l' « IA strictement surveillée ».
Plus largement, cette décision pourrait devenir un précédent important pour l'industrie mondiale de l'IA. Si cette tendance se poursuit, les entreprises technologiques ne pourront plus se contenter de dire « nous ne faisons que des outils » - car la loi commence à les voir comme parties responsables de leurs effets.
Suivez la chaîne Whatsapp VOI
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
