Le scandale des Deepfake secoue Grok, Apple prend une position ferme

Jakarta - La plate-forme d’IA est de nouveau sous les feux de l’actualité après que le chatbot Grok a été presque retiré de l’App Store par Apple en raison de la prolifération de contenu pornographique deepfake sans consentement.

Cette affaire a ouvert un sombre côté au développement de l'IA générative - où la technologie qui devrait aider est en fait utilisée pour créer du contenu illégal, y compris celui qui implique des individus sans autorisation, y compris des mineurs.

Apple baisse la main

Selon le rapport, Apple a refusé de mettre à jour l’application Grok et a averti son développeur, xAI, que l’application pourrait être supprimée si la violation n’était pas corrigée immédiatement.

Dans sa communication, Apple a déclaré que même si une partie du problème avait été résolu sur la plate-forme X (anciennement Twitter), l’application Grok ne respectait toujours pas les normes de modération du contenu.

Après une série de révisions, Apple a finalement approuvé la mise à jour de l’application en notant que son système avait été « substantiellement amélioré ».

L'explosion de contenu Deepfake provoque la confusion

Le problème a commencé lorsque la plate-forme X a été inondée d'images pornographiques deepfake créées avec l'IA - dont beaucoup sans le consentement du sujet, impliquant même des victimes mineures.

Cette tendance s’est aggravée lorsque Elon Musk a lancé un défi à la communauté pour tester les limites de Grok, ce qui a ouvert la voie à des exploitations.

Bien qu’il y ait maintenant des restrictions, les utilisateurs ont toujours rapporté avoir trouvé un moyen de contourner le système et de produire toujours du contenu interdit.

Standard double ?

L’affaire a également suscité des critiques contre Apple. Jusqu’à présent, la société est connue pour être ferme dans la répression des applications qui enfreignent les règles, même pour les infractions les plus légères.

En fait, après que l’incident a été révélé, Apple a immédiatement supprimé des dizaines d’autres applications impliquées dans la fabrication de deepfakes similaires. Cependant, Grok a survécu.

Cela soulève la question : les forces financières et l'influence derrière une application ont-elles une influence sur les décisions de modération ?

La pression des réglementations mondiales augmente

Le cas de Grok renforce l'impulsion mondiale à durcir la réglementation de l'IA, en particulier en ce qui concerne le contenu dangereux.

Les gouvernements dans de nombreux pays commencent à envisager des règles plus strictes, y compris la possibilité d'une surveillance indépendante du processus d'examen des applications d'Apple.

Cet incident est un rappel fort que l'IA n'est pas seulement une question d'innovation, mais aussi de responsabilité.

Alors que la technologie peut créer du contenu réaliste en quelques secondes, la frontière entre la créativité et la violation de la loi devient de plus en plus mince.

Suivez la chaîne Whatsapp VOI