Komdigi s'exprime sur l'utilisation abusive de la fonction de grognement AI sur X pour modifier des photos obscènes

JAKARTA - Le ministère de la Communication et du Numérique suivra les allégations d’abus de Grok AI sur la plate-forme X qui est utilisée pour modifier et diffuser du contenu obscen dénu de consentement du proprietaire.

Le directeur général de la surveillance de l’espace numérique, Alexander Sabar, a dit que les premiers résultats de la recherche montrent que Grok AI n’a pas de réglementations explicites et adéquates pour empêcher la production de contenu pornographique basé sur des photos.

Cette situation peut violer le droit à la vie privée et le droit à l’image, en particulier lorsque la photo d’une personne est manipulée ou diffusée sans consentement valide.

« Cela risque de constituer une violation grave de la vie privée et du droit à l’image des citoyens », a déclaré Alexander dans une déclaration officielle le mercredi 7 janvier.

Il estime que la manipulation numérique de photos personnelles n'est pas seulement une question de décence, mais une forme de privation du contrôle individuel sur son identité visuelle qui peut causer des préjudices psychologiques, sociaux et de réputation.

Alex a insisté sur le fait que Komdigi coordonne actuellement avec les Organisateurs de systèmes électroniques (PSE) pour assurer la disponibilité d’un mécanisme de protection efficace.

« Chaque PSE est tenu de s’assurer que la technologie qu’il fournit ne devient pas un moyen de violer la vie privée, d’exploitation sexuelle ni de détruire la dignité d’une personne », a-t-il déclaré.

Si une non-conformité ou un comportement non cooperéatif est détecthé, Komdigi applique des sanctions administratives allant jusqu’à la suppression de l’accès aux services de Grok AI et de la plate-forme X.

Alex a ajouté que les personnes victimes de manipulations de photos, de deepfake obscensibles ou de violations des droits de l’image pouvaient engager une action en justice, y compris en faisant rapport aux forces de l’ordre et en déposant une plainte auprès de Komdigi.

« Nous appelons toutes les parties à utiliser la technologie d’imitation responsable. L’espace numérique n’est pas un espace sans loi, il existe une vie privée et un droit à l’image de soi pour chaque citoyen qui doit être respecté et protégé », a déclaré Alexander.

Auparavant, la plate-forme de médias sociaux du milliardaire Elon Musk avait déjà été condamnée à 80 millions de roupies indonesiennes pour retard dans le dépautage des obligations de moderéation du contenu pornographique sur sa plate-forme.