Commission I de la DPR encourage Komdigi à bloquer Grok AI et la plate-forme X qui diffuse du contenu pornographique
JAKARTA - Un membre de la Commission I de la Chambre des Représentants, Syamsu Rizal, a encouragé le Ministere de la Communication et du Numérique (Komdigi) à prendre des mesures fermes en bloquant Grok AI et la plate-forme de réseau social X utilisée pour produire et diffuser du contenu pornographique.
Selon lui, la capacité de Grok AI à manipuler une image d’une personne pour en faire un contenu obscène constitue une menace grave et très inquiétante. En outre, Syamsu Rizal estime que, jusqu’à présent, Grok AI n’a pas de système de modération du contenu adéquat pour prévenir cette mauvaise utilisation.
« Jusqu’à présent, nous avons vu Grok AI sur la plate-forme X utilisée par les utilisateurs pour transformer une photo ou une image de quelqu’un en contenu obscène. Avec une demande spécifique, Grok AI peut suivre les instructions. C’est clairement dangereux », a déclaré Syamsu Rizal dans une déclaration, jeudi 8 janvier.
Le législateur du PKB de Dapil Sulawesi du Sud a insisté sur le fait que l’abus de l’intelligence artificielle sans surveillance rigoureuse pouvait avoir de vastes répercussions. Non seulement il nuit aux individus qui sont victimes, Syamsu Rizal a insisté, l’abus de l’IA endommage également l’ordre social et moral de la société.
« Si Grok AI et la plate-forme X ne sont pas en mesure de contrôler leur système et continuent de laisser la production et la diffusion de contenu pornographique, Komdigi doit être ferme en bloquant », a-t-il affirmé.
Syamsu Rizal a déclaré que l’état a l’obligation de prot€ger ses citoyens des effets n€gatifs des technologies digitales, en particulier ceux qui concernent l’exploitation, la pornographie et la violation de la vie privée.
Les membres de la commission qui s’occupent de l’information ont estimé que l’autorisation de cette pratique serait un mauvais precedent pour l’écosystème numérique national.
« Cette mesure ferme est importante car, si elle est laissée de côté, l’utilisation irresponsable de l’IA sera très dangereuse et nuira à la moralité de la nation », a conclu Syamsu Rizal.
Komdigi a déclaré auparavant que Grok AI et X seraient soumis à des sanctions administratives jusqu’ à la suppression de l’accès si elles ne se conformaient pas et ne cooperéaient pas avec les réglements en vigueur en Indonesie.
Le directeur général de la surveillance du domaine numérique de Komdigi, Alexander Sabar, a insistéé sur le fait que la plate-forme X en tant qu’organisateur du système électronique (PSE) est tenu de respecter les lois et règlements en vigueur en Indonesie.
Selon Sabar, les fournisseurs de services d’IA et les utilisateurs qui se sont avérés produire et/ou diffuser du contenu pornographique ou manipuler l’image personnelle sans droit peuvent être soumis à des sanctions administratives et/ou pénales conformément aux dispositions de la loi en vigueur.