India Desak Perbaikan Grok, X Siap Tindak Penyalahgunaan Konten

JAKARTA – Pemerintah India memerintahkan X, platform milik Elon Musk, untuk mengubah prosedur teknis dari chatbot Grok. Perintah ini dikeluarkan karena Grok kini dapat membuat konten yang sangat vulgar.

Kementerian Teknologi Informasi India mewajibkan X untuk membatasi kemampuan Grok dalam membuat materi yang mengandung unsur seksual eksplisit. Perusahaan itu diberikan waktu selama 72 jam untuk menyerahkan laporan perbaikan konten Grok.

Jika X tidak mematuhi perintah yang dikeluarkan, platform yang sebelumnya bernama Twitter itu akan kehilangan status ‘perlindungan hukum’ di negara tersebut. Dengan kehilangannya status tersebut, X akan dituntut untuk bertanggung jawab atas konten yang dibuat penggunanya secara hukum.

Kasus ini muncul setelah anggota parlemen, Priyanka Chaturvedi, mengajukan pengaduan terkait munculnya gambar wanita yang dimanipulasi oleh Grok. Tak hanya menyasar wanita dewasa, chatbot tersebut juga menghasilkan konten tidak pantas yang melibatkan anak-anak di bawah umur.

Terkait laporan tersebut, X mengakui adanya kesalahan dalam sistem pengamanan mereka. Meski X sudah bertindak dengan menghapus gambar tidak pantas yang beredar, banyak gambar tindak pantas lainnya buatan Grok yang masih bisa diakses.

“Ketidakpatuhan terhadap persyaratan ini akan dianggap serius dan dapat mengakibatkan konsekuensi hukum yang tegas terhadap platform serta pejabat terkait,” tulis pemerintah dalam keputusan tertulisnya, dikutip pada Senin, 5 Januari.

India bukan negara pertama yang mempermasalahkan kemampuan pengeditan gambar Grok. Prancis telah melaporkan konten eksplisit yang dihasilkan Grok kepada jaksa. Mereka juga melaporkan konten buatan Grok ke regulator media.

Hal ini dilakukan untuk menentukan apakah xAI, perusahaan yang mengembangkan Grok, melanggar Undang-Undang Layanan Digital Uni Eropa. Di sisi lain, pihak X menyatakan bahwa mereka akan menindaklanjuti seluruh pengguna yang memanfaatkan kemampuan Grok untuk membuat konten ilegal.

“Kami mengambil tindakan terhadap konten ilegal di X, termasuk Materi Pelecehan Seksual Anak (CSAM), dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan pemerintah daerah serta penegak hukum jika diperlukan,” tulis X melalui akun resmi Keamanan pada Minggu, 4 Januari.