Pemerintah India Peringatkan untuk Perusahaan Teknologi terkait Pengembangan AI

JAKARTA - Pemerintah India telah mengeluarkan peringatan kepada perusahaan teknologi yang mengembangkan alat kecerdasan buatan (AI) baru, bahwa produk mereka harus disetujui oleh pemerintah sebelum dirilis ke publik.

Berdasarkan peringatan yang dirilis oleh Kementerian TI India pada 1 Maret, persetujuan ini harus diberikan sebelum rilis publik dari alat AI yang "tidak dapat diandalkan" atau masih dalam tahap uji coba, dan alat-alat tersebut harus diberi label untuk kemungkinan memberikan jawaban yang tidak akurat terhadap pertanyaan.

"Ketersediaan untuk pengguna di Internet India harus dilakukan dengan izin eksplisit dari Pemerintah India," kata Kementerian IT India.

Selain itu, peringatan tersebut meminta platform untuk memastikan bahwa alat-alat mereka tidak "mengancam integritas proses pemilu," karena pemilihan umum diperkirakan akan dilakukan pada musim panas ini.

Peringatan baru ini muncul sesaat setelah salah satu menteri teratas India mengecam Google dan alat AI-nya, Gemini, karena respons yang "tidak akurat" atau bias, termasuk salah satunya yang mengatakan bahwa Perdana Menteri India, Narendra Modi, telah digambarkan oleh sebagian orang sebagai "fasis".

Google telah meminta maaf atas kekurangan Gemini dan mengatakan bahwa alat tersebut "mungkin tidak selalu dapat diandalkan," terutama untuk topik-topik sosial saat ini.

"Keselamatan dan kepercayaan adalah kewajiban hukum platform. 'Maaf, Tidak dapat diandalkan' tidak mengesampingkan hukum," ungkap Rajeev Chandrasekhar, Wakil Menteri TI India, lewat cuitannya di Platform X.

Pada November, pemerintah India mengatakan akan memperkenalkan regulasi baru yang akan membantu mengatasi penyebaran deepfake yang dihasilkan oleh AI sebelum pemilihan yang akan datang - langkah yang juga diimplementasikan oleh regulator di Amerika Serikat.

Namun, pejabat di India menerima keberatan dari komunitas teknologi terkait peringatan AI terbarunya, dengan mengatakan bahwa India adalah pemimpin di ruang teknologi dan akan menjadi "kejahatan" jika India "meregulasi dirinya keluar dari kepemimpinan ini."

Chandrasekhar menanggapi "kebisingan dan kebingungan" ini dalam posting lanjutan di X, mengatakan bahwa harus ada "konsekuensi hukum" bagi platform yang "memungkinkan atau langsung menghasilkan konten yang melanggar hukum."

"India percaya pada AI dan sepenuhnya terlibat bukan hanya untuk bakat tetapi juga sebagai bagian dari memperluas ekosistem Digital & Inovasi kami. Ambisi India dalam AI dan memastikan pengguna internet mendapatkan internet yang aman dan terpercaya bukanlah biner," ujar Chandrasekhar.

Dia juga menjelaskan bahwa peringatan tersebut hanya untuk "membimbing mereka yang menggunakan platform AI yang belum diuji ke laboratorium atau di bawah pengujian ke Internet publik" agar menyadari kewajiban dan konsekuensi sesuai dengan hukum India dan cara terbaik untuk melindungi diri dan pengguna.