Australia Wajibkan Mesin Pencari Cegah Penyebaran Materi Pelecehan Seksual Anak yang Dibuat oleh AI
JAKARTA - Australia kini mengharuskan mesin pencari seperti Google dan Bing untuk mengambil langkah-langkah guna mencegah upaya berbagi materi pelecehan seksual anak yang dibuat oleh kecerdasan buatan. Hal ini diumumkan oleh regulator internet negara itu pada Jumat, 8 September.
"Sebuah kode baru yang disusun oleh raksasa industri atas permintaan pemerintah akan mengharuskan mesin pencari untuk memastikan bahwa konten tersebut tidak muncul dalam hasil pencarian," kata Komisioner e-Safety, Julie Inman Grant, dalam sebuah pernyataan, dikutip Reuters.
Selain itu, kode ini juga akan mengharuskan agar fungsi kecerdasan buatan yang terintegrasi dalam mesin pencari tidak dapat menghasilkan versi sintetis dari materi yang sama. Versi sintetis dari materi ini juga dikenal sebagai deepfake.
"Penggunaan kecerdasan buatan generatif telah berkembang begitu cepat sehingga saya rasa itu telah membuat seluruh dunia terkejut hingga suatu tingkat tertentu," kata Inman Grant.
Kode ini merupakan contoh bagaimana lanskap regulasi dan hukum seputar platform internet sedang diubah oleh ledakan produk-produk yang secara otomatis menghasilkan konten yang mirip kehidupan nyata.
Inman Grant mengatakan bahwa kode sebelumnya yang disusun oleh Google, yang dimiliki oleh Alphabet, dan Bing, yang dimiliki oleh Microsoft, tidak mencakup konten yang dihasilkan oleh kecerdasan buatan, sehingga ia meminta mereka untuk mengulanginya dari awal.
Baca juga:
- Peneliti Microsoft Temukan Jaringan Akun Media Sosial Palsu yang Diduga Terkendali oleh China
- China Memperluas Larangan Penggunaan iPhone di Kalangan Pegawai Negeri
- Kebijakan Moderasi Konten Baru X Membuat Pengiklan Merasa Tidak Aman
- Uni Eropa Menetapkan Aturan Baru untuk Big Tech sebagai Bagian dari Penindakan Terbaru
"Ketika pemain terbesar dalam industri ini mengumumkan bahwa mereka akan mengintegrasikan kecerdasan buatan generatif ke dalam fungsi pencarian mereka, kami memiliki kode draf yang jelas tidak lagi sesuai dengan tujuan. Kami meminta industri untuk mencoba lagi," tambah Inman Grant.
Google dan Microsoft belum memberikan komentar secara langsung terhadap permintaan itu.
Tahun ini, regulator ini telah mendaftarkan kode keamanan untuk beberapa layanan internet lainnya seperti media sosial, aplikasi smartphone, dan penyedia perangkat. Kode-kode tersebut akan mulai berlaku pada akhir tahun 2023.
Regulator ini masih bekerja untuk mengembangkan kode-kode keamanan sehubungan dengan layanan penyimpanan internet dan pesan pribadi, yang telah menghadapi resistensi dari advokat privasi di seluruh dunia.