Meta Uji Fitur Penyekat Pesan Bermuatan Pornografi di Instagram

JAKARTA - Meta Platform Inc., induk perusahaan Instagram, mengumumkan pada Kamis 11 April, bahwa platform tersebut akan menguji fitur yang memburamkan pesan yang berisi nuditas atau pornografi untuk melindungi remaja dan mencegah para penipu mencapai mereka. Ini dilakukan, sebagai upaya untuk meredakan kekhawatiran atas konten berbahaya di aplikasinya.

Perusahaan teknologi tersebut tengah menghadapi tekanan yang meningkat di Amerika Serikat dan Eropa atas tuduhan bahwa aplikasinya adiktif dan telah memperburuk masalah kesehatan mental di kalangan kaum muda.

Meta menyatakan bahwa fitur perlindungan untuk pesan langsung Instagram akan menggunakan pembelajaran mesin di perangkat untuk menganalisis apakah gambar yang dikirim melalui layanan tersebut mengandung nuditas.

Fitur tersebut akan diaktifkan secara default untuk pengguna di bawah 18 tahun, dan Meta akan memberitahu orang dewasa untuk mendorong mereka mengaktifkannya.

"Karena gambar dianalisis di perangkat itu sendiri, perlindungan nuditas juga akan berfungsi dalam obrolan terenkripsi ujung ke ujung, di mana Meta tidak akan memiliki akses ke gambar-gambar tersebut - kecuali seseorang memilih untuk melaporkannya kepada kami," kata Meta.

Berbeda dengan aplikasi Messenger dan WhatsApp milik Meta, pesan langsung di Instagram tidak dienkripsi, tetapi perusahaan tersebut telah mengatakan bahwa mereka berencana untuk menerapkan enkripsi untuk layanan tersebut.

Meta juga mengatakan bahwa mereka sedang mengembangkan teknologi untuk membantu mengidentifikasi akun-akun yang mungkin terlibat dalam skema penipuan sextortion dan bahwa mereka sedang menguji pesan pop-up baru untuk pengguna yang mungkin telah berinteraksi dengan akun-akun tersebut.

Pada bulan Januari, raksasa media sosial tersebut mengumumkan bahwa mereka akan menyembunyikan lebih banyak konten tertentu dari remaja di Facebook dan Instagram, dengan menambahkan bahwa ini akan membuatnya lebih sulit bagi mereka untuk menemukan konten sensitif seperti bunuh diri, melukai diri sendiri, dan gangguan makan.

Jaksa agung dari 33 negara bagian AS, termasuk California dan New York, menggugat perusahaan tersebut pada bulan Oktober, dengan menyatakan bahwa Meta berulang kali menyesatkan publik tentang bahaya dari platform-platformnya.

Di Eropa, Komisi Eropa telah meminta informasi tentang bagaimana Meta melindungi anak-anak dari konten ilegal dan berbahaya.