"Kekasih AI" Bersaing di Media Sosial, Mulai Mengkhawatirkan Facebook dan Instagram

JAKARTA - Iklan "yang menarik perhatian" yang diposting oleh individu di media sosial,  saat ini  telah mengalami persaingan  keras baru-baru ini dengan iklan kecerdasan buatan.

Start-up yang memasarkan teman virtual, yang tersedia secara seksual kepada pria kesepian mulai muncul di media sosial. Iklan tersebut menjanjikan 'kekasih AI' yang arsitektur 'machine learning' dasarnya mempelajari preferensi pengguna.

Situs seperti Facebook, Instagram, dan TikTok khawatir, mengingat bahwa iklan baru ini telah menunjukkan kemampuan yang luar biasa untuk mengatasi hambatan moderasi konten yang diberlakukan untuk memblokir konten yang terlalu seksual.

Lebih buruk lagi, dalam beberapa iklan, meme yang mencakup karakter-karakter TV anak-anak terkenal dari Cookie Monster hingga SpongeBob SquarePants digunakan kembali dalam kasus 'fair use' yang meragukan untuk mempromosikan aplikasi seks AI dan kemampuannya untuk menghasilkan gambar yang tidak pantas.

Iklan lain menampilkan gadis-gadis yang dihasilkan secara digital atau berpotensi dihasilkan oleh AI dengan usia yang tidak pasti dan bisa dianggap sebagai remaja atau lebih muda.

Untuk bagian Meta, Meta telah mengklaim bahwa mereka telah mengatasi iklan tersebut, yang tampaknya melanggar kebijakan mereka.

Seperti yang dikatakan perusahaan dalam pernyataan kepada NBC News, Meta berpendapat bahwa larangan mereka terhadap konten dewasa tidak mengecualikan konten yang dihasilkan oleh AI.

"Kebijakan kami melarang iklan yang berisi konten dewasa yang terlalu menyinggung atau provokatif secara seksual - baik itu dihasilkan oleh AI atau tidak," kata juru bicara  Meta. "Kebijakan dan penegakan hukum kami dirancang untuk beradaptasi dalam ruang yang sangat kompetitif ini, dan kami secara aktif memantau tren baru dalam konten yang dihasilkan oleh AI."

Meta juga memberi tahu stasiun berita tersebut bahwa mereka sedang meninjau versi kebijakan mereka yang dapat diakses oleh publik dan pengiklan, untuk memastikan bahwa bahasa mereka cukup jelas.

Selama bertahun-tahun, dan dalam beberapa kasus lebih dari satu dekade, platform media sosial termasuk Facebook, Instagram, dan TikTok telah berada dalam standoff dengan pekerja seks, advokat pendidikan seks, dan seniman yang semuanya telah mengeluhkan kebijakan moderasi yang keras dan prudish.

Banyak dari advokat ini khawatir dengan persetujuan diam atau perlakuan yang lunak terhadap iklan berbayar pengembang aplikasi ini.

"Pekerja seks tidak diizinkan menghasilkan uang dari citra mereka," kata Carolina Are, seorang peneliti di Northumbria University's Centre for Digital Citizens, "Tapi seorang teknisi yang menciptakan gambar AI serupa bisa."

Polly Rodriguez, CEO pembuat mainan dewasa Unbound, mengatakan kepada NBC News bahwa perusahaannya sering menghadapi hambatan yang menakutkan dalam beriklan dengan Meta.

Dia menyatakan kebingungan dan kekesalannya atas kemampuan iklan chatbot AI ini untuk  menghindari moderasi konten, mengindikasikan bahwa masalah ini menunjukkan bukti penegakan yang tidak konsisten dan bias.

"Mereka tidak mengatasi isu akar masalahnya: Mengapa iklan ini bisa lulus tanpa kendala?" kata Rodriguez.