Mahasiswi Universitas Pennsylvania Jadi Korban Penyalahgunaan AI di Media Sosial China

JAKARTA- Olga Loiek, seorang mahasiswi Universitas Pennsylvania, mencari audiens di internet - namun kejadian tak diharapkan muncul. Tak lama setelah meluncurkan saluran YouTube pada November tahun lalu, Loiek, 21 tahun dari Ukraina, menemukan bahwa gambarnya telah diambil dan diproses melalui kecerdasan buatan untuk menciptakan alter ego di platform media sosial China.

Doppelgangers (kembaran) digitalnya - "Natasha" - mengklaim sebagai wanita Rusia yang fasih berbahasa Mandarin dan ingin berterima kasih kepada China atas dukungannya terhadap Rusia sambil menghasilkan sedikit uang dengan menjual produk seperti permen Rusia.

Lebih lagi, akun-akun palsu ini memiliki ratusan ribu pengikut di China, jauh lebih banyak daripada Loiek sendiri.

"Ini benar-benar seperti wajahku berbicara bahasa Mandarin dan, di latar belakang, aku melihat Kremlin dan Moskow, dan aku berbicara tentang betapa hebatnya Rusia dan China," kata Loiek dikutip VOI dari Reuters. "Itu sangat mengerikan, karena ini adalah hal-hal yang tidak akan pernah aku katakan dalam hidupku."

Kasus Loiek mewakili peningkatan jumlah wanita yang tampaknya berasal dari Rusia di media sosial China yang menunjukkan kecintaan mereka pada China dalam bahasa Mandarin yang fasih dan mengatakan mereka ingin mendukung Rusia dalam perang dengan menjual produk impor dari tanah air mereka.

Namun, tidak ada dari mereka yang benar-benar ada. Menurut para ahli, mereka dihasilkan oleh AI dengan menyalahgunakan klip wanita asli yang ditemukan secara online, seringkali tanpa sepengetahuan mereka, dan video-video yang dibuat oleh avatar palsu ini digunakan untuk memasarkan produk kepada pria lajang China.

Akun yang dibuat dengan gambar Loiek memiliki ratusan ribu pengikut dan telah menjual produk senilai puluhan ribu dolar, termasuk permen. Beberapa postingan berisi penafian yang mengatakan bahwa mereka mungkin dibuat menggunakan AI.

Avatar seperti milik Loiek memanfaatkan kemitraan "tanpa batas" antara Rusia dan China, yang diumumkan pada tahun 2022 ketika Presiden Rusia, Vladimir Putin, mengunjungi Beijing beberapa hari sebelum Rusia menginvasi Ukraina.

Jim Chai, CEO XMOV, perusahaan yang mengembangkan teknologi AI canggih dan tidak terlibat dalam situasi Loiek, mengatakan bahwa teknologi untuk membuat gambar semacam itu "sangat umum karena banyak orang menggunakannya di China."

"Misalnya, untuk menghasilkan digital human 2D milikku sendiri, aku hanya perlu merekam video 30 menit tentang diriku, dan setelah selesai, aku mengedit video tersebut. Tentu saja, ini terlihat sangat nyata, dan jika kamu mengganti bahasa, satu-satunya yang perlu disesuaikan adalah sinkronisasi bibir," kata Chai.

Kecerdasan buatan adalah topik yang banyak diperdebatkan dan cerita Loiek menyoroti risiko penggunaan ilegal atau tidak etisnya karena alat-alat yang kuat untuk menciptakan dan menyebarkan konten menjadi hal biasa di seluruh dunia.

Kekhawatiran tentang AI yang berkontribusi pada misinformasi, berita palsu, dan materi yang memiliki hak cipta telah meningkat dalam beberapa bulan terakhir seiring dengan popularitas sistem AI generatif seperti ChatGPT.

Pada Januari, China mengeluarkan pedoman rancangan untuk menstandarisasi industri AI, mengusulkan pembentukan lebih dari 50 standar nasional dan industri pada tahun 2026. Undang-undang AI Uni Eropa, yang memberlakukan kewajiban transparansi ketat pada sistem AI berisiko tinggi, mulai berlaku bulan ini, menetapkan potensi standar global.

Namun, Xin Dai, profesor di Fakultas Hukum Universitas Peking, mengatakan bahwa regulasi sedang berusaha mengejar perkembangan AI yang cepat.

"Kita hanya bisa memprediksi bahwa dengan semakin kuatnya alat untuk menciptakan informasi, menciptakan konten, dan menyebarkan konten yang menjadi tersedia pada dasarnya setiap menit berikutnya," kata Dai. "Aku pikir hal yang kritis di sini adalah volumenya yang sangat besar ... tidak hanya di China, tetapi juga di internet pada umumnya di seluruh tempat."