Deepfake Joe Rogan Promosikan Produk Penambah Libido, Ada Kekhawatiran akan Gelombang Misinformasi Baru

JAKARTA - Joe Rogan, seorang podcaster terkenal, baru-baru ini menjadi korban deepfake, sebuah teknologi yang memanipulasi video untuk membuatnya tampak seperti orang yang sebenarnya. Dalam deepfake tersebut, Joe Rogan mempromosikan Alpha Grind, sebuah produk peningkat libido pria.

Video deepfake tersebut menunjukkan Rogan sedang membahas produk tersebut bersama tamunya, Profesor Andrew D. Huberman, dalam podcast The Joe Rogan Experience. Rogan menyebutkan bahwa produk tersebut sudah tersebar luas di TikTok dan tersedia untuk dibeli di Amazon.

Video deepfake berdurasi 28 detik itu terlihat sangat nyata, tetapi beberapa bagian menunjukkan bahwa itu dibuat dengan kecerdasan buatan (AI). Ada beberapa segmen yang terlihat kurang alami, seperti adanya lompatan komentar. Professor Huberman juga merespons video tersebut di Twitter, mengatakan bahwa deepfake tersebut adalah percakapan yang palsu dan mereka sebenarnya tidak pernah membicarakan produk tersebut.

BREAKING: This AI deepfake video rendering of Joe Rogan is going viral on TikTok. This is the start of massive waves of new scams & misinformation!

If only there was a decentralized GPU compute/rendering network that can authenticate provenance for IP. $RNDR https://t.co/m5WQvJjEuF pic.twitter.com/VqtQgEFcyJ

— 🤖 MachineAlpha ⭕️ (@ImMachineAlpha) February 13, 2023

Setelah video deepfake tersebut menjadi viral, banyak pengguna media sosial yang mengkhawatirkan akan adanya penipuan dan penyebaran informasi yang salah dengan menggunakan deepfake. Banyak yang menyarankan perlunya pengawasan ketat dalam penggunaan teknologi deepfake dalam iklan.

Beberapa pengguna media sosial bahkan menanyakan keabsahan hukum dari deepfake tersebut, karena menggunakan wajah seseorang tanpa izin adalah melanggar hak cipta.

Meskipun terlihat sangat nyata, deepfake tersebut bukanlah satu-satunya video deepfake yang dibuat oleh orang lain. Pada tahun 2022, sebuah deepfake Mark Zuckerberg juga dirilis oleh kelompok advokasi Demand Progress Action. Video deepfake tersebut menampilkan Zuckerberg mengucapkan terima kasih kepada pemimpin Demokrat atas "pelayanan dan ketidakberdayaan" mereka dalam menangani legislasi anti-trust. Kelompok liberal tersebut berencana untuk menggunakan video deepfake tersebut dalam iklan televisi di New York dan Washington, D.C.

Namun, penggunaan deepfake juga mengancam keamanan. Tim Stevens, Direktur Cyber Security Research Group di King's College London, mengatakan bahwa deepfake AI - yang dapat membuat gambar dan video hyper-realistik tentang seseorang - memiliki potensi untuk merusak institusi demokratis dan keamanan nasional.

Stevens mengatakan bahwa negara seperti Rusia dapat memanfaatkan ketersediaan teknologi deepfake untuk menyerang populasi target dan mencapai tujuan kebijakan luar negeri mereka serta merusak keamanan nasional negara lain. 

"Potensi keberadaan AI dan deepfake untuk mempengaruhi keamanan nasional, terutama dalam mengurangi tingkat kepercayaan pada lembaga dan organisasi demokratis, serta media, akan sangat mempengaruhi kebijakan keamanan  nasional." kata Stevens dikutip Daily Mail.