Hollo.AI Luncurkan Platform untuk Mencegah Penggunaan Tidak Sah Deepfake

JAKARTA - Hollo.AI, yang berbasis di California, meluncurkan platform baru pada 16 November yang memungkinkan pengguna mengklaim identitas AI mereka, atau "persona," dan menyediakan chatbot personal untuk membantu pengguna menghasilkan uang dan memverifikasi karya AI mereka.

Menurut data dari Sumsub, bagian dari penipuan yang berasal dari deep fake lebih dari dua kali lipat dari tahun 2022 hingga kuartal pertama tahun 2023, di mana Amerika Serikat bahkan terjadi peningkatan dari 0,2% menjadi 2,6%.

Beberapa bulan terakhir, terjadi beberapa kasus selebriti seperti aktor Tom Hanks dan Jennifer Aniston serta tokoh YouTube Mr. Beast yang mengecam deep fake yang menggunakan tiruan digital mereka untuk menjual produk.

Sebagai respons terhadap situasi ini, Hollo.AI meluncurkan platform yang memungkinkan pengguna mengklaim identitas AI mereka, atau "persona," dan menampilkan chatbot personal untuk membantu pengguna menghasilkan uang dan memverifikasi karya AI mereka.

Hollo.AI mengatakan bahwa penggunaan etis AI ini dimungkinkan melalui verifikasi teknologi blockchain. Rex Wong, CEO platform ini, bahwa para pencipta dan tokoh akan dapat memiliki "kepemilikan kedaulatan" atas AI mereka melalui registri AI terverifikasi platform.

"Registrasi berfungsi sebagai buku besar registri publik yang menawarkan identitas AI, setelah diverifikasi oleh Hollo.AI, untuk dicatat di blockchain agar bisa dilihat oleh semua orang," ujar Wong.

Pencipta akan menerima tanda centang biru untuk identitas yang terverifikasi, yang kemudian memberi mereka kontrol atas kapan, di mana, dan bagaimana identitas ini dapat digunakan. Mereka kemudian dapat menghasilkan pendapatan melalui setiap lisensi identitas tersebut.

Wong mengatakan bahwa layanan ini bekerja dengan cara yang mirip dengan perlindungan pencurian identitas kredit tetapi disesuaikan untuk melindungi identitas AI.

"Mereka memantau dan memberi tahu pengguna tentang penggunaan tidak sah dari persona digital mereka, membantu mencegah penyebaran dan dampak deep fake," ungkap Wong dikutip VOI dari Cointelegraph. Selain memantau penggunaan yang tidak sah, Wong menjelaskan bahwa Hollo.AI bermaksud membantu pengguna setelah penggunaan tersebut terdeteksi untuk membantu menyelesaikan kasus penipuan.

Dia mengatakan bahwa "pemberdayaan" di area ini sangat penting pada saat "identitas digital dapat dengan mudah direplikasi dan disalahgunakan untuk penggunaan tidak sah."

Setelah pengguna membuat "twin digital" AI di platform, ia "terus belajar" berdasarkan tautan sosial yang diberikan pengguna untuk membuat identitas digital yang lebih akurat.

Meskipun Hollo.AI berusaha mengatasi masalah transparansi dan penggunaan etis AI untuk pencipta dan penonton, topik-topik ini juga sedang dibahas di lembaga dan platform lainnya. YouTube baru-baru ini memperbarui pedoman komunitasnya untuk mencakup lebih banyak langkah transparansi AI.

Serikat industri hiburan SAG-AFTRA saat ini sedang bernegosiasi untuk menentukan ketentuan terakhir dengan studio Hollywood utama mengenai penggunaan "twin digital" yang dihasilkan AI untuk para aktornya, menyusul mogok selama 118 hari yang memiliki topik AI sebagai salah satu ketentuannya.