Peneliti Kritik Pejabat AS karena Tidak Menerapkan Aturan AI yang Lebih Ketat Sebelum Taylor Swift Jadi Korban Deepfake

JAKARTA - Peneliti mengkritik pejabat AS karena tidak menerapkan aturan kecerdasan buatan (AI) yang lebih ketat sebelum artis pop Taylor Swift yang menjadi korban deepfake. Gambar-gambar yang menunjukkan pemenang Grammy empat kali dalam serangkaian tindakan seksual sambil mengenakan atribut Kansas City Chief dan di stadion - serta konten pornografi - telah dilihat 47 juta kali secara online sebelum akhirnya dihapus.

Seorang profesor di George Washington University Law School mengatakan bahwa jika legislasi yang tepat "disahkan bertahun-tahun yang lalu," Swift dan orang lain tidak akan mengalami penyalahgunaan semacam itu. "Kita terlambat dalam hal ini," kata Mary Anne Franks.

Bukan hanya gadis berusia 14 tahun atau Taylor Swift, melainkan juga politisi dan pemimpin dunia yang akan menjadi korban. Deepfake dari Swift menjadi viral dan membuat para pembuat undang-undang mendorong untuk mengambil tindakan.

Saluran X menutup akun yang awalnya memposting gambar deepfake grafis Swift karena melanggar kebijakan platform, tetapi sudah terlambat - gambar itu sudah diposting ulang sebanyak 24.000 kali. Sebuah laporan dari 404 Media mengungkapkan bahwa gambar-gambar itu mungkin berasal dari sebuah grup di Telegram setelah pengguna mengolok-olok bagaimana gambar-gambar Swift menjadi viral.

Pekan lalu, senator AS memperkenalkan Undang-Undang Tindakan Penentangan Gambar Palsu yang Menyimpang dan Editan Tanpa Persetujuan 2024 (DEFIANCE Act) sesaat setelah Swift menjadi korban teknologi deepfake. "Meskipun gambar-gambar itu mungkin palsu, kerusakan yang ditimbulkan kepada korban dari distribusi 'deepfake' yang eksplisit secara seksual sangat nyata," kata Senator Mayoritas Whip Dick Durbin (D-Illinois) pekan lalu.

Pada tahun 2023, sebuah studi menemukan bahwa dalam lima tahun terakhir, telah terjadi peningkatan 550 persen dalam pembuatan gambar palsu, dengan 95.820 video deepfake diposting online hanya tahun lalu.

Representatif Joseph Morelle (D-New York) yang memperkenalkan Undang-Undang Pencegahan Deepfake dari Gambar Intim, menyerukan agar para pembuat undang-undang lain segera mengambil tindakan darurat melawan peningkatan gambar dan video deepfake.

Namun, meskipun banyak pembicaraan, masih belum ada aturan yang ditetapkan untuk melindungi warga AS dari menjadi korban gambar atau video deepfake tanpa persetujuan. Hal ini memunculkan tantangan dalam menentukan siapa yang harus dituntut atas tindakan kriminal ketika sebuah undang-undang telah disahkan yang menjadikan deepfake ilegal.

Pada akhirnya, senator AS dan perwakilan memperkenalkan undang-undang yang bertujuan untuk memberi kekuatan kembali kepada korban, membatasi distribusi gambar deepfake, dan menuntut mereka yang bertanggung jawab atas gambar tersebut. Meskipun masih ada banyak rintangan, langkah-langkah legislatif tersebut menjadi respons atas kekhawatiran akan dampak negatif deepfake terhadap individu dan masyarakat.