Google Punya Alat Moderasi untuk Perangi Konten Teroris Pada Situs Web yang Lebih Kecil

JAKARTA - Google bergabung dengan Meta sebagai raksasa teknologi yang turut membasmi konten teroris. Perusahaan dilaporkan sedang mengembangkan alat moderasi gratis dan dapat digunakan oleh situs web yang lebih kecil.

Alat ini berguna untuk mengidentifikasi dan menghapus materi teroris di situs web yang lebih kecil. Google tidak sendiri dalam mengembangkannya, dia bermitra dengan anak usaha Google divisi Jigsaw dan Tech Against Terrorism yang didukung oleh PBB.

Seperti utilitas open source Meta, alat moderasi ini dimaksudkan untuk membantu situs yang tidak mampu mengembangkan algoritma deteksi AI atau mempekerjakan staf moderasi yang besar.

Hal itu mungkin diperlukan ketika Undang- Undang Layanan Digital Uni Eropa dan RUU Keamanan Daring Inggris Raya akan mengharuskan operator situs menarik konten ekstremis untuk menghindari hukuman.

“Ada banyak situs web yang tidak memiliki orang untuk melakukan penegakan hukum. Ini adalah hal yang sangat padat karya bahkan untuk membangun algoritma (dan) kemudian Anda memerlukan semua peninjau manusia itu,” kata kepala eksekutif Jigsaw, Yasmin Green.

Nantinya, alat moderasi ini akan bergantung pada basis data berisi dugaan konten teroris yang dikumpulkan oleh Global Internet Forum to Counter Terrorism yang dibentuk oleh Facebook, Microsoft, Twitter dan YouTube pada 2017. Dua situs tanpa nama akan menguji kode akhir tahun ini.

Melansir Engadget, Rabu, 4 Januari, baik Google dan Tech Against Terrorism melihat proyek mereka diperlukan untuk menutup celah dalam melawan aktivitas teroris online.

Teroris online sering kali beralih ke situs web yang lebih kecil dan tidak selalu dapat mengawasi pengguna secara memadai. Alat ini mengurangi kemungkinan teroris menemukan tempat berlindung yang aman.

Namun, Google tidak serta merta membantu situs berukuran kecil dan menengah ini hanya karena kebaikan hatinya.

Meski proyek tersebut diperkirakan tidak akan menghasilkan keuntungan dalam waktu dekat, Green mengatakan kepada The Financial Times demi kepentingan terbaik Google untuk mendukung web yang patuh dan anti-terorisme.

"Ada pemahaman bahwa ada pengembalian bisnis jangka panjang. Google membutuhkan internet yang lebih sehat," tutur Green.

Sementara, alat moderasi Meta yakni Hasher-Matcher-Actioner (HMA) barunya tersedia untuk berbagai perusahaan yang tertarik untuk mendeteksi konten teroris atau ekstremis.

Dalam hal ini, alat HMA menggunakan hash dari konten teroris yang diketahui agar platform atau situs dapat mendeteksi gambar atau video duplikat, lalu berpotensi mengambil tindakan penegakan hukum terhadapnya.