Twitter Buka Sayembara untuk Pecahkan Masalah Algoritme yang Dianggap Diskriminatif, Berapa Hadiahnya?

JAKARTA - Twitter menawarkan hadiah uang tunai kepada pengguna yang dapat membantu menghilangkan bias dalam algoritme pemangkasan foto otomatisnya. Platform media sosial mengumumkan 'hadiah' sebesar 3.500 dolar AS sebagai bagian dari konvensi peretas DEF CON minggu ini di Las Vegas.

Jejaring sosial yang berbasis di San Francisco telah menghadapi kritik bahwa algoritme 'saliency'-nya, yang menggunakan kecerdasan buatan untuk memutuskan bagian mana dari gambar yang lebih besar yang paling relevan atau penting untuk dipratinjau, bersifat diskriminatif. Pasalnya teknologi mereka dianggap mengobjektifikasi wanita dan memilih subjek kulit putih daripada orang-orang dari warna.

“Menemukan bias dalam model pembelajaran mesin itu sulit, dan terkadang, perusahaan mengetahui tentang kerugian etis yang tidak diinginkan setelah mereka mencapai publik,” kata Rumman Chowdhury dan Jutta Williams dari proyek Machine-Learning, Etika, Transparansi, dan Akuntabilitas (META) Twitter dalam sebuah posting blog.

"Kami ingin mengubah itu. Kami ingin menumbuhkan komunitas serupa, yang berfokus pada etika (pembelajaran mesin), untuk membantu kami mengidentifikasi berbagai masalah yang lebih luas daripada yang dapat kami lakukan sendiri," tambah postingan tersebut.

Dalam posting Mei lalu, Chowdhury mengatakan pengujian internal Twitter hanya menemukan preferensi 4 persen untuk orang kulit putih daripada orang kulit hitam, dan preferensi 8 persen untuk wanita daripada pria. “Untuk setiap 100 gambar per grup, sekitar tiga dipotong di lokasi selain kepala,” tambahnya.

Akan tetapi Chowdhury, yang berlatar belakang audit algoritmik, mengatakan Twitter masih khawatir tentang kemungkinan bias dalam algoritme otomatis karena 'orang tidak diizinkan untuk mewakili diri mereka sendiri seperti yang mereka inginkan di platform.'

“Saliency juga menyimpan potensi bahaya lain di luar cakupan analisis ini, termasuk ketidakpekaan terhadap nuansa budaya,' tulisnya.

Menurut petunjuk di situs HackerOne, pengirim tidak harus berada di DEF CON untuk mengikuti kontes minggu ini. 

Entri akan dinilai berdasarkan berbagai kriteria berbobot, termasuk apakah ada pencemaran nama baik, stereotip, representasi yang kurang atau representasi yang salah, penghapusan, atau kerugian reputasi, ekonomi, atau psikologis pada subjek - dan apakah kerugian itu disengaja atau tidak disengaja.

Dalam pedoman sayembara mereka juga disebutkan: “Alokasi poin juga dimaksudkan untuk memberi insentif kepada peserta untuk mengeksplorasi bahaya representasional, karena mereka secara historis kurang mendapat perhatian”.

Sayembara berlangsung hingga Jumat, 6 Agustus, pukul 23.59. Tantangan ini juga menjanjikan  hadiah tempat kedua 1.000 dolar AS dan tempat ketiga 500 dolar AS, dengan masing-masing 1.000 dolar AS untuk pengiriman paling inovatif dan yang berlaku untuk sebagian besar jenis algoritme.

Pemenang akan diumumkan pada lokakarya DEF CON AI Village yang diselenggarakan oleh Twitter pada 9 Agustus.

Sebagai industri 'pertama', Williams dan Chowdhury mengatakan mereka berharap kontes menetapkan standar 'untuk identifikasi proaktif dan kolektif dari bahaya algoritmik.'