Twitter Selidiki Bias Rasial yang Tampak Dalam Pratinjau Fotonya

JAKARTA - Jejaring sosial Twitter sedang menguji coba fitur pendeteksi wajah dan foto menggunakan teknologi neural network. Sayangnya beberapa pengguna justru mengatakan fitur ini mengkurasi wajah secara rasis. 

Dilansir Gizmodo, Senin 21 September, sejumlah warganet menemukan fitur baru Twitter ini hanya memilih wajah orang kulit putih ketimbang pengguna yang berkulit hitam. Tak hanya itu, fitur auto-crop milik Twitter juga secara sensitif menempatkan pengguna kulit hitam ditaruh agak ke bawah dari posisi umumnya.

Trying a horrible experiment...

Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia

— Tony “Abolish (Pol)ICE” Arcieri 🦀 (@bascule) September 19, 2020

Pengguna lainnya juga turut melaporkan hal serupa, seiring mereka men-tweet masalah algoritma pendeteksi dari Zoom yang diunggah ke Twitter. Di mana filter latar Zoom tak mengenali wajah dari penggunanya yang berkulit hitam.

Terkait masalah ini, Kepala desain Twitter Dantley Davis men-tweet bahwa perusahaan sedang menyelidiki kesalahan algoritma yang terjadi pada sistem neural networknya. Di mana Twitter masih melakukan uji coba di beberapa sektor, seperti pengenalan wajah. 

I wonder how it is that you've said this without testing it? pic.twitter.com/rro1vn8Mh8

— Graham Christensen (@grhmc) September 19, 2020

Sedangkan Kepala bagian teknologi Twitter Parag Agrawal juga mengungkapkan lewat sebuah tweet, bahwa fitur tersebut masih membutuhkan perbaikan. Di mana algoritma Twitter masih mempelajari tingkah laku dari pengguna Twitter. 

"Tim kami menguji bias sebelum mengirimkan model dan tidak menemukan bukti bias rasial atau gender dalam pengujian kami. Tetapi jelas dari contoh-contoh ini bahwa kami memiliki lebih banyak analisis untuk dilakukan," kata juru bicara Twitter Liz Kelley kepada Gizmodo.

Twitter berjanji akan menyelidiki masalah algoritma yang ditemukan penggunanya. Namun ditekankan Twitter tak akan bersikap rasis dan bias dalam pengembangan fitur baru ini. 

This is a very important question. To address it, we did analysis on our model when we shipped it, but needs continuous improvement.

Love this public, open, and rigorous test — and eager to learn from this. https://t.co/E8Y71qSLXa

— Parag Agrawal (@paraga) September 20, 2020

Sebelumnya pada 2018, Twitter menerbitkan postingan blog yang menjelaskan bagaimana teknologi neural network digunakan untuk membuat keputusan pratinjau foto. Salah satu faktor yang menyebabkan sistem memilih bagian gambar adalah tingkat kontras yang lebih tinggi. 

Ini bisa menjelaskan bagaimana algoritma Twitter yang tampaknya lebih menyukai wajah pengguna berkulit putih. Keputusan untuk menggunakan kontras sebagai faktor penentu ini mungkin tidak sengaja rasis, tetapi lebih sering menampilkan wajah putih daripada wajah hitam adalah hasil yang bias.