Perusahaan Bimbingan Belajar di China Setuju Berdamai dalam Kasus Penggunaan AI Diskriminatif di AS

JAKARTA - Sebuah perusahaan bimbingan belajar berbasis di China telah setuju untuk berdamai dalam tuntutan hukum yang diajukan oleh sebuah lembaga pemerintah AS yang mengklaim perusahaan tersebut menggunakan perangkat lunak perekrutan berbasis kecerdasan buatan yang secara ilegal menyingkirkan pelamar kerja yang lebih tua.

Tuntutan hukum tahun 2022 terhadap iTutorGroup Inc adalah yang pertama oleh Komisi Kesempatan Kerja Setara (EEOC) AS yang melibatkan penggunaan AI oleh sebuah perusahaan untuk membuat keputusan pekerjaan.

Komisi tersebut, yang menegakkan undang-undang tentang bias di tempat kerja, pada tahun 2021 meluncurkan inisiatif untuk memastikan bahwa perangkat lunak AI yang digunakan oleh majikan AS sesuai dengan undang-undang anti-diskriminasi. EEOC telah memperingatkan bahwa mereka akan fokus pada upaya penegakan hukum terhadap perusahaan yang salah menggunakan AI.

iTutorGroup setuju untuk membayar 365.000 dolar AS (Rp7 miliar) kepada lebih dari 200 pelamar kerja yang diduga tidak dipertimbangkan karena usia mereka, menurut dokumen bersama yang diajukan di pengadilan federal New York pada Rabu, 9 Agustus. Penyelesaian tersebut harus disetujui oleh seorang hakim federal.

Perusahaan tersebut, yang memberikan bimbingan bahasa Inggris kepada siswa di China, membantah kesalahan dalam penyelesaian tersebut.

EEOC telah mendakwa bahwa iTutorGroup pada tahun 2020 memprogram perangkat lunak perekrutan online untuk menyingkirkan wanita berusia 55 tahun atau lebih tua dan pria yang berusia 60 tahun atau lebih tua.

ITutorGroup, sebuah unit dari Ping An Insurance Group Co dari China, tidak segera merespons permintaan komentar dari media. Juru bicara EEOC mengatakan bahwa lembaga tersebut tidak akan memberikan komentar sampai penyelesaian tersebut disetujui.

Setidaknya 85% majikan besar AS menggunakan AI dalam beberapa aspek pekerjaan, menurut survei terbaru.

Ini termasuk perangkat lunak yang menyingkirkan pelamar pekerjaan sebelum seorang manusia meninjau aplikasi apa pun, "chatbot" sumber daya manusia, dan program yang melakukan penilaian kinerja dan memberikan rekomendasi untuk promosi.

Banyak advokat pekerja dan pembuat kebijakan khawatir tentang potensi bias yang ada di dalam perangkat lunak AI, bahkan secara tidak disengaja.

Dalam tuntutan kelas yang masih sedang berlangsung di pengadilan federal California, Workday, dituduh merancang perangkat lunak perekrutan yang digunakan oleh banyak perusahaan besar yang menyingkirkan pelamar berkulit hitam, berkebutuhan khusus, dan lebih tua. Workday telah membantah melakukan kesalahan.

Para ahli memperkirakan akan ada peningkatan jumlah tuntutan hukum yang menuduh perusahaan melakukan diskriminasi melalui penggunaan perangkat lunak AI mereka.