Para Pemimpin AI di Dunia Berkomitmen untuk Melindungi Keselamatan Anak-anak saat Online

JAKARTA - Menyadari banyaknya penyalahgunaan AI generatif sebagai alat pelecehan dan eksploitasi seksual anak-anak, beberapa pemimpin AI berpengaruh di dunia berkomitmen untuk melindungi keselamatan anak-anak. 

Bekerja sama dengan Thorn dan All Tech Is Human, Amazon, Anthropic, Civitai, Google, Meta, Metaphysic, Microsoft, Mistral AI, OpenAI, dan Stability AI secara publik berkomitmen terhadap prinsip-prinsip Safety by Design. 

Dengan prinsip-prinsip ini, para perusahaan itu berkomitmen akan melindungi anak terhadap pembuatan dan penyebaran materi pelecehan seksual terhadap anak yang dihasilkan oleh AI (AIG-CSAM) dan kekerasan seksual lainnya.

Pada Selasa, 23 April, Thorn dan all Tech Is Human merilis sebuah makalah berjudul “Safety by Design for Generative AI: Preventing Child Sexual Abuse,” yang memberikan rekomendasi bagi perusahaan yang membuat alat AI, platform media sosial, perusahaan hosting dan pengembang untuk mengambil langkah-langkah guna mencegah AI generatif digunakan untuk merugikan anak-anak.

Salah satu rekomendasinya adalah meminta perusahaan untuk memilih kumpulan data yang digunakan untuk melatih model AI dengan hati-hati dan menghindari kumpulan data yang hanya berisi materi pelecehan seksual terhadap anak (CSAM), tetapi juga konten seksual dewasa karena kecenderungan AI generatif untuk menggabungkan kedua konsep tersebut.

Janji mereka menjadi preseden terobosan bagi industri ini dan mewakili lompatan signifikan dalam upaya membela anak-anak dari pelecehan seksual seiring dengan berkembangnya AI generatif di masa depan.

Sebagai bagian dari komitmen mereka terhadap prinsip-prinsip tersebut, perusahaan juga setuju untuk mempublikasikan dan berbagi dokumentasi secara transparan mengenai kemajuan mereka dalam menjalankan prinsip-prinsip tersebut.

Dengan mengintegrasikan prinsip-prinsip Safety by Design ke dalam teknologi dan produk AI generatif mereka, perusahaan-perusahaan ini tidak hanya melindungi anak-anak tetapi juga memimpin inovasi AI yang etis.