PBB Dukung Pembentukan Badan Pengawas AI Internasional, Seperti Badan Pengawas Nuklir

JAKARTA - Sekretaris Jenderal PBB, Antonio Guterres, pada Senin 12 Juni mendukung proposal beberapa eksekutif kecerdasan buatan untuk menciptakan sebuah lembaga pengawas kecerdasan buatan internasional seperti Badan Tenaga Atom Internasional (IAEA).

Teknologi kecerdasan buatan generatif yang dapat menghasilkan tulisan otoritatif dari instruksi teks telah memikat perhatian publik sejak peluncuran ChatGPT enam bulan yang lalu dan menjadi aplikasi dengan pertumbuhan tercepat sepanjang masa. Kecerdasan buatan juga menjadi fokus kekhawatiran terkait kemampuannya dalam menciptakan gambar deepfake dan misinformasi lainnya.

"Bel tanda bahaya atas bentuk terbaru kecerdasan buatan - kecerdasan buatan generatif - sangat keras terdengar. Dan yang paling keras adalah dari para pengembang yang merancangnya," kata Guterres kepada wartawan. "Kita harus serius menganggap peringatan-peringatan tersebut."

Guterres telah mengumumkan rencananya untuk memulai kerja pada akhir tahun ini dalam sebuah badan penasihat tingkat tinggi untuk secara teratur meninjau pengaturan tata kelola kecerdasan buatan dan memberikan rekomendasi tentang bagaimana pengaturan tersebut dapat sejalan dengan hak asasi manusia, aturan hukum, dan kebaikan bersama.

Namun, pada Senin ia menambahkan: "Saya akan mendukung ide bahwa kita bisa memiliki sebuah lembaga kecerdasan buatan...terinspirasi dari apa yang menjadi Badan Internasional Energi Atom saat ini."

Guterres mengatakan model seperti itu bisa "sangat menarik," tetapi mencatat bahwa "hanya negara-negara anggota yang dapat menciptakannya, bukan Sekretariat Perserikatan Bangsa-Bangsa".

IAEA yang berbasis di Wina didirikan pada tahun 1957 dan mempromosikan penggunaan teknologi nuklir yang aman, terjamin, dan damai sambil memantau kemungkinan pelanggaran Traktat Non-Proliferasi (NPT). IAEA memiliki 176 negara anggota.

Pencipta ChatGPT, OpenAI, mengatakan bulan lalu bahwa badan seperti IAEA dapat memberlakukan pembatasan terhadap penggunaan, memverifikasi kepatuhan terhadap standar keamanan, dan melacak penggunaan daya komputasi.

Perdana Menteri Inggris, Rishi Sunak, juga mendukung ide tersebut dan mengatakan ia ingin Britania menjadi tempat regulasi keamanan kecerdasan buatan global. Britania direncanakan menjadi tuan rumah sebuah pertemuan pada akhir tahun ini mengenai bagaimana tindakan internasional yang terkoordinasi dapat mengatasi risiko kecerdasan buatan.

Guterres mengatakan ia mendukung rencana untuk sebuah pertemuan di Britania, tetapi mengatakan pertemuan tersebut seharusnya didahului oleh "kerja yang serius". Ia mengatakan ia berencana untuk menunjuk dalam beberapa hari ke depan sebuah dewan penasihat ilmiah yang terdiri dari para ahli  kecerdasan buatan dan kepala ilmuwan dari lembaga-lembaga PBB."

Dalam perkembangan terkait, Guterres menyoroti perlunya kerja sama internasional yang kuat untuk mengatasi dampak dan risiko kecerdasan buatan. Ia mengatakan bahwa tantangan yang dihadapi oleh kecerdasan buatan adalah universal dan melintasi batas negara, sehingga diperlukan pendekatan yang melibatkan seluruh komunitas internasional.

Dalam konteks ini, dia menekankan pentingnya membangun lembaga pengawas kecerdasan buatan yang terpisah dan mandiri, yang akan bertanggung jawab untuk mengawasi perkembangan teknologi dan memastikan penggunaannya sesuai dengan prinsip-prinsip etika, hak asasi manusia, dan kepentingan masyarakat.

Guterres juga menyoroti pentingnya menjembatani kesenjangan digital global dalam menghadapi era kecerdasan buatan. Ia menggarisbawahi perlunya memastikan bahwa negara-negara berkembang tidak tertinggal dalam pemanfaatan dan penerapan kecerdasan buatan, sehingga tercipta kesetaraan akses dan manfaat bagi semua negara dan masyarakat.

Diharapkan bahwa dengan adanya dukungan dari berbagai pihak, termasuk negara-negara anggota PBB, eksekutif kecerdasan buatan, dan ahli AI, upaya untuk membentuk badan pengawas internasional untuk kecerdasan buatan dapat berkembang lebih lanjut. Keberadaan badan semacam itu diharapkan dapat mempromosikan pengembangan teknologi yang bertanggung jawab, mengatasi risiko yang terkait dengan kecerdasan buatan, dan menjaga prinsip-prinsip etika dalam penggunaannya.

Dalam beberapa bulan mendatang, lebih banyak perdebatan dan diskusi akan terjadi untuk merumuskan rancangan kerangka kerja yang tepat untuk badan pengawas kecerdasan buatan internasional.