Ketakutan Terhadap Rencana Pentagon Buat Robot Pembunuh, Memicu Pembaruan Aturan AI Ketat

JAKARTA – Adanya kekhawatiran bahwa Departemen Pertahanan (DoD) telah 'membangun robot pembunuh di ruang bawah tanah' mungkin telah memicu peraturan AI yang lebih ketat yang mewajibkan semua sistem harus disetujui sebelum diterapkan.

Menurut Michael Horowitz, wakil asisten menteri pertahanan AS, DoD baru-baru ini memperbarui aturan AI-nya di tengah 'banyak kebingungan' tentang bagaimana rencananya menggunakan mesin pengambil keputusan otomatis di medan perang.

Horowitz menjelaskan pada sebuah acara bulan ini bahwa 'direktif tersebut tidak melarang pengembangan sistem apa pun,' tetapi akan 'menjelaskan apa yang diizinkan dan tidak diizinkan' serta menjunjung tinggi 'komitmen terhadap perilaku yang bertanggung jawab,' saat mengembangkan sistem otonom yang mematikan.

Meskipun Pentagon meyakini perubahan tersebut seharusnya meredakan kekhawatiran publik, beberapa orang menyatakan mereka tidak 'terlalu yakin' dengan upaya tersebut.

Kabar pembaruan pada "Otonomi dalam Sistem Senjata" Pentagon tahun 2012 telah memicu debat online, dengan banyak orang mengatakan 'Jika Pentagon mengatakan mereka tidak melakukannya, mereka pasti melakukannya.'

DoD telah gencar memodernisasi persenjataannya dengan drone otonom, tank, dan senjata lainnya yang memilih dan menyerang target tanpa intervensi manusia.

“Senjata-senjata ini membawa risiko besar terjadinya eskalasi yang tidak diinginkan,” kata Mark Brakel, direktur organisasi advokasi Future of Life Institute (FLI), dikutip VOI dari DailyMail.com

Dia menjelaskan bahwa senjata bertenaga AI dapat salah menafsirkan sesuatu, seperti sinar matahari, dan menganggapnya sebagai ancaman, sehingga menyerang kekuatan asing tanpa alasan.

Brakel mengatakan hasilnya bisa sangat merusak karena 'tanpa kendali manusia yang bermakna, senjata bertenaga AI seperti insiden roket Norwegia  yang hampir menjadi bencana nuklir, dengan kekuatan ganda dan dapat meningkatkan risiko kecelakaan di daerah konflik seperti Selat Taiwan.

DoD mendorong tindakan global untuk memantau senjata AI dengan meminta negara lain mendukung Deklarasi Politik tentang Penggunaan Militer Bertanggung Jawab tentang Kecerdasan Buatan dan Otonomi, dan hingga November, 47 negara mendukung inisiatif tersebut.

Horowitz mengatakan selama panel pada 9 Januari bahwa DoD sangat fokus untuk membangun kepercayaan dan keyakinan masyarakat dalam teknologi ini dan bahwa departemen tersebut berkomitmen untuk mematuhi hukum humaniter internasional.

“Tes nyata dari setiap direktif baru seharusnya terlihat dari berapa banyak senjata yang dikecualikan atau secara signifikan diubah,” kata Brakel. “Kami belum melihat bukti bahwa perubahan dalam direktif tersebut memiliki dampak nyata pada bagaimana senjata dikembangkan.”

Sistem militer otonom tidak hanya dikembangkan oleh AS, tetapi China dan Rusia juga memiliki gudang senjata bertenaga AI mereka yang saat ini digunakan dalam dua perang.

Pentagon mengumumkan pada November bahwa akan melepaskan ribuan kendaraan otonom yang berbasis AI pada 2026 untuk mengikuti ketinggalan Amerika dari lawan-lawannya.

Menurut Wakil Menteri Pertahanan Kathleen Hicks pada bulan Agustus , inisiatif ambisius ini — yang disebut Replicator — bertujuan untuk 'mempercepat kemajuan pergeseran inovasi militer AS menjadi memanfaatkan platform yang kecil, cerdas, murah, dan banyak.

“Replicator sendiri adalah tentang suatu proses,” kata Horowitz. “Ini tentang mencari cara ... kami dapat memasang dengan cepat dan sejumlah besar kemampuan kunci yang kami anggap penting sesuai dengan strategi pertahanan nasional.”

Horowitz juga mengatakan bahwa DoD sangat fokus untuk membangun kepercayaan dan keyakinan masyarakat dalam teknologi ini dan bahwa departemen tersebut berkomitmen untuk mematuhi hukum humaniter internasional.

Namun, anggota FLI lainnya tidak yakin dengan aturan yang lebih ketat dan bagaimana Pentagon akan melaksanakannya.

“Ini benar-benar seperti membuka kotak Pandora, dan akan sangat sulit untuk mundur,” kata Anna Hehir, yang memimpin penelitian sistem senjata otonom untuk FLI, mengatakan kepada The Hill.

“Saya akan berpendapat agar Pentagon memandang penggunaan AI dalam keperluan militer setara dengan awal era nuklir,” tambahnya.

“Jadi ini adalah teknologi baru yang tidak kita pahami. Dan jika kita melihat ini sebagai perlombaan senjata, yang dilakukan Pentagon, maka kita bisa menuju kepada bencana global,” ujarnya.