Para Ilmuwan Peringatkan AI Dapat Disalahgunakan untuk Rancang Senjata Kimia dan Biologi yang Mematikan
JAKARTA - Para ilmuwan telah memperingatkan bahwa kecerdasan buatan (artificial intelligence/AI) dapat dengan mudah disalahgunakan untuk merancang senjata kimia dan biologi yang sangat berbahaya.
Teknologi ini memang dapat membantu dalam penemuan antibiotik dan obat-obatan untuk melawan infeksi Covid-19, namun empat peneliti yang terlibat dalam penemuan obat berbasis AI telah menemukan bahwa teknologi tersebut dapat dengan mudah dimanipulasi untuk mencari senyawa saraf yang beracun.
Keempat peneliti ini diminta oleh Swiss Federal Institute for Nuclear, Biological and Chemical Protection untuk mengevaluasi apakah AI dapat digunakan oleh orang-orang dengan motif tertentu. Hasil penelitian mereka menemukan 40.000 senyawa berpotensi beracun dalam waktu enam jam, jika dimanipulasi dengan arah pencarian yang salah.
Temuan ini dipublikasikan dalam jurnal Nature Machine Intelligence. Fabio Urbina, penulis utama artikel tersebut, mengungkapkan kekhawatiran mereka bahwa teknologi AI dengan mudah dapat disalahgunakan.
Baca juga:
Mereka hanya perlu memutar sakelar dan mengarahkan pencarian ke arah toksisitas. Beberapa senyawa yang dihasilkan oleh AI bahkan lebih beracun dari VX, senjata saraf yang dikembangkan oleh Defence Science and Technology Lab Inggris pada tahun 1950-an, yang menyebabkan kematian dengan mematikan sistem saraf dan otot.
"Kekhawatiran kami adalah betapa mudahnya seseorang dengan kepentingan jahat memanfaatkan teknologi ini. Banyak bahan dan data yang digunakan dalam penelitian kami tersedia secara gratis di internet, termasuk dataset toksisitas," kata Fabio Urbina, yang juga merupakan CEO dari Collaboration Pharmaceuticals di North Carolina, Amerika Serikat, seperti dikutip Daily Mail.
Para ilmuwan ini menekankan bahwa penggunaan teknologi AI harus diawasi dengan ketat dan perlu adanya pengaturan yang jelas tentang penggunaannya. Temuan ini menunjukkan bahwa ada kebutuhan untuk menentukan batasan pada penggunaan AI untuk tujuan tertentu, dan untuk memastikan bahwa teknologi tersebut tidak disalahgunakan untuk tujuan yang tidak baik.