科学者たちは、AIが致命的な化学兵器や生物兵器の設計に悪用される可能性があると警告しています

科学者たちは、人工知能(AI)が非常に危険な化学兵器や生物兵器を設計するために簡単に悪用される可能性があると警告しています。

この技術は確かにCovid-19感染と戦うための抗生物質や薬の発見に役立つ可能性がありますが、AIベースの創薬に携わる4人の研究者は、この技術を簡単に操作して有毒な神経化合物を探すことができることを発見しました。

4人の研究者は、スイス連邦核生物化学防護研究所から、AIが特定の動機を持つ人々によって使用できるかどうかを評価するよう求められました。その結果、誤った検索方向で操作した場合、6時間以内に40,000の潜在的に有毒な化合物が見つかりました。

この発見は、Nature Machine Intelligence誌に掲載されました。この記事の筆頭著者であるFabio Urbinaは、AIテクノロジーが簡単に悪用される可能性があるという懸念を表明しました。

彼らはスイッチを回して毒性の方向に検索を向ける必要があるだけです。AIによって生成されたいくつかの化合物は、1950年代に英国の防衛科学技術研究所によって開発された神経兵器であるVXよりもさらに有毒であり、神経系と筋肉をシャットダウンして死に至らしめます。

「私たちの懸念は、悪意のある関心を持つ誰かがこのテクノロジーをどれほど簡単に利用できるかということです。私たちの研究で使用された材料とデータの多くは、毒性データセットを含め、インターネット上で自由に入手できます」と、米国ノースカロライナ州のコラボレーションファーマシューティカルズのCEOでもあるファビオウルビナは述べています。

これらの科学者は、AI技術の使用を注意深く監視する必要があり、その使用の明確な規制が必要であると強調しました。これらの知見は、AIの特定目的への利用に制限を設け、AIが不愉快な目的で悪用されないようにする必要があることを示唆している。