サイバー犯罪でクラウドAIを悪用しようとするハッカーの試みを阻止する

ジャカルタ - アントロピックは8月27日水曜日、ハッカーがフィッシングメールを作成し、悪意のあるコードを作成し、セキュリティフィルタをだまそうとする際に人工知能(AI)クロードシステムを悪用しようとする試みを検出してブロックすることに成功したと発表しました。

レポートに掲載されたこの調査結果は、AIツールがサイバー犯罪にますます悪用されているという懸念の高まりを浮き彫りにし、テクノロジー企業や規制当局にこのテクノロジーの普及に伴い、セキュリティ対策を強化するよう求めています。

Anthropicの報告書は、彼らの内部システムが攻撃を止めることができたと述べています。同社はまた、加害者がクロードを使用して悪意のあるコンテンツを作成し、他の人が存在するリスクを理解するのを助けようとする方法を示すケーススタディを共有しました。

レポートでは、クワッドを使用してカスタマイズされたフィッシングメールをコンパイルしたり、悪意のあるコードのスニペットを書いたり修正したり、繰り返しコマンドでセキュリティを凌駕しようとしたりする試みがあったと指摘しています。

さらに、説得力のある投稿を一斉に作成し、手順一歩のガイダンスを通じてスキルの低いハッカーを支援することによって、影響力キャンペーンスクリプトを作成する試みもあります。

Amazon.com とAlphabetが支援する同社は、IPアドレスや特定のコマンドなどの技術指標を公開していないが、関連するアカウントをブロックし、そのようなアクティビティを検出した後にセキュリティフィルタを強化したと述べている。

セキュリティの専門家は、犯罪者はますますAIに目を向け、詐欺をより説得力のあるものにし、ハッキングの試みをスピードアップしていると言います。これらのAIツールは、リアルなフィッシングメッセージの編集、マルウェア開発の一部の自動化、さらには攻撃の計画を支援するのに役立ちます。

セキュリティ研究者は、AIモデルがますます洗練されるにつれて、企業や政府が直ちに行動しなければ、虐待のリスクが高まると警告しています。Anthropicは、定期的なテストや外部レビューなどの厳格なセキュリティ慣行を実施しており、重大な脅威が見つかった場合はレポートを公開し続ける予定であると述べました。

マイクロソフト、ソフトバンクが支援するOpenAI、Googleなどの企業も、AIモデルがハッキングや詐欺に悪用される可能性があるという懸念に関して同様の注目を集めており、より強力なセキュリティの呼びかけを促しています。

政府もこの技術を規制するための措置を講じ始めています。欧州連合(EU)は人工知能法を進めており、米国は主要開発者からの自主的な安全保障コミットメントを推進しています。