ジャカルタ - 人工知能(AI)の最大のリスクは、フィッシング、詐欺、マルウェアを大規模に自動化するなど、肯定的および否定的な目的の両方を持つ性質にあります。
ChatGPTやGoogle Geminiなどの大規模言語モデル(LLM)は、多くの組織やコミュニティの日常生活の一部となっています。
しかし、Palo Alto Networks Unit 42の最新の調査によると、危険なLLMまたはダークLLMの出現は、インドネシアを含むサイバー犯罪の風景を大幅に変える可能性があります。
Unit 42は、AIのデュアルユースジレンマ:悪意のあるLLMsというタイトルのレポートで、WormGPT、FraudGPT、KawaiiGPTなどのモデルの存在を明らかにし、これらのモデルはセキュリティシステムなしで構築され、現在Telegramとダークウェブフォーラムを通じて公然と取引されています。
この脅威は、人々がインスタントメッセージングアプリ、電子商取引プラットフォーム、デジタル公共サービスに高い依存していることを考えると、インドネシアにとってますます緊急であると考えられています。
Unit 42は、インドネシアのサイバー犯罪の風景に対する暗闇のLLMの3つの主な影響を明らかにしました。
まず、AIが非常に正確な言語を生成する能力により、攻撃者はフィッシングメッセージやビジネスメールを非常に説得力のあるものにし、企業、金融機関、政府機関のリーダーシップのコミュニケーションスタイルを模倣して、被害者の信頼を悪用することができます。
第二に、このテクノロジーは、以前は高度な技術的専門知識を持つ加害者によってのみ実行できたマルウェア、フィッシングキット、データ盗難スクリプトを即座に生成する能力を備えたサイバー犯罪の商業化を促進します。
第三に、技術的障壁の消失により、サイバー犯罪はますます民主化され、低能力の加害者がデジタル詐欺や恐喝を迅速に実行し、サイバー犯罪を安価で反復的で大規模な操作に変えることができます。
したがって、Palo Alto Networksは、有害なAIモデルの普及を規制する基準とフレームワークを策定し、政策立案者に対して最良のセキュリティプラクティスの実施を義務付けることの重要性を強調しています。
インドネシアが国家的なAIロードマップを策定するにつれて、Unit 42は、主要な課題はAIツールの使用を制限または禁止することではなく、AIベースの攻撃に対するサイバーセキュリティのレジリエンスを構築することであると強調しています。
「政府、規制当局、民間セクター間の協力は、安全なAIプラクティスがAIロードマップと国家ガバナンスフレームワークに組み込まれることを保証するために必要です」と彼は言いました。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
