Palo Alto Networks揭露了Dark LLMs的危险，AI成为网络犯罪的新武器

网络犯罪的形象（照片：Freepik）

雅加达 - 人工智能（AI）的最大的风险在于它具有双重目的，既可以用于积极目的，也可以用于消极目的，例如大规模自动化网络钓鱼，欺诈和恶意软件。

像ChatGPT和Google Gemini这样的大型语言模型（LLMs）已经成为许多组织和社区日常活动的一部分。

然而，Palo Alto Networks Unit 42的最新研究表明，危险的LLM或黑暗LLM的出现可能会显着改变网络犯罪的格局，包括在印度尼西亚。

在题为《AI的双重用途困境：恶意LLMs》的报告中，Unit 42揭露了WormGPT，FraudGPT和KawaiiGPT等模型的存在，这些模型是在没有安全系统的情况下构建的，现在通过Telegram和暗网论坛公开交易。

鉴于社区对即时消息应用程序，电子商务平台和数字公共服务的依赖程度很高，印度尼西亚认为这一威胁越来越紧迫。

Unit 42揭示了暗LLM对印度尼西亚网络犯罪格局的三大主要影响。

首先，AI生成非常精确的语言的能力使攻击者能够创建看似非常令人信服的网络钓鱼和商业电子邮件入侵消息，模仿公司高层，金融机构或政府机构的沟通风格，从而能够利用受害者的信任。

第二，这项技术通过能够立即生成恶意软件、网络钓鱼工具包和数据窃取脚本，推动了网络犯罪的商业化，而这在以前只能由技术娴熟的攻击者完成。

第三，随着技术障碍的消失，网络犯罪变得越来越民主化，使低技能的肇事者能够迅速实施数字欺诈和勒索，将网络犯罪转变为廉价，重复和大规模的行动。

因此，Palo Alto Networks强调，制定标准和框架来规范危险的人工智能模型的扩散，并要求决策者实施最佳安全实践。

随着印度尼西亚制定国家人工智能路线图，Unit 42强调，主要挑战不是限制或禁止使用人工智能工具，而是建立网络安全弹性，以应对快速和大规模的基于人工智能的攻击。

“政府、监管机构和私营部门之间的合作对于确保安全的人工智能实践植入国家人工智能路线图和治理框架至关重要，”他说。