专家警告亚太地区暗人工智能的威胁要发出高级攻击

雅加达 - 全球网络安全公司卡巴斯基(Kaspersky)在亚太地区发现了一次更复杂、更隐藏的攻击,这是由暗人工智能(Dark AI)在亚太地区崛起推动的。

卡巴斯基专家透露,攻击者将使用人工智能技术进行行动,从网络钓鱼等简单攻击到国家支持的网络间谍活动。

他们解释说,暗 AI 指的是应用本地或远程大语言 (LLM) 模型,这些模型不限于全框架或聊天机器人系统,用于危险,不道德或无效目的。

该系统在标准的安全、合规或治理管制之外运行,这些管制或治理管制之外,通常允许在未经监管的情况下欺诈、操纵、网络攻击或数据滥用等功能。

“我们正在进入网络安全和社会的时代,AI是一个盾牌,暗 AI是剑,”卡巴斯基META和APAC全球研究和分析团队(GReAT)负责人Sergey Lozhkin说。

Lozhkin认为,今天知名的暗AI之一是GPT黑帽形式,该形式自2023年以来一直出现,用于非法或危险的活动 - 例如设计网络钓鱼电子邮件,制作深度伪装声音或视频,甚至支持红色团队操作。

「人工智能不能本质上区分正确的和错的,而是遵循命令的工具。即使保护已经实施,我们也知道APT是一个持久的攻击者,“Lozhkin补充道。

因此,他补充说,随着暗AI设备的访问和使用变得越来越容易,亚太地区的组织和个人必须加强网络安全卫生,投资于人工智能本身支持的威胁检测,并继续研究如何利用这些技术。