雅加达 - 全球网络安全公司卡巴斯基(Kaspersky)在亚太地区发现了一次更复杂、更隐藏的攻击,这是由暗人工智能(Dark AI)在亚太地区崛起推动的。
卡巴斯基专家透露,攻击者将使用人工智能技术进行行动,从网络钓鱼等简单攻击到国家支持的网络间谍活动。
他们解释说,暗 AI 指的是应用本地或远程大语言 (LLM) 模型,这些模型不限于全框架或聊天机器人系统,用于危险,不道德或无效目的。
该系统在标准的安全、合规或治理管制之外运行,这些管制或治理管制之外,通常允许在未经监管的情况下欺诈、操纵、网络攻击或数据滥用等功能。
“我们正在进入网络安全和社会的时代,AI是一个盾牌,暗 AI是剑,”卡巴斯基META和APAC全球研究和分析团队(GReAT)负责人Sergey Lozhkin说。
Lozhkin认为,今天知名的暗AI之一是GPT黑帽形式,该形式自2023年以来一直出现,用于非法或危险的活动 - 例如设计网络钓鱼电子邮件,制作深度伪装声音或视频,甚至支持红色团队操作。
「人工智能不能本质上区分正确的和错的,而是遵循命令的工具。即使保护已经实施,我们也知道APT是一个持久的攻击者,“Lozhkin补充道。
因此,他补充说,随着暗AI设备的访问和使用变得越来越容易,亚太地区的组织和个人必须加强网络安全卫生,投资于人工智能本身支持的威胁检测,并继续研究如何利用这些技术。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
