危害!DeepSeek 可以帮助网络犯罪分子开发恶意软件

雅加达 - DeepSeek 的安全 仍然是迄今为止关注的问题, 甚至 这些聊天机器人 仍然在一些国家被阻止。现在,最新的发现表明,DeepSeek 可能会开发恶意软件。

人工智能(AI)安全解决方案提供商Tenable Research于3月14日星期五透露了这一点。生成AI模型应该具有内置保护,以防止其用户犯下的越轨行为。

然而,在Tenable研究之后,DeepSeek R1实际上可能被欺骗以创建恶意软件。换句话说,懒惰的网络犯罪分子正在制造自己的恶意软件,由DeepSeek提供帮助。这是一个巨大的安全风险,需要考虑。

实际上,DeepSeek提供的结果仍然需要手动改进,以便有效运行。如果这些不负责任的用户没有创建恶意软件的知识,则DeepSeek提供的代码将无法开发。

但是,如果这个人非常有经验,那就不同了。只有少量改进,DeepSeek的编码可能是一个真正的恶意软件。这引起了人们的担忧,因为DeepSeek很容易渗透,可以被告知要帮助犯罪。

可持续研究技术人员Nick Miles表示,DeepSeek最初工作得很好,拒绝创建锁定器。然而,在与其他方法提出同样的请求后,DeepSeek立即解除了限制。

“然而,通过将这一要求概括为'教育练习'并应用一种一般的否决方法,我们迅速克服了限制,”尼克在VOI收到的一份广播中说。

从测试结果来看,可以得出结论,DeepSeek能够生成一个键盘,加密日志并将其秘密存储在设备上,并生成能够加密文件的可执行勒索软件。

“Tenable的研究强调了负责任的人工智能开发的迫切需要,”Nick解释说。“组织、政策制定者和安全专家必须共同努力,确保这些先进的设备不会成为网络犯罪的驱动力,”迈尔斯说。