雅加达 - DeepSeek 的安全 仍然是迄今为止关注的问题, 甚至 这些聊天机器人 仍然在一些国家被阻止。现在,最新的发现表明,DeepSeek 可能会开发恶意软件。
人工智能(AI)安全解决方案提供商Tenable Research于3月14日星期五透露了这一点。生成AI模型应该具有内置保护,以防止其用户犯下的越轨行为。
然而,在Tenable研究之后,DeepSeek R1实际上可能被欺骗以创建恶意软件。换句话说,懒惰的网络犯罪分子正在制造自己的恶意软件,由DeepSeek提供帮助。这是一个巨大的安全风险,需要考虑。
实际上,DeepSeek提供的结果仍然需要手动改进,以便有效运行。如果这些不负责任的用户没有创建恶意软件的知识,则DeepSeek提供的代码将无法开发。
但是,如果这个人非常有经验,那就不同了。只有少量改进,DeepSeek的编码可能是一个真正的恶意软件。这引起了人们的担忧,因为DeepSeek很容易渗透,可以被告知要帮助犯罪。
可持续研究技术人员Nick Miles表示,DeepSeek最初工作得很好,拒绝创建锁定器。然而,在与其他方法提出同样的请求后,DeepSeek立即解除了限制。
“然而,通过将这一要求概括为'教育练习'并应用一种一般的否决方法,我们迅速克服了限制,”尼克在VOI收到的一份广播中说。
从测试结果来看,可以得出结论,DeepSeek能够生成一个键盘,加密日志并将其秘密存储在设备上,并生成能够加密文件的可执行勒索软件。
“Tenable的研究强调了负责任的人工智能开发的迫切需要,”Nick解释说。“组织、政策制定者和安全专家必须共同努力,确保这些先进的设备不会成为网络犯罪的驱动力,”迈尔斯说。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
