当心Deepfake，这是网络安全专家的解释

雅加达 - 最近谷歌已经从谷歌Colaboratory中禁止了deepfake算法，它是一种免费的计算服务，可以访问GPU。这家科技巨头并不是美国一些州唯一一家监管Deepfakes的巨头，中国的法律草案要求计算机生成的媒体识别，未来的欧盟人工智能法规可能包括有关这些特定技术的条款。

卡巴斯基专家解释了什么是deepfakes，以及为什么围绕它们存在如此多的争议，以及用户如何保护自己。

“Deepfake”通常是指各种类型的计算机制作的媒体，这些媒体涉及人并使用神经网络创建 。这可能是视频、照片或录音。深度学习 的使用不再使用传统的图像编辑技术， 而是改变了对技能和尝试创建令人信服的假图像的需求。

最初，该术语指的是在Reddit上流行的特定软件。该软件可以将一个人的脸植入到以他人为特色的视频中，并且几乎完全用于与名人一起创建未经同意的色情内容。

根据一些估计，高达96%的Deepfake是色情的，这同时凸显了对Deepfakes被用于骚扰，勒索和羞辱公众的担忧。

这项技术还可以帮助网络犯罪分子。在英国和香港，至少有两起案件，语音deepfakes被用来诱骗公司将资金转移给在线欺诈者，冒充每家公司的官员。

最近的研究表明，金融机构在KYC程序中使用的商业活度检测算法可以被从身份证照片创建的deepfakes所愚弄，从而产生新的攻击媒介，从而使身份泄露成为一个更严重的问题。

另一个问题是，Deepfake破坏了对音频和视频内容的信任感，因为它们可能被用于有害目的。

例如，在最近的一个案例中，对埃隆·马斯克（Elon Musk）的虚假采访被用来宣传加密货币骗局。欧洲刑警组织等各种专家和机构警告说，深度伪造的日益普及可能导致互联网上虚假信息的进一步扩散。

但并非一切都是坏消息。图像处理与图像本身一样古老，CGI已经存在了几十年，两者都已被用于体面的使用，Deepfakes也是如此。

例如，在肯德里克·拉马尔（Kendrick Lamar）最近的视频《Heart Part 5》中，Deepfake技术被用来将说唱歌手的脸换成其他著名名人，比如坎耶·韦斯特（Kanye West）。在电影《Top Gun： Maverick》中，在演员失去声音后，使用一种算法为角色Val Kilmer配音。

Deepfake算法还用于创建由假汤姆克鲁斯主演的病毒式TikTok系列。一些初创公司正在寻找使用技术的新方法，例如，生成生动的元宇宙化身。