Deepfake 丑闻震撼了 Grok，苹果采取了强硬立场

雅加达 - 在未经同意的情况下，Grok聊天机器人几乎被苹果从App Store中删除后，AI平台再次成为关注的焦点。

此案揭开了生成式AI发展的黑暗面，即应该帮助的技术实际上被用来制作非法内容，包括涉及未经授权的个人甚至未成年人的内容。

苹果下架

根据报告，苹果曾拒绝更新Grok应用程序，并警告其开发商xAI，如果违规行为没有立即得到纠正，应用程序可能会被删除。

在其沟通中，苹果表示，尽管X平台（以前是Twitter）解决了其中一些问题，但Grok应用程序仍未达到内容适度标准。

在一系列修订后，苹果终于批准了应用程序更新，并指出其系统已经“大幅改进”。

深伪内容的爆炸引发了混乱

问题始于X平台上充斥着使用AI制作的色情深度伪造图像 - 其中许多未经受访者的同意，甚至涉及未成年受害者。

这种现象在埃隆·马斯克（Elon Musk）曾挑战公众测试Grok的能力极限之后，变得更加严重，这实际上开辟了漏洞。

尽管现在有限制，但用户仍然报告说，他们找到了绕过系统并继续制作受限制内容的方法。

双标准？

此案也引发了对苹果的批评。到目前为止，该公司以坚决打击违反规则的应用程序而闻名 - 即使是轻微的违规行为。

事实上，在这一事件曝光后，苹果立即删除了参与制作类似深度伪造的数十个其他应用程序。然而，Grok仍然存在。

这引发了一个问题：应用程序背后的财务实力和影响力是否影响了温和的决定？

全球监管压力加剧

Grok案件加强了全球推动加强对人工智能的监管，特别是与有害内容有关的监管。

各国政府开始考虑更严格的规定，包括对苹果App Review流程进行独立监督的可能性。

这起事件强烈提醒人们，人工智能不仅仅是创新，也是责任。

当技术可以在几秒钟内创建逼真的内容时，创造力和违法之间的界限变得越来越薄。

关注VOI Whatsapp频道