雅加达 - 在未经同意的情况下，Grok聊天机器人几乎被苹果从App Store中删除后，AI平台再次成为关注的焦点。
此案揭开了生成式AI发展的黑暗面，即应该帮助的技术实际上被用来制作非法内容，包括涉及未经授权的个人甚至未成年人的内容。
苹果下架
根据报告，苹果曾拒绝更新Grok应用程序，并警告其开发商xAI，如果违规行为没有立即得到纠正，应用程序可能会被删除。
在其沟通中，苹果表示，尽管X平台（以前是Twitter）解决了其中一些问题，但Grok应用程序仍未达到内容适度标准。
在一系列修订后，苹果终于批准了应用程序更新，并指出其系统已经“大幅改进”。
深伪内容的爆炸引发了混乱
问题始于X平台上充斥着使用AI制作的色情深度伪造图像 - 其中许多未经受访者的同意，甚至涉及未成年受害者。
这种现象在埃隆·马斯克（Elon Musk）曾挑战公众测试Grok的能力极限之后，变得更加严重，这实际上开辟了漏洞。
尽管现在有限制，但用户仍然报告说，他们找到了绕过系统并继续制作受限制内容的方法。
双标准？
此案也引发了对苹果的批评。到目前为止，该公司以坚决打击违反规则的应用程序而闻名 - 即使是轻微的违规行为。
事实上，在这一事件曝光后，苹果立即删除了参与制作类似深度伪造的数十个其他应用程序。然而，Grok仍然存在。
这引发了一个问题：应用程序背后的财务实力和影响力是否影响了温和的决定？
全球监管压力加剧
Grok案件加强了全球推动加强对人工智能的监管，特别是与有害内容有关的监管。
各国政府开始考虑更严格的规定，包括对苹果App Review流程进行独立监督的可能性。
这起事件强烈提醒人们，人工智能不仅仅是创新，也是责任。
当技术可以在几秒钟内创建逼真的内容时，创造力和违法之间的界限变得越来越薄。
关注VOI Whatsapp频道
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
