雅加达 - 最新的调查揭开了苹果公司温和系统中的一个严重漏洞。一些基于人工智能的应用程序能够在未经受害者同意的情况下制作深度伪造色情内容，不仅可以进入App Store，还可以主动做广告并出现在用户的搜索结果中。
研究组织Tech Transparency Project的一份报告发现，用户只需输入关键字（如“deepfake”）即可找到可用于将某人的脸操纵成色情内容的应用程序。更令人担忧的是，其中一些应用程序甚至被评为适合儿童的安全年龄。
这一现象加剧了人们对苹果App Review系统未能履行其作为应用程序生态系统监护人的基本功能的批评。
App Store 的大漏洞
研究人员进行的实验表明，滥用是多么容易发生。其中一个换脸应用程序允许用户上传裸体视频并用别人的照片替换脸部 - 没有警告，验证或任何限制。
没有通知，没有内容过滤器，甚至没有基本的预防机制。在法律和道德方面，这显然属于灰色地带，有可能侵犯隐私并打开数字剥削的大门。
问题不仅仅在于技术，还在于大型平台所促成的分销。
广告继续
情况变得更加荒谬的是，这些应用程序也出现在App Store的付费广告插槽中。这意味着开发人员不仅可以通过筛选，还可以直接向用户购买可见性。
调查数据显示，大约有31个“nudify”应用程序被发现是活跃的，总下载量达到数亿次，总收入超过1.2亿美元。
Apple通过间接方式从这个生态系统中获得收入，这在全球监管机构对数字平台的压力日益增加的情况下可能会适得其反。
这不是第一个案件
此前，苹果公司删除了数十个类似的应用程序，甚至警告像xAI这样的AI公司在其应用程序中存在深度伪造问题。
但最新的发现表明，这一举措还不够。适度似乎是反应性的，而不是预防性的。
事实上，深度伪造技术正在迅速发展，越来越难以与原始内容区分开来 - 如果落入错误的人手中，它将成为一种危险的工具。
此案发生在各国政府开始收紧人工智能内容规则的时候，特别是涉及性剥削和个人隐私的内容。
如果苹果未能修复其系统，监管机构的干预可能会变得更加积极 - 包括对App Review过程进行外部监督的可能性。
深伪造问题不再是互联网论坛上的利基问题。它已经进入主流平台，一键即可使用，而且 - 具有讽刺意味的是 - 被推广。
关注VOI Whatsapp频道
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
