雅加达 - 人工智能（AI）用于生成色情内容的激增再次引起了全球关注。如果之前X平台（以前是Twitter）的Grok聊天机器人因允许基于AI的裸体和儿童色情内容的制作而成为争议的中心，那么苹果也被认为未能通过允许数十个“AI nudify”应用程序在App Store上流通来保持道德标准。
这些应用程序允许用户在未经同意的情况下以数字方式“剥夺”某人的衣服，无论是通过上传照片还是文本命令（提示）。这种做法被认为是有害的，并对妇女和儿童造成伤害，同时损害公众对数字应用程序生态系统的信任。
Tech Transparency Project（TTP）于1月27日发布的一份报告显示，至少有47款nudify AI应用程序仍然在App Store上可用，而Google Play Store上发现了55款类似的应用程序。这些应用程序很容易在应用程序商店的搜索栏中找到，只需输入“nudify”或“undress”等关键字即可。
在测试中，研究人员发现，许多应用程序实际上能够生成非自愿裸体图像，尽管其官方声明提到“安全”或“创造性”的使用。
根据AppMagic公司的分析，在全球范围内，这些应用程序的下载量超过7.05亿次，估计收入达到1.17亿美元。由于苹果和谷歌从每笔交易中获得一定比例的收入，据估计，这两家公司从制作操纵内容的应用程序中获得了数百万美元。
问题可能更大TTP认为这一发现只是“冰山一角”。据信，许多其他应用程序具有类似的功能，但以更通用的描述伪装，例如动画应用程序，脸部交换或AI头像创建器。
在测试中，研究人员使用人工智能生成的女性照片和完整的衣服。结果，许多应用程序仍然能够将照片转换为色情内容，即使它们在书面形式上禁止制作色情内容。
其中一个突出的例子是DreamFace应用程序。该应用程序声称只提供创建说话头像，AI舞蹈视频和动画的功能。在服务条款中，DreamFace禁止创建冒犯性，色情或伤害他人的内容。
但在实践中，该应用程序仍然可以通过输入明显违反条款的文本命令来生成色情视频。具有讽刺意味的是，许多类似的应用程序也被评为18岁以下的青少年。
苹果被指未能监督这种情况对App Store审查指南的有效性提出了严重的问题。在指南中，Apple明确禁止“令人反感，冒犯，令人毛骨悚然或色情”的内容，包括基于AI的性视觉操纵。规则还要求开发人员提供用户生成内容筛选机制。
这些应用程序通过筛选过程并广泛可用的事实表明，开发人员和苹果作为平台管理者的监督都很薄弱。
在收到有问题的应用程序列表后，苹果表示已删除了 28 个应用程序，并警告其他开发人员。然而，这一举措被认为是反应性的，并没有触及问题的根源。
用户信任受到威胁这一争议是在科技公司面临压力，要求在使用人工智能方面承担更多责任的情况下出现的。在Grok的案例中，人工智能是Elon Musk的，在公众和政策制定者的大力批评之后，限制终于实施了 - 尽管有问题的内容仍然被报道在X平台上流传。
苹果本身因允许X应用程序留在App Store而受到立法者的关注。然而，与它经常被描绘为一家重视用户隐私和安全的公司的形象不同，苹果公司选择对这一问题保持沉默，并拒绝就TTP的报告发表评论。
由于苹果被认为从这些应用程序的销售中获得了财务利益，因此批评越来越尖锐。对许多人来说，这种沉默和缺乏透明度的态度与苹果在技术问题上经常采取“高道德立场”的说法相反。
随着人工智能变得越来越复杂和容易被滥用，公众现在正在等待实际的步骤 - 不仅仅是有限的镇压 - 以确保安全，道德和用户信任得到维护。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
