据报道，澳大利亚政府准备对没有年龄验证系统的人工智能应用程序采取强有力的行动。如果实施新规定，苹果公司可能会被迫从澳大利亚地区的App Store中删除一些AI应用程序。
澳大利亚监管机构的目标是开发人工智能应用程序，允许未满18岁的用户访问成人内容，极端暴力，自残，饮食失调，而没有足够的年龄检查机制。
根据路透社的报道，如果应用程序商店在3月9日之前没有删除违规的AI应用程序，则可能会被处以高达3500万美元（5900亿印尼盾）的罚款。澳大利亚电子安全专员办公室的一名代表表示，如果出现不遵守情况，监管机构将使用“所有权力”。
此举包括对搜索引擎和应用商店等“看门人”服务的行动，这些服务是访问数字服务的主要门户。这意味着苹果可能必须删除没有适当年龄验证系统的AI应用程序，以防止未成年人访问危险内容。
除了内容问题外，eSafety还强调了儿童过度使用AI聊天机器人的问题。监管机构表示，澳大利亚有10岁儿童每天花多达六个小时与AI软件交谈。
澳大利亚监管机构甚至声称，“人工智能公司利用情感操纵、拟人化和其他先进技术来吸引和使年轻人沉迷于过度使用聊天机器人”。
然而，并非所有AI应用程序都遵守了年龄验证条款。在调查的50个AI平台中，只有9个实施了符合要求的年龄验证步骤。
另外11个AI应用程序实施了全面的内容过滤器。这包括一些流行的聊天机器人，如OpenAI通过其ChatGPT应用程序，然后是Replika，以及Anthropic通过Claude。
与此同时，Character.AI将公开聊天限制为18岁及以上的用户。HammerAI甚至完全阻止了澳大利亚用户的访问。
据报道，其他一些应用程序没有有效的年龄过滤系统，甚至没有提供电子邮件地址来报告违规行为。
与埃隆·马斯克（Elon Musk）相关的AI公司Grok已经实施了防止制作涉及未成年人的色情内容的措施，但仅在法律要求的地区。
在澳大利亚的App Store上，这些应用程序的年龄评级各不相同。Character.AI的评级为18岁以上，Grok为16岁以上，ChatGPT为13岁以上。这些评级差异在实施和监管方面被认为是不一致的，并且可以成为监管机构的焦点。
苹果此前已加强了其为开发商提供的年龄保障工具系统，以使其符合澳大利亚青少年社交媒体禁令政策。尽管如此，如果监管机构认为这些措施还不够，罚款的威胁仍然存在。
如果该规则得到实施，澳大利亚可能会成为第一个迫使苹果等全球应用商店采取更积极行动的国家之一，以保护未成年人。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
