双子座被滥用于制造深片恐怖主义和儿童虐待材料

雅加达 - 谷歌向澳大利亚当局报告了双子座数据和其创意智能(AI)模型的滥用问题。该公司表示,已收到数百起投诉。

世界各地有250多起投诉称,谷歌的AI软件被用来用恐怖主义材料制造Deepfakes。不仅如此,谷歌的AI还被用来创建极端暴力内容。

此外,谷歌还报道称,它已收到86份关于使用双子座软件制造儿童虐待材料的报告。数十份报告已提交给澳大利亚电子安全委员会。

虽然有数百份关于恐怖主义深度虚假内容创建的报告和数十份关于剥削和虐待儿童材料创建的报告,但没有解释谷歌检查或验证了多少份报告。

澳大利亚电子安全委员会表示,该报告显示了日益复杂的技术的风险是多大。因此,谷歌必须提高其独特的AI安全性,以防止恶意材料被产生。

虽然双子座虐待的报道在各国越来越多,但谷歌发言人表示,它不会允许创建或分发有害内容,无论是暴力,恐怖,剥削还是虐待儿童。

“我们向e-Safety提交的双子座用户报告数量占全球用户报告的总量,而不是确诊的政策违规行为,”发言人说。“我们致力于扩大我们的努力,以帮助在线维护澳大利亚公民的安全。