亚马逊报告从第三方AI培训数据中发现CSAM

雅加达 - 亚马逊证实，在审查来自外部来源的人工智能（AI）培训数据时，它发现了儿童色情内容（儿童性虐待材料/CSAM）。这一发现被报告给美国国家失踪和受剥削儿童中心（NCMEC）。

据彭博社报道，NCMEC在2025年期间收到了超过一百万份基于AI的CSAM报告，其中大部分报告来自亚马逊。该公司表示，这些内容是在扫描第三方数据以训练其AI系统时检测到的。

然而，NCMEC认为亚马逊的报告因缺乏来源信息而脱颖而出。NCMEC执行董事Fallaon McNuty表示，来自科技公司的报告通常包含足够的细节，以便执法部门可以跟进。在亚马逊的情况下，缺乏内容来源信息使得报告难以用于调查。

McNuty表示，这种情况引发了对AI培训数据收集过程的严重问题，并强调了在整个技术平台上实施更严格的监管标准和安全机制的必要性。

在回应批评时，亚马逊表示，在审查培训数据时，它使用广泛的扫描规则，这可能会产生大量误报。亚马逊还坚称，没有证据表明CSAM实际上被用于训练其AI模型。

该公司解释说，报告是通过一个单独的系统提交的，因为数据来自第三方，不包括用户信息，因此无法附上源代码的详细信息。

亚马逊重申其对负责任的AI开发和儿童安全保护的承诺。随着对OpenAI，Character.AI和Meta等其他科技公司的数据使用和用户保护的法律诉讼，AI开发中的道德和安全问题一直受到关注。