雅加达 - 意识到有形人工智能虐待作为虐待和性剥削儿童的手段的数量,世界上一些有影响力的人工智能领导人致力于保护儿童的安全。
Thorn和All Tech Is Human,Amazon,Anthropic,Civitai,Google,Meta,Metaphysic,Microsoft,Mistral AI,OpenAI和Stability AI的合作,公开致力于设计安全原则。
根据这些原则,公司致力于保护儿童免受AI(AIG-CSAM)和其他性暴力产生的针对儿童的性虐待材料的创造和传播。
4月23日(星期二),Thorn和All Tech Is Human发布了一篇题为“生成人工智能设计的安全:防止儿童性虐待”的论文,该论文为制造AI工具,社交媒体平台,托管公司和开发商的公司提出建议,采取措施防止生成人工智能被用来伤害儿童。
其中一项建议是要求公司仔细选择用于练习人工智能模型的数据集,并避免仅包含儿童性虐待材料(CSAM)的数据集,以及成人性内容,因为生成人工智能将这两个概念结合在一起的倾向。
他们的承诺是该行业的先例,并代表着在未来随着生成人工智能的发展,保护儿童免受性虐待的努力的重大飞跃。
作为其对这些原则的承诺的一部分,公司还同意公开和透明地分享有关其在执行这些原则方面取得的进展的文件。
通过将安全设计原则集成到其生成AI技术和产品中,这些公司不仅保护儿童,而且领导道德的人工智能创新。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
