马来西亚调查与X上的粗俗内容有关的Grok聊天机器人

雅加达 - 马来西亚是下一个批评Grok在X上进行图像编辑功能的国家。原因是xAI的聊天机器人可以通过更改女性或未成年人的照片来创建粗俗的deepfake内容。

根据马来西亚通信和多媒体委员会（MCMC）的调查结果，Grok被证明在X上进行了数字图像操纵。生成的图像也属于不雅，冒犯，并属于对公众有害的类别。

（我们）认真关注公众对X平台上滥用AI工具的投诉，特别是对女性和未成年人图像的数字操纵，“MCMC在一份官方声明中表示，引自1月5日星期一。

目前，MCMC正在研究图像编辑功能产生的影响程度。该委员会还在调查Grok人工智能技术如何绕过道德安全系统。

MCMC解释说，制作有害内容，包括制作淫秽和不雅内容，是违反1998年《通信和多媒体法》（UU PPK）第233条的一部分。如果被证明违反了该法律，X将被迫遵守当地政府的决定。

“尽管X目前不是持牌服务提供商，但X有义务防止在其平台上传播有害内容。MCMC目前正在调查X在线的负面影响，并将传唤他们的代表，“MCMC总结道。

xAI尚未就违反许多用户的滥用图像编辑功能发表声明或道歉。然而，X的所有者埃隆·马斯克（Elon Musk）禁止其平台用户将Grok用于错误的目的。

“任何使用Grok制作非法内容的人都会承担与上传非法内容相同的后果，”马斯克通过他的X帐户说。马斯克没有进一步解释人们在X上滥用Grok会受到什么后果。