Komdigi就X滥用AI Grok编辑不雅照片发表声明

雅加达 - 通信和数字部将对Grok AI在X平台上的滥用行为采取后续行动，该平台被用来编辑传播未经所有者同意的不雅内容。

数字空间监管总干事亚历山大·萨巴尔（Alexander Sabar）表示，初步搜索结果显示，Grok AI尚未拥有明确和充分的设置来防止基于照片的色情内容的制作。

这种情况有可能侵犯隐私权和自我形象权（one's image right），特别是当某人的照片在未经合法同意的情况下被操纵或传播时。

“这有可能导致严重侵犯公民的隐私和个人形象权，”亚历山大在一份1月7日星期三的官方声明中说。

他认为，对个人照片的数字操纵不仅是一个道德问题，而且是一种剥夺个人对其视觉身份的控制的形式，这可能会造成心理，社会和声誉上的损失。

Alex强调，Komdigi目前正在与电子系统运营商（PSE）协调，以确保提供有效的保护机制。

“每个PSE都必须确保他们提供的技术不会成为侵犯隐私，性剥削或破坏个人尊严的手段，”他说。

如果发现不遵守或不合作的态度，Komdigi将实施行政制裁，直至终止Grok AI服务和X平台的访问。

Alex还补充说，成为照片操纵，不雅deepfake或侵犯个人形象权的受害者的社区可以采取法律行动，包括向执法机构报告和向Komdigi投诉。

“我们呼吁各方负责任地使用模仿技术。数字空间不是没有法律的空间，每个公民都有隐私和自我形象的权利，必须受到尊重和保护，”亚历山大说。

此前，亿万富翁埃隆·马斯克（Elon Musk）拥有的社交媒体平台也因未能履行其平台上色情内容的适度义务而被罚款8000万印尼盾。