KomdigiがXでAIのグロックを悪用して不適切な写真を編集することに関して声を上げる

ジャカルタ - コミュニケーション・デジタル省は、所有者の同意なしに不道徳なコンテンツを編集して拡散するために使用されるXプラットフォームでのGrok AIの悪用疑惑をフォローアップします。

デジタルスペース監督局のアレクサンダー・サバル局長は、初期の検索結果から、Grok AIは写真ベースのポルノコンテンツの制作を防止するための明確で十分な規制をまだ持っていなかったことを示したと述べた。

この状況は、特に人の写真が正当な同意なしに操作または拡散された場合、プライバシー権と自己イメージ権(自己イメージ権)を侵害する可能性があります。

「これは、市民のプライバシーと自己イメージの権利に対する深刻な侵害を引き起こす危険性があります」と、アレクサンダーは1月7日水曜日の公式声明で述べました。

彼は、個人的な写真をデジタル操作することは、単なる道徳の問題ではなく、心理的、社会的、評判的損失を引き起こす可能性のある視覚的アイデンティティに対する個人の支配権の奪取の形であると評価した。

アレックスは、Komdigiは現在、電子システムオペレーター(PSE)と調整しており、効果的な保護メカニズムが利用可能であることを確認していると強調した。

「すべてのPSEは、彼らが提供する技術が、プライバシーの侵害、性的搾取、または個人の尊厳の破壊の手段にならないことを確認する必要があります」と彼は言いました。

不遵守または不協力的な態度が見られた場合、Komdigiは、Grok AIサービスとXプラットフォームへのアクセスを停止するまで、行政制裁を課します。

アレックスはまた、写真操作、不品行なディープフェイク、または自己イメージ権の侵害の被害者である人々は、法執行機関への報告やKomdigiへの苦情を含む法的措置を講じることができることを付け加えた。

「私たちは、模倣知を使用して責任ある方法で行動するよう、すべての当事者に呼びかけています。デジタル空間は、法のない空間ではなく、プライバシーと個人のイメージの権利があり、尊重され保護されなければならない」とAlexander氏は述べた。

以前、億万長者のイーロン・マスクのソーシャルメディアプラットフォームも、プラットフォーム上のポルノコンテンツのモデレーション義務の履行の遅れにより、インドネシアに8,000万ルピアの罰金を科された。