下院委員会Iは、ポルノコンテンツを拡散するGrok AIとXプラットフォームをブロックするKomdigiを奨励します

UNSPLASH/Salvador Rios

ジャカルタ - 下院委員会Iのメンバーであるシャムス・リザルは、グロクAIとポルノコンテンツの制作と拡散に使用されるソーシャルメディアプラットフォームXをブロックすることによって、通信・デジタル省(Komdigi)に断固とした措置を講じるよう促した。

彼によると、Grok AIが人の写真を不道徳なコンテンツに変える能力は、深刻で非常に懸念すべき脅威です。さらに、Syamsu Rizalは、現在まで、Grok AIには、そのような悪用を防ぐのに十分なコンテンツモデレーションシステムがないと評価しています。

「これまで、Grok AIはXプラットフォームで、ユーザーが誰かの写真をまたは画像をわいせつなコンテンツに変えるために使用されているのを見てきました。特定の要求があれば、Grok AIはその指示に従うことができます。これは明らかに危険です」と、1月8日木曜日の声明でSyamsu Rizalは述べています。

南スラウェシ州ダピルのPKB議員は、厳格な監督なしに人工知能を悪用すると、広範囲に影響を与える可能性があると強調した。被害を受けた個人のために損害を与えるだけでなく、シャムス・リザルは、AIの悪用はまた、社会の社会的および道徳的秩序を損なうことを強調した。

「Grok AIとXプラットフォームがシステムを制御できず、ポルノコンテンツの制作と拡散を許可し続けるならば、Komdigiはそれをブロックすることによって断固として行動しなければならない」と彼は言った。

シャムス・リザル氏は、国家はデジタル技術の悪影響、特に搾取、ポルノ、プライバシー侵害に関連する影響から国民を保護する義務があると述べた。

情報を担当する委員会のメンバーは、この種の慣行を許可することは、国家デジタルエコシステムにとって悪い先例になるだろうと評価した。

「この決定的なステップは、責任のないAIの使用が非常に危険で、国の道徳を損なう可能性があるため、重要です」とSyamsu Rizalは結論付けました。

Komdigiは以前、Grok AIとXは、インドネシアの既存の規則に従わない場合、または協力しない場合、行政制裁を受けるだろうと述べた。

コムディジのデジタルスペース監督局長アレクサンダー・サバルは、電子システムオペレーター(PSE)のXプラットフォームは、インドネシアで適用される法律を遵守しなければならないと強調した。

サバル氏によると、ポルノコンテンツの制作および/または配布、または権利のない個人イメージの操作を実証したAIサービスプロバイダーとユーザーは、適用される法律の規定に従って行政的および/または刑事制裁の対象となる可能性があります。