マレーシア、Xのわいせつなコンテンツに関するGrokチャットボットを調査

ジャカルタ - マレーシアは、XのGrok画像編集機能を批判した次の国です。その理由は、xAIのチャットボットが、女性や未成年者の写真を変更して、わいせつなディープフェイクコンテンツを作成できるからです。

マレーシア通信・マルチメディア委員会(MCMC)の調査結果に基づいて、GrokはXでデジタル画像を操作したことが証明されました。生成された画像は、不適切で、侮辱的であり、一般の人々にとって危険なカテゴリーに属します。

「(私たち)は、XプラットフォームでのAIツールの乱用、特に女性と未成年者の画像のデジタル操作に関する一般市民の苦情を深刻な懸念をもって記録した」とMCMCは1月5日月曜日に引用された公式声明で述べた。

現在、MCMCは画像編集機能がもたらす影響の大きさを調査しています。委員会はまた、GrokのAI技術が倫理的セキュリティシステムをどのように回避できるかを調査しています。

MCMCは、わいせつで不品行なコンテンツの作成を含む有害なコンテンツの作成は、1998年のコミュニケーション・マルチメディア法(UU PPK)第233条の違反の一部であると説明した。この法律に違反したことが証明された場合、Xは地元の政府の決定に従うことを余儀なくされます。

「Xは現在ライセンスサービスプロバイダーではないが、Xはプラットフォーム上の有害なコンテンツの拡散を防ぐ義務を負っている。MCMCは現在、Xのオンラインの悪影響を調査しており、その代表者を召喚する」とMCMCは締めくくった。

xAIは、多くのユーザーに損害を与えるわいせつな画像変換機能を逃したことに関して、声明や謝罪はしていない。しかし、Xの所有者であるイーロン・マスクは、プラットフォームのユーザーがGrokを間違った目的に使用することを禁止しています。

「Grokを使用して違法なコンテンツを作成する人は誰でも、違法なコンテンツをアップロードした場合と同じ結果を被る」とMuskはXアカウントを通じて述べた。マスクは、XでGrokを悪用する人々がどのような結果を被るのかについて、さらに説明しなかった。