欧州委員会、Grokが作成したAIコンテンツは違法で嫌悪感を抱く

ジャカルタ - 欧州委員会は、Xプラットフォーム上の画像を変更できるGrokの最新の機能は違法であると述べた。その理由は、xAIチャットボットが女性や未成年者の写真を脱がすことができるからです。

欧州連合(EU)のデジタルセキュリティを先導する機関は、Xがより大胆なモードで実験していることを「非常に認識している」と述べた。しかし、「スパイシーモード」と呼ばれる機能は、欧州委員会が今後の行動をとるために人工知能(AI)機能を悪用していると見なされています。

「これは辛くない、違法だ。これは恐ろしい。これは嫌いです。これはヨーロッパには場所がない」と、1月6日火曜日にユーロニュースが引用したように、欧州委員会のトーマス・レニエ報道官は述べた。「委員会もこの問題を非常に真剣に検討していることを保証できます」

この声明は、Grokの最新の機能に対する多くの国の批判の後で発表されました。AIモデルは現在、画像から特定のオブジェクトを削除するために使用できますが、その機能はXユーザーによって悪用されています。

Grokは、シンプルなプロンプトで「スパイシーモード」でポルノコンテンツを生成することが証明されています。ユーザーがGrokに誰かの画像から服を削除するように依頼すると、Grokはそれを実行します。この機能は、フランスやマレーシアを含む多くの国々を心配しています。

Xのセキュリティチームは、批判に反応しました。公式アカウントを通じて、チームはGrokによって生成されたわいせつなコンテンツを削除し、関与したアカウントをブロックしたと述べた。彼らは、児童ポルノの取り扱いについて法執行機関と協力することにコミットしている。

消去が行われたにもかかわらず、Grokの機能を使用して下品な画像を生成しようとしているアカウントがいくつかあります。AIチャットボットも一貫性がありません。時々Grokはより控えめな画像を生成することによって拒否しますが、時々Grokはまだ下品な画像を生成します。