ジャカルタ - イーロン・マスクのGrokの人工知能チャットボットは、女性と子供の性的ディープフェイクを作成するために悪用されたことに関する国際的な批判の波に続いて、Xプラットフォームでの画像の作成と編集機能を制限しました。1月9日(金)から、GrokはXでの画像作成機能を有料ユーザーにのみ許可します。
この制限は、GrokがXユーザーに直接発表したものです。ただし、Xとは別のスタンドアロンバージョンであるGrokアプリでは、ユーザーはサブスクリプションを必要とせずに画像を作成できます。
この措置は、XとxAIに対する罰金の脅威に加え、さまざまな国からの圧力が高まっているためです。多くの政府は、ユーザーが画像内の被写体の衣服を削除するなど、オンラインで写真を操作することを可能にするGrok機能に注目しています。欧州委員会は、Xで流通しているそのような画像は違法であり、「恥ずべき」ものであると述べた。
英国のデータ保護規制当局はまた、Grokが女性を性的虐待する画像を生成するという懸念を受けて、データ保護法の遵守に関するXからの説明を求めたと述べた。
イギリスのキー・スターマー首相府は、制限政策を強く非難した。ダウニング街のスポークスマンは、有料顧客にのみ機能を制限する措置を「被害者を侮辱する」と「解決策ではない」と表現した。
「それは、違法な画像の作成を可能にするAI機能をプレミアムサービスに変えるだけです」と広報担当者は述べています。「これは、嫌がらせや性的暴行の被害者を侮辱します」
欧州委員会は、Xによって「最新の変更」が行われたことを指摘した。しかし、EUのデジタル問題スポークスマン、トーマス・レニエ氏は、これらの変更は主要な問題に答えていないと強調した。
「有料と無料のサブスクリプションの両方で、これは根本的な問題を変えない」とRegnier氏は記者団に語った。「私たちはそのような画像を見たくない。それはそれだけだ。私たちがプラットフォームに求めているのは、彼らのデザインとシステムがこのような違法なコンテンツの作成を可能にしないことを保証することです」
この論争への対応として、欧州委員会は、2026年末まで、Grokに関連するすべての内部文書とデータをXに保管するよう命じた。EUと英国に加えて、フランス、マレーシア、インドもイーロンマスクのプラットフォームを批判した。
先週、マスク氏は、Grokを使用して違法なコンテンツを作成する人は、違法なコンテンツをプラットフォームに直接アップロードした場合と同じ法的結果に直面すると述べた。
この論争はGrokにとって初めてのことではない。昨年、チャットボットはXユーザーに反セム主義的な答えを与えたとして批判された。昨年7月、人工知能のxAI社は、チャットボットがアドルフ・ヒトラーを称賛し、反セム主義的な声明を発表した後、Grokのテキストレスポンスを無効にし、多くのアップロードを削除しました。
これらの事件は、個々の人や社会全体に害を及ぼす可能性のある技術の悪用を防止する上で、生成された人工知能の役割とデジタルプラットフォームの責任に対する注目を集めています
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
