オランダの裁判所は、イーロンマスクのAI技術に対する珍しいが厳しい判決を下した。中間判決で、アムステルダム裁判所は、xAI社とGrokチャットボットに、明確な同意なしに、成人や子供を問わず「衣服を脱ぐ」画像の作成と配布を停止するよう命じた。
このステップは、非同意性の性的コンテンツを作成するAIの生成能力を直接標的にしたヨーロッパの最初の法的介入の1つであり、この問題は「nudifier」技術の使用の急増の中でますます熱くなっています。
裁判所は、Grokが許可なく裸または半裸の状態の個人を表示する画像を制作または配布してはならないと強調しました。違反した場合、xAIは1日あたり最大10万ユーロの罰金に直面します。これはCFOが動揺するのに十分な数字です。
それだけでなく、裁判所は、Xプラットフォーム上でサービスを提供するGrokが依然としてこれらの条件に違反している間、利用できないように命じた。
この事件は、デジタルベースの性的暴行の事件を積極的に処理してきた非営利団体Offlimitsと被害者支援基金によって提起されました。裁判で、原告は、xAIがセキュリティシステムを強化したと主張した後でも、Grokが依然として許可なく人の写真を性的コンテンツに変換できることを示しました。
Offlimitsのディレクター、ロベルト・ホヴィングは、責任はユーザーに転嫁することはできないと述べた。「技術が悪用されないようにすることは、企業の責任です」と彼は言いました。
一方、xAIは、悪意のあるユーザーによる悪用を完全に防ぐことはできないと主張しています。彼らはまた、有料ユーザーにのみ画像生成へのアクセスを開くなど、特定の機能を制限したと述べた。しかし、裁判官は、このステップはまだ十分ではないと判断した。
この判決は、デジタルサービス法を通じてEUによるAI技術の厳格な監視の真っ只中に起こりました。実際、欧州委員会は以前、AIによって生成された違法コンテンツのリスク、包括的な画像の操作を含むXプラットフォームに関する調査を開始しました。
欧州議会も、性的な偽の画像を作成できるAIアプリの禁止を支持することで緊張を高め、欧州の「AIが自由に実験できる」時代の後退が「厳重に監視されたAI」の時代によって置き換えられることを示した。
より広範には、この判決は世界のAI業界にとって重要な先例になる可能性があります。この傾向が続けば、テクノロジー企業はもはや「ツールを作っているだけだ」と言うことができなくなるでしょう。なぜなら、法律は彼らを影響の責任を負う当事者として見始めだからです。
VOIのWhatsAppチャンネルに従ってください
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
