AIポルノがブロックされました!EUはAIによる児童虐待画像の厳格な禁止を準備

EU AI法の法律枠組み、世界で最も包括的な人工知能規制(写真:x @TweetThreatNews)

ジャカルタ - 欧州連合(EU)は、児童虐待画像を生成する人工知能の実践を禁止するための最初の法的措置を講じ始めた。3月13日金曜日にEU加盟国の政府は、この慣行をブロックの主要なAI規制で正式に禁止活動として取り入れることを提案した。

この提案は、EU AI法の法律枠組み、2年前にEUが制定した世界で最も包括的な人工知能規制に、児童ポルノを生成できるAI技術に対する禁止を追加します。

この動きは、生成技術で作成できる親密なディープフェイクを含む、AIシステムによって生成される露骨な性的コンテンツに対する世界的な懸念の高まりの中で起こりました。さまざまな国の規制当局は、この技術が子供のデジタル搾取を拡大し、法執行を困難にする可能性があると評価しています。

テクノロジー企業に対する圧力は、イーロン・マスク氏が所有する企業のAIチャットボットが生成した性的コンテンツに関する報告が出た後も高まっています。チャットボット、Grokは、マスク氏のAI企業であるxAIによって開発され、Xソーシャルメディアプラットフォームに統合されています。

現在、欧州の多くのテクノロジー規制当局が、この技術の悪用可能性を調査しています。英国、アイルランド、スペインの監督当局は、Grokによって生成されたとされる性的ディープフェイクのケースを欧州連合の規制当局と調査しています。

新しい禁止提案は、正式に採択される前に欧州議会からの承認を得る必要があります。国会議員は近い将来、同様の提案に投票する予定です。

両当事者が同じアプローチに同意した場合、次のプロセスは、既存のAI法枠組みに変更を組み込むための欧州委員会との交渉です。

議論は激しく予想される。欧州委員会は以前、技術革新を促進するためにAI規制のいくつかの部分を緩和することを提案していた。このステップは、多くの大手テクノロジー企業やビジネスアクターによって支持されていますが、この政策は大規模なテクノロジー企業の利益にあまりにも適応していると考える市民社会団体やプライバシー保護団体から批判されています。

分析家によると、この規則の変更に関する立法プロセスと交渉には、新しい規則が実際に施行されるまでに約1年かかる可能性があると推定されています。

この現象は、現代の生成技術の矛盾を示しています。詩を書く、音楽を作る、科学研究を助けることができる同じマシンは、非常に破壊的な視覚的な操作を作成するために使用することもできます。コンピュータサイエンスの言語では、アルゴリズムには道徳がありません。それは単にデータのパターンを最大化します。道徳は常にルールを書く人間から来る。