ジェミニは、テロリズムや児童虐待の素材のディープフェイクを作成するために悪用されています

ジャカルタ– Googleは、ジェミニデータと人工知能(AI)モデルの誤用の問題をオーストラリア当局に報告しています。同社は、何百もの苦情を受けたと述べた。

世界のさまざまな地域で、GoogleのAIソフトウェアがテロリズム素材でディープフェイクを作成するために使用されているという苦情が250件以上あります。それだけでなく、GoogleのAIは極端な暴力的なコンテンツを作成するためにも使用されています。

さらに、Googleは、Geminiソフトウェアを使用した児童虐待の素材の作成に関する86件の報告を受けたと報告しています。これらのレポートの数十は、オーストラリアの電子安全委員会に提出されています。

テロリズムのディープフェイクコンテンツの作成に関する何百もの報告と、取や児童虐待の素材の作成に関する数十の報告がありますが、Googleがチェックまたは検証したレポートの数は説明されていません。

オーストラリアの電子安全委員会は、この報告書はますます洗練された技術のリスクがどれほど大きいかを示していると述べています。したがって、Googleは有害な材料が生成されないように、独自のAIセキュリティを向上させる必要があります。

ジェミニの虐待の報告はさまざまな国で増加しているが、Googleの広報担当者は、暴力、テロ、取、児童虐待など、有害なコンテンツの作成または配布は許可しないと述べた。

「e-Safetyに提供するジェミニユーザーレポートの数は、確認されたポリシー違反ではなく、世界中のユーザーレポートの総量を表しています」と広報担当者は述べています。「私たちは、オンラインでオーストラリア人の安全を維持するために、努力を拡大することにコミットしています。