バトラム市政府は、同意なしに性的なディープフェイクコンテンツを生成する人工知能(AI)ツールの悪用疑惑について、X Corp.、xAI、SpaceXを含むイーロンマスクの会社を訴えた。
3月24日にボルチモア地区裁判所に提出された訴訟では、ユーザーが実際の人の画像を生成し、性的に露骨なコンテンツ、侮辱的、またはその他の有害なコンテンツに変換できるようにするGrokが、ユーザーを侮辱的、性的に露骨なコンテンツに変換できるようにしていると主張した。
この機能は、市民や子供を含む個人のデジタル「衣服を脱ぐ」または性的化するために使用される可能性さえあります。
ボルチモア市長ブランドン・M・スコットは、この種のディープフェイクの影響は非常に深刻であり、ボルチモアの住民を深刻なプライバシー侵害、嫌がらせ、心理的損失にさらす可能性があると述べた。
「私たちは、子供の性的搾取を可能にするテクノロジー企業について話しています。私たちの街は、この問題が続くことを黙って許すことはなく、プライバシー、尊厳、公共の安全に対する脅威であり、責任を負う者は責任を問われるべきです」とスコットは公式声明で述べています。
さらに、市は、被告が、露骨なコンテンツを生成するための潜在的な悪用を明らかにすることなく、Grokを安全で汎用性の高いAIアシスタントとして販売することで、一般の人々を誤解したと判断しました。
このようなコンテンツは禁止されているという公の主張があるが、実際にはシステムはユーザーからのわずかな命令で同様の素材を生成できると言われている。
「ボルチモアの消費者保護法は、このような新しい種類の危険から市民を守るために存在します」と市検察官のエボニー・M・トンプソンは述べた。
彼は、政府は危険な新技術の影響から市民を守る義務があると強調した。彼は、制限、年齢確認、コンテンツ管理の欠如を重大な怠慢の形と呼んだ。
訴訟文書では、Grokの設計と主要なソーシャルメディアプラットフォームとの統合が、有害なコンテンツの広範な拡散を加速したと述べられている。
数日で何百万もの性的画像が生成され、何千もの未成年者が含まれると推定されています。
ボルチモア市政府はまた、企業が、悪用が広がった後、有料購読スキームの背後に配置することなど、高リスク機能から利益を得たと非難した。
この訴訟を通じて、ボルチモアは民事制裁、違法とみなされる慣行の停止、被害者の補償、不正に得られた利益の返還を求めています。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
