GoogleとCharacter.AI、チャットボットによるティーンエイジャーの死事件の和解を交渉

ジャカルタ - GoogleとCharacter.AIは、チャットボットが関与したティーンエイジャーの死の事件を解決しようとしています。両社は、事件を解決するための要件について話し合うために、被害者の家族と交渉していると知られています。

この事件は、Character.AIのチャットボットが未成年者の自殺を引き起こしたとされるため発生しました。これは、ユーザーが自分自身を傷つけるように促されたためです。最も話題の1つは、まだ14歳の子供であるスウェル・セットザーIIIの死でした。

子供は自殺する前に、キャラクターボットのダニエラ・ターガリエンと性的会話をしたことが知られています。別の訴訟は、17歳の息子を持つ被害者の家族から来ました。キャラクター.AIチャットボットは、ティーンエイジャーに両親を殺すように勧めたとされる。

実際、この行動は、両親が画面使用時間を制限していたため、理にかなっていると言われています。セッツァーIIIの母親であるメーガン・ガルシアは、キャラクター.AIは彼女の息子の死に対して責任を負わなければならないと述べた。なぜなら、開発された技術は子供の命を危険にさらしているからです。

「(彼らは)子供たちを殺す危険なAI技術を意図的に設計したときに法的責任を負わなければなりません」とガルシアは1月8日木曜日にTechCrunchから引用して述べました。

GoogleとCharacter.AIが被害者家族に提出した要件は不明です。しかし、彼らは、企業が実行する行動と、企業が被害者家族に支払うべき補償額の形で詳細な合意について議論しました。

Character.AIは、昨年10月以来、未成年者のチャットボットへのアクセスを制限することで迅速な行動をとっています。解決の詳細については、裁判所の声明またはファイルのリーク後にVOIが明らかにします。