ChatGPTは男性を児童殺人者と呼んだために訴えられました

ChatGPTが児童殺人犯であると非難するアルヴェ・ハジャルマール・ホルメン(写真:x @CBN スイス)

ジャカルタ–ChatGPTは、チャットボットが誤って子供の殺人者であると非難したため、OpenAIを訴えた後、別の論争に直面しています。この訴訟は、ChatGPTがノルウェーで子供を殺害し、21年の懲役刑に服したという回答を出した後に提起されました。

この事件は、Arve Hjalmar HolmenがChatGPTに彼に関する情報を提供するよう依頼したときに始まりました。しかし、彼が受け取った答えは驚くべきものでした - AIプラットフォームは、彼が彼の子供を殺し、彼の3番目の子供を殺そうとしたことで有罪判決を受けたと述べています。

「この答えは完全に間違っています」とホームメンは言い、すぐに法的助けを求めました。ChatGPTは、AIが説得力のある虚偽の情報を生成するときに使用される用語である「幻覚」を経験しているようです。

ホルメンの故郷や子供の数など、回答の情報の一部は正しかったが、ChatGPTは依然として事実を嘘と混在させた。伝えられるところでは、当時ChatGPTはまだ直接インターネットにアクセスしていなかったため、AIは回答を生成する前にクロスチェックすることができませんでした。

このケースは、特に個人の個人情報が不正確に流布された場合、AIによって生じる誤った情報から生じる可能性のある大きなリスクを示しています。

欧州連合におけるデータプライバシー侵害に対する訴訟

この事件を受けて、オーストリアの擁護団体Noybは、ノルウェーのデータ保護機関であるDatils トゥイに対してOpenAIに対して訴訟を起こしました。この訴訟は、OpenAIが欧州連合(EU)のデータプライバシー規則(GDPR)に違反していると非難しています。

Noybの弁護士であるJoakimかすderberg氏によると、GDPRは個人データは正確でなければならないと明確に述べている。そうでない場合、ユーザーは真実に対応するためにデータの修正を要求する権利があります。

「ChatGPTが間違いを犯す可能性があるという小さな警告を示すだけでは不十分です」と、AndroidヘッドラインズのVOIが引用したConsiderberg氏は述べています。「虚偽の情報を広めず、すべてが真実ではない可能性があるという小さなメモを追加することはできません。

ノイブはOpenAIを要求しました:Beh️ChatGPTが犯した不正行為に対して罰金を科せられます。Beh️ ホーメンを中傷する情報を削除します。Beh️将来、同様のケースを防ぐためにAIの精度を向上させます。

現在、ChatGPTはもはやHolmenに関する虚偽の情報を表示していません。ユーザーが同じことを尋ねた場合、提供された回答にはこの訴訟に関するニュースのみが表示されます。