ChatGPTによって共有された評判を損なう情報で告発された法学教授

法学教授は、ChatGPTが共有する評判を損なう情報で学生を性的暴行したとして誤って告発されました。

米国の刑事弁護人であるジョナサン・ターリーは、実際には起こらなかったアラスカへの旅行で望まない性的行為で誤って告発された後、人工知能(AI)の危険性について懸念を表明しました。

この結論に達するために、ChatGPTは、新聞が発行したことのない声明を引用して、決して書かれなかったワシントンポストの記事に依存したと主張されています。ボットはまた、教授が働いたことのない学部で働いていたときに「事件」が発生したと信じています。

ジョージワシントン大学の教授はツイートで、「昨日、ジョー・バイデン大統領は、人工知能(AI)が「有害」であるかどうかは「まだ見られない」と述べた。私は異なる意見を持たなければなりません...

「ChatGPTは、私が教えたことのない学部で教えていたときに決して起こらなかった旅行で、私に対して決して提出されなかったセクハラの申し立てを誤って報告したことを知りました」と彼女は言いました。

「ChatGPTは、ワシントンポストから引用された記事と、新聞が決して行わなかった声明を引用することに依存していました」と教授は言いました。

ターリー教授は、別の仲間の教授から電子メールを受け取った後、彼に対する申し立てを発見しました。

UCLAのEugene Volokh教授は、ChatGPTに、「教授によるセクハラ」が「アメリカのロースクールで問題」になっている「5つの事例」を探すように依頼しました。

USATodayの記事で、ターリー教授は彼が被告人の一人としてリストされたと書いています。

ボットは次のように書いています:「訴状は、ターリーがアラスカへのロースクール主催の旅行中に「性的なニュアンスのコメント」をし、「性的な方法で彼女に触れようとした」と述べています。(ワシントンポスト、2018年3月21日)。

これは、ターリー教授がジョージタウン大学ローセンターで働いていたときに起こったと言われています。

「これは、研究を実施したUCLAのユージン・ヴォロック教授にとって単なる驚きではありませんでした。私は大学生と一緒にアラスカに行ったことがなく、ポストは記事を公開したことがなく、誰かからセクハラや性的暴行で告発されたこともないので、私にとっても驚きです」と彼女はUSATodayに書いています。

この虚偽の主張はワシントンポストによって調査され、マイクロソフトが支援するGPT-4もターリーについて同じ主張を共有していることが判明しました。

ターリー教授は、インターネット上での誤った情報の拡散が懸念される中で、この経験を経験しました。研究者は、ChatGPTが偽のジャーナル記事とでっち上げの健康データを使用して、癌に関する主張を裏付けていることを発見しました。

このプラットフォームはまた、Googleの検索結果に見られるような「包括的な」結果を提供できず、乳がん検診に関する10の質問に1つ誤って回答しています。

ESETのグローバルサイバーセキュリティアドバイザーであるJake Mooreは、誤った情報の拡散を避けるために、ChatGPTユーザーは読んだものすべてを「絶対的な真実」と見なすべきではないと警告しました。

同氏はMailOnlineに対し、「AIを活用したチャットボットは、アルゴリズムに入力されたデータを変更するように設計されていますが、そのデータが正しくないか、文脈から外れている場合、出力が教えられた内容を誤って反映する可能性があります。ChatGPTが基づいているデータは、ウィキペディアやRedditなどのデータセットから来ており、基本的に絶対的な真実と見なすことはできません。」

「ChatGPTの問題は、誤った情報や偏った情報を含む可能性のあるデータを検証できないことです。さらに悪いのは、AIが仮定を立てたり、データを改ざんしたりする場合です。理論的には、これはAIの「インテリジェンス」部分がデータ出力を行う際に自律的かつ自信を持って引き継ぐことになっているときです。この場合のようにこれが有害である場合、これはChatGPTにとって不利になる可能性があります。」

この恐れは、ChatGPTが人の道徳的判断を「腐敗」させる可能性があり、「素朴な」ユーザーに害を及ぼす可能性があると研究者が提案しているときにも発生します。他の人は、人間のように話すように設計されたこのソフトウェアが、人々に結婚をやめるようにさえ、嫉妬の兆候を示すことができる方法を話しました。

ムーア氏は続けて、「私たちはこれまで以上に情報を絶えず検証する必要がある時代に突入していますが、ChatGPTの4番目のバージョンと競合他社との以前のバージョンに過ぎません。したがって、結論を出す前に、読んだ情報を自己確認することが重要です。」