OpenAIは、ChatGPTのプライバシー慣行と幻覚事件についてFTCを調査し始めました

ジャカルタ-米国(US)の連邦取引委員会(FTC)は、チャットボットがデータを収集し、個人に虚偽の情報を公開することによって消費者に害を及ぼすかどうかについて、作成者のスタートアップChatGPTであるOpenAIの調査を開始しました。

FTCは今週、米国サンフランシスコに拠点を置く会社に送られた20ページの手紙で、OpenAIが不公平で不正なプライバシー慣行またはデータセキュリティに関与していたかどうかについて調査が焦点を当てると述べた。

FTCは、OpenAIがFTC法第5条に違反する評判の損害を含む消費者への危険のリスクに関連する不公平または不正な慣行に従事しているかどうかを検討します。

FTCが行政召喚の一種と見なしている情報要求は、一般市民から受け取った苦情、それに関連する訴訟のリスト、およびOpenAIが2023年3月に開示したデータ漏洩の詳細について、同社に証言を求めています。

FTCはまた、チャット履歴とユーザーの支払いデータを開くよう求めていると述べています。

つまり、米国の機関は、OpenAIがアルゴリズムをテスト、変更、操作する方法、特に異なる応答を生成する方法、またはリスクに対応する方法、および異なる言語で説明する必要があります。

この要請では、AIが誤った情報を生成する結果を説明する業界用語である幻覚のケースを処理するために取られたあらゆるステップを説明するよう企業に求めました。

FTCの調査は、AIについて過度の主張をしたり、差別的な方法でテクノロジーを悪用したりしないように企業に繰り返し警告した後に行われました。

最近のブログ記事で、FTCはAIを使用する企業が、テクノロジーに関連する不公平で不正な慣行に対して責任を問われることを明らかにしました。

国家消費者保護監督者として、FTCはプライバシー侵害、不正なマーケティング、その他の損失を訴追する権限を与えられています。

FTCに応えて、OpenAIのCEOであるSam Altmanは、CNNインターナショナルとCNBCインターナショナルが7月14日金曜日に引用したように、同社の不信感を意味する当局の要求に失望したことを認めた。

「FTCの需要がリークから始まり、信頼を築くのに役立たなかったのは残念です。私たちは長年にわたる安全研究の上にGPT-4を構築し、最初のトレーニングを完了してから6〜数ヶ月を費やして、リリース前により安全でより整列しました」とAltmanは公式Twitterアカウントで述べています。

アルトマン氏はまた、同社の技術は非常に安全で消費者を保護し、法律に準拠していることを強調し、「当社の技術は安全で消費者に賛成しており、法律に準拠していると信じており、もちろんFTCと協力する」と述べた。

「私たちはユーザーのプライバシーを保護し、個人ではなく世界について学ぶためにシステムを設計しました。特に失敗した場合、私たちは技術の限界について透明性があります」と彼は付け加えました。