OpenAIはカリフォルニア州のティーンエイジャーの自殺事件を受けてChatGPTでペアレンタルコントロールを開始

OpenAIは、ウェブとモバイルでChatGPTのペアレンタルコントロールの展開を開始しました(写真:x @WBuzzer)

ジャカルタ - OpenAIは、9月29日月曜日にウェブとモバイルでChatGPTのペアレンタルコントロールの展開を開始しました。これは、人工知能のスタートアップのチャットボットが自傷行為の方法について彼を訓練したとされる後に自殺で死亡したティーンエイジャーの両親からの訴訟に続くものです。

Microsoftが支援する同社は、このコントロールにより、親と十代の若者はアカウントをリンクすることでより強力な保護を可能にすると述べています。ペアレンタルコントロールは、いずれかの当事者が招待状を送信し、もう1つの当事者がそれを受け取った場合にのみ有効になります。

これらの新しい手順の下で、保護者は次のとおりです。

機密性の高いコンテンツへのアクセスを減らします。

ChatGPTが以前の会話を思い出すかどうかを制御します。

OpenAIモデルのトレーニングに会話を使用できるかどうかを決定します。

一定時間アクセスをブロックする静かな時間 (静かな時間) を設定します。

音声モードだけでなく、画像の作成と編集を無効にします。

しかし、同社は、両親はそのティーンエイジャーのチャットの写しにアクセスできないと付け加えた。

OpenAIは、訓練を受けたシステムとレビューアが重大な安全上のリスクの兆候を検出するまれなケースでは、親は青少年の安全をサポートするために必要な情報のみで通知できると述べています。10代の若者がアカウントのリンクを削除した場合も、保護者に通知されます。

ChatGPT製品の週に約7億人のアクティブユーザーを抱えるOpenAIは、ユーザーが18歳未満であるかどうかを予測するのに役立つ年齢予測システムを構築しているため、チャットボットは自動的に10代の若者に適した設定を適用できます。

この動きは、チャットボットの潜在的な悪影響について、AI企業に対する米国の規制当局による精査が高まっている中で行われます。8月、ロイター通信は、メタのAIルールが子供との性交的な会話をどのように許可しているかを報告しました。

その後、メタは先月、未成年者との自己傷害や自殺についての性的な会話や議論を避け、特定のAIキャラクターへのアクセスを一時的に制限するためのシステムを訓練することにより、AI製品のティーンエイジャーの新しい保護を発表しました。