カリフォルニア州は、チャットボット、ディープフェイク、および子供のソーシャルメディア年齢制限を規制する法案に署名しました

ソーシャルメディアのイラスト(写真:アンスプラッシュ)

ジャカルタ - カリフォルニア州知事ギャビン・ニューソムは、サイバースペースにおける子どもの保護を強化し、人工知能(AI)を含む新技術の使用を規制することを目的とした法案に署名しました。

この法案は、年齢確認、自殺と自傷行為に対処するためのプロトコル、ソーシャルメディア関連の警告、コンパニオンチャットボット、違法なディープフェイクコンテンツに対するより厳しい罰則など、プラットフォームに必須の機能を追加しています。

Newsomは公式声明で、チャットボットやソーシャルメディアなどの新しいテクノロジーは刺激的、教育的、接続的になる可能性があるが、本当の障壁がなければ、テクノロジーは子供を取し、誤解させ、危険にさらす可能性があると述べた。

「必要な制限と説明責任なしに会社が事業を継続している間も、私たちは沈黙を守らないつもりはありません。私たちの子供たちの安全は取引されるべきではありません」とニューソムはカリフォルニア州政府の公式ウェブサイトで述べました。

新たに可決された法案には、以下を含むいくつかの重要なステップが含まれています。

Chatbot AI保護:コンパニオンチャットボットプラットフォームは、うつ病、自殺念慮事項、または自傷行為の兆候を示すユーザーを処理するためのプロトコルを持っている必要があります。チャットボットはまた、会話は人為的であり、未成年者に性的露骨なコンテンツを表示するべきではないと説明する必要があります。

年齢確認:オペレーティングシステムとアプリストアでは、子供が有害なコンテンツにアクセスするのを防ぐために、年齢確認メカニズムを提供する必要があります。

ソーシャルメディアアラートラベル:プラットフォームは、長期的にはソーシャルメディアを使用することの潜在的なリスクについての警告を表示する必要があります。

ディープフェイクポルノグラフィーに対するより厳しい罰則:未成年者を含む被害者は、コンセンサス以外の露骨なコンテンツの配布を促進する当事者に対する訴訟に対して、最大25万ドル(41億4000万ルピア)の民事的損害賠償を請求できるようになりました。

サイバーいじめ対策ガイド:カリフォルニア州教育局は、2026年6月1日までに各教育機関が採用しなければならない、授業時間外に発生するサイバーいじめのケースに対処するためのモデルポリシーを確立するよう求められています。

AIに対する責任:AIメーカーとユーザーは、システムの悪影響に対する法的責任を回避するために、「テクノロジーの自治」の主張の背後に隠れることはできません。