カリフォルニア州がチャットボットAIセキュリティ法を実施する米国の第一州

カリフォルニア州知事ギャビン・ニューソム(写真:x @NoLieWithBTC)

ジャカルタ - カリフォルニア州は、人工知能(AI)ベースのチャットボットを規制し、未成年者を保護するための包括的な法律を制定した米国で正式に最初の州になりました。

上院法案243(SB 243)として知られるこの新しい法律は、AIアイデンティティの明確な開示、長い会話の中断の実施、有害または露骨なコンテンツに対する保護を要求しています。

チャットボットは実際には新しいものではありません。その開発において、初期の世代のチャットボットは、私たちが今日知っている現代のAIの先駆者と見なすことができます。ただし、AIを活用してチャットボットのインテリジェンスを向上させる企業が増えるにつれて、予測する必要のあるさまざまなリスクもあります。したがって、カリフォルニア州は、ユーザー、特に子供の安全を確保するために新しい規制を実施することにより、決定的な措置を講じています。

カリフォルニア州知事のGavin NewsomはSB 243に署名し、カリフォルニア州はAIチャットボットに包括的な安全プロトコルを実装した最初の州となりました。このルールは、OpenAIやMetaなどの大企業を対象としており、未成年者ユーザーに特別な保護を提供する必要があります。

この法律に従って、チャットボット企業は、人間ではなくAIと対話していることを子供ユーザーに通知する必要があります。さらに、チャットボットへの過度の画面時間や潜在的な感情的依存に関する懸念に対処するために、会話セッション中に定期的な一時停止が必要です。

この規制はまた、カリフォルニア州のチャットボットが自殺、自傷行為、性的露骨な素材に関連するものなどの有害なコンテンツを生成するのを防ぐことを企業に要求しています。この法律はまた、ディープフェイクポルノの被害者に、最大250,000米ドル(約40億8000万ルピア)の民事補償を求める権利を与えています。

「チャットボットやソーシャルメディアなどの新しいテクノロジーは、人々を鼓舞し、教育し、つながることができます。しかし、本当の安全フェンスがなければ、テクノロジーは私たちの子供たちを取し、誤解させ、危険にさらすこともできます。私たちは、ティーンエイジャーが規制なしにテクノロジーの犠牲者になり、沈黙を守らないという悲劇的な例をたくさん目撃しました」と、ロイターのVOIが引用したニューソムは述べています。

AI規制の論争

この法律を誕生させるプロセスは、大きなハードルに直面していました。ドナルド・トランプ大統領は以前、2025年7月に「One Big Beautiful Bill」に署名しており、当初は10年間AIを規制する州の禁止に関する規定が含まれていました。

しかし、この規定は、州が依然として地方のニーズに応じて技術を規制する権限を持つべきであると考えた両党の多くの議員によって拒否されました。

規制がAIの進歩を遅らせる可能性があると主張する人もいますが、Newsomはイノベーションと責任のバランスの重要性を主張しています。「私たちはAIとテクノロジーの分野でリードし続けることができますが、私たちは責任ある方法でそれをしなければなりません - すべてのステップで私たちの子供たちを保護します。私たちの子供たちの安全は取引されるものではありません」と彼は言いました。