カリフォルニア州知事のVeto AI安全法案、テクノロジー業界はイノベーションの影響を懸念

ジャカルタ - カリフォルニア州知事ギャビン・ニューソムは9月29日日曜日、テクノロジー業界から強い拒絶を受けた後、物議を醸している人工知能(AI)安全法案を拒否した。Newsomは、潜在的なAIリスクから一般市民を保護することが重要であるが、この法案はイノベーションを抑止し、AI企業をカリフォルニアから去らせる可能性があると述べた。

Newsomは声明で、AIシステムが高リスクまたは低リスクの環境で実装されているかどうか、および重要な意思決定または機密データの使用を含むかどうかを区別していないため、この法案を批判した。彼によると、この法案は、大規模なシステムを含む限り、AIの最も基本的な機能にも厳格な基準を適用しています。彼はまた、このアプローチが技術業界の急速な革新を抑制する可能性があるという懸念を表明した。

「ジェネレーティブAIの著名な専門家に、カリフォルニア州が科学的および実証的分析に焦点を当てた実用的なガイドラインを策定するのを支援するようお願いします」とNewsom氏は述べています。彼はまた、国家機関に、AIの使用によって発生する可能性のある災害に関連するリスク評価を拡大するよう指示した。

ジェネレーティブAIは、提供されたコマンドに基づいてテキスト、画像、ビデオを生成できるテクノロジーであり、このテクノロジーが雇用の喪失、選挙の混乱、さらには人類を危険にさらす可能性があるという懸念を煽っています。

AI上院議員および業界からの拒否

法案の創始者である民主党上院議員のスコット・ウィーナーは、拒否権に失望を表明した。ウィーナー氏によると、この法律は、AIが制御不能になる前に国民を保護するために必要だという。彼はまた、この拒否権は、AI企業に対する拘束力のある制限がないため、カリフォルニア州をより安全にしていないと付け加えた。

「これらの非常に強力な技術を開発する企業は、確固たるルールに直面していません。業界からの自発的なコミットメントは執行不可能であり、公衆に良い結果をもたらすことはめったにありません」とウィナーは言いました。

一方、カリフォルニア州のテクノロジー業界のリーダーは、拒否権の決定を歓迎した。テクノロジー業界連合の進歩院は、ニューソムの動きを高く評価し、「カリフォルニア州のテクノロジー経済は常に競争と開放性のおかげで繁栄してきた」と述べた。

Google、Microsoft、Googleが支援するOpenAI、Metaなどのいくつかの主要企業は、法案の影響について懸念を表明した。彼らは、厳しすぎるルールがAI開発の成長と革新を妨げる可能性があると主張しています。

テクノロジーの世界におけるプロとコントラ

多くの大企業がこの法案に反対しているが、xAIと呼ばれるAI企業も所有しているテスラのCEOイーロンマスクは、この法案を支持している。マスク氏は、法案の利益は、まだ明確にする必要があるいくつかの条項があるにもかかわらず、費用よりも大きい可能性が高いと述べた。Amazonが支援するAnthropicなどの他の企業もこの立法措置を支持しているが、規則のいくつかの側面で曖昧さに関する懸念があることを認めている。

この法案は、開発費が1億ドル(1兆5,100億ルピア)を超える、または大量のコンピューティングパワーを必要とする高度なAIモデルの監視を提案しています。さらに、AIソフトウェアの開発者は、「切断ボタン」やキルスイッチなど、AIモデルをオフにする方法も設計する必要があります。

この法案はまた、機能が既存の高度なAIモデルを凌駕するデジタルAIモデルの開発を監督する国家機関を設立することを目指しています。しかし、ハイテク企業やナンシー・ペロシを含む数人の米国議員からの強い拒絶により、法案は行き詰まった。

前進

AI安全法案に拒否権を発動したにもかかわらず、ニューソムは州がカリフォルニア州の重要インフラに対するジェネレーティブAIによる潜在的な脅威を評価することを要求する別の法律に署名しました。現在、州はエネルギーインフラへのリスクを分析しており、まもなく水供給者と通信部門について同じ評価を実施する予定です。

Newsomは、次のセッションで議会と協力して、より的を絞ったAI法を策定すると述べた。彼はまた、特に米国議会からの行動がない場合、カリフォルニアからのアプローチのみが必要になるかもしれないと付け加えた。

「一般市民を保護するための行動を取る前に、壊滅的な災害が発生するのを待つことはできません」とNewsom氏は述べ、解決策はAIシステムと機能の実証的分析に基づくべきであると強調した。

連邦レベルでは、AI安全規則を制定する取り組みは米国議会で依然として妨げられており、ジョー・バイデン大統領の政権はAIの規制監視案を起草しています。