イーロンマスクと人工知能の専門家は、あまりにも洗練されていると考えられるAI開発の休止を求めています

ジャカルタ-イーロンマスクと人工知能の専門家と業界の幹部のグループは、OpenAIによって開始されたばかりのGPT-4人工知能プログラムのより強力なシステムの開発において6か月の休止を求めた。

今月、マイクロソフトが支援するOpenAIは、GPT(一般的な事前訓練変圧器)人工知能プログラムの第4版を発表し、人間のようなユーザーとのコミュニケーションから曲の作成、長い文書の要約まで、幅広いアプリケーションにユーザーを感動させました。

非営利団体のFuture of Life Instituteが発行し、マスク氏を含む1,000人以上が署名したこの書簡は、そのような設計のための共有セキュリティプロトコルが独立した専門家によって開発、実装、監査されるまで、より高度な人工知能の開発を一時停止するよう求めている。

「強力な人工知能システムは、その影響が肯定的であり、リスクを管理できると確信している場合にのみ開発されるべきである」と書簡は述べている。

OpenAIは、この報告書に関するロイターからのコメント要請にすぐには応じなかった。

書簡は、経済的および政治的混乱の形で人間と同等の人工知能システムによって社会と文明に対する潜在的なリスクについて詳述し、開発者にガバナンスと規制当局に関する政策立案者と協力するよう求めた。

共同署名者には、安定性AIのCEOが含まれます。アルファベットが所有するDeepMindの研究者であるエマド・モスタケと、人工知能の専門家である吉華ベンジオは、しばしば「人工知能の父」の一人として知られており、この分野の研究のパイオニアであるスチュアート・ラッセル。

EUの透明性レジストリによると、生命の未来研究所は、主にマスク財団、ロンドンを拠点とする効果的な自己主義グループ、創設者の意見、シリコンバレーコミュニティ財団によって資金提供されています。

これらの懸念は、3月27日月曜日に欧州連合(EU)の警察が、ChatGPTなどのより高度な人工知能に関する倫理的および法的懸念の呼びかけに参加し、フィッシング、偽情報、サイバー犯罪の試みにおけるシステムの潜在的な悪用について警告したときに発生しました。

一方、英国政府は、人工知能に関する「適応可能な」規制の枠組みの提案を発表しました。

3月29日水曜日に公表された政策文書で概説されている政府のアプローチは、人工知能(AI)を人権、健康、安全、競争に関する規制当局間で規制する責任を、技術に特化した新しい機関を創設するのではなく分担する。