OpenAIは、人類を助けるためにAGIを作成することに一歩近づいています

ジャカルタ-人工知能(AGI)は、ChatGPT開発者であるOpenAIが達成すべき最も野心的な目標の1つです。最近、同社は課題を克服し、AGIを管理する方法を提示しました。

一般的に、汎用人工知能は、多くの場合、すべてを行う人間のようなものです。汎用人工知能の創出に成功すれば、世界経済の加速や、可能性の限界を変える新たな科学的知見の発見など、人類の助けとなる技術です。

さらに、AGIはすべての認知タスクを実行することもでき、人間の創意工夫と創造性に強力な力の乗数を提供します。もちろん、汎用人工知能は人類の未来に大きな影響を与える可能性があります。

「一方で、汎用人工知能には、重大な虐待、劇的な事故、社会的混乱のリスクもあります。私たちは、AGIが人類が宇宙で最適に発展する力を与えることを望んでいます」とOpenAIは2月27日月曜日に引用された公式ブログ投稿で述べています。

「このリスクに直面して、理論的には正しいと思われることが、実際には予想よりも奇妙であることが判明することが多いことを認識しています。」

これに対抗するために、OpenAIは、短期的な目的で、AGIでの作業に役立ついくつかのポイントを概説しました。たとえば、現実世界のそれほど強力ではない AI システムをデプロイして学習し、経験とフィードバックを得ることができます。

AIのメリットとガバナンスへのアクセスを民主化し、AIシステムが人間の価値観と好みに従って動作するようにするための新しい調整技術を開発し、グローバル機関がAIの使用と規制の広い境界に合意できるようにします。

最後に、AIの進歩に関する情報を一般の人々と共有し、さまざまな利害関係者からの意見を求めます。しかし、AGIの開発が人類にどのように影響するかを形作る他の要因もあるでしょう。

これらの要因には、タイムライン(AGIの作成にかかる時間)、離陸速度(AGI自体のアップグレード速度)、調整(さまざまなアクターがAGI開発にどれだけうまく協力または競争するか)、および安全性(AGIが人間の目標とどの程度一致するか)が含まれます。

OpenAIは、タイムラインが短く、離陸速度が遅いため、政府、企業、および一般の人々全体の間で学習、適応、調整するための十分な時間が得られると述べています。

これは、何が起こっているのかを徐々に理解し、テクノロジーの良い面と悪い面を体験することです。

スタートアップはまた、物事が予測不可能であり、特にAGIが主流になった後、会社自体でさえ潜在的な将来の問題に対するすべての答えと解決策を持っていないという事実について警告しました。

最後に、長期的には、OpenAIは、このシステムを規制する方法、利益を公平に分配する方法、アクセスを公平に共有する方法についての議論が必須であることを望んでいます。