OpenAI CEO 論争: 人工知能開発における重要な議論

OpenAI、人類が恐れ始めている人工知能の開発者。 （写真：doc.pexels）

ジャカルタ - ChatGPTチャットボットの頭脳として知られるOpenAIのCEOであるサム・アルトマンの解任は、人工知能(AI)開発におけるセキュリティに関する根本的な意見の相違を引き起こした。 アルトマン氏が主催するようなAIの迅速な開発と公開を支援するグループと、研究所での徹底したテストを支援するグループの違いが浮き彫りになっている。

先週金曜日に解雇されたアルトマン氏は、生成人工知能の人間の顔とみなされていた。 ChatGPT のような超スマート ソフトウェアが手に負えなくなり、潜在的な災害につながるのではないかと心配する人もいます。 これは、人類に利益をもたらす人工知能の進歩を望む「効果的な利他主義」の支持者たちの懸念を反映している。

同様の矛盾は、同じく AI によって制御される自動運転車の開発でも発生します。 一部の開発者は、自動運転車の機能と欠点を理解するために都市環境に自動運転車をリリースする必要があると主張する一方、予期せぬリスクに対する警戒を主張する開発者もいます。

OpenAI が最近 ChatGPT-4 のバージョンや仮想エージェントを含む新製品を発表したため、Ouster Altman 氏はセキュリティに関する懸念を表明しました。 アルトマン氏の解任に同意したOpenAIの主任科学者イリヤ・サツケヴァー氏は、OpenAIのソフトウェアがユーザーにあまりにも早く導入され、安全性が損なわれていると感じた。

サツケヴァー氏は7月のブログで、人間はより賢いAIを取り締まることはできないとして懸念を表明した。 アルトマン氏は、OpenAI は当初、営利目的を阻止する非営利団体として設立されましたが、社内に営利を目的とした組織を設立することに貢献しました。

OpenAI の運命の重要性が注目されており、AI の開発において OpenAI は極めて重要であると考えられています。 昨年 11 月に ChatGPT をリリースした中心人物である Altman 氏は、Microsoft から OpenAI への 100 億米ドル (IDR 154 兆) を含む大規模な投資を集めました。 アルトマン氏をポストに戻すための協議は合意なく終了した。

Twitchプラットフォームの元責任者であるエメット・シア氏が暫定CEOを交代したことは、AI開発の遅れを象徴している。 シアー氏は9月の投稿で、現在の速度10であれば速度を落とし、1-2まで下げることを主張した。

規制当局が AI の発展に適応しようとする中、人類にとって安全な人工知能を開発するという方向性はますます深まっています。 ほとんどの人が仕事の補完として ChatGPT などの生成 AI ソフトウェアを使用していますが、トリガーなしで複雑なタスクを実行できる汎用人工知能 (AGI) が出現する可能性についての懸念は高まり続けています。

これに関連して、OpenAI は、安全性と社会への長期的な利益を確保するために人工知能の開発を加速し続けるべきか減速し続けるべきかという重要な問題を伴う、今後の困難な課題に直面しています。