AIのゴッドファーザーは、人間に対するAIの危険性を警告するためにGoogleでキャリアを離れる

ジャカルタ-人工知能(AI)のパイオニアの1人であるジェフリーヒントンは、驚くべきことに先週Googleでのキャリアを終えました。この決定を通じて、彼はAIの潜在的な脅威について自由に世界に警告します。

「AIの危険性について、Googleにどのように影響するかを考慮せずに話すことができるようにするために立ち去りました。Googleは非常に責任を持って行動してきた」とヒントン氏は公式ツイッターで述べた。

AIのゴッドファーザーと呼ばれるヒントンは、テクノロジーの巨人のAIを開発し、今日のAIシステムへの道を開く技術を開発する取り組みにおいて、Googleで10年間パートタイムに働いてきました。

しかし、75歳の彼は、今日のように急速に成長しているAIペースについて深刻な懸念を抱いています。たとえば、ChatGPTを備えたOpenAIや、製品の開発に取り組んでいるがセキュリティを犠牲にしているBornを備えたGoogleなどです。

実際、ヒントンはまた、彼がフィールドで貢献した仕事を後悔しました。「私は普通の理由で自分自身を楽しませます。もし私がそうしなければ、他の誰かがそうするだろう」とヒントンはNYTimesとのインタビューで語った。

短期的には、イギリス生まれの男性は、偽の画像、ビデオ、テキストの台頭のために、テクノロジーが人々が正しいことを知ることをもはや不可能にすることを恐れていました。

ヒントンはまた、彼や他の人が予想していたものをはるかに超えた驚くべき進歩速度を指摘しました。彼の見解はまた、システムが人間の脳で不可能な方法で動き始めていると信じているときに変わりました。

「このアイテムは実際には人よりも賢くなる可能性があるという考えは、それを信じる人もいます。しかし、ほとんどの人はそれが遠いと考えています。そして、それは遠いものだと思っています。30~50年、あるいはそれより長いと思います。明らかに、私はもはやそうは思わない」とヒントンは言った。

「おそらく、このシステムで起こっていることは、実際には(人間の)脳で起こっていることよりもはるかに優れています」と彼は付け加えました。

Googleから撤退する前、HintonはAIが良いことや有害なことをする可能性についても公然と話していました。

「AIの急速な進歩は、私たちが完全には理解していない方法で社会を変え、すべての効果が良いわけではないと私は信じています」と、ヒントンはムンバイのインディアン工科大学ボンベイでの2021年の開会演説で述べました。

ヒントン氏によると、同社がAIシステムをますます洗練・訓練するにつれて、今後数年間でより現実的になる可能性が高いという。彼らがそうするにつれて、システムはより危険になり、彼は怖くなります。

「5年前と今の姿を見てください。違いを取り、前もって広げてください。それは怖かった」とヒントンは主張した。

ヒントンは、AIの専門家として初めて、彼らが構築した技術的危険に対して警鐘を鳴らしたわけではない。ここ数カ月、2通の大規模な公開書簡が、それがもたらす社会と人類に対する大きなリスクについて警告している。

この手紙は、それを作成するのを助けた多くの人々によって署名され、億万長者が支援する非営利団体であるイーロンマスクの未来生命研究所によって出版されたが、OpenAIがChatGPTを推進するより強力な技術バージョンであるGPT-4を発表してからわずか2週間後に起こった。