AI企業は、よりスマートなインテリジェンス、古い方法を学ぶ限界に向けて新しい道を見つける

人間の考え方に似たAI開発のイラスト(写真:x @johnidoganlas)

ジャカルタ - OpenAIを含む人工知能(AI)企業は、より洗練された大規模な言語モデルの開発において予期せぬ課題に直面しています。彼らは現在、アルゴリズムが人間のように「考える」ことを可能にする新しいトレーニング技術に焦点を当て、AI知能を向上させています。

これは、AIセクターの技術競争を変え、エネルギーやコンピュータチップなどのリソースニーズに影響を与える可能性があると信じているAI科学者、研究者、投資家によって明らかにされています。

以前、OpenAIは、ChatGPTで使用されていたように、AIモデルを改善するためにデータと計算能力を拡大するアプローチに成功していました。しかし、OpenAIの共同創設者で、現在はSafe Superintelligence(SSI)と呼ばれる新しいAIラボを率いるIlya Sutskever氏は、このアプローチは限界を示し始めていると述べた。「2010年代はスケーラビリティの時代でしたが、今は発明の時代に戻っています」と彼は言いました。

研究者らは現在、数千万ドルの費用がかかり、同時に動作する何千ものチップを必要とし、ハードウェア故障を起こしやすいモデルトレーニングプロセスのという課題に直面しています。さらに、簡単にアクセスできるデータ不足やエネルギー不足の問題は、状況をさらに複雑にしています。

解決策として、一部の研究者は「テストタイムコンピューティング」と呼ばれる技術を開発し、AIモデルが複雑な問題を解決するために運用時により多くのコンピューティングパワーを捧げることができました。たとえば、OpenAIはこの技術を新しいモデルである「o1」に使用しており、人間の考え方などのいくつかの段階で問題解決を可能にしています。

この動きは、SequoiaやAndreessen Horowitzを含む投資家にとっても大きな懸念事項であり、投資への影響を検討しています。このシフトは、市場の主力であったNvidiaのAIチップの需要に影響を与える可能性があります。

Nvidiaのジェンセン・ホアン最高経営責任者(CEO)は、この技術の重要性は、トレーニングだけでなく、運用中のAI使用のためのチップの需要を増やすことであることを認めた。「私たちは今、使用期間中に2番目のスケールの法律を見つけました」とHuangは言いました。

この新しいアプローチによるよりスマートなAIの開発は、AI業界の状況を変え、テクノロジー市場に新しい課題と機会を生み出すことができます。