クアルコムの人工知能チップがエネルギー効率電力テストでNvidiaを上回っています

クアルコム社は、3つの電力効率測定のうち2つでエヌビディア社を上回りました。(写真:クアルコム博士)

クアルコム社の人工知能(AI)チップは、4月5日水曜日に公開された新しいテストデータセットで、3つの電力効率測定のうち2つでNvidiaCorp を上回りました。一方、台湾のスタートアップは1つのカテゴリーでトップの座を獲得しました。

Nvidiaは、大量のデータでAIモデルトレーニング市場を支配しています。ただし、これらの AI モデルがトレーニングされると、プロンプトに対するテキスト応答の生成や、画像に猫が含まれているかどうかを判断するなどのタスクを実行することにより、いわゆる "推論" でより広く使用されます。

アナリストは、企業がAIテクノロジーを製品に組み込むにつれて、データセンター推論チップ市場は急速に成長すると考えていますが、Alphabet IncのGoogleのような企業はすでに追加コストが追加されないようにする方法を模索し始めています。

そのような大きなコストの1つは電気であり、クアルコムはスマートフォンなどのバッテリー駆動デバイス用のチップを設計してきた歴史を利用して、効率的な電力消費を目的としたCloud AI 100と呼ばれるチップを作成しました。

AIチップ業界で広く使用されているテストベンチマークを維持するエンジニアリングコンソーシアムであるMLCommonsが水曜日に公開したテストデータでは、クアルコムのAI 100は、各チップがワットあたりに実行できるデータセンターサーバーリクエストの数に基づいて、画像分類でNvidiaの主力H100チップを上回りました。

クアルコムのチップは、Nvidiaのワットあたり108.4リクエストと比較して、ワットあたり197.6のサーバー要求を達成しました。台湾のベテランチップ学者であるYoun-Long Linによって設立されたスタートアップであるNeuchipsは、ワットあたり227件のリクエストでトップの座を獲得しました。

クアルコムはまた、オブジェクト検出でNvidiaを上回り、Nvidiaのワットあたり2.4リクエストと比較して、ワットあたり3.2リクエストのスコアを獲得しました。オブジェクト検出は、小売店からの映像を分析して、買い物客が最も頻繁に行く場所を確認するなどのアプリケーションで使用できます。

しかし、Nvidiaは、チャットボットなどのシステムで最も広く使用されているAIテクノロジーである自然言語処理テストにおいて、絶対的なパフォーマンスと電力効率の両方でトップの座を獲得しました。Nvidiaはワットあたり10.8サンプルを達成し、Neuchipsはワットあたり8.9サンプルで2位、クアルコムはワットあたり7.5サンプルで3位になりました。