NvidiaのCEO:最新の世代のチップは完全に生産されており、AIのパフォーマンスは5倍に増加しています
ジャカルタ - Nvidiaのジェンセン・フアンCEOは、最新のNvidiaチップが現在フル生産段階に入ったと述べた。新しいチップは、特にチャットボットやさまざまなAIアプリケーションを実行するために、以前の世代と比較して人工知能(AI)コンピューティングパフォーマンスを最大5倍も高めることができると主張されています。
この声明は、ラスベガスで開催されたコンシューマーエレクトロニクスショー(CES)でのHuang氏の演説で発表されました。彼は、最新のNvidiaチップが今年後半に発売される予定であり、現在、多くのAI企業によってテストされていると述べました。この動きは、Nvidiaが従来のライバルや自前のAIチップを開発し始めた大規模な顧客との競争の高まりの中で行われました。
Nvidiaの最新のチッププラットフォームはVera Rubinと呼ばれています。このプラットフォームは6つの個別のチップで構成され、新しい世代の72ユニットのグラフィックスプロセッシングユニット(GPU)と36ユニットのCPUを備えた優れたサーバーで構成されています。Huang氏は、システムを1つのユニットまたは「ポッド」に組み合わせて、1,000個以上のRubinチップを10倍に効率的にAI「トークン」を生成できることを説明しました。
このパフォーマンスの飛躍を実現するために、Nvidiaは業界により広く採用されることが期待される独自のデータタイプを使用しています。Huang氏は、トランジスタの数が前世代に比べて約1.6倍しか増加していないにもかかわらず、このパフォーマンスの向上は非常に重要であると述べています。
Nvidiaは依然としてAIモデルトレーニング市場を支配しているが、AIサービスを何億ものユーザーに提供する段階では競争が激化している。AMDなどの企業や、社内AIチップを開発しているGoogleなどの大規模な顧客から競合他社が参入している。この課題に対応して、Nvidiaはコンテキストメモリストレージと呼ばれる新しいテクノロジーを導入し、チャットボットが長くて複雑な会話でより迅速に応答できるように設計されています。
コンピューティングチップに加えて、Nvidiaは、共同パッケージ光学技術を備えた最新の世代のネットワークスイッチも展示しました。この技術は、1つの統合システム内の何千ものマシンを接続するために重要であり、BroadcomとCiscoのソリューションと直接競合します。
Nvidiaは、CoreWeaveがVera Rubinシステムを使用する最初の企業の1つになると述べた。さらに、Microsoft、Oracle、Amazon、Alphabetもこのテクノロジーを採用すると予想されています。
別の発表で、Huang氏は自動運転車用の新しいソフトウェアを強調し、システムがルートの決定を下すのを助け、エンジニアにデータトレースを提供します。アルパマヨと呼ばれるこのソフトウェアは、自動車メーカーが結果を評価し、信頼できるように、オープンソースのトレーニングデータとともに、より広くリリースされます。
黄氏はまた、先月スタートアップGroqからチップの才能と技術を買収したことに言及した。彼によると、この動きはNvidiaの本業に影響を与えないが、将来的には新しい製品を生み出す可能性があるという。
一方、Nvidiaは、最新のチップが中国市場で依然として需要の高いH200などの古いチップのパフォーマンスを超えることができることを示したいと考えています。Huang氏は、中国でのH200の需要は依然として強いと認めた。NvidiaのCFOであるColette Kress氏は、同社はチップの出荷許可を申請しており、米国政府やその他の関係国の承認を待っていると付け加えた。