Google Cloudが第8世代のAIチップTPUを2つ発売

Google Cloudの新しいチップ(写真:Googleのドック)

ジャカルタ - Google Cloudは、TPUシリーズの2つの新しい人工知能(AI)チップ、すなわちTPU 8tとTPU 8iを発表しました。第8世代のTPUは、AIエージェントの開発のために特別に設計されています。

「私たちは、エージェント時代のために特別に設計されたTPUの第8世代を発表することを誇りに思います」とGoogle Cloudは4月23日木曜日に引用された公式ウェブサイトで述べています。彼らによると、この2つの新しいチップは、よりインタラクティブで費用対効果の高いAIエコシステムをサポートすることができます。

TPU 8tは、非常に高いスループットでAIモデルをトレーニングするプロセスのためのメインマシンとして開発されました。このデバイスは、大規模なモデルのトレーニング時間を短縮するために、前世代に比べて最大3倍高速な計算パフォーマンスを提供します。

TPU 8t スーパーポッドユニットは、高速インターコネクションを介して統合的に接続された9,600個のチップを収容できます。1つのクラスタに100万個以上のチップの能力を持つため、通常数ヶ月かかる複雑なモデルのトレーニングプロセスは数週間で完了できます。

一方、TPU 8iは、非常に低いレイテンシーで推論プロセスのための特別な推論システムとして開発されました。このチップには、AIワークフローのデータアクセスのボトルネックに対処するために、288GBの高速帯域幅メモリが搭載されています。

TPU 8iは、大量のキャッシュデータを格納するために、シリコン上のSRAMメモリ容量を倍増することも含まれています。この設計は、前世代に比べて80%の性能向上をもたらすと考えられています。

これらの2つの最新のチップは、Google Cloudの顧客が近い将来利用できるようになります。TPU 8tとTPU 8iの登場により、開発者はAI開発段階に適したハードウェアを選択する際に、より多くの柔軟性を持つことができます。