スタートアップ人工知能チップSambaNovaが大言語モデル用の新しいAIチップをリリース

ジャカルタ - 人工知能チップのスタートアップ、SambaNova Systemsは、9月19日火曜日に、顧客が全体的なコストを低くしてより高品質の人工知能(AI)モデルを使用できるように設計された新しい半導体を発表しました。

カリフォルニア州パロアルトに本拠を置く同社によると、SN40Lチップは、OpenAIのChatGPTの高度なバージョンで使用されているものと比較して、2倍以上のサイズのAIモデルを実行するように設計されています。

「SN40Lは、企業向けアプリで使用される大規模な言語モデル専用に構築されています」とSambaNovaのCEOであるRodrigo Liangは述べています。「私たちは、会社のユースケースをよく理解できる完全なスイートを構築しました。」

Liang氏によると、AIを新しい方法で実装したい大企業は、ChatGPTなどの消費者ソフトウェアとは異なる複雑な考慮事項に直面しています。

セキュリティ、正確性、プライバシーは、AIテクノロジーを企業の顧客に役立てるために異なるデザインを必要とするすべての分野です。

NvidiaはAIチップ市場を支配していますが、ジェネレーティブAIソフトウェアへの関心によって引き起こされる需要の急増は、一部の企業にとってチップを取得することを困難にしています。インテル、アドバンストマイクロデバイス(AMD)、SambaNovaのようなスタートアップは、ギャップを埋めるために動いています。

新しいSambaNovaチップは、5兆のパラメータでモデルを駆動することができ、2つの高度なメモリフォームを含みます。メモリは、AIデータの処理の障害となり得ることがあります。

同社は、ハードウェアの組み合わせにより、顧客は精度のためにサイズを犠牲にすることなく、より大きなAIモデルを実行できると述べています。台湾セミコンダクターマニュファクチャリングカンパニーは現在、SambaNova向けにチップを製造しています