谷歌云推出第八代TPU AI芯片
雅加达 - 谷歌云为TPU系列推出了两款新的人工智能芯片,即TPU 8t和TPU 8i。第8代TPU专为开发AI代理而设计。
“我们很自豪地宣布我们的 TPU 第八代,它是专门为代理时代设计的,”谷歌云在其官方网站上表示,4 月 23 日星期四引述。据他介绍,这两种新芯片可以支持一个更具互动性和成本效益的 AI 生态系统。
TPU 8t 作为 AI 模型训练过程的主要引擎,具有非常高的吞吐量。与上一代相比,该设备提供多达三倍的计算性能,以缩短大规模模型训练时间。
一个 TPU 8t 超级 Pod 可以容纳 9600 个芯片,这些芯片通过高速互连进行集成连接。在一个集群中拥有超过一百万个芯片的强大功能,通常需要数月才能完成复杂模型训练过程,现在可以在几周内完成。
与此同时,TPU 8i被开发为一种用于非常低延迟推理过程的特殊推理系统。该芯片配备了高达 288 GB 的高带宽内存,以克服密集 AI 工作流程中的数据访问瓶颈。
TPU 8i还包括在硅片上增加SRAM内存容量,以容纳大量缓存数据。据信,这种设计可以比上一代提供80%的性能改进。
这两种最新芯片将在不久的将来提供给Google Cloud客户。随着TPU 8t和TPU 8i的推出,开发人员现在可以更灵活地选择适合其AI开发阶段的硬件。