JAKARTA – Google Cloud memperkenalkan dua chip Kecerdasan Buatan (AI) baru untuk lini TPU, yakni TPU 8t dan TPU 8i. TPU generasi ke-8 ini dirancang khusus untuk pengembangan agen AI.
"Kami dengan bangga mengumumkan generasi kedelapan TPU kami, yang direkayasa khusus untuk era agen," kata Google Cloud dalam situs resminya, dikutip pada Kamis, 23 April. Menurutnya, dua chip baru ini dapat mendukung ekosistem AI dengan lebih interaktif dan hemat biaya.
BACA JUGA:
TPU 8t dikembangkan sebagai mesin utama untuk proses pelatihan model AI dengan throughput yang sangat tinggi. Perangkat ini menawarkan performa komputasi hingga tiga kali lipat lebih cepat dibandingkan generasi sebelumnya untuk mempersingkat waktu pelatihan model skala besar.
Satu unit superpod TPU 8t dapat menampung 9.600 chip yang terhubung secara terpadu melalui interkoneksi berkecepatan tinggi. Dengan kekuatan lebih dari satu juta chip dalam satu kluster, proses pelatihan model kompleks yang biasanya memakan waktu berbulan-bulan dapat diselesaikan dalam hitungan minggu.
Sementara itu, TPU 8i dikembangkan sebagai sistem penalaran khusus untuk proses inferensi dengan latensi sangat rendah. Chip ini dibekali memori bandwidth tinggi sebesar 288 GB untuk mengatasi hambatan akses data pada alur kerja AI yang padat.
TPU 8i juga mencakup penggandaan kapasitas memori SRAM pada silikon untuk menampung data cache yang masif. Desain ini diyakini dapat memberikan kinerja 80 persen lebih baik dibandingkan dengan generasi sebelumnya.
Kedua chip terbaru ini akan tersedia bagi para pelanggan Google Cloud dalam waktu dekat. Dengan hadirnya TPU 8t dan TPU 8i, pengembang kini memiliki fleksibilitas lebih besar dalam memilih perangkat keras yang sesuai dengan tahapan pengembangan AI mereka.
