Google Cloud Tingkatkan Infrastruktur AI untuk Bisnis dan Organisasi Publik di Asia Tenggara

JAKARTA - Di Google Cloud Next '23, Google Cloud mengumumkan serangkaian inovasi produk untuk memberdayakan setiap bisnis dan organisasi sektor publik di Asia Tenggara untuk peningkatan infrastruktur AI nya. 

Untuk membantu organisasi di Asia Tenggara menjalankan beban kerja AI dengan biaya efektif dan skalabilitas, Google Cloud meluncurkan peningkatan signifikan pada portofolio infrastruktur AI yang dioptimalkan mereka: Cloud TPU v5e, yang tersedia dalam pratinjau publik dan ketersediaan umum dari A3 VM dengan GPU NVIDIA H100.

Cloud TPU v5e

Cloud TPU v5e adalah akselerator AI khusus Google Cloud yang paling hemat biaya, serbaguna, dan skalabilitas hingga saat ini. Sekarang, customer dapat menggunakan platform Cloud Tensor Processing Unit (TPU) tunggal untuk menjalankan pelatihan AI skala besar dan inferensi. 

Cloud TPU v5e memberikan kinerja pelatihan hingga 2 kali lebih tinggi dan kinerja inferensi hingga 2,5 kali lebih tinggi untuk LLM dan model gen AI, sehingga memungkinkan lebih banyak organisasi untuk melatih dan menyebarkan model AI yang lebih besar dan lebih kompleks. 

Cloud TPU v5e saat ini tersedia dalam pratinjau publik di cloud region Las Vegas dan Columbus Google Cloud. Google berencana untuk memperluas ketersediaannya ke wilayah lain, termasuk cloud region Singapura Google Cloud tahun ini.

A3 VM

A3 VM, superkomputer yang ditenagai oleh Unit Pemrosesan Grafis (GPU) NVIDIA H100, akan tersedia secara umum bulan depan, memungkinkan organisasi mencapai kinerja pelatihan 3 kali lebih cepat dibandingkan dengan A2, generasi sebelumnya. 

A3 VM dirancang khusus untuk melatih dan melayani beban kerja LLM dan gen AI yang sangat demanding. 

Di Google Cloud Next '23, Google Cloud dan NVIDIA juga mengumumkan integrasi baru untuk membantu organisasi memanfaatkan teknologi NVIDIA yang sama yang digunakan oleh tim riset Google DeepMind dan Google selama dua tahun terakhir.