JAKARTA - Nvidia meluncurkan chip berbasis Kecerdasan Buatan (AI) GH200 Grace Hopper, yang didasarkan pada Grace Hopper Superchip baru dengan prosesor HBM3e pertama di dunia.
Pendiri sekaligus CEO Nvidia Jensen Huang mengatakan, chip ini dibuat untuk era komputasi yang dipercepat dan AI generatif yang semakin berkembang.
GH200 Grace Hopper dirancang untuk menangani beban kerja AI generatif paling kompleks, mencakup model bahasa besar (LLM), sistem pemberi rekomendasi dan database vektor.
Platform baru ini juga akan tersedia dalam berbagai konfigurasi ganda, yang memberikan kapasitas memori hingga 3,5 kali lebih banyak begitu pula dengan bandwidth-nya, daripada penawaran generasi saat ini.
Chip terdiri dari satu server dengan 144 inti Arm Neoverse, delapan petaflop kinerja AI, dan 282GB teknologi memori HBM3e terbaru.
“Untuk memenuhi permintaan AI generatif yang melonjak, pusat data memerlukan platform komputasi yang dipercepat dengan kebutuhan khusus,” kata Huang dalam sebuah pernyataan, dikutip Rabu, 9 Agustus.
“Platform GH200 Grace Hopper Superchip yang baru memberikan ini dengan teknologi memori dan bandwidth yang luar biasa untuk meningkatkan throughput, kemampuan untuk menghubungkan GPU ke kinerja agregat tanpa kompromi, dan desain server yang dapat dengan mudah digunakan di seluruh pusat data," sambungnya.
BACA JUGA:
Dengan menggunakan Grace Hopper Superchip, chip ini dapat dihubungkan dengan Superchip tambahan oleh Nvidia NVLink. Mereka dapat bekerja sama untuk menerapkan model raksasa yang digunakan untuk AI generatif.
Teknologi koheren berkecepatan tinggi tersebut memberi GPU akses penuh ke memori CPU, menyediakan gabungan memori cepat 1,2TB saat dalam konfigurasi ganda.
Memori HBM3e, yang 50 persen lebih cepat dari HBM3 saat ini, memberikan bandwidth gabungan total 10TB per detik.
"Pabrikan terkemuka sudah menawarkan sistem berdasarkan Grace Hopper Superchip yang diumumkan sebelumnya. Untuk mendorong adopsi teknologi secara luas, platform Grace Hopper Superchip generasi berikutnya dengan HBM3e sepenuhnya kompatibel dengan spesifikasi server NVIDIA MGX yang diluncurkan di gelaran COMPUTEX awal tahun ini," ujar Huang.
Pada MGX, produsen sistem mana pun dapat dengan cepat dan hemat menambahkan Grace Hopper ke lebih dari 100 variasi server.
Terakhir, CEO Nvidia Huang menyatakan sistem yang berjalan pada GH200 Grace Hopper akan dimulai pada kuartal kedua (Q2) 2024.
