JAKARTA - Amazon dilaporkan tengah mengembangkan dua chip khusus untuk melatih model bahasa besar (LLM) dan mempercepat pengadopsian Kecerdasan Buatan (AI) generatif.
Chip yang dijuluki Inferentia dan Trainium, menawarkan pelanggan Amazon Web Service (AWS) alternatif untuk melatih LLM mereka. Diklaim, dua chip khusus ini akan bersaing dengan superchip besutan Nvidia, Grace Hopper.
"Seluruh dunia menginginkan lebih banyak chip untuk melakukan AI generatif, apakah itu GPU atau apakah itu chip Amazon sendiri yang kami rancang," kata CEO AWS Adam Selipsky dalam wawancaranya dengan CNBC Internasional, dikutip Senin, 14 Agustus.
"Saya pikir kita berada dalam posisi yang lebih baik daripada siapa pun di Bumi untuk memasok kapasitas yang diinginkan oleh pelanggan kita secara kolektif," imbuhnya.
Trainium pertama kali hadir di pasaran pada 2021, menyusul perilisan Inferentia pada 2019, yang kini sudah menjadi generasi keduanya.
"Pembelajaran mesin dipecah menjadi dua tahap berbeda ini. Jadi Anda melatih model pembelajaran mesin dan kemudian Anda menjalankan inferensi terhadap model yang dilatih tersebut," ungkap VP produk AWS Matt Wood menjelaskan kegunaan kedua chip tersebut.
"Trainium memberikan peningkatan sekitar 50 persen dalam hal performa harga dibandingkan dengan cara lain untuk melatih model pembelajaran mesin di AWS," sambungnya.
BACA JUGA:
-
| TEKNOLOGI
Google dan YouTube bakal Kucurkan Dana Lebih dari Rp2 miliar untuk Digitalisasi UKM
14 Agustus 2023, 09:35 -
| TEKNOLOGI
Freeport-McMoRan Selidiki Insiden Keamanan Siber yang Pengaruhi Sistem Informasi
14 Agustus 2023, 08:05
Wood mengatakan, pelanggan dapat menggunakan Inferentia untuk memberikan inferensi pembelajaran mesin yang sangat murah, throughput tinggi dan latensi rendah.
"Ini merupakan semua prediksi saat Anda mengetik perintah ke dalam model AI generatif Anda, di situlah semua diproses menjadi memberi Anda tanggapan," jelas Wood.
Namun, belum diketahui pasti juga kapan dua chip khusus AI Amazon itu akan mulai di pasarkan secara global. Seperti yang diwartakan sebelumnya, Nvidia Grace Hopper baru saja diumumkan dan tersedia pada 2024.
Chip ini adalah terobosan percepatan CPU yang dirancang untuk mengatasi masalah paling kompleks di dunia, seperti LLM, sistem pemberi rekomendasi dan database vektor.
