Chip Kecerdasan Buatan Qualcomm Ungguli Nvidia pada Uji Daya Efisiensi Energi

JAKARTA - Chip kecerdasan buatan (AI) dari Qualcomm Inc mengungguli Nvidia Corp  pada dua dari tiga pengukuran efisiensi daya dalam serangkaian data pengujian baru yang diterbitkan pada Rabu, 5 April. Sementara sebuah startup Taiwan menempati posisi teratas dalam satu kategori.

Nvidia mendominasi pasar pelatihan model AI dengan jumlah data besar. Namun, setelah model AI tersebut dilatih, mereka digunakan secara lebih luas dalam apa yang disebut "inferensi" dengan melakukan tugas seperti menghasilkan respons teks terhadap prompt dan menentukan apakah sebuah gambar berisi kucing.

Para analis percaya bahwa pasar chip inferensi pusat data akan tumbuh pesat karena bisnis memasukkan teknologi AI ke dalam produk mereka, tetapi perusahaan seperti Alphabet Inc's Google sudah mulai mengeksplorasi cara untuk menjaga biaya tambahan yang akan ditambahkan.

Salah satu biaya besar tersebut adalah listrik, dan Qualcomm telah menggunakan sejarahnya dalam merancang chip untuk perangkat bertenaga baterai seperti smartphone untuk menciptakan chip bernama Cloud AI 100 yang bertujuan untuk konsumsi daya yang hemat.

Dalam data pengujian yang diterbitkan pada Rabu lalu oleh MLCommons, konsorsium teknik yang memelihara benchmark pengujian yang banyak digunakan dalam industri chip AI, AI 100 milik Qualcomm mengalahkan chip unggulan H100 milik Nvidia dalam klasifikasi gambar, berdasarkan pada berapa banyak permintaan server pusat data yang dapat dilakukan setiap chip per watt.

Chip milik Qualcomm mencapai 197,6 permintaan server per watt dibandingkan dengan 108,4 permintaan per watt untuk Nvidia. Neuchips, sebuah startup yang didirikan oleh akademisi chip Taiwan veteran Youn-Long Lin, menempati posisi teratas dengan 227 permintaan per watt.

Qualcomm juga mengalahkan Nvidia dalam deteksi objek dengan skor 3,2 permintaan per watt dibandingkan dengan 2,4 permintaan per watt untuk Nvidia. Deteksi objek dapat digunakan dalam aplikasi seperti menganalisis rekaman dari toko ritel untuk melihat di mana pembeli paling sering pergi.

Namun, Nvidia, berhasil menempati posisi teratas dalam kedua hal performa mutlak dan efisiensi daya dalam pengujian pemrosesan bahasa alami, yang merupakan teknologi AI yang paling banyak digunakan dalam sistem seperti chatbot. Nvidia mencapai 10,8 sampel per watt, sementara Neuchips menempati peringkat kedua dengan 8,9 sampel per watt dan Qualcomm berada di posisi ketiga dengan 7,5 sampel per watt.