Startup Chip Kecerdasan Buatan SambaNova Merilis Chip AI Baru untuk Model Bahasa Besar

JAKARTA - Startup chip kecerdasan buatan, SambaNova Systems, mengumumkan semiconductor baru pada Selasa, 19 September, yang dirancang untuk memungkinkan pelanggan menggunakan model kecerdasan buatan (AI) berkualitas lebih tinggi dengan biaya keseluruhan yang lebih rendah.

Chip SN40L dirancang untuk menjalankan model AI yang lebih dari dua kali ukurannya dibandingkan yang digunakan oleh versi canggih ChatGPT milik OpenAI, menurut perusahaan yang berbasis di Palo Alto, California ini.

"SN40L dibangun khusus untuk model bahasa besar yang digunakan dalam aplikasi perusahaan," kata CEO SambaNova, Rodrigo Liang. "Kami telah membangun rangkaian lengkap yang memungkinkan kami memahami dengan baik kasus penggunaan perusahaan."

Menurut Liang, perusahaan besar yang ingin mengimplementasikan AI dengan cara-cara baru menghadapi pertimbangan yang berbeda dan lebih kompleks daripada perangkat lunak konsumen seperti ChatGPT.

Keamanan, akurasi, dan privasi adalah semua area di mana teknologi AI harus dirancang secara berbeda agar berguna bagi pelanggan perusahaan.

Nvidia mendominasi pasar chip AI, tetapi lonjakan permintaan yang dipicu oleh minat dalam perangkat lunak AI generatif membuat chip yang dicari sulit diperoleh bagi beberapa perusahaan. Intel, Advanced Micro Devices (AMD), dan startup seperti SambaNova telah bergerak untuk mengisi kesenjangan tersebut.

Chip SambaNova yang baru mampu menggerakkan model dengan 5 triliun parameter, dan mencakup dua bentuk memori yang canggih. Memori kadang-kadang dapat menjadi hambatan dalam pemrosesan data AI.

Perusahaan tersebut mengatakan bahwa kombinasi perangkat kerasnya memungkinkan pelanggan menjalankan model AI yang lebih besar tanpa mengorbankan ukuran untuk akurasi. Taiwan Semiconductor Manufacturing Company saat ini memproduksi chip tersebut untuk SambaNova