Perangkat Lunak AI Meta Ini Bisa Percepat Kinerja Chip Nvidia dan AMD

JAKARTA - Induk Facebook, Meta, meluncurkan seperangkat alat perangkat lunak gratis baru yang dijuluki AITemplate (AIT), untuk aplikasi kecerdasan buatan. Alat ini dapat membantu mempercepat kinerja chip yang mendasarinya.

AITemplate didasarkan pada kerangka kerja pembelajaran mesin PyTorch open-source yang mengubah model AI menjadi kode template GPU C++ berkinerja tinggi untuk mempercepat inferensi, dan dapat membantu kode berjalan hingga 12 kali lebih cepat pada chip A100 andalan Nvidia Corp atau hingga empat kali lebih cepat pada chip MI50 AMD.

Dalam peluncurannya, AITemplate memiliki dua lapisan sistem template, pertama adalah template Python Jinja2, dan yang kedua adalah template GPU Tensor Core/Matrix Core C++ (CUTLASS untuk GPU NVIDIA dan Composable Kernel untuk GPU AMD).

Pertama-tama, AITemplate menjalankan pembuatan profil untuk menemukan konfigurasi kernel terbaik di Python, dan kemudian merender template Jinja2 ke dalam kode C++.

Setelah kode sumber model dibuat, kompiler GPU C++ (NVIDIA NVCC and AMD HIPCC) mengkompilasi kode sumber ke dalam kode biner akhir untuk model. Dengan desain front-end, yang mirip dengan PyTorch, pengguna dapat dengan mudah mengonversi model mereka ke AITemplate dari berbagai kerangka kerja, termasuk PyTorch.

"AITemplate juga menyediakan model out-of-the-box yang banyak digunakan (misalnya, VisionTransformer, BERT, Difusi Stabil, ResNet, dan MaskRCNN). Ini menyederhanakan proses penerapan dan memungkinkan praktisi untuk menyebarkan model pra-latihan PyTorch dengan mudah," ujar Meta dalam unggahan blog resminya.

Selain itu, AITemplate juga mengurangi ketergantungan pada perpustakaan eksternal. Dengan begitu, perangkat lunak ini dapat memudahkan pengembang untuk beralih antara chip dasar yang berbeda.

Perangkat lunak telah menjadi medan pertempuran utama bagi pembuat chip yang ingin membangun ekosistem pengembang untuk menggunakan chip mereka.

Sejauh ini, Platform CUDA Nvidia paling populer untuk pekerjaan kecerdasan buatan. Namun, begitu pengembang menyesuaikan kode mereka untuk chip Nvidia, sulit untuk menjalankannya pada unit pemrosesan grafis, atau GPU, dari pesaing Nvidia seperti AMD.

Meta mengatakan perangkat lunak itu dirancang untuk dengan mudah bertukar antar chip tanpa terkunci. Perusahaan, yang juga menggunakan chip Nvidia di pusat datanya, telah lama menjadi pendukung perangkat keras dan perangkat lunak sumber terbuka.