JAKARTA - Le mercredi 27 mars, le groupe de référence de l’intelligence artificielle de NHCommons a publié une série de nouveaux résultats et tests évaluant la vitesse dans laquelle le meilleur matériel peut exécuter des applications d’intelligence artificielle (IA) et réagir aux utilisateurs.
Deux nouveaux référentaires ajoutés par NHCommons mesurent la vitesse à laquelle les puces d’IA et les systèmes peuvent générer des réponses à partir d’un modèle puissant d’IA rempli de données. Les résultats montrent massivement à quel point une application d’IA comme chatGPT peut répondre aux questions des utilisateurs.
L’un des nouveaux références ajoute la possibilité de mesurer la vitesse dans les scénarios de questions et de réponses pour les modèles de langue majeures. Connu sous le nom de Llama 2, il couvre 70 milliards de paramètres et est développé par Meta Platforms Inc.
Les responsables deMLCommons ont également ajouté un générateur de texte à la deuxième image à la série d’outils de test, appelés TLPerf, sur la base du modèle Sustable Diffusion XL de stabilité AI.
Les serveurs, alimentés par les puces Nvidia H100 construites par des entreprises telles que Google d’Alphabet, Supermicro et Nvidia eux-mêmes, ont facilement remporté les deux nouveaux comparables en termes de performance brute. Certains fabricants de serveurs ont livré des conceptions basées sur les puces L40S moins puissantes que celle de l’entreprise.
Le développeur de serveurs Krai a envoyé des conceptions pour comparer la génération d’image avec des puces AI de Qualcomm qui utilisent beaucoup moins de puissance que les processeurs de première nécessité de Nvidia.
Intel a également envoyé une conception basée sur sa puce d’accélérateur Gaudi2. La société a décrit les résultats comme « solides ».
La performance brute n’est pas la seule mesure critique lorsque la déploiement d’applications d’IA. Les puces AI avancées consomment beaucoup d’énergie et l’un des plus grands défis pour les entreprises d’IA est de déployer des puces qui fournissent des performances optimaux avec un minimum d’énergie.
SLCommons a une catégorie distincte de référence pour mesurer la consommation d’énergie.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
