NVIDIA A30 : portrait du GPU pour serveurs

Le NVIDIA A30 est un GPU pour serveurs flexible qui offre une ac­cé­lé­ra­tion de calcul pour les charges de travail d’en­tre­prise les plus diverses. Il a été spé­cia­le­ment conçu pour l’inférence IA, le Deep Learning et le High Per­for­mance Computing (HPC), mais il convient aussi notamment à l’analyse de données à grande échelle. Grâce à ses cœurs Tensor, l’A30 atteint jusqu’à 165 TFLOPS (TeraFLOPS) en Deep Learning et fournit 10,3 TFLOPS pour les charges de travail HPC.

Quelles sont les per­for­mances du NVIDIA A30 ?

Le NVIDIA A30 est basé sur l’ar­chi­tec­ture Ampere, qui fait partie de la pla­te­forme EGX, par laquelle NVIDIA fournit une in­fras­truc­ture optimisée pour l’in­tel­li­gence ar­ti­fi­cielle et le High Per­for­mance Computing. L’A30 est également équipé de la troisième gé­né­ra­tion de cœurs Tensor, qui ac­cé­lè­rent con­si­dé­ra­ble­ment les processus d’inférence et réduisent les temps d’en­traî­ne­ment. L’aperçu ci-dessous énumère les prin­ci­pales ca­rac­té­ris­tiques de per­for­mance de ce GPU pour serveurs :

• 165 TFLOPS de puissance de calcul TF32 pour le Deep Learning, l’en­traî­ne­ment de modèles IA et l’inférence
• 10,3 TFLOPS de puissance de calcul FP64 pour les ap­pli­ca­tions HPC comme les calculs scien­ti­fiques ou les si­mu­la­tions
• 10,3 TFLOPS de per­for­mance FP32 pour des calculs généraux
• 24 Go de mémoire HBM2 dédiée au GPU
• Bande passante mémoire GPU de 933 Go/s, optimale pour les charges de travail pa­ral­lèles
• Con­som­ma­tion élec­trique : 165 watts
• PCIe Gen4 avec 64 Go/s pour des trans­ferts de données rapides
• NVLINK avec 200 Go/s pour la com­mu­ni­ca­tion multi-GPU

Quels sont les avantages et les in­con­vé­nients du NVIDIA A30 ?

Le NVIDIA A30 offre un bon équilibre entre puissance de calcul, ef­fi­ca­cité éner­gé­tique et évo­lu­ti­vité. Les avantages les plus im­por­tants de ce GPU pour serveurs sont :

• Puissance de calcul rentable : l’A30 combine de hautes per­for­mances en IA et HPC avec une faible con­som­ma­tion éner­gé­tique, ga­ran­tis­sant une ex­ploi­ta­tion éner­gé­tique efficace dans les data centers. Grâce à son bon rapport qualité/prix, il convient par­fai­te­ment aux en­tre­prises qui ont besoin d’un GPU per­for­mant, mais qui veulent éviter des coûts d’in­ves­tis­se­ment élevés.
• GPU multi-instance (MIG) : le NVIDIA A30 peut être par­ti­tionné au maximum en quatre instances GPU in­dé­pen­dantes. Il est ainsi possible d’exécuter en parallèle plusieurs charges de travail avec une bande passante élevée et une mémoire propre, ce qui optimise l’uti­li­sa­tion des res­sources et augmente l’ef­fi­ca­cité.
• NVLink de nouvelle gé­né­ra­tion : grâce à NVIDIA NVLink, deux GPU A30 peuvent être reliés entre eux pour accélérer des charges de travail im­por­tantes et fournir une plus grande bande passante mémoire.
• Bonne évo­lu­ti­vité : qu’il s’agisse de petites charges de travail ou de calculs complexes et intensifs, le GPU A30 convient aux exigences les plus diverses. Grâce à la fonc­tion­na­lité MIG, NVLink et PCIe Gen4, il permet une uti­li­sa­tion flexible des res­sources, adaptée dy­na­mi­que­ment aux besoins.

Les fai­blesses du GPU A30 se révèlent lorsqu’on le compare avec des modèles de pointe comme le NVIDIA H100 ou l’A100. L’A30 offre certes des per­for­mances élevées, mais il ne peut pas tout à fait rivaliser avec les GPU haut de gamme en termes de puissance. Un autre in­con­vé­nient est que le NVIDIA A30 utilise la mémoire HBM2, alors que les modèles plus puissants tra­vail­lent souvent déjà avec le standard HBM3 et disposent ainsi d’une bande passante mémoire encore plus élevée.

Domaines d’ap­pli­ca­tion : où le NVIDIA A30 est-il le plus adapté ?

Le NVIDIA A30 est conçu pour une large gamme de charges de travail d’IA et de HPC. Qu’il s’agisse de Cloud computing, de vir­tua­li­sa­tion ou d’uti­li­sa­tion dans des centres de calcul à haute per­for­mance, l’A30 convient aux charges de travail d’en­tre­prise de tous types. Ses prin­ci­paux domaines d’ap­pli­ca­tion sont :

• L’en­traî­ne­ment en Deep Learning : l’A30 est utilisé pour l’en­traî­ne­ment des réseaux neuronaux. Le GPU est par­ti­cu­liè­re­ment adapté au Transfer Learning (adap­ta­tion à de nouveaux ensembles de données) et à des modèles de Deep Learning plus légers, conçus pour des tâches spé­ci­fiques.
• Inférence pour le Deep Learning : le GPU est optimisé pour les charges de travail d’inférence et permet des calculs rapides et efficaces pour des modèles d’IA pré-entraînés. Le NVIDIA A30 est donc idéal pour les ap­pli­ca­tions en temps réel telles que la re­con­nais­sance vocale ou l’analyse d’images.
• High Per­for­mance Computing : le GPU A30 peut également être utilisé pour des calculs et des si­mu­la­tions complexes qui né­ces­si­tent une grande puissance de calcul, comme les analyses fi­nan­cières ou les si­mu­la­tions scien­ti­fiques pour les pré­vi­sions météo. Pour les charges de travail HPC moins exi­geantes en par­ti­cu­lier, l’A30 offre une solution rentable.
• Analyse de données à grande échelle : grâce à sa capacité à traiter et analyser ra­pi­de­ment, l’A30 est également utilisé dans les domaines du Big Data, de la Business In­tel­li­gence et du Machine Learning.
• Serveur GPU : le GPU A30 permet aux en­tre­prises de déployer des serveurs GPU puissants à un coût réduit et de pouvoir les faire évoluer en fonction des besoins.

Quelles sont les al­ter­na­tives au NVIDIA A30 ?

NVIDIA elle-même ainsi que des en­tre­prises con­cur­rentes comme Intel ou AMD proposent dif­fé­rentes al­ter­na­tives à l’A30. Dans le por­te­feuille de NVIDIA, l’A100 et l’H100 sont ainsi des al­ter­na­tives encore plus per­for­mantes. L’ac­cé­lé­ra­teur d’in­tel­li­gence ar­ti­fi­cielle Intel Gaudi 3 est surtout conçu pour les ap­pli­ca­tions d’inférence et l’ac­cé­lé­ra­teur AMD Instinct MI210 re­pré­sente une option haute per­for­mance de l’éco­sys­tème AMD. Vous trouverez des in­for­ma­tions dé­tail­lées sur les GPU et ac­cé­lé­ra­teurs IA les plus cou­ram­ment utilisés dans notre guide com­pa­ra­tif des GPU pour serveurs.