Avec le lancement principal du GPU NVIDIA Ampere A100 Tensor Core plus tôt cette année et du nouveau système phare NVIDIA DGX ™ A100 conçu pour les charges de travail IA avec huit GPU NVIDIA Ampere A100 Tensor Core (lisez notre article sur le DGX A100 ici), NVIDIA également a sorti un produit nommé «Redstone». Il s'agit d'une alternative moins coûteuse qui permet à la puissance de traitement GPU d'un système basé sur NVIDIA HGX d'être portée à un public beaucoup plus large d'IA / HPC d'entreprise. Le Supermicro 2124GQ-NART est une centrale de calcul conçue pour l'IA d'entreprise, l'apprentissage automatique, la formation et le deep learning et les charges de travail de calcul haute performance, tout en intégrant quatre GPU NVIDIA Ampere A100 Tensor Core, deux processeurs AMD EPYC ™ 7002 Rome, jusqu'à 8 To de mémoire et 800 Gb / s de connectivité réseau en standard dans un petit châssis 2U.
Le Supermicro 2124GQ-NART fait 33% de la taille du NVIDIA DGX A100, 2U par rapport à 6U, contenant 50% du nombre de GPU NVIDIA Ampere A100 Tensor Core et 50% de la connectivité réseau du plus grand système, le même nombre de Cœurs et supports de processeur pour 400% de mémoire supplémentaire. Le Supermicro 2124GQ-NART est vraiment une option impressionnante pour toute entreprise à la recherche d'une solution accélérée par GPU.
Comme vous pouvez le voir sur l'image ci-dessus, nous avons reçu le système Supermicro 2124GQ-NART dans les laboratoires de Boston et avons travaillé d'arrache-pied pour le préparer en vue de sa démonstration et de son utilisation par nos partenaires et clients clés. Si vous souhaitez tester ce système ou l'un de nos systèmes basés sur NVIDIA Ampere A100, veuillez nous en informer, nous vous recommandons d'agir rapidement car la demande pour ces systèmes est très attendue!
En examinant ces systèmes, vous pouvez voir sur les 4 disques SATA / SAS / NVMe sans outil remplaçables à chaud qu'il s'agit du seul stockage présent et qu'il est utilisé pour l'installation et la mise en cache du système d'exploitation et des applications. Ces systèmes ne sont pas conçus comme des plates-formes de stockage ou à usage général, mais comme des plates-formes de calcul GPU / IA haute puissance, de formation et d'inférence ML / DL et de HPC. Il y a une languette en plastique extractible sous les baies de lecteur qui comporte les informations d'identification de l'interface de gestion hors bande IPMI 2.0 qui, si vous le souhaitez, sont amovibles. Vous pouvez également voir les 4 boîtiers de ventilation double sans outil remplaçables à chaud qui sortent tout droit sans avoir à retirer le couvercle de verrouillage en 2 parties. Le débit de ces ventilateurs est exceptionnel et le flux d'air pendant le démarrage est bruyant. Une fois démarré, le système s'installe et le niveau de bruit est équivalent à n'importe quel système 2U. À l'heure actuelle, nous n'avons pas été en mesure d'augmenter les températures au point que ces ventilateurs doivent fonctionner à haute vitesse. Le refroidissement dans ce système est exceptionnel.
De l'arrière, vous pouvez voir la poignée de traction du couvercle arrière juste en dessous de la grille perforée qui offre une capacité d'échappement supplémentaire. La poignée facilite le glissement et le retrait du panneau arrière. Le couvercle de ce système est en 2 parties et nécessite le retrait des vis plutôt qu'un simple système de verrouillage et de glissière. Cela fournit une résistance structurelle supplémentaire au système. De l'arrière, vous pouvez également voir les ports des quatre cartes adaptateurs NVIDIA Mellanox (NVIDIA a acquis Mellanox en 2020) MCX653106A-HDAT ConnectX-6 qui fournissent une bande passante réseau combinée de 800 Go. Ces cartes prennent en charge la technologie VPI (Virtual Port Interconnect) de NVIDIA Mellanox permettant au port de prendre en charge 800 Gb / s de HDR Infiniband ou 800 Gb / s de 200 Gb Ethernet permettant une flexibilité de stockage.
Si vous regardez de près à gauche des 4 cartes réseau, vous verrez 6 découpes circulaires. Cela indique que Supermicro est probablement destiné à ce que ce système soit refroidi à l'eau à l'avenir et nous assistons à l'introduction de plus en plus de systèmes CPU et GPU refroidis à l'eau. Contrairement à l'espace grand public, les unités de radiateur et de ventilateur ne sont souvent pas montées en interne, mais dans ce cas en externe, soit dans le rack, soit hors du rack ailleurs dans le centre de données. Cela permet d'utiliser des processeurs / GPU plus puissants dans un espace donné et l'utilisation d'un refroidissement externe réduit les coûts de refroidissement et permet également à ces composants de refroidissement d'être réutilisés sur plusieurs générations de systèmes; réduire davantage les coûts de vie d’un centre de données. Si nécessaire, le panneau ventilé qui recouvre les ports peut être facilement retiré en dévissant les 4 vis et en retirant le panneau.
Vous pouvez également voir les 4 bascules à bascule noires avec des flèches blanches permettant de retirer facilement les 2 supports / cartes de montage PCI-Express, prenant en charge un total de 4 emplacements PCI-E Gen 4.0 x16 LP et 1x PCI-E Gen 4 x 8 LP qui sont connectés à la carte mère et non directement via une prise mais par des câbles SlimelineLP. Les supports de carte PCI eux-mêmes sont extrêmement faciles à retirer et à remplacer car le support de carte / carte de montage est maintenu en place à l'aide des câbles mentionnés précédemment, non insérés dans une fente et maintenus en place avec friction.
Il existe 2 interfaces réseau intégrées de 10 Go, VGA, 2 ports USB 3.0 et une interface de gestion hors bande IPMI 2.0. Ce système, comme toutes les nouvelles conceptions de Supermicro, comprend le nouveau contrôleur de gestion de bande de base double cœur AST2600 qui offre des temps POST plus rapides, une sécurité accrue de la vérification du micrologiciel BIOS / IPMI au démarrage et une interface Web moderne et améliorée.
La puce BIOS ROM est de 256 Mo. À l'heure actuelle, la plupart des systèmes comportent généralement une ROM de 32 Mo ou 64 Mo, tandis que le Supermicro 2124GQ-NART représente une augmentation importante de la taille de la ROM.
Le Supermicro 2124GQ-NART est un système de pointe doté de deux processeurs AMD EPYC ™ Rome 7002. Ces processeurs ont 64 cœurs, 128 threads, une horloge de base de 2 GHz avec un max. boost de 3,35 GHz, 8 canaux mémoire prenant en charge une fréquence mémoire de 3200 MHz. Avec une spécification comme celle-ci, il est facile de comprendre pourquoi les processeurs EPYC ™ Rome d'AMD ont pris d'assaut le marché des hautes performances et rivalisent à nouveau avec Intel. Les processeurs AMD EPYC ™ sont essentiels à ce système car ils disposent du nombre nécessaire de voies PCI-E, de 128 voies par processeur et de la prise en charge de PCI-E gen 4.0. Le PCI-Express de quatrième génération double à nouveau la bande passante de son prédécesseur, fournissant au 2124GQ-NART 500 Go de bande passante PCI-E gen 4.0 et est essentiel pour que le processeur utilise les hautes performances des quatre GPU NVIDIA Ampere A100 Tensor Core et chacun des leurs 40 Go de mémoire HBM2 et les 800 Gb / s de connectivité réseau.
La bande passante mémoire est un aspect souvent négligé du calcul et comme on dit dans cet espace, «il faut pouvoir nourrir la bête». Ces systèmes prennent en charge 8 To de mémoire DDR4 ECC enregistrée à 3200 MHz et chaque processeur dispose de 8 canaux de mémoire offrant une quantité sans précédent de bande passante mémoire.
Une fois que nous avons retiré la partie inférieure du couvercle en 2 parties imbriquées et du carénage du dissipateur thermique, nous pouvons voir que le Supermicro 2124GQ-NART est un GPU Behemoth, doté de quatre GPU NVIDIA A100 Tensor Core (SXM4); chacun avec 40 Go de mémoire HBM2. Chacun de ces quatre grands radiateurs dissipe avec succès 400W de chaleur. Les GPU sont situés sur une carte fille alimentée par les gros câbles d'alimentation rouge et noir visibles ci-dessous à gauche des dissipateurs de chaleur du GPU.
Au-dessus des dissipateurs GPU, nous pouvons voir les 32 emplacements de mémoire prenant en charge jusqu'à 8 To de mémoire DDR4 ECC enregistrée à 3200 MHz alimentés par les 8 contrôleurs de mémoire du double processeur AMD EPYC ™ Rome fournissant une grande quantité de mémoire à haute vitesse pour les charges de travail des clients. Vous pouvez également voir le support rigide courir d'un côté à l'autre pour empêcher la flexion du châssis. Le couvercle emboîtable en 2 parties se visse également dans ce support pour offrir une rigidité maximale. Ce système a une qualité de fabrication extrêmement élevée. Un certain nombre de câbles SlimlineLP bleu foncé qui fournissent le chemin des données de la carte mère à la carte fille GPU sont visibles contre la paroi gauche du châssis et passant à travers le support central du châssis.
L'image ci-dessous illustre la priorité de flux d'air de ces systèmes intensifs de calcul GPU. Contrairement à un grand système traditionnel basé sur un GPU 4U qui pourrait comporter plusieurs cartes PCI-E à l'arrière du système recevant le flux d'air de refroidissement de seconde main. Dans le Supermicro 2124GQ-NART, nous pouvons voir que les priorités de flux d'air sont; GPU en premier, deuxième CPU, cartes PCI Express en troisième. Comme il se doit, les éléments effectuant le plus de travail reçoivent l'air le plus frais. Les ingénieurs de Supermicro se sont à nouveau surpassés en offrant autant de performances que possible tout en réussissant à le garder au frais.
Ici, nous pouvons voir plus d'illustrations de la qualité de construction du Supermicro 2124GQ-NART - nous pouvons clairement voir l'épaisseur du support du milieu du châssis, la taille du connecteur d'alimentation et des câbles de la carte fille NVIDIA A100 et la poignée de traction robuste qui verrouille le carte fille en position. Ceci peut être vu ci-dessous en position déverrouillée.
Dans l'image ci-dessous, vous pouvez voir l'une des deux alimentations de niveau titane de 2200 W avec redondance intelligente de l'alimentation ainsi que la conception ventilée qui aide à la circulation d'air globale du système. Des versions 3000W arrivent bientôt. Chaque bloc d'alimentation est retiré à l'aide d'un bras de niveau au lieu d'une conception de verrou de verrouillage. Cela facilite le retrait des blocs d'alimentation.
RÉSUMÉ :
Le Supermicro 2124GQ-NART est une centrale GPU conçue pour les charges de travail les plus intensives d'intelligence artificielle, d'apprentissage automatique, de deep learning, d'inférence et de HPC. Pour le moment, NVIDIA domine l'espace accéléré par GPU. Ce système est une entrée passionnante dans cet espace avec quatre GPU NVIDIA Ampere A100 Tensor Core interconnectés via NVIDIA® NVLink® de 3e génération, et fournissant 50 Go / s de bande passante inter GPU et une bande passante inter GPU agrégée de 600 Go / s, comme ainsi que 160 Go de mémoire graphique HBM2 totale. Cela n'aurait pas été possible sans les deux processeurs AMD EPYC ™ Rome 7002 et leurs 256 voies PCI-Express génération 4.0 combinées fournissant 500 Go / s de bande passante. Les 8 To de mémoire enregistrée DDR4 ECC prise en charge à 3200 MHz prendront en charge les charges de travail les plus importantes et les 800 Gb / s de HDR Infiniband ou 800 Gb / s de bande passante réseau Ethernet 200 Gb garantiront que toute charge de travail peut être alimentée en données.
Pour organiser un essai du Supermicro 2124GQ-NART, du NVIDIA DGX A100 ou de la DGX Station, veuillez contacter notre équipe de Boston Labs qui planifiera un test.
