INTRODUCTION

Le développement des technologies autour de l’IA ne cessent de s’affiner. Cette dernière a désormais une place primordiale dans le secteur professionnel. Supermicro et NVIDIA sont allés encore plus loin en proposant une nouvelle station, le SYS-751GE-TRT-NV1, associant le training AI au refroidissement liquide. Cette association de technologies permet aux ingénieurs ou encore aux data scientists de procéder aux meilleurs choix possibles tout en réduisant les coûts OpEx. Cette solution IA, incluant le “NVIDIA AI Entreprise”, permet de renforcer la productivité comme jamais auparavant.

COMMENT UTILISER LE LIQUID COOLED AI

Parmi les usages les plus courants, cette station inédite est idéale pour différents secteurs et tâches comme : L’architecture à travers la modélisation 3D ou la réalité augmentée. Les médias et le divertissement pour des simulation VFX Le design, notamment le rendu et la simulation 3D. Mais cela n’est qu’un très mince aperçu des activités que le Liquid Cooled AI peut améliorer la performance.

QU’EN EST-IL DES PERFORMANCES DE CETTE STATION ?

vant d’aborder les performances en détails, rappelons quelles sont les composants de ce serveur SYS-751GE-TRT-NV1 :

• CPUs: Dual 4th Gen Intel® Xeon® Gold 6444Y, 16C/32T, running at a base clock rate of 3.6 GHz, with an all-turbo boost clock of 4.0 GHz. Intel Xeon CPU Max Series is also available.
• GPUs: 4x NVIDIA A100-LC 80GB PCIe GPUs (Liquid Cooled)
• GPU Interconnect: 2x NVIDIA NVLINK Bridge.
• Memory: 512GB DDR5-4800MHz memory
• Storage: 6x Micron 1.9TB NVMe SSDs :
• • Two configured for RAID1 for the Operating System
  • Four for data storage.
• Graphics: NVIDIA Quadro RTX A4000
• NVIDIA Mellanox Conenct-X6 25Gb SFP28

Grâce à de nombreux CPU et un accélérateur graphique, cette station permet de réduire significativement la latence. Cela permet donc à de nombreux secteurs d’activités qui ont installé localement leur serveur de maximiser leurs performances. En effet, si l’installation se fait par du networking (VDI), alors la transmission graphique vers l’OS virtuel ne permet pas la combinaison des algorithmes IA avec les applications nécessaires à leur développement. En termes de refroidissement, les performances peuvent être poussées au-delà de leurs limites quand il s’agit d’un refroidissement mécanique par ventilation. De 30dB (inactivité) à 50dB (CPU à 100%), la réduction du bruit est considérable. L’installation de ce système est à haute disponibilité, i.e. il peut être déplacé facilement ou placé dans un rack lorsque le système informatique est centralisé. Sa réduction d’émission de dB et sa consommation standard d’énergie lui permet de trouver sa place n’importe où.

NVIDIA AI Entreprise

Cette plateforme NVIDIA propose un éventail de logiciel IA dédié, par exemple, à la vison par ordinateur, l’IA vocale, l’IA générative, la cybersécurité ou encore l’imagérie medicale. Il ne s’agit ici que d’un aperçu très réduit des capacités de la panoplie d’applications incluses dans le NVIDIA AI Entreprise. Sont compris dans cette plateforme : Un abonnement de 3 ans L’installation de l’OS Ubuntu (version 22.04)

Système de refroidissement liquide

Un refroidissement par ventilateur aurait été insuffisant pour maintenir 2 CPU et 4 GPU à haute performance à une température idéale. Le refroidissement liquide se présente donc comme une solution optimale qui nécessite par ailleurs très peu de maintenance.