Le système NVIDIA Vera Rubin NVL72 de Supermicro est parce que le rendu de l’IA ne dépend pas uniquement du GPU : le processeur, la mémoire, le rouge, la conservation et la réfrigération doivent fonctionner comme un système unique.
Le serveur de IA est conçu chaque fois plus près du transporteur de travail. Pour Nemix, intégrateur spécialisé dans l’infrastructure TI, ce changement est particulièrement pertinent. Activer un accélérateur puissant est seulement le début. Le vrai retour est que le reste du système peut être accompagné.
Le système NVIDIA Vera Rubin NVL72 de Supermicro l’illustre bien. Réunissez 72 GPU NVIDIA Rubin et 36 CPU dans un rack unique, avec processus, interconnexion, alimentation et réfrigération conçus comme un ensemble. Tous les projets ne vont pas à cette escalade, mais la logique est la même : le rendu final dépend de l’équilibre entre tous les composants.
Une infrastructure destinée à l’inférence n’a pas nécessairement les mêmes nécessités que d’autres orientées vers l’apprentissage des modèles, la simulation scientifique ou les charges HPC. Par conséquent, les dimensions doivent dépendre de la charge de travail et non seulement de la capacité de calcul maximale disponible.
La réfrigération est l’autre pièce clé. DLC-2 de Supermicro, basé sur la réfrigération liquide directe, contient des plaques froides, des unités de distribution de réfrigérant (CDU) et d’autres éléments pour gérer les besoins thermiques de configuration à haute densité. Votre valeur est grande lorsqu’elle est envisagée depuis la conception du CPD, avec la puissance et le reste de l’installation.
Ne mélangez pas les charges de travail, dimensionnez les ressources, sélectionnez la plate-forme adéquate, configurez vos composants et validez le ensemble pour exploiter ces capacités dans des scénarios réels. L’objectif est que l’infrastructure réponde aux nécessités concrètes de chaque projet, évitant ainsi qu’un composant limite le rendu du restaurant.
L’évolution de l’IA est en train de redéfinir la propre idée de serveur. La question n’est pas la puissance du calcul qui peut installer une entreprise, si l’architecture est nécessaire pour l’approuver réellement.
