Dell Technologies a introduit des mises à jour sur Dell AI Data Platform avec NVIDIA qui aident les entreprises à identifier et à activer leurs données commerciales, tout en offrant un rendu d’exploitation extrême pour impulser des applications d’IA et des agents d’IA autonomes.
L’IA évolue rapidement à partir des outils d’assistance pour des systèmes totalement autonomes, mais son efficacité est limitée par les données auxquelles vous pouvez accéder, celles que vous pouvez confier et celles que vous pouvez exécuter. La plupart des entreprises se heurtent à un obstacle car une grande partie de leurs données est maintenue dans des silos, sans structure, ni contexte commercial ni gouvernement adéquat. Le résultat : les initiatives de l’IA se sont déroulées, les inversions se sont déroulées sous l’espoir de l’espoir et ont eu des ventes compétitives.
Acabar con los silos de données
Dell et NVIDIA éliminent un des principaux obstacles à l’entreprise IA : les données démasquées, isolées ou désorganisées pour votre utilisation. Comme composant central de Dell AI Factory avec NVIDIA, Dell AI Data Platform avec NVIDIA active les données commerciales pour l’IA, assurant la sécurité, la gouvernance et un rendu de première classe à grande escalade. Les clients expérimentent jusqu’à 12 fois plus rapidement dans l’indexation vectorielle, 3 fois plus de vitesse dans le processus de données2 et 19 fois moins jusqu’au premier jeton3 en comparaison avec les applications de calcul traditionnelles.
Les moteurs de données de Dell, accélérés par l’infrastructure de IA de NVIDIA, automatisent le cycle de vie complet des données pour IA et réduisent considérablement le temps de préparation des données, en maintenant le temps de travail de l’entreprise.
Le Dell Data Orchestration Engine, stimulé par la technologie de la récente acquisition de Dataloop par Dell, redéfinit la forme dans laquelle les entreprises exploitent les données pour l’IA. Ce moteur, sans code ou code de base, orchestre le cycle de vie des données de IA : découvrez, étiquette, enregistrez et transformez automatiquement les données structurées, non structurées et multimodales en un ensemble de données gérées et de listes pour l’IA à une grande échelle. En combinant des flux de travail automatisés avec l’apprentissage actif et l’intervention humaine, les organisations peuvent améliorer continuellement la qualité des ensembles de données et la précision des modèles, en maintenant au même moment la gouvernance et le contrôle. Le Data Orchestration Engine Marketplace permet aux organisations de déployer des flux de travail de listes de données pour la production sans avoir à les construire à partir de zéro, grâce à une bibliothèque sélectionnée de microservices NVIDIA NIM, NVIDIA AI Blueprints et plus de 200 modèles, applications et installations supplémentaires.
Moteurs de données accélérés par NVIDIA
Dell Technologies prend en charge le dernier modèle NVIDIA AI-Q dans les entreprises de production, ce qui permet aux entreprises de créer des agents d’IA personnalisables, capables de fournir des informations utiles pour améliorer la prise de décision. Les intégrations de moteurs de données accélérées par NVIDIA dans la Dell AI Data Platform permettent des pipelines de préparation, de récupération et de calcul de données de haute qualité pour les données structurées comme celles-ci. Les clients obtiennent également accès à une bibliothèque approfondie de plans et de NIM de NVIDIA préconfigurés, avec le modèle NVIDIA Nemotron 3 Super sur Dell Enterprise Hub et Hugging Face.
Dell Technologies va également prendre en charge NVIDIA STX, un nouveau design de référence modulaire inspiré par la prochaine génération de NVIDIA Vera Rubin NVL72, des DPU NVIDIA BlueField-4 et des réseaux NVIDIA Spectrum-X Ethernet, qui accélèrent la forme dans les organisations qui gèrent, traitent et récupèrent les données pour IA.
Le nouveau AI Assistant à l’intérieur du Dell Data Analytics Engine présente une interface conversationnelle de langage naturel directement dans l’analyse SQL. Les utilisateurs du commerce peuvent consulter, visualiser et collaborer sur des produits de données gérés avec une compréhension sémantique commune des paramètres de forme intuitive, sans nécessité de connaissances spécialisées en SQL. Cela démocratise l’accès aux données, agilise la tome de décisions et permet d’obtenir des informations plus approfondies avec un maire plus rapide, quelque chose de particulièrement critique pour les organisations qui emploient des agents d’IA qui doivent accéder aux données structurées.
À l’intérieur de la plate-forme de données IA de Dell avec NVIDIA, l’introduction des GPU NVIDIA RTX PRO™ Blackwell Server Edition accélère directement la plate-forme de données. Les bibliothèques accélérées NVIDIA CUDA-X, qui incluent NVIDIA cuDF pour le processus de données structurées et NVIDIA cuVS pour l’indexation et la recherche de vecteurs appliqués aux données non structurées, fonctionnent conjointement avec les moteurs de données de Dell et l’infrastructure optimisée pour offrir des consultations SQL jusqu’à 3 fois plus rápidas.4 et un index vectoriel jusqu’à 12 fois plus rapide5. Ces améliorations seront directement traduites en applications d’IA les plus agiles et en efficacité de coût dans l’infrastructure nécessaire pour préparer les données à grande escalade.
Innovations logicielles de stockage à grande échelle
Alors que les entreprises passent à l’expérimentation avec l’IA pour réaliser leur production, l’exploitation est convertie dans la principale limitation. Les architectures d’exploitation traditionnelles ralentissent à mesure qu’elles s’intensifient, créant des blocs de bouteilles qui rendent les GPU inactifs et entraînent des inversions dans l’infrastructure. Les moteurs d’exploitation optimisés pour l’IA de Dell génèrent ce problème avec des architectures conçues spécifiquement pour maintenir le rendu jusqu’à une grande escalade.
Dell Lightning File System, le système d’archives parallèle le plus rapide du monde6, offre une densité de rendu extrême pour les événements d’entraînement et d’inférence de IA, avec jusqu’à 150 Go par seconde pour rack7, jusqu’à 20 fois plus de rendu que les offres concurrentes basées uniquement sur flash8 et a le double de débit pour l’unité de rack que les systèmes de compétence9. Votre architecture rouge a été spécialement conçue avec un accès direct à l’environnement pour éviter les ralentissements et maintenir les GPU pleinement utilisés, y compris à grande échelle. Lightning FS est intégré de forme transparente aux infrastructures de IA basées sur NVIDIA, assurant les charges de travail d’entraînement et d’inférence fonctionnant à grande vitesse.
Dell Exascale Storage, le stockage unique 3 en 1 conçu pour IA à escalade extrême et HPC1010, offre aux équipes de TI la flexibilité de désinstaller le logiciel de stockage de Dell — système d’archivage, objet et système d’archivage parallèle — sur les derniers services Dell PowerEdge. Les clients peuvent attribuer des ressources d’exploitation Dell PowerScale, Dell ObjectScale et/ou Dell Lightning File System sur une plate-forme matérielle commune pour prendre en charge les entreprises les plus exigeantes d’IA et HPC, comme le trading à haute fréquence ou les néoclouds. Avec support pour NVIDIA CX-8 et CX-9 SuperNIC et connexion rouge prévue jusqu’à 800GbE, offre de rendu de lecture exascale jusqu’à 6 To par seconde pour rack11, proportionnant le haut débit requis pour les charges de travail de l’IA multimodale.
La solution contribue à démocratiser l’accès aux données, à améliorer la prise de décision et à permettre d’obtenir des informations plus approfondies.
Le support pour NVIDIA CMX Context Memory Storage (CMX) et l’accélération de l’inférence avec le cache KV dans un stockage partagé entre Dell PowerScale, Dell ObjectScale et Dell Lightning File System permettent aux organisations de télécharger le cache KV à partir de la mémoire GPU vers Dell CMX Storage et un stockage de rouge partagé à haute vitesse selon les besoins de rendu. Cela améliore considérablement l’utilisation des GPU pour les charges de travail de IA de contexte important et d’agent IA, permettant aux systèmes de IA de maintenir le contexte lors d’interactions prolongées sans augmenter la mémoire du GPU. Cette capacité est essentielle pour les entreprises qui emploient des agents d’IA qui ont besoin de consulter de grands volumes de données historiques ou de gérer des cycles de conversation étendus.
Essais de rendu avec PowerScale : de nouveaux essais démontrent que l’architecture Parallel Network File System (pNFS) basée sur le logiciel de référence PowerScale a déjà été plus grande en matière de rendu avec de grands fichiers dans les entreprises d’IA en comparaison avec NFSv312. Ceci maintient l’alimentation continue des données lors des charges de travail de l’IA intensives sur le GPU, en réduisant les coulls de bouteille dans toute la chaîne de processus et en garantissant que les coûts récurrents du GPU ne peuvent pas être inactivés de façon permanente en attendant les données.
Hacia el ROI et IA empresarial
Dell Technologies célèbre le deuxième anniversaire de Dell AI Factory avec NVIDIA avec des avancées dans son infrastructure d’IA de bout en bout, ainsi que dans son portefeuille de solutions et de services, conçus pour aider les entreprises à relever l’IA des projets pilotes jusqu’à la production à grande échelle. Plus de 4 500 clients ont été épuisés par Dell AI Factory, ainsi que les premiers utilisateurs, qui ont enregistré jusqu’à 2,6 fois de retour sur investissement au cours du premier an13. Avec cela, Dell estime qu’une enquête intégrale sur les résultats commerciaux des entreprises est bénéfique.
