Digital Realty a annoncé que Blackfuel a élu le centre de données BCN1 de Digital Realty à Barcelone comme base pour désinvestir et escalader sa plate-forme d’inférence de IA. Développé avec l’infrastructure AI Factory de Dell Technologies avec réfrigération liquide et GPU d’AMD, le déploiement représente une capacité importante dédiée à IA, l’écosystème global PlatformDIGITAL de Digital Realty et ServiceFabric, la plate-forme d’interconnexion définie par les logiciels de l’entreprise.
Conçue de manière ouverte, la plate-forme de Digital Realty admet une vaste gamme d’infrastructures d’IA et d’architecture d’accélération dans son écosystème mondial, offrant aux clients la flexibilité nécessaire pour libérer l’IA donde et mieux s’adapter à leurs charges de travail.
Le noyau de la collaboration est l’intégration de la plate-forme d’inférence de Blackfuel avec ServiceFabric, qui permet d’offrir des services d’IA à travers l’écosystème connecté de Digital Realty, en particulier pour les applications commerciales, les données et les utilisateurs à ceux qui sont destinés.
Rouge de basse fluctuation et latence
Au lieu d’obliger les organisations à déplacer de grands volumes de données lors des voyages d’affaires publics pour accéder aux capacités d’IA, la solution concerne l’inférence à l’endroit où se trouvent les données. Grâce à une connexion privée, ServiceFabric offre une faible latence et une rouge de basse fluctuation (jitter), qui peut réduire le temps d’accès au premier jeton (TTFT), améliorer les délais de réponse et accélérer l’exécution des flux de travail de l’IA. En même temps, les entreprises ont un contrôle majeur sur la sécurité et le flux de données.
Pour les flux de travail chimiques qui nécessitent entre 20 et 50 appels séquentiels aux API d’inférence, une réduction de 50 millisecondes dans le TTFT grâce à la latence optimisée de ServiceFabric peut ajuster le temps total de finalisation des tâches entre 1 et 2,5 secondes en comparaison avec la connexion à Internet public. Dans une escalade de millions de tâches quotidiennes, ces meilleures choses peuvent traduire des gains d’efficacité importants, démontrant la pertinence d’une connectivité de basse latence avec le rendu d’inférence.
En se connectant directement à ServiceFabric, Blackfuel peut accéder aux entreprises, fournisseurs de cloud, réseaux et écosystèmes numériques de l’ensemble de la plateforme mondiale de Digital Realty, créant une voie évolutive pour que les clients consomment des services d’inférence d’IA de haut niveau au sein des entreprises où ils développent leurs opérations numériques.
Blackfuel peut accéder aux entreprises, fournisseurs de cloud, réseaux et écosystèmes numériques de l’ensemble de la plateforme mondiale de Digital Realty
« La prochaine capacité d’infrastructure sera construite en ce moment pour les jetons. En collaboration avec Digital Realty et ServiceFabric, nous avons créé les éléments de l’AI Token Grid de Blackfuel : capacité dédiée à l’inférence avec assurance globale et contrôle local, connectée aux emplacements où résident les données et les applications commerciales. Barcelone est notre nôtre. « Première étape, il y a beaucoup de choses à faire: apporter une capacité d’IA fiable à la disposition des entreprises là où elles en ont besoin », a affirmé Blackfuel.
Service de IA accessible
À l’heure actuelle, ServiceFabric s’étend à plus de 800 centres de données de Digital Realty et de tiers dans tout le monde, fournissant à Blackfuel une infrastructure mondiale de connectivité afin que vous puissiez augmenter vos services d’IA plus partout à Barcelone et faciliter l’accès aux ensembles de données commerciales. distribuidos, herramientas y aplicaciones. Cela contribue à transformer l’IA d’un service accessible aux voyageurs Internet en une plate-forme de niveau commercial, en améliorant la capacité de réponse, la gouvernance et l’évolutivité de votre adoption en cas d’utilisation critique pour le commerce.
« La prochaine étape de l’IA sera axée sur les jetons utiles pour les méga-entreprises, et les services nécessiteront beaucoup plus de capacité informatique. Ils nécessiteront de l’énergie, de la réfrigération et de la connectivité en même temps qu’une plate-forme unique », a déclaré Chris Sharp, directeur de la technologie de Digital Realty. « En intégrant la plate-forme d’inférence de Blackfuel à ServiceFabric, les entreprises peuvent accéder aux services d’IA de haut rendu dans le même écosystème connecté où ils résident dans leurs applications et leurs données. Barcelone est la première démonstration de ce modèle, et nous sommes ravis d’aider Blackfuel à élargir votre possibilité à partir d’ici ».
