De nombreux projets d’intelligence artificielle à la frontière se heurtent à la difficulté de transformer une étude de concept en une infrastructure opérationnelle, répétitive et durable.
Depuis Nemix, nous avons observé de nombreuses organisations valides avec une première installation dans un endroit concret, mais nous rencontrons des difficultés lorsque le déploiement doit s’intensifier dans des décennies d’emplacements. À ce moment-là, les questions changent : comment actualiser les modèles sans intervention physique, comment gérer les serveurs à distance ou ce qui se produit lorsqu’une personne a perdu sa connexion.
Matériel préparé pour Edge AI : solutions Supermicro
Les nouvelles plates-formes Edge de Supermicro basées sur les processeurs AMD EPYC 4005 sont conçues avec précision pour ce type de scénarios. Capacité combinée d’ordinateur, de consommation réduite et de gestion à distance intégrée dans des formats compacts préparés pour fonctionner hors du CPD traditionnel.
L’un des aspects les plus pertinents de ces plates-formes est leur flexibilité physique. Les systèmes peuvent être désutilisés dans des armarios de communications, des bureaux techniques, des entreprises ou des entreprises industrielles avec un serveur traditionnel simplement pas encaja.
Le format à courte profondeur permet d’exploiter la capacité d’inférence locale dans les emplacements où il était peu probable de supprimer l’infrastructure IA, et les emplacements PCIe Gen5 permettent d’incorporer des accélérateurs comme les NVIDIA L4 ou L40S lorsque le cas d’utilisation est requis.
Une des offres pratiques est que toute la gamme partage le même écosystème de gestion à distance de Supermicro. Cela permet de centraliser la surveillance, la gestion des systèmes d’exploitation, la mise à jour du micrologiciel et l’administration du BIOS sans nécessité de gestion physique.
Le résultat apparaît dans l’intégration. Beaucoup d’organisations doivent intégrer ces systèmes en matière de rouge sans segmentation claire, des politiques de sécurité pensées uniquement pour le CPD ou des outils de surveillance qui ne sont pas préparés pour exploiter l’infrastructure distribuée.
Dans les universités, par exemple, Nemix a observé des groupes de recherche chargés de valider des modèles dans un seul équipement de laboratoire qui se heurtent à une réponse lorsqu’ils ont l’habitude de faire des déductions à diverses facultés ou campus distribués. Le problème est rare que vous soyez établi sur le modèle, sino que l’infrastructure et les équipements informatiques ne sont pas préparés pour exploiter les services hors du CPD.
L’actualité de Nemix
Le travail de Nemix comme intégrateur commence avant de sélectionner le matériel de la plateforme. L’analyse du rouge, le modèle opérationnel et les nécessités de maintenance font partie de la conception initiale du projet.
À partir de cette conception, Nemix configure et intègre les solutions Supermicro pour simplifier le fonctionnement distribué et minimiser l’intervention manuelle.
Les projets d’IA de pointe qui continuent de fonctionner après la première année sont ceux qui ont été conçus en pensant le jour où le technicien ne peut pas être à la place.
