Akamai a annoncé deux nouvelles solutions pour renforcer votre offre d’intelligence artificielle dans Akamai Cloud : Akamai Inference et Akamai Agent Sandbox. Ambas intègre des services de gestion de modèles et d’exécution d’agences pour les agents de l’IA, respectivement. Avec ces nouveautés, les entreprises peuvent créer et ajuster des modèles de peso ouverts, propres ou loués, utiliser leurs propres données et exécuter des agents dans des entités contrôlées, tout en protégeant les applications et l’infrastructure associée. Tout cela à partir d’une même plate-forme cloud optimisée pour les charges de travail d’intelligence artificielle.
Ces capacités représentent une nouvelle avancée dans la stratégie d’Akamai, axée sur la fourniture aux organisations de l’infrastructure et des services nécessaires pour développer, désinstaller et protéger les applications et les agents d’IA auprès des utilisateurs et des données que vous utilisez. Akamai Inference et Akamai Agent Sandbox intègrent une nouvelle capacité de services gérés à une infrastructure qui vous a permis de conclure des contrats multiannuels pour Akamai Cloud pour une valeur supérieure à 14 000 millions de dollars.
Architecture robuste centrée sur les données
La société est en mesure de combiner les ressources CPU et GPU avec l’exploitation cloud, les réseaux et les capacités de Edge Computing distribués à travers son infrastructure mondiale. Cette architecture cherche à faciliter que les entreprises puissent concevoir, mettre en œuvre et exécuter des tâches de travail d’intelligence artificielle à grande échelle, sans renoncer au contrôle de leurs données ni à la sécurité des services.
La démarche des projets pilotes pour les entreprises de production exige beaucoup plus que de disposer de modèles d’IA. Les organisations ont besoin d’une infrastructure pour fournir ces services, accéder à leurs données, gérer l’envoi des demandes et contrôler l’exécution des applications. Ceci est nécessaire pour assurer la sécurité des agents autonomes, en particulier lorsqu’ils commencent à générer et à exécuter le code pour eux. Aujourd’hui, de nombreuses entreprises ont régulièrement des fournisseurs différents pour assurer ces fonctions et doivent gérer en séparant la protection des différents composants.
Akamai Cloud prétend répondre à cette nécessité grâce à un réseau technologique intégré qui combine des ressources informatiques distribuées, des grands clusters de GPU et de CPU dans des centres de données jusqu’à plus de 4 350 emplacements dans le Edge. Cette infrastructure est complétée par une carte de solutions de sécurité qui permet de protéger les différentes capacités du service.
«Nous sommes en train de mettre en œuvre une stratégie d’infrastructure d’IA basée sur l’idée que l’inférence de l’IA représentera la plus grande partie de l’entreprise et l’inversion de l’entreprise. Nos clients ont démontré cette tesis et nous ont permis de le faire le plus », affirme Adam Karon, directeur des opérations et directeur général d’Akamai Cloud. « Quieren crear, ejecutar et proteger l’IA sur la même plateforme. Akamai Inference et Akamai Agent Sandbox étendent les capacités d’inférence et d’exécution qui transforment notre infrastructure d’IA en un environnement technologique d’IA complet, et notre carte de solutions de sécurité protégée à chaque fois. Akamai se trouve dans une position unique pour offrir notre évolutivité et sa distribution afin d’aborder l’inférence d’escalade en temps réel et les charges de travail génétiques».
Akamai Inference : accéder aux modèles d’IA sans gérer l’infrastructure
Akamai Inference propose un accès géré à des modèles personnalisés et un poids ouvert au milieu des API compatibles avec OpenAI. Cette caractéristique vous permet d’intégrer le service aux applications existantes sans nécessité de modifier votre programmation. Les clients peuvent choisir entre différentes modalités de livraison, y compris les options dédiées et les services d’inférence sans service de paiement pour l’utilisateur.
Dans son lancement, le catalogue comprend 12 modèles de peso ouverts, avec des tailles qui des 8 000 millions jusqu’aux 2,8 milliards de paramètres. Entre eux figurent NVIDIA Nemotron 3 Ultra, OpenAI gpt-oss-120b et Google Gemma 4, ainsi que des modèles intégrés pour la génération augmentée par récupération (RAG).
La plate-forme facilite également l’accès aux bases de données gérées et au stockage des objets d’Akamai Cloud, ainsi que la connexion aux services du noyau public et privé. De cette façon, les modèles peuvent travailler avec des informations corporatives. Akamai Inference se charge de gérer l’orchestration, l’exécution des modèles et l’authentification, tandis que les sollicitudes sont traitées lors du voyage de votre réseau mondial. L’objectif est de réduire la latence, d’améliorer la disponibilité et d’offrir un rendu homogène, avec des niveaux de service prévisibles.
Akamai Agent Sandbox : des outils pratiques pour les agents d’IA
La deuxième nouveauté répond aux questions de sécurité qui prévoient l’expansion des agents autonomes. Ces applications ne sont pas limitées aux réponses consultées, car elles peuvent réaliser des actions auprès du nombre d’utilisateurs et générer et exécuter un code pour compléter les tâches déterminées.
Akamai Agent Sandbox propose aux développeurs un environnement contrôlé pour exécuter ces agents et le code généré. Les agents travaillant sur Akamai Functions, tandis que le code créé pour eux, est exécuté dans un organisme privé et indépendant. La solution est distribuée comme un composant de code ouvert du framework Spin et utilise des mécanismes d’islamisation basés sur WebAssembly pour établir des limites sur les ressources informatiques, la mémoire, les connexions saillantes et l’accès aux capacités du système.
Ce modèle permet de contrôler l’endroit où il est exécuté chaque processus et que les ressources peuvent y accéder. L’entreprise envisage des architectures islamiques distinctes, des micro-machines virtuelles capables de créer des instants et des bifurcations avec des sujets politiques de sécurité et des fonctions basées sur WebAssembly.
De cette manière, les développeurs peuvent sélectionner le modèle le plus adapté à chaque charge de travail et le combiner avec les services de CPU dédiés, l’infrastructure accélérée par NVIDIA, Kubernetes gérés et les fonctions Akamai pour l’exécution sans serveur, ainsi que dans l’Edge comme dans les centres de données centrales. L’entreprise a également prévu d’incorporer de nouvelles capacités pour contrôler les interactions des agents et limiter les ressources que vous pouvez accéder aux connexions que vous pouvez recevoir.
Meilleure capacité de GPU avec NVIDIA Blackwell Ultra et Vera Rubin
Akamai a également étendu son infrastructure de GPU avec l’incorporation de clusters NVIDIA Blackwell Ultra et travaille pour adapter ses centres de données à la future plate-forme NVIDIA Vera Rubin, dont la compatibilité est prévue pour 2027.
La flotte de GPU comprend désormais NVIDIA RTX PRO 6000 Blackwell Server Edition, orientée vers les services d’inférence de basse latence, et des clusters NVIDIA Blackwell Ultra destinés aux entreprises qui ont besoin de développer, d’ajuster et de partager leurs propres modèles sur une infrastructure qui peut contrôler directement.
L’utilisation de groupes dédiés est également assurée par les entreprises pour contrôler les versions des modèles et leurs cycles d’actualisation.
Chaque Blackwell Ultra intègre un autre GPU, avec 288 Go de mémoire HBM3e par unité, qui supporte un total de 2,3 To. Cette capacité permet de travailler avec des modèles de grande taille et des charges de travail qui nécessitent une disponibilité élevée de mémoire, comme la raison avancée, l’évolutivité pendant le temps d’inférence et les agents qui manipulent un contexte étendu.
L’utilisation de groupes dédiés est également proportionnée aux entreprises qui contrôlent mieux les versions des modèles et leurs cycles d’actualisation, sans les limites de fréquence ni les valeurs propres aux entreprises multi-utilisateurs. De plus, ces ressources sont intégrées aux services de données, de connexion et de sécurité disponibles dans Akamai Cloud.
«Les entreprises ne doivent pas choisir entre la vitesse et le contrôle de l’IA et de la production», a déclaré Jon Alexander, vice-président principal de la technologie du noyau d’Akamai. « Certains équipes veulent lancer une fonction de IA ce trimestre sur une plate-forme gérée. D’autres nécessitent des GPU dédiés pour exécuter des modèles ouverts de classe frontalière selon vos propres conditions. Tous les équipements qui exécutent les agents nécessitent une limite en ce qui concerne le code qui écrit ces agents. Akamai Cloud a maintenant tout mis en œuvre sur une seule plateforme, avec sécurité et résilience intégrées».
Akamai Inference et Akamai Agent Sandbox, ce dernier à travers le SDK de Spin, sont disponibles en version bêta. La première inclut les modalités de déploiement sans serviteur. Les entreprises intéressées par l’accès aux groupes de GPU NVIDIA B300 peuvent consulter les conditions et la disponibilité de ce service auprès du département commercial d’Akamai.
