Palo Alto Networks a publié une nouvelle enquête visant à remédier à une vulnérabilité importante dans Vertex AI Agent Engine de Google Cloud Platform (GCP), qui pourrait permettre aux utilisateurs d’accéder aux données sensibles et de compromettre la sécurité des entreprises cloud.
Réalisé lors de l’utilisation de votre équipe d’enquête de l’unité 42, l’étude révèle que les agents de renseignement artificiel ont été déployés dans Vertex AI avec des autorisations prédéterminées extrêmement étendues. Cette configuration peut être exploitée par des acteurs malveillants pour convertir ces agents en « doubles agents », capables d’opérer comme des menaces internes et d’exfiltrer des informations de forme encubierta, en assurant ainsi la sécurité des systèmes.
Un retour sur la sécurité à l’ère de l’IA
L’information indique que ce type de risques se produit dans un contexte d’adoption accélérée des agents de l’IA, où la sécurité est convertie en un facteur critique. Actuellement, 90 % des organisations ont une pression pour assouplir leurs contrôles d’accès afin de mettre en œuvre une automatisation basée sur l’intelligence artificielle. Ce scénario se situe alors sur une nouvelle surface d’attaque où les agents autonomes peuvent devenir des vecteurs critiques de risque si ils ne sont pas gérés selon des principes de sécurité stricts.
Il est clair que, même si les agents de l’IA sont des outils clés de la transformation numérique, leur exécution sans contrôle adéquat peut entraîner un risque important pour la sécurité des organisations.
Voici les informations les plus pertinentes sur l’enquête de l’unité 42 :
• Escalada de privilèges : les enquêteurs enregistreront un agent de service (P4SA) agréé avec des autorisations prédéterminées excessives, ce qui leur permettra d’élargir l’accès à l’intérieur du cloud et d’affecter la sécurité globale.
• Accès non restreint aux données : l’agent compromis peut lire toutes les données stockées dans les buckets de Google Cloud Storage du client, compromettant ainsi la sécurité des informations.
• Exposition de ressources internes : la vulnérabilité permet également d’accéder aux référentiels restreints de Google et de télécharger des images de conteneurs clés du moteur Vertex AI, révélant des détails sur l’infrastructure interne et débilitant la sécurité du système.
• Il y a des possibilités dans Google Workspace : les étendues autorisées par OAuth 2.0 peuvent, dans certains scénarios, faciliter l’accès aux services comme Gmail ou Drive, augmenter la capacité d’attaque et affecter la sécurité de l’entreprise.
Atténuations et recommandations
Palo Alto Networks a comparé ses hallazgos avec Google, qui a mis à jour la documentation officielle de Vertex AI pour offrir plus de transparence sur l’utilisation des ressources, des comptes et des agents, renforçant ainsi la sécurité dans la configuration et la gestion de ces entreprises. Ce changement devrait faciliter une meilleure compréhension des risques associés aux configurations par défaut et l’importance d’appliquer des mesures de sécurité proactives.
Les agents autonomes peuvent devenir des vecteurs de risque critiques s’ils ne sont pas gérés sous des principes stricts de sécurité.
Avant ce scénario, l’unité 42 recommande aux organisations d’intégrer des révisions de sécurité spécifiques pour l’IA dans leurs processus, y compris la validation des permis, la restriction d’accès et l’évaluation des risques avant la livraison en production, avec l’objectif de garantir la sécurité des entreprises numériques.
