90 % des organisations de la région EMEA ont expérimenté un incident de sécurité lié à l’IA génétique au cours de la dernière année, et seulement 36 % d’entre elles ont été informées en moins de 24 heures. C’est là que se révèle un nouveau studio de ServiceNow, qui assure les risques de sécurité dérivés de l’utilisation d’IA agent sans une gouvernance adéquate des entreprises.
El informe, titulado Déployé mais non gouverné: l’état de sécurité agent (Desplegados, mais sin gobernanza: el estado de la seguridad de la IA agéntica), reconnaît les réponses de 3.766 hauts responsables de la sécurité et de la technologie des organisations de tout le monde, de los cuales 1.265 appartenant à la région EMEA. Ses conclusions ont été tirées à un moment donné du fait que les agents de l’IA doivent passer par les phases pilotes pour intégrer les systèmes qui soutiennent le fonctionnement des hôpitaux, des aéroports, des usines, des entités financières et d’autres secteurs. Il s’agit d’entreprises qui, seules, sans contrôles adéquats, peuvent avoir des conséquences graves pour la société.
«Les incidents liés à l’IA génétique que les titulaires ont occupés cette année sont une annonce qui peut survenir lorsque cette technologie est utilisée sans les contrôles adéquats», affirme Ben de Bont, directeur de la sécurité de l’information (CISO) de ServiceNow. «Les organisations ne doivent pas avoir à choisir entre avancer rapidement et gérer les risques. Las que consigan hacerlo bien incorporer la gouvernance du principe dans la mission de ses agents, de façon à pouvoir approuver les ventes de l’IA sans perdre de visibilité ni de contrôle».
Les soins à la gouvernance de l’IA génétique
Selon les informations de ServiceNow, les nombreux responsables de la sécurité considèrent que leurs organisations disposent de mesures de protection consolidées pour l’IA génétique, seuls les 13 % des organisations à l’échelle mondiale disposent de programmes de sécurité qui remplissent les critères établis dans cinq domaines fondamentaux : superficie d’attaque, attribution de responsabilités, de sécurité du design, de visibilité et de préparation pour les auditeurs.
Actuellement, le maire fait partie de l’IA agéntica qui gère les cadres dirigeants traditionnels et les systèmes qui dépendent de l’intervention humaine. Dans la région EMEA, les organisations disposent de cadres dirigeants qui abordent les principaux aspects de la mission des agents d’IA. De plus, dans 56% des organisations de la région, la direction de la sécurité commence à finaliser la phase de conception des agents de l’IA, ce qui indique que, dans la plupart des cas, la sécurité commence à être réactive, à la place de l’intégration des premières étapes du développement.
Les agents de l’IA augmentent l’exposition au risque des entreprises
- Les 50 % des organisations de la région EMEA utilisent entre 100 et 999 agents d’IA, alors que les 34 % utilisent 1 000 agents ou plus.
- Les 58 % des équipements de sécurité de la région disposent d’un inventaire complet et précis de tous les agents d’IA en production et d’un compte de procédures pour effectuer un suivi des changements.
- 24 % des équipes de sécurité ont été détectés par des agents de l’IA qui n’avaient jamais été enregistrés ou dont l’existence était découverte. Ces agents peuvent se trouver dans des situations de Shadow AI ou IA dans l’ombre, qui se découvrent seulement après avoir été fonctionnels sans supervision.
Les chances d’avancer sur la vitesse des machines, mais la réponse dépend des personnes
- Les 75 % des organisations d’Europe, d’Orient, du Moyen-Orient et d’Afrique affirment maintenir une carte complète et actualisée des systèmes et des ressources pour ceux qui peuvent accéder à chaque agent, mais seulement les 23 % peuvent superviser en temps réel plus de 90 % de leurs agents.
- Inclut les organisations capables de détecter un problème dans le menu qui ne peut pas être détecté avec suffisamment de rapidité. Les 67 % des équipes de sécurité de la région ne peuvent pas être actionnées automatiquement lorsqu’un agent présente un comportement anormal, car cela nécessite une intervention humaine pour appliquer des mesures correctives.
Réduire la brecha pour récupérer le contrôle
La solution Autonomous Security de ServiceNow aide les entreprises à passer d’un modèle de sécurité réactif et fragmenté à un autre basé sur la prévention et la gouvernance autonome, capable d’agir le plus rapidement possible pour que l’IA génère de nouveaux risques.
Basé sur le principe Shift Zero, ServiceNow aide les organisations à maintenir leur exposition au risque le plus possible vers le zéro en tout moment. Cela permet aux entreprises de démontrer qu’elles sont en train de faire leurs systèmes, parce qu’elles le font et qu’elles sont responsables de leurs actions, sans pour autant suivre le rythme d’adoption de l’IA qui exige le commerce.
Les organisations ne doivent pas avoir à choisir entre avancer rapidement et gérer les risques
Cette information comprend les normes et les mécanismes de protection nécessaires pour adopter l’IA agent de sécurité, entre autres un interrupteur d’urgence (kill switch) et AI Passport.
«L’innovation et la sécurité doivent avancer au même moment, même après l’autre», a déclaré Nadir Izrael, vice-président de Ciberseguridad et Riesgos de ServiceNow. «Ese es el
Objectif de sécurité autonome et Shift Zero : intégrer la gouvernance à partir du moment où elle démarre ou détache un agent, au lieu de l’ajouter ultérieurement. Lorsque la sécurité peut fonctionner à la vitesse des machines, elle est déjà un frein pour l’adoption de l’IA et se transforme en ce qui permet une plus grande forme de sécurité».
