Red Hat a annoncé les résultats d’un studio qui analyse l’adoption de l’intelligence artificielle par l’entreprise et la gestion des risques entre 1 400 directeurs de technologie de l’information (CIO) de 14 pays, dont l’Espagne. L’enquête montre que, si les agents autonomes de IA sont présents à 100 % des organisations espagnoles incluses dans la scène de l’étude, il reste une question critique entre la gouvernance permise et la visibilité opérationnelle réelle.
La majorité des CIO espagnols consultés (85 %¹) expriment une grande confiance dans le fait que ses agents de l’IA fonctionnent de manière sûre et conforme à la normative, en respectant les mécanismes de contrôle et de supervision. Pourtant, les données indiquant que cet optimisme peut engendrer un manque de visibilité :
- Les 30 % des personnes interrogées affirment connaître avec précision les flux de données à l’intérieur de votre organisation, ainsi que les lieux où ces flux sont enregistrés et traités.
- Seulement un peu plus de deux fois par an (22 %) ont une vision exhaustive de votre chaîne de gestion de logiciels et de vos dépendances directes et indirectes.
- Il y a un troisième (28 %) évalué de manière continue les risques dérivés des fournisseurs d’IA plus au cours de la phase initiale d’adoption.
Ces résultats indiquent que, si les participants considèrent que leurs organismes et agents d’IA assurent des contrôles adéquats de sécurité et de sobriété, la réalité prouve une erreur d’évaluation vérifiable dans ces opérations. La nature dynamique de l’innovation en IA et les forces du marché peuvent faire en sorte qu’un système présente de hauts niveaux de sécurité et un ensemble normatif au moment de son déploiement, mais qui s’appliquera totalement peu de temps après.
Selon les propos de Julia Bernal, responsable de la région méditerranéenne et directrice nationale pour l’Espagne et le Portugal de Red Hat, « pour diriger l’IA avec efficacité, la première est d’avoir une visibilité totale. Les organisations doivent gérer les flux de données, les composants logiciels et le cycle de vie des agents avant l’escalade. En même temps qu’elle accélère la productivité, l’IA multiplie les risques de vulnérabilité. Pour cela, il est fondamental de contacter une chaîne de gestion des logiciels de sécurité et une gestion ouverte des poussières respaldada par la communauté ouverte».
Petites brechas de visibilité, grands risques pour les données
Les entreprises espagnoles accélèrent leur courbe d’adoption de l’IA : les 37 % des personnes interrogées sont pleinement assurées des barres de sécurité testées, de la surveillance continue et des systèmes d’intervention automatisés. D’autres 48 % manifestent une « confiance raisonnable » pour avoir un faible contrôle de la sécurité et de la sécurité, tout en reconnaissant les petites lagunes dans leurs moyens de contrôle et de surveillance.
Sans embargo, dans les entreprises de production, les échanges de données sans supervision entre les plates-formes commerciales, les services au sein et les modèles externes d’IA peuvent générer des risques. 47 % des organisations espagnoles rapportent de petites attentions sur la visibilité des flux de données ; el 22 % ya ha mis en œuvre des fonctions de IA sans comprendre tous ces flux ; et le 1 % a une vision très limitée de la donnée qui enregistre les données.
En comparaison, la visibilité varie notablement entre les différents pays interrogés : alors que 61 % des enquêtés en Afrique du Sud affirment avoir une visibilité de bout en bout des flux de données, les organisations françaises sont à 31 %. Pour les entreprises espagnoles, qui doivent s’inscrire dans des cadres normatifs stricts comme le Règlement général de protection des données (RGPD) et la Loi de l’IA de l’Union européenne, garantir une traçabilité des données vérifiable pendant toute la durée de votre cycle de vie est essentiel pour éviter les irrégularités légales et fuites d’informations.
Le grand risque des dépendances indirectes du logiciel
Jusqu’à 79 % des entreprises espagnoles ont été consultées pour détecter les vulnérabilités critiques des logiciels sur une plage de 24 heures après la publication du correcteur de correctif. Le reste tard un peu plus d’un jour, et il n’y a rien d’autre à célébrer plus d’une semaine.
Cependant, la plupart des entreprises découvrent avec précision quels composants de logiciel sont utilisés. Seuls 22 % disposent d’une vision complète et constamment actualisée de tous les composants du code ouvert utilisés, y compris leur origine, leurs numéros de version et leurs dépendances directes et indirectes. Les médias entre le pays se trouvent juste à côté de 33 %.
Si bien que 36 % des entreprises ont une bonne connaissance des composants et des versions, elles ont des limites à l’heure d’identification des origines et des dépendances indirectes. Les 35 % connaissent les principaux composants du code ouvert à utiliser, mais ils ne disposent pas d’une vision complète de la chaîne de gestion des logiciels en sens large. Les entreprises enquêtées ont déjà réalisé un système de suivi de leur chaîne de gestion de logiciels de code ouvert.
Les dépendances indirectes sont habituelles dans une multitude de projets de logiciels de code ouverts, ce qui implique qu’ils intègrent des bibliothèques, des frameworks et d’autres éléments précédents de projets de troisièmes. Ces dépendances peuvent comprendre des enjeux notables pour l’écosystème technologique d’une organisation, en particulier si leur efficacité n’est pas évaluée (78 %²).
Les évaluations de risques comme une zone continue et non ponctuelle
En ce qui concerne l’évaluation des risques associés aux fournisseurs d’IA, seuls 28 % des entreprises espagnoles déclarent être bien préparées et discuter des critères quantifiables et surveillés de manière continue dans leurs opérations quotidiennes avec l’IA. Ce chiffre est supérieur à celui des pays bas, par exemple (peu moins de 22 %), mais cela est considérablement au détriment de l’Italie (51 %).
Seuls les 4 % des organisations espagnoles dépendent de la forme exclusive des auditeurs externes, des certifications et des garanties contractuelles pour leur analyse des risques.
Mais 34 % des entreprises interrogées en Espagne ont réussi à évaluer les risques avant la mise en œuvre de nouvelles technologies d’IA, avec des difficultés à superviser et à valoriser les risques avec postériorité. Un 32 % est sûr de l’évaluation initiale, ce qui peut entraîner des résultats insuffisants dans un environnement d’IA en évolution rapide en ce qui concerne les modèles, les données, les exigences normatives et les mesures qui varient selon les cas dans le journal.
Les enquêtés sont pleinement conscients de ce retour et de la nécessité d’aborder des méthodes médicales et une gestion interne. Seuls les 4 % des organisations espagnoles dépendent de la forme exclusive des auditeurs externes, des certifications et des garanties contractuelles pour leur analyse des risques. Y apenas un 2 % se basa sur la réputation du fournisseur et sur les expériences pasadas, ou soins d’une enquête structurée pour évaluer ces risques.
