Les systèmes de renseignement artificiel ne se limitent pas aux formules de recommandations : chaque action avec l’autonomie du maire, les incidents prioritaires, l’activation des processus ou toutes les décisions opérationnelles sans intervention humaine directe. Cette évolution et la question de celui qui assume la responsabilité de ces décisions centrales de la conférence ISACA Europe 2026, célébrée récemment à Munich.
Pendant trois jours, plus de 50 experts internationaux ont participé à plus de 40 sessions avant environ 500 assistants de plus de 50 pays pour analyser comment les organisations peuvent renforcer la supervision, la gestion des risques et la résilience dans un environnement technologique et réglementaire chaque fois plus complexe.
Le moment où ce débat est célébré n’est pas occasionnel. Le Règlement sur l’Intelligence Artificielle de l’UE (AI Act), NIS2, DORA et le Règlement sur la Ciberresilience sont en train de configurer conjointement un cadre régulateur européen qui redéfinit la gouvernance, la résilience opérationnelle et la confiance numérique, tandis que l’IA transforme tous les domaines d’activité des entreprises. La rencontre a pour but de démontrer que le véritable défi n’est pas d’adopter l’IA, mais de fixer des limites à son autonomie et de garantir la viabilité de ses actions.
La gouvernance ne s’exerce pas avec l’adoption, mais avec l’autorisation
Ben Hanson, expert en sécurité des agents d’IA chez Zenity, a fait la différence dans son intervention entre protéger les agents et gérer leur capacité d’action. Bien sûr, les autorisations doivent avoir une durée limitée, en fonction du contexte et peuvent être révoquées pendant l’exécution. De plus, il est nécessaire de vérifier que chaque fois que vous répondez à l’objet autorisé, vous devez également contrôler les documents et les souvenirs qui influencent les décisions des agents. Votre principale conclusion est qu’il n’est pas possible d’arrêter un agent : si les capacités des délégués et d’autres outils ou agents sont activés, le contrôle doit être interrompu pendant toute la chaîne d’exécution.
La séance consacrée à la maturité du gouverneur de l’IA reflétait également la nécessité de passer de la théorie à la pratique. Daniel Manimbo, responsable de l’intelligence artificielle et de l’ISO chez Schellman, et Kevin Schawinski, cofondateur et PDG de Modulos, distinguent les trois niveaux de gouvernement : modèle, système et organisation. Son intervention est centrale au niveau du système, c’est-à-dire dans la surveillance continue du comportement pendant l’exécution, la limitation des actions autonomes et la désignation claire des responsabilités en chaînes formées par plusieurs agents. Nous défendons également les normes ISO 42001 qui doivent être traduites dans les processus qui fonctionnent de manière continue, et qui ne doivent pas être publiées dans une autre documentation. Asimismo, ces processus doivent être appliqués aux contrôles existants en lieu et place des duplicarlos.
La confiance exige d’accréditer l’origine des contenus
En ce moment, Henry Ajder, expert en IA génératrice et deepfakes et fondateur de Latent Space Advisory, a placé la confiance au centre de la transformation. D’autre part, les contenus synthétiques ne facilitent pas seulement l’apprentissage, mais ils sont également liés à l’authenticité des captures réelles. La réputation d’une organisation n’est pas suffisante pour valider vos communications. Par conséquent, j’ai défendu l’utilisation des informations d’identification et des mécanismes qui permettent d’accréditer votre procédure, mais j’ai également reconnu que ces outils ne pouvaient pas être résolus pour compléter la défiance.
Monica Verma, experte en cybersécurité et fondatrice de Monica Talks Cyber, a également pour mission de souligner que la gouvernance ne dépend pas uniquement des processus et des contrôles. Lors de son intervention, la cyberrésilience a été renforcée par le leadership et le désir du talent. Son principal argument est que les mesures de sécurité doivent être fracasées lorsqu’elles s’implantent sans contact avec les personnes qui doivent être appliquées ultérieurement.
La conférence a souligné l’importance de la connaissance humaine, le leader et la responsabilité de générer une confiance dans l’IA
La conférence s’est terminée par l’intervention de Sarah Furness, experte en leadership, ancienne chef de l’escadron de la Real Fuerza Aérea britannique et expilote d’hélicoptères de combat. Furness recommande d’entendre le moyen comme une source d’information utile, de pratiquer de manière délibérée la prise de décision et d’apprendre les erreurs, au lieu d’espérer des réponses parfaites avant l’incertitude.
En outre, de la technologie et des cadres réglementaires, la conférence a souligné l’importance de la connaissance humaine, le leadership et la responsabilité de générer une confiance dans l’IA.
Comme l’explique Chris Dimitriadis, directeur de la stratégie mondiale de l’ISACA : « Déléguer une tâche à un agent d’IA ne signifie pas déléguer la responsabilité. Avant de concéder l’autonomie à un agent, une organisation doit savoir ce qui peut faire, quelles informations peuvent accéder et qui peuvent intervenir si elles se dirigent vers leur objectif. Le contrôle doit être maintenu sur toute la longueur de la chaîne d’éjection. Marcos comme le modèle de maturité de l’IA du CMMI (CMMI AIM) peut aider les organisations à évaluer leur degré de maturité en IA, renforcer la gestion des risques et promouvoir une innovation durable. Il est également important de contacter les professionnels qui disposent des compétences adéquates en auditoire de l’IA, de la cybersécurité, des risques et de la gouvernance pour garantir que l’IA porte une valeur de manière responsable».
La principale question posée au cours de la conférence est encore plus pertinente à Munich : comment les organisations peuvent-elles concilier la grande autonomie des agents d’IA avec une attribution claire de responsabilités, une gouvernance efficace et les compétences nécessaires pour maintenir le contrôle ? Il s’agit d’un défi qui suivra l’agenda européen de confiance numérique pendant que les organisations s’adaptent au règlement de l’IA de l’UE, NIS2 et DORA.
