Au cours des derniers mois, les incidents de cybersécurité ont été créés et se sont professionnalisés de plus en plus au milieu de l’utilisation de l’intelligence artificielle. Cette tendance a amené les cyberdélinquants à explorer de nouveaux objectifs d’attaque, et les propres systèmes d’IA des entreprises ont été convertis en blanc parfait pour cela.
Dans le cadre de ce scénario, de Logixs, une entreprise espagnole spécialisée dans la conception et l’intégration de solutions d’IA pour les entreprises, a informé que 8 de chaque année 10 entreprises n’avaient pas de protocoles de cybersécurité dans leurs projets d’IA, selon leur carte de clients, car la majorité d’entre eux l’ont fait. que nos politiques traditionnelles servent de la même forme pour protéger un modèle de langue ou un agent.
« Dans les derniers temps, nous avons vu comment la conception des termes de sécurité informatique a été améliorée pour les entreprises, également stimulée par les normes telles que la loi sur l’IA, DORA ou NIS2. Sans embargo, il y a beaucoup d’entreprises qui, pour accélérer les projets pour voir les résultats, ont introduit la sécurité prochainement. « En chemin, lorsque vous devez être à partir du design », a déclaré Luis Bravo, responsable de la sécurité de l’information chez Logixs. « De même forme, il y a aussi des cas dans lesquels ces projets sont même frénétiques précisément pour le moyen d’implantation et qui ne sont pas sûrs, ce qui supporte le risque de le faire ».
Le maire doit procéder à l’intérieur de l’entreprise
Entre les risques les plus fréquents qui se reproduisent dans toutes les entreprises sans importer leur taille ou secteur, l’utilisation d’outils publics d’IA par partie de l’usine sans surveillance. Dans ce cas, sans sécurité, les employés partagent des informations confidentielles avec les contrats, les données des clients ou le code propre à l’entreprise. Ainsi, 8 de chaque année 10 employés espagnols qui utilisent IA dans leur poste de travail s’assurent d’avoir recours à des outils non facilités par leur entreprise sans communication, selon un studio de Cegid, alors que 6 de chaque année 10 affirment utiliser l’IA sans directives ni supervision d’entreprise, de Je suis satisfait de VML The Cocktail et de Salesforce.
Entre les risques les plus communs dans les projets d’IA, vous trouverez la question de la viabilité pour expliquer pourquoi un outil d’IA est une réponse concrète ou d’où vous extrayez les données. De plus, les agents chargés de l’excès de permis connectés aux systèmes critiques de surveillance et au robot des clés des services de l’IA peuvent également être utilisés par les attaquants, disparando les facturas en question d’heures. Il y a seulement 30 % des entreprises espagnoles qui savent exactement où elles stockent et traitent les données utilisées par leurs systèmes d’IA, selon un studio récent de Red Hat.
De plus, l’utilisation de l’IA pour programmer le plus rapidement génère des erreurs invisibles. Un exemple de cela est l’IA qui écrit le code qui fonctionne. Lorsque cela se produit, les entreprises doivent réviser moins leur code et les processus nécessaires. Il y a donc 2 de chaque 10 auditoires dans lesquels l’équipe de Logixs a réalisé un logiciel préalablement développé par une partie des entreprises avec l’aide de l’IA qui révèle au moins une vulnérabilité ou une expérience de crédibilité.
Principaux problèmes de cybersécurité
Et ce n’est pas un cas isolé. Selon l’information GenAI Code Security 2025 de Veracode, 45 % des valeurs de code générées pour plus de 100 modèles d’IA ne dépassent pas les tests de sécurité. De plus, il y a des cas documentés dans lesquels l’IA recommande des paquets de logiciels qui n’existent pas et où les cyberdélinquants sont enregistrés avec un code malveillant sous ces mêmes noms pour infecter les entreprises.
L’utilisation de l’IA pour programmer plus rapidement est la génération de chutes invisibles
« La cybersécurité est quelque chose de critique dans les projets d’IA. Par conséquent, dans Logix, nous avons développé un système propre qui accompagne tout le cycle de développement avec des agents d’IA, de sorte qu’il écrive la première ligne de code jusqu’à sa capacité de production, avec une surveillance continue et sans une seule révision au final projet.
De cette manière, nous pouvons détecter à un moment donné les problèmes qui pourraient survenir lors d’un incident, à partir des clés d’accès ou de contravention incluses dans le code avec des données personnelles protégées par le RGPD. « Además, avant de fournir un agent de production, nous avons parfois effectué des attaques contrôlées dans un entorno aislado pour acheter comment répondre aux intentions de manipulation, comme l’inspection des instructions, ou un usage indépendant de vos autorisations », a-t-elle déclaré.
