Palo Alto Networks a réalisé des études de modèles des derniers modèles d’IA de frontière (Frontier AI), y compris le modèle Mythos d’Anthropic en tant que partie du projet Glasswing et les modèles les plus récents d’OpenAI dans le programme Trusted Access for Cyber.
L’entreprise a constaté que la meilleure génération de capacités de programmation de l’IA de frontière se traduit directement par une avance significative dans la détection de vulnérabilités et la génération d’exploits.
Les capacités de l’IA de frontière, même si elles sont protégées par les sauveteurs, ne sont pas permanentes. Les attaquants découvrent des sécurités dans ces sauveteurs et utilisent l’IA de frontière pour découvrir des vulnérabilités de jour en jour, générer des exploits en temps réel et recruter des agents d’attaque autonomes comme ils n’ont jamais vu l’industrie.
« Sur une place de ses mois, les modèles avancés d’IA de frontière avec de profondes capacités en matière de cybersécurité seront habituels, et les organisations qui n’ont pas mis en œuvre les sauvegardes adéquates seront enfrentarán dans une classe complètement nouvelle de risques dans toute votre entreprise et dans ses infrastructures critiques », déclare-t-il. experts de Palo Alto Networks.
L’IA de la frontière et son impact sur le panorama de la cybersécurité
Les meilleurs ingénieurs en sécurité de Palo Alto Networks ont évalué ces capacités d’IA de frontière et développé de bonnes pratiques pour une utilisation efficace, découvrant que :
- L’IA des frontières est exceptionnellement efficace pour identifier les vulnérabilités dans le code. Au moins trois semaines, j’ai l’équivalent d’une année complète de travail d’essais de pénétration.
- Encore plus impressionnant, l’IA de la frontière est établie dans l’environnement de vulnérabilités, combinant plusieurs chutes mineures graves dans des routes d’exploitation de niveau critique.
- L’IA de la frontière peut analyser toute la surface d’exposition des applications, y compris les plates-formes SaaS et les services utilisés sur Internet, en identifiant les vulnérabilités basées sur la logique que les outils traditionnels ne détectent pas.
Domaines clés dans lesquels l’IA de la frontière aura un impact significatif sur la cybersécurité
Les modèles de frontière IA accélèrent considérablement le rythme des vulnérabilités découvertes. Cela sera particulièrement critique dans le code ouvert et, en outre, l’avalanche de sécheresses qui générera de nouveaux risques.
Augmentation des attaques « de l’intérieur vers l’extérieur » : les récentes attaques sur la chaîne de maîtrise des outils comme LiteLLM et Trivy ont démontré un patron creciente dans la mesure où les attaques se situent contre les adversaires au sein de l’infrastructure d’une organisation, en étudiant plusieurs étapes traditionnelles de l’attaque et en réduisant les opportunités de prévention pour les défenseurs. L’IA de la frontière s’amplifiera à ce sujet.
Le changement de clé avec les modèles d’IA de frontière est le pas d’attaques assistées par l’IA vers des attaques impulsées par l’IA. Les agents construisent des agents d’attaque autonomes qui compriment considérablement les temps du cycle d’attaque. Alors qu’avant de demander des jours ou des semaines d’avion un manuel spécialisé, il sera immédiatement exécuté en quelques minutes grâce aux capacités de l’IA de frontière.
Guide pour les défenseurs
Les organisations qui sont « majoritairement protégées » sont « efficacement protégées », signalent les experts de Palo Alto Networks, qui proposent des recommandations sur le marché nécessaire pour défendre les mesures impulsées par l’IA de frontière :
- Chaque organisation doit utiliser les modèles d’IA de frontière les plus avancés pour évaluer tout son code et son environnement d’applications, et construire un inventaire complet d’activités et d’expositions, centré sur les priorités comme l’identification des vulnérabilités avec l’IA, évaluer l’exposition dans son contexte complet, auditer la chaîne de Il est responsable du code ouvert et mappe la couverture actuelle des capteurs.
- La remédiation et la réduction de l’exposition sont des exigences de base. Alors que le passé entraîne des difficultés de friction entre les équipes à l’heure du détecteur et corrige rapidement les vulnérabilités, il faut maintenant accélérer avec l’attention du comité d’exécution sur ces nouveaux modèles d’IA de frontière. Sans embargo, il est nécessaire de mettre en œuvre des capacités intégrales de prévention des attaques de premier niveau.
Le changement de clé avec les modèles d’IA de frontière est le pas d’attaques assistées par l’IA vers des attaques impulsées par l’IA
- Avec la réduction accélérée des cycles d’attaques impulsionnelles par l’IA de la frontière, l’enquête traditionnelle des opérations de sécurité est déjà valide. Les outils permettant d’analyser les données en silos, combinés avec des processus manuels, doivent être remplacés par l’IA et l’automatisation de l’extrême à l’extrême.
Palo Alto Networks est l’impulsion du secteur pour aborder ces risques émergents avec son unité 42 Frontier AI Defence, concentrée spécifiquement sur les mesures dérivées de l’IA de frontière. L’entreprise promeut également une alliance de dirigeants mondiaux en transformation, en collaboration avec Accenture, Deloitte, IBM, NTT DATA et PwC, qui s’étendra pour garantir que toutes les entreprises déploient une voie rapide vers la résilience aux frontières internationales.
