Pour la première fois, un système de détection des vulnérabilités basé sur l’IA a identifié une faille zero-day dans un logiciel couramment utilisé, selon l’équipe de sécurité de Google. Cette avancée de Google dans le domaine de l’IA met en évidence une évolution inévitable vers des risques — et des solutions — reposant sur l’IA. Les chercheurs de Google ont utilisé un modèle d’IA, Big Sleep, pour détecter une vulnérabilité liée à la sécurité de la mémoire — un débordement inférieur de tampon sur la pile — dans le moteur de base de données SQLite. SQLite est l’un des moteurs de base de données les plus largement déployés, intégré à des millions d’appareils et d’applications. Il est open source et occupe une place importante dans la chaîne d’approvisionnement logicielle des pipelines de données et des bases de données. Big Sleep a détecté dans son code une vulnérabilité critique de débordement inférieur de tampon sur la pile, qui avait échappé aux méthodes conventionnelles.
Pour les RSSI, les implications sont importantes. L’IA peut être et sera utilisée pour détecter les vulnérabilités zero-day, aussi bien par des acteurs malveillants que bienveillants. Le rythme de la cybersécurité va s’accélérer, et l’IA sera indispensable pour suivre cette évolution. Dans le même temps, il deviendra encore plus important de veiller à ce que les contrôles de sécurité fondamentaux soient en place et correctement configurés. Cette avancée souligne la nécessité de lutter contre les menaces liées à l’IA selon deux axes. Premièrement, en déployant des défenses fondées sur l’IA pour faire face à l’évolution rapide des risques de sécurité. Deuxièmement, en renforçant les cadres de sécurité existants et en veillant à ce qu’ils puissent intégrer ces nouvelles capacités.
“La montée des menaces liées à l’IA ne nécessite pas seulement des outils plus intelligents ; elle exige également une couverture complète et une automatisation afin de réduire au minimum les erreurs humaines.”
La vague imminente de vulnérabilités zero-day alimentées par l’IA
Les grands modèles de langage (LLM) capables de programmer et d’analyser du code progressent rapidement. Ils sont également disponibles gratuitement et souvent en open source. Les attaquants l’ont bien compris et cherchent activement à exploiter l’IA pour détecter des vulnérabilités dans les systèmes. Les RSSI doivent s’attendre à une forte augmentation du nombre de vulnérabilités zero-day découvertes par l’IA, et ce, pour plusieurs raisons majeures :
Capacités avancées de l’IA : Les modèles d’IA modernes, en particulier les LLM, ont démontré leur capacité à analyser des bases de code complexes afin d’identifier des vulnérabilités jusqu’alors inconnues. L’utilisation de l’IA par Google dans le cadre du projet Big Sleep pour découvrir une vulnérabilité zero-day largement répandue illustre bien le potentiel de l’IA en matière de mesures de sécurité proactives.
Automatisation et efficacité : Les outils basés sur l’IA peuvent automatiser le processus de découverte des vulnérabilités, accélérant ainsi considérablement l’identification des failles de sécurité. Cette efficacité permet de détecter les vulnérabilités à un rythme impossible à atteindre avec les seules méthodes manuelles. L’utilisation de l’IA par GreyNoise Intelligence pour découvrir des vulnérabilités zero-day dans des caméras de diffusion en direct illustre cette capacité.
Meilleure compréhension sémantique : Les modèles d’IA peuvent analyser le code en comprenant plus finement son contexte, son objectif et son fonctionnement, et ainsi détecter des vulnérabilités que les méthodes traditionnelles pourraient ne pas repérer. Cette compréhension sémantique permet à l’IA d’identifier non seulement les erreurs de programmation évidentes, mais aussi des failles logiques subtiles, des problèmes de configuration et des lacunes de sécurité susceptibles d’être exploités. Par exemple, OpenAI Codex a démontré sa capacité à détecter des faiblesses de sécurité subtiles en comparant le comportement attendu d’un programme à son implémentation réelle.
La convergence de ces avancées signifie que les RSSI et les équipes de sécurité doivent se préparer à une vague de vulnérabilités zero-day découvertes par l’IA. Pour garder une longueur d’avance, les organisations doivent donner la priorité à l’adoption d’outils de défense fondés sur l’IA, renforcer la collaboration entre les équipes de développement et de sécurité afin de traiter les vulnérabilités plus en amont, et former continuellement leur personnel aux nouvelles menaces liées à l’IA. Des stratégies proactives seront essentielles pour atténuer les risques posés par cette nouvelle ère de cyberattaques facilitées par l’IA. Cela impliquera de déployer l’IA pour lutter contre les menaces liées à l’IA, mais aussi de renforcer l’approche Zero Trust et d’autres stratégies proactives afin de réduire la surface d’attaque.
Une défense en profondeur encore plus poussée devient indispensable
Pour les RSSI, le nouveau paysage des menaces liées à l’IA souligne encore davantage l’importance de couvrir la plus grande partie possible de la surface d’attaque. Cela implique de prendre en compte un éventail plus large de code, de données de configuration et de protocoles. Il faut également déployer des mécanismes de sécurité sur davantage de points de détection tout au long du cycle de livraison des applications, et fournir des outils et des fonctions d’automatisation afin de réduire encore le nombre de tâches manuelles.
Par exemple, F5 NGINX App Protect bloquerait probablement de nombreuses vulnérabilités zero-day identifiées par l’IA en empêchant des catégories de comportements anormaux sur un large éventail de protocoles (HTTP/S, HTTP/2, gRPC, MQTT et WebSocket). NGINX App Protect peut être déployé partout, notamment aux côtés de n’importe quel produit NGINX et dans le pipeline CI/CD. Pour renforcer encore la défense en profondeur, la console SaaS NGINX One fait office de moteur automatisé de recommandations de configuration, permettant aux équipes d’appliquer rapidement des modifications de configuration afin de bloquer les vulnérabilités zero-day sur l’ensemble de leur parc NGINX (y compris NGINX Plus, NGINX Open Source, les produits Kubernetes et les options Azure-as-a-Service).
Élargir les frontières de la défense en profondeur à l’ère de l’IA
Les vulnérabilités zero-day découvertes par l’IA ne constituent pas seulement une évolution du paysage des menaces : elles donnent un aperçu de l’avenir de la cybersécurité. La découverte de vulnérabilités par l’IA n’est pas un phénomène isolé ; elle indique que les outils que nous utilisons pour nous protéger doivent évoluer au même rythme que ceux employés pour nous attaquer. Les vulnérabilités liées à l’IA marquent un tournant pour la cybersécurité et exigent une stratégie de défense plus large et plus approfondie.
Alors que les attaquants exploitent l’IA pour découvrir et exploiter des failles, les RSSI doivent privilégier une défense en profondeur couvrant une plus grande partie de la surface d’attaque. Cela implique d’étendre la protection à davantage de protocoles, de bases de code et de données de configuration, tout en déployant des mécanismes de sécurité à chaque étape du cycle de vie des applications. L’essor des menaces liées à l’IA ne nécessite pas seulement des outils plus intelligents, mais aussi une couverture complète et une automatisation permettant de réduire au minimum les erreurs humaines. Dans cette nouvelle ère, la survie dépend du renforcement de chaque couche et de la protection de toutes les vulnérabilités.
Pour en savoir plus, consultez la page Web F5 NGINX App Protect.
À propos de l’auteur
Articles de blog associés
Tendances actuelles des technologies cloud natives, de l’ingénierie de plateforme et de l’IA
Découvrez les principaux enseignements tirés des réponses à l’enquête annuelle F5 NGINX sur les dernières tendances en matière de technologies cloud natives, de sécurité, d’ingénierie de plateforme et d’IA.
Quels contrôleurs Ingress NGINX sont affectés par les vulnérabilités CVE-2022-4886, CVE-2023-5043 et CVE-2023-5044 ?
Lorsque de nouvelles CVE sont signalées, il est facile de ne plus savoir si elles concernent un outil de contrôleur Ingress NGINX particulier, car il existe plusieurs projets. Cet article présente les CVE et explique comment distinguer les différents projets de contrôleurs Ingress afin de dissiper toute confusion.
Votre API est-elle en temps réel ? Testez sa latence avec l’outil rtapi de NGINX
Votre API répond-elle aux requêtes en moins de 30 ms ? Si ce n’est pas le cas, il ne s’agit pas d’une API en temps réel offrant la faible latence exigée par la grande majorité des organisations. Mesurez la latence de votre API avec l’outil rtapi de NGINX et découvrez comment NGINX peut l’aider à offrir une réactivité en temps réel.
Un testeur d’expressions régulières pour NGINX et NGINX Plus
Le testeur d’expressions régulières (regex) pour NGINX et NGINX Plus vous évite de tâtonner en vous indiquant si une expression régulière utilisée dans un bloc location ou map correspond aux valeurs comme prévu. Il génère la configuration appropriée et affiche les valeurs des groupes de capture.
Caches partagés avec les clusters de cache NGINX Plus, partie 1
Optimisez la capacité de votre cache web en le répartissant entre plusieurs serveurs de cache web NGINX ou NGINX Plus. Découvrez comment procéder dans cet article.
Introduction aux microservices
Les microservices suscitent actuellement beaucoup d’intérêt. Cet article de blog est le premier d’une série de sept consacrée à la conception, au développement et au déploiement de microservices.