Nous savions que les modèles d’IA de frontière allaient transformer la découverte des menaces.
À la vitesse de l’IA, chaque étape en aval du processus de détection est soumise à une pression considérable. Le tri, la validation et la remédiation sont rapidement devenus des points de blocage.
Au cours des derniers mois, en travaillant directement avec Mythos Preview d’Anthropic, nous avons développé les mécanismes d’ingénierie et les pipelines de vérification nécessaires pour combler cet écart. Les résultats ont profondément transformé notre approche de la cyber-résilience.
Projet Glasswing
Dans le cadre du projet Glasswing, Rubrik a bénéficié d’un accès anticipé à Mythos Preview d’Anthropic. Notre priorité était de concevoir un cadre d’ingénierie entourant le modèle d’IA, en y intégrant le contexte métier, un périmètre de confiance et des points de contrôle de vérification afin de réduire drastiquement les faux positifs et de corriger automatiquement les vulnérabilités en toute sécurité.
Grâce à cette approche haute-fidélité, nous avons remédié à un large éventail de vulnérabilités exploitables au sein de nos systèmes lors des phases initiales de test du projet Glasswing. Nous avons privilégié les scénarios d’exploitation réels plutôt que les constats purement théoriques. L’un des enseignements les plus marquants concerne l’enchaînement des attaques : le modèle s’est montré particulièrement performant pour identifier des vulnérabilités individuelles, mais aussi pour les associer afin de reconstituer des chemins d’exploitation complexes impliquant plusieurs composants. Des faiblesses qui semblaient présenter un risque limité lorsqu’elles étaient examinées isolément ont ainsi été révélées comme des maillons d’une véritable chaîne d’attaque. Ces scénarios complexes en plusieurs étapes, ainsi que leurs causes sous-jacentes, ont été systématiquement identifiés, analysés et traités.
Tout au long de cette démarche, notre étroite collaboration avec Anthropic s’est révélée précieuse. L’engagement d’Anthropic en faveur de l’apprentissage continu, de l’adaptation et de la collaboration avec les équipes de sécurité a contribué à définir les conditions d’un déploiement sûr des modèles d’IA de frontière au service de la cybersécurité défensive.
La voie à suivre
Les modèles d’IA de frontière continuent d’évoluer rapidement, et nous intégrons déjà les dernières versions d’Anthropic, notamment Mythos 5, à nos workflows de développement.
Au lieu de considérer les mises à niveau des modèles comme des événements ponctuels, nous avons mis en place un processus de défense continu. Par conception, notre cadre d’ingénierie est indépendant du modèle utilisé : la taxonomie de traitement, la logique de vérification et l’injection de contexte sont découplées et intégrées à la couche d’orchestration environnante. À mesure que les nouveaux modèles fournissent des signaux plus précis, notre workflow automatisé traite les résultats, applique des correctifs générés par l’IA lorsque cela est approprié et transmet directement aux ingénieurs des plans de remédiation adaptés pour validation.
Ce pipeline continu permet à la plateforme Rubrik de rester en phase avec l’évolution rapide des capacités de l’IA afin de fournir des logiciels sécurisés qui protègent nos clients contre les nouvelles attaques alimentées par l’IA.
Rubrik Code Guardian
Au moment de mettre le système en production, nous avons constaté qu’il était extrêmement complexe de mettre en place un cadre d’ingénierie adapté, un mécanisme d’isolation du contexte et une infrastructure de vérification robuste, même pour les éditeurs de logiciels spécialisés. Les défis techniques sont considérables, qu’il s’agisse d’isoler les environnements de calcul, d’empêcher les fuites entre locataires ou de gérer un périmètre de confiance complexe. Réduire les faux positifs exige également un cadre de validation adapté.
C’est pour simplifier la tâche de nos clients que nous avons lancé Code Guardian
Code Guardian met directement à la disposition des bases de code de nos clients le même cadre d’ingénierie et la même infrastructure que ceux que nous avons développés en interne. Exécuté dans un environnement entièrement sécurisé et isolé par air-gap, Code Guardian réalise des analyses approfondies sur plusieurs référentiels afin d’identifier les vulnérabilités et les chaînes d’attaque impliquant plusieurs composants. La solution restitue ensuite aux équipes de sécurité et d’ingénierie des résultats détaillés haute-fidélité ainsi que des plans de remédiation structurés, offrant une défense à la vitesse de la machine tout en maintenant une supervision humaine garante de la confiance.