Wir wussten, dass Frontier-KI-Modelle die Bedrohungserkennung revolutionieren würden.
Die Erkennung von Schwachstellen in KI-Geschwindigkeit hat alle nachfolgenden Schritte enorm unter Druck gesetzt. Triage, Validierung und Behebung wurden sofort zu Engpässen.
In den letzten Monaten haben wir das Preview-Modell von Claude Mythos in direkter Zusammenarbeit mit Anthropic genutzt und die Software-Testumgebungen und Verifizierungs-Pipelines entwickelt, die erforderlich sind, um diese Lücke zu schließen. Das hat unsere Sichtweise auf Cyber-Resilienz grundlegend verändert.
Projekt Glasswing
Im Rahmen des Projekts Glasswing erhielt Rubrik frühzeitig Zugang zu Claude Mythos Preview von Anthropic. Wir konzentrierten uns zunächst auf die Entwicklung eines technischen Frameworks für das KI-Modell, in das wir dann geschäftliche Kontextinformationen, Vertrauensgrenzen und Validierungsmechanismen einfügten, um die Anzahl der Fehlalarme drastisch zu reduzieren und Korrekturen sicher zu automatisieren.
Dieser sorgfältige Ansatz zahlte sich schnell aus: Bereits während der ersten Glasswing-Tests konnten wir zahlreiche ausnutzbare Sicherheitslücken in unseren Systemen aufdecken und gezielt schließen. Wir wiesen echten Angriffspfaden eine höhere Priorität zu als rein theoretischen Ergebnissen. Das machte sich insbesondere bei der Erkennung von Angriffspfaden bemerkbar: Das Modell konnte einzelne Schwachstellen sehr gut identifizieren, war aber noch besser darin, diese komponentenübergreifend zu Angriffspfaden zu verknüpfen und Schwachstellen, die für sich genommen ein geringes Risiko darstellten, so für echte Angriffe nutzbar zu machen. Diese komplexen, mehrstufigen Angriffsketten (und die Softwarefehler, die sie möglich machten) wurden systematisch identifiziert, analysiert und behoben.
Während dieses gesamten Prozesses war unsere enge Partnerschaft mit Anthropic von unschätzbarem Wert. Das Engagement von Anthropic für kontinuierliches Lernen, Anpassungsfähigkeit und die enge Zusammenarbeit mit Sicherheitsteams hat maßgeblich dazu beigetragen, neue Maßstäbe für den sicheren Einsatz von Frontier-KI-Modellen in der Cyber-Abwehr zu setzen.
Die nächsten Schritte
Frontier-Modelle entwickeln sich weiterhin rasant weiter und wir integrieren bereits die neuesten Versionen von Anthropic, darunter Claude Mythos 5, in unsere Entwicklungsabläufe.
Anstatt Modellaktualisierungen als individuelle Ereignisse zu betrachten, haben wir einen fortlaufenden, kontinuierlichen Prozess zur Abwehr von Bedrohungen etabliert. Unser Framework ist bewusst modellunabhängig konzipiert: Routing-Taxonomie, Verifizierungslogik und Kontextanreicherung wurden von den Modellen entkoppelt und in die sie umgebende Orchestrierungsschicht ausgelagert. Da neuere Modelle präzisere Signale liefern, verarbeitet unser automatisierter Workflow die Ergebnisse, wendet gegebenenfalls maschinengesteuerte Korrekturen an und sendet den zuständigen Ingenieurteams detaillierte Behebungspläne zur Überprüfung.
Diese kontinuierliche Pipeline sorgt dafür, dass die Plattform von Rubrik den steigenden KI-Fähigkeiten stets einen Schritt voraus bleibt und wir sichere Software bereitstellen können, die unsere Kunden vor neuen KI-gestützten Angriffen schützt.
Code Guardian
Als wir das System in die Produktion überführten, wurde deutlich, wie schwierig es selbst für einen spezialisierten Softwareanbieter ist, die richtige Infrastruktur für die Modellsteuerung, Kontextisolierung und Verifizierung aufzubauen. Enorme technische Herausforderungen – von der Isolierung der CPU-Umgebungen über die Verhinderung von Datenlecks zwischen Mandanten bis hin zur korrekten Interpretation komplexer Vertrauensgrenzen – mussten bewältigt werden. Zudem musste das richtige Umfeld geschaffen werden, um die Anzahl der False Positives zu reduzieren.
Um diese Herausforderung für unsere Kunden zu bewältigen, haben wir Code Guardian herausgebracht.
Mit Code Guardian können unsere Kunden die Tools und die Infrastruktur, die wir intern entwickelt haben, für ihre Codebasen nutzen. Code Guardian läuft in einer vollständig gesicherten, logisch isolierten Umgebung und führt umfassende Scans über mehrere Repositorys hinweg durch, um Schwachstellen und komponentenübergreifende Angriffsketten zu identifizieren. Anschließend schickt es detaillierte, belastbare Erkenntnisse und strukturierte Maßnahmenpläne an die Sicherheits- und Engineering-Teams, um Cyber-Abwehr in Maschinengeschwindigkeit mit dem Vertrauen zu kombinieren, dass durch menschliche Übersicht aufgebaut wird.