In diesem Blogartikel
Sicherheitsfachleute stehen vor einer neuen KI-Realität. Die Bedrohungserkennung, einst der zentrale Schwerpunkt jeder Sicherheitsbewertung, erfolgt heute schnell und im großen Umfang. Sicherheitsverletzungen, die sich früher über Wochen entwickelt haben, können sich mittlerweile innerhalb von Sekunden entfalten. Schwachstellenketten, die selbst für die besten Sicherheitsteams und Entwickler lange Zeit unsichtbar blieben, werden heute von den leistungsstarken Frontier-Modellen in kürzester Zeit erkannt. Dank ihrer Fähigkeit, enorm große Codebasen zu analysieren, haben diese Modelle jetzt die Möglichkeit, potenzielle Sicherheitslücken in großem Umfang aufzuspüren.
Im Juni hat sich Rubrik dem Project Glasswing angeschlossen. Damit erhielten unsere Entwickler Zugang zum Modell „Mythos Preview“ von Anthropic. Wir haben einen Monat mit diesem Modell gearbeitet, das die Branche auf ganz neue Herausforderungen aufmerksam gemacht hat. Jetzt bin ich zuversichtlich, dass wir wirksame Wege finden werden, die neuen Herausforderungen des KI-Zeitalters zu bewältigen und die Cyber-Resilienz zu stärken.
Dafür haben wir ein interdisziplinäres „Tiger-Team“ aus Experten für Software-Entwicklung und Informationssicherheit zusammengestellt und damit beauftragt, Bedrohungen in unseren eigenen Systemen präzise zu identifizieren und zu beseitigen sowie Prozesse konsequent zu automatisieren. Im Fokus stand die Entwicklung eines effektiven Schutzmechanismus, also einer Softwareschicht rund um das KI-Modell, die Tool-Aufrufe und Kontrollpunkte steuert und das Modell um Geschäfts- und Sicherheitskontext sowie um klare Sicherheitsgrenzen ergänzt.
Wenn Angriffe heute mit KI-Geschwindigkeit erfolgen, müssen auch die Gegenmaßnahmen dieses Tempo erreichen.
In der Praxis heißt das, dass es nicht mit der reinen Erkennung von Bedrohungen getan ist. Bei diesem Umfang wird jeder nachgelagerte Schritt zum Engpass – und die größten Herausforderungen aus technischer Sicht waren am Ende andere als jene, von denen wir ausgegangen waren.
Ein Präzisionskonzept
Auf Grundlage der Erfahrungen, die Rubrik im Rahmen von Project Glasswing mit Mythos gesammelt hat, gingen wir zunächst davon aus, dass neu entdeckte Bedrohungen ein Kapazitätsproblem darstellen würden: größere Warteschlangen und mehr Prüfer. Allerdings wurde schnell klar, dass zusätzliche Kapazitäten allein keine Lösung sind. Wir mussten die gesamten zugrunde liegenden Abläufe überdenken.
Was letztlich funktionierte, war, das Problem als Architekturfrage anzugehen. Anstatt zu fragen „Wie prüfen wir unsere Erkenntnisse?“, mussten wir folgende Frage stellen: „Wie entwickeln wir ein System, in dem nur die relevanten Erkenntnisse an die Entwickler weitergeleitet werden?“
Mit diesem Umdenken veränderte sich auch unser Verständnis der Schutzschicht rund um das KI-Modell. Wichtige Faktoren wie Geschäftskontext, Sicherheitsanforderungen und das spezifische Bedrohungsmodell eines Unternehmens, auf das viele Kunden als letzte Verteidigungslinie für eine resiliente Wiederherstellung vertrauen, können nicht allein durch einen Prompt vermittelt werden. Prompts verändern sich im Laufe der Zeit. Eine durchdachte Schutzschicht hingegen bleibt bestehen. Wenn der Kontext in der Struktur verankert ist, wird er konsequent bei jedem Scan und jedem Durchlauf angewendet, ohne von der jeweils gewählten Formulierung abhängig zu sein.
Zuerst wurde das gesamte Repository gescannt – ohne Vorannahmen und ausnahmslos jede Datei. Anschließend verfeinerten wir unsere Analysen schrittweise und richteten sie gezielt auf die Bereiche aus, in denen sich die relevanten Muster abzeichneten. Das Ergebnis war eine deutliche Reduzierung der Anzahl an Befunden auf einen deutlich kleineren Bestand validierter und priorisierter Sicherheitsprobleme. Erst eine hohe Trefferqualität macht die nachgelagerten Behebungsmaßnahmen praktikabel.
Automatisierung und menschliche Aufsicht
Was das Team bei der Entwicklung einer Pipeline zur Behebung von Schwachstellen am meisten überrascht hat, war nicht die Automatisierung selbst. Es war die Erkenntnis darüber, wie viel Entwicklungsaufwand in die Frage fließt, was nicht automatisiert werden sollte.
Das zugrunde liegende Problem ist struktureller Natur. Die manuelle Behebung von Schwachstellen wird mit der Entdeckung von Sicherheitsrisiken in KI-Geschwindigkeit nicht Schritt halten können. Dabei handelt es sich nicht um ein Ressourcenproblem, das sich einfach durch zusätzliches Personal lösen lässt. Die einzige Lösung besteht darin, Automatisierungslösungen zu entwickeln, die mit dem Tempo mithalten können, in dem potenzielle Schwachstellen identifiziert werden – und dies auf eine Weise, der man tatsächlich vertrauen kann.
Der automatisierte Prozess deckt bewusst nur einen klar definierten Teil potenzieller Schwachstellenklassen ab – nämlich jene, bei denen eine automatisierte Behebung zuverlässig und innerhalb klarer Grenzen möglich ist. Für alle anderen Fälle erstellen wir strukturierte Handlungsempfehlungen und stellen zusätzlichen Kontext bereit, die eigentliche Behebung bleibt jedoch in der Verantwortung von Menschen. Im Bereich der Sicherheit stehen vertrauenswürdige Automatisierung und maximale Automatisierung oft in einem Spannungsverhältnis. Wir haben uns bewusst für Ersteres entschieden.
Bei der Entwicklung einer Schutzschicht für Mythos Preview wurde schnell klar, dass KI die Anforderungen an die technische Sorgfalt für die umgebenden Systeme nicht verringert, sondern erhöht. Die Definition von Taxonomien, die Verifizierungsarchitektur und die bewusste Entscheidung, wo Menschen im Entscheidungsprozess eingebunden bleiben, waren keine Begleiterscheinungen des Projekts. Sie bildeten dessen Kern.
Gemeinsam sind wir stark
Diese Arbeit wäre ohne das Engagement vieler Beteiligter nicht möglich gewesen. Die anderen Unternehmen im Rahmen von Project Glasswing teilten ihre frühen Erfahrungen und Erkenntnisse bereitwillig. Auch Anthropic war ein hervorragender Partner – offen für Lernen, Feedback und Anpassungen. Mein Team bei Rubrik, das bewusst schlank und fokussiert aufgestellt war, setzt klare Prioritäten und erzielt beeindruckende Ergebnisse.
Die Veröffentlichung von Mythos Anfang des Jahres war ein Weckruf für die Sicherheitsbranche. Wir haben begonnen, darauf zu reagieren. Langfristig bin ich überzeugt, dass wir durch diese Anstrengungen bessere Software und bessere Sicherheitsverfahren entwickeln werden. Genau darin liegt der Wert kontinuierlicher Wachsamkeit.