Blog

Mythos und das Ende der Cyber-Verteidigung auf menschlicher Ebene

Das neueste Modell von Anthropic, Mythos, wird wahrscheinlich nicht so bald in den Händen von Bedrohungsakteuren landen. Den meisten Berichten zufolge wird es wohl nie auf breiter Front veröffentlicht werden. Aber das ist fast nebensächlich.

Der Hype um Mythos offenbart etwas, das sich schon seit einiger Zeit abzeichnet: Die Wirtschaftlichkeit von Offensivoperationen bricht zusammen, und die meisten Defensivmodelle sind nicht dafür ausgelegt. Wir gingen allgemein davon aus, dass das Auffinden und Ausnutzen von Schwachstellen teuer sei.

Das Besondere an den Grenzmodellen ist nicht die bloße Fähigkeit oder Geschwindigkeit an sich. Es geht darum, dass sie die Kosten für die Entdeckung auf nahezu null Grenzaufwand drücken. Das Auffinden von Schwachstellen, die Kartierung von Ausnutzungspfaden, die Verkettung von Techniken: all das wird billiger und schneller. Diese Verschiebung des Vorteilsverhältnisses ist unabhängig davon, ob Mythos selbst jemals zur Waffe wird.

Dies ist keine Vorhersage. Es ist eine Entwicklung, die viele Verteidiger bereits durchlaufen.

Was Mythos tatsächlich ändert und was nicht

Der Mythos macht Angriffe nicht unauffindbar. Es zaubert keine neuen Techniken aus dem Nichts. Aus der Sicht eines Verteidigers sehen die Aktivitäten, die es auslösen würde, sehr ähnlich aus wie das, was bereits heute geschieht: Sondierung exponierter Dienste, Fuzzing von Eingaben, Verkettung bekannter Verhaltensweisen.

Die Entdeckung ist immer noch möglich. Das schwierigere Problem sind Umfang und Variation.

Wenn KI die Kosten für die Generierung von Exploit-Code, C2-Tools und Nutzlastvarianten senkt, können sich Angreifer eine weitaus größere Vielfalt bei ihrer Vorgehensweise leisten. Weniger Wiederverwendung bedeutet schwächere Zurechnung. Mehr Abwechslung bedeutet, dass Mustererkennung, Signaturen und historische Grundlinien zu erodieren beginnen. Malicious-as-a-Service wird billiger. Die Einführungszeit wird kürzer. Die Fingerabdrücke von Werkzeugen werden weniger verlässlich, während operative Fehler immer häufiger werden.

Hier beginnt die Verzahnung.

Geschwindigkeit bricht bereits das Modell

Die Verteidiger arbeiteten bereits an der Grenze dessen, was eine von Menschen geführte Reaktion aushalten kann. Hochgradig automatisierte Angriffe haben seitliche Bewegungen in weniger als 25 Sekunden gezeigt. In einigen Umgebungen ist nicht die Erkennungslogik, sondern die Verzögerung bei der Protokollerfassung der eigentlich begrenzende Faktor. Die Daten treffen zu spät ein, um das Ergebnis noch zu ändern.

Damit sollte man sich auseinandersetzen, denn es deutet auf etwas Tiefergehendes hin: Die Reaktionszeit ist schon seit einiger Zeit nicht mehr der primäre Engpass.

Die wirkliche Einschränkung: Entscheidungsdurchsatz

Jahrelang reagierten die Sicherheitsteams auf die zunehmende Komplexität mit einer Beschleunigung der Arbeitsabläufe. Automatisierung beschleunigte die Erkennung. Analysen verbesserten die Triage. Der Mensch blieb das System der Entscheidung.

Dieses Modell ist nun strukturell belastet.

Die gefährlichsten Vorfälle sind nicht die häufigen, gut verstandenen Angriffe. Sie gehören zum "Long Tail": Situationen mit geringer Häufigkeit und großer Auswirkung, die unklar, umgebungsspezifisch und neu sind. Dies sind genau die Fälle, die an menschliche Analysten eskaliert werden - und sie kommen schneller, in größerer Vielfalt und mit weniger Kontext, als Menschen nachhaltig verarbeiten können.

In diesem Umfeld ist der begrenzende Faktor nicht die Ausstattung mit Werkzeugen oder die Intelligenz.


Es ist der Entscheidungsdurchsatz: wie viele korrekte, kontextbezogene Sicherheitsentscheidungen pro Zeiteinheit getroffen werden können.

Mythos führt dieses Problem nicht ein. Er macht es unmöglich, es zu ignorieren.

Wo sich das Risiko tatsächlich konzentriert

Die besorgniserregendste Auswirkung von Grenzmodellen ist nicht die opportunistische Ausbeutung. Es ist das systemische Risiko.

Modelle, die in der Lage sind, über große Codebasen hinweg Schlussfolgerungen zu ziehen, erhöhen die Wahrscheinlichkeit von Schwachstellen der Log4j-Klasse, d. h. von tiefgreifenden, nicht offensichtlichen Fehlern, die durch Abhängigkeitsketten eingeführt werden, bei denen gültige Eingaben mehrere Schichten durchlaufen und zu unbeabsichtigtem Verhalten weit nachgelagert führen.

Dies sind keine Probleme, die Verteidiger einfach “wegdetektieren” können. Sie erfordern eine umfangreiche Patch-Koordinierung, Änderungen dessen, was als normale Verarbeitung angesehen wird, und schwierige Abwägungen zwischen Verfügbarkeit und Einschränkung. In vielen Fällen können die Verteidiger im Voraus nur wenig tun, um sich auf eine schnelle Entscheidungsfindung unter Unsicherheit vorzubereiten.

Der notwendige Reframe: Entscheidungen als Software

Die Antwort auf die Künstliche Intelligenz ist nicht mehr Automatisierung, die auf bestehende Arbeitsabläufe aufgesetzt wird, sondern eine Änderung der Skalierung.

Ein agentenbasiertes SOC behandelt die Entscheidungsfindung selbst als ein Softwareproblem. Entscheidungen werden programmierbar, überprüfbar und im Laufe der Zeit verbesserungsfähig, anstatt durch individuelle menschliche Zustimmung blockiert zu werden.

In diesem Modell:

  • Entscheidungen mit hohem Vertrauen werden autonom ausgeführt
  • Neuartige oder zweideutige Situationen werden absichtlich eskaliert
  • Jede Handlung bleibt erklärbar und wird von der Politik bestimmt

Die Menschen verschwinden nicht. Sie steigen auf, vom Operator zum Gouverneur, legen Grenzen fest, bestimmen die Risikotoleranz und greifen dort ein, wo es tatsächlich auf das Urteil ankommt.

Was sich nicht ändert

Mythos verdeutlicht auch, was konstant bleibt. Die Verantwortlichkeit kann nicht auf Maschinen übertragen werden. Risikoakzeptanz, geschäftliche Abwägungen und Verantwortung für die Ergebnisse bleiben menschliche Pflichten. Daran ändert kein Modell etwas.

Was sich ändert, ist der Ort, an dem das menschliche Urteilsvermögen zum Tragen kommt.

Der Mythos als Grenze im Sand

Der Mythos sollte nicht als Bedrohungshinweis verstanden werden. Er ist eine Markierung.

Das Umfeld hat sich über das hinaus entwickelt, was menschenzentrierte Betriebsmodelle in diesem Tempo aufrechterhalten können; das Modell selbst war nie dafür ausgelegt. Die Teams, die in Zukunft am besten abschneiden werden, sind nicht die mit den schnelleren Analytikern. Sie werden diejenigen sein, die Systeme entwickelt haben, die in der Lage sind, Entscheidungen auf maschineller Ebene autonom zu treffen und kontinuierlich zu verbessern, und zwar unter echter menschlicher Führung.

Hier ist eine gewisse Ironie zu bemerken. Der Zugriff auf Mythos erfolgte vor der Veröffentlichung. Die Forscher gelangten nicht durch ein ausgeklügeltes Eindringen, nicht durch eine Zero-Day-Lücke, nicht durch Diebstahl von Zugangsdaten oder seitliche Bewegungen. Sie vermuteten einen versteckten Endpunkt. Das war's. Eine undokumentierte Schnittstelle, die vermutlich als sicher genug galt, wurde gefunden und abgefragt. Keine neue Technik. Keine fortgeschrittenen Fähigkeiten erforderlich. Sicherheit durch Unklarheit, vor der die Industrie seit den 90er Jahren warnt, war offenbar das, was zwischen dem leistungsfähigsten KI-Modell der Welt und unbefugtem Zugriff stand. Ordnungsgemäße Zugangskontrollen an den Schnittstellen hätten die Forscher völlig aufgehalten.

Die ganze Diskussion darüber, was Mythos in den Händen eines fähigen Gegners anrichten könnte, wurde in dem Moment akademisch, als ein grundlegender, Jahrzehnte alter Fehler nicht behoben wurde.

Grenzüberschreitende KI-Risiken und grundlegende Sicherheitshygiene sind keine getrennten Probleme. Sie als solche zu behandeln, ist eine eigene Kategorie von Organisationsversagen.

Das Agentic SOC ist kein Visionsdokument. Es ist die praktische Antwort auf eine Welt, in der Fähigkeiten der Mythos-Klasse auf beiden Seiten das Tempo vorgeben. Aber die Organisationen, die am meisten davon profitieren werden, sind diejenigen, die bereits die unrühmliche Arbeit zuerst erledigt haben.

Teilen

Artikel von

Craig Jones

Leiter der Sicherheitsabteilung

Craig Jones leitet das globale Netzwerk der Security Operations Center (SOCs) von Ontinue. Zu seinen Aufgaben gehören die Leitung und Optimierung der Teams, die für die Sicherheitsüberwachung, die Reaktion auf Vorfälle und die Erkennung von Bedrohungen in den vier SOCs des Unternehmens verantwortlich sind. Zuvor war Craig Jones Vice President of Security Operations bei Ontinue. Bevor er zu Ontinue kam, war Craig acht Jahre lang bei Sophos tätig, wo er zum Senior Director of Global Security Operations aufstieg. Bei Sophos war Craig für die operativen Aspekte des weltweiten Sicherheitsprogramms des Unternehmens verantwortlich und stellte sicher, dass die globale Sicherheitsinfrastruktur der Organisation robust und skalierbar war.

Craig ist ein angesehener Experte auf dem Gebiet der Cybersicherheit und verfügt über Zertifizierungen wie GCIH und CISSP. Er engagiert sich aktiv in der Cybersicherheits-Community, ist seit 2019 ehrenamtlich als Direktor von BSides Cymru/Wales tätig und hält regelmäßig Vorträge auf Branchenveranstaltungen. Seine Vordenkerrolle umfasst Themen wie Incident Response, SOC-Automatisierung, Threat Intelligence und SIEM. Craig hat einen Bachelor-Abschluss in Informationstechnologie von der University of South Wales.

Schlüsselwörter