Die ersten autonomen Angriffe durch KI-Agenten zeigen: Unternehmen müssen ihre Security-Ansätze überdenken, damit Attacken nicht mehrere Angriffspfade verfolgen, sich während des Angriffs anpassen und die Recovery lahmlegen. Zehn Tipps zur Abwehr.
Autonome KI-Angriffe verlangen nach automatisierter Erkennung und Eindämmung, geschützten Recovery-Systemen und der überprüfbaren Wiederherstellung vertrauenswürdiger Umgebungen.
(Bild: Gemini / KI-generiert)
Im Juli 2026 wurde nicht nur die IT-Sicherheitsbranche, sondern auch die breite Öffentlichkeit aufgeschreckt: Erstmals haben autonome KI-Agenten selbstständig eine Organisation angegriffen. Doch die von den Betreibern von Open AI unbeabsichtigte Attacke auf Hugging Face blieb kein Einzelfall. Ein KI-Agent namens „Jade Puffer“ hat sogar einen kompletten Ransomware-Angriff autonom durchgeführt.
Solche eigenständigen KI-Angriffe weisen Merkmale auf, die sich grundlegend von menschlich gesteuerten Attacken unterscheiden. Dazu zählen extreme Beharrlichkeit, Ausführung in Maschinen-Geschwindigkeit, massive Parallelisierung, adaptive Entscheidungsfindung und eine offensichtliche Gleichgültigkeit gegenüber Effizienz, solange sich das Ziel durch Brute-Force-Verfahren erreichen lässt. Diese wesentlichen Änderungen in der Angriffstaktik erfordern neue Ansätze für die Cyberresilienz. Dazu gehören folgende 10 Punkte.
Das entscheidende Merkmal autonomer KI ist das wesentlich höhere Tempo. Sie kann Tausende von Aktionen ausführen, während Unternehmen erst dabei sind, ein Incident-Response-Team zusammenzustellen. Eine effiziente und effektive Automatisierung von Erkennung, Untersuchung, Eindämmung, Behebung und Wiederherstellung wird damit zwingend notwendig.
Während ein menschlicher Angreifer in der Regel eine Taktik optimiert, führen Agenten wiederholt mehrere erfolgreiche Techniken gleichzeitig aus. Statt einen einzigen Pfad zur Privilegien-Erweiterung oder lateralen Bewegung zu verfolgen, können autonome Agenten Hunderte davon parallel ausprobieren, bis einer erfolgreich ist. Unternehmen sollten also davon ausgehen, dass Identitäten, Cloud-Infrastrukturen, CI/CD-Pipelines, Managementsysteme und Endpunkte alle gleichzeitig ins Visier genommen werden.
Schon bei Hugging Face entwickelte sich der Vorfall schnell von der Codeausführung zum Abgreifen von Anmeldedaten, bevor er sich lateral über die interne Infrastruktur ausbreitete. Dies zeigt, dass Identitäten der entscheidende Weg zur Wiederherstellung sind. Wenn Identitäten, privilegierte Konten, sensible Informationen, Tokens und Dienstkonten nicht vertrauenswürdig sind, ist die Wiederherstellung von Servern weitgehend sinnlos. Recovery beginnt mit vertrauenswürdigen Identitäten, nicht mit der Infrastruktur.
4. Steuerungsebene für Recovery muss geschützt sein
Autonome KI-Agenten wollen nicht nur die Produktionssysteme kompromittieren. Sie greifen auch folgende Bereiche an: Backup-Infrastruktur, Recovery-Orchestrierung, Identitätsplattformen, Automatisierungstools, Infrastructure-as-Code, Monitoring-Systeme und Verwaltungskonsolen. Daher müssen Unternehmen die Steuerungsebene für die Wiederherstellung architektonisch von den Produktionsumgebungen trennen.
Hugging Face hat bei dem KI-Angriff sich wiederholende Aktionen, ineffiziente Pfade und ungewöhnliche Verhaltensweisen beobachtet, für die sich kein erfahrener menschlicher Angreifer entscheiden würde. Trotzdem war der Angriff erfolgreich. Das zeigt: KI-Attacken müssen nicht effizient oder ausgeklügelt sein. Sie brauchen nur genügend Versuche, um erfolgreiche Kombinationen zu entdecken. Dies erfordert einen grundlegenden Wandel in der Abwehrstrategie hin zur Berücksichtigung eines hohen Angriffsvolumens mit vergleichsweise einfachen Techniken.
Interessant war auch das enorme Volumen an Telemetriedaten, die während der Intrusion erzeugt wurden. Dazu gehören Tausende von Befehlen, Protokolleinträgen und scheinbar irrationalen Entscheidungen. Herkömmliche Untersuchungsmethoden sind dafür schlichtweg nicht skalierbar. So benötigen auch Unternehmen zunehmend KI-Lösungen zur Analyse von Angriffen, die von KI durchgeführt werden, um die Waffengleichheit wiederherzustellen. Die Incident Response wird künftig stark von der automatisierten Erstellung von Zeitachsen, der Rekonstruktion von Angriffsgraphen und der KI-gestützten forensischen Triage abhängen.
Stand: 08.12.2025
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.
Einwilligung in die Verwendung von Daten zu Werbezwecken
Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von Newslettern und Werbung nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.
Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.
Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.
Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden. Dies gilt nicht für den Datenabgleich zu Marketingzwecken.
Recht auf Widerruf
Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://contact.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung.
Herkömmliche Playbooks gehen von einem relativ statischen Angriffsverhalten aus, um die wahrscheinlichen nächsten Schritte vorherzusagen. Doch autonome Agenten können die Umgebung kontinuierlich bewerten, erfolglose Ansätze aufgeben, neu entdeckte Möglichkeiten ausnutzen und völlig neue Angriffspfade entwickeln. So müssen sich Erkennungsstrategien anstelle des Verhaltens stärker auf das Ziel konzentrieren, zum Beispiel Identitätsmissbrauch, Privilegien-Erweiterung, Zugriff auf Anmeldedaten, Manipulation der Recovery-Infrastruktur oder Störung von Geschäftsdiensten. Diese Bereiche sind stärker zu schützen, da sich die Angriffstechniken ständig verändern.
Wenn Angriffe mit Maschinen-Geschwindigkeit erfolgen, können Unternehmen nicht mit der Wiederherstellung auf Basis einer Tabellenkalkulation antworten. Sie müssen also nicht mehr nur Backups besitzen, sondern sie auch automatisiert wiederherstellen. Dazu dient das Konzept der Minimum Viable Company (MVC) inklusive Clean Room. MVC ist die minimale Kombination aus Mitarbeitenden, Prozessen, Technologien, Dokumentationen, Einrichtungen und Abhängigkeiten von Drittanbietern, um den Geschäftsbetrieb im Notfall aufrechtzuerhalten. Der Clean Room dient als sicherer, isolierter Speicherort für Daten, Systeme und Anwendungen zur vertrauenswürdigen schnellen Wiederherstellung.
Viele Unternehmen nutzen bei der Recovery nach wie vor manuelle Genehmigungen, CAB-Sitzungen, Wiederherstellungs-Tabellen und undokumentiertes Experten-Wissen. Doch jeder manuelle Prozess verlängert die Wiederherstellungszeit. Jeder unnötige Entscheidungspfad bietet autonomen Angreifern eine zusätzliche Gelegenheit, ihre Aktivitäten fortzusetzen. Cyberresilienz hängt daher zunehmend von eingeübten, automatisierten und vorab genehmigten Wiederherstellungsprozessen ab.
Bei einer schnellen Recovery läuft zwar ein Server wieder. Aber das heißt noch lange nicht, dass er auch vertrauenswürdig und sicher ist, also keine Malware oder Schwachstellen weiterhin enthält. Die Wiederherstellung muss daher zu einem nachweisbaren Vorgang werden. Vertrauen sollte durch validierte Identitäten, Konfigurationsintegrität, Herkunftsnachweis, Verhaltensprüfung und forensische Beweise wiederhergestellt werden.
Damit wird klar, dass selbstständige Angriffe durch autonome KI-Agenten einen neuartigen Sicherheitsansatz erfordern. Die Frage für CISOs, CIOs und Vorstände lautet heute: „Kann sich unser Unternehmen innerhalb der festgelegten Ausfalltoleranzen erholen, wenn eine autonome KI kontinuierlich mit Maschinen-Geschwindigkeit gleichzeitig jeden Teil unserer Infrastruktur angreift?“ Dies verdeutlicht auch, dass Unternehmen mit erfolgreichen Angriffen rechnen müssen. So ist neben strengen Schutz- und Abwehrmaßnahmen auch eine automatisierte Wiederherstellung geprüfter und vertrauenswürdige Systeme wichtig. Dies gelingt nur mit isolierten Clean Rooms auf Basis des MVC-Konzepts.
Über den Autor:James Blake, Vice President Global Cyber Resiliency Strategy bei Cohesity.