Selbstständige Angriffe von KI-Agenten 10 Punkte sind bei autonomen Attacken zu beachten

Ein Gastbeitrag von James Blake 4 min Lesedauer

Anbieter zum Thema

Die ersten autonomen Angriffe durch KI-Agenten zeigen: Unternehmen müssen ihre Security-Ansätze überdenken, damit Attacken nicht mehrere Angriffspfade verfolgen, sich während des Angriffs anpassen und die Recovery lahmlegen. Zehn Tipps zur Abwehr.

Autonome KI-Angriffe verlangen nach automatisierter Erkennung und Eindämmung, geschützten Recovery-Systemen und der überprüfbaren Wiederherstellung vertrauenswürdiger Umgebungen.(Bild:  Gemini / KI-generiert)
Autonome KI-Angriffe verlangen nach automatisierter Erkennung und Eindämmung, geschützten Recovery-Systemen und der überprüfbaren Wiederherstellung vertrauenswürdiger Umgebungen.
(Bild: Gemini / KI-generiert)

Im Juli 2026 wurde nicht nur die IT-Sicherheitsbranche, sondern auch die breite Öffentlichkeit aufgeschreckt: Erstmals haben autonome KI-Agenten selbstständig eine Organisation angegriffen. Doch die von den Betreibern von Open AI unbeabsichtigte Attacke auf Hugging Face blieb kein Einzelfall. Ein KI-Agent namens „Jade Puffer“ hat sogar einen kompletten Ransomware-Angriff autonom durchgeführt.

Solche eigenständigen KI-Angriffe weisen Merkmale auf, die sich grundlegend von menschlich gesteuerten Attacken unterscheiden. Dazu zählen extreme Beharrlichkeit, Ausführung in Maschinen-Geschwindigkeit, massive Parallelisierung, adaptive Entscheidungsfindung und eine offensichtliche Gleichgültigkeit gegenüber Effizienz, solange sich das Ziel durch Brute-Force-Verfahren erreichen lässt. Diese wesentlichen Änderungen in der Angriffstaktik erfordern neue Ansätze für die Cyberresilienz. Dazu gehören folgende 10 Punkte.

1. Vorbereitung auf Maschinen-Geschwindigkeit

Das entscheidende Merkmal autonomer KI ist das wesentlich höhere Tempo. Sie kann Tausende von Aktionen ausführen, während Unternehmen erst dabei sind, ein Incident-Response-Team zusammenzustellen. Eine effiziente und effektive Automatisierung von Erkennung, Untersuchung, Eindämmung, Behebung und Wiederherstellung wird damit zwingend notwendig.

2. Abwehr von parallelen Angriffspfaden

Während ein menschlicher Angreifer in der Regel eine Taktik optimiert, führen Agenten wiederholt mehrere erfolgreiche Techniken gleichzeitig aus. Statt einen einzigen Pfad zur Privilegien-Erweiterung oder lateralen Bewegung zu verfolgen, können autonome Agenten Hunderte davon parallel ausprobieren, bis einer erfolgreich ist. Unternehmen sollten also davon ausgehen, dass Identitäten, Cloud-Infrastrukturen, CI/CD-Pipelines, Managementsysteme und Endpunkte alle gleichzeitig ins Visier genommen werden.

3. Identitäten werden immer wichtiger

Schon bei Hugging Face entwickelte sich der Vorfall schnell von der Codeausführung zum Abgreifen von Anmeldedaten, bevor er sich lateral über die interne Infrastruktur ausbreitete. Dies zeigt, dass Identitäten der entscheidende Weg zur Wiederherstellung sind. Wenn Identitäten, privilegierte Konten, sensible Informationen, Tokens und Dienstkonten nicht vertrauenswürdig sind, ist die Wiederherstellung von Servern weitgehend sinnlos. Recovery beginnt mit vertrauenswürdigen Identitäten, nicht mit der Infrastruktur.

4. Steuerungsebene für Recovery muss geschützt sein

Autonome KI-Agenten wollen nicht nur die Produktionssysteme kompromittieren. Sie greifen auch folgende Bereiche an: Backup-Infrastruktur, Recovery-Orchestrierung, Identitätsplattformen, Automatisierungstools, Infrastructure-as-Code, Monitoring-Systeme und Verwaltungskonsolen. Daher müssen Unternehmen die Steuerungsebene für die Wiederherstellung architektonisch von den Produktionsumgebungen trennen.

5. Volumen statt Effizienz beachten

Hugging Face hat bei dem KI-Angriff sich wiederholende Aktionen, ineffiziente Pfade und ungewöhnliche Verhaltensweisen beobachtet, für die sich kein erfahrener menschlicher Angreifer entscheiden würde. Trotzdem war der Angriff erfolgreich. Das zeigt: KI-Attacken müssen nicht effizient oder ausgeklügelt sein. Sie brauchen nur genügend Versuche, um erfolgreiche Kombinationen zu entdecken. Dies erfordert einen grundlegenden Wandel in der Abwehrstrategie hin zur Berücksichtigung eines hohen Angriffsvolumens mit vergleichsweise einfachen Techniken.

6. Digitale Forensik skalieren

Interessant war auch das enorme Volumen an Telemetriedaten, die während der Intrusion erzeugt wurden. Dazu gehören Tausende von Befehlen, Protokolleinträgen und scheinbar irrationalen Entscheidungen. Herkömmliche Untersuchungsmethoden sind dafür schlichtweg nicht skalierbar. So benötigen auch Unternehmen zunehmend KI-Lösungen zur Analyse von Angriffen, die von KI durchgeführt werden, um die Waffengleichheit wiederherzustellen. Die Incident Response wird künftig stark von der automatisierten Erstellung von Zeitachsen, der Rekonstruktion von Angriffsgraphen und der KI-gestützten forensischen Triage abhängen.

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zur IT-Sicherheit

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

7. Angriffe passen sich während des Vorfalls an

Herkömmliche Playbooks gehen von einem relativ statischen Angriffsverhalten aus, um die wahrscheinlichen nächsten Schritte vorherzusagen. Doch autonome Agenten können die Umgebung kontinuierlich bewerten, erfolglose Ansätze aufgeben, neu entdeckte Möglichkeiten ausnutzen und völlig neue Angriffspfade entwickeln. So müssen sich Erkennungsstrategien anstelle des Verhaltens stärker auf das Ziel konzentrieren, zum Beispiel Identitätsmissbrauch, Privilegien-Erweiterung, Zugriff auf Anmeldedaten, Manipulation der Recovery-Infrastruktur oder Störung von Geschäftsdiensten. Diese Bereiche sind stärker zu schützen, da sich die Angriffstechniken ständig verändern.

8. Recovery-Tempo wird zum Wettbewerbsvorteil

Wenn Angriffe mit Maschinen-Geschwindigkeit erfolgen, können Unternehmen nicht mit der Wiederherstellung auf Basis einer Tabellenkalkulation antworten. Sie müssen also nicht mehr nur Backups besitzen, sondern sie auch automatisiert wiederherstellen. Dazu dient das Konzept der Minimum Viable Company (MVC) inklusive Clean Room. MVC ist die minimale Kombination aus Mitarbeitenden, Prozessen, Technologien, Dokumentationen, Einrichtungen und Abhängigkeiten von Drittanbietern, um den Geschäftsbetrieb im Notfall aufrechtzuerhalten. Der Clean Room dient als sicherer, isolierter Speicherort für Daten, Systeme und Anwendungen zur vertrauenswürdigen schnellen Wiederherstellung.

9. Manuelle Abläufe werden zum Risiko

Viele Unternehmen nutzen bei der Recovery nach wie vor manuelle Genehmigungen, CAB-Sitzungen, Wiederherstellungs-Tabellen und undokumentiertes Experten-Wissen. Doch jeder manuelle Prozess verlängert die Wiederherstellungszeit. Jeder unnötige Entscheidungspfad bietet autonomen Angreifern eine zusätzliche Gelegenheit, ihre Aktivitäten fortzusetzen. Cyberresilienz hängt daher zunehmend von eingeübten, automatisierten und vorab genehmigten Wiederherstellungsprozessen ab.

10. Auch Wiederherstellung von Vertrauen nötig

Bei einer schnellen Recovery läuft zwar ein Server wieder. Aber das heißt noch lange nicht, dass er auch vertrauenswürdig und sicher ist, also keine Malware oder Schwachstellen weiterhin enthält. Die Wiederherstellung muss daher zu einem nachweisbaren Vorgang werden. Vertrauen sollte durch validierte Identitäten, Konfigurationsintegrität, Herkunftsnachweis, Verhaltensprüfung und forensische Beweise wiederhergestellt werden.

Fazit

Damit wird klar, dass selbstständige Angriffe durch autonome KI-Agenten einen neuartigen Sicherheitsansatz erfordern. Die Frage für CISOs, CIOs und Vorstände lautet heute: „Kann sich unser Unternehmen innerhalb der festgelegten Ausfalltoleranzen erholen, wenn eine autonome KI kontinuierlich mit Maschinen-Geschwindigkeit gleichzeitig jeden Teil unserer Infrastruktur angreift?“ Dies verdeutlicht auch, dass Unternehmen mit erfolgreichen Angriffen rechnen müssen. So ist neben strengen Schutz- und Abwehrmaßnahmen auch eine automatisierte Wiederherstellung geprüfter und vertrauenswürdige Systeme wichtig. Dies gelingt nur mit isolierten Clean Rooms auf Basis des MVC-Konzepts.

Über den Autor:James Blake, Vice President Global Cyber Resiliency Strategy bei Cohesity.

(ID:51018042)