Störfälle mit autonomen Systemen Das Ende der Präventions-Illusion im Agentic-AI-Einsatz

Anbieter zum Thema

Rubrik Europe

cidaas by Widas ID GmbH

FAST LTA GmbH

KI-Agenten rücken von Pilotprojekten in den produktiven Betrieb vor. Häufig treten dabei störende Vorfälle auf, doch die Transparenz darüber bleibt oft gering. Cybersicherheit muss deshalb stärker von Wiederherstellung und Steuerbarkeit her gedacht werden.

Agentic AI steht für Systeme, die Aufgaben planen und ausführen, statt nur Vorschläge zu liefern. In der Praxis heißt das, dass Agenten Tools auswählen, APIs aufrufen, Daten und Konfigurationen verändern und mit eigenen Identitäten oder delegierten Berechtigungen agieren. Je tiefer diese Autonomie in Kernprozesse integriert ist, desto kleiner wird der Spielraum für menschliche Kontrolle in Echtzeit.

Report von Ivanti

Wachsendes Vertrauen in Agentic AI

Der „nicht menschliche Fehler“ wird zum Regelfall

Das Bewusstsein für das Risiko ist bei Führungskräften und IT-Abteilungen vorhanden, doch der Wettbewerbsdruck überwiegt. Daher werden oft Agenten eingeführt und in Produktivumgebungen genutzt, die nicht in der bestehenden Kontroll- und Sicherheits-Infrastruktur abgebildet sind. Eine aktuelle, globale Studie von Economist Enterprise im Auftrag von Rubrik „Macht ohne Kontrolle: Cybersicherheit im Zeitalter agentenbasierter KI neu denken“ zeigt: 90 Prozent der befragten Entscheidungsträger, die KI-Agenten einsetzen, führen Agenten schneller ein, als Security Teams diese evaluieren und verwalten können. Das ist ein Risiko, das viele Unternehmen bereit sind einzugehen: 88 Prozent der Befragten sind der Ansicht, dass Agenten grundlegend neue Gefährdungen mit sich bringen, für deren Management die bestehenden Kontrollmechanismen nicht ausgelegt sind.

So verwundert es kaum, dass 98 Prozent der Befragten mindestens einen störenden, agentenbezogenen Vorfall zugaben und neun von zehn Befragten weitere Vorfälle erwarten, unabhängig von bestehenden Schutzmaßnahmen. Agentic AI führt damit eine neue Fehlerklasse ein. Störungen entstehen nicht nur durch Angriffe oder Fehlbedienung, sondern auch durch autonome Fehlhandlungen, inklusive falscher Tool-Nutzung, unpassender Abkürzungen in mehrstufigen Aufgaben oder riskanter Aktionen mit produktiven Daten. Störungen sind kein Risiko mehr, das es zu verhindern, sondern eine Realität, die es zu managen gilt.

Wenn Vorfälle mit fehlerhaften KI-Agenten auftreten, reichen die Folgen weit über die IT hinaus – von technischen Fehlfunktionen über rechtliche Probleme bis hin zur Löschung ganzer Produktionsdatenbanken. Besonders häufig genannt werden regulatorische Bußgelder, Unterbrechungen in Lieferketten, Umsatzeinbußen durch Geschäftsunterbrechungen und Reputationsschäden. Agentenbezogene Störfälle sind damit ein Geschäftsrisiko mit unkalkulierbarer Dimension.

Warum Software-Schutz für KI-Agenten nicht ausreicht

Bei Agentic AI wiederholt die IT-Branche alte Fehler

Transparenzlücke und Illusion des Vorbereitet-Seins

Der kritischste Engpass liegt in der Nachvollziehbarkeit. Zwei Drittel der befragten Unternehmen haben keinen vollständigen Überblick darüber, was ihre Agenten tatsächlich tun. Ohne diese Sicht wird Incident Response zum Ratespiel, weil Handlungsketten, Identitäten, Datenzugriffe und ausgelöste Folgeaktionen nicht konsistent rekonstruiert werden können.

Gleichzeitig entsteht ein trügerisches Bild des Vorbereitet-Seins. 95 Prozent der befragten Unternehmen geben Vorgaben zur Wiederherstellungszeit an, doch fast die Hälfte davon ist informell oder vage. Dies vermittelt ein falsches Gefühl der Bereitschaft, wenn Vorfälle tatsächlich auftreten. Denn nur 30 Prozent verfügen über robuste, gründlich getestete Fähigkeiten, um schädliche Agentenaktionen einzudämmen, rückgängig zu machen und sich davon zu erholen. 43 Prozent berichten, dass ihre Wiederherstellungsprozesse nicht alle Agenten oder Vorfalltypen abdecken.

Das Problem reicht bis in die Führungsetage. Die Economist-Studie bestätigt: Nur jedes vierte Unternehmen informiert die Geschäftsleitung regelmäßig über die Leistung der Cyber-Wiederherstellung. So muss diese weitreichende Entscheidungen über KI-Investitionen treffen, ohne zu wissen, ob das Unternehmen im Ernstfall tatsächlich wiederherstellen kann.

Fehlannahmen zur Cybersicherheit

Cohesity-Studie deckt Sicherheitsmythen auf

Resilienz und „Rewind“ ergänzen Prävention

Trotz der Vorfallhäufigkeit fließt weiterhin der größere Teil des Sicherheitsbudgets in Prävention statt in Reaktion und Wiederherstellung, aktuell 55 Prozent zu 45 Prozent, so die Studie. Führungskräfte rechnen damit, dass dieses Ungleichgewicht bis 2030 bestehen bleibt. Investitionen halten nicht Schritt mit agentischen Systemen, sondern deren Autonomie erhöht die Zahl möglicher Fehlpfade schneller, als sie sich vollständig vorab absichern lässt. Wiederherstellung wird damit zum zentralen Hebel, um Auswirkungen einzudämmen und Restunsicherheit operativ zu begrenzen.

Unternehmen, die im Zeitalter von Agenten ihre Resilienz ausbauen wollen, müssen folgende Fähigkeiten sicherstellen: Zum einen die vollständige Beobachtbarkeit, also eine durchgängige Sicht auf Identitäten, Datenzugriffe, Tool-Aufrufe und ausgelöste Änderungen über alle relevanten Systeme hinweg. Darüber hinaus eine schnelle Reaktion und Wiederherstellung, denn Maschinengeschwindigkeit verkleinert das Eindämmungsfenster drastisch. Belastbare Rollback-Pfade und klar definierte Minimalbetriebszustände entscheiden über die Schadenshöhe. Als letztes sind regelmäßige Tests und Validierung wichtig. Von der Definition minimaler Geschäftskonfigurationen bis zum Restore-Drill muss die Reaktionsfähigkeit wiederholt und unter realistischen Bedingungen geprüft werden.

Für agentische Fehlhandlungen gewinnen Ansätze an Bedeutung, die Aktionen nicht nur protokollieren, sondern gezielt zuvor schwer nachvollziehbare KI-Aktionen sichtbar, überprüfbar und reversibel machen. Dazu wird ein Prüfprotokoll mit unveränderlichen Momentaufnahmen aufgebaut, auf dessen Basis ein sicheres Zurücksetzen erfolgen kann. Viele Observability Werkzeuge zeigen zwar, was passiert ist, lassen aber offen, warum es dazu kam und wie sich risikoreiche Aktionen technisch sauber rückabwickeln lassen. Laut Studie verfügen nur 30 Prozent der Unternehmen über robuste, getestete Fähigkeiten, um schädliche Agentenaktionen rückgängig zu machen.

Mensch und Maschine im Gleichgewicht

Warum Agentic AI ohne menschliche Kompetenz keine Sicherheit bietet

Fazit und Ausblick

Der Einsatz von Agentic AI verschiebt heute die Sicherheitsfrage von der reinen Abwehr hin zur Steuerbarkeit im Störfall. Vorfälle mit KI-Agenten treten heute bereits flächendeckend auf, während Transparenz, getestete Rollbacks und Management-Reporting häufig nicht auf dem gleichen Reifegrad sind. Dadurch entsteht ein Resilienzdefizit, das sich direkt in Geschäftsrisiken übersetzt.

In den kommenden Jahren werden Agenten noch tiefer in Kernprozesse integriert werden, während Regulatorik und Audit-Anforderungen den Anspruch an Nachvollziehbarkeit weiter verschärfen. Erfolgskritisch wird sein, ob Unternehmen Observability, Wiederherstellung und Fähigkeiten, um schädliche Agentenaktionen rückgängig zu machen, als Betriebsstandard etablieren und entsprechend priorisieren. Dort, wo diese Grundlagen früh verankert sind, lässt sich Agentic AI kontrollierter in produktive Wertschöpfung überführen, ohne dass einzelne Fehlhandlungen zu Kaskaden werden.

Über die Autorin: Kavitha Mariappan ist Chief Transformation Officer bei Rubrik. Sie verantwortet die Rubrik-Initiativen zur Beschleunigung von Transformationsprozessen in Unternehmen und intensiviert den Austausch mit Führungskräften. Zuvor war sie als EVP Customer Experience & Transformation bei Zscaler tätig.

Deutsche CISOs trauen der eigenen KI-Sichtbarkeit nicht

Warum Skepsis bei KI-Identitäten zum Sicherheitsvorteil wird

(ID:50992296)