Der Verteidiger als Angriffsfläche KI-Agenten brauchen Rechte auf Zeit

Ein Gastbeitrag von Andreas Müller 5 min Lesedauer

Anbieter zum Thema

Ein KI-Agent erkennt eine kritische Schwachstelle, öffnet ein Ticket und bereitet die Gegenmaßnahme vor. Genau dafür wurde er entwickelt. Doch sobald er auf produktive Systeme zugreift, wird aus dem Sicherheitshelfer eine hochprivilegierte Identität. Seine Rechte brauchen deshalb dieselbe Kontrolle wie die eines Administrators.

Wer Angriffe abwehrt, bekommt oft weitreichende Rechte. Ein KI-Agent in der Cyberabwehr bleibt deshalb eine privilegierte Identität und braucht Grenzen und einen Notaus.(Bild:  Gemini / KI-generiert)
Wer Angriffe abwehrt, bekommt oft weitreichende Rechte. Ein KI-Agent in der Cyberabwehr bleibt deshalb eine privilegierte Identität und braucht Grenzen und einen Notaus.
(Bild: Gemini / KI-generiert)

Sicherheitsteams setzen zunehmend KI-Agenten ein, um Warnmeldungen zu sortieren, Schwachstellen zu priorisieren oder verdächtige Aktivitäten zu untersuchen. Der Gedanke liegt nahe: Wenn Angriffe automatisierter ablaufen und immer mehr Signale bewertet werden müssen, braucht auch die Verteidigung mehr Geschwindigkeit. Damit verschiebt sich jedoch die Sicherheitslage. Ein Agent, der nur eine Warnung bewertet, bleibt ein Analysewerkzeug. Sobald er ein Ticket eröffnet oder einen Prozess isoliert, greift er in die IT-Umgebung ein. Dafür benötigt er Zugänge zu Cloud-Umgebungen, Ticketsystemen oder Administrationswerkzeugen.

Der KI-Agent wird damit zum Teil der Verteidigung, aber auch zum Teil der Angriffsfläche. Er verarbeitet Informationen aus verschiedenen Quellen, nutzt privilegierte Schnittstellen und kann innerhalb kurzer Zeit Änderungen anstoßen. Seine defensive Aufgabe macht ihn nicht weniger kontrollbedürftig. Im Gegenteil: Gerade weil er zum Schutz eingesetzt wird, erhält er häufig weitreichende Befugnisse.

Defensive KI ist nicht automatisch vertrauenswürdig

Das Risiko liegt nicht darin, dass ein Sicherheitsagent absichtlich falsch handelt. Es entsteht, wenn er auf fehlerhafte, unvollständige oder manipulierte Informationen trifft und darauf mit privilegierten Rechten reagiert. Was bei einem reinen Analysewerkzeug zu einer falschen Einschätzung führt, kann bei einem handlungsfähigen Agenten eine Änderung in der produktiven Umgebung auslösen.

Ein Beispiel: Ein Agent soll eine Schwachstelle entschärfen und erhält Zugriff auf Repository und Ticketsystem. In einem Ticket steht eine manipulierte Anweisung. Sie wirkt wie ein regulärer Arbeitsschritt und wird vom Agenten verarbeitet. Daraufhin bereitet er eine Änderung vor, die über den ursprünglichen Auftrag hinausgeht. Seine Zugangsdaten sind gültig, die Aktion folgt formal einem Workflow. Trotzdem kann sie Schaden anrichten.

Das Problem liegt nicht zwingend im Modell oder in einem fehlenden Login-Schutz. Es entsteht, wenn eine Berechtigung zu weit reicht und in einem neuen Kontext gilt. Besonders kritisch wird es, wenn Agenten produktive Änderungen ausführen oder Zugangsdaten ändern dürfen. Die Sicherheitskontrolle darf deshalb nicht allein prüfen, wer Zugang erhält. Sie muss auch begrenzen, was ein Agent mit diesem Zugang tun darf. Sonst wird aus der KI, die auf Angriffe reagieren soll, ein zusätzlicher Weg in kritische Systeme.

Eine Rolle ist keine Freigabe für alles

Klassische Zugriffskontrollen treffen ihre wichtigste Entscheidung beim Login. Nach der Anmeldung bleibt eine Berechtigung oft für eine feste Zeit bestehen. Für menschliche Administratoren kann das mit zusätzlichen Kontrollen funktionieren. Agenten arbeiten jedoch mit hoher Geschwindigkeit und erreichen in kurzer Zeit viele Systeme. Eine Berechtigung, die beim Start einer Sitzung sinnvoll war, kann Minuten später unangemessen sein. Etwa weil sich der Risikozustand geändert hat, neue Informationen auftauchen oder der Agent einen Bereich verlässt, der vom ursprünglichen Auftrag gedeckt war.

Gerade weil der Agent Teil der Abwehr ist, darf seine Berechtigung nicht zur Blankovollmacht werden. Er braucht Zugriff für einen klar definierten Auftrag, nicht dauerhaft für eine ganze Umgebung. Soll er eine Schwachstelle beheben, darf er nur auf die dafür notwendige Ressource zugreifen. Nach Abschluss des Auftrags muss diese Berechtigung enden. Sie darf ihm nicht automatisch erlauben, angrenzende Produktionssysteme umzubauen oder neue Identitäten anzulegen.

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zur IT-Sicherheit

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Bei jeder privilegierten Aktion zählt der Zusammenhang: Wofür wurde der Zugang erteilt, welches System ist betroffen und passt die angeforderte Handlung noch zum Auftrag? Auch die Herkunft einer Anweisung spielt eine Rolle. Je größer die mögliche Auswirkung, desto enger müssen Berechtigung und Freigabe ausfallen.

Kurzlebige Rechte statt dauerhafter Reichweite

Dauerhafte privilegierte Zugänge bleiben auch dann bestehen, wenn kein legitimer Auftrag vorliegt. Wird ein Agent fehlgeleitet, steht diese Reichweite unmittelbar zur Verfügung. Sinnvoller sind kurzlebige, aufgabengebundene Berechtigungen. Der Agent erhält nur für die Dauer eines Arbeitsschritts Zugriff auf eine definierte Ressource. Danach wird die Berechtigung automatisch entzogen. Bei kritischen Aktionen wird erneut geprüft, ob Auftrag und Rahmenbedingungen noch gültig sind.

Das bedeutet nicht, jede Routinehandlung manuell freizugeben. Ein Agent kann Informationen zusammentragen, Warnmeldungen anreichern oder Patch-Vorschläge erstellen. Soll er jedoch sensible Daten abrufen oder Berechtigungen vergeben, braucht es zusätzliche Bedingungen oder eine menschliche Entscheidung.

So bleibt Automatisierung dort schnell, wo sie sinnvoll ist. Und sie wird dort gebremst, wo die Folgen eines Fehlers zu groß wären.

Sichtbarkeit muss entstehen, bevor etwas schiefläuft

Ein Protokoll beantwortet viele Fragen erst nach einem Vorfall. Bei Agenten mit Zugriff auf produktive Systeme reicht das nicht. Sicherheitsteams müssen schon während der Ausführung erkennen können, ob der eigene Verteidigungsagent noch innerhalb seines vorgesehenen Rahmens handelt oder gerade selbst ein neues Risiko erzeugt. Entscheidend ist, eine privilegierte Aktion einem konkreten Auftrag zuordnen zu können und dem Kontext, in dem sie entstanden ist.

Unternehmen müssen außerdem Sitzungen unterbrechen und Berechtigungen unmittelbar entziehen können. Auffällig kann etwa sein, wenn ein Agent in ein anderes Netzwerksegment wechselt, auf besonders schützenswerte Daten zugreift oder neue Rechte vergeben will. Dann muss ein Stopp möglich sein, bevor aus einer Anomalie ein Sicherheitsvorfall wird.

Vor dem produktiven Einsatz sollten Verantwortliche daher vier Punkte festlegen:

  • 1. Welche Aktionen darf der Agent ausführen, und welche bleiben Menschen vorbehalten?
  • 2. Welche Identität nutzt er und wer trägt die Verantwortung?
  • 3. Welche Rechte gelten nur für die Dauer eines Auftrags, und wann werden sie entzogen?
  • 4. Welche Signale führen zu einer erneuten Prüfung, Eskalation oder einem sofortigen Stopp?

Diese Entscheidungen gehören in Architektur, Betrieb und Incident Response. Ein Inventar der eingesetzten Agenten ist ein Anfang, reicht aber nicht aus. Mit jeder neuen Fähigkeit kann auch die Reichweite einer Agentenidentität wachsen. Kritische Ressourcen brauchen daher eigene Schutzgrenzen. Wer auf einen Schlüssel, ein Repository oder ein Administrationswerkzeug zugreifen will, muss für genau diese Aktion autorisiert sein, unabhängig davon, ob der Zugriff von einem Mitarbeiter oder KI-Agenten ausgeht.

Verteidigung braucht eigene Leitplanken

KI-Agenten können Sicherheitsteams helfen, die Geschwindigkeit moderner Angriffe zu beantworten. Sie können Warnungen verdichten, wiederkehrende Arbeit übernehmen und Reaktionen vorbereiten. Ihr Nutzen entsteht jedoch nicht durch weitreichende Zugriffe, sondern durch klar begrenzte Handlungsräume.

Wer KI zur Verteidigung einsetzt, sollte sie nicht wie einen vertrauenswürdigen Sonderfall behandeln. Ein Sicherheitsagent bleibt eine privilegierte nicht-menschliche Identität. Er braucht eine eindeutige Aufgabe, zeitlich begrenzte Rechte und eine Kontrolle, die eingreifen kann, bevor aus einer fehlerhaften Empfehlung eine folgenschwere Änderung wird. So bleibt der Agent ein Werkzeug der Cyberabwehr, statt selbst zu einem neuen Einfallstor zu werden.

Über den Autor: Andreas Müller ist Sales Director Central Europe bei Delinea.

(ID:51017703)