Ein KI-Agent erkennt eine kritische Schwachstelle, öffnet ein Ticket und bereitet die Gegenmaßnahme vor. Genau dafür wurde er entwickelt. Doch sobald er auf produktive Systeme zugreift, wird aus dem Sicherheitshelfer eine hochprivilegierte Identität. Seine Rechte brauchen deshalb dieselbe Kontrolle wie die eines Administrators.
Wer Angriffe abwehrt, bekommt oft weitreichende Rechte. Ein KI-Agent in der Cyberabwehr bleibt deshalb eine privilegierte Identität und braucht Grenzen und einen Notaus.
(Bild: Gemini / KI-generiert)
Sicherheitsteams setzen zunehmend KI-Agenten ein, um Warnmeldungen zu sortieren, Schwachstellen zu priorisieren oder verdächtige Aktivitäten zu untersuchen. Der Gedanke liegt nahe: Wenn Angriffe automatisierter ablaufen und immer mehr Signale bewertet werden müssen, braucht auch die Verteidigung mehr Geschwindigkeit. Damit verschiebt sich jedoch die Sicherheitslage. Ein Agent, der nur eine Warnung bewertet, bleibt ein Analysewerkzeug. Sobald er ein Ticket eröffnet oder einen Prozess isoliert, greift er in die IT-Umgebung ein. Dafür benötigt er Zugänge zu Cloud-Umgebungen, Ticketsystemen oder Administrationswerkzeugen.
Der KI-Agent wird damit zum Teil der Verteidigung, aber auch zum Teil der Angriffsfläche. Er verarbeitet Informationen aus verschiedenen Quellen, nutzt privilegierte Schnittstellen und kann innerhalb kurzer Zeit Änderungen anstoßen. Seine defensive Aufgabe macht ihn nicht weniger kontrollbedürftig. Im Gegenteil: Gerade weil er zum Schutz eingesetzt wird, erhält er häufig weitreichende Befugnisse.
Defensive KI ist nicht automatisch vertrauenswürdig
Das Risiko liegt nicht darin, dass ein Sicherheitsagent absichtlich falsch handelt. Es entsteht, wenn er auf fehlerhafte, unvollständige oder manipulierte Informationen trifft und darauf mit privilegierten Rechten reagiert. Was bei einem reinen Analysewerkzeug zu einer falschen Einschätzung führt, kann bei einem handlungsfähigen Agenten eine Änderung in der produktiven Umgebung auslösen.
Ein Beispiel: Ein Agent soll eine Schwachstelle entschärfen und erhält Zugriff auf Repository und Ticketsystem. In einem Ticket steht eine manipulierte Anweisung. Sie wirkt wie ein regulärer Arbeitsschritt und wird vom Agenten verarbeitet. Daraufhin bereitet er eine Änderung vor, die über den ursprünglichen Auftrag hinausgeht. Seine Zugangsdaten sind gültig, die Aktion folgt formal einem Workflow. Trotzdem kann sie Schaden anrichten.
Das Problem liegt nicht zwingend im Modell oder in einem fehlenden Login-Schutz. Es entsteht, wenn eine Berechtigung zu weit reicht und in einem neuen Kontext gilt. Besonders kritisch wird es, wenn Agenten produktive Änderungen ausführen oder Zugangsdaten ändern dürfen. Die Sicherheitskontrolle darf deshalb nicht allein prüfen, wer Zugang erhält. Sie muss auch begrenzen, was ein Agent mit diesem Zugang tun darf. Sonst wird aus der KI, die auf Angriffe reagieren soll, ein zusätzlicher Weg in kritische Systeme.
Klassische Zugriffskontrollen treffen ihre wichtigste Entscheidung beim Login. Nach der Anmeldung bleibt eine Berechtigung oft für eine feste Zeit bestehen. Für menschliche Administratoren kann das mit zusätzlichen Kontrollen funktionieren. Agenten arbeiten jedoch mit hoher Geschwindigkeit und erreichen in kurzer Zeit viele Systeme. Eine Berechtigung, die beim Start einer Sitzung sinnvoll war, kann Minuten später unangemessen sein. Etwa weil sich der Risikozustand geändert hat, neue Informationen auftauchen oder der Agent einen Bereich verlässt, der vom ursprünglichen Auftrag gedeckt war.
Gerade weil der Agent Teil der Abwehr ist, darf seine Berechtigung nicht zur Blankovollmacht werden. Er braucht Zugriff für einen klar definierten Auftrag, nicht dauerhaft für eine ganze Umgebung. Soll er eine Schwachstelle beheben, darf er nur auf die dafür notwendige Ressource zugreifen. Nach Abschluss des Auftrags muss diese Berechtigung enden. Sie darf ihm nicht automatisch erlauben, angrenzende Produktionssysteme umzubauen oder neue Identitäten anzulegen.
Stand: 08.12.2025
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.
Einwilligung in die Verwendung von Daten zu Werbezwecken
Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von Newslettern und Werbung nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.
Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.
Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.
Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden. Dies gilt nicht für den Datenabgleich zu Marketingzwecken.
Recht auf Widerruf
Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://contact.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung.
Bei jeder privilegierten Aktion zählt der Zusammenhang: Wofür wurde der Zugang erteilt, welches System ist betroffen und passt die angeforderte Handlung noch zum Auftrag? Auch die Herkunft einer Anweisung spielt eine Rolle. Je größer die mögliche Auswirkung, desto enger müssen Berechtigung und Freigabe ausfallen.
Dauerhafte privilegierte Zugänge bleiben auch dann bestehen, wenn kein legitimer Auftrag vorliegt. Wird ein Agent fehlgeleitet, steht diese Reichweite unmittelbar zur Verfügung. Sinnvoller sind kurzlebige, aufgabengebundene Berechtigungen. Der Agent erhält nur für die Dauer eines Arbeitsschritts Zugriff auf eine definierte Ressource. Danach wird die Berechtigung automatisch entzogen. Bei kritischen Aktionen wird erneut geprüft, ob Auftrag und Rahmenbedingungen noch gültig sind.
Das bedeutet nicht, jede Routinehandlung manuell freizugeben. Ein Agent kann Informationen zusammentragen, Warnmeldungen anreichern oder Patch-Vorschläge erstellen. Soll er jedoch sensible Daten abrufen oder Berechtigungen vergeben, braucht es zusätzliche Bedingungen oder eine menschliche Entscheidung.
So bleibt Automatisierung dort schnell, wo sie sinnvoll ist. Und sie wird dort gebremst, wo die Folgen eines Fehlers zu groß wären.
Sichtbarkeit muss entstehen, bevor etwas schiefläuft
Ein Protokoll beantwortet viele Fragen erst nach einem Vorfall. Bei Agenten mit Zugriff auf produktive Systeme reicht das nicht. Sicherheitsteams müssen schon während der Ausführung erkennen können, ob der eigene Verteidigungsagent noch innerhalb seines vorgesehenen Rahmens handelt oder gerade selbst ein neues Risiko erzeugt. Entscheidend ist, eine privilegierte Aktion einem konkreten Auftrag zuordnen zu können und dem Kontext, in dem sie entstanden ist.
Unternehmen müssen außerdem Sitzungen unterbrechen und Berechtigungen unmittelbar entziehen können. Auffällig kann etwa sein, wenn ein Agent in ein anderes Netzwerksegment wechselt, auf besonders schützenswerte Daten zugreift oder neue Rechte vergeben will. Dann muss ein Stopp möglich sein, bevor aus einer Anomalie ein Sicherheitsvorfall wird.
Vor dem produktiven Einsatz sollten Verantwortliche daher vier Punkte festlegen:
1. Welche Aktionen darf der Agent ausführen, und welche bleiben Menschen vorbehalten?
2. Welche Identität nutzt er und wer trägt die Verantwortung?
3. Welche Rechte gelten nur für die Dauer eines Auftrags, und wann werden sie entzogen?
4. Welche Signale führen zu einer erneuten Prüfung, Eskalation oder einem sofortigen Stopp?
Diese Entscheidungen gehören in Architektur, Betrieb und Incident Response. Ein Inventar der eingesetzten Agenten ist ein Anfang, reicht aber nicht aus. Mit jeder neuen Fähigkeit kann auch die Reichweite einer Agentenidentität wachsen. Kritische Ressourcen brauchen daher eigene Schutzgrenzen. Wer auf einen Schlüssel, ein Repository oder ein Administrationswerkzeug zugreifen will, muss für genau diese Aktion autorisiert sein, unabhängig davon, ob der Zugriff von einem Mitarbeiter oder KI-Agenten ausgeht.
KI-Agenten können Sicherheitsteams helfen, die Geschwindigkeit moderner Angriffe zu beantworten. Sie können Warnungen verdichten, wiederkehrende Arbeit übernehmen und Reaktionen vorbereiten. Ihr Nutzen entsteht jedoch nicht durch weitreichende Zugriffe, sondern durch klar begrenzte Handlungsräume.
Wer KI zur Verteidigung einsetzt, sollte sie nicht wie einen vertrauenswürdigen Sonderfall behandeln. Ein Sicherheitsagent bleibt eine privilegierte nicht-menschliche Identität. Er braucht eine eindeutige Aufgabe, zeitlich begrenzte Rechte und eine Kontrolle, die eingreifen kann, bevor aus einer fehlerhaften Empfehlung eine folgenschwere Änderung wird. So bleibt der Agent ein Werkzeug der Cyberabwehr, statt selbst zu einem neuen Einfallstor zu werden.
Über den Autor: Andreas Müller ist Sales Director Central Europe bei Delinea.