KI-Agenten greifen auf interne Daten zu, verarbeiten externe Inhalte und lösen eigenständig Aktionen aus. Diese Kombination macht ein einzelnes manipuliertes Dokument zum Angriffswerkzeug.
Ein präpariertes Dokument kann einen KI-Agenten manipulieren, da dieser eingebettete Befehle als echte Anweisungen ausführen könnte.
(Bild: KI-generiert)
Eine aktuelle Bewertung von 100 produktiven Agenten zeigt, dass fast alle KI-Agenten drei Fähigkeiten gleichzeitig mitbringen: das Zugreifen auf interne Daten, das Verarbeiten externer Daten und das eigenständige Auslösen von Aktionen. Warum diese Kombination so gefährlich ist, zeigt ein Vergleich außerhalb der IT mit dem Feuerdreieck. Ein Feuer braucht drei Elemente: Hitze, Brennstoff und Sauerstoff. Fehlt eines davon, brennt nichts. Jedes Element für sich ist harmlos. Erst wenn alle drei Seiten des Dreiecks zusammenkommen, entsteht Feuer.
KI-Agenten in Unternehmen bilden ein eigenes Dreieck, das in seiner Gesamtheit eine Situation schafft, in der ein einziges manipuliertes Dokument dazu genutzt werden kann, unbefugte Kontrolle über Systeme und Daten auszuüben. Erstens greifen die Agenten auf interne Daten zu. Zweitens verarbeiten sie Inhalte, die von außen stammen und deren Herkunft niemand überprüft hat. Und schließlich können sie nach außen kommunizieren und Daten an andere Orte senden. Der Entwickler Simon Willison bezeichnete diese Kombination in einem Blogbeitrag vom Juni 2025 als „Lethal Trifecta“. Jede dieser drei Fähigkeiten bleibt einzeln beherrschbar, aber alle drei zusammen ergeben ein System, das sich mit einem einzigen präparierten Dokument fernsteuern lässt.
Dabei muss der Agent nicht einmal kompromittiert werden. Er muss nur tun, wofür er gebaut wurde, mit den falschen Eingaben. Und diese Eingaben können über Befehle eingeschleust werden, die in ein einfaches Dokument oder eine Datei eingebettet sind.
Die Angriffsklasse ist nicht neu. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) stuft indirekte Prompt Injection bereits seit 2023 als intrinsische Schwachstelle anwendungsintegrierter Sprachmodelle ein. Neu ist, wie viele produktive Agenten diese Lücke heute offen lassen.
Der Sicherheitsanbieter Adversa AI hat das mit dem AI Risk Quadrant (AIRQ) im Juni 2026 erstmals in Zahlen gefasst. Die Anbieterstudie umfasst 100 produktiv eingesetzte Agenten aus zehn Kategorien, Beitragende kommen unter anderem aus OWASP, NIST und der Cloud Security Alliance. In 98 Prozent der untersuchten Agenten liegen alle drei Fähigkeiten (Zugriff auf interne Daten, Verarbeitung von ungeprüften externen Inhalten und Kommunikation nach außen) gleichzeitig vor.
Nur elf Prozent der untersuchten Agenten gelten als leistungsfähig und zugleich belastbar verteidigt. Die übrigen 89 Prozent verfügen zwar über gewisse Schutzmaßnahmen, weisen jedoch eine Angriffsfläche auf, die über den Schutzumfang dieser Maßnahmen hinausgeht. Bewertet wurde anhand von Angriffsfläche, potenziellem Schaden und Verteidigungskontrollen. Am schlechtesten schneiden Coding- und Computer-Use-Agenten ab, in allen drei Dimensionen. Also ausgerechnet die Typen, die derzeit am schnellsten ausgerollt werden.
Hierbei ist jedoch eine Einschränkung zu beachten. Laut dem AIRQ-Bericht lassen sich 83 Prozent der von den Anbietern angegebenen Schutzmaßnahmen nicht unabhängig verifizieren. Die Zahl von elf Prozent misst daher auch die Transparenz und nicht allein die Sicherheit.
Richtlinien ersetzen keine technische Durchsetzung
Viele Sicherheitsteams reagieren auf solche Befunde mit Governance. Sie veröffentlichen eine KI-Nutzungsrichtlinie, schreiben Security-Reviews vor und binden Agenten in die Beschaffung ein. Das ist der richtige Ansatz, aber ohne technische Umsetzung ist er sinnlos.
Ein Agent mit Datenzugriff und ausgehenden Aktionen ist architektonisch exponiert, und keine Richtlinie kann daran etwas ändern. Eine Regel, die Datenabfluss verbietet, wirkt nicht in dem Moment, in dem der Agent eine manipulierte Anweisung verarbeitet. Den Zugang zu einem Agenten abzusichern, ist etwas anderes als abzusichern, was der Agent tut.
Hinzu kommt ein Effekt, dem Sicherheitsteams aktuell begegnen, der aber in keiner Momentaufnahme erfasst wird: Berechtigungen wachsen. Ein Agent erbt Rechte aus einem Dienstkonto, eine Integration bringt eine weitere Datenquelle mit, ein Tool kommt hinzu, weil es Arbeit spart. Diese schrittweise Ausweitung führt zu einem Phänomen, das als „authority drift“ bekannt geworden ist. Eine erneute Bewertung löst sie fast nie aus, aber wer zu breit provisioniert und danach nicht mehr prüft, baut ein Risiko auf, das täglich wächst.
Bevor Kontrollen greifen, müssen Unternehmen umfassende Transparenz erlangen. Hier liegen die meisten Organisationen im Rückstand, was sich am Vormarsch der „Schatten-KI“ deutlich zeigt.
Stand: 08.12.2025
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.
Einwilligung in die Verwendung von Daten zu Werbezwecken
Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von Newslettern und Werbung nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.
Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.
Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.
Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden. Dies gilt nicht für den Datenabgleich zu Marketingzwecken.
Recht auf Widerruf
Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://contact.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung.
Der Begriff ist dem Konzept der „Shadow-IT“ entlehnt, bei dem Mitarbeiter ihre eigenen Geräte mitbringen und diese mit den Ressourcen des Unternehmens verbinden, was zu diversen Sicherheitsproblemen führt. „Shadow-AI“ bezeichnet dasselbe Phänomen bei KI-Tools und -Agenten, die außerhalb formeller Überprüfungsprozesse betrieben werden.
Ein Entwickler kann einen Agenten mit einem persönlichen API-Schlüssel einrichten, oder ein Geschäftsbereich verbindet einen KI-Workflow direkt mit einer SaaS-Anwendung. Die IT erfährt davon nichts. So entsteht ein blinder Fleck, den klassische Governance nicht erfasst. AIRQ spricht von einer Einführung von unten, die den Beschaffungsprozess umgeht.
Ein belastbares Inventar lässt sich aus mehreren Quellen aufbauen. Der Identity Provider zeigt, welche technischen Konten existieren. API-Gateways und Proxy-Protokolle geben Aufschluss darüber, welche Modellendpunkte tatsächlich angesprochen werden. Abrechnungsdaten von Modellanbietern verraten Projekte, die niemand angemeldet hat. Keine Quelle allein ist ausreichend, aber zusammen ergeben sie einen soliden Überblick über potenzielle Risiken.
Für Agenten, die bekannt sind und einen Review durchlaufen haben, verweist AIRQ zuerst auf die Architektur. Der stärkste Einzelbefund des Berichts lautet: Ob ein Agent Tools ausführt und ob diese Ausführung isoliert ist, erklärt allein rund drei Viertel des potenziellen Schadens.
Daraus folgen drei konkrete Schritte für IT-Sicherheitsteams:
1. Coding-Agenten gehören in eine Isolationsschicht auf Betriebssystemebene. Der Bericht nennt dafür etablierte Mechanismen wie Bubblewrap, nsjail oder Seatbelt. Lokale Ausführung ohne Sandbox überschreitet nach AIRQ typische Risikoschwellen im Unternehmen.
2. Kritische Aktionen brauchen eine menschliche Freigabe. BSI und ANSSI empfehlen das ausdrücklich in ihren gemeinsamen Designprinzipien für LLM-basierte Systeme. Beide Behörden raten von einem vollständig autonomen Betrieb ohne menschliche Kontrolle ab.
3. Zugriffsrechte gehören auf das Minimum. Ein Agent sollte nur die Daten sehen, die seine Aufgabe erfordert. Da es einfacher ist, wird in der Praxis zunächst breit provisioniert und später nicht mehr hinterfragt.
Dasselbe Zero-Trust-Prinzip, das für menschliche Nutzer gilt, muss auch für Agenten gelten. Sie gehören als vollwertige Identitäten in die Sicherheitsarchitektur, mit eigenen Berechtigungen, eigener Protokollierung und wiederkehrender Rezertifizierung.
Ein Teil dieses Fachgebiets ist die Governance ausgehender Datenströme. Sendet ein Agent Daten an eine externe Schnittstelle, ein Kommunikations-Tool oder einen Cloud-Speicher, sollte diese Bewegung denselben Prüfungen unterliegen wie jede andere ausgehende Übertragung. Netzwerkseitig agiert ein manipulierter Agent genauso wie ein Mensch. Wo die Prüfung ansetzt, bleibt eine Architekturentscheidung. Sie kann im Agent-Framework, am Outbound-Übergabepunkt oder in der Anwendung eingesetzt werden und ergänzt die Isolation, anstatt sie zu ersetzen.
Zurück zum Branddreieck. Zu den bewährten Praktiken im Brandschutz gehört es, gezielt ein Element zu entfernen, wenn die beiden anderen nicht beseitigt werden können, beispielsweise den Brennstoff in einer Umgebung, in der sowohl Sauerstoff als auch Wärme vorhanden sind. Den Datenzugriff braucht der Agent, sonst ist er nutzlos und externe Inhalte lassen sich selten vollständig fernhalten. Bleibt die dritte Seite und damit die Frage, was ein Agent nach außen auslösen darf und wie eng das begrenzt ist.
Eine sinnvolle Übung für Unternehmen besteht darin, dieses Konzept auf ihre fünf wichtigsten Agenten anzuwenden und die Risiken in drei Spalten einzuteilen. Auf welche Datenquellen hat der Agent Zugriff? Welche externen Inhalte erreichen ihn? Welche Aktionen kann er ohne Rückfrage auslösen? Überall dort, wo alle drei Spalten ausgefüllt sind, ist das Dreieck vollständig, und es müssen Maßnahmen ergriffen werden.
Über den Autor: Mathias Widler verantwortet als Vice President Central & Eastern Europe das Geschäft von Netskope in Zentral- und Osteuropa. Er verfügt über mehr als zwei Jahrzehnte Erfahrung im Sicherheits- und Netzwerkumfeld. Zuvor war er über sieben Jahre als Managing Director Zentraleuropa bei Zscaler tätig, danach in Führungsrollen bei Palo Alto Networks und Deepinstinct.