KI-Agenten im Unternehmenseinsatz Wenn ein Dokument den Agenten kapert

Ein Gastbeitrag von Mathias Widler 6 min Lesedauer

Anbieter zum Thema

KI-Agenten greifen auf interne Daten zu, verarbeiten externe Inhalte und lösen eigenständig Aktionen aus. Diese Kombination macht ein einzelnes manipuliertes Dokument zum Angriffswerkzeug.

Ein präpariertes Dokument kann einen KI-Agenten manipulieren, da dieser eingebettete Befehle als echte Anweisungen ausführen könnte.(Bild:  KI-generiert)
Ein präpariertes Dokument kann einen KI-Agenten manipulieren, da dieser eingebettete Befehle als echte Anweisungen ausführen könnte.
(Bild: KI-generiert)

Eine aktuelle Bewertung von 100 produktiven Agenten zeigt, dass fast alle KI-Agenten drei Fähigkeiten gleichzeitig mitbringen: das Zugreifen auf interne Daten, das Verarbeiten externer Daten und das eigenständige Auslösen von Aktionen. Warum diese Kombination so gefährlich ist, zeigt ein Vergleich außerhalb der IT mit dem Feuerdreieck. Ein Feuer braucht drei Elemente: Hitze, Brennstoff und Sauerstoff. Fehlt eines davon, brennt nichts. Jedes Element für sich ist harmlos. Erst wenn alle drei Seiten des Dreiecks zusammenkommen, entsteht Feuer.

KI-Agenten in Unternehmen bilden ein eigenes Dreieck, das in seiner Gesamtheit eine Situation schafft, in der ein einziges manipuliertes Dokument dazu genutzt werden kann, unbefugte Kontrolle über Systeme und Daten auszuüben. Erstens greifen die Agenten auf interne Daten zu. Zweitens verarbeiten sie Inhalte, die von außen stammen und deren Herkunft niemand überprüft hat. Und schließlich können sie nach außen kommunizieren und Daten an andere Orte senden. Der Entwickler Simon Willison bezeichnete diese Kombination in einem Blogbeitrag vom Juni 2025 als „Lethal Trifecta“. Jede dieser drei Fähigkeiten bleibt einzeln beherrschbar, aber alle drei zusammen ergeben ein System, das sich mit einem einzigen präparierten Dokument fernsteuern lässt.

Dabei muss der Agent nicht einmal kompromittiert werden. Er muss nur tun, wofür er gebaut wurde, mit den falschen Eingaben. Und diese Eingaben können über Befehle eingeschleust werden, die in ein einfaches Dokument oder eine Datei eingebettet sind.

Die Angriffsklasse ist nicht neu. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) stuft indirekte Prompt Injection bereits seit 2023 als intrinsische Schwachstelle anwendungsintegrierter Sprachmodelle ein. Neu ist, wie viele produktive Agenten diese Lücke heute offen lassen.

Was die Bewertung von 100 Agenten zeigt

Der Sicherheitsanbieter Adversa AI hat das mit dem AI Risk Quadrant (AIRQ) im Juni 2026 erstmals in Zahlen gefasst. Die Anbieterstudie umfasst 100 produktiv eingesetzte Agenten aus zehn Kategorien, Beitragende kommen unter anderem aus OWASP, NIST und der Cloud Security Alliance. In 98 Prozent der untersuchten Agenten liegen alle drei Fähigkeiten (Zugriff auf interne Daten, Verarbeitung von ungeprüften externen Inhalten und Kommunikation nach außen) gleichzeitig vor.

Nur elf Prozent der untersuchten Agenten gelten als leistungsfähig und zugleich belastbar verteidigt. Die übrigen 89 Prozent verfügen zwar über gewisse Schutzmaßnahmen, weisen jedoch eine Angriffsfläche auf, die über den Schutzumfang dieser Maßnahmen hinausgeht. Bewertet wurde anhand von Angriffsfläche, potenziellem Schaden und Verteidigungskontrollen. Am schlechtesten schneiden Coding- und Computer-Use-Agenten ab, in allen drei Dimensionen. Also ausgerechnet die Typen, die derzeit am schnellsten ausgerollt werden.

Hierbei ist jedoch eine Einschränkung zu beachten. Laut dem AIRQ-Bericht lassen sich 83 Prozent der von den Anbietern angegebenen Schutzmaßnahmen nicht unabhängig verifizieren. Die Zahl von elf Prozent misst daher auch die Transparenz und nicht allein die Sicherheit.

Richtlinien ersetzen keine technische Durchsetzung

Viele Sicherheitsteams reagieren auf solche Befunde mit Governance. Sie veröffentlichen eine KI-Nutzungsrichtlinie, schreiben Security-Reviews vor und binden Agenten in die Beschaffung ein. Das ist der richtige Ansatz, aber ohne technische Umsetzung ist er sinnlos.

Ein Agent mit Datenzugriff und ausgehenden Aktionen ist architektonisch exponiert, und keine Richtlinie kann daran etwas ändern. Eine Regel, die Datenabfluss verbietet, wirkt nicht in dem Moment, in dem der Agent eine manipulierte Anweisung verarbeitet. Den Zugang zu einem Agenten abzusichern, ist etwas anderes als abzusichern, was der Agent tut.

Hinzu kommt ein Effekt, dem Sicherheitsteams aktuell begegnen, der aber in keiner Momentaufnahme erfasst wird: Berechtigungen wachsen. Ein Agent erbt Rechte aus einem Dienstkonto, eine Integration bringt eine weitere Datenquelle mit, ein Tool kommt hinzu, weil es Arbeit spart. Diese schrittweise Ausweitung führt zu einem Phänomen, das als „authority drift“ bekannt geworden ist. Eine erneute Bewertung löst sie fast nie aus, aber wer zu breit provisioniert und danach nicht mehr prüft, baut ein Risiko auf, das täglich wächst.

Shadow AI ist ein Sichtbarkeitsproblem

Bevor Kontrollen greifen, müssen Unternehmen umfassende Transparenz erlangen. Hier liegen die meisten Organisationen im Rückstand, was sich am Vormarsch der „Schatten-KI“ deutlich zeigt.

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zur IT-Sicherheit

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Der Begriff ist dem Konzept der „Shadow-IT“ entlehnt, bei dem Mitarbeiter ihre eigenen Geräte mitbringen und diese mit den Ressourcen des Unternehmens verbinden, was zu diversen Sicherheitsproblemen führt. „Shadow-AI“ bezeichnet dasselbe Phänomen bei KI-Tools und -Agenten, die außerhalb formeller Überprüfungsprozesse betrieben werden.

Ein Entwickler kann einen Agenten mit einem persönlichen API-Schlüssel einrichten, oder ein Geschäftsbereich verbindet einen KI-Workflow direkt mit einer SaaS-Anwendung. Die IT erfährt davon nichts. So entsteht ein blinder Fleck, den klassische Governance nicht erfasst. AIRQ spricht von einer Einführung von unten, die den Beschaffungsprozess umgeht.

Ein belastbares Inventar lässt sich aus mehreren Quellen aufbauen. Der Identity Provider zeigt, welche technischen Konten existieren. API-Gateways und Proxy-Protokolle geben Aufschluss darüber, welche Modellendpunkte tatsächlich angesprochen werden. Abrechnungsdaten von Modellanbietern verraten Projekte, die niemand angemeldet hat. Keine Quelle allein ist ausreichend, aber zusammen ergeben sie einen soliden Überblick über potenzielle Risiken.

Was Sicherheitsteams dagegen tun können

Für Agenten, die bekannt sind und einen Review durchlaufen haben, verweist AIRQ zuerst auf die Architektur. Der stärkste Einzelbefund des Berichts lautet: Ob ein Agent Tools ausführt und ob diese Ausführung isoliert ist, erklärt allein rund drei Viertel des potenziellen Schadens.

Daraus folgen drei konkrete Schritte für IT-Sicherheitsteams:

  • 1. Coding-Agenten gehören in eine Isolationsschicht auf Betriebssystemebene. Der Bericht nennt dafür etablierte Mechanismen wie Bubblewrap, nsjail oder Seatbelt. Lokale Ausführung ohne Sandbox überschreitet nach AIRQ typische Risikoschwellen im Unternehmen.
  • 2. Kritische Aktionen brauchen eine menschliche Freigabe. BSI und ANSSI empfehlen das ausdrücklich in ihren gemeinsamen Designprinzipien für LLM-basierte Systeme. Beide Behörden raten von einem vollständig autonomen Betrieb ohne menschliche Kontrolle ab.
  • 3. Zugriffsrechte gehören auf das Minimum. Ein Agent sollte nur die Daten sehen, die seine Aufgabe erfordert. Da es einfacher ist, wird in der Praxis zunächst breit provisioniert und später nicht mehr hinterfragt.

Agenten sind Identitäten, keine Ausnahme

Dasselbe Zero-Trust-Prinzip, das für menschliche Nutzer gilt, muss auch für Agenten gelten. Sie gehören als vollwertige Identitäten in die Sicherheitsarchitektur, mit eigenen Berechtigungen, eigener Protokollierung und wiederkehrender Rezertifizierung.

Ein Teil dieses Fachgebiets ist die Governance ausgehender Datenströme. Sendet ein Agent Daten an eine externe Schnittstelle, ein Kommunikations-Tool oder einen Cloud-Speicher, sollte diese Bewegung denselben Prüfungen unterliegen wie jede andere ausgehende Übertragung. Netzwerkseitig agiert ein manipulierter Agent genauso wie ein Mensch. Wo die Prüfung ansetzt, bleibt eine Architekturentscheidung. Sie kann im Agent-Framework, am Outbound-Übergabepunkt oder in der Anwendung eingesetzt werden und ergänzt die Isolation, anstatt sie zu ersetzen.

Der Schnell-Check

Zurück zum Branddreieck. Zu den bewährten Praktiken im Brandschutz gehört es, gezielt ein Element zu entfernen, wenn die beiden anderen nicht beseitigt werden können, beispielsweise den Brennstoff in einer Umgebung, in der sowohl Sauerstoff als auch Wärme vorhanden sind. Den Datenzugriff braucht der Agent, sonst ist er nutzlos und externe Inhalte lassen sich selten vollständig fernhalten. Bleibt die dritte Seite und damit die Frage, was ein Agent nach außen auslösen darf und wie eng das begrenzt ist.

Eine sinnvolle Übung für Unternehmen besteht darin, dieses Konzept auf ihre fünf wichtigsten Agenten anzuwenden und die Risiken in drei Spalten einzuteilen. Auf welche Datenquellen hat der Agent Zugriff? Welche externen Inhalte erreichen ihn? Welche Aktionen kann er ohne Rückfrage auslösen? Überall dort, wo alle drei Spalten ausgefüllt sind, ist das Dreieck vollständig, und es müssen Maßnahmen ergriffen werden.

Über den Autor: Mathias Widler verantwortet als Vice President Central & Eastern Europe das Geschäft von Netskope in Zentral- und Osteuropa. Er verfügt über mehr als zwei Jahrzehnte Erfahrung im Sicherheits- und Netzwerkumfeld. Zuvor war er über sieben Jahre als Managing Director Zentraleuropa bei Zscaler tätig, danach in Führungsrollen bei Palo Alto Networks und Deepinstinct.

(ID:51016185)