KI-Governance für autonome Agenten Die KI hat das Chatfenster verlassen, die Regeln nicht

Anbieter zum Thema

Jamf Software Germany GmbH

JAMF Software

cidaas by Widas ID GmbH

secunet Security Networks AG

FTAPI Software GmbH

Viele Unternehmen steuern KI mit Regeln für Browser-basierte Chatbots, doch KI-Agenten arbeiten selbstständig auf dem Endgerät und bleiben für Sicherheitslösungen oft unsichtbar. Gerade sie bringen aber den größten Nutzen, denn sie verbinden Daten aus vielen Quellen. Unternehmen müssen klären, wie sie KI lenken, die sich bestehenden Governance-Rahmenwerken entzieht.

Obwohl künstliche Intelligenz (KI) inzwischen weit mehr umfasst als Large Language Models (LLMs), prägen diese Modelle nach wie vor deren Wahrnehmung. Am Anfang des KI-Booms vor nur wenigen Jahren standen sie sinnbildlich für KI insgesamt. Dieses Bild hat sich bis heute gehalten. Selbst IT-Führungskräfte stellen sich oft noch immer dieselbe Szene vor, wenn sie den Begriff „KI“ hören: Eine Person, die in einem Browser-basierten Chatfenster etwas eintippt und so mit einem LLM interagiert.

Tatsächlich findet sich die Art von KI, die Unternehmen den größten Mehrwert bietet, jedoch nicht mehr dort, sondern in nativen Apps auf Endgeräten und in Form von KI-Agenten, die mithilfe eines Model Context Protocol (MCP) mehrere verteilte Systeme über einen einzigen Workflow miteinander verbinden. Diese Entwicklung bringt für Unternehmen eine neue Herausforderung mit sich: KI-Governance kann nicht mehr mit dem rasanten technologischen Fortschritt von KI mithalten. Die Governance-Rahmenwerke, die für Browser-basierte KI-Modelle entwickelt wurden, reichen heute nicht mehr aus, um alle im Geschäftsalltag genutzten KI-Anwendungen abzudecken.

Viele KI-Governance-Rahmenwerke wurden auf Basis älterer Governance-Ansätze für traditionelle Softwareanwendungen entwickelt. In diesen Fällen war die Situation klarer: Eine Anwendung, die von den IT-Sicherheitsexperten eines Unternehmens geprüft und genehmigt worden war, war entweder auf dem Gerät eines Mitarbeiters installiert oder eben nicht. Bei KI-Agenten reicht dieser Ansatz jedoch nicht aus. Auch wenn ein installierter KI-Agent ursprünglich geprüft und genehmigt wurde, kann er bereits im nächsten Moment seine vordefinierten Berechtigungen überschreiten und unerwartet tief in Dateien und Systeme eingreifen.

Nur 23 Prozent der Unternehmen haben KI-Regeln

Schatten-KI durch Governance beherrschbar machen

Wo klassische KI-Governance versagt

Die Beispiele für Situationen, in denen alte Governance-Modelle nicht mehr mit der aktuellen KI-Realität mithalten können, umfassen verschiedene Ebenen. Spezialisierte KI-Apps und -Assistenten oder agentenbasierte Browser zeigen beispielsweise keine Chat-Fenster mehr an. Stattdessen lesen sie selbstständig Dateien und lokale Repositories direkt aus, greifen auf Zwischenablagen zu, agieren innerhalb anderer Anwendungen und verfügen über eigene Berechtigungen. Für bewährte Sicherheits-Tools wie Cloud Access Security Brokers (CASBs) sind diese Prozesse oftmals unsichtbar, da sich native KI-Apps mit Zugriff auf Dateisysteme und Zwischenablage gar nicht erst über sie authentifizieren müssen.

KI-Modelle, die lokal ausgeführt oder auf Endgeräten vorinstalliert sind, können ebenfalls Risiken bergen. Dies gilt insbesondere für Modelle mit Offline-KI-Fähigkeiten, die auch ohne Netzwerkverbindung weiterarbeiten. Sie können zwar die Latenz und Bandbreitennutzung reduzieren, den Betrieb ohne Netzwerkverbindung ermöglichen und sensible Daten besser vor Verlust schützen, werden aber oft von Sicherheitslösungen wie CASBs oder Data Loss Prevention-Systemen (DLP), die den Netzwerkverkehr überwachen, nicht erfasst. Wenn die KI vollständig lokal arbeitet, entsteht kein Netzwerkverkehr, den diese Lösungen auf potenzielle Risiken überprüfen könnten.

Ein weiteres potenzielles Risiko ist das Model Context Protocol (MCP). Dieses Protokoll hat sich seit seiner Einführung im Jahr 2024 rasch zum Standard für KI-Nutzung entwickelt, über das KI-Agenten auf Datensätze in Customer-Relationship-Management-Systemen (CRMs), Ticketing-Systeme sowie interne Dokumente und Datenbanken zugreifen, diese miteinander verknüpfen sowie funktionsübergreifende Workflows anstoßen und Folgeaktionen auslösen. Das MCP selbst schreibt keine Zugriffskontrollen, auditfähige Protokolle oder Verschlüsselung vor. All dies hängt von der jeweiligen Implementierung des MCP ab. Auch für CASBs sowie die meisten EDR-Tools (Endpoint Detection and Response) ist das MCP unsichtbar, da es sich weder um eine Software-as-a-Service-Anmeldung (SaaS) handelt, noch weist der Prozess typische Merkmale von Malware auf. Es ist ein legitimer Prozess, der aber oftmals über viel mehr Berechtigungen verfügt als eigentlich genehmigt.

Lücke zwischen KI-Einsatz und Kontrolle

Autonome KI läuft der Governance davon

Der blinde Fleck im Stack

Was alle diese oben genannten Beispiele verbindet: Keine der involvierten KI-Anwendungen und Prozesse laufen über Broker, öffnen Browser-Tabs oder weisen typische Merkmale von Malware auf. Die CASBs, Browser- und Endpunktsicherheits-Tools funktionieren in allen Fällen einwandfrei. Dennoch wären sie nicht in der Lage, potenzielle Bedrohungen zu erkennen und eine entscheidende Frage zu beantworten: Auf welche Ressourcen darf ein autorisierter Prozess auf einem Endgerät tatsächlich zugreifen?

Um diese Frage zu beantworten, braucht es einen anderen Ansatz. Bewährte Sicherheits­lösungen und die von ihnen erzeugten Warnmeldungen konzentrieren sich in erster Linie darauf, Transparenz zu schaffen und Aktivitäten sichtbar zu machen, meistens erst im Nachhinein. Selbstverständlich ist es besser zu wissen, dass ein nicht autorisierter KI-Agent vor einer Stunde auf Unternehmensressourcen zugegriffen hat, als wenn dieser Zugriff völlig unbemerkt bleibt. Doch das bietet keinen wahren Schutz.

Dafür braucht es moderne Lösungen, die mit Blick auf die Art und Weise entwickelt wurden, wie KI heute mit Systemen und Ressourcen im Unternehmensnetzwerk interagiert. Diese Lösungen müssen in der Lage sein, Sicherheitsrichtlinien für KI in Echtzeit durchzusetzen. Unternehmen, die ihre KI-Governance an die aktuelle KI-Realität anpassen möchten, sollten die Anbieter von Sicherheitslösungen in ihrem Tech-Stack daher nicht nur danach bewerten, welche Risiken ihre Lösungen erkennen, sondern vor allem danach, welche Risiken sie verhindern können.

Datenschutz und Abhängigkeit bei KI

Souveräne KI beginnt mit der Plattform, nicht mit dem Anwendungsfall

Fazit

Unternehmen sollten sich mit diesem Thema auseinandersetzen, denn so potenziell riskant die genannten KI-Anwendungsfälle auch sein mögen, bieten sie doch einen erheblichen Mehrwert. Ein LLM, das gut formulierte E-Mails generiert, hat in der Regel nur begrenzte Auswirkungen auf den Umsatz eines Unternehmens. Ein KI-Agent hingegen, der auf lokale Dateien zugreifen und Informationen aus verschiedenen Quellen verknüpfen kann, eröffnet ein deutlich größeres Potenzial. Unternehmen, die solche KI-Anwendungen zuverlässig steuern können – anstatt erst im Nachhinein festzustellen, was diese bewirkt haben –, werden sie in Zukunft sicher einsetzen und von ihren Vorteilen profitieren können.

Über den Autor: Michael J. Covington, Ph.D., ist ein erfahrener Technologieexperte und Vice President of Portfolio Strategy bei Jamf. Dr. Covington ist ein praxisorientierter Innovator mit umfassender Erfahrung über den gesamten Produktlebenszyklus hinweg, von der Planung von Forschung und Entwicklung bis zur Umsetzung der Unternehmensstrategie. Zuvor hatte er Führungspositionen bei Intel Labs, Cisco Security und Juniper Networks inne. Mit seinem vielseitigen Hintergrund als publizierter Informatikforscher und IT-Experte hat Dr. Covington Technologie aus allen Blickwinkeln kennengelernt und bringt gerne Innovationen auf den Markt, insbesondere in den Bereichen Mobilität und Konnektivität.

(ID:51007691)