Wenn KI über Zugriffsrechte entscheidet Erklärbare KI bringt Transparenz in automatisierte Entscheidungen

Anbieter zum Thema

Nexis Group GmbH

cidaas by Widas ID GmbH

FAST LTA GmbH

SEPPmail - Deutschland GmbH

Eine KI sperrt einen privilegierten Zugriff, ohne einen Grund zu nennen. Genau diese Lücke wird zum Problem, sobald Prüfer oder das Management die Entscheidung nachvollziehen müssen. Wer am Ende dafür geradesteht, wenn diese Entscheidung falsch war, ist eine Frage, die Identity Governance neu beantworten muss.

Der Einsatz von KI im Identity- und Access-Management verschiebt die Anforderungen an Governance-Systeme maßgeblich. Während klassische IAM-Plattformen überwiegend regelbasiert arbeiteten, treffen moderne Systeme viel eher adaptive Entscheidungen. Zugriffsrechte werden auf Basis von Daten oder Verhaltensmustern bewertet, dabei werden Risiken dynamisch priorisiert und Auffälligkeiten automatisiert erkannt.

Daraus entsteht ein Problem, das viele Unternehmen bislang eher unterschätzt haben. Entscheidungen eines KI-Systems müssen nicht nur rein technisch funktionieren. Sie müssen auch nachvollziehbar bleiben. Besonders in regulierten Branchen reicht ein korrektes Ergebnis allein nicht aus. Unternehmen müssen erklären können, warum ein System eine bestimmte Entscheidung getroffen hat und auf welcher Grundlage diese Bewertung zustande gekommen ist.

Genau an dieser Stelle kommt „erklärbare KI“ (auf Englisch Explainable AI oder kurz XAI) ins Spiel. Erklärbare KI beschreibt Verfahren, mit denen sich Entscheidungsprozesse eines Modells sichtbar und für Menschen nachvollziehbar machen lassen. Im Umfeld von Identity Governance betrifft das beispielsweise automatisierte Zugriffsbewertungen einschließlich der Erkennung ungewöhnlicher Berechtigungsmuster.

KI wird wie ein Werkzeug behandelt, wirkt aber wie kritische Infrastruktur

KI trifft falsche Entscheidungen und niemand merkt es rechtzeitig

Transparenz wird zur Governance-Anforderung

Lange dominierte vor allem ein technischer Blickwinkel die Debatte um erklärbare KI. Im Mittelpunkt standen dabei Modellarchitekturen, Genauigkeit und Performance. Mittlerweile verschiebt sich im Security-Umfeld die Perspektive deutlich stärker in Richtung Governance und Compliance.

Gerade Identity-Governance-Systeme greifen häufig tief in sicherheitskritische Prozesse ein. Wenn KI darüber entscheidet, welche Identitäten privilegierten Zugriff erhalten oder welche Identitäten als riskant klassifiziert werden, entsteht unmittelbare Relevanz für Auditierbarkeit und Nachweismöglichkeit.

Hier besteht ein hoher Anspruch an Transparenz, der mehrere Ebenen betrifft. Auf der einen Seite müssen Security-Teams verstehen können, warum ein System eine Entscheidung getroffen hat. Auf der anderen Seite brauchen Compliance-Abteilungen nachprüfbare Dokumentation für Prüfungen. Außerdem müssen Fachbereiche automatisierte Bewertungen einordnen können, ohne selbst Spezialwissen über Machine-Learning-Modelle zu besitzen. Daher wird Erklärbarkeit zu einer wichtigen operativen Anforderung innerhalb moderner Governance-Strukturen.

ETH Zürich prüft nach

Wie gesetzestreu sind ChatGPT und andere KI-Modelle?

Warum Black-Box-Modelle problematisch sind

Viele KI-Systeme arbeiten mit hochkomplexen Modellen, deren interne Entscheidungslogik für Anwender kaum nachvollziehbar bleibt. Gerade im Umfeld der Cybersecurity kann das allerdings erhebliche Folgen mit sich bringen.

Wenn ein System beispielsweise einen privilegierten Zugriff blockiert oder eine Identität als Risiko markiert, entsteht unmittelbarer Handlungsdruck. Ohne nachvollziehbare Begründung lassen sich solche Entscheidungen intern häufig nur schwer überprüfen und validieren. Gleichzeitig steigt das Risiko von Fehlbewertungen, die operative Abläufe beeinträchtigen oder unnötige Eskalationen auslösen. Das betrifft insbesondere hybride IT-Umgebungen mit einer Vielzahl an Identitäten und Berechtigungen. Dort werden Zusammenhänge zunehmend komplexer. KI-Systeme helfen dabei, Muster schneller zu erkennen und Auffälligkeiten frühzeitig sichtbar zu machen. Die Akzeptanz solcher Systeme hängt jedoch stark davon ab, ob ihre Entscheidungen transparent bleiben.

Viele Kill Switches sind nur ein Beruhigungsversprechen

Wie KI in kritischen Systemen wirklich beherrschbar wird

Erklärbare KI verändert die Rolle von Security-Teams

Mit dem Einsatz erklärbarer KI verändert sich auch die Rolle der Sicherheitsverantwortlichen. Security-Teams benötigen ausreichende Transparenz über die Funktionsweise der eingesetzten Systeme. Dazu gehört die Fähigkeit, Entscheidungen und Risiken nachvollziehbar gegenüber internen Prüfern und dem Management erklären zu können. Erklärbare KI verbindet so technische Sicherheit mit Governance- und Kontrollanforderungen und bezieht, wenn nötig den Menschen als „Human in the Loop“ mit ein.

Gerade im Bereich Identity Governance zeigt sich, dass Transparenz zunehmend zu einer Voraussetzung für Vertrauen wird. Systeme, deren Entscheidungen nicht nachvollziehbar sind, erzeugen schnell Akzeptanzprobleme. Das gilt besonders dann, wenn automatisierte Bewertungen direkten Einfluss auf Zugriffsrechte oder sicherheitskritische Prozesse haben.

Allianz Risk Barometer 2026

KI-Risiken wachsen rasant

Identity Governance wird stärker mit KI-Governance verknüpft

Die Entwicklung deutet auf eine engere Verbindung zwischen Identity Governance und KI-Governance hin. Unternehmen stehen künftig vor der Anforderung, automatisierte Entscheidungen so zu gestalten, dass sie dokumentiert und im Zweifelsfall überprüft werden können.

Erklärbare KI entwickelt sich damit von einer technischen Zusatzfunktion zu einem zentralen Bestandteil moderner Sicherheitsarchitekturen. Besonders im Umfeld identitätsbasierter Sicherheit entsteht daraus eine neue Anforderung an Governance-Systeme. Entscheidungen müssen nicht nur schnell und automatisiert erfolgen. Sie müssen auch transparent bleiben.

Über den Autor: Dr. Heiko Klarl ist CEO bei Nexis.

(ID:50941794)