Go­ver­nance und Kontrolle generativer Systeme im Unternehmensalltag Wie Firmen trotz Schatten-KI produktiv bleiben

Anbieter zum Thema

Lenovo (Deutschland) GmbH

Fsas Technologies GmbH

FAST LTA GmbH

FTAPI Software GmbH

Mitar­bei­tende nutzen Künstliche Intelligenz (KI) auch ohne Freigabe der IT. Unternehmen stehen vor der Aufgabe, Produktivitätsgewinne zu sichern, ohne Datenhoheit und Go­ver­nance aus der Hand zu geben.

Künstliche Intelligenz ist längst Teil des Ar­beits­all­tags. Selbst wenn Unternehmen keine eigene KI-Strategie verfolgen, macht die Technologie vor ihrer Belegschaft nicht Halt. Sie nutzen KI-Tools, um Texte zu schreiben, Daten zu analysieren oder Code zu generieren – oft mit frei ver­füg­baren Anwendungen, die nicht von der IT-Abteilung freigegeben sind.

Damit verlieren Unternehmen schnell die Kontrolle über ihre Daten. Was einmal in ein externes System eingegeben wird, verlässt die geschützte Unternehmensum­ge­bung und kann auf frem­den Servern gespeichert oder sogar zum Training von Modellen verwendet werden. Zwar stei­gert Schatten-KI kurzfristig die Produktivität. Langfristig stellt sie aber eine Bedrohung des Wissenshoheit dar. Wissen, das geschützt werden sollte, fließt unkontrolliert in externe Systeme. Vertrauliche Informationen sind damit faktisch verloren.

Trotzdem greifen viele Beschäftigte zu solchen Tools. Sie handeln nicht aus Leichtsinn, sondern aus Prag­ma­tis­mus. Der Druck, Prozesse zu beschleunigen und Er­gebnisse zu liefern, ist hoch. KI verspricht schnelle Hilfe: Sie liefert in Sekunden, was interne Systeme oft erst nach Tagen er­möglichen. Der Antrieb ist Effizienz, nicht Regelbruch.

Das Prinzip ist nicht neu: Schon früher suchten Mit­ar­bei­ter Wege, digitale Hürden zu umgehen. Unter dem Schlagwort „Shadow IT“ nutzten sie eigene Soft­ware oder Cloud-Dienste, um schneller und flexibler zu ar­bei­ten. Der Unterschied heute liegt in der Tiefe der Technologie.

Die Ursache liegt selten in mangelnder Disziplin, son­dern in fehlenden Alternativen. Wer keine sicheren, leistungsfähigen KI-Werkzeuge bereitstellt, zwingt Mit­ar­bei­ter indirekt zum Aus­weichen. Innovation findet dann außerhalb offizieller Strukturen statt.

Schattenseiten moderner Zusammenarbeit

Warum Schatten-IT ein Risiko für Sicherheit und Produktivität ist

Schatten-KI ist keine Frage einzelner Programme mehr, sondern ganzer Systeme, die selbstständig lernen und Entscheidungen treffen. Sie analysieren Daten, ziehen Schlüsse und handeln auf dieser Basis – oft, ohne dass nachvollziehbar ist, woher die Informationen stammen oder wohin sie fließen.

Damit verschiebt sich das Problem von einem technischen zu einem kulturellen. Während früher unautorisierte Tools die IT-Sicherheit gefährdeten, greift Schatten-KI direkt in Ar­bei­ts­prozesse und Entscheidungslogiken ein. Fachabteilungen agieren zunehmend eigenständig, sie verstehen sich als digitale Innovatoren und handeln damit schneller als die Go­ver­nance, die sie eigentlich steuern soll.

Go­ver­nance neu denken

Verbote allein lösen das Problem der Schatten-KI nicht. Solange externe Tools schneller und einfacher funk­ti­o­nie­ren als interne Systeme, werden Mit­ar­bei­tende diese weiter nutzen. Wer Schatten-KI eindämmen will, muss bessere Alternativen bieten: leistungsfähiger, sicherer und einfacher zugänglich.

Ein technischer Ansatz sind geschützte KI-Um­ge­bungen. In diesen kontrollierten Testbereichen lassen sich neue Tools ausprobieren, ohne dass sensible Daten das Unternehmen verlassen. Solche Test­um­ge­bungen fördern Innovation unter sicheren Bedingungen und machen sichtbar, welche An­wen­dun­gen echten Mehr­wert bieten. Erfolgreiche Lösungen können dann schrittweise in reguläre Pro­zesse überführt werden.

Doch technische Maßnahmen reichen nicht aus. Künst­liche Intelligenz verändert sich mit jeder Nutzung. Klassische Kontrollsysteme mit starren Regeln kommen da nicht mehr mit. Go­ver­nance muss deshalb selbst lern­fähig sein: Ein System, das sich im gleichen Takt wei­ter­ent­wi­ckelt wie die Technologie.

Adaptive Go­ver­nance bedeutet: Regulierung wird zum kontinuierlichen Prozess. Sie kombiniert technische Überwachung mit Feedback aus der Praxis, automatisiert Prüfmechanismen, er­ken­nt Risiken in Echtzeit und sorgt für transparente Datenströme. Go­ver­nance wird so zum integralen Bestandteil der Infrastruktur.

Damit verändert sich auch die Verantwortung im Unternehmen. Go­ver­nance darf nicht allein in der IT verortet sein. Fachabteilungen, Compliance und Management müssen gemeinsam ent­schei­den, wie KI eingesetzt wird – nah an den Prozessen, nah an den Daten. So entsteht ein Gleichgewicht aus Kontrolle und Eigenverantwortung.

Entscheidungsfrist bis Ende 2026

EU plant, den USA Zugriff auf biometrische Daten zu gewähren

Auch technisch lässt sich Go­ver­nance verankern: Konzepte aus der Softwareentwicklung, wie Versionierung, Tests und Monitoring, lassen sich auf KI übertragen. Mit MLOps und AIOps entstehen Strukturen, die Qualitätssicherung und Nachvollziehbarkeit automatisieren.

Ebenso entscheidend ist die kulturelle Dimension: Go­ver­nance funktioniert nur, wenn sie verstanden und akzeptiert wird. Schulungen, Transparenz und klare Regeln senken die Hemmschwelle, offizielle Tools zu nutzen. Wenn interne Systeme besser funktionieren als Schatten-KI, verschwindet das Problem von selbst.

Unternehmen, die Go­ver­nance als lernendes System begreifen, können ein Sicherheitsrisiko in eine Innovationsquelle verwandeln. Schatten-KI wird dann nicht bekämpft, sondern genutzt – als Impulsgeber für Fortschritt und als Maßstab dafür, wie schnell Organisationen selbst lernen.

Ein klarer Rahmen ist heute dringlicher denn je. Nicht nur, um Schatten-KI zu steuern, sondern auch, weil die nächste Generation künstlicher Intelligenz längst an die Tür klopft. Agentic AI verspricht enorme Effizienz, verlangt aber zugleich neue Formen der Verantwortung und Kontrolle.

Agentic AI als nächster Entwicklungsschritt

Die neue Generation lernender Systeme geht über bisherige KI-Modelle hinaus. Agentic AI agiert selbstständig: Sie plant, entscheidet und handelt – ohne ständige menschliche Steuerung.

KI im SOC braucht Governance und klare Verantwortlichkeiten

Ohne Governance wird agentenbasierte KI im SOC zum Sicherheitsrisiko

Damit verschiebt sich die Verantwortung: Während Schatten-KI von Menschen genutzt wird, kann Agentic AI eigenständig Prozesse verändern und Risiken auslösen. Ein fehlerhafter Agent reicht, um Daten falsch zu interpretieren oder Entscheidungen unbeabsichtigt zu beeinflussen.

Gleichzeitig liegt hier das nächste Effizienzpotenzial. Agentische Systeme können Aufgaben automatisieren, Abläufe optimieren und komplexe Entscheidungen vorbereiten. Go­ver­nance muss darauf reagieren – mit Mechanismen, die nicht nur Menschen, sondern auch Maschinen kontrollieren.

Die Zukunft der KI-Go­ver­nance liegt damit im Zusammenspiel von menschlicher Aufsicht und technischer Selbstregulierung. Wer dieses Gleichgewicht früh etabliert, behält die Kontrolle. Auch dann, wenn KI beginnt, selbst zu handeln.

Über den Autor: Florian Richter ist Market Leader Solutions & Services Group DACH bei Lenovo.

Datenschutzverletzungen „made in Germany“

Die größten deutschen Datenpannen in 2025

(ID:50683365)