Cybersecurity zwischen KI-Innovation und Regulierung KI erzwingt neue Sicherheitsmodelle in Unternehmen

Anbieter zum Thema

NTT DATA

Fujitsu Technology Solutions GmbH

FAST LTA GmbH

KI vergrößert in Unternehmen zwar die Angriffsfläche, schafft aber gleichzeitig neue Verteidigungsmöglichkeiten. Viele Organisationen behandeln KI-Initiativen aber noch als reine Innovationsprojekte und berücksichtigen Sicherheitsaspekte erst nachgelagert. Es ist daher entscheidend, wie konsequent sie KI und Cybersecurity strategisch und operativ verzahnen.

Dass neue Technologien den Handlungsspielraum von Unternehmen erweitern, ist keine große Überraschung. Dass sie gleichzeitig neue Risiken schaffen und bestehende Systeme anfälliger machen können, ebenso wenig. Künstliche Intelligenz bildet hier keine Ausnahme, im Gegenteil: Sie beschleunigt bestehende Entwicklungen in der Cybersecurity und verschärft Zielkonflikte zwischen Innovationsdruck, Sicherheitsanforderungen und regulatorischen Vorgaben. Unternehmen sehen sich dadurch gezwungen, ihre IT-Security-Budgets weiter zu erhöhen, obwohl viele Branchen wirtschaftlich und geopolitisch bereits unter Druck stehen.

Ein Blick auf die Zahlen zeigt deutlich, wie hoch die Risiken sind. Wie eine Umfrage von NTT DATA belegt, erwarten 95 Prozent der CIOs und CTOs steigende Investitionen in die Cybersecurity durch GenAI und sehen darin gleichzeitig einen zentralen Nutzen. Andererseits bestehen weiterhin erhebliche Defizite und Bedenken: 45 Prozent der CISOs bewerten den Einsatz von GenAI kritisch, wobei 54 Prozent vor allem unklare Richtlinien bemängeln. Während 51 Prozent der CEOs ihre GenAI- und Cybersecurity-Strategie als abgestimmt betrachten, sind es bei den CISOs lediglich 38 Prozent. Interne Konflikte sind dabei vorprogrammiert, wenn es den Unternehmen nicht rechtzeitig gelingt, konkrete und übergreifende Rahmenbedingungen für ihre weitere Ausrichtung und Maßnahmen zu finden.

Update: Einschätzung von Googles VP Threat Intelligence

Diese enorme Gefahr geht von Anthropics neuem KI-Modell aus

Wirkungsvolle KI-Strategien: Neue Ansätze braucht das Land

Ohne Zweifel verändert sich mit dem Einsatz von KI die Ausgangslage in der Cybersecurity grundlegend. Das gilt auch für die Seite der bösartigen Akteure. Angriffe lassen sich effizienter skalieren, automatisieren und anpassen, während auf der Verteidigungsseite die Komplexität deutlich zunimmt. Parallel dazu steigen die regulatorischen Anforderungen, wodurch sich die Gestaltung zusätzlich verkomplizieren. Unternehmen stehen somit vor der Herausforderung, ihre Sicherheitsarchitektur nicht nur punktuell zu erweitern, sondern sie strukturell neu auszurichten.

In der Praxis zeigt sich jedoch häufig, dass KI-Initiativen primär als Innovations- oder Effizienzprojekte verstanden werden, während Sicherheitsaspekte erst nachgelagert berücksichtigt werden. Diese Trennung setzt sich nicht selten auch auf organisatorischer Ebene fort. GenAI- und Cybersecurity-Strategien werden dabei zwar parallel entwickelt, aber selten konsequent integriert. Daraus entstehen widersprüchliche Prioritäten, unklare Ver­ant­wort­lich­kei­ten und letztlich vermeidbare Sicherheitsrisiken. Eine gemeinsame Steuerung von KI- und Cybersecurity-Strategie wird damit zu einer zentralen Voraussetzung wirksamer Sicherheitsarchitekturen.

Hinzu kommt die gewachsene Komplexität bestehender IT-Landschaften. Viele Unternehmen setzen weiterhin auf Best-of-Breed-Ansätze, die historisch gewachsen sind und technologisch durchaus sinnvoll erscheinen. Operativ führen sie jedoch zunehmend zu Fragmentierung: Unterschiedliche, meist isolierte Tools, Datenquellen und Schnittstellen erschweren ein konsistentes Monitoring, durchgängiges Logging und einheitliche Zugriffskonzepte. Gerade im Kontext datenintensiver KI-Anwendungen wird diese Fragmentierung selbst zum Risiko. Integrierte Plattformansätze gewinnen daher an Bedeutung, weil sie Security, Daten­ma­nage­ment und KI-Funktionalitäten enger zusammenführen und dadurch Transparenz, Steuerbarkeit und Skalierbarkeit verbessern.

Eine kritische KI-Bestandsaufnahme für Unternehmen

Mistral AI will Europas KI-Souveränität sichern

Compliance und Governance im Fokus

Neben isolierten Einzellösungen erweisen sich vor allem auch neue Anwendungen als Kosten- und Komplexitätstreiber, wenn sie nicht in ein übergeordnetes Security-Operations-Modell eingebettet sind. Der erhoffte Nutzen bleibt teilweise aus, weil Integration, Orchestrierung und Verantwortlichkeiten nicht ausreichend geklärt sind.

Gleichzeitig hat sich die regulatorische Ausgangslage deutlich verschoben. Mit gesetzlichen Vorgaben wie dem EU AI Act, der NIS2-Richtlinie und der DORA-Verordnung ist ein konkreter und unmittelbar wirksamer Umsetzungsdruck entstanden. Die Herausforderung liegt dabei aber längst nicht mehr in der Interpretation einzelner Regelwerke, sondern in deren operativer Verzahnung. Risikoklassifizierung, Resilienzanforderungen sowie Governance greifen ineinander und erfordern ein konsistentes, integriertes Operating Model.

Dazu gehören klare Policies für den sicheren Einsatz von GenAI, eindeutig definierte Verantwortlichkeiten sowie Security by Design über den gesamten KI-Lebenszyklus hinweg, von der Datenbasis über Training und Deployment bis zum laufenden Betrieb. Wer die regulatorischen Anforderungen, Cybersecurity und KI-Strategie gemeinsam steuert, reduziert nicht nur Komplexität, sondern erhöht auch die Wirksamkeit der Sicherheitsmaßnahmen.

KI-gestützte Governance

Vom regulatorischen Labyrinth zur praktikablen Compliance

KI als Risiko und Teil der Lösung

Trotz steigender Investitionen sind viele Unternehmen auf die konkreten Auswirkungen von KI im operativen Betrieb noch unzureichend vorbereitet. Neue Angriffsmuster wie manipulierte Eingabedaten (Prompt Injection) treffen dabei auf eine stetig wachsende Menge sensibler Informationen, die in KI-Systemen verarbeitet werden. Besonders kritisch sind dabei drei miteinander verknüpfte Risikodimensionen: Adversarial Attacks, bei denen gezielt Eingabedaten so verändert werden, dass KI-Modelle falsche oder verzerrte Ergebnisse liefern; Data Poisoning, bei dem bereits die Trainingsdaten selbst manipuliert werden und sich dadurch systematische Fehler in den Modellen verfestigen und algorithmische Verzerrungen, die unbeabsichtigt diskriminierende oder fehlerhafte Entscheidungen erzeugen und damit nicht nur operative Risiken, sondern auch erhebliche Vertrauensverluste nach sich ziehen können. Klassische Sicherheitsansätze stoßen hier zunehmend an Grenzen, da sie auf andere Systemlogiken und Bedrohungsmodelle ausgelegt sind.

Entscheidend wird daher die Fähigkeit, Datenflüsse transparent zu kontrollieren und Zugriffe granular zu steuern. Monitoring und Logging entwickeln sich dabei nicht nur zu technischen Kontrollmechanismen, sondern auch zu zentralen Elementen regulatorischer Nach­weis­fä­hig­keit. Gleichzeitig zeigt sich ein organisatorischer Nachholbedarf, denn häufig fehlen nicht nur klare interne Richtlinien für den Einsatz von GenAI, sondern auch ein ausreichendes Verständnis für Risiken, Abhängigkeiten und Wirkungsmechanismen von KI-Systemen.

Neben klassischen Governance-Strukturen gewinnen daher AI Literacy sowie kontinuierliche Validierung an Bedeutung. Regelmäßige Tests, Simulationen und Red-Teaming-Ansätze helfen, Schwachstellen sichtbar zu machen und reale Angriffsszenarien frühzeitig zu antizipieren.

Software-Defined Networking trifft auf Künstliche Intelligenz

Die Revolution der autonomen Netzwerksicherheit

Agentic AI im SOC: Automatisierung mit Kontrolle

Mit Agentic AI erreichen die Herausforderungen im Bereich Cyber-Sicherheit eine neue Stufe. Gleichzeitig ist sie aber auch die Grundlage für neue Abwehrstrategien. Ohne sie werden die mit ihrem Einsatz verbundenen Sicherheitsrisiken nicht zu bewältigen sein und es entstehen auch neue Möglichkeiten für Security Operations Center (SOC). Bedrohungen lassen sich schneller erkennen, kontextualisieren und priorisieren, während Reaktionsprozesse effizienter gestaltet werden können. Gleichzeitig bleibt vollständig autonomes Handeln in sicherheitskritischen Umgebungen sowohl operativ als auch regulatorisch hoch problematisch.

In der Praxis etabliert sich daher immer mehr ein hybrides Betriebsmodell. KI-getriebene Lösungen übernehmen dabei Aspekte wie Analyse, Korrelation und Ent­schei­dungs­unter­stützung, während finale Maßnahmen mit hoher Tragweite weiterhin menschlicher Kontrolle unterliegen. Diese Kombination aus Automatisierung und Governance wird zum entscheidenden Faktor für wirksame, skalierbare und zugleich regelkonforme Sicherheitsstrategien. Gleichzeitig wird aber auch deutlich, dass Agentic AI im gesamten IT-Security-Bereich zwar erhebliche Effizienz- und Reaktionsvorteile schafft, gleichzeitig aber ein klar definiertes regulatorisches und organisatorisches Rahmenwerk voraussetzt.

Solange diese Vorgaben nicht eindeutig sind, bleibt die Umsetzung für viele Unternehmen eine Gratwanderung zwischen Innovation und Compliance. Entsprechend sind nicht nur Un­ter­neh­men, sondern auch Gesetzgeber gefordert, die Voraussetzungen für einen verantwortungsvollen und zugleich skalierbaren Einsatz dieser Technologien zu schaffen.

Über den Autor: Matthias Straub ist Senior Vice President Cybersecurity Consulting DACH bei NTT DATA.

Netzverteidigung durch Reinforcement Learning neu denken

Autonome Netzwerk-Agenten lernen Verteidigung und Angriff

(ID:50875405)