Mobile-Menu

Datenschutz und Abhängigkeit bei KI Souveräne KI beginnt mit der Plattform, nicht mit dem Anwendungsfall

Ein Gastbeitrag von Roland Leick 5 min Lesedauer

Anbieter zum Thema

Rödl Rechtsanwaltsgesellschaft Steuerberatungsges. mbH
cidaas by Widas ID GmbH
FTAPI Software GmbH
Arvato Systems GmbH

Mitarbeitende nutzen öffentliche Sprachmodelle längst, oft ohne Wissen der Führung. Verträge, Kundendaten und Planungen landen auf fremden Servern, und wer sie dort speichert und wozu, bleibt im Dunkeln. Wirt­schaft­lich tragfähig wird KI erst, wenn souveräne Architekturen die Public Cloud ergänzen.

Wer KI auf fremden Servern nutzt, gibt die Kontrolle über seine Daten aus der Hand. Souveräne Plattformen holen diese Kontrolle ins Unternehmen zurück.(Bild: © MT.PHOTOSTOCK - stock.adobe.com)
Wer KI auf fremden Servern nutzt, gibt die Kontrolle über seine Daten aus der Hand. Souveräne Plattformen holen diese Kontrolle ins Unternehmen zurück.
(Bild: © MT.PHOTOSTOCK - stock.adobe.com)

Kaum ein Vorstandsgremium oder Geschäftsführer hat nicht über KI-gestützte Auto­ma­ti­sie­rung diskutiert. Doch zwischen Hype und tragfähiger Strategie besteht meist eine erhebliche Lücke. Sicherheitsverantwortliche stehen vor einer paradoxen Situation: Sie sollen Innovation ermöglichen und gleichzeitig Risiken kontrollieren, die sich noch nicht vollständig erfassen lassen. Diese Kontroverse ist lösbar, erfordert aber eine Herangehensweise, die technische Architektur, regulatorische Anforderungen und Governance konsequent zusammenführt.

Warum die Ausgangslage riskanter ist als sie scheint

Viele Unternehmen sind bereits tief in der KI-Nutzung, ohne dass dies allen Beteiligten bewusst ist. Mitarbeitende nutzen öffentlich verfügbare Sprachmodelle für Textarbeiten, Analysen oder Recherchen. Vertragsdetails, Kundendaten oder strategische Planungen fließen in externe Systeme, deren Verarbeitungslogik und Speicherorte intransparent bleiben.

Die strukturellen Risiken sind erheblich. Datenschutzrechtlich ist die Verarbeitung personenbezogener oder unternehmenskritischer Daten in Public-Cloud-Modellen, insbesondere bei US-amerikanischen Anbietern, in vielen Fällen mit der DSGVO unvereinbar. Eine Rechtsgrundlage nach Artikel 6 DSGVO sowie gegebenenfalls eine Datenschutz-Folgenabschätzung sind Pflicht. Wer seine KI-Infrastruktur ausschließlich auf einem oder wenigen Hyperscalern aufbaut, schafft zudem eine strategische Abhängigkeit, die sich nach dem Go-live kaum noch auflösen lässt. Vendor-Lock-in ist im KI-Kontext besonders kritisch, weil Modelle, Trainingsdaten und Prozessintegrationen eine enge Kopplung erzeugen. Hinzu kommt eine schwer kalkulierbare Kostendynamik: Nutzungsbasierte Abrechnungsmodelle führen bei flächendeckender KI-Durchdringung zu unplanbaren Budgetbelastungen.

Der EU AI Act: Regulierung als Orientierungsrahmen

Seit dem 1. August 2024 ist der EU AI Act in Kraft, das weltweit erste umfassende Gesetz zur Regulierung Künstlicher Intelligenz. Ab dem 2. August 2026 gilt die Verordnung vollumfänglich, mit Ausnahme spezifischer Hochrisiko-Systeme, für die eine Übergangsfrist bis 2027 besteht. Für spezifische Hochrisiko-KI-Systeme bestehen noch längere Übergangsfristen, jedoch muss der Kontext der Nutzung speziellen Gegebenheiten entsprechen.

Die Risikoklassifizierung ist der zentrale Mechanismus: Unzulässige KI-Praktiken sind verboten. Hochrisiko-Systeme unterliegen Anforderungen an Qualitätsmanagement, Logging, menschliche Aufsicht und Risikomanagement. Systeme mit begrenztem Risiko erfordern Transparenzpflichten gegenüber Nutzern, Systeme mit minimalem Risiko bleiben weitgehend unreguliert. Für allgemeine Sprachmodelle gelten eigene Dokumentations- und Transparenzpflichten.

Für IT-Sicherheitsverantwortliche bedeutet der EU AI Act konkret: KI-Systeme müssen in einer robusten und manipulationssicheren Umgebung betrieben werden. Damit wird Cybersicherheit zugleich zu einer regulatorischen Anforderung.

Das Schichtenmodell: 3 Ebenen – wo Kontrolle wirklich ansetzt

Um KI sicher einzuführen, hilft ein architektonisches Verständnis der drei Ebenen jeder KI-Lösung.

  • 1. Die Hardware-Schicht umfasst die physische Infrastruktur, also die Server, auf denen Modelle laufen, deren Rechenzentrumsstandort und den Zugang zu diesen Systemen. Dies ist die Schicht mit der höchsten Intransparenz bei Public-Cloud-Modellen und gleichzeitig diejenige, über die grundlegende Datensouveränität hergestellt oder verloren wird.
  • 2. Die Software-Plattform-Schicht bestimmt, welche Daten mit welchen Modellen verarbeitet werden dürfen, wie Berechtigungen vergeben werden und wie Datenquellen angebunden sind. Fehlkonfigurationen auf dieser Ebene führen zu den gefürchteten Szenarien, in denen Nutzer Zugang zu Daten erhalten, die sie nicht einsehen dürfen.
  • 3. Die Use-Case-Schicht definiert schließlich, was konkret umgesetzt wird. Ein scharf definierter Use Case minimiert Risiken, ein breiter angelegter Use Case schöpft wirtschaftliches Potenzial besser aus, erfordert aber stärkere Governance.

Wichtig in diesem Zusammenhang ist zu berücksichtigen, dass viele Maßnahmen in allen drei Ebenen durchzuführen sind.

Fünf Handlungsempfehlungen für Sicherheitsverantwortliche

Daten vor großflächiger KI-Einführung kategorisieren: Bevor Daten in KI-Systeme fließen, sollten sie nach Schutzbedarf klassifiziert sein. Gering sensible Daten können auch in Public-Cloud-Modellen verarbeitet werden. Für hochsensible Informationen, etwa strategische Planungen oder personenbezogene Daten, ist eine dedizierte, lokal kontrollierte Infrastruktur zwingend.

Standortfrage beim Cloud-Anbieter klären: Der physische Standort der Datenverarbeitung ist datenschutzrechtlich relevant. Rechenzentren in Deutschland oder der EU sind Angeboten mit US-amerikanischem Rechtsrahmen klar vorzuziehen, sofern keine zwingenden technischen Gründe dagegensprechen.

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zur IT-Sicherheit

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Governance-Strukturen vor dem Rollout definieren: Wer überwacht KI-Systeme auf Fehlentscheidungen? Wer ist verantwortlich für das Incident-Handling? Wie werden menschliche Kontrollpunkte in automatisierte Prozesse integriert? Diese Fragen müssen vor dem produktiven Einsatz beantwortet sein, nicht danach.

Risikoklasse nach EU AI Act frühzeitig bestimmen: Jedes geplante KI-System sollte frühzeitig auf seine Klassifizierung geprüft werden. Hochrisiko-Anwendungen erfordern umfangreiche Konformitätsbewertungen und Dokumentationspflichten. Wer das erst nach der Implementierung erkennt, steht vor kostspieligen Nacharbeiten.

Transparenz und Nachvollziehbarkeit technisch verankern: KI-gestützte Entscheidungen müssen für Betroffene nachvollziehbar sein. Systeme ohne Audit-Trails oder ohne Erklärbarkeit ihrer Entscheidungslogik sind in vielen regulierten Anwendungsfeldern nicht einsetzbar.

Vom Pilotprojekt zur strategischen Plattform

Der häufigste Fehler bei der KI-Einführung: Einzelne Use Cases werden isoliert entwickelt, ohne eine strategische Plattformarchitektur zu definieren. Die Folge sind inkompatible Insel­lösungen, die weder skalierbar noch zentral kontrollierbar sind.

Eine nachhaltige KI-Strategie beginnt deshalb mit der Infrastrukturarchitektur, nicht mit dem Use Case. Die entscheidende Frage lautet „Wie bauen wir eine KI-Plattform, die sicher, datensouverän und skalierbar ist?“

Dedizierte KI-Plattformen auf eigener oder vertraglich abgesicherter Infrastruktur in Deutschland bieten klare Vorteile: Sie ermöglichen die Anbindung verschiedener Sprachmodelle, lassen sich schrittweise erweitern und geben die Kontrolle über die Datenschicht nicht aus der Hand.

Aus Sicherheitsperspektive kommen weitere Stärken hinzu: Zugriffskontrollen lassen sich granular auf Unternehmensebene definieren, die Datenisolation zwischen verschiedenen Nutzergruppen technisch durchsetzen sowie Logging und Monitoring nahtlos in die bestehende Security-Infrastruktur integrieren.

KI braucht organisatorische Verankerung

Technische Architektur allein reicht nicht. Unternehmen brauchen klare organisatorische Zuständigkeiten. Ein KI-Verantwortlicher trägt die fachliche und regulatorische Gesamt­ver­ant­wor­tung und arbeitet eng mit dem CISO zusammen, da KI-Sicherheit zunehmend Bestandteil der gesamten Informationssicherheitsstrategie wird.

Darüber hinaus sind interdisziplinäre Projektteams nötig, die rechtliche, technische und fachliche Expertise bündeln. In der Praxis geraten KI-Projekte häufig ins Stocken, weil Zuständigkeiten nicht klar definiert sind oder regulatorisches Know-how fehlt.

Souveränität ist kein Rückschritt

Der Einsatz Künstlicher Intelligenz bietet erhebliche Chancen. Diese Chancen lassen sich aber nur dann nachhaltig ausschöpfen, wenn die Grundlage stimmt: eine datensouveräne Infrastruktur, klare Governance, regulatorische Konformität und eindeutig definierte Verantwortlichkeiten. Für IT-Sicherheitsverantwortliche bedeutet das eine erweiterte Rolle. KI-Sicherheit ist eine eigenständige Disziplin, die strategisches Denken, regulatorisches Wissen und enge Zusammenarbeit mit der Unternehmensführung erfordert. Wer heute die richtigen Weichen stellt, schafft die Voraussetzungen, KI langfristig als belastbaren Wettbewerbsvorteil zu nutzen.

Über den Autor: Roland Leick ist Partner bei RÖDL. Als Geschäftsführer der RÖDL IT Operation GmbH und der cloudgermany.de GmbH verantwortet er den Bereich Managed IT Services sowie die IT-Standorte innerhalb RÖDL. Sein Schwerpunkt liegt auf KI, Cloud-Lösungen, SAP und Managed Services sowie der digitalen Transformation von Unternehmen.

(ID:50997374)

Weiterführende Inhalte