Beratung und Überwachung bei Künstlicher Intelligenz (KI) Was Datenschutzbehörden für die KI-Aufsicht planen

Anbieter zum Thema

Fsas Technologies GmbH

FAST LTA GmbH

FTAPI Software GmbH

Bei der nationalen Umsetzung der KI-Verordnung der EU soll die Bundesnetzagentur die Marktaufsicht in Deutschland übernehmen, nicht aber die Datenschutzaufsichtsbehörden. Das bedeutet aber nicht, dass die Datenschutzbehörden bei KI-Projekten nicht mehr involviert werden müssen. Eine Vielzahl an KI-Initiativen der Datenschutzaufsicht unterstreicht dies.

Die nationale Aufsicht bei Fragen Künstlicher Intelligenz ist aufgrund der sektoralen Zuständigkeiten und der föderalen Aufteilung komplex, https://www.bundestag.de/dokumente/textarchiv/2024/kw20-pa-digitales-ki-1001728 so der Deutsche Bundestag. Gemeint ist damit, dass der Umgang mit KI nicht nur in den einzelnen Bundesländern, sondern auch für alle möglichen Branchen kontrolliert und überwacht werden muss.

Die KI‐VO (KI-Verordnung) sieht bereits in einigen Fällen die sektorspezifische Zuständigkeit der Datenschutzbehörden als Marktüberwachungsbehörden vor. Die Datenschutzaufsichtsbehörden erklärten sich bereit, die Aufgabe der nationalen Marktüberwachung für KI‐Systeme zu übernehmen. Als Argumente nannten sie die bestehenden Zuständigkeiten nach der DSGVO (Datenschutz-Grundverordnung der EU), eine langjährige Expertise im digitalen Grundrechtsschutz und etablierte, kooperative Aufsichts‐ sowie Abstimmungsmechanismen.

Datenschutz als Mehrwert für KI

Warum der Datenschutz der Künstlichen Intelligenz doppelt hilft

Aus Sicht der deutschen Wirtschaft sprechen aber einige Argumente dafür, die Bundesnetzagentur (BNetzA) mit der Aufgabe der nationalen KI-Aufsicht zu betrauen, wie die Deutsche Industrie- und Handelskammer erklärte. Die BNetzA könne an bisherige Erfahrungen anknüpfen, als zentrale Ansprechbehörde fungieren und damit eine bundesweit einheitliche Auslegung gewährleisten. In der Vergangenheit hätte sie dies bereits mit der Aufsicht über Unternehmen in anderen Bereichen unter Beweis gestellt, unter anderem in der Telekommunikation sowie im Strommarkt.

Inzwischen hat sich die Bundesregierung für eine deutsche KI-Aufsicht durch die Bundesnetzagentur entschieden. Doch die Datenschutzaufsichtsbehörden sind damit nicht „aus dem Spiel“.

DSGVO bleibt Herausforderung

Deutschland übertreibt es mit dem Datenschutz

Zahlreiche KI-Initiativen der Datenschutzbehörden

„Das Verhältnis von Künstlicher Intelligenz zum Datenschutz ist ein Schwerpunkt meiner Behörde. Schon 2019 haben wir in unserer Hambacher Erklärung als deutsche Datenschutzaufsichtsbehörden eine humanistische und damit grundrechtsschützende Ausrichtung von KI als Standard gefordert“, erklärte Prof. Dr. Dieter Kugelmann, Landesbeauftragter für den Datenschutz und die Informationsfreiheit Rheinland-Pfalz.

Wie sehr die Datenschutzaufsicht mit dem Thema KI in Verbindung bleibt, zeigen umfangreiche Initiativen dieser Aufsichtsbehörden rund um Künstliche Intelligenz. Das sollte auch nicht verwundern, denn KI-Systeme verarbeiten in vielen Fällen personenbezogene Daten, zudem haben die Datenschutzaufsichtsbehörden aus der KI-Verordnung heraus definierte Aufgaben bei der Marktüberwachung bei KI, in den besonders grundrechtsrelevanten Bereichen der Strafverfolgung, Migration, Integration und Wahlen.

Risk Management bei KI

EU AI Act als Wegweiser für sichere KI-Systeme

„Auch für Künstliche Intelligenz gilt das Datenschutzrecht und wir beschäftigen uns bereits gegenwärtig mit der Technologie, ihrer Anwendung durch Verwaltung und Wirtschaft sowie ihrer Fortentwicklung“, so Prof. Kugelmann. „Zugleich geht es darum, die Entwicklung im Rahmen des Datenschutzrechts in die Richtung einer menschenzentrierten und grundrechtsschonenden Nutzung von Systemen Künstlicher Intelligenz zu lenken.“

Tatsächlich sind die Datenschutzaufsichtsbehörden sehr aktiv im Bereich der Beratung und Überwachung von KI, wie diese Beispiele zeigen:

• Mit einem Themenschwerpunkt zu KI & Datenschutz bietet das Landesamt für Datenschutzaufsicht (bayerischen) Unternehmen erste Orientierung und Hilfestellungen für den datenschutzgerechten Einsatz von KI-Technologien. Dazu der Präsident des Landesamts Michael Will: „Gerade kleine und mittlere Unternehmen brauchen mehr als akademische Leuchtturmprojekte, um ihren passenden Zugang zum Zukunftsthema KI zu finden. Die neuen Informationsangebote des Landesamts bieten deshalb einen Lotsendienst durch die Klippen neuer Begriffe, Funktionen und Anforderungen, damit der digitale Alltag in Unternehmen auch mit KI gelingt.“

• Der Landesbeauftragte für den Datenschutz (LfD) Niedersachsen begleitet als Projektpartner das Forschungsprojekt CRAI zur Entwicklung vertrauenswürdiger KI-Anwendungen für den Mittelstand. Im Rahmen des Projekts entsteht in Niedersachsen ein Reallabor, in dem praxisnahe Lösungen für den Einsatz vertrauenswürdiger, auf Künstlicher Intelligenz (KI) basierter Geschäftsmodelle in mittelständischen Unternehmen entwickelt werden.

• Ein vom Landesbeauftragten für den Datenschutz (LfD), Denis Lehmkemper, einberufener Expertenkreis zu Künstlicher Intelligenz (KI) hat seine Arbeit aufgenommen. Ziel des Expertenkreises ist es, Rahmenbedingungen für den datenschutzkonformen Einsatz Künstlicher Intelligenz in der Wirtschaft wie auch in der niedersächsischen Verwaltung zu formulieren. Es sollen technische und rechtliche Gestaltungsvorschläge für einen datenschutzfreundlichen KI-Einsatz erarbeitet werden, um diese technische Innovation zu fördern.

• Forschende der Universität Bayreuth schaffen in Zusammenarbeit mit dem Landesbeauftragten für den Datenschutz und die Informationsfreiheit (LfDI) Rheinland-Pfalz die Grundlage für digitale Experimentierumgebungen. In diesen können Unternehmen und Behörden künftig die Datenschutzkonformität ihrer Anwendungen testen. Das Projekt wird vom Bundesministerium für Bildung und Forschung (BMBF) gefördert. Obwohl das europäische Recht für den Bereich der Künstlichen Intelligenz die Einrichtung von „KI-Reallaboren“ bereits verbindlich vorgibt, ist noch weitgehend offen, wie eine Sandbox unter deutschen Regularien realisiert werden kann. „Unser Projekt ist ein wichtiger Schritt in Richtung sicherer und innovativer digitaler Anwendungen in Deutschland. Wir stellen damit eine Balance zwischen dem Schutz sensibler Daten und der Förderung von Innovationen her, indem wir eine Umgebung schaffen, in der Unternehmen neue Technologien und Lösungen testen können, ohne die Privatsphäre der Nutzenden zu gefährden“, sagte Prof. Dr. Christoph Krönke vom Lehrstuhl Öffentliches Recht I der Universität Bayreuth.

KI-Tools und Datenschutz – Darauf ist zu achten!

Wie man KI-Tools daten­schutz­konform nutzen kann

KI-VO: Auch Datenschutzbehörden werden sie umsetzen

Offensichtlich sollten KI-Projekte auch immer den Datenschutz im Blick behalten, so wie der Datenschutz die KI im Fokus hat und haben wird. Bei der Strategieklausur der Datenschutzaufsichtsbehörden in Speyer erklärten diese, dass es ihre Aufgabe sei, Behörden und Unternehmen, die KI einsetzen, mit ihrer Expertise für den Schutz personenbezogener Daten eng und praxisorientiert zu begleiten. Dies beginne bereits mit dem Training von generativen KI-Modellen, die ganz offensichtlich das Kernelement der meisten in der Praxis eingesetzten KI-Systeme bilden werden. Wer ihre Funktionsbedingungen rechtlich und technisch genauer analysiert, werde feststellen, dass schon hier in den allermeisten Fällen eine Verarbeitung personenbezogener Daten nicht auszuschließen ist.

Für die Nutzung von LLMs zum Beispiel gibt der Hamburgische Beauftragte für Datenschutz und Informationsfreiheit (HmbBfDI) diese zentralen Hinweise: Die bloße Speicherung eines LLMs stellt keine Verarbeitung im Sinne der DSGVO dar. Mangels Speicherung personenbezogener Daten im LLM können die Betroffenenrechte der DSGVO nicht das Modell selbst zum Gegenstand haben. Aber das Training von LLMs mit personenbezogenen Daten muss datenschutzkonform erfolgen.

Der Datenschutz bei KI ist und bleibt also ein zentrales Thema und damit bleiben die Datenschutzbehörden auch Teil der KI-Aufsicht.

(ID:50283838)