Einwilligung zu Big Data und KI Ist „echte“ Einwilligung bei der Datenverarbeitung möglich?

Anbieter zum Thema

Wipro Technologies

Fsas Technologies GmbH

FAST LTA GmbH

FTAPI Software GmbH

Datenschutz ist ein dynamisches Konzept, das sich mit neuen Technologien weiterentwickelt. Er bedeutet mehr als nur Privatsphäre: Es geht um faire und transparente Nutzung von Informationen. Mit Big Data und KI wird Datenschutz herausgefordert. Es ist entscheidend, dass Verbraucher, Unternehmen und Politik zusammenarbeiten, um Datenschutz nachhaltig zu gestalten.

Datenschutz ist kein statisches Konzept. Es hat sich im Laufe der Zeit weiterentwickelt und verändert, insbesondere mit Blick auf neue Technologien und Herausforderungen. Im folgenden Beitrag soll es darum gehen, dass Datenschutz und Privatsphäre nicht nur bedeuten, „in Ruhe gelassen zu werden“ oder die Kontrolle über persönliche Informationen zu behalten. Es geht auch – in Anlehnung an Helen Nissenbaum – darum, die Normen und Werte unterschiedlicher gesellschaftlicher Kontexte zu respektieren und sicherzustellen, dass unsere Informationen fair, transparent und im Sinne des Einzelnen genutzt werden.

Big Data und KI stellen Datenschutz auf die Probe

Unser Blick auf Datenschutz hat sich mit den Möglichkeiten neuer Technologien deutlich gewandelt. Der Wunsch nach Komfort hat ebenfalls einen beachtlichen Einfluss darauf, da wir von neuen Produkten angesprochen werden, die darauf abzielen, den Alltag zu vereinfachen – im Gegenzug für unsere privaten Daten. Dieses Konzept ist deshalb kritisch zu betrachten, weil es Verbraucherinnen und Verbrauchern in ein einseitiges und ungleiches Verhältnis zu Technologie stellt: sie vertrauen diesem Prozess zwar nicht so recht, können ihn aber gleichzeitig auch nicht verlassen. Dies kann nicht die Grundlage für ein gesundes und nachhaltiges Verhältnis zu Technologie sein und ist sicherlich nicht im Sinne der Gesamtgesellschaft.

Datenerhebung ist mittlerweile allgegenwärtig. Das bedeutet, dass private und öffentliche Akteure Informationen besitzen, die intime Details über unser Leben, unsere Vorlieben, Verhaltensweisen und Beziehungen offenbaren. Problematisch daran ist, dass diese potenziell gegen uns verwendet werden können, beispielsweise hinsichtlich Beeinflussung oder Diskriminierung. Um nun die Chancen und Vorteile aus der Transformation durch Big Data und KI zu unserem Vorteil zu nutzen, müssen wir die besondere Rolle anerkennen, die Datenschutz spielt. Nicht zuletzt sollten dafür Organisationen, politische Entscheidungsträger und Verbraucher zusammenkommen, um das Konzept mit Leben zu füllen.

Als ich im März dieses Jahres vor der UN-Frauenrechts­kommission in New York sprach, habe ich das aktuelle Zustimmungsmodell als Einbahnstraße kritisiert: denn allzu oft werden Benutzer mit unverständlichen, undurchsichtigen Datenschutzhinweisen und endlosem Scrollen winziger, vertrackter Auswahlfelder überhäuft. Diese einseitige Transaktion ist kein sinnvolles Zustimmungsmodell. Aber ist „echte“ Zustimmung überhaupt noch möglich? Aus meiner Sicht sollten hierfür vor allem zwei Elemente berücksichtigt werden:

1. Privacy by Design

Im Herbst vergangenen Jahres hat der Europäische Datenschutzausschuss (EDSA) eine bindende Entscheidung zum Meta Konzern erlassen, die die Bedeutung (echter) Zustimmung deutlich verstärkt. Der EDSA entschied, dass Meta IE sich unzulässigerweise auf das Modell des Vertrags als Rechtsgrundlage stützte, um personenbezogene Daten im Zusammenhang mit den Nutzungsbedingungen von Facebook und Instagram zum Zwecke verhaltensbasierter Werbung zu verarbeiten. Denn dies stellte keinen Kernbestandteil der Dienste dar – der entscheidende Punkt ist, dass derartige Werbung für die Vertragserfüllung gegenüber Facebook- und Instagram-Nutzern nicht notwendig ist.

Dieser wichtige Punkt wird nun Auswirkungen auf alle Organisationen haben, die diese Art von Werbung betreiben: Ist es notwendig, Daten zu verarbeiten, um den jeweiligen Dienst ausführen zu können? „Ja“: dann ist der Vertrag die geeignete Rechtsgrundlage. „Nein“: hier ist Zustimmung erforderlich; und zwar eine Art von Zustimmung, bei der Nutzer widersprechen können, ohne den kompletten Zugang zu dem Dienst zu verlieren.

Die Ausgestaltung von Datenschutz geht über „Privacy by Design“ hinaus – hin zu der Frage, wie dabei größtmögliche Freiheit und Wahlmöglichkeiten sichergestellt werden können. Unternehmen sollten sich nicht davon abschrecken lassen – sondern dies vielmehr als Herausforderung annehmen, um im KI-Zeitalter erfolgreich zu sein.

2. Datenschutz als roter Faden anstelle von punktuellem Einsatz

Datenschutz umfasst heute zahlreiche Bereiche. Forscher weisen beispielsweise auf die Notwendigkeit hin, datenbezogene Gefahren eng zu definieren, um die Bedeutung von Datenschutz nicht in einer Vielzahl von Bereichen zu verwässern, in denen dieser Ansatz zwar eine Sichtweise bieten kann (wie bei Deepfakes), aber keine Lösung.

Genau aus diesem Grund ist der Blick auf Künstliche Intelligenz spannend. Da viele der durch KI verursachten Schäden tendenziell als Datenschutz-Verstöße wahrgenommen werden, sind Datenschutz-Regulierungsbehörden maßgeblich daran beteiligt, das Recht des Einzelnen in automatisierten Systemen zu schützen. Es gibt sogar Stimmen, die sich dafür aussprechen, dass Datenschutzbehörden de facto KI-Regulierungsbehörden werden sollten.

Beispiele derartiger Verstöße gibt es viele: So stellte sich beispielsweise im Fall einer rund 40-jährigen Frau, die in einem Online-Shop einen Kauf auf Rechnung tätigen wollte, heraus, dass diese Zahlungsmethode aufgrund einer diskriminierenden Interpretation ihrer persönlichen Daten abgelehnt wurde: Denn das eingesetzte Algorithmische Entscheidungssystem (ADM) operierte mit dem Vorurteil, Frauen in dieser Altersklasse seien oft geschieden und daher weniger kaufkräftig, sprich nicht kreditwürdig. Auch bei der Jobsuche treffen Algorithmen mitunter Entscheidungen, die Stereotype und gesellschaftliche Ungleichverteilungen weiter verstärken. So wurde in einem Experiment von AlgorithmWatch gezeigt, dass die untersuchte Social Media Plattform Stellenanzeigen für „männlich“ assoziierte Berufe mit überwältigender Mehrwert jenen Menschen ausspielte, die das System aufgrund der Datenbasis als Männer identifizierte. Eine entgegengesetzte Verteilung ergab sich für pädagogische Berufe, die zu 96 % einer weiblichen Zielgruppe vorgeschlagen wurden.

Eine Ausweitung der Datenschutzbestimmungen birgt auch ein gewisses Risiko, aber dies ist aus meiner Sicht unvermeidlich – vor allem vor dem Hintergrund, dass eine Unterscheidung zwischen personenbezogenen und nicht-personenbezogenen Daten mit KI nicht mehr möglich ist. Wie werden wir noch in der Lage sein, zu unterscheiden, welche Informationen persönlich sind, wenn aus ursprünglich nicht-personenbezogenen Daten hochsensible Details abgeleitet werden können? Aus diesem Grund entwickelt sich Datenschutz zunehmend zu einem roten Faden, der sich durch alle Bereiche einer Organisation zieht, anstatt für sich alleine zu stehen.

Ein kollektives Projekt

Datenschutz ist weder eine Pauschallösung, noch handelt es sich um einen starren Begriff. Es geht um ein dynamisches und kollektives Konzept mit direkten Auswirkungen auf unsere gesellschaftlichen und demokratischen Werte und Institutionen. Somit sollte der einzelne Nutzer in Sachen Datenschutz nicht sich selbst überlassen werden – denn für einen effektiven Schutz der Privatsphäre braucht es nicht nur ein starkes Bewusstsein, sondern auch die entsprechenden Ressourcen und Befugnisse.

Um die Entwicklung und den Einsatz von Big Data und KI zu gestalten sowie Datenschutzpolitik und -regulierung in eine förderliche Richtung zu steuern, bedarf es vielmehr der Beteiligung und Zusammenarbeit diverser Interessengruppen wie Unternehmen und Zivilgesellschaft. Letztere können einen entscheidenden Beitrag dazu leisten, Bewusstsein und Aufklärung rund um Datenschutz zu fördern sowie Innovationen und Best Practices zu begünstigen. Außerdem spielen sie eine Schlüsselrolle, wenn es darum geht, für Datenschutzrechte und -interessen einzustehen und in Fällen von Verstößen die entsprechenden Akteure in die Verantwortung zu nehmen.

Über die Autorin: Ivana Bartoletti ist Chief Privacy & AI Governance Officer bei Wipro. Sie ist eine international anerkannte Expertin für Datenschutz und einen verantwortungsvollen Technologie-Einsatz. Außerdem gründete sie das Netzwerk Women Leading in AI.

(ID:50066344)