Big Brother bekommt mehr Gegenwind Gesichtserkennung und Datenschutz

Von Dr. Thomas Fischl

Anbieter zum Thema

Von Nutzern selbst hochgeladene Inhalte wie Fotos und Videos, die im Internet öffentlich zugänglich sind, sind keine „datenschutzfreien“ Daten. Nur weil Daten öffentlich zugänglich sind, stehen sie nicht zur freien Nutzung bereit. Das hat das Unternehmen Clearview AI, das eine KI-gestützte Gesichtserkennungssoftware in Form einer Suchmaschine anbietet, nun auch in den USA anerkennen müssen.

Auf EU-Ebene scheint sich gegenüber einer automatisierten Gesichtserkennung eine gewisse Skepsis zu manifestieren.
Auf EU-Ebene scheint sich gegenüber einer automatisierten Gesichtserkennung eine gewisse Skepsis zu manifestieren.
(Bild: DedMityay - stock.adobe.com )

Clearview AI, mit Sitz in den USA, stellt einen hochqualifizierten Suchdienst bereit. Das Unternehmen extrahiert öffentlich zugängliche personenbezogene Daten wie Bilder und Videos aus sozialen Netzwerken, Nachrichtenportalen, Fahndungswebsites und anderen offenen Quellen und speist sie in ihre Datenbank ein. Mittels KI (Künstliche Intelligenz) werden Profile auf der Grundlage biometrischer Daten erstellt, die auf dem öffentlich zugänglichen Video- und Bildmaterial basieren und durch zusätzliche Informationen wie Geo-Daten angereichert werden.

Das Unternehmen nutzt dabei eine KI-gestützte biometrische Gesichtserkennungs­software und erstellt eine digitale Darstellung der Gesichtsmerkmale. Mit den hinzugefügten Geo-Daten kann die Suchmaschine eine Person anhand ihres Fotos in der riesigen Datenbank finden. Der Datenbestand beläuft sich nach Angaben von Clearview AI auf über 10 Mrd. Dateien.

In einer juristischen Auseinandersetzung mit Clearview AI hat die US-Bürgerrechts­organisation ACLU (American Civil Liberties Union) nun einen Erfolg errungen. Im Jahr 2020 hatte die ACLU eine Klage eingereicht und Clearview AI vorgeworfen, gegen Gesetze in Illinois zu verstoßen, nach denen private Unternehmen ohne Einwilligung der Personen keine biometrischen Daten sammeln oder verwenden dürfen. Clearview AI hat nun unter dem Druck des Verfahrens einem Vergleich zugestimmt, der besagt, dass Clearview AI seine Gesichtsdatenbank den meisten privaten Einrichtungen und anderen privaten Einrichtungen in den USA nicht mehr zugänglich machen darf, weder kostenlos noch gegen Geld.

Die Vereinbarung entfaltet über Illinois hinaus für die gesamte USA Wirksamkeit. Staatliche Organisationen dürfen Clearviews App jedoch weiter verwenden – außer in Illinois. Dort gilt für einen Zeitraum von fünf Jahren ein Verbot des Verkaufs der App an Strafverfolgungs- und Polizeibehörden.

Welche Bedeutung hat die Entscheidung über die USA hinaus?

Die Entscheidung liegt auf der Linie einer Reihe von aufsichtsrechtlichen und auch gerichtlichen Verfahren, die bereits in der Vergangenheit weltweit gegen die wirtschaftliche Verwertung biometrischer Gesichtserkennungsmethoden angestrengt wurden. So gibt es nicht nur in Europa Bestrebungen, derartigen Geschäftsmodellen ihre Schranken aufzuzeigen, sondern etwa auch in Kanada oder Australien, wo die Datenschutzbehörden Clearview AI zur Löschung aller Daten und zum Einstellen ihrer Tätigkeit aufgefordert hatten.

Wie ist die Rechtslage in Deutschland und Europa?

Die datenschutzrechtlichen Aufsichtsbehörden in Europa vertreten eine weitgehend einheitliche Auffassung. Clearview AI könne sich weder für das Web Scraping noch für die weiteren Datenverarbeitungen auf eine Rechtsgrundlage stützen. Da etwa Nutzer von Instagram, Facebook, LinkedIn oder anderen sozialen Netzwerken nicht vor dem Zugriff auf ihre Daten nach einer Einwilligung in die Datenverarbeitung durch Clearview AI gefragt worden sind, komme als Rechtsgrundlage allenfalls das sogenannte „berechtigte Interesse“ nach Maßgabe von Art. 6 Abs. 1 S. 1 lit. f DSGVO in Betracht.

Kein berechtigtes Interesse im Sinne des Datenschutzes von Clearview AI

Als berechtigtes Interesse führt Clearview AI unter anderem das Interesse der effektiven Strafverfolgung an. Es darf jedoch bezweifelt werden, ob die einfachere Strafverfolgung aus altruistischen Motiven tatsächlich das originäre Interesse von Clearview AI ist. Dementsprechend kommen die Aufsichtsbehörden auch zu dem Schluss, dass jedenfalls kein überwiegendes berechtigtes Interesse ersichtlich sei.

Verletzung weiterer Grundsätze des Datenschutzrechts

Die Datenschutzbehörden gehen ferner davon aus, dass wegen des Fehlens einer Rechtsgrundlage ein Verstoß gegen das Rechtmäßigkeitsprinzip nach Art. 5 vorliege. In der fehlenden Informierung der betroffenen Personen darüber, dass ihre Daten durch Clearview AI verarbeitet worden sind, liege zudem ein Verstoß gegen Transparenzpflichten. Außerdem verstoße Clearview AI gegen den Zweckbindungsgrundsatz, weil das Unternehmen Daten zu anderen als den ursprünglichen Zwecken verarbeitete, verwendete und speicherte. Nutzer sozialer Netzwerke, die Bilder oder Videos hochladen, erwarteten vernünftigerweise nicht, dass ihre Daten zum Zwecke der Strafverfolgung- und prävention gespeichert werden.

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zur IT-Sicherheit

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung.

Aufklappen für Details zu Ihrer Einwilligung

Vorgehen der Datenschutzbehörden

Nachdem bereits die kanadische, australische und französische Datenschutzbehörde Clearview AI zur Löschung aller Daten und zum Einstellen seiner Tätigkeit aufgefordert hatten, hat im März 2022 auch die italienische Datenschutzbehörde ein Bußgeld in Höhe von 20 Mio. EUR gegen Clearview AI verhängt. Eine weitere, ähnliche Entscheidung wird für Österreich erwartet.

Gibt es einen Schutz vor Gesichtserkennungssoftware?

Vermutlich gibt es nur einen sicheren Weg, sich vor Gesichtserkennung in sozialen Netzwerken schützen: Man verzichtet auf die Teilnahme an sozialen Netzwerken oder teilt dort keine Fotos. Für viele wird das keine echte Option sein.

Möglicherweise können auch Filter gegen Überwachung helfen. Auf dem Markt sind einige Softwaretools, die versprechen, den Nutzern wieder ein bisschen Kontrolle zurück zu geben. Die Programme versehen die Fotos mit Hintergrund-Artefakten, die KI-Modelle zur Bilderkennung in die Irre führen.

Ausblick

Es ist zu erwarten, dass auf längere Sicht eindeutigere gesetzliche Regulierungen greifen werden. Bis dahin werden Unternehmen die Grauzonen jedoch weiter nutzen. Auf EU-Ebene scheint sich jedenfalls gegenüber einer automatisierten Gesichtserkennung eine gewisse Skepsis zu manifestieren. Der gegenwärtigen Entwurf der einer neuen EU KI-Verordnung lässt sich so interpretieren. Darin ist ein Verbot der Verwendung biometrischer Echtzeit-Identifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken vorgesehen. Eine Reihe von Ausnahmen sind darin jedoch vorgesehen, über die sicherlich weiter intensiv diskutiert werden wird.

Über den Autor: Dr. Thomas Fischl ist Rechtsanwalt und Partner der globalen Wirtschafts- und Anwaltskanzlei Reed Smith und Mitglied der Entertainment & Media Group. Als anerkannter Experte auf dem Gebiet des Rechts der Informationstechnologie berät er deutsche und internationale Unternehmen zu allen rechtlichen Fragestellungen rund um Digitalisierung, Digital Media, IoT, Virtual Reality, Social Media und Data Economy. Regelmäßig beschäftigt er sich mit Themen wie Datenschutz, Cybersecurity, Risk Management und Compliance.

(ID:48389917)