Clearview AIDer lange Weg zu den eigenen Datenschutzrechten

Clearview AI funktioniert wie eine Suchmaschine für Gesichter: Strafverfolgungsbehörden aus mehreren Ländern nutzten die Software, um Personen zu identifizieren. Wir haben mit Matthias Marx gesprochen, der sich in der Gesichter-Datenbank wiederfand und die Datenschutzaufsicht eingeschaltet hat.

Gesichtserkennungssoftware
Clearview AI hat eine Gesichtsdatenbank mit über 3 Milliarden Bildern aus sozialen Netzwerken. (Symbolbild) Vereinfachte Pixabay Lizenzgeralt

Ende Januar letzten Jahres schien es, als wäre eine Überwachungsdystopie Realität geworden und keiner hatte es mitbekommen. Die New York Times berichtete von dem Start-Up Clearview AI, das aus über drei Milliarden Fotos eine biometrische Datenbank erstellt hatte. Ihre Gesichtserkennungssoftware wurden auch von Polizeibehörden verwendet. Die ersten bekannten Fälle waren in den USA, wo Polizist:innen vermehrt Fotos von Gesichtern über eine App hochluden und überprüften. Eigenen Angaben zu Folge nutzt das Unternehmen nur öffentlich zugängliche Fotos, von Facebook, Instagram oder anderen sozialen Plattformen.

Der Informatiker Matthias Marx fand sich in der Datenbank von Clearview wieder, damit begann für ihn ein langer Weg. Er kontaktierte erst das Unternehmen selbst und reichte dann deshalb gemeinsam mit Alan Dahi von der Datenschutz-Organisation noyb Beschwerde beim Hamburgischen Datenschutzbeauftragten (HmbBfDI) ein. Am Ende stand für Marx ein kleiner Erfolg, doch er hatte sich mehr erhofft, erzählt er im Gespräch mit netzpolitik.org.

Der Beginn einer monatelangen Auseinandersetzung

Matthias Marx arbeitet in einem Forschungsprojekt zur Sicherheit dezentraler Systeme an der Uni Hamburg und wirkt bei freifunk.net mit, die unter anderem freie Netzwerke und eine Demokratisierung von Kommunikationsmedien anstreben. Von Clearview AI habe er auch erst durch den New-York-Times-Artikel erfahren, so Marx. Er meldete sich daraufhin bei dem Unternehmen und bat um Auskunft über seine persönlichen Daten:

Ich habe dem Unternehmen einfach eine E-Mail geschrieben und darum gebeten, meine personenbezogenen Daten zur Verfügung zu stellen. Dann gab es eine Rückfrage von Clearview, ich sollte bitte einen Ausweis vorlegen.

Auf diese E-Mail habe er nicht reagiert, erzählt Marx. Doch dennoch bekam er einen Monat nach seiner Anfrage eine Antwort, ganz ohne Ausweis. Das Unternehmen, dessen Dienste für Firmen und staatliche Institutionen gedacht sind, übermittelte Marx ein PDF-Dokument mit mehreren Fotos.

Die Fotos stammen Marx zufolge aus unterschiedlichen sozialen Netzwerken. Bei einer Google-Suche nach seinem Namen wären sie ebenfalls aufgetaucht. Allerdings könnte man aufgrund falscher Bildunterschriften vermuten, so Marx, dass sie durch eine KI zusammengesucht wurden.

Anträge sollten leichter werden

Nach dieser Auskunft wendete Marx sich direkt an die Hamburger Behörde für Datenschutz und Informationsfreiheit. Doch der Datenschutzbeauftragte sah sich zunächst nicht zuständig. Erst erhöhte mediale Aufmerksamkeit habe eine Änderung bewirkt, so Marx:

Etwa drei Wochen später gab es einen Spiegel-Artikel und ziemlich zeitgleich hat mir der Datenschützer mitgeteilt, dass ein allgemeines Prüfverfahren gegen Clearview eingeleitet wurde. Ursprünglich hatte die Aufsichtsbehörde argumentiert, dass die DSGVO nicht anwendbar sei, weil es keine Clearview-Niederlassung in der EU gibt und sie keine europäischen Nutzer:innen haben. Ich habe darauf geantwortet, dass es laut Medienberichten sehr wohl europäische Nutzer:innen gibt und darum gebeten, noch einmal die Anwendbarkeit zu prüfen. Ich hoffe, dass andere, die sich beschweren, das jetzt deutlich schneller durchspielen können.

Einer der Medienberichte, die Marx meint, ist ein Artikel von BuzzFeed News. Ihnen wurde ein Dokument zugespielt, das über 2.200 Kund:innen des Unternehmens in 27 Ländern auflistet, auch in Österreich, Frankreich und Italien. Gegenüber dem Spiegel betont der Hamburgische Datenschutzbeauftragte Johannes Caspar zudem, dass die DSGVO europäische Bürger:innen auch vor einer Verarbeitung ihrer Daten durch Dritte schützen soll, selbst wenn diese Unternehmen nur einen Sitz im Ausland haben.

Gegenüber netzpolitik.org erklärt er, dass hier eine der Schwierigkeiten einer europaweiten Regelung liege:

Das Beispiel Clearview zeigt: Die Gefahren der Privatsphäre gehen weniger von Unternehmen aus, die in der EU ansässig sind, als von solchen, die jenseits des aufsichtsbehördlichen Kontrollbereichs im Ausland sitzen. Es ist daher eine zentrale Herausforderung für alle Aufsichtsbehörden, eine Strategie für das gemeinsame Handeln zu finden.

Erstmal nur löschen

Die Ermittlungen nach Marx‘ Beschwerde mündeten zunächst in einem Fragenkatalog des Datenschutzbeauftragten an Clearview AI. Die Firma beantwortete die 17 allgemein gehaltenen Fragen zunächst nur halbherzig. Es folgte eine Androhung von 10.000 Euro Zwangsgeld für jeden nicht beantworteten Fragekomplex. Das Unternehmen reagierte dann im August 2020 mit ausführlichen Antworten.

Die Behörde hat daraufhin ein Verwaltungsverfahren eingeleitet und angeordnet, den Hash-Wert des Betroffenen zu löschen und dies gegenüber dem HmbBfDI nachzuweisen. Über den aus Marx‘ Fotos generierten Hash vergleicht Clearviews Software, ob biometrische Merkmale aus mehreren Fotos übereinstimmen und findet heraus, auf welchen Fotos dieselbe Person zu sehen ist.

Seine Behörde habe Clearview AI deutlich gemacht, dass die DSGVO anwendbar ist und sei nun auf ähnliche Beschwerden eingestellt. Das Unternehmen bietet auf seiner Website mittlerweile Formulare an, mit denen Privatpersonen ihre personenbezogenen Daten anfragen oder löschen lassen können. Matthias Marx wertet des Vorgehen der Datenschutzaufsicht als kleinen Erfolg:

Die Hamburger Datenschutzbehörde ist jetzt ausreichend in das Thema eingearbeitet, das ist letztendlich kein einfaches Thema, weil geklärt und geschaut werden muss, inwiefern die DSGVO auch für Firmen gilt, die angeblich keine EU-Konten haben und definitiv keinen Sitz in der europäischen Union. Das ist jetzt erfolgt. Das heißt, man kann künftig auf meinen Fall blicken und dann hoffentlich schneller zu einem Ergebnis kommen.

Die Fotos darf Clearview behalten

Allerdings ist Marx nicht zufrieden damit, dass nur das biometrische Template und nicht die Fotos selbst gelöscht werden müssen. „Das heißt, Clearview AI kann das Bild oder die Bilder zu meinem Gesicht aufheben“, so Marx. Alan Dahi von noyb ist der Meinung, dass Marx ein Recht auf eine Löschung der Fotos gehabt hätte. Die beiden hatten außerdem gehofft, dass das Vorgehen des Unternehmens Deutschland- oder Europa-weit verboten wird.

Marx weist darauf hin, dass die Hürden für eine Beschwerde hoch sind. „Ich finde es sehr ungünstig, dass diese Anordnung nur meine Person betrifft“, sagt der Informatiker. Dass alle Betroffenen einzeln Auskunftsersuchen stellen und sich beschweren müssen, hält er für nicht praktikabel:

Ich denke dort liegt ein rechtswidriges Verhalten vor, das unterbunden und vielleicht auch sanktioniert werden sollte. Die Frage, wie man das Unternehmen sanktionieren kann, wenn es keinen Sitz in der EU hat, bleibt. Hierfür muss eine Regelung gefunden werden.

Auch Johannes Caspar findet ein Verbot anhand räumlicher Kriterien naheliegend, es sei aber juristisch schwer umsetzbar, sagte er netzpolitik.org gegenüber. Er sieht sich bei dem Verfahren zunächst einmal für den Beschwerdeführer zuständig. Er sei nicht für die gesamte EU zuständig: „Die biometrische Massendatenverarbeitung geht insoweit nicht nur den Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit, sondern alle europäischen Aufsichtsbehörden an.“

Immerhin sei nach seiner Beschwerde ein Grundstein für alles weitere gelegt, so Marx. „Dass die Datenschutzbehörde sagt, die DSGVO sei gar nicht anwendbar, wird jetzt wohl nicht mehr passieren.“

Was in anderen Ländern möglich wird

Auch in anderen Ländern haben die Enthüllungen der New York Times zu Aufruhr geführt. Australien und Großbritannien wollen gemeinsam eine Untersuchung beginnen, wie das Unternehmen mit persönlichen Daten umgeht und wie einzelne Regierungsbehörden involviert waren.

Die kanadische Datenschutzbehörde kommt dem, was Marx und Dahi vorschwebt, etwas näher. Sie verbot die Verwendung der Gesichtsdatenbank. Der kanadische Datenschutzbeauftragte Daniel Therrien, erklärte: „Was Clearview AI tut, ist Massenüberwachung. Und das ist illegal.“ Er forderte gemeinsam mit drei weiteren kanadischen Datenschutzbeauftragten die Regierung auf, bestehende Datenschutzgesetze zu verschärfen. Seit Juli 2020 darf Clearview AI in Kanada nicht mehr von Sicherheitsbehörden oder der Polizei verwendet werden. Seit dem Verbot darf das Unternehmen auch keine Bilder mehr in Kanada sammeln. Allerdings weigert sich das Unternehmen, die existierenden Fotos aus der Datenbank zu löschen.

War das erst der Anfang?

Für Marx ist der Fall noch nicht abgeschlossen. Clearview AI ist der Anordnung zur Löschung des Hash-Wertes zwar am 12. Februar nachgekommen, aber Matthias Marx will hartnäckig bleiben:

Das Unternehmen hat meine ursprüngliche Frage immer noch nicht vollständig beantwortet. Außerdem haben sie zwischendurch mitgeteilt, dass das übermittelte Suchbild gelöscht wurde. Das stimmte nicht. Es gibt einfach noch viele weitere Punkte. Die Anordnung ist jetzt einfach ein erster Ansatzpunkt.

Auch für den Hamburger Datenschutzbeauftragten scheint das Thema noch nicht vorbei zu sein und manches nicht hinreichend geklärt, wie er netzpolitik.org gegenüber äußert:

Weitergehende Anordnungen sind durchaus nicht ausgeschlossen. Wir haben zunächst bewusst einen Weg gewählt, der sich auf die Kernfrage der biometrischen Verarbeitung konzentriert und darüber hinausgehende, ebenfalls sehr wichtige Fragestellungen zunächst ausklammert.

Gesichtserkennung ganz verbieten?

Der Fall Clearview AI hat in Deutschland und Europa die Debatte um ein Verbot von Gesichtserkennungstechnologie befeuert. San Francisco hatte es vorgemacht und als erste Stadt in den USA den Einsatz der Technologie verboten. Die EU-Kommission hatte zwischenzeitlich ein temporäres Verbot erwogen, sich dann aber dagegen entschieden.

Unterdessen ruft seit neuestem eine europaweite zivilgesellschaftliche Initiative namens „Reclaim your Face“ zu einem Verbot biometrischer Massenüberwachung in Europa auf. Der Zusammenschluss verschiedener Organisationen will im Rahmen einer Europäischen Bürgerinitiative innerhalb eines Jahres mindestens eine Million Unterschriften sammeln.

Du möchtest mehr kritische Berichterstattung?

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten. Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

 

Unterstütze auch Du unsere Arbeit jetzt mit deiner Spende.

3 Ergänzungen

  1. Naja also die Originaldaten behalten… dann hat sich strategisch also nichts geändert.

    Wobei das Dilemma immer bleibt. Im Grunde müsste der Staat hier massiv eingreifen, und auf Rohdaten- und Abfrageseite (u.u.u.) stichprobenartig aber regelmäßig überprüfen, was da so abgeht. Damit der Staat nicht leicht reingelegt werden kann (alle Mitarbeiter in allen Details bekannt -> „Abschaltvorrichtung“), müssten eigentlich die nicht essentiellen datengetriebenen Konzepte plump verboten werden.

  2. Es spricht Bände, wenn einerseits US-Behörden wie FBI etc. sich in sämtliche, in anderen Ländern befindliche Rechner hacken dürfen, aber es andererseits nicht möglich sein soll, sich gegen das Speichern eigener Fotos seitens des oben genannten oder anderer Unternehmen wehren zu können bzw. das Löschen zu erwirken und ein weiteres Nicht-In-Verkehrbringen dieser Fotos zu verhindern!

    Mit Rechtsstaatlichkeit, Freiheit und Demokratie hat das nichts zu tun, selbst wenn der Informatiker einen kleinen Erfolg für sich verbuchen kann. Der einzelne Bürger wird hier zum Objekt, wenn nicht sogar zum Spielball diverser Instanzen und Unternehmen. Dagegen muss man stetig, allumfassend, und entschieden vorgehen!

  3. Kann man nicht eine Muster-E-Mail verbreiten, mit der jeder das für sich verlangen kann, was Herrn Marx gewährt wurde? Ich denke viele Leute hätten daran Interesse, und auch wenn deren Bilder nicht gelöscht würden, würde das zumindest Clearview erst einmal ziemlich beschäftigen.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.