PimEyes

Eine polnische Firma schafft gerade unsere Anonymität ab

Recherchen von netzpolitik.org zeigen das Missbrauchspotenzial von PimEyes, einer kostenlosen Suchmaschine für 900 Millionen Gesichter. Alle, von denen es Fotos im Internet gibt, könnten schon Teil ihrer Datenbank sein.

Collage aus Gesichtsbildern und Zeichenketten
Wer auch immer an einem öffentlichen Ort Gesicht zeigt, könnte erkannt werden. (Symbolbild) Alle Rechte vorbehalten netzpolitik.org mit Gesichtern von thispersondoesnotexist.com

We have also published this article in English.


Dylan lächelt in die Kamera, Arm in Arm mit den anderen Gästen einer queeren Bootsparty. Hinter ihnen glitzern Gläser in den Regalen einer Bar. Vor acht Jahren lädt ein Partyfotograf diesen Schnappschuss im Internet hoch. Dylan hatte ihn schon vergessen – bis heute. Denn mit einer Rückwärts-Suchmaschine für Gesichter können alle dieses alte Partyfoto von Dylan finden. Dazu müssen sie nur sein Profilbild aus dem Karrierenetzwerk Xing hochladen, kostenlos und ohne Anmeldung. Dylan will sein privates und berufliches Leben aber getrennt halten: Tagsüber arbeitet er als Banker in Frankfurt am Main.

Der Name der Suchmaschine ist PimEyes. Sie analysiert massenhaft Gesichter im Internet nach individuellen Merkmalen und speichert die biometrischen Daten. Als Dylan die Suchmaschine mit seinem Profilbild testet, gleicht sie es mit der Datenbank ab und liefert als Ergebnis ähnliche Gesichter, zeigt ein Vorschaubild und die Domain, auf der das Bild gefunden wurde. Dylan wurde erkannt, obwohl er damals im Gegensatz zu heute noch nicht einmal einen Bart trug.

Unsere Recherchen zeigen: PimEyes ist ein umfassender Angriff auf die Anonymität und möglicherweise rechtswidrig. Ein Schnappschuss kann genügen, um mittels PimEyes eine fremde Person zu identifizieren. Die Suchmaschine liefert zwar nicht direkt den Namen einer gesuchten Person. Aber wenn sie übereinstimmende Gesichter findet, lassen sich durch die angezeigten Websites in vielen Fällen Namen, Beruf und vieles weitere herausfinden.

Wer auch immer an einem öffentlichen Ort Gesicht zeigt, könnte erkannt werden, ob auf einer Demo, vor dem Wahllokal oder im Nachtbus, als hätten wir unseren Namen auf der Stirn tätowiert. Im Juni berichtete unter anderem die BBC, PimEyes könne von Stalkern missbraucht werden. Die Suchmaschine kann aber auch Sexarbeiter:innen outen, sogenannte Rachepornos leichter zugänglich machen oder von der Polizei genutzt werden, um nachträglich Besucher:innen von Demos zu identifizieren.

Wie Clearview AI für alle

Der Fall erinnert an den Eklat um das US-amerikanische Start-up Clearview AI – mit dem Unterschied, dass PimEyes seine biometrische Suche nicht nur Behörden, sondern öffentlich anbietet. Gleichzeitig sprechen sich große Tech-Konzerne wie IBM öffentlich gegen Gesichtserkennung aus und stoppen Kooperationen mit der Polizei.

Wir haben Fachpolitiker:innen aus dem Bundestag die Fähigkeiten der Software anhand ihrer eigenen Fotos demonstriert. Sie erkennen in PimEyes ein enormes Missbrauchspotenzial. Instagram und YouTube, deren Inhalte auf PimEyes auftauchen, möchten als Konsequenz unserer Recherchen juristisch gegen PimEyes vorgehen. Datenschutzexpert:innen sehen in öffentlich verfügbaren, biometrischen Suchmaschinen wie PimEyes mögliche Verstöße gegen die europäische Datenschutz-Grundverordnung (DSGVO). PimEyes riskiert damit immense Strafzahlungen.

Dylan empfindet PimEyes als Gefahr. „Diese Suchmaschine kann Menschen outen“, sagt er. Er selbst sei zwar geoutet, auch in seinem Beruf als Banker. Aber er kenne viele homosexuelle Kolleg:innen, die das nicht sind. „Vor allem in meinem Berufszweig sind viele Menschen noch konservativen Werten verfallen“, sagt Dylan. „Ich kenne Menschen, die ein Doppelleben haben, in einer Hetero-Ehe leben, und heimlich in der LGBT-Community Schutz suchen.“ Er vermutet, auch von ihm könnte es Fotos geben, mit denen er nicht öffentlich auftreten möchte, etwa vom Christopher Street Day.

Auf Instagram und Twitter ist Dylan unter Pseudonym unterwegs, postet über den Kampf für LGBT-Rechte und Antirassismus. Berufliche Kontakte kennen seine Nutzernamen dort nicht, sagt er. Die Gesichtersuche könnte das ändern, gegen seinen Willen. PimEyes, so Dylan, könne bei Menschen viel Schaden anrichten. Er bittet uns, dass wir für den Artikel seinen Namen ändern.

Noch liefert die Suchmaschine nur zwei Ergebnisse zu Dylans Gesicht. Das könnten aber schnell mehr werden, denn die polnische Firma hinter PimEyes grast das Internet ständig weiter nach Fotos ab.

900 Millionen Gesichter, 1 Terabyte Fotos pro Tag

PimEyes warb mit mehr als 50 Millionen analysierten Websites
PimEyes warb mit mehr als 50 Millionen analysierten Websites Alle Rechte vorbehalten Screenshot netzpolitik.org

In einem Post auf seiner inzwischen nicht mehr verfügbaren Facebook-Seite protzt PimEyes 2018 mit großen Zahlen: Täglich würden mehr als 1 Terabyte an Fotos analysiert, die Datenbank beinhalte die biometrischen Daten von über 100 Millionen Gesichtern. Und die Zahl wächst rasant: Ein Jahr später sollen es 500 Millionen analysierte Gesichter sein, heißt es in einem Dokument der Polnischen Agentur für Unternehmensentwicklung, im April 2020 seien es laut Website schon 900 Millionen Gesichter. Das entspräche mehr als der Bevölkerung Europas und Russlands zusammen.

Ein Angebot für Entwickler:innen macht sichtbar, von welchen Dimensionen die Betreiber offenbar träumen: Es gibt einen besonders großen Rabatt, wenn jemand 100 Millionen Gesichtersuchen pro Monat durchführen will.

Kurz nachdem wir uns bei PimEyes nach dem Facebook-Post mit den Zahlen erkundigt haben, ist der Post plötzlich offline. Je mehr wir PimEyes mit kritischen Fragen konfrontieren, desto mehr verstrickt sich die Firma in Widersprüche. Fragwürdige Passagen aus ihren Online-Angeboten werden während unserer Recherchen mehrfach verändert oder offline genommen.

PimEyes inszeniert sich als freundlicher Helfer

PimEyes-Suchergebnisse des Autors: Die Suchmaschine hat sogar YouTube-Thumbnails und einen auf Twitter veröffentlichten Schnappschuss erkannt
PimEyes-Suchergebnisse des Autors: Die Suchmaschine hat sogar YouTube-Thumbnails und einen auf Twitter veröffentlichten Schnappschuss erkannt Alle Rechte vorbehalten Screenshot netzpolitik.org

Es ist kein Zufall, dass PimEyes deutlich mehr liefert als die Google-Bildersuche. Technologisch wäre eine biometrische Suche für Google kein Problem, das Hindernis sind wohl vor allem Gesetze zum Datenschutz. Auch Facebook hat bei der Erkennung von Nutzer:innen eine Geschichte gescheiterter Vorstöße hinter sich. Inzwischen ist die Funktion für Facebook-Nutzer:innen zwar verfügbar, aber standardmäßig ausgeschaltet.

In der DSGVO heißt es, die Verarbeitung von biometrischen Daten zur eindeutigen Identifizierung einer natürlichen Person ist untersagt. PimEyes argumentiert dagegen: Es gehe bei der Suchmaschine nicht um die Identifizierung einer Person. Nutzer:innen sollten dort allein ihr eigenes Gesicht hochladen.

So präsentiert sich PimEyes nicht als eine Bedrohung für die Privatsphäre, sondern als Helfer. „Lade dein Foto hoch und finde heraus, wo dein Gesicht im Internet erscheint“, heißt es auf der Startseite. „Fange an, deine Privatsphäre zu schützen“.

Aber diese Aufforderung ist neu. Prominent auf der Website aufgetaucht ist sie erst, nachdem wir dem Unternehmen einen umfangreichen Fragenkatalog geschickt haben. Unter anderem wollten wir wissen, was PimEyes gegen den möglichen Missbrauch seiner Technologie durch Stalker unternimmt. Die internationale Diskussion über das Missbrauchspotenzial von PimEyes begann durch einen Artikel des Blogs One Zero im Juni 2020.

Dieses Thema möchte das Unternehmen offenbar unter allen Umständen vermeiden. Und so gibt sich die Suchmaschine neuerdings ausdrücklich als Werkzeug zur digitalen Selbstverteidigung, etwa um Fake-Profile von sich selbst aufzuspüren.

Fotos von Meghan, Herzogin von Sussex

Nur das eigene Gesicht hochladen?
Nur das eigene Gesicht hochladen? Alle Rechte vorbehalten Screenshot netzpolitik.org

Das Image von PimEyes bröckelt, sobald man näher hinschaut. Mag ja sein, dass Nutzer:innen dort nur ihr eigenes Bild hochladen sollen. Trotzdem existiert bereits die biometrische Datenbank mit nach eigenen Angaben mehreren Hundert Millionen analysierten Fotos. Und noch nicht einmal PimEyes scheint ernsthaft davon auszugehen, dass Besucher:innen nur nach ihrem eigenen Gesicht suchen. Denn die Betreiber haben ihre Nutzer:innen mehrfach dazu ermuntert, Bilder von Fremden hochzuladen.

Auf seiner Startseite schlug PimEyes bis vor Kurzem noch vor, mithilfe der Software nach Aufnahmen berühmter Menschen zu suchen. Ende Juni waren dort Fotos der Talkshow-Moderatorin Oprah Winfrey oder Meghan, Herzogin von Sussex, zu sehen.

Dass dies nun ein Problem sein könnte, scheint den Betreibern bewusst zu sein. Alte Spuren, die nicht zu der neuen Privatsphäre-freundlichen Erzählung passen, haben sie hastig verwischt. Verschwunden ist auch ein Werbeclip auf YouTube, der eine Suche nach Bildern von dem Schauspieler Johnny Depp zeigte.

„Früher war es möglich, mit PimEyes nach Gesichtern von Persönlichkeiten des öffentlichen Lebens zu suchen“, räumt das Unternehmen auf Nachfrage ein. In einer E-Mail beteuern die Betreiber, ihr Dienst dürfe nur noch genutzt werden, um Fotos des eigenen Gesichts hochzuladen.

Diese Entscheidung haben Łukasz Kowalczyk und Denis Tatina, die Menschen hinter PimEyes, offenbar sehr kurzfristig getroffen. Denn neben ihrer als Hobbyprojekt gestarteten Bildersuche betrieben die Absolventen der Technischen Universität Breslau einen weiteren Dienst namens Catfished. Die Website dazu rief förmlich zum Missbrauch der Technologie auf.

„Nutzen Sie die Macht von KI und Gesichtserkennung, um Freunde und Verwandte im Internet zu finden“, hieß es dort. Auch schlugen die Betreiber vor, Fotos von Profilen auf Dating-Plattformen durch die Suche zu jagen. „Verwenden Sie die Gesichtserkennung, um mehr über Ihren Schwarm herauszufinden!“ Deutlicher lassen sich Stalker kaum ansprechen.

25 Alarme für angeblich nur ein Gesicht

Heute geben Kowalczyk und Tatina an, bei Catfished handele es sich um ein „totes Projekt, nicht für EU-Länder entwickelt, weder jemals wirklich fertiggestellt noch veröffentlicht“. Dabei hatte Catfished eine Datenschutzerklärung, die das Unternehmen PimEyes als Administrator der Website führte und sich auf die DSGVO bezog, damit also sehr wohl Bezüge zur EU erkennen ließ.

Wie PimEyes war auch Catfished funktionsfähig, wir haben damit eine erfolgreiche Suche durchgeführt. Erkennbar war bei Catfished die klare Absicht, auch diese Software zu verbreiten. Erst nach einer Anfrage von netzpolitik.org verschwand die Website aus dem Netz. Diese und weitere Aufräumarbeiten können aber nicht über die Ungereimtheiten hinter PimEyes hinwegtäuschen.

Wer bei PimEyes etwa ein Premium-Abo abschließt, kann sich automatisch eine E-Mail schicken lassen, sobald die Software neue Übereinstimmungen mit einem hochgeladenen Gesicht entdeckt. Seltsamerweise können Premium-Kund:innen aber nicht nur einen Alarm für ihr eigenes Gesicht hinterlegen, sondern für bis zu 25 unterschiedliche Gesichter.

PimEyes begründet dies damit, dass sich die Treffergenauigkeit durch mehrere hochgeladene Fotos verbessere. „Eines vom Strand, eines mit Brille und so weiter“, schreibt uns das Unternehmen.

Spätestens der Blick in die Programmoberfläche entlarvt die Antwort der Firma als haltlos: Schon für einen einzelnen Alarm lassen sich nämlich mehrere Fotos hochladen, um die Treffergenauigkeit zu erhöhen. Die 24 weiteren Alarme wären für das eigene Gesicht demnach nutzlos.

Rabatt bei Massenabfragen

Womit verdient PimEyes sein Geld? Die gewöhnlichen Premium-Abos der Suchmaschine kosten zwischen 16 und 23 Euro monatlich. Premium-Kund:innen bekommen unter anderem Links zu den gefundenen Bilddateien angezeigt. Nach eigenen Angaben hat PimEyes derzeit nur etwa 350 Premium-Abonnent:innen. Das große Geld würden Kowalczyk und Tatina damit noch nicht machen.

PimEyes bewirbt aber eine weitere Funktion, die der Schlüssel zu hohen Einnahmen sein könnte. Zugleich weckt die Funktion massive Zweifel daran, dass es bei der Suchmaschine um den Schutz der eigenen Privatsphäre geht: Es ist ein Bezahlmodell für massenhafte Suchanfragen.

Kowalczyk und Tatina beteuern, dieses Angebot sei kaum gefragt. Allerdings lädt es förmlich zum geschäftsmäßigen Missbrauch der Technologie ein. Anstatt mühsam einzelne Fotos auf der Website von PimEyes hochzuladen, lassen sich mithilfe weniger Zeilen Programmcode Abertausende Abfragen bewältigen. Gleichzeitig können Entwickler:innen die Suchmaschine dadurch in eigene Anwendungen integrieren, über deren Einsatz PimEyes keinerlei Kontrolle mehr hat.

Was hat PimEyes vor?
Was hat PimEyes vor? Alle Rechte vorbehalten Screenshot netzpolitik.org

Das Unternehmen berechnet pro Suche über die Programmierschnittstelle zunächst rund einen Euro. Bei massenhaften Suchabfragen wird es deutlich billiger. Will jemand 100 Millionen Bilder im Monat abfragen, kostet eine einzelne Suche nicht mal mehr einen Cent. Doch welcher Mensch sucht 100 Millionen Mal pro Monat sein eigenes Gesicht?

Suchergebnisse von Pornoseiten

Selbst bei den auf der Website präsentierten Positiv-Bewertungen trügt der Schein. Drei Erfahrungsberichte angeblicher Nutzer:innen sollen illustrieren, wie hilfreich die Suchmaschine sei. „Dank PimEyes fand ich ein Profil auf einer Dating-Website, das vorgab, ich zu sein“, berichtet demnach eine Alister Richards. Sie schwärmt: „Werkzeuge wie dieses verbessern unseren Datenschutz im Netz.“

Neben dem Erfahrungsbericht ist ein Foto zu sehen. Sucht man aber mit PimEyes nach dem Foto der angeblichen PimEyes-Nutzerin, geschieht etwas Erstaunliches: Alister Richards taucht auch auf etlichen weiteren Websites auf, jedes Mal trägt sie einen anderen Namen und überschüttet ein anderes Online-Produkt mit Lob. Bei den übrigen Erfahrungsberichtenverhält es sich genauso. Alles Fake? Kowalczyk und Tatina bestätigen uns, dass die Fotos nicht echt sind. Aber die Zitate seien es. „Ihre Autor:innen wollten anonym bleiben.“

Dabei könnte vor allem PimEyes selbst die Anonymität gefährden. In der Suchmaschine tauchen sogar Fotos von Porno-Websites auf. In einem inzwischen gelöschten Werbeclip bewarb PimEyes die Suche auf „Adult sites“ als Premium-Feature, versuchte also offenkundig, damit Geld zu verdienen. Heute vermischen sich die Ergebnisse von Pornoseiten mit den anderen Suchergebnissen.

PimEyes ist eine Waffe für digitale Gewalt

Łukasz Kowalczyk und Denis Tatina nehmen damit in Kauf, dass Sexarbeiter:innen unfreiwillig geoutet werden. PimEyes ist zudem eine Bedrohung für Betroffene von Voyeurismus und sogenannten Rachepornos, also ohne Einverständnis erstellten oder verbreiteten Aufnahmen. Damit möchten Täter vor allem Frauen verletzen und herabwürdigen, indem sie die Aufnahmen möglichst vielen fremden Augen zugänglich machen. Die Suchmaschine spielt ihnen perfekt in die Hände.

Bei einer Bilderrückwärtssuche in einer anderen Suchmaschine findet Tom im August 2019 zufällig Nacktaufnahmen seiner Frau Nicole im Netz: 190 unterschiedliche Fotos, außerdem acht unerlaubt veröffentlichte Videos. Um den oder die Täter zu jagen, erstellt Tom eine Tabelle und sammelt rund 2.700 Links zu Fundorten der Aufnahmen. Das Online-Magazin VICE berichtete über den Fall, zum Schutz des Paares werden ihre Namen geändert.

„PimEyes ist die absolute Katastrophe“, sagt Tom heute im Gespräch mit netzpolitik.org. „Bei einer Testsuche auf PimEyes fand ich direkt 61 Suchergebnisse mit unerlaubt veröffentlichen Nacktaufnahmen meiner Frau.“

Mit dem Problem konfrontiert, schreibt PimEyes: „Unser Tool hilft dabei, Revenge Porn zu bekämpfen“. Tom überzeugt das nicht. „Was nutzt es, die Bilder zu finden, wenn man sie dann nicht vollständig aus dem Internet entfernen kann?“

Es ist ein Problem für sich, dass auch Pornoseiten problematische Aufnahmen nicht konsequent löschen. Doch auch PimEyes entfernt die Suchergebnisse nicht zuverlässig, selbst wenn Betroffene es verlangen. Für diesen Zweck bietet PimEyes zwar ein eigenes Meldeformular an. Aber als wir es ausprobieren, hat es keine Wirkung.

Im Juni fordern wir PimEyes auf diesem Weg auf, ein Foto des Autors aus den Suchergebnissen zu löschen, kurz darauf erhalten wir eine Bestätigungs-E-Mail. Gelöscht wurde aber nichts. Wir geben uns als Journalisten zu erkennen und fragen, warum das Suchergebnis noch immer sichtbar ist.. „Die Funktion arbeitet ordnungsgemäß und ist wohl erprobt“, antwortet PimEyes. „Uns liegen keine Beschwerden von Nutzer:innen vor.“

Tech-Konzerne wehren sich gegen PimEyes

Die netzpolitische Sprecherin der Linken im Bundestag, Anke Domscheit-Berg, bezeichnet PimEyes gegenüber netzpolitik.org als „hochgefährlich“. Frauen, die sich anonym im öffentlichen Raum bewegen möchten, könnten leichter identifiziert und Belästigungen ausgesetzt werden, sagt Domscheit-Berg.

„Die Vorstellung, dass jeder Creep in der U-Bahn mich über ein Handyfoto identifizieren und ohne große Hürden meinen Wohn- und Arbeitsort ausfindig machen kann, finde ich extrem beunruhigend.“ Auch Stalker und Pädophile könnten das Umfeld oder den Aufenthaltsort ihrer Opfer ausfindig machen.

Besonders mächtig wird eine Suchmaschine wie PimEyes erst, wenn sie auch Fotos aus sozialen Medien auswerten kann. Und tatsächlich: Auch Inhalte von Instagram, YouTube, TikTok, Twitter und vKontakte erscheinen bei PimEyes. Wir haben Screenshots dieser Suchergebnisse gemacht, mit direktem Link. Als wir die Firma darauf ansprechen, lautet die Antwort: „Wir scrapen keine Social-Media-Seiten“.

Wir haben die Instagram-Mutter Facebook um Stellungnahme gebeten. „Informationen von Menschen auf Instagram zu scrapen, ist eine klare Verletzung unseres Policy und ein Missbrauch unserer Plattform“, schreibt eine Sprecherin. Facebook habe unverzüglich alle Konten gesperrt, die mit PimEyes in Verbindung stehen, sowie die Gründer von Facebook und Instagram gebannt. „Wir haben eine Abmahnung mit Unterlassungsaufforderung verschickt, auf keine Daten, Bilder oder Fotos von unseren Diensten zuzugreifen.“

Auch YouTube spricht von einer Verletzung seiner Nutzungsbedingungen. „Dementsprechend werden wir eine Abmahnung an PimEyes verschicken“, sagt ein Sprecher. TikTok plane juristische Schritte, wie eine Sprecherin mitteilt; Twitter behalte sie sich vor. vKontakte hat unsere Fragen bislang nicht beantwortet.

PimEyes erinnert an den Eklat um Clearview

Ein möglicher Grund für die deutlichen Reaktionen: Einen ähnlichen Fall gab es bereits. Auch das Start-up Clearview AI hatte massenhaft Gesichter aus dem Internet für eine biometrische Datenbank analysiert. Aber Clearview AI war nicht für jeden Menschen offen im Netz verfügbar. Kunden der Firma waren nach Recherchen der Nachrichtenwebsite Buzzfeed News Firmen, Regierungen und Polizeibehörden. Anfang des Jahres hatten sich Google, Facebook und Twitter dagegen gewehrt.

Der breite Widerstand gegen Clearview AI wurde von Datenschützer:innen als wegweisend wahrgenommen und hätte PimEyes eine Warnung sein können. Biometrische Daten gelten als sensibel. Wer sie missbraucht, riskiert Bußgelder und muss Betroffenen womöglich sogar Schadensersatz zahlen.

Der Datenschutzbeauftragte Baden-Württembergs, Stefan Brink, sieht PimEyes besonders kritisch. Biometrische Daten gehören laut der DSGVO zu den sogenannten besonderen Kategorien personenbezogener Daten. „Das ist das Schutzwürdigste, was wir kennen“, sagt Brink. Ihm zufolge dürfte die Firma die biometrischen Daten allenfalls noch verarbeiten, wenn ihr die ausdrückliche Einwilligung der Betroffenen vorläge. Das bedeutet: Bei angeblich 900 Millionen Gesichtern in der Datenbank müsste PimEyes entsprechend 900 Millionen Einwilligungen besitzen.

Als wir Kowalczyk und Tatina mit dem Verdacht konfrontieren, gegen Gesetze zum Datenschutz zu verstoßen, argumentieren sie, die DSGVO verbiete die Verarbeitung biometrischer Daten lediglich zum Zweck der eindeutigen Identifizierung. Weil PimEyes den Gesichtern sinngemäß aber keine Namen zuordnet, sehen die beiden offenbar keinen Konflikt. Ihr Dienst, so die PimEyes-Betreiber, unterscheide sich hierbei nicht von anderen Suchmaschinen.

„Verstoß gegen das Recht am eigenen Bild“

Neuerdings müssen Nutzer:innen, bevor sie eine Suchanfrage stellen können, per Mausklick ein Häkchen setzen und bestätigen, dass sie wirklich nur ihr eigenes Gesicht hochladen. Vergessen sein soll die Zeit, als PimEyes noch vorschlug, mal eben Herzogin Meghan durch die Suchmaschine zu jagen.

PimEyes möchte die Verantwortung für den möglichen Missbrauch der Suchmaschine wohl auf die Nutzer:innen abwälzen. Ein pikanter Kurswechsel, der vielleicht nur zufällig direkt nach unserer Presseanfrage erfolgt.

Aber auch grundsätzlich rät die auf IT-Recht spezialisierte Anwältin Sabine Sobola entschieden davon ab, Fotos von Dritten bei PimEyes hochzuladen. „Liegt eine Zustimmung nicht vor, ist das ein Verstoß gegen das Recht am eigenen Bild“, sagt sie. „Hieraus ergeben sich Unterlassungs- und Schadensersatzansprüche, wenn der Abgebildete davon Kenntnis erlangen sollte.“ Das heißt: Wer ein Foto seiner Nachbarin bei PimEyes hochlädt, könnte theoretisch Probleme bekommen.

Das Risiko, erwischt zu werden, bleibt jedoch gering, einen Verstoß nachweisen könnten wohl höchstens Kowalczyk und Tatina selbst. Für 48 Stunden speichern sie die Fotos nach eigenen Angaben, dann wird mögliches Beweismaterial gelöscht, bis vor Kurzem geschah dies angeblich sofort.

PimEyes konnte 93 von 94 Bundestagsabgeordneten korrekt identifizieren

Für unsere Recherchen wollen wir herausfinden, ob es wirklich möglich ist, PimEyes im großen Stil zu benutzen. Wir schreiben deshalb eine Software für die von PimEyes angebotene Programmierschnittstelle. Und wir stellen fest: Wer bezahlt, kann mit PimEyes offenbar machen, was er will.

Für den Versuch brauchen wir zunächst eine Reihe an Testpersonen, wollen aber auf keinen Fall Privatfotos hochladen. Wir entscheiden uns deshalb für Bilder von Abgeordneten des Bundestags. An einem zufällig ausgewählten Tag erstellen wir aus dem Parlamentsfernsehen Screenshots von allen Abgeordneten am Rednerpult: insgesamt 94 Politiker:innen. Es handelt sich um keine perfekten Porträtfotos, in vielen Fällen ist das Gesicht nur schräg zu sehen. Damit die Suchmaschine es noch schwerer hat, schrumpfen wir die einzelnen Köpfe auf Briefmarkengröße.

Mithilfe der Programmierschnittstelle gleichen wir die 94 Gesichter der Politiker:innen mit der Datenbank von PimEyes ab. Unsere automatisierten Abfragen dauern keine fünf Minuten. Die Suchmaschine spuckt gut 2.500 Links zu Bilddateien aus. Bei der Mehrheit der Fotos will die Software eine mindestens 90-prozentige Ähnlichkeit erkannt haben. Und tatsächlich: In 93 Fällen hatte PimEyes weitere Fotos derselben Person aufgespürt. Nur in einem Fall waren alle Suchergebnisse falsch.

Statt nach 94 Bundestagsabgeordneten hätten wir PimEyes ebenso nach den Gesichtern von Hunderten oder Tausenden Menschen suchen lassen können. Und statt mit Aufnahmen aus dem Parlamentsfernsehen hätten wir den Dienst auch mit den Bildern von Überwachungskameras füttern können.

Es ist möglich, dass genau das bereits passiert. Denn auch Strafverfolgungsbehörden interessieren sich für Gesichtserkennung, und PimEyes ist in diesem Bereich schon früh ein Coup geglückt.

Überwachungstechnologie für den Staat

PimEyes ist seit 2018 in die Software Paliscope des schwedischen Unternehmens Safer Society Group integriert. Die Anwendung soll Ermittler:innen helfen, Daten aus unterschiedlichen Quellen zu kombinieren. Safer Society Group ist gut vernetzt, zu ihren Kund:innen zählt die europäische Polizeibehörde Europol.

Ein Unternehmenssprecher will nicht sagen, ob Strafverfolgungsbehörden innerhalb der EU oder sogar Deutschland Paliscope – und damit möglicherweise auch PimEyes – einsetzen. Auf konkrete Fragen geht er gar nicht erst ein, teilt aber mit: „Wir würden niemals mit einem Partner zusammenarbeiten, der das Gesetz bricht.“

PimEyes versuchte noch Anfang Juni öffentlich, Strafverfolgungsbehörden als neue Kundinnen zu gewinnen. Im FAQ auf der PimEyes-Website hieß es, Ermittler:innen könnten mit der Suchmaschine auch im sogenannten Darknet nach übereinstimmenden Gesichtern suchen. Aber zwei Tage, nachdem One Zero darüber berichtet hatte, verschwand diese Textpassage.

Kowalczyk und Tatina bestätigen uns, dass sie die Passage entfernt haben. Allerdings nur, weil Strafverfolgungsbehörden kein Interesse an PimEyes gezeigt hätten. Eine Erklärung, die vor allem deshalb erstaunt, weil die Betreiber seit mindestens vier Monaten im Hintergrund an einem eigenen Produkt für Strafverfolgungsbehörden arbeiten. Sie haben dafür offenbar sogar eine weitere Firma gegründet: Faceware AI.

Ein Briefkasten in den USA

Kowalczyk und Tatina zufolge steckt Faceware AI noch im Aufbau. Die beiden wollten kundenspezifische Software für Strafverfolgungsbehörden entwickeln und damit verschwundene Kinder finden, schreiben sie uns in einer E-Mail. Faceware AI habe jedoch nichts mit PimEyes zu tun.

Auf dem Karrierenetzwerk LinkedIn heißt es, Faceware AI entwerfe Software für Gesichtserkennung und Machine Learning. Technologien, die durchaus stark an das erinnern, was die Gründer über Jahre hinweg in Breslau unter dem Namen PimEyes ausgearbeitet haben.

Auf LinkedIn ist ein weiterer Mitarbeiter von Faceware AI aufgeführt, der seinem Profil nach zu urteilen wohl den Vertrieb des neuen Dienstes übernehmen soll, jenseits von Europa. Die Gründer geben an, Faceware AI habe seinen Hauptsitz im US-Bundesstaat Rhode Island. Im dortigen Handelsregister existiert jedoch keine Firma mit diesem Namen.

Anfang April, nur einen Tag, bevor Łukasz Kowalczyk und Denis Tatina die Internetdomain von Faceware AI registrierten, meldete allerdings jemand im Bundesstaat Delaware ein Unternehmen mit dem Namen Faceware Inc. an – mithilfe eines Dienstleisters, der den Geschäftsführern Anonymität gewährt. Delaware ist als Steueroase und Heimat zahlreicher Briefkastenfirmen bekannt. Wir haben Kowalczyk und Tatina mehrfach gefragt, ob es sich bei Faceware Inc. um ihre Firma handelt. Aber die PimEyes-Betreiber wollen sich dazu nicht äußern.

Gesichtserkennung durch die Polizei

Wenn Faceware AI eines Tages funktioniert, könnten sich viele Ermittlungsbehörden dafür interessieren. In den USA arbeiten zahlreiche Polizeibehörden bereits mit Amazon zusammen. Der Konzern bietet mit „Amazon Rekognition“ eine Software für Gesichtserkennung an. Bürgerrechtsorganisationen fordern ein Verbot der Software, unter anderem weil sie einen rassistischen Bias hat und dadurch insbesondere People of Color durch falsche Gesichtserkennung zu Unrecht in den Fokus der Ermittlungen rücken könnte. Kürzlich hat Amazon bekannt gegeben, der Polizei ein Jahr lang keinen Zugriff mehr auf „Rekognition“ zu geben.

Der Datenschutz mag in Europa strenger sein, Gesichtserkennung durch die Polizei gibt es aber längst auch in Deutschland. In der Polizeidatenbank INPOL beispielsweise sind rund 3,65 Millionen Menschen gespeichert, und die Anfragen an das Gesichtserkennungssystem des Bundeskriminalamts steigen stetig, wie das Bundesinnenministerium im April in seiner Antwort auf eine Kleine Anfrage mitteilte. Alleine 2019 nahmen Ermittler:innen dort demnach 54.000 Abfragen vor.

Mit deutschen Behörden dürfte PimEyes wohl nur zusammenarbeiten, wenn Kowalczyk und Tatina ihre Datenbank mit legalen Mitteln aufgebaut haben. „Eine solche Zusammenarbeit müsste eine eindeutige rechtliche Grundlage haben“, sagt Datenschützer Stefan Brink.

Verhaftet, weil man sich auf einer Demo blicken ließ

Brink warnt vor den Folgen, die der Einsatz einer Gesichtserkennung im großen Stil haben könne. „Was hier gemacht wird, hat das Potenzial, unsere Verhaltensweisen und Umgangsformen in der Gesellschaft zu verändern“, sagt er. „Das bedeutet ja nichts weniger, als dass wir die Anonymität verlieren, wenn wir uns im öffentlichen Raum bewegen, und dass wir im Prinzip jederzeit und an jeder Stelle identifizierbar werden können.“

Die Bundestagsabgeordnete Anke Domscheit-Berg sieht durch eine solche Suchmaschine die Meinungsfreiheit bedroht. „Geheimdienste und andere staatliche Stellen könnten Demonstrant:innen identifizieren und ihr Beziehungsumfeld ausforschen.“ Wenn Menschen das befürchten müssen, würden sie sich eher von Demonstrationen fernhalten.

Wie gefährlich PimEyes beim Einsatz gegen Demonstrant:innen sein könnte, wird deutlich, als wir bei der Suchmaschine ein Foto von Domscheit-Berg selbst hochladen. Es zeigt die Politikerin bei einer Demonstration, ausgerechnet gegen Massenüberwachung. Nach viereinhalb Sekunden zeigt die Software uns rund 60 Bilder an, auf denen sie Domscheit-Berg vermutet.

Dass Technologie zur Gesichtserkennung wirklich eingesetzt werden könnte, um Teilnehmer:innen von Demonstrationen zu ermitteln, machte vor drei Jahren die Hamburger Polizei vor. Im Zusammenhang mit den Protesten am Rande des G20-Gipfels sammelte sie großflächig Bild- und Videomaterial. Schließlich ließ eine Sonderkommission über mehr als 30.000 Aufnahmen eine entsprechende Software laufen, die nach Gesichtern suchte.

In Moskau ist Gesichtserkennung im Alltag schon Realität. In der russischen Hauptstadt, wo immer wieder Teilnehmende politischer Demonstrationen verhaftet werden, analysiert die Software einer Firma namens FindFace Aufnahmen von öffentlichen Überwachungskameras. „Moskau ist sicher mit FindFace“, lobt sich die Firma auf ihrer Website selbst.

Anfang dieses Jahres wurde bekannt, dass Innenminister Horst Seehofer mit dem neuen Bundespolizeigesetz sogar eine automatisierte Gesichtserkennung in öffentlichen Räumen einführen wollte. Nachdem der CSU-Politiker auf Gegenwehr stieß, zog er den Vorschlag zurück. Spätere Äußerungen vor allem aus Unionskreisen deuten aber darauf hin, dass eine Umsetzung womöglich nur aufgeschoben sein könnte.

Auch das Weißbuch zur KI-Strategie der EU-Kommission, in das politische Hoffnungen gesetzt worden waren, sieht keine gesonderte Regulierung von Technologien zur Gesichtserkennung vor. Ein Moratorium, um Zeit zur Risikobewertung zu gewinnen, verhängte die Kommission trotz anfänglicher Überlegungen nicht. Das setzt die Bundespolitik unter Druck, selbst zu reagieren.

Der digitalpolitische Sprecher der Union fordert Regulierung

Tankred Schipanski, der digitalpolitische Sprecher der Union im Bundestag, hält vor dem Hintergrund unserer Recherchen zu PimEyes eine Regulierung für notwendig. „Wenn dies auf Ebene der EU zeitnah nicht gelingen sollte, müssen wir hier als nationaler Gesetzgeber tätig werden“, sagt er gegenüber netzpolitik.org. Den gegenwärtigen Zustand bezeichnet Schipanski als unhaltbar.

„Das Missbrauchspotential einer solchen Anwendung ist enorm“, sagt Jens Zimmermann, digitalpolitischer Sprecher der SPD-Fraktion. Er fordert eine genaue Prüfung, ob die bestehenden gesetzlichen Regelungen einen ausreichenden Schutz bieten. „Wollen wir wirklich in einer Gesellschaft leben, in der Anonymität im öffentlichen Raum de facto nicht mehr möglich ist?“

Anke Domscheit-Berg ist noch einen Schritt weiter gegangen und hat sich infolge unserer Recherchen in ihrer Funktion als Bundestagsabgeordnete an den Bundesdatenschutzbeauftragten Ulrich Kelber gewandt. Sie sagt: „Wenn diese App keine Rechtsgrundlage hat, wie sie die DSGVO vorschreibt, müssen daher entsprechende Sanktionen verhängt und eine Verbreitung der App schnellstmöglich unterbunden werden.“

Über seinen Sprecher teilt Kelber mit, er werde nun die zuständige polnische Datenschutzaufsicht Urzad Ochrony Danych Osobowych (UODO) kontaktieren und dort weitere Informationen einholen.

Betroffene von Datenschutzverstößen haben Recht auf Schadensersatz

Eine Anfrage von netzpolitik.org ließ die UODO unbeantwortet. Damit bleibt zunächst unklar, ob die polnische Behörde überhaupt von PimEyes weiß. Stellt die Behörde fest, dass Kowalczyk und Tatina gegen die DSGVO verstoßen haben, droht den Gründern ein Bußgeld.

Als die UODO im vergangenen Jahr zum ersten Mal eine Strafe gegen ein Unternehmen verhängte, sollte dieses rund 220.000 Euro bezahlen. Damals ging es um nicht erfüllte Informationspflichten, betroffen waren etwa sechs Millionen Menschen. In der Datenbank von Kowalczyk und Tatina sollen 900 Millionen verschiedene Gesichter sein.

PimEyes mag seinen Sitz in Polen haben, die UODO für das Unternehmen zuständig sein. Betroffene in Deutschland, die gegen den Dienst vorgehen wollen, können sich aber an ihre jeweilige Landesbehörde für Datenschutz wenden. Diese müsste den Fall dann für sie weiterverfolgen.

Stefan Brink sieht bei der Suchmaschine einen, wie er sagt, klassischen Anwendungsfall für die Verletzung des Rechts am eigenen Bild. „Das schreit geradezu danach, das auch zivilrechtliche Schadensersatzforderungen geltend gemacht werden können.“

Die DSGVO sieht das bei Datenschutzverstößen für Betroffene vor.

Für Dylan, den Banker aus Frankfurt am Main, ist klar: Er will einfach nicht, dass sein Gesicht auf PimEyes zu finden ist. Bestimmt gebe es auch eine Menge Fotos von Fremden, auf denen er zufällig im Hintergrund zu sehen ist. „Die einzige Möglichkeit, sich vor einer solchen Suchmaschine zu schützen, wäre verschleiert herumzulaufen“, sagt er.

Auch Dylan hat das Meldeformular von PimEyes genutzt, damit die Firma sein Foto von der queeren Bootsparty aus den Suchergebnissen löscht. Wenig später kommt die Bestätigung per E-Mail.

Aber das angeblich gelöschte Motiv ist Tage später noch immer in der Suche zu finden.


„Setzt unsere Datenschutzrechte endlich auch durch!“, fordert Markus Beckedahl. Die Abgraserei von Fotos im Internet und deren Nutzung für automatisierte Gesichtserkennung sind ein Angriff auf unsere Anonymität und Privatsphäre. Dabei gibt es genug Möglichkeiten, gegen solche Unternehmen vorzugehen. Ein Kommentar.


Recherche ist aufwändig und kostet Geld

Diese Veröffentlichung war sehr aufwändig und hat uns alleine durch den Zeitaufwand eine Menge Geld gekostet. Wir können uns solche aufwändigen Recherchen auch nur leisten, weil wir weitgehend auf Werbung verzichten und von Leserinnen und Lesern finanziell unterstützt werden. Mit einem Dauerauftrag und/oder einer Spende kannst Du / können Sie uns mehr Recherchen ermöglichen.

Du möchtest mehr kritische Berichterstattung?

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten. Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

 

Unterstütze auch Du unsere Arbeit jetzt mit deiner Spende.

35 Ergänzungen
  1. Interessant, das wird sicher genutzt werden um die Personen die in Kinderpornos oder ähnlichem abgelichtet sind zu erkennen und deren Spuren zu finden. z.B. die Identität von Kindern und Tätern. Für die Strafverfolgung wird diese Technologie daher mit Sicherheit eine große Relevanz erhalten.

    1. Bis die unerkennbaren Deep-Fakes kommen, und man Seehofer verhaften müsste, weil das System einen Treffer anzeigt. Würde man ihn dann verhaften? Wohl kaum!

        1. @Holger_die_Waldfee: Genau das meinte ich mit meinem Kommentar. Nur ging ich noch weiter darauf ein, dass in solch einem (fiktionalen, zukünfigten) Fall bestimmte Menschen – z.B. bekannte Politker und Innenminister – noch von der Unschuldsvermutung profitieren würden, während normale Bürger dagegen wohl erstmal komplett chancenlos wären.

  2. Startups, haben sie einmal große Aufmerksamkeit erreicht, ihre Technologie funktioniert, hat das Zeug zu Disruption, schert sich absolut um keinerlei Regeln, ist vielleicht toxisch, amoralisch, ausbeuterisch, juristisch im Graubereich und sonst kaum zu fassen, dann ja dann brauchen sie nur darauf zu warten für sehr viel Geld übernommen zu werden.

    Angesichts solcher Beispiele wie etwa Peter Thiel, PayPal, Palantir haben sich Schemata gebildet, die zunehmend Nachahmer finden. Augenscheinlichstes Merkmal für den eigenen Erfolg scheint Skrupellosigkeit zu sein, und diese wird im IT-Bereich eher belohnt als sanktioniert.

    1. „Skrupellosigkeit“ ist im IT-Bereich nicht wirklich weit verbreitet – es geht um die Wissenschaft, und als Forschungprojekt wäre das ganze sicher eine gute, wertvolle Leistung. Die Probleme kommen auf, wenn es mit der Geschäftemacherei anfängt.

      1. Ja und bei der Schnittmenge zwischen Geschäftsbereich und IT-Bereich, gibt es eine ganze Menge mindestens relativer Skrupellosigkeit. Die Schnittmenge ist auchg größer als „die Wissenschaft“, vielleicht sind dort sogar mehr Leute Beschäftigt als in sämtlicher Wissenschaft weltweit. [Wer hat Lust, nachzuzählen?]

        Die ganz neuen Cookie-Richtlinien z.B… welcher Anteil an Webseiten erlaubt es, die minimalen Einstellungen mit einem Click direkt zu treffen, bei adäquater Information, ohne die Steuerelemente irgendwie böse zu gestalten?

        Typisch ist sowas:
        – Eine kurze verklausulierte Erklärung, die nicht immer ganz klar lässt, was was ist.
        – Ein Knopf, sie „alle zu akzeptieren“, teils mit „vereinfachtem Text“, der nicht ganz klar erkennen lässt, was es bedeutet.
        – Ein Knopf für „Einstellungen Anpassen“. Dahinter ein Dialog.
        – Dieser Dialog hat einen Knopf „Zurück“, einen „Einstellungen Speichern“, der minimale Einstellungen bedeutet, wenn man sonst nichts ankreuzt, wieder mal einen, sie alle zu akzeptieren.
        – Natürlich ist die farbliche Hinterlegung klar, „Alle akzeptieren“ ist z.B. immer grün, „Einstellungen anpassen“ und „Zurück“ und „Einstellungen speichern“ sind Textfarbe auf Hintergrundfarbe, gern auch für die Umrandung, damit leichter zu übersehen, wenn man nicht den ganzen Tag Zeit für soetwas eingeplant hat.
        – Obviously colorful patterns – plus ständig auf Seiten „Einstellungen speichern“ zu müssen. Wer will dauernd erneut Einstellungen speichern müssen?

        Klar ist das wohl auch ein Marketingproblem, und die Unternehmen die z.B. etwas anbieten sind nicht nur IT, und es gibt viel mehr IT als das. Dennoch, wie wirkt IT auf die Welt…

        1. Ein Option ohne Dark Pattern ist vielleicht nicht einmal möglich. Hier würde wohl nur Regulation über Farben und Symbole helfen, ähnlich den Regeln, wie sie für UI-Design im Appstore mal galten oder immer noch tun (keine Doppelbelegungen, keine Irreführungen, klare Symbole, vielleicht sogar offizizelle Symbole…).

          Beispiele:

          1. Alle akzeptieren, Einstellungen anpassen und Einstellungen speichern.
          -> Natürlich ist Einstellungen Speichern die minimale Variante qua Gesetz, aber der Reflex sollte sein: „Moment, welche Einstellungen eigentlich?“… nuisance.

          2. Irgendetwas mit „notwendige Cookies“ unter der Anfangsauswahl, was dann minimal ist. a) „notwendig“ klingt in der Welt der Möglichkeiten nach „wenig“, b) überhaupt eine Wahl treffen zu müssen.

          3. Z.B. 2., aber ein Bestätigungsdialog nur mit „OK“ für „Einstellungen wurden gespeichert“. hier wird letztlich das Gesetz diskreditiert (nuisance).

          Das Verbot von Dark Patterns mit Meldesystem und ÖR-Diskussionsrunde, sowie die Regulierung der erlaubten Symbol- und Farbkombinationen (inklusive Hintergrund) scheinen die einzigen Wege hier wirklich Ordung zu schaffen, wenn nicht die Benutzer Sturm laufen und abwerten. So eine Regulierung würde vermutlich Zusatzcookies killen, oder es würden noch buntere „Vorteilscookies setzen“ Schaltflächen erscheinen. Vorteilscookies, Paybackcookies… dann springen womöglich Supermärkte mit auf, und bieten die Cookiefassade für X Dritt-„Anbieter“, indem ihr Vorteilsprogramm mit der Cookiewahl verbunden wird, um einen realen Gegenwert vorzugaukeln (Prozente…), und avancieren zu Metaschleudern.

  3. Ich habe mal testweise ein öffentlich zugängliches Bild von mir gesucht. Ergebnis: 56 Treffer. Kein einziges der Bilder hat mich abgebildet. Manche der Personen hatten eine gewisse Ähnlichkeit, die meisten waren mir aber überhaupt nicht ähnlich. Die meisten der Photos stammen aus Facebook. Wer nur wenige Photos von sich hochgeladen hat, mit dem hat es der Algorithmus offenbar deutlich schwieriger.

    Ich frage mich an der Stelle immer: wieso darf man überhaupt einen AI Algorithmus auf Bildern von Facebook, Instagram etc. trainieren? Für kommerzielle Zwecke sollte das eigentlich ein absolutes Tabu sein. Ich glaube in diesem Bereich scheint unsere Gesetzgebung noch hinterher zu sein.

    @Hugo: Ja klar ist das eine große Hilfe für die Strafverfolgung, aber eben auch für Regime um Regimekritiker umzubringen, für Stalker, für Geheimdienste und so weiter. In der Theorie wäre es natürlich schön, wenn so eine Software nur für polizeiliche Arbeit eingesetzt wird. Aber das funktioniert in der Praxis nicht. Das hat die kamerüberwachung in UK gezeigt, dass hat der Bundestrojaner gezeigt: Sobald die Polizei irgendeine Technologie zur Strafverfolgung hat, wird diese für jede Banalität eingesetzt. Offiziell ist dann immer von Bekämpfung der Kinderpornographie die Rede, um für Unterstützung zu werben, in der Praxis werden damit dann Steuerbetrüger gesucht. Und ist so eine Technologie erstmal im Umlauf, gibt es kaum noch Kontrolle darüber.

  4. Tolle Recherche!

    Interessant auch, dass ausgerechnet die CSU Gesichtserkennung einsetzen wollte (oder womöglich noch immer will), wo doch die CSU damals das Abfotografieren von Häuserfassaden so schlimm fand. Was für Häuser nicht ging ist also bei Menschen kein Problem (face und Fassade haben den gleichen Wortstamm).

    1. Bei ihren Haeusern hatten die CSU-Bonzen Angst, dass es Begehrlichkeiten ausloesen koennte.
      Bei ihren Gesichtern haben die CSU-Bonzen keine Angst, denn die halten sie eh‘ dauernd in Kameras und wollen erkannt werden.

      Ernsthaft: unsere Profipolitiker sind gewohnt, erkannt zu werden und haben gleichzeitig massive Privilegien, um damit umzugehen. Die haben keine Vorstellung, dass es fuer „normale Buerger“ problematisch sein koennte, und „wer nichts zu verbergen hat…“. Und dann gibt’s natuerlich die ganzen Proto-Faschisten in Union und SPD, die idR Innenminister werden, die finden Ueberwachung und daraus resultierenden Konformitaetsdruck explizit gut.

    2. Der CSU geht es immer nur darum, dass der Staat – in Form von Polizei und Geheimdiensten – uneingeschränkt handeln darf, grenzenlos überwachen darf, etc. also möglichst „total“ sein soll … für die Sicherheit!

  5. Gute Recherche. Wobei PimEyes ja bereits im Juni in der US-Tech-Szene die Runde gemacht hatte.

    OneZero hatte beispielsweise eine gute Geschichte dazu, die auch einigermaßen Verbreitung gefunden hat: https://onezero.medium.com/this-simple-facial-recognition-search-engine-can-track-you-down-across-the-internet-518c7129e454

    Und über mehrere Tage wurde PimEyes auf 4chan herumgereicht – samt Logins für offenbar gehackte Konten.

    Allerdings scheint die Technik vergleichbaren Systemen doch schon hinterher zu hinken. Einige fachkundige 4Chan’ner, die sich damit beschäftigt haben, schrieben, dass PimEye beispielsweise Systemen wie Facebooks DeepFace, Amazons Rekognition, ClearView oder auch NGI mindestens zwei bis vier Jahre hinterher ist.

    Unter anderem scheint PimEye nur sehr elementare Facial Features wie Nase-, Augen-, Mundabstand und grundlegende Feature-Formen für seinen Abgleich und seine Suche zu verwenden.

    Die Kopfform selbst, die Stirnhöhe, Kinform etc. scheint nicht oder nur sehr fehlerhaft einbezogen zu werden. Eine Verknüpfung mit einer zusätzlichen holistischen Analyse findet ebenso offenkundig nicht statt. Zudem scheint das System auch vollkommen auf eine Textur-Analyse zu verzichten.

    Auch mit Brillen und Bärten scheint PimEyes seine Probleme zu haben.

    Daher enthalten viele Suchen Falschpositivtreffer.

    1. Auf die Story von One Zero, die Berichterstattung ins Rollen gebracht hat, nehmen wir im Text mehrfach Bezug.

      Die Suche zeigt auch viele Bilder an mit relativ niedrigen Prozentangaben – gerade bei Personen, zu denen es recht wenige Treffer gibt. Die ermittelte Ähnlichkeit in Prozent wird im Ergebnis aber transparent gemacht, insofern würde auf die vermeintlichen falschen Treffer wenig geben. Letztendlich sind sie auch nicht entscheidend zur Identifikation, selbst wenn es nur wenige tatsächliche Treffer gibt: Um den Namen der Person herauszufinden, kann schon ein einzelner Fund reichen.

      Was den Bart angeht: Dylan, der in unserem Artikel vorkommt, hatte auf dem gefundenen Partyfoto keinen Bart, auf dem getesteten Foto von Xing allerdings schon.

  6. Anders, als die griffige Überschrift suggeriert, hat hier nicht eine obskure polnische Unternehmung die Anonymität abgeschafft, sondern einfach nur geerntet, was alle Menschen mit ihrer naiven, nur von der Tapete bis zur Wand denkenden Internetnutzung gesät haben. Oder noch genauer: Sie haben es als Unternehmung geerntet und verkaufen ihre Ernte als offenes Geschäftsmodell, nachdem vor ihnen einige Unternehmungen (nebst Polizeien sowie Geheimdiensten auch unterdrückerischer Staaten) den gleichen, von Menschen eingesammelten Datenschatz eher klandestin geerntet haben.

    Ich hoffe mal, dass mich jetzt wenigstens in den nächsten zwei, drei Wochen keiner mehr als »Aluhutträger«, »Dummkopf« oder »Verschwörungstheoretiker« benennt, wenn ich mich energisch dagegen verweigere, fotografiert zu werden und dafür sorge, dass es kein Bildmaterial von mir im Internet gibt. Das tue ich übrigens seit über anderthalb Jahrzehnten, teilweise auch aggressiv gegen Menschen, die mich einfach ungefragt knipsen, aber erst bei Androhung körperlicher Gewalt begreifen, dass ich ihre psychische Gewalt nicht über mich ergehen lassen will. Und weia, wurde ich dafür oft ausgelacht…

    Und nein, vom »Datenschutz« in der Europäischen Union erwarte ich nichts. Der schützt Autokennzeichen wirksamer als Menschen. Und das ist p’litische Absicht.

    1. Als du im ersten Absatz „alle Menschen“ geschrieben hast war ich beleidigt!
      Im zweiten Absatz hab ich mich dann selbst wieder erkannt; und da seh ich auch ein großes Problem: ich will nicht anfangen meine besten Freunde zu verklagen, wenn ich Wochen nach einer Party merke, dass ich sehr deutlich erkennbar irgendwo in einem 4-5 Personen-Grüppchen abgelichtet wurde, ohne es gemerkt zu haben. Oder wenn mich jemand darauf hinweist, dass ich auf einem Bild bei Facebook bin: „Du willst das doch immer nicht. Was machst du denn jetzt?“. Gute Frage. Weil selbst wenn Facebook es auf der Seite nicht mehr anzeigt habe ich absolut kein Vertrauen mehr, dass es nicht trotzdem weiter gespeichert bleibt, um andere Dinge damit anzustellen.

    2. Klar gibt es Leute, die bedenkenlos alles ins Netz werfen. Aber der Vorwurf trifft viele Menschen zu Unrecht. Wenn dein Unternehmen eine „Unser Team“-Seite ins Netz stellt, fragt dich keiner, ob du ein Problem damit hättest, dein Foto dort zu sehen. Wenn Du kein Xing- oder LInkedIn-Profil (mit Foto) hast, bist du in vielen Branchen beruflich raus. Und wenn jemand auf einer Party ein Foto von Dir macht, und es einfach online stellt, bekommst Du es noch nicht einmal mit. Es gibt zig Möglichkeiten außerhalb von eitler Selbstinszenierung, warum man mit Foto ins Netz kommt.

  7. Umso wichtiger, dass man dann mit unserer ausspionierten Identität nichts anfangen kann. D.h. anonym wohnen (kein Meldezwang), anonym telefonieren und ins Internet (kein Identifizierungszwang beim SIM-Kauf), anonym bezahlen (kein Identifizierungszwang bei der Kontoeröffnung), auch sonst nicht identifizierbar (kein Ausweiszwang, auch nicht bei Reisen, also kein Passzwang). Freiheit eben, die wir brauchen. Freiheit vom Staat, der genau das durch seine Vorschriften verbockt hat und die totale Überwachung durch Zuordnung von uns zu einer Identität erzwingt! Ohne diesen staatlichen Überwachungszwang würsste man mit einem zugedordneten bild nämlich nur, dass das irgendwer ist, der schonaml woanders irgendwer war. Namen könnte man ohne den staatlichen Zwang nicht zuordnen.

  8. Und wenn es nicht PimEyes oder Clearview AI ist, dann kommen ähnliche Software-Produkte von anderen Entwicklungsschmieden. Für die Software-Industrie stellen sich diesbezüglich nur zwei Frage: Gibt es einen Markt für unser Produkt und wie umgehen wir rechtliche Probleme?
    Ob letztendlich die Privatwirtschaft oder staatliche Sicherheitsbehörden diese Software erwerben spielt für den Verkaufserfolg (z.B. “Bezahlmodell für massenhafte Suchanfragen“) keine Rolle.
    PimEyes erweckt auch nicht den Eindruck als würde sich die Firma intensiv mit Datenschutz und Ethik beschäftigen.

  9. Das die Beispiele für die Gefährdung, die von dieser Plattform ausgeht, so illustriert wird, als seien damit vor allem oder ganz besonders Menschen aus der LBTQ-Community treffen könnte, finde ich sehr bemüht und ist für mich ein Beispiel wie zu viel Bemühen um Woke-Sein dazu führt, dass hier ein Problem das nun wirklich jeden betreffen kann fast so aussieht, als sei es ein Minderheitenthema.

  10. Zu dem Punkt, dass Pimeye nur noch eigene Bilder zulässt. Wenn ich mit Firefox auf die Seite gehe kann ich nur ein Foto aufnehmen. (Laut Angabe um Missbrauch zu unterbinden) Dies lässt sich mit OBS und dem OBS Cam plugin umgehen (hatte ich zufällig installiert). Wenn man aber Tor benutzt kann man neben den Fotos aufnehmmen auch eine Datei hochladen oder einen Link benutzen.
    (Der Tor Ausgangsknoten ist französisch) Vermute daher, dass diese Features nur regional geblockt werden und nicht entfernt wurden. Falls jemand ne Vpn oder so installiert hat könnte er/sie das ja mal überprüfen.

    1. Hey, also ich habe es gerade mit VPN getestet, habe probeweise wie du sagtest einen französischen Server genommen und testweise einen Griechischen, bei beiden kam nur die Fotoaufnahme als Auswahl. Als ich allerdings einen US Server genommen habe, konnte ich, wie du gesagt hast, selbst ein Bild hochladen oder einen Link benutzen. Habe allerdings keine Lust weiter rum zuexperimentieren. Sieht also stark nach deiner Vermutung aus, dass es regional geblockt ist.

    2. Laut dem aktuellen netzpolitischen Podcast (NPP 204) lässt sich das noch einfacher umgehen – man kann anscheinend ein Foto auf dem Smartphone öffnen und vor die Webcam halten, soll auch einwandfrei funktionieren.

      Übrigens ist mit österreichischer IP auch nur die Aufnahme per Webcam möglich.

  11. Die Technik git es ja schon, und wird bereits verwendet, diesbezüglich ist eine öffentliche Suche nicht schlecht,
    aber es sollte da sichergestellt sein, dass nur „ich“ nach „meinem“ Gesicht suchen kann, bzw. dass ich informiert werde, wenn jemand und wer nach mir sucht, z.B. indem man dort z.B. „zertifiziert“ seine Mail mit seinem Gesicht verknüpfen kann.

    1. Da ist dann leider das Interessenproblem mit der Privatwirtschaft.

      Das geht eigentlich nur mit staatlichen Instanzen dazwischen, was eigentlich bedeutet, das Suchmaschinen auch eher staatlich sein müssen.

      Ob Gesetzgebung in der Lage ist, hier genügend „Staatlichkeit“ einzubringen, wage ich zu bezweifeln.

  12. > Aber die PimEyes-Betreiber wollen sich dazu nicht äußern.

    Delaware-Firmen haben vorwiegend einen Zweck: Steuervermeidung und Steuerverkürzung. Kein Wunder, dass PimEyes einen Zusammenhang abstreiten.
    Es soll ja Steuerkonstruktionen geben, wo übertrieben hohe Lizenzen an ausländische Firmen gezahlt werden, nur um sich im Heimatland steuerlich arm zu rechnen.

  13. Die Diskussion, ob diese Art der Verarbeitung biometrischer Daten laut DSGVO zulässig ist oder nicht, finde ich interessant (ich bin allerdings rechtliche Laiin).

    PimEyes argumentiert hier anscheinend (wie im Artikel beschrieben), dass diese Art der Verarbeitung nicht unter Artikel 9 Absatz 1 der DSGVO fällt („Verarbeitung besonderer Kategorien personenbezogener Daten“, zB biometrischer Daten). In der Privacy Policy von PimEyes steht allerdings, die hochgeladenen Bilder und deren biometrische Daten werden auf Basis von Artikel 9 verarbeitet (unter „face image“), die Person stimmt dem allerdings explizit zu, wenn sie ein Bild hochlädt. Sie scheinen die Daten also doch für besonders schützenswert zu halten.

    Als Grundlage dafür, die biometrischen Daten von allem zu verarbeiten, was sie irgendwo aus dem Internet zusammengescrapt haben, geben sie Artikel 6, Absatz 1f an (unter „data collected in Pimeyes database“): Es liegt im Interesse des Unternehmen. Dass ihr Interesse dabei wichtiger ist wie die Interessen und Grundrechte von Betroffenen, was dieser Abschnitt der DSGVO, ebenfalls verlangt, ist IMHO eine gewagte These …

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.