Ende Juli sucht S. im Internet nach einer Frau, die er heiß findet. Sie hat kurze, braune Haare und aufgeklebte Fingernägel. „Wenn du nur ein sexy Foto hast, dann willst du mehr“, schreibt uns S. in gebrochenem Englisch.
Bei seiner Recherche setzt S. auf PimEyes, eine Suchmaschine für Gesichter. PimEyes braucht nur einen Screenshot oder ein flüchtiges Foto, um eine Person im Netz zu suchen. Zum Beispiel die Frau mit den braunen Haaren. Die Suchmaschine erfasst die biometrischen Eigenheiten ihres Gesichts, die Abstände von Augen, Nase und Mund. Als Ergebnis präsentiert PimEyes ähnliche oder gar identische Gesichter, inklusive Link zum Fundort im Netz. Im Jahr 2020 hatten unsere Recherchen zu PimEyes ein internationales Medienecho ausgelöst.
S. möchte mit PimEyes Aufnahmen bekommen, die man sonst nicht so einfach findet. „Ich brauche keine Videos von Pornostars“, schreibt er uns. Er will „private“ Videos. „Wenn du eine Freundin hast, kannst du auch nach ihrem Gesicht suchen“, ergänzt er.
Es ist Zufall, dass wir S. überhaupt gefunden haben. Von Außen lässt sich nicht beobachten, wer PimEyes.com nutzt und welche Bilder jemand dort hochlädt. Anders ist das im Messenger Telegram. Hier gibt es einen Bot, mit dem Nutzer:innen Suchanfragen bei PimEyes starten können, und es gibt eine öffentliche Gruppe für Nutzer:innen dieses Bots. Genau dort haben wir S. getroffen.
Kein offizielles Angebot von PimEyes
Offenkundig fällt es vielen schwer, die Gruppe und den Bot voneinander zu unterscheiden. Das könnte daran liegen, dass sie auf den ersten Blick gleich aussehen. Man muss sich schon etwas mit Telegram auskennen, um sie nicht zu verwechseln. Eigentlich sollen Nutzer:innen dem Bot ein Foto schicken, damit eine PimEyes-Suche startet. Stattdessen landen nahezu täglich Fotos in der öffentlichen Gruppe. Fotos, die offensichtlich nicht für fremde Augen bestimmt waren. Auch S. hat sich hier vertan.
„Ich wusste nicht, dass es eine Gruppe ist“, schreibt uns ein anderer Telegram-Nutzer auf Spanisch. Er wollte dem Bot das Foto einer Frau schicken und hat es versehentlich an die mehr als 1.000 Gruppenmitglieder geschickt. Wir hatten ihn per Direktnachricht darauf angesprochen. Er war erstaunt, dass wir von seiner Suchanfrage wussten.
Der Bot und die Gruppe nutzen den Namen und das Logo von PimEyes, sind aber kein offizielles Angebot der Firma. Das bestätigt uns deren Betreiber per Telegram-Chat. Er möchte anonym bleiben. „Wir sind zwei verschiedene Firmen“, schreibt er. Er leitet die Suchanfragen schlicht an PimEyes.com weiter und schickt den Nutzer:innen die Ergebnisse. Wir haben das ausprobiert und können bestätigen, dass die Ergebnisse auf Telegram denen von pimeyes.com entsprechen.
Was Menschen von PimEyes wollen
PimEyes-Chef Giorgi Gobronidze bezeichnet den Bot auf Anfrage von netzpolitik.org als „unethisch“ und „illegal“. Es habe bereits mehrere solche Fälle gegeben. „PimEyes betreibt keine Bots auf Telegram, und in den meisten Fällen sind solche Bots schlicht Betrug“, schreibt Gobronidze.
Warum verwenden Hunderte Telegram-Nutzer:innen eher den Bot als pimeyes.com? Eine mögliche Erklärung: PimEyes verlangt inzwischen Geld für die vollständigen Suchergebnisse mit den Links zu den Fundorten im Netz. Möglicherweise erhoffen sich die Nutzer:innen auf Telegram Premium-Suchergebnisse für lau – die gibt es hier aber auch nicht. Wer mehr als drei Suchanfragen über den Telegram-Bot durchführen möchte, soll zudem ein Monatsabo per Paypal, AliPay oder Kryptowährung abschließen. Die Tarife beginnen bei rund 10 US-Dollar.
Der Einblick in die Telegram-Gruppe ist nur ein Ausschnitt und nicht repräsentativ für die Nutzer:innen des offiziellen Angebots von PimEyes. Nach Angaben von PimEyes-Chef Gobronidze seien geschätzt 76 Prozent seiner zahlenden Nutzer:innen Frauen. Und nur wer zahlt, bekommt bei PimEyes vollständige Suchergebnisse und kann die Links anklicken.
Dennoch – in der Telegram-Gruppe lässt sich erstmals in Echtzeit verfolgen, was sich hunderte Nutzer:innen von einer PimEyes-Suche erhoffen. Lange Zeit wurde das Missbrauchspotenzial von PimEyes vor allem theoretisch diskutiert. Hier kann man in der Praxis zuschauen, was Menschen von einer solchen Suchmaschine wollen.
2.340 Bilder, vor allem Frauen
Wir haben die Telegram-Gruppe mehrere Wochen lang beobachtet und dutzende Mitglieder persönlich angechattet. Insgesamt 13 haben uns geantwortet. Sie alle haben uns bestätigt, dass sie mit PimEyes fremde Personen suchen wollten. Elf von ihnen haben eine Frau gesucht.
Die Chat-Historie der Gruppe untermauert diesen Eindruck. Der älteste Uploads war im Juni 2021. Seitdem wurden 2.340 Bilder hochgeladen. Die überwiegende Mehrheit zeigt junge Frauen, teils in Unterwäsche, manchmal nackt. Wir haben Mitte August eine Stichprobe der jüngsten 100 Fotos gesichtet. 90 davon zeigten augenscheinlich Frauen, 10 zeigten Männer. „Find her in your heart“, heißt es in der Bot-Beschreibung, frei übersetzt: „Finde deine Herzensdame“. Während sich PimEyes gerade nicht als Suchmaschine für übergriffige Männer präsentieren möchte, hat der Betreiber des Telegram-Bots offenbar weniger Probleme damit.
Einige Fotos in der Telegram-Gruppe sind offenbar Screenshots von Profilen auf Instagram und TikTok. Ein Nutzer schreibt uns, er habe das Gesicht einer Frau aus einer Dating-App gesucht, ein anderer das Gesicht seiner neuen Freundin. Zwei haben das Gesicht eines Mannes gesucht, den sie im Internet gefunden haben; eine Person hatte einen weiblich gelesenen Namen.
Mann forscht monatelang nach Webcam-Model
Gleich sechs Nutzende schreiben uns, sie hätten weitere Bilder eines Webcam-Models finden wollen. Gemeint sind Darsteller:innen der Erotik-Branche, die sich im Live-Stream ihrem Publikum präsentieren. Ein Nutzer namens „Nic“ schreibt, er suche schon fast ein Jahr nach einem bestimmten Webcam-Model.
Nic scheint besessen von der Suche. Gleich zwei Mal fragt er uns, ob wir irgendetwas über diese Frau wissen. Das tun wir nicht. Zur Sicherheit schickt Nic uns nochmal ihr Foto, das wir bereits kennen. Sie lösche ständig ihre Accounts und ändere ihren Namen. Wir fragen Nic, ob die Frau vielleicht einfach nicht gefunden werden will?
„Ja“, bestätigt Nic. Warum er sie trotzdem immer weiter suche? „Ich mag ihr Aussehen und ihren Körper.“
„Eingriff in Grundrecht auf informationelle Selbstbestimmung“
Niemand aus der Telegram-Gruppe hat uns geschrieben, nach dem eigenen Gesicht gesucht zu haben. Dabei wäre gerade das der Anwendungsfall, den PimEyes offiziell vorsieht. In einem „Manifest“ auf pimeyes.com heißt es, PimEyes wurde entwickelt, damit Menschen ihr eigenes Gesicht finden können. Vor jeder Suchanfrage müssten Nutzer:innen mit einem Klick der Privacy Policy zustimmen. Und dort steht:
„PimEyes ist nicht für die Überwachung anderer Personen gedacht und wurde nicht für diesen Zweck entwickelt.“
Wofür PimEyes mal gedacht war ändert bloß wenig daran, wie Menschen es verwenden möchten. „Schütze deine Privatsphäre“, heißt es auf pimeyes.com, und: Alle hätten das Recht, sich selbst im Internet zu finden. Aber hat auch jeder das Recht, beliebige andere Personen anhand ihrer biometrischen Merkmale zu finden?
Bereits 2020 gab es scharfe Kritik an PimEyes. SPD-Vorsitzende Saskia Esken sagte netzpolitik.org: „Der Einsatz dieser Technologien unter Verwendung öffentlich verfügbarer Fotos stellt einen sehr weitreichenden Eingriff in das Grundrecht auf informationelle Selbstbestimmung dar“. Die netzpolitische Sprecherin der Linken im Bundestag, Anke Domscheit-Berg, nannte PimEyes „hochgefährlich“. Sie finde die Vorstellung extrem beunruhigend, dass „jeder Creep in der U-Bahn“ sie über ein Handyfoto identifizieren könnte.
PimEyes identifiziert Menschen nicht direkt, liefert jedoch in den Suchergebnisse neben jedem Bild einen Link zum Fundort des Fotos im Netz. Dort lassen sich dann möglicherweise Namen, Wohnort, Beruf und mehr herausfinden. PimEyes macht es so wesentlich wahrscheinlicher, dass man eine fremde Person mit Hilfe eines schlichten Fotos identifiziert – auch gegen ihren Willen.
PimEyes-Chef: „Wir dulden keine Stalker“
Im Mai hat der neue PimEyes-Chef Giorgi Gobronidze mit der New York Times gesprochen. Er sagte, Nutzer:innen von PimEyes sollten nur dann das Gesicht von anderen Menschen suchen, wenn sie deren Einverständnis hätten. Gobronidze verlasse sich darauf, dass Menschen „ethisch“ handeln. Die Beobachtungen in der Telegram-Gruppen sprechen dagegen, dass das so passiert.
Wir wollten von Gobronidze wissen: Zeigt das Beispiel der Telegram-Gruppe, dass die PimEyes-Suche nach Unbekannten ohne Einverständnis eher die Regel als die Ausnahme ist? Der Tech-Unternehmer nennt das eine „großartige Frage“ und widerspricht: Das Beispiel zeige vielmehr, dass Menschen, die andere stalken möchten, eben nicht das offizielle Angebot nutzen. „Wir tun unser Bestes, um den Missbrauch von PimEyes zu verhindern, und wir dulden keine Stalker“, schreibt Gobronidze.
Zahlende Kund:innen können sich bei PimEyes „Alarme“ für mehrere Gesichter einrichten. Das heißt, sie hinterlegen Fotos und bekommen Benachrichtigungen bei neuen Suchergebnissen. PimEyes überprüfe dieses Fotos, damit keine Frauen, Mädchen und Kinder gestalkt werden, wie Gobronidze erklärt. Eine leichte Aufgabe dürfte das jedoch nicht sein. Von Außen lässt sich nur bedingt beurteilen, ob gerade Opfer oder Täter:innen die Suchmaschine bedienen.
Laut Gobronidze habe ein Großteil (87 Prozent) der PimEyes-Kund:innen einen Bezug zu „Rachepornos oder andere Formen von Gewalt“, etwa Rassismus oder Queerfeindlichkeit. Aber suchen sich hier wirklich nur die Betroffenen selbst? Gobronidze argumentiert: Stalker:innen würden das Bezahlangebot nicht nutzen, weil sie mit den Zahlungsinformationen ihren Namen offenlegen müssten. PimEyes überprüfe Kund:innen und überwache, welche Suchanfragen sie durchführen. Und bei einem Verdacht auf Bots – etwa wenn Accounts mehrere Suchen gleichzeitig durchführen – würde ein Account geblockt.
Premium-Abo für unbegrenzte Suchanfragen
Diese Maßnahmen sprechen dafür, dass PimEyes gegen Suchanfragen ohne Einverständnis vorgeht. Andererseits bietet PimEyes für umgerechnet 350 Euro im Monat ein besonderes Premium-Abo an: Damit können Nutzer:innen unbegrenzt Suchanfragen durchführen und bis zu 500 „Alarme“ einrichten.
In seiner Antwort auf unsere Fragen redet der PimEyes-Chef sein eigenes Produkt klein. PimEyes zeige keine Fotos von Social-Media-Seiten wie Instagram. „Wenn Sie Informationen über jemanden sammeln wollen, finden Sie bei einer einfachen Google-Suche weit mehr als bei PimEyes“, schreibt Gobronidze. Doch so einfach ist es nicht. Suchmaschinen wie Google, Bing oder Yandex bieten keine biometrische Suche. PimEyes-Suchergebnisse können dabei helfen, einem fremden Gesicht erstmals einen Namen zuzuordnen. Auf pimeyes.com wirbt die Firma mit „neuesten Technologien, künstlicher Intelligenz und maschinellem Lernen“.
Gegen PimEyes läuft seit 2021 ein Verfahren des Datenschutzbeauftragten Baden-Württemberg. Dabei geht es auch um die Frage, inwiefern PimEyes überhaupt eine Datenbank mit biometrischen Daten von Gesichtern aus dem Internet erstellen durfte. Immerhin konnten die Abermillionen Betroffenen dem nicht vorher zugestimmt haben. Alle, deren Gesichter offen im Netz zu finden sind, könnten bereits Teil der PimEyes-Datenbank sein.
Noch im Mai sagte PimEyes-Chef Gobronidze der New York Times, er sei „erpicht“ darauf, alle Fragen der deutschen Datenschutzbehörde zu beantworten. Passiert ist das nicht. Die Behörde hatte PimEyes daraufhin ein neues Schreiben geschickt. „Bislang jedoch ohne Antwort“, sagt Datenschutzbeauftragter Stefan Brink auf Anfrage von netzpolitik.org. „Wir setzen unser Verfahren fort.“
Das ist ein allgemeines Suchmaschinending. Es ist „automatisch“. Siehe Polizei, Suchamschinen, die bereits Personensuche weitestegehend unterbinden, sonstwas.
Gesetzgeber/in? Totalausfall.
Vielen Dank für den guten und auch erschreckenden Artikel.
Allerdings möchte ich darauf hinweisen, dass ihr mit den Formulierungen und der Einseitigkeit (Mann/Frau) am Allgemeinen Mann=Täter und Frau =Opfer mitwirkt. Es gibt sicher auch Frauen, die den Dienst missbrauchen, der Artikel hätte genauso gut funktioniert, wenn er unabhängig vom Geschlecht geschrieben worden wäre.
Hallo Markus und Danke fürs Lesen und Kommentieren! Wir haben es hier mit einem Fall von sogenannter geschlechterspezifischer Gewalt zu tun. Diese Gewalt geht vor allem von Männern aus und trifft vor allem Frauen. Das haben wir uns nicht ausgedacht. Es ist ein gesellschaftliches Problem. Den geschlechterspezifischen Aspekt zu relativieren würde das Problem verharmlosen und verkennen. Wir haben uns für diese Recherche angeschaut, ob sie überhaupt ein Beispiel dafür ist oder nicht. Die Hinweise darauf waren klar. Du findest mehr darüber ab Zwischenüberschrift „2.340 Fotos, vor allem Frauen“. Wenn wir solche Phänomene beobachten, werden wir sie weiterhin benennen.