Neuer ChefGesichter-Suchmaschine PimEyes bricht das Schweigen

PimEyes untergräbt die Anonymität von Menschen, deren Gesicht im Internet zu finden ist. Nach breiter Kritik hatte sich die polnische Suchmaschine auf die Seychellen abgesetzt. Jetzt hat PimEyes einen neuen Chef – und geht an die Öfffentlichkeit.

Eine Person führt Gesichtserkennung an einem Smartphone durch
Datenbank mit Hunderten Millionen Gesichtern (Symbolbild) – Person: IMAGO / Westend61; Scerenshot: pimeyes.com; Montage: netzpolitik.org

PimEyes gibt es noch immer, und die Suchmaschine für Gesichter verschreibt sich inzwischen „ethischer KI“ und „Frauenrechten“. Ihr neuer Chef, Giorgi Gobronidze, zeigt sich selbstbewusst in Interviews mit CNN und der New York Times.

Vor ziemlich genau einem Jahr hat der Datenschutzbeauftragte Baden-Württemberg, Stefan Brink, ein Verfahren gegen PimEyes eingeleitet. Durch die Suchmaschine drohe „nicht weniger als der Verlust der Anonymität“, schrieb er. Die Suchmaschine durchforstet das Netz massenhaft nach öffentlich zugänglichen Fotos und erfasst die biometrischen Daten von Gesichtern. Das Ergebnis ist eine Datenbank von nach eigenen Angaben Hunderten Millionen Gesichtern.

Nutzer:innen können auf PimEyes ein beliebiges Foto hochladen und sich anzeigen lassen, welche Gesichter die Suchmaschine für identisch oder ähnlich hält. Wer ein Abo für rund 35 Euro im Monat abschließt, bekommt zu den Suchergebnisse auch Links zu den Websites mit den entsprechenden Fotos. Dort lassen sich möglicherweise weitere Eckdaten über eine gesuchte Person finden.

Auf der Webseite steht, PimEyes sei dazu gedacht, nach eigenen Fotos zu suchen. In der Praxis reicht aber ein Handy-Schnappschuss oder die flüchtige Aufzeichnung einer Überwachungskamera, um mit PimEyes Fremde zu identifizieren – auch auf politischen Demonstrationen. Mit Blick auf die Datenschutzgrundverordnung (DSGVO) ist es fraglich, ob PimEyes überhaupt biometrische Daten ohne vorheriges Einverständnis verarbeiten darf. Datenschützer Brink sieht darin eine Gefahr: Bürger:innen seien „in ihren Rechten massiv gefährdet, wenn ohne ihre Kenntnis Bilder von ihnen im Netz abgeglichen werden und so ihre Identität für Dritte feststellbar wird“.

PimEyes-Chef nennt Technologie „umstritten“

Eine Weile lang hatte sich PimEyes offiziell auf die Seychellen abgesetzt – und geschwiegen. Die Flucht nach Übersee hat auch das Datenschutzverfahren ausgebremst. Jetzt hat PimEyes einen neuen Besitzer, und schweigen möchte er offenkundig nicht.

Der neue PimEyes-Chef, Giorgi Gobronidze, hat sich gegenüber der New York Times ausgiebig geäußert. Sogar das Verfahren der deutschen Datenschutzbehörde kam zur Sprache. „Ich bin erpicht, alle Fragen zu beantworten, die sie haben könnten“. Allerdings will er noch nichts von der Behörde gehört haben.

Auf Anfrage von netzpolitik.org schreibt Gobronidze, er verstehe die Datenschutzbedenken gegenüber der Technologie „voll und ganz, da sie wirklich umstritten ist und es noch keinen konsolidierten Konsens zu diesem Thema gibt“. PimEyes speichere keine Fotos, sondern allein die digitalen Fingerabdrücke der Gesichter, zusammen mit den entsprechenden Links zu den Fundorten im Netz. „Die PimEyes-Suchmaschine sammelt also keine Informationen über lebende Menschen, sondern über URLs, die eine bestimmte Art von Informationen enthalten könnten.“

Diese Deutung ist in der Tat umstritten. Zum gegen PimEyes eingeleiteten Verfahren schrieb Brink schon 2021: Ohne Einwilligung der betroffenen Person dürfe keine Profilbildung stattfinden. Besonders heikel werde es, wenn massenhaft biometrische Daten gesammelt würden.

Brink: Erfahren, wie PimEyes Missbrauch verhindert

Heute schreibt Brink auf Anfrage von netzpolitik.org: „Wenn, wie in der NYT zu lesen war, Herr Gobronidze darauf erpicht ist, alle unsere Fragen zu beantworten, so kann er dies tun. Sollte unser Schreiben vom vergangenen Jahr beim Unternehmen nicht angekommen sein, übersenden wir Herrn Gobronidze sehr gerne erneut unsere Fragen und Hinweise.“

Unter anderem wolle sich Brink das gesamte Geschäftsmodell von PimEyes erklären lassen und dabei auch wissen, wie von Seiten des Anbieters naheliegender Missbrauch verhindert wird. „Wir erwarten, dass das Unternehmen, soweit es seine Dienste in Europa anbietet, sich an die DSGVO hält. Das wollen wir sicherstellen.“

In der Gratisversion liefert PimEyes nur eingeschränkte Suchergebnisse. Für rund 35 Euro im Monat gibt es auch Links zu den Fundstellen und bis zu 25 Suchanfragen pro Tag. Für monatlich rund 346 Euro lassen sich unbegrenzt viele Suchanfragen pro Tag durchführen.

Wer ist PimEyes-Chef Giorgi Gobronidze?

Auf seinem LinkedIn-Profil stellt sich Gobronidze als Sicherheitsforscher vor und als Professor an der Europäischen Universität in Tiflis, Georgien. Er schreibt: „Ich glaube, dass Technologien für jeden zugänglich sein sollten, denn Wissen ist Macht.“ Laut Website seiner Universität hat er unter anderem über nationale Sicherheit, Radikalisierung und Extremismus publiziert.

Das Gründerduo von PimEyes hatte Gobronidze laut New York Times als Gastdozent in Polen kennengelernt. Einst war PimEyes ein Hobbyprojekt von Łukasz Kowalczyk und Denis Tatina. Gobronidze beschreibt sie in dem Artikel als „brilliante Vordenker“ und „komplett introvertiert“. Inzwischen sind die beiden übrigens in einem anderen Projekt involviert – wieder eine Gesichtersuche, über die wir im März berichtet haben.

PimEyes soll zwischenzeitlich einem anderen Unternehmer gehört haben. Von ihm habe Gobronidze das Unternehmen gekauft. Die genaue Summe wolle er laut New York Times nicht nennen. „Es war nicht so viel, wie man vielleicht erwarten würde“, zitiert ihn die US-Zeitung. Für den Kauf habe Gobronidze ein in Dubai registriertes Unternehmen gegründet und ein Büro in Tbilisi, Georgien gemietet. Eine Firma in Belize, Zentralamerika, kümmere sich um Anfragen. Eine Adresse in Belize steht weiterhin in den öffentlichen Nutzungsbedingungen von PimEyes.

PimEyes verschreibt sich offiziell „ethischer KI“

Ein Twitter-Account namens PimEyesOfficial ist seit Mai aktiv. Die Tweets zeichnen das Bild einer Firma, die Menschen nicht schadet, sondern hilft. Am 13. Mai twittert der Account, die „Policy für soziale Verantwortung“ sei nun fertig. PimEyes stehe demnach für freies Internet, zugängliche Technologien, Frauenrechte, ethische KI und ethisches Unternehmertum.

Dahinter steckt der Gedanke, dass Nutzer:innen mit PimEyes herausfinden können, an welchen Orten im Netz ihre Fotos kursieren. So könnten sie sich dagegen wehren. PimEyes schreibt auf der eigenen Website: „Unser Gesichtsfinder hilft Ihnen, ein Gesicht zu finden und Ihre Privatsphäre zu schützen.“ Die Kehrseite ist, dass Nutzer:innen mit PimEyes ebenso einfach die Privatsphäre anderer verletzen können, etwa um Menschen zu finden, zu verfolgen oder zu stalken.

Die vergleichbare Suchmaschine Clearview AI steht gerade international unter Druck. Ähnlich wie PimEyes sammelt Clearview AI biometrische Merkmale von Gesichtern in einer Datenbank. Die Suchfunktion ist aber nicht öffentlich, sondern auf Ermittlungsbehörden beschränkt. Mehrere Staaten habe sich dagegen gewehrt, dass Clearview AI Daten ihrer Bürger:innen sammelt. Dem Unternehmen drohen Millionenstrafen.

Laut New York Times sei Gobronidze offen dafür, dass Nutzer:innen mit PimEyes andere Gesichter suchen als ihr eigenes, so lange es „ethisch“ sei. Er befürworte etwa, dass Journalist:innen nach dem Sturm auf das US-Kapitol am 6. Januar 2021 mutmaßliche Täter:innen identifiziert hätten. Für russische Nutzer:innen habe er PimEyes allerdings seit dem Beginn des Angriffskriegs auf die Ukraine blockiert, wie die New York Times berichtet.

Wer PimEyes nicht traut, soll PimEyes seinen Ausweis schicken

Am 24. Mai berichtete CNN von einer Nutzerin, die in den Suchergebnissen von PimEyes Fotos von sich entdeckte, die sie lieber nicht mehr sehen wollte. Es geht um sexualisierte Gewalt und retraumatisierende Erinnerungen. Sie wollte nicht, dass auch andere Menschen diese Bilder finden können, wenn sie nach ihrem Gesicht suchen. Bei der Nutzerin handelt es sich um die Entwicklerin und ehemalige Apple-Angestellte Cher Scarlett, die sich ihrer Website zufolge für „faire Arbeitspraktiken, Gerechtigkeit und Gleichberechtigung in der Technologiebranche“ einsetzt.

PimEyes bietet zwar an, Suchergebnisse auf Anfrage von Betroffenen zu entfernen – restlos geklappt hatte das laut CNN-Bericht im Fall von Scarlett aber nicht. Möchten Nutzer:innen gar nicht in der PimEyes-Suche auftauchen, sollen sie dem Unternehmen erst einmal einige Bilddateien schicken. Diesen Opt-out-Prozess haben wir selbst ausprobiert: Zuerst sollen Nutzer:innen ein Porträt von sich selbst hochladen, das PimEyes biometrisch erfassen kann, dann eine Aufnahme des eigenen Ausweises. Personenbezogene Daten sollen dabei geschwärzt sein, wie PimEyes ausdrücklich verlangt.

Der Ablauf mutet paradox an: Wer PimEyes nicht traut und nicht möchte, dass die Suchmaschine sensible Daten verarbeitet, soll erst einmal sensible Daten von sich herausrücken. Für Datensammler wären Selbstporträts in Verbindung mit Personalausweisen besonders wertvoll – selbst wenn diese geschwärzt sind. Im Fall eines Hacks oder Leaks könnten solche Daten von Kriminellen für Identitätsdiebstahl missbraucht werden.

Rund 93 Euro im Monat, um Suchergebnisse zu verbergen

Den Klickweg zu diesem kostenlosten Opt-out müssen Nutzer:innen erst einmal finden: Der Button befindet sich ganz unten auf der Seite. Es gibt noch einen weiteren, besser sichtbaren Button, der direkt bei einem Suchergebnis angezeigt wird. Dort steht auf Englisch: „Aus der öffentlichen Suche ausschließen. Klicke, damit dieses Ergebnis nur für dich sichtbar ist“. Wer diesen Button klickt, soll ein monatliches Abo über rund 93 Euro abschließen. Kennen Nutzer:innen nicht den Klickweg zum kostenlosen Opt-out-Prozess, könnten sie auf diesem Weg zu einem Abo verleitet werden.

Gegenüber CNN kündigte PimEyes-Chef Gobronidze bereits Verbesserungen an. Er wollte, dass Nutzer:innen vom kostenlosen Opt-out erfahren. Die Gesichtserkennung solle besser werden, um zu verhindern, dass von Nutzer:innen unerwünschte Suchergebnisse auftauchen. „Wir wollen sicherstellen, dass diese Ergebnisse ein für alle Mal beseitigt werden.“ Außerdem sagte Gobronidze der CNN, dass PimEyes keine Fotos und personenbezogenen Daten anhäufen wolle. „Wir wollen uns nicht in ein Monster verwandeln, das eine riesige Anzahl von Fotos von Menschen hat“.

Mehr Zeit für kritische Berichterstattung

Ihr kennt es: Zum Jahresende stehen wir traditionell vor einer sehr großen Finanzierungslücke und auch wenn die Planung und Umsetzung unseres Spendenendspurts viel Spaß macht, bindet es doch sehr viele Ressourcen; Ressourcen, die an anderer Stelle für unsere wichtige Arbeit fehlen. Um Euch also weniger mit Spendenaufrufen auf die Nerven zu gehen und mehr Recherchen und Hintergründe bieten zu können, brauchen wir Eure regelmäßige Unterstützung.

Jährlich eine Stunde netzpolitik.org finanzieren

Das Jahr hat 8.760 Stunden. Das sind 8.760 Stunden freier Zugang zu kritischer Berichterstattung und wichtigen Fragestellungen rund um Internet, Gesellschaft und Politik bei netzpolitik.org.

Werde Teil unserer Unterstützungs-Community und finanziere jährlich eine von 8.760 Stunden netzpolitik.org oder eben fünf Minuten im Monat.

Jetzt spenden


Jetzt spenden

7 Ergänzungen

  1. … und eine nicht freiwillige Teilnahme. Dann noch meheren dubiosen Gesetzgebungen ausgeliefert und…

    Das wäre doch mal was für ein Hackback, oder nicht? Sind das nicht die Bösen, muss man das nicht verhindern?

    Oder ein positiver Ansatz:
    – Jugendmedienzirkus kriegt sein Spielzeug weggenommen. Und NEIN: wir laden nicht die Ausweise unser Kinder ins Internet hoch, um den „Schutz“ von PimEyes zu „genießen“. Man würde da was verwechseln, will sagen, Konzepte aus der organisierten Kriminalität.
    – Bundesbehörden übernehmen das Scannen des Internets, und können u.a. mit allen möglichen Hashverfahren für Bilder umgehen.
    – Bürger können Bundesbehörde sagen, sie wollen ihr Bild nicht im Internet sehen, und dürfen aktuelle Bilder hochladen, die aber nicht zwingend im Ausweis landen müssen.
    – Bundesbehörde hat irgendwo alle Bilder und kann vergleichen.
    – Unternehmen wie Pimeyes können bei der Behörde Fragen (oder auch nicht), ob sie ein Bild überhaupt auch nur in der Theorie anfassen dürfen. Machen die das trotzdem, und kommt es raus, werden die ofiziell weggebombt. Vielleicht sollte das dann auch kostenpflichtig sein.

    Wie wär’s, oder gleich auf EU-Level (mit EU-Qualität?)?

    1. Und für die Dienste, die ihre selbständigen Mitarbeiter/innen noch verstecken wollen: so eine Deniability ergibt jede Menge Plausibilität, wenn sie jede-r/-m zusteht!

  2. Das Ganze mutet absolut lächerlich an. Als ob hier eine wesentliche Änderung des Geschäftsmodells stattgefunden hätte. Die einzige Änderung ist der Kommunikationsstil.

  3. Das sind skrupellose Menschen, die bösen Scheiß bauen.

    Wer denen, egal zu welchem blumigen Zweck auch immer, sein Gesicht schickt, ist ein Schnitzel. Das Geschäftsmodell gehört geächtet und aktiv verfolgt, wo auch immer es sich befindet.

  4. PimEyes ist nur eine weitere Facette der gesamten Datenschutzprobleme.

    Datenschutz muss in die Köpfe, die aktuelle Situation ist, das es als lästiges Luxusproblem einiger Spinner angesehen wird, ähnlich dem Naturschutz und Umweltschutz. (In Wien nennt eine bekannte Partei derartige Spinner als Häusln…)

    Anzusetzen wäre im Bildungsbereich, wo die Kids dann auch gezeigt wird, wie Daten missbraucht werden, wie Verknüpfungen entstehen, und welche Aussagen und Interpretationen möglich sind.

    So lang in unserem Bildungsweg die Kids mit der Schulschreibschrift gepflanzt und sekkiert werden, ist im Lehrplan leider kein Platz für derartige lästige gesellschaftliche Themen.

  5. Betrügerische Dating-Portale, die durchgehend mit Fakes arbeiten, mit Bilder die bearbeitet oder von Firmen aus dem Ostblock geklaut oder gekauft wurden dürften natürlich Sorge haben, dass Kunden, die auf Partnersuche sind, feststellen können, dass sie belogen, betrogen und abgzockt werden, werden natürlich versuchen über unsere Politiker Pimeyes zu verhindern. Ich schreibe aus eigener Erfahrung, insbesondere mit Dating Protalen wie myDates und single-chat, wo männliche und weibliche Fakes als freie Mitarbeiter bzw. Freelancer Hunderte und Tausende verdienen, vorzugsweise bei älteren Männern und Frauen, völlig an der Steuer vorbei auf Bali oder irgendwo in Asien sitzen. Ist es nicht mein gutes Recht zu wissen mit wem ich schreibe und von wem ich betrogen werde? Noch schlimmer ist, dass die AGB dieser Firmen ihre Betrüger dadurch schützt, dass der Betrug angekündigt wird, aber die AGB voller None Sense ist, dass der Kunde ermüdend aufgibt oder die AGB erst garnicht liest.

  6. Wahrscheinlich die einzig sinnvoller Weg (wenn denn schon Fotos im Netz existieren) Die Daten „vergiften“

    Soll heißen Mehrer Profile mit verschiedenen Daten wie Adressen Alter Orten im Netz unter dem Gesicht veröffentlichen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.