Kommentar zu PimEyesStalking by Design

„Wir sind nur ein Werkzeuglieferant“, sagt der neue Besitzer der Gesichtersuchmaschine PimEyes, die sich auch für Stalking missbrauchen lässt. Die Verantwortung liege bei den Nutzer:innen. Eine bequeme Position, vor allem für ihn selbst.

PimEyes-Besitzer Giorgo Gobronidze vor einem Hintergrund mit Werkzeugen, unten Leiste von PimEyes.com
PimEyes-Inhaber Gobronidze: Nur ein Werkzeuglieferant? – Alle Rechte vorbehalten Hintergrund: Barn images /unsplash, Screenshot: pimeyes.com, Montage: netzpolitik.org

Fünf Sekunden. Etwa so lange braucht man, um auf der Webseite PimEyes nach einem Gesicht zu suchen und Bilder aus allen Winkeln des Internets zu finden. Foto hochladen, zwei Haken bei Geschäftsbedingungen und Privacy Policy setzen, schon bekommt man eine Liste von möglichen Treffern angezeigt. Bilder, von denen die gesuchte Person selbst womöglich nichts wusste. Wenn das Internet ein Heuhaufen ist, in dem so manche Nadel nicht auffällt, dann ist PimEyes der Magnet, der sie findet.

So eine Technologie hat für eine Gesellschaft radikale Konsequenzen. Ob auf Demonstrationen, im Wartezimmer oder in der Dating-App: Die Zeit der Anonymität ist vorbei. Durch PimEyes liegen zwischen dem eigenen Gesicht und der dazu gehörigen Identität nur wenige Klicks. PimEyes verrät nicht direkt die Identität einer gesuchten Person, aber die von PimEyes entdeckten Websites können es. Um diese Links zu sehen, muss man PimEyes derzeit etwa 35 Euro im Monat zahlen.

Den Folgen solcher Suchmaschinen entgehen kann nur, wer in der Öffentlichkeit konsequent eine Sturmhaube trägt oder im Lauf des eigenen Lebens keinerlei Fotos und persönliche Informationen im Internet hinterlässt. Also fast niemand. Dass das keine theoretische Gefahr ist, zeigt auch unsere Recherche zu einem Telegram-Bot, über den vor allem Männer mit PimEyes fremden Frauen nachstellen.

Die Erzählung von der neutralen Technologie

Der neue Besitzer dieser Suchmaschine sieht das anders. PimEyes sei schließlich nur dazu gedacht, nach dem eigenen Gesicht zu suchen. Oder nach den Gesichtern von Personen, die dem zugestimmt haben, sagte Giorgi Gobronidze kürzlich im Interview mit der New York Times.

Gobronidze zeichnet darin ein Bild von PimEyes als Werkzeug für das Gute. Seine Suchmaschine könne Menschen dabei helfen den Überblick zu behalten über all das, was im Netz über sie herumliegt. Und die ethische Verantwortung, ganz klar, die sieht er bei den Nutzer:innen. „Es sollte in der Verantwortung der Person liegen, die es benutzt“, sagte er. „Wir sind nur ein Werkzeuglieferant.“

Diese Argumentation klingt erstaunlich vertraut. Sie ist wohl so alt wie der Handel mit Dingen, mit denen sich Menschen gegenseitig Schaden zufügen können. Demnach ist Technologie immer nur ein Werkzeug, moralisch und politisch neutral. Es kommt eben darauf an, wie man sie nutzt. Wenn Menschen sie für üble Zwecke verwenden, dann ist deswegen nicht das Werkzeug schlecht, sondern die Menschen. Nach wie vor liebt die Waffenlobby dieses Argument.

Auch Entwickler:innen neuer Technologien greifen mit Vorliebe darauf zurück. Zuletzt hörte man es etwa von einer Person, die sich im Netz Nikolay Chervonij nennt, und eine Open-Source-Software namens DeepFaceLab entwickelt. Mit diesem Programm wird ein großer Teil der im Netz kursierenden Deepfake-Pornografie erstellt. Die Gesichter von Frauen werden dazu ohne ihre Zustimmung in Pornoszenen montiert, das Ergebnis wirkt teils täuschend echt. „Wir zwingen niemanden zu gar nichts,“ sagte Chervonij im Interview mit Vice. „Wir entwickeln ein Werkzeug. Wie Menschen dieses Werkzeug nutzen, ist nicht in unserer Verantwortung.“

Wer sucht 25 Mal am Tag das eigene Gesicht?

Das ist eine bequeme Position, vor allem für Menschen, deren ganzes Geschäftsmodell darauf beruht, mit solchen Werkzeugen Geld zu verdienen. Menschen wie der neue PimEyes-Chef Gobronidze. Doch die Argumentation ist schwach. Denn schon bei einem oberflächlichen Blick fällt auf: Gobronidzes Suchmaschine betont inzwischen zwar an zahlreichen Stellen, dass PimEyes „nicht für die Überwachung anderer Personen gedacht“ sei. Gobronidze weist auch gerne darauf hin, dass PimEyes keine Stalker dulde und Suchanfragen überwache. Doch tut er zu wenig, um das auch durchzusetzen.

Der Konkurrent Clearview AI, der ebenfalls eine Gesichter-Suchmaschine betreibt, ist exklusiv für Strafverfolgungsbehörden zugänglich. PimEyes ist offen für alle, egal ob sie nur sich selbst recherchieren oder nach Gesichtern von Personen suchen, die das nicht wollen. Für einige eine Horrorvorstellung, PimEyes schreibt dagegen: „Wir glauben wirklich, dass es notwendig ist, die Gesichtserkennungstechnologie zu demokratisieren.“

Schlimmer noch: Die Abo-Modelle von PimEyes zielen offenkundig darauf ab, mehr als nur ein Gesicht zu suchen. Für rund 35 Euro im Monat kann man 25 Suchanfragen am Tag durchführen und drei „Alarme“ einrichten. Das sind automatische Hinweise für neue Suchergebnisse bei einem bestimmten Gesicht. Für rund 350 Euro gibt es unendlich viele Suchanfragen und 500 Alarme. Wer wirklich nur sein eigenes Gesicht suchen möchte, kann 500 Alarme wohl kaum gebrauchen.

PimEyes verdient auch Geld mit sogenannten „PROtect“-Abos. Für rund 90 Euro monatlich können Nutzer:innen damit gezielt Suchtreffer zu ihrem Gesicht überwachen und aus der Liste der PimEyes-Ergebnisse tilgen. PimEyes helfe auch dabei, Aufforderungen zur Löschung von Inhalten zu verfassen, damit die entsprechenden Seitenbetreiber die Fotos offline nehmen.

Dutzende Männer wollen mit PimEyes fremde Frauen finden

PimEyes schafft das Problem, das es selbst lösen will

Wer lieber nichts bezahlen möchte, kann PimEyes immerhin per Opt-out-Formular dazu auffordern, das eigene Gesicht vollständig aus den eigenen Suchergebnissen zu entfernen. Dafür muss man aber erst einmal wissen, dass es PimEyes gibt – und man muss PimEyes ein Foto von sich und eine geschwärzte Ausweiskopie schicken. Das ist eine hohe Hürde, gerade für jene Menschen, die mit ihren Bildern besonders vorsichtig umgehen möchten.

Das kostenlose Opt-out-Formular war Anfang des Jahres noch nicht so leicht auffindbar. Damals hatte die Softwareentwicklerin Cher Scarlett mittels PimEyes alte Nacktaufnahmen von sich entdeckt. Aufnahmen, die ihr zufolge ihren Missbrauch zeigen. Sie sah keine andere Möglichkeit als ein kostenpflichtiges Abo, um die Suchergebnisse von PimEyes zu entfernen, und bezeichnete das als „im Grunde Erpressung“.

Der Fall von Cher Scarlett zeigt: Das Problem, das PimEyes vorgibt zu lösen, wird durch PimEyes überhaupt erst erzeugt. Dass Aufnahmen sexualisierter Gewalt ohne Scarletts Wissen im Netz waren, ist schlimm genug. Doch immerhin waren sie bislang nicht einfach auffindbar. Das ist jetzt vorbei – wegen PimEyes.

Nicht jede Technik ist neutral

Die Technologie als reines Werkzeug, moralisch und politisch neutral: In der Technikphilosophie gilt diese These inzwischen als umstritten. Der Philosoph Boaz Miller bezeichnet sie als „verbreitete Plattitüde in der Öffentlichkeit und unter Tech-Entwickler:innen“, die sich allerdings hartnäckig halte. Miller regt an, die Technologie zu hinterfragen: Warum wurde sie genau so entworfen, warum genau so umgesetzt?

Ein Messer kann man tatsächlich sehr gut zum Kräuterhacken einsetzen, aber eben auch für einen Mord. Für eine Suchmaschine, die per Design die Anonymität von Menschen untergräbt und damit offen zu Missbrauch, Stalking und Gewalt einlädt, lässt sich so eine Sicht schwer aufrecht erhalten. Eine solche Technologie ist nicht bloß ein Werkzeug. Ihr plausibelster Nutzen ist, dass Menschen damit andere Menschen gegen ihren Willen aufspüren. Wenn der neue Besitzer von PimEyes etwas anderes behauptet, dann vor allem, um von seiner eigenen Verantwortung abzulenken.

Update 8.9.2022: Nach der Veröffentlichung des Kommentars hat uns Giorgi Gobronidze ein ausführliches Interview gegeben und ist auf einige der Vorwürfe eingegangen.

6 Ergänzungen

  1. „Eine solche Technologie ist nicht bloß ein Werkzeug. Ihr plausibelster Nutzen ist, dass Menschen damit andere Menschen gegen ihren Willen aufspüren.“

    Nun. In der guten, alten Zeit gab es mal das sog. Telefonbuch, da standen Namen und die Telefonnummer dazu. Bei manchen Einträgen auch die Adresse, was manche manche Menschen nutzen um gegen den Willen usw.

    Um es mal wieder zu zitieren: „Hieraus folgt: Freie Entfaltung der Persönlichkeit setzt unter den modernen Bedingungen der Datenverarbeitung den Schutz des Einzelnen gegen unbegrenzte Erhebung, Speicherung, Verwendung und Weitergabe seiner persönlichen Daten voraus. Dieser Schutz ist daher von dem Grundrecht des Art. 2 Abs. 1 in Verbindung mit Art. 1 Abs. 1 GG umfasst. Das Grundrecht gewährleistet insoweit die Befugnis des Einzelnen, grundsätzlich selbst über die Preisgabe und Verwendung seiner persönlichen Daten zu bestimmen.“

    Personenbezogene daten von Leuten zu nehmen und eine Rückwärtssuche anzubieten ist ganz grundsätzlich illegal. Und PimEyes lässt sich wahrscheinlich bestätigen, das die Suche von eigenen Person gestartet wird und prüft nicht nach.

    Man muß hier nicht lange nach der Verantwortung suchen, sondern mal anfangen die Lieferanten von PimEyes zu verklagen.

    1. Wobei man beim Telefonbuch leichter nichtdrinstehen kann.
      Bei Bildern… wer weiß, woher die stammen. Können Bilder anderer Leute von dir sein, die sie in ihrem Adressbuch hinterlegt hatten, oder in einem der besonders vertrauenswürdigen Chats gezeigt haben, und die aus dem Kontext irgendwie zuordnebar wurden.

      Anonsten sollten Lieferanten aber auch das Unternehmen unter die Lupe, je nach dem, was für Lieferanten und was für Daten das denn nun sind. Lieferanten sind ja schon auch zu prüfen (Import-/Exportbeschränkungen, Gift, Kinderarbeit, je nach dem).

      Wir erinnern uns:
      – Verfassungsbruch: nächstes Jahr wieder!
      – Urheberrechtsverletzung: technisch sicherstellen, dass sie nie wieder passieren kann!

      Da ist es wieder, dieses „nie wieder“.

  2. Zitat: „im Lauf des eigenen Lebens keinerlei Fotos und persönliche Informationen im Internet hinterlässt.“

    Ist man sich so sicher das das fast niemand ist? Die Gruppe könnte größer sein als gemeinhin angenommen. PimEye hätte bei mir nicht die geringste Chance, schon alleine deswegen das es eine Divise gibt, niemals etwas persönliches von sich preis zu geben.

    Klar ist das das nicht immer geht, dahingehend denke ich das es ein neuer Geschäftszweig für Detekteien werden könnte, die Anonymität zu wahren.

    1. Die Devise „niemals etwas persönliches von sich preis zu geben“ hindert halt massiv an gesellschaftlicher Teilhabe.

      Oeffentliches Amt? Oeffentliche Aeusserung? Oeffentlicher Auftritt im Rahmen von Hobby, Beruf, Ehrenamt?

      Wer sich verstecken muss, kann nirgends sichtbar werden. Das ist ein Widerspruch zur FDGO.

      1. Bliebe noch „die Transformation“…

        d.h. ähnlich aber anders wie in Schweden bzgl. Besitz und Einkommen, würde man mehr Preisgeben erlauben, aber an allen Ecken und Enden gegen Nutzung dieser Daten real absichern.

        D.h. der Staat stellt massiv Infrastruktur zur anonymen Verifikation von diesem und jenem hin, inklusive Paketdiensten (da steht dann nichts Menschenlesbares mehr drauf). Vermummung ist ab da ein Muss ;). Zudem gibt es ein schwerwiegendes Verbot jeglicher kommerzieller Scans in Wohngebieten, Ablichten und Veröffentlichung anderer in Alltagssituationen usw., wobei auch das Gesetz flankiert, was für Daten Unternehmen nehmen müssen (keine). Andererseits kann man einfach nicht verhindern, dass Kriminelle alles filmen und zuordnen, wo es geht. Insofern wäre Waffengleichheit immer schwierig herzustellen.

        Ansonsten weicht hier das „Freiheitliche“ dem Ausgeliefertsein.

  3. Ist ja nicht so, dass eine bereits zuvor erhältliche Russische App, und sie ist nicht nur böse, weil sie aus Russland kommt, hervorragend als „historisches böses Beispiel“ für solche Sachen geeignet wäre…

    „Nicht jede Technik ist neutral“
    RIECH-TICK, und nicht jede „Technik“ ist nur Technik, z.B. wenn sie mit Daten unterfüttert wird.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.