NPP 204: PimEyes

Gesichtserkennung ist eine Waffe

Was steckt hinter PimEyes? Sebastian Meineck und Daniel Laufer sprechen mit Ingo Dachwitz über ihre Recherche zu der dubiosen polnischen Firma, über die Hochrisikotechnologie Gesichtserkennung und über die Reaktionen auf ihre Veröffentlichung.

Gemeinfrei-ähnlich freigegeben durch unsplash.com Andrew Worley


In der neuen Ausgabe des Netzpolitik-Podcasts geht es um nichts weniger als die Abschaffung der Anonymität. Denn genau daran arbeitet die polnische Firma PimEyes. Ihre Software zur Gesichtserkennung soll nicht nur zuverlässig 900 Millionen Menschen anhand eines Fotos oder Videoausschnitts erkennen können, sondern war auch ziemlich kostengünstig für alle Menschen im Internet nutzbar. Im Podcast erzählen Sebastian Meineck und Daniel Laufer, was ihre Recherche über das Unternehmen ans Licht gebracht hat.

Die Recherche fällt mitten in eine Debatte um die Gefahren und Regulierungsnotwendigkeit automatisierter Gesichtserkennungstechnologie. Auch die Missbrauchsszenarien des Angebots von PimEyes sind vielfältig, vom Stalking der Ex-Freundin über das unfreiwillige Outing queerer Menschen bis zur Identifikation von Demobesucher:innen. Anonymität ist schließlich nicht nur die Voraussetzung für die freie Entwicklung der Persönlichkeit und die demokratische Gesellschaft, sondern schützt besonders auch gefährdete Menschen und Communities.

Wie also können wir als Gesellschaft mit so einer Hochrisikotechnologie umgehen? Die beiden Reporter erklären, wie sich PimEyes zur Datenschutzgrundverordnung verhält, wie automatisierte Gesichtserkennung reguliert werden könnte, und wie wir als Gesellschaft unsere Foto-Kultur überdenken müssen.

Hinweis: Nach der Aufzeichnung des Podcasts hat sich am Donnerstag die polnische Datenschutzaufsicht bei uns per E-Mail gemeldet – 20 Tage nach unserer Anfrage. Die Behörde gibt an, von PimEyes zu wissen, und bestätigt den Eingang einer Datenschutz-Beschwerde in Deutschland. Jedoch sei es gegenwärtig noch zu früh, um sich im Hinblick auf die Aktivitäten von PimEyes zu äußern.

Shownotes

So könnt Ihr den netzpolitik-Podcast abonnieren
NPP ist der Podcast von netzpolitik.org. Abonniert unser Audio-Angebot, etwa bei iTunes oder Spotify, oder ladet diese Folge herunter im Format MP3 oder OGG. Alle unsere Podcasts findet ihr unter: https://netzpolitik.org/podcast/. Wie immer freuen wir uns über Kommentare, Wünsche und Verbesserungsvorschläge.

Du möchtest mehr kritische Berichterstattung?

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten. Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

 

Unterstütze auch Du unsere Arbeit jetzt mit deiner Spende.

5 Ergänzungen
  1. Das ist erst der Anfang einer ethisch kritisch zu begleitenden technischen Entwicklung. Sprachanalysen zur Erstellung von psychologischen Persönlichkeitsbildern sind keine Science Fiction mehr. Wenn die Datendichte bei Fotos im Internet die Fingerabdrücke offen legt, wäre das Identitätsproblem bzw. der Schutz der Identität noch größer. Daraus folgt: Wir brauchen auch neue Identifikationstechnologien für Onlinebanking etc., Passwörter und 2Stufen-Technik sind keine langfristige Lösung.

  2. Vor dem Hintergrund, dass ganze Polizeieinheiten auf Demonstrationen vermummt und anonymisiert agieren und die polizeilichen Be-Do(Beweis-& Dokumentation)-Trupps die „unvermummten“ DemonstrantInnen aufzeichnen ist es notwendig diesbezüglich eine neue Diskussion anzustossen.
    Wie ist diese polizeiliche „Einbahnstrasse des filmens“ unvermummter DemonstrantInnen in Zeiten von PimEyes und Claerview zu bewerten? Der Polizei eröffnen diese neuen Software-Produkte ungeahnte Möglichkeiter bei der Identifizierung von Personen.

    1. Daran ist technisch nichts ungeahnt oder ueberraschend.

      Ansonsten strebt die deutsche Innenpolitik von CDU/CSU/SPD seit Jahren, wenn nicht Jahrzehnten, die Vollueberwachung der Buerger bei gleichzeitiger Nichtkontrollierbarkeit der Sicherheitskraefte an. Auch das ist nichts neues.

      Man trenne sich endlich von der Schimaere, die wuessten nicht, was sie tun. Die wissen und wollen.

  3. Jeder mit nur ein wenig Informatik-Grundverständnis kann heutzutage Anwendungen wie PimEye nachbauen. Ganz zu schweigen davon welche Möglichkeiten Geheimdienste haben. Wir haben schon viel zu lange die Fragen aufgeschoben, wie und in welchem Maße wir Biometrische und andere datenschutzrechtliche Informationen schützen müssen. Die Zukunft hat uns eingeholt. Leider ist vorausschauendes Handeln und z.B. regulieren von Technologien selten Teil politischen Handelns. Noch immer werden Möglichkeiten von ML und AI als Science Fiction belächelt, dabei ist vieles schon lange Realität.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.