In der neuen Ausgabe des Netzpolitik-Podcasts geht es um nichts weniger als die Abschaffung der Anonymität. Denn genau daran arbeitet die polnische Firma PimEyes. Ihre Software zur Gesichtserkennung soll nicht nur zuverlässig 900 Millionen Menschen anhand eines Fotos oder Videoausschnitts erkennen können, sondern war auch ziemlich kostengünstig für alle Menschen im Internet nutzbar. Im Podcast erzählen Sebastian Meineck und Daniel Laufer, was ihre Recherche über das Unternehmen ans Licht gebracht hat.
Die Recherche fällt mitten in eine Debatte um die Gefahren und Regulierungsnotwendigkeit automatisierter Gesichtserkennungstechnologie. Auch die Missbrauchsszenarien des Angebots von PimEyes sind vielfältig, vom Stalking der Ex-Freundin über das unfreiwillige Outing queerer Menschen bis zur Identifikation von Demobesucher:innen. Anonymität ist schließlich nicht nur die Voraussetzung für die freie Entwicklung der Persönlichkeit und die demokratische Gesellschaft, sondern schützt besonders auch gefährdete Menschen und Communities.
Wie also können wir als Gesellschaft mit so einer Hochrisikotechnologie umgehen? Die beiden Reporter erklären, wie sich PimEyes zur Datenschutzgrundverordnung verhält, wie automatisierte Gesichtserkennung reguliert werden könnte, und wie wir als Gesellschaft unsere Foto-Kultur überdenken müssen.
Hinweis: Nach der Aufzeichnung des Podcasts hat sich am Donnerstag die polnische Datenschutzaufsicht bei uns per E‑Mail gemeldet – 20 Tage nach unserer Anfrage. Die Behörde gibt an, von PimEyes zu wissen, und bestätigt den Eingang einer Datenschutz-Beschwerde in Deutschland. Jedoch sei es gegenwärtig noch zu früh, um sich im Hinblick auf die Aktivitäten von PimEyes zu äußern.
Shownotes
- PimEyes: Eine polnische Firma schafft gerade unsere Anonymität ab
- Automatisierte Gesichtserkennung: Setzt unsere Datenschutzrechte endlich auch durch!
- ClearviewAI: Erst heimlich, dann unheimlich
So könnt Ihr den netzpolitik-Podcast abonnieren
NPP ist der Podcast von netzpolitik.org. Abonniert unser Audio-Angebot, etwa bei iTunes oder Spotify, oder ladet diese Folge herunter im Format MP3 oder OGG. Alle unsere Podcasts findet ihr unter: https://netzpolitik.org/podcast/. Wie immer freuen wir uns über Kommentare, Wünsche und Verbesserungsvorschläge.
Ergänzungen
Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.
6 Kommentare zu „Gesichtserkennung ist eine Waffe“
,
Das ist erst der Anfang einer ethisch kritisch zu begleitenden technischen Entwicklung. Sprachanalysen zur Erstellung von psychologischen Persönlichkeitsbildern sind keine Science Fiction mehr. Wenn die Datendichte bei Fotos im Internet die Fingerabdrücke offen legt, wäre das Identitätsproblem bzw. der Schutz der Identität noch größer. Daraus folgt: Wir brauchen auch neue Identifikationstechnologien für Onlinebanking etc., Passwörter und 2Stufen-Technik sind keine langfristige Lösung.
,
Vor dem Hintergrund, dass ganze Polizeieinheiten auf Demonstrationen vermummt und anonymisiert agieren und die polizeilichen Be-Do(Beweis-& Dokumentation)-Trupps die „unvermummten“ DemonstrantInnen aufzeichnen ist es notwendig diesbezüglich eine neue Diskussion anzustossen.
Wie ist diese polizeiliche „Einbahnstrasse des filmens“ unvermummter DemonstrantInnen in Zeiten von PimEyes und Claerview zu bewerten? Der Polizei eröffnen diese neuen Software-Produkte ungeahnte Möglichkeiter bei der Identifizierung von Personen.
,
Daran ist technisch nichts ungeahnt oder ueberraschend.
Ansonsten strebt die deutsche Innenpolitik von CDU/CSU/SPD seit Jahren, wenn nicht Jahrzehnten, die Vollueberwachung der Buerger bei gleichzeitiger Nichtkontrollierbarkeit der Sicherheitskraefte an. Auch das ist nichts neues.
Man trenne sich endlich von der Schimaere, die wuessten nicht, was sie tun. Die wissen und wollen.
,
Jeder mit nur ein wenig Informatik-Grundverständnis kann heutzutage Anwendungen wie PimEye nachbauen. Ganz zu schweigen davon welche Möglichkeiten Geheimdienste haben. Wir haben schon viel zu lange die Fragen aufgeschoben, wie und in welchem Maße wir Biometrische und andere datenschutzrechtliche Informationen schützen müssen. Die Zukunft hat uns eingeholt. Leider ist vorausschauendes Handeln und z.B. regulieren von Technologien selten Teil politischen Handelns. Noch immer werden Möglichkeiten von ML und AI als Science Fiction belächelt, dabei ist vieles schon lange Realität.
,
Wer unbedingt sein Konterfei ins Internet stellen will, kann mittels eines Tools versuchen, Gesichtserkennung zu erschweren:
http://sandlab.cs.uchicago.edu/fawkes
https://www.shawnshan.com/files/publication/fawkes.pdf
,
Ich kann Stand heute auch aus dem deutschen IP Raum Bilder hoch laden. Nur kurz zur Info.
Dieser Artikel ist älter als 5 Jahre, daher sind die Ergänzungen geschlossen.