Digitale SelbstverteidigungBiometrische Gesichtserkennung abwehren

Wer Kameras entgehen will, hat es zunehmend schwer. Dabei genügt ein Schnappschuss, um einen Menschen zu identifizieren. Wir erkunden die faszinierende Welt des Widerstands gegen biometrische Erkennung.

Ein Gesicht voll abstrakter Muster
Mit diesem Motiv beantwortete ein Bild-Generator den Befehl: Zeig mir ein Bild von einem Gesicht, das Gesichtserkennungssoftware nicht als solches erkennen würde. – Public Domain Midjourney

Wenn Menschen in Deutschland feiern, werden sie vielleicht bald genau beobachtet. Kameras sollen aufzeichnen, wer wo tanzt, quatscht, knutscht oder kotzt. Laut der SPD-Bundestagsfraktion „brauchen wir Videoüberwachung an Kriminalitätsschwerpunkten und bei großen Menschenansammlungen wie Volksfesten oder Konzerten.“ Dazu soll der Einsatz von Biometrie geprüft werden.

Mit ihren Koalitionspartnern hat die Fraktion des Kanzlers bereits den Plan formuliert, dass Polizei und Ausländerbehörden künftig auch Inhalte aus dem Netz mittels biometrischer Gesichtserkennung durchsuchen sollen. In mehreren Bundesländern nutzt die Polizei bereits automatisierte Gesichtserkennung mit mobilen Kameras, Fachleuten zufolge ohne rechtliche Grundlage. Das Gesichtserkennungssystem des Bundeskriminalamts arbeitet mit polizeilich erstellten Bildern von rund fünf Millionen Menschen, vergangenes Jahr wurden damit etwa 3.800 Personen identifiziert.

Die Zahl der Kameras wächst. Die visuellen Datenkollektoren arbeiten im öffentlichen Nahverkehr, bei der polizeilichen Überwachung von Demonstrationen, in Geschäften, auf bestimmten Plätzen und in jedem Mobiltelefon. Und die Systeme zur biometrischen Erkennung von Amazon, Microsoft oder anderen Anbietern werden zunehmend besser. Gesichtserkennung, dieses dystopische Überwachungsinstrument, mit dem man auch Handys entsperren, Grenzkontrollen vornehmen, Fluggäste abfertigen und Menschen stalken kann, ist auf dem Weg zur Omnipräsenz.

In China ist sie besonders weit. Dort machen die hunderttausenden Kameras im öffentlichen Straßenland ausgewählte Menschen verfolgbar und warnen die Behörden automatisch vor unerwünschten Unterschriftensammlungen oder Demonstrationen. Auch das Scheinparlament wird mit Gesichtserkennung überwacht. Es gibt Berichte von Toiletten, die per Gesichtserkennung jeder Person eine Ration von 60 Zentimeter Klopapier zuweisen sollen. Eine Stadt outete mittels Gesichtserkennung Menschen, die in der Öffentlichkeit Pyjamas trugen wegen „unzivilisierte Verhaltens“. Ampeln prangern Menschen an, die bei Rot die Straße kreuzen und ziehen automatisch Punkte vom Social Score ab.

Der persönlichkeitsrechtliche Wert von Atemschutzmasken

Wer angesichts der vielen Linsen und Erkennungssysteme im öffentlichen Raum seine Privatsphäre schützen will, kann etwa sein Gesicht für die Geräte unkenntlich machen. Denn: „Jedes Gesicht ist einmalig. Und wie ein Auto das Nummernschild tragen wir es zur ständigen Identifizierung offen mit uns herum“, sagt der Bildwissenschaftler Roland Meyer, der ein Buch über Gesichtserkennung und Gegenmaßnahmen geschrieben hat, das 2021 veröffentlicht wurde.

In den vergangenen Jahren entstanden zahlreiche Versuche, das eigene Gesicht vor der biometrischen Erfassung zu schützen. Sie machen anschaulich, wie kreativ und experimentierfreudig der Widerstand gegen die Technologie ist – und wie sehr dahinter ein Katz- und Mausspiel steckt.

Einen gewissen Schutz vor automatisierter Identifizierung biete, so Meyer, das Tragen einer FFP2-Maske. Eine Studie des US-amerikanischen National Institute of Standards and Technology (NIST) von Juli 2020 zeigte, dass die getesteten Gesichtserkennungssysteme anhand von Mund-Nase-Bedeckungen Fehlerraten von bis zu 50 Prozent auf­wiesen. Schwarze Masken verhinderten dabei die Gesichtserkennung noch gründlicher als hellblaue.

Eine weitere NIST-Studie aus dem November 2020 zeigte allerdings, dass die Programme zur Gesichtserkennung zunehmend besser im Erkennen von maskierten Gesichtern wurden. Raul Vicente Garcia vom Fraunhofer-Institut für Produktionsanlagen und Konstruktionstechnik, Abteilung Maschinelles Sehen, sagt: „Masken sind kein großes Problem, weil moderne Gesichtserkennung die obere Gesichtshälfte stärker zur Identifikation heranzieht.“

Ein iPhone 14 lässt sich auch mit Maske problemlos per Gesichtserkennung entsperren. Das Mobiltelefon im netzpolitik.org-Test gibt allerdings auf, wenn die zu erkennende Person neben der FFP2-Maske auch noch eine Sonnenbrille trägt. Sonnenbrille oder Maske allein: Sofort erkannt. Trägt die Person beides auf einmal, kann das Gerät sie offensichtlich nicht mehr mit ausreichender Sicherheit identifizieren.

Problem Vermummungsverbot

Auf jeden Fall gilt: Ist auf einem Bild oder in einer Videosequenz der bedeckte Teil des Gesichts groß genug, scheitert naturgemäß auch die ausgefeilteste Gesichtserkennungstechnologie. Der Bildwissenschaftler Roland Meyer sagt: „Da ist dann nur die Frage, inwieweit meine Mitmenschen die Maskerade akzeptieren.“

Während man beim Bahnfahren mit Sturmhaube vermutlich nur komisch angeschaut wird, kann der entsprechend maskierte Besuch einer Demonstrationen mit bis zu einem Jahr Haft bestraft werden. Seit 1985 ist die Vermummung bei Versammlungen oder Veranstaltungen unter freiem Himmel – mit Ausnahme traditioneller Feste wie Fasching – in den meisten Bundesländern eine Straftat, allein das Mitführen von Vermummungsutensilien kann eine Geldbuße von bis zu 500 Euro nach sich ziehen.

Amnesty International kritisiert das Vermummungsverbot. Es gäbe für Protestierende eine ganze Reihe legitimer Gründe, ihr Gesicht zu verhüllen: Zum Schutz vor Identifizierung durch die ständig wachsende, auch biometrische, Überwachung von Demonstrationen, gegen Tränengas, oder auch – zum Beispiel mit Politikermasken – als Protestform.

Naturgetreue Latexmasken gegen Gesichtserkennung

Es gibt auch ohne Vermummung Wege, das eigene Gesicht für automatisierte Gesichtserkennung unkenntlich zu machen. Man muss nur die Form ausreichend verändern. Idealerweise so, dass die Veränderung anderen Menschen gar nicht auffällt. Florian Berkowsky, Geschäftsführer der Maskenbildnerschule Hasso von Hugo in Berlin, sagt: „Eine simple Lösung bieten Beauty Stripes, eine Art Klebestreifen mit Gummizug. Damit werden normalerweise Falten glattgezogen, aber man könnte sie auch verwenden, um zum Beispiel Augenbrauen zu heben oder die Mund- oder Augenform zu verändern. Zusätzlich könnte man Nase und Wangen mit Wattebäuschen, wie man sie vom Zahnarzt kennt, ausstopfen.“

Gesichtsveränderungen mit Silikon seien ebenfalls möglich, aber viel aufwändiger. „Zuerst scannen Sie Ihr Gesicht in 3D, dann verändern sie es am Computer, bis sie nicht mehr identifizierbar sind: Wangenknochen höher, Kinn verbreitern und so weiter. Das realistische Modellieren ist eine sehr hohe Kunst – wenn da was nicht stimmig ist, erkennen das alle.“

Anschließend könne man ein Gesichtspositiv und die veränderte Version ausdrucken und die Zwischenräume mit Silikon ausgießen. „Das Ergebnis müssen Sie kolorieren, um eine glaubhafte Hautoberfläche zu erhalten. Anschließend folgt noch das Stechen der Haare.“

Die so entstandenen Silikonteile werden mit einem speziellen Kleber auf dem Gesicht befestigt. „Bei der Veränderung der Merkmale sollten Sie nicht übertreiben, denn wenn der Silikonauftrag zu dick ist, wird die Mimik nicht mehr natürlich übertragen“, sagt Berkowsky.

Software soll selbst Silikon erkennen

Die Herstellung von naturgetreuen Gesichtsteilen aus Silikon sei ein viele tausend Euro teurer Prozess, der mehrere Wochen dauert. Die entstandene Maskierung sei nur einmal einsetzbar, dann seien die feinen Ränder defekt, mit denen der Übergang zwischen Silikon und Haut kaschiert wird. Maximal acht Stunden könne man die Maske tragen, dann habe für gewöhnlich der Schweiß den Kleber gelöst.

Ebenfalls mehrere tausend Euro teuer, aber weit simpler und auch mehrfach nutzbar, sei eine Silikon-Vollmaske. „Die sehen inzwischen so authentisch aus, dass Sie das aus zwei Metern Entfernung nicht mehr von einem echten Gesicht unterscheiden können“, sagt Berkowsky. Einzig die Partie um die Augen falle auf, was sich aber mit einer Sonnenbrille kaschieren lasse.

Allerdings entwickeln Anbieter von Gesichtserkennungssoftware wohl inzwischen auch Systeme, die über die Reflexion des Lichts Silikon von Haut unterscheiden können. Berkowsky sagt, ein Gesichtserkennungsanbieter habe bei ihm Kurse zur Herstellung von Silikonmasken gebucht, um damit ein Erkennungssystem für Silikonmasken zu trainieren.

Salzlösungen und kosmetische Operationen

Benjamin Maus, Professor im Fachbereich New Media der Universität der Künste in Berlin, hat künstlerisch mit Gesichtserkennung gearbeitet. Er kennt eine Variante der Gesichtsveränderung, die dem Silikonscanner nicht auffallen würde: „Man kann Teile des Gesichts mit Salzlösung unterspritzen. Das ist nach ein paar Tagen wieder weg. Aber so könnte man für eine Grenzkontrolle, bei der das Gesicht biometrisch erfasst wird, wie beispielsweise an den Grenzen von Japan, China oder der USA, ein anderes Gesicht tragen und sich dann mit dem eigenen Gesicht im Land aufhalten.“

Man könnte noch einen Schritt weitergehen und sich einer plastischen Operation mit beispielsweise Implantaten oder Knochenstrukturveränderungen unterziehen. „Aber irgendwann wird auch dieses neue Gesicht mit Ihrem Namen verknüpft werden“, sagt Benjamin Maus.

Make-up gegen Gesichtserkennung

Auch mit Make-up kann man sich unter Umständen vor bestimmten Gesichtserkennungsystemen schützen. Aber dafür muss man sein Gesicht schon umfassend verzieren. 2010 veröffentlichte der Künstler Adam Harvey sein Projekt CV Dazzle. Darin entwickelte er Styles, die einen damals aktuellen Algorithmus dazu brachten, Gesichter nicht mehr als solche zu erkennen. Dazu gehörten wild drapierte Haarsträhnen, Schminke in geometrischen Mustern und Signalfarben.

Moderne Gesichtserkennungssysteme haben mit den Stylingtipps von damals allerdings keine Probleme mehr, sagt der Bildwissenschaftler Roland Meyer. „Alle Gegenwehr-Maßnahmen werden auch dazu genutzt, die Software so zu verbessern, dass sie darauf nicht mehr hereinfällt.“

2020 hat Harvey eine neue Version von CV Dazzle aufgelegt, diesmal eine Art Metallic-Tarnfleckbemalung. Doch auch die ist vermutlich inzwischen überholt. Für Harvey ist CV Dazzle deshalb explizit „ein Konzept, kein Produkt oder Muster“. Er ermuntert auf seiner Website dazu, eigene Tarnungen zu entwickeln und gegen gängige Gesichtserkennung zu testen.

Kleidung und Accessoires gegen Gesichtserkennung

Es gibt auch Kleidung gegen Gesichtserkennung, doch auch hier passen Anbieter ihre Erkennungssysteme beständig auf neue Abwehrmaßnahmen an. Die Firma capable.design hat beispielsweise eine Kollektion entwickelt, die mit psychedelischen Mustern oder repetitiven Tierdrucken Gesichtserkennungssysteme davon ablenken möchte, dass sich oberhalb der Kleidung noch ein Gesicht befindet.

Einen anderen Ansatz fahren verschiedene Gadgets, die versprechen, durch Abstrahlung oder Reflektion Kameras zu überfordern. Die Brillen von Reflectacles beispielsweise sind speziell dazu konzipiert, Gesichtserkennung zu verhindern, die mit Infrarot-Licht und -Sensoren arbeitet. Die Schals von ISHU reflektieren Licht so stark, dass Kameras mit Blitzlicht angeblich keine zuverlässigen Aufnahmen mehr machen können. Die Infrarot-LEDs der Privacy Visor-Brillen blenden, wenn eingeschaltet, Überwachungskameras. Diese Projekte sind allerdings schon älter und eventuell ebenfalls von der Gesichtserkennungstechnologie überholt worden.

Der „handfeste“ Zugang

Demonstrant*innen in Hongkong versteckten sich 2019 hinter Schirmen, verwendeten Laserpointer zum Blenden von Kameras und setzten auch Farbspray gegen sie ein. Teils brachten sie sogar mit Sägen und Seilen Straßenlaternen zu Fall, in denen sie Kameras vermuteten. Roland Meyer sagt: „Das ist natürlich ein sehr, sehr handfester Zugang.“

Bei den Protesten sei es vor allem um die staatlich aufgestellten Kameras im öffentlichen Raum gegangen. „Aber bei aktuellen Demonstrationen gibt es ja auch jede Menge von Privatleuten aufgenommene Bilder, da braucht man nicht unbedingt eine Überwachungskamera, um festzustellen, wer da möglicherweise beteiligt war.“

Gesichtserkennung mit Bildmaterial aus dem Internet

Wenn Privatpersonen auf Demonstrationen filmen oder fotografieren, und das Ergebnis online stellen, können auch diese Bilder Gegenstand von biometrischer Gesichtserkennung werden. Firmen wie Clearview AI und PimEyes leben davon, dass sie Fotos aus dem Netz sammeln und mit  Gesichtserkennung durchsuchbar machen.

Clearview AI nutzt das, um für Sicherheitsbehörden Menschen zu identifizieren. Bei PimEyes können Menschen Fotos von Gesichtern hochladen und über die verlinkten Fundstellen im Netz weitere Bilder und Informationen zu der abgebildeten Person erhalten. Das klappt natürlich nur, wenn auch übereinstimmende Gesichter in der Datenbank sind. Roland Meyer sagt: „Wenn ich nirgendwo mit meinem Bild auftauche, kann ich unbehelligt bleiben. Die Frage ist aber, ob das möglich und realistisch und plausibel ist.“

Von den meisten Menschen dürfte es Bildmaterial im Internet geben. Wie man versuchen kann, Fotos von sich offline nehmen zu lassen, hat die Stiftung Warentest ausprobiert. Naiara Bellio von AlgorithmWatch empfiehlt zudem, Institutionen, die Gesichtserkennung anbieten oder nutzen, per DSGVO dazu zu zwingen, die eigenen Bilder aus der Datenbank zu löschen.

Gesichter digital verändern

Die Firmen hinter den Apps Fawkes und LowKey versprechen, Gesichter auf Fotos so zu verändern, dass Gesichtserkennungssysteme sie nicht mehr identifizieren können, während sie für Menschen problemlos erkennbar bleiben. Der Bildwissenschaftler Roland Meyer geht aber davon aus, dass die Hersteller von Gesichtserkennungssystemen inzwischen ausreichend Zeit hatten, ihre Programme auf die Gegenmaßnahme vorzubereiten.

Wenn mensch allerdings auf alle Gesichtsbilder, die ins Internet wandern, Smileys oder Katzenköpfe photoshoppen oder gimpen würde, gäbe es für die Algorithmen nichts mehr zu finden. Man könnte das eigene Gesicht auch einfach extrem unscharf stellen. Der Messenger Signal bietet eine Funktion, die das automatisch macht. Die App Anonymous Camera ermöglicht, nicht nur auf Bildern, sondern auch in Videos Gesichter zu blurren oder zu verdecken.

Mit der Open-Source-Software Deep-Live-Cam kann man sich das Gesicht einer beliebigen Person, von der man ein Foto besitzt, digital überstülpen, das fremde Gesicht wird dann, beispielsweise in Videokonferenzen, analog der eigenen Mimik bewegt. Roland Meyer sagt: „Wenn ich mein Gesicht wirklich unkenntlich mache, ist das effektiv. Aber die Firmen, die solche Software entwickeln, haben dann natürlich Ihre Gesichtsdaten.“

Fotomanipulation im Reisepass

An vielen Flughäfen gibt es inzwischen automatisierte Gesichtserkennung, auch in der EU, wenn man aus einem Drittstaat einreist. „Dabei wird das auf einem Chip im Ausweis gespeicherte Bild mit einem Bild abgeglichen, das eine Kamera vor Ort aufnimmt“, erklärt Raul Vicente Garcia vom Fraunhofer-Institut für Produktionsanlagen und Konstruktionstechnik, Abteilung Maschinelles Sehen.

Vicente Garcia hat bis Mitte 2020 an einem Projekt mitgeforscht, das sich ANANAS nennt. Darin ging es um „Anomalie-Erkennung zur Verhinderung von Angriffen auf gesichtsbildbasierte Authentifikationssysteme“. Untersucht wurde ein ganz spezieller Angriff auf die Gesichtserkennung zur Grenzkontrolle: die digitale Zusammenführung von Bildern einigermaßen ähnlich aussehender Menschen. Damit könnten mehrere Personen einen gemeinsamen Pass nutzen.

„Wenn Sie einen Pass beantragen, dürfen Sie das biometrische Bild dazu in vielen Ländern auf der Welt ja selbst anfertigen. Das macht nicht die Behörde, was die Möglichkeit zur Manipulation erheblich reduzieren würde, sondern sie können das einliefern und vor der Abgabe modifizieren“, sagt Vicente Garcia.

Auf einem Bild, das mit digitalen Mitteln mit dem Bild einer anderen Person zusammengeführt wurde, sind mit menschlichem Auge beide Personen zu erkennen, wie Beispielfotos auf der Projektwebsite zeigen. So lassen sich laut Vicente Garcia auch automatisierte Gesichtserkennungssysteme täuschen.

Bildmanipulationen erkennen

Vicente Garcia sagt: „Die neuronalen Netze ziehen sich selbstständig Eigenschaften aus den Bildern, die eine Identifikation von Personen möglich machen. Da kann es um Charakteristika von Details gehen, aber auch von größeren Gesichtsbereichen. Die werden in einen Merkmalsvektor übersetzt, eine lange Reihe von Zahlen.“ Dieser Merkmalsvektor müsse bei Bildern der gleichen Person möglichst ähnlich sein, auch wenn das Licht sich ändert oder der Ausdruck.

„Wenn Sie da einen Schwellenwert hinreichender Ähnlichkeit erreichen, kommen Sie damit durch“, sagt Vicente Garcia. Die Gesichtserkennungssysteme würden nämlich so eingestellt, dass die Zahl der Fehlalarme einigermaßen gering ist. Somit seien sie in vielen Fällen bereit, auch gewisse Abweichungen von der perfekten Übereinstimmung zu akzeptieren.

Vicente Garcia und Kolleg*innen haben nach Möglichkeiten gesucht, Bilder zu erkennen, die Eigenschaften mehrerer Gesichter in einem Bild präsentieren. Was sie herausgefunden haben, sagt aber auch viel über den Stand der Erkennung von digitalen Bildmanipulationen allgemein.

Je nachdem, wie das Bild hergestellt wurde, gibt es verschiedene Anzeichen, an denen es sich verraten kann. Wenn das Bild zum Beispiel mit Photoshop aus zwei überlagerten Bildern gemischt wurde, gibt es oft feine Strukturen, die unnatürlich oder unscharf wirken: die Iris oder Haarsträhnen beispielsweise. Auf so etwas springe der Detektor, den Vicente Garcia und Kolleg*innen entwickelt haben, bei Versuchen mit Testdatensätzen mit einer Zuverlässigkeit von etwa 90 Prozent an.

Gutes Photoshop, schlechtes Photoshop

Auch Photoshop-Manipulationen an einem einzelnen Foto ließen sich mit der Software einigermaßen zuverlässig erkennen, so Vicente Garcia. Ein Problem dabei: „Es ist ja erlaubt und auch durchaus üblich, Passbilder zu photoshoppen und dabei zum Beispiel die Haut von Unreinheiten zu befreien. Deshalb muss man die Morph-Detektoren darauf trainieren, zulässige Retuschen durchzulassen. Sonst würde jedes zweite Bild einen Fehlalarm auslösen.“

Weit schwieriger wird laut Vicente Garcia die Manipulations-Detektion, wenn aus Bildern zweier Personen mit Hilfe von KI ein drittes Bild generiert wird. „Da sucht man eher nach Markern, ob das Bild synthetisch ist, zum Beispiel nach statistischen Regelmäßigkeiten oder besonderen Artefakten, die typisch für verschiedene neuronale Netze zur Bildgenerierung sind.“

Solche Manipulationen seien nicht so leicht zu erkennen. Laut der Datenbank „Face Recognition Vendor Test“ würden kommerzielle Softwares zur Gesichtserkennung bei qualitativ hochwertigen Manipulationen 40 bis 50 Prozent der manipulierten Bilder nicht als solche erkennen – zumindest wenn die Rate der fehlerhaft als Fälschung identifizierten Bilder so niedrig gehalten wird, dass man das System auch ohne ständigen Ärger an einem Flughafen einsetzen kann.

„Das Problem KI-generierter Gesichtsbilder ist bei Weitem noch nicht gelöst“, sagt Vicente Garcia. Dennoch sei die Implementierung der automatischen Manipulations-Detektion an Grenzkontrollen gesetzt. „Diese Technik wird auf jeden Fall zunehmend Anwendung finden“, sagt Vicente Garcia.

Die wichtigste Waffe gegen Gesichtserkennung

Was heute gegen Gesichtserkennung funktioniere, wirke bald vielleicht schon nicht mehr, sagt Roland Meyer. „Alle Techniken der Anonymisierung sind nur für einen bestimmten Stand der Biometrie geeignet. Wenn Gang-Analyse funktioniert oder Iris-Erkennung, dann nützt die Maske auch nichts mehr.“

Genau hier kommen all die Bemühungen an ihre Grenze: Biometrie betrifft eben längst nicht nur das eigene Gesicht, sondern potentiell alle weiteren maschinell erfassbaren Besonderheiten des Körpers. Deshalb sei, da sind sich Roland Meyer, Naiara Bellio und Benjamin Maus einig, die wichtigste Abwehrmaßnahme gegen biometrische Überwachung der Protest – der juristische Einspruch, der politische und zivilgesellschaftliche Widerstand. Meyer sagt: „Alles andere ist vorläufige Symptombekämpfung.“

Die Initiative Gesichtserkennung stoppen setzt sich auf bundesdeutscher Ebene gegen Gesichtserkennung ein und ermöglicht beispielsweise, mit nur einem Klick Protestmails an Abgeordnete zu schicken. Reclaim your Face kämpft auf EU-Ebene gegen Gesichtserkennung. Amnesty International fährt unter #UnscanMyFace eine internationale Kampagne dagegen.

Mehr Tipps zur digitalen Selbstverteidigung gibt es hier und unter netzpolitik.org/digitale-selbstverteidigung.

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

37 Ergänzungen

  1. Ich würde soweit gehen das Vermummungsverbot als offensichtlich verfassungsfeindlich und damit nichtig zu bezeichnen. Ist aber die Frage ob Einen das weiter bringt, solange das BVerfG. Einem da noch nicht zustimmt.

  2. > Naiara Bellio von AlgorithmWatch empfiehlt zudem, Institutionen, die Gesichtserkennung anbieten oder nutzen, per DSGVO dazu zu zwingen, die eigenen Bilder aus der Datenbank zu löschen.

    Wie macht man das? Das wäre mal eine nützliche Plattform-Anwendung, so ähnlich wie Frag den Staat, aber als „Lösch mein Bild“.

    Der Gedanke dabei ist, die Bilder-Datenbanken von Providern so mit Abmahnungen, Prozessrisiken und Verwaltungsaufwand zu verteuern, so dass die Geschäftsidee Bilderdatenbank zum finanziellen Risiko wird, weil die Kosten dafür steigen. Dies gerne mal in Euren Gruppen oder bei Kongressen diskutieren.

    1. > Der Gedanke dabei ist, die Bilder-Datenbanken von Providern so mit Abmahnungen, Prozessrisiken und Verwaltungsaufwand zu verteuern, so dass die Geschäftsidee Bilderdatenbank zum finanziellen Risiko wird …

      FragDenStaat war mit Kampagnen höchst erfolgreich:
      https://de.wikipedia.org/wiki/FragDenStaat#Massenanfragen_in_Kampagnen_und_Aktionen

      Bereits drei Tage nach Kampagnenstart wurden über 1.000 Gutachten angefragt. Nach nicht einmal einem Monat – am 18. Februar 2016 – beschloss der Ältestenrat des Bundestages, dass alle Gutachten veröffentlicht werden.

      Am 20. Oktober 2016 veröffentlichte FragDenStaat eine Liste mit allen Jobcentern in Deutschland. Die Plattform ermöglicht es auf einfache Art und Weise einen Antrag … zu stellen. 11 Monate nach Start – am 6. November 2017 – haben knapp 80 % aller Jobcenter die Weisungen veröffentlicht.

      Was mit Behörden so erfolgreich verwirklicht und erreicht wurde, sollte auch im privatwirtschaftlichen Bereich funktionieren. Ich finde, das sollte mit einem „Pilotprojekt“ zumindest getestet werden, wobei eine einzelne Firma mit juristisch wirksamen Löschaufforderungen geflutet wird.

  3. 90% der Weltbevölkerung so: „Ich habe ja nichts zu verbergen!“

    Aber dann in Hose und Unterhose herumlaufen, weil das beste Stück, das muss ja verborgen bleiben.
    Vielleicht wird es die Weltbevölkerung eines Tages bereuen.

    Wenn Videoüberwachung, dann bitte ohne Gesichtserkennung. Und am besten in Schwarzweiß und einer Vidicon-Röhre, damit der Sicherheitsdienst nicht auf die Hautfarbe schließen kann. Ein Videokabel, statt Bluetooth, damit das Gerät nicht mit dem Internet kommunizieren kann. Führt die klassischen orangefarbenen Gondeln wieder ein, die hübsch blinken und rotieren und ca. 30-50 Jahre halten. Gerne auch als Attrappe. Doch das wichtigste ist: Kriminalität bekämpft man mit Bildung und einem gerechten Sozialsystem. Dann braucht es nicht einmal mehr Überwachung in einer Bankfiliale.

    1. „Kriminalität bekämpft man mit Bildung und einem gerechten Sozialsystem. Dann braucht es nicht einmal mehr Überwachung in einer Bankfiliale.“

      Ich glaube ihnen, dass sie das glauben. Macht es nicht zu weniger Realitätsverlust.

      Kriminalität bekämpft man notwendig auch mit Bildung und einem gerechten Sozialsystem. Aber es könnte auffallen, dass auch hochgebildete Reiche zT äußerst kriminell agieren.

      1. Selbstverständlich gibt es hochkriminelle Elon Musks, Donald Trumps und weitere Irrtümer der Menschheitsgeschichte. Doch sollte ein „gerechtes Sozialsystem“ das aufhalten. Hierfür muss der Kapitalismus abgeschafft werden, damit die Gier nach Mehr und das Streben nach Macht keinen Anreiz mehr hat.

        Klar, Wunschdenken. Aber den Kopf in den Sand stecken wollen wir auch nicht. Sonst können wir Netzpolitik gleich dicht machen. Und uns totalüberwachen lassen, bis uns schwindlig wird – um wieder zum Thema zu kommen.

        1. „Hierfür muss der Kapitalismus abgeschafft werden, damit die Gier nach Mehr und das Streben nach Macht keinen Anreiz mehr hat.“

          Sie ignorieren ein paar tausend Jahre Geschichte ebenso wie wissenschaftliche Erkenntnisse der Soziologie und Anthropologie. Status ist tief im.sozialen Wesen verankert, Gerechtigkeitsempfinden und Kooperation übrigens auch. Die derzeitige Gesellschaftsstruktur und Kapitalismus belohnen asoziales Verhalten, aber sind nicht dessen einzige Ursache.

          Und dann gibt es einfach auch ganz triviale Interessen und Emotionen, selbst in den grundständigsten Gemeinschaften.

    2. > 90% der Weltbevölkerung so: „Ich habe ja nichts zu verbergen!“

      Die ultimative Antwort: „Warum fühlen Sie sich dann hinter einer durchsichtigen Toilettentür unwohl?“

      > Doch das wichtigste ist: Kriminalität bekämpft man mit Bildung und einem gerechten Sozialsystem.

      Polizeigewerkschaften hassen diesen Trick.

      1. Es entscheiden andere zu anderen Zeitpunkten, was zu verbergen gewesen wäre. Gerade mit Datensammlungen im Blick ist das was völlig anderes, als ein Wachtmeister, mit dem man reden kann. Man spricht nicht mehr mit, und hat keinerlei Einfluss auf was, wann, warum. Streng genommen hat man in der Demokratie etwas Einfluss, aber nicht mit „habe nichts zu verbergen“ als Motto, sondern fast ausschließlich mit knallharter Prinzipalwahl.

        Kinder in Grüppchen z.B. brechen dauernd irgendwelche Regeln, und vielleicht wird das später für das Scoring herangezogen, wenn man es überwachen und auswerten kann (Baustellenkameras z.B.). Wir erleben ja, wie es läuft: irgendwas ist plötzlich wichtig, obwohl es keinen Sinn ergeben will, wie es diskutiert wird. Dann wird was anderes beschlossen. Dann heißt es „Symbolpolitik“. Wir sind da aspektweise beim Kreml angekommen. Wir haben irgendwas gemacht, wo man auf Fakten verweisen kann, um dann später sagen zu können, man habe etwas gemacht, falls das mal relevant ist – glauben tut einem das sowieso keiner. Der Form nach also reine Machtpolitik in einem Manipulationsapparat, über die Medien hinweg, bis zu Erna und Klaus, die jetzt irgendwas glauben sollen. Nicht mal den Glauben an Quatsch haben wir überwunden, da sind die Religionen z.T. inzwischen weiter! Wie können Wähler Symbolpolitik akzeptieren? Ich fürchte, die Zeiten sind auf die eine oder andere Weise vorbei.

        1. Ein guter Schluss ziert jeden Text. Leider ist trifft bei vielen „Ergänzungen“ das Gegenteil zu.

          >Der Form nach also reine Machtpolitik in einem Manipulationsapparat, über die Medien hinweg, bis zu Erna und Klaus, die jetzt irgendwas glauben sollen. Nicht mal den Glauben an Quatsch haben wir überwunden, da sind die Religionen z.T. inzwischen weiter! Wie können Wähler Symbolpolitik akzeptieren? Ich fürchte, die Zeiten sind auf die eine oder andere Weise vorbei.

          Über Machtpolitik kann und sollte man stets reden, aber einen generellen „Manipulationsapparat“ für unsere Gesellschaft zu unterstellen ist Zersetzungsagitation. Den eigenen Zynismus sollte man schon irgendwie andeuten, wenn es denn ein solcher wäre.

          Der (politische) „Glauben“ von „Erna und Klaus“ ist ein hochspannendes Thema. Wäre im Zusammenhang mit (politischem) Gefühl(!) zu sehen, wobei wir schon bei Sätzen von „Erna und Klaus“ angelangt sind: „Was ich fühle ist real!“

          Inwieweit „Religionen z.T inzwischen weiter“ wären müssten sie mal erläutern. Meinen Sie tatsächlich Religionen oder doch Kirchen? Und was ist die Differenz, die mit „weiter“ angedeutet wird?

          1. Manipulationsapparat ist mehrgestaltig.
            1. Was Politiker/chen denken bzw. planen, was sie alles erreichen können und wie.
            2. Die verbandelung von Medien mit Politik, wie wir sie kennen. Es gibt da durchaus einen direkten Weg, zumindest zum Wiederwähler. Einordnung und Kritik halten sich da in Grenzen. Das Normal ist „oho aha“ und stete Wiedergabe der Positionen im O-Ton, bei fragwürdiger Häufigikeitsverteilung. Das gilt leider auch für so einige Kanäle der überhaupt nicht abschaffenswerten öffentlich-rechtlichen Sender, mehr als Streckenweise. Hinzu natürlich Auslassung von Einordnung, genzen Themen wie IT, u.a.
            3. Das Prinzip. Z.B., es nur besser erklären zu müssen. (eigentlich 1. gemischt mit 2.).

            Der Manipulationsapparat ist nicht eine Maschine, nicht 100% effektiv, leider trotzdem konsistent existent. Ich unterstelle nicht mal bei allen beteiligten Akteuren Absicht. Der Schluss zur Machtpolitik ist übrigens etwas subtiler. Machtpolitik ist gekennzeichnet von dem Umstand, dass man das in der Position machen kann, also z.B. Verfassung brechen, Kriege führen, oder einfach nur irgendein Gesetz oder Korruption betreiben. Eine Nummer kleiner wäre, Quatschforderungen z.B. eines Ministerpräsidenten, der den Bund mit in Haftung nehmen kann – inzwischen normales Business, dennoch hinterfragenswert, was da warum gewählt wird. Denn in dem Moment, wo Sie dem Wähler das eine erzählen, aber das andere tun, nutzen Sie ihre Macht aus, und funktionieren tut das nur über Manipulation, selten mal über eine „zufällig vorhandene Täuschung“. Da brauchen wir nicht so naiv zu sein. Danach rühmt man sich dann für die Werbung (nicht das Getane), und reibt es den Menschen noch mal so richtig vor die Schnauze.

            Intelligenter wäre die Nachfrage: „Ja wie ja wo ja wie oft denn?“

          2. „aber einen generellen „Manipulationsapparat“ für unsere Gesellschaft zu unterstellen ist Zersetzungsagitation“
            Unsere Demokratie soll schöner geredet werden? Gucken Sie mal, wie differenziert und mit welcher Häufigkeit was in (welchen?) öffentlich-rechtlichen Sendern berichtet wird. Da sind Apparat und Manipulation per Definition dabei – Böswilligkeit mag unterstellen wer will, oder auch eben nicht.

            „Was ich fühle ist real!“
            Prinzipiell hochinteressant. Man darf den Glauben von Wählern nicht unterschätzen, und muss auf sie von dort eingehen. Mitmachen ist nur leider sehr oft sehr dumm und schadet letztlich dem Land. Andererseits, wo wir bei Gefühl und Glauben sind: q.e.d.

            „Meinen Sie tatsächlich Religionen oder doch Kirchen?“
            In der Kürze: was sich aus Religionen entwickelt hat, also Glaubensrichtungen, moderne Auslegungen, alte Auslegungen, je nach dem. Da steht wenigstens ein Rechtfertigungsdruck hinter, und eine systematische Erläuterung, während eine Art von Praxis im Vordergrund steht. Gemeint ist die Tendenz zur Vollständigkeit, geprüft am Leben der Menschen, gewissermaßen als Begleiter (-scheinung). Kann man jetzt an allen Ecken und Enden kritisieren, sollte sich aber zu Gemüte führen, was heutzutage offenbar alles so als „Ersatz“ für solches oder ähnliches herhalten muss, und offensichtlich Einzug auch in unsere politischen Gefilde gefunden hat.

          3. “ Anonymous sagt:
            17. September 2024 um 10:26 Uhr“

            „Aspektweise“, „der Form nach“

            Allenfalls: „glaubt sowieso keiner“ (Kreml?) vs. „Manipulationsapparat“, hier könnte man fragen „und / oder / passts zusammen?“,

            Glauben an Quatsch, Religion – Bei letztere hat eine Evolution stattgefunden, mit gemischtem Zwischenergebnis! Auch in der Politik ist’s nach wie vor gut genug!

          4. „funktionieren tut das nur über Manipulation“

            Wiederholt funktionieren. Natürlich könnte jemand nach der Wahl einfach irgendwas machen, aber die Kunst scheint ja zu sein, wiedergewählt zu werden. Da ist dann die Frage, wie man sich vorstellt, dass teils gegebene Intransparenz und z.T. grobe Fehleinschätzungen oder wenigstens grobe Auslassung von Themen wie „Nachteile für …“, nicht in den Bereich der Manipulation fallen könnten. Dass es irgendwo eine Gegendarstellung gibt, konstituiert keine ausgewogene Berichterstattung. Oftmals sind die Metriken auch Quatsch, wenn mal geprüft wird, z.B. zu abstrakt oder nicht domänenspezifisch genug aufgeschlüsselt, sondern nach Anzahl Politiker, die sich geäußert haben o.ä. Ich nehme z.t. Versuche zur Kenntnis, Einordnung einzubringen, und behaupte auch nicht, dass es einfach ist.

            Solche Posts wie dieses hier, mit KI noch schöner? Oder mehr? Überall?
            (Im Moment sind es noch Unterhaltungen von Bob und Marlene oder so, die sich zuprosten, später wird es subtiler, und wenn Facebook angreift, wird es unintuitiv, weil mit direktem Feedback am Nutzer trainiert wurde, Effekte zu erzielen. Vielleicht werden es dann wieder Katzenbilder…)

          5. „weil mit direktem Feedback am Nutzer trainiert wurde, Effekte zu erzielen“

            „…they’re eating the dogs…“

          6. „Mitmachen ist nur leider sehr oft sehr dumm und schadet letztlich dem Land. Andererseits, wo wir bei Gefühl und Glauben sind: q.e.d.“

            Das ist natürlich eine halbe Groteske. Es soll aber darauf hindeuten, dass man eben auch auf eine Mischung aus Problemen, Gefühlen und Quatsch trifft. Vielleicht wurde zu viele Jahre lang einfach alles ignoriert, oder auf Gefühl gesetzt (Werbung, Manipulation) und die Probleme ignoriert. Und wie bei Esotheriktraditionen aller Art über die Historie hinweg, sind die Erklärungen und Begründungen oftmals solider Quatsch, während durchaus hier oder dort mal eine durchaus sinnvolle Praxis existiert. Der Kaiser sprach: „Wir brauchen einen theoretischen Rahmen dafür!“ – und so geschah es. „Was gilt es zu lösen, und wie macht man das?“, ist da so ein bischen die prototypische Frage mit Fortschrittspotential.

            Das mit der Manipulation ist ja nicht so, dass der Quirlmanteldegenhirsch bei jedem klingelt und eine Show abzieht. Tabakwerbung, Ölwerbung und Handeln der Konzerne, da wären schon mal kräftige Historien mit verbunden, auch in der Politik, Inhaltsstoffe von Nahrungsmitteln, gute Beispiele für Manipulation. Ich vermute, dass in der (zu) etablierten Politik zu viel auf Gefühlsbewahrung und Prinzipien bzw. Konvenienzen der Manipulation gesetzt wurde, und wir nun die Quittung (mal wieder) vor Augen haben. Ähnlich wie die Autoindustrie die Gesetze schreiben zu lassen – und selbst das droht wieder zu passieren. Die Frage ist doch, ob wir das reparieren wollen, die offensichtliche Vertrauenskrise überwinden, oder ob wir lieber „Agitation“ und „Zersetzung“ schreien ;p. Eine Vertrauenskrise kann nicht grundsätzlich einfach mit Gefühl behoben werden – „wir inijizieren das richtige Gefühl, dann geht’s“, und nicht lachen, denn das haben wir schon so ähnlich gehört. Auch Vertrauen schaffen, im Sinne von Generieren, mit schattigen Methoden wie Symbolpolitik, funktioniert nicht nachhaltig. Verbrannte Ansätze.

          7. „Ein guter Schluss ziert jeden Text.“
            Jeden 0-8-15 Text. Man will die Guten sein und verkackt alles grandios am Ende, statt einfach nur einen Punkt zu machen. Wie immer. Ein wirklich guter TEXT, setzt am Schluss alles dermaßen in den Sand, das 2012 demgegenüber wie ein Kindergeburtstag rüberkommt.

    3. > 90% der Weltbevölkerung so: „Ich habe ja nichts zu verbergen!“

      Ohne zitierfähige Quellenangabe ist das pures Bullshitting, denn dem Bullshitter sind Fakten egal, aber Hauptsache es ist was gesagt. Da sind Lügner näher an der Wahrheit, denn diese kennen sie zumindest.

      Schnell mal was mit „Weltbevölkerung“ raus hauen, um glaubwürdiger zu erscheinen?

      Wie kommst du zu deiner numerischen Angabe?
      Welchen Analog/Digital-Wandler benutzt du für deine Gefühle?

  4. FYI

    https://openaccess.thecvf.com/content/CVPR2023W/WMF/papers/Cozzolino_Audio-Visual_Person-of-Interest_DeepFake_Detection_CVPRW_2023_paper.pdf

    Face manipulation technology is advancing very rapidly,and new methods are being proposed day by day. The aim of this work is to propose a deepfake detector that can cope with the wide variety of manipulation methods and scenarios encountered in the real world. Our key insight
    is that each person has specific characteristics that a synthetic generator likely cannot reproduce. Accordingly, we extract audio-visual features which characterize the iden-
    tity of a person, and use them to create a person-of-interest (POI) deepfake detector.

  5. Eine schwarze FFP2-Maske und Sonnenbrille verhüllen ja fast das komplette Gesicht, dürften aber nicht unter das Vermummungsverbot fallen – eines medizinisch begründbar, das andere gängiges Accessoire und Sonnenschutz. Habe ich das richtig verstanden?

  6. Blöde Frage, aber was spricht gegen eine ffp Maske und Sonnenbrille mit hoodie? Mit einer solchen Maske kann man mir doch keine Vermummung vorwerfen?!

    1. Bei einer „linken“ Versammlung vermutlich die Polizei, und die kann ihre Sicht erstmal mit Gewalt durchsetzen. Sie dürfen dann klagen, wenn Sie dazu wieder in der Lage sind.

      1. „Ähnlich funktional wäre eine Hasenpfote in der Tasche…“

        Haha, vermutlich. Ist es standard, Spiegelungen mit einzufüttern?
        Bei Kiddies, die Fotos bearbeiten und irgendwas behaupten kann es natürlich mal wirken. Ich nehme an, dass das eher aus dem Bereich kommt, oder es hat sich herausgestellt, dass der Normalostalker schwierigkeiten bei der Identifikation bekommt, wenn das Bildmaterial gespiegelt ist. An Überwachung denkt da vermutlich keiner.

  7. Aus welchem Grund muss man sich eigentlich digital selbstverteidigen und vor wem? Das Fazit am Ende, dass jegliche Versuche sich der Gesichtserkennung aufgrund dessen Weiterentwicklung zu entziehen, bald sowieso nicht mehr funktionieren, führt hier zu der Vorderung Gesichtserkennung zu stoppen. Aber es gibt diese Technik. Sie wird nicht verschwinden. Sie wird nur besser. Warum nicht also einen Umgang damit finden, die Möglichkeit Kriminalität damit zu bekämpfen annehmen und die Bedingungen dazu aushandeln, damit wir keine chinesischen Zustände haben und unsere Pyjamas ausführen können. Das schlimmste ist sich als Gesellschaft vor dem Forrschritt zu fürchten und ihn abzulehnen, anstatt sich damit gewissenhaft auseinander zu setzen und sich zu nutze zu machen. Andernfalls entwickelt man sich zum Hinterwäldler und verpasst seine Chance am Fortschritt mitgewirkt zu haben.

    1. > Aber es gibt diese Technik. Sie wird nicht verschwinden. Sie wird nur besser. Warum nicht also einen Umgang damit finden, die Möglichkeit Kriminalität damit zu bekämpfen annehmen und die Bedingungen dazu aushandeln, damit wir keine chinesischen Zustände haben und unsere Pyjamas ausführen können.

      Dann muss durchgesetzt werden, dass sie verschwinden. „Bedingungen verhandeln“ ist ein Fuß der Law & Order-Fraktion in der Tür, der da nicht hingehört. Das ist der einzige rationale Weg, um „chinesische Zustände“ zu verhindern.

      > Das schlimmste ist sich als Gesellschaft vor dem Forrschritt zu fürchten und ihn abzulehnen, anstatt sich damit gewissenhaft auseinander zu setzen und sich zu nutze zu machen.

      Es ist absolut sinnvoll, sich davor zu gruseln, für was Law & Order-Politiker den Fortschritt missbrauchen könnten. Das gehört zur „Technikfolgenabschätzung“ dazu. (In ähnlicher Weise müssten die „etablierten Parteien“ bei jedem Gesetz zur inneren Sicherheit eigentlich bedenken, wie die AfD es gegen sie missbrauchen könnte. Machen sie aber nicht, sonst würden sie im Zweifelsfall lieber auf das jeweilige Gesetz verzichten.)

      > „Andernfalls entwickelt man sich zum Hinterwäldler und verpasst seine Chance am Fortschritt mitgewirkt zu haben.“

      Wenn der „Fortschritt“ in „chinesischen Zuständen“ besteht, ist er ein Rückschritt. Wir sind nicht mehr in der „guten alten Zeit“ der SF als so etwas wie „The Jetsons“ noch eine tolle Utopie war. Heutzutage konsumiert man solche Werke und es fällt einem (möglicherweise) auf, dass die Macher naiv genug waren, um noch nicht mal im Ansatz an so Dinge wie Ransomware zu denken. Viel Spaß zum Beispiel mit deinem Tesla, wenn dir gesagt wird: „Bezahlen Sie uns x Credits in Kryptowährung y, wenn Sie ihr Auto bremsen möchten *bevor* es da drüben in die Eisdiele rast und Leute sterben.“

      1. „Überwachung ist kein Fortschritt“

        Es gibt eine ganze Menge Bereiche, wo sie das ist.

        „Videoüberwachung verhindert keine Straftaten.“

        Es ist gesellschaftlich auch sehr vorteilhaft, Täter identifizieren und zur Verantwortung ziehen zu können.

        1. Persistent Surveillance Systems

          https://storymaps.arcgis.com/stories/89ed436fbcdb47ba9be25a6c75db1f1a

          Persistent surveillance systems are an emergent technology that allows governments and authorities to survey entire cities at once through the use of unmanned aerial vehicles (UAV’s) and drones. Outfitted with extremely high-resolution cameras that can monitor cities nearly 24/7, these systems can be used to solve crimes and track other criminal activity by literally turning back time in the imagery to track people and places associated with events that have occurred.

          1. Space-based Persistent Surveillance Systems

            https://www.twz.com/space/tracking-ground-air-targets-via-space-force-by-2030-but-aircraft-will-still-play-a-part

            In the past there have also been repeated suggestions that space-based surveillance assets would increasingly take over from the aircraft that have traditionally undertaken surveillance of targets on the ground, at sea, and in the air. In particular, satellite-based surveillance assets offer the advantages of greater persistence and — at least in the past — enhanced survivability. It is also worth noting that the U.S. National Reconnaissance Office (NRO) is reportedly acquiring a constellation of hundreds of intelligence-gathering satellites from SpaceX, with a specific focus on tracking targets down below in support of ground operations. Its relationship to the USSF program is unclear, but there is certainly some crossover regarding capabilities.

        2. „Es ist gesellschaftlich auch sehr vorteilhaft, Täter identifizieren und zur Verantwortung ziehen zu können.“

          Schon richtig. Wer aber Überwachung vor dem Hintergrund nach einem quasi Selbstmordattentat fordert, gehört aussortiert!

          Bestenfalls träumen die davon, in Echtzeit nach Verdächtigen zu gucken, mit totaler Datensammlung, zumindest für Fremde, also volle Historie. So lernen wir aus der Geschichte… mit Historie?

          1. „Wer aber Überwachung vor dem Hintergrund nach einem quasi Selbstmordattentat fordert, gehört aussortiert!“

            Gemeint ist, die Quantifizierung und Evaluierung von Maßnahmen. Natürlich kann man manchen Mord (schneller) aufklären, wenn es mehr Kameras gibt. Dennoch muss auch bei Aufklärung der konkrete Nutzen dem möglichen Schaden gegenübergestellt werden. Wir sind ja nicht mit einer Aufklärungsstatistik fertig!

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.