Automatisierte Gesichtserkennung

Gefährliches Potenzial

Gesichtserkennung in öffentlichen Räumen sorgt für Kontroversen in Brüssel und Berlin. Der SPD-Politiker Uli Grötsch sieht in der Technologie Gefahrenpotenzial. Doch die Union möchte sie in Deutschland einsetzen – obwohl selbst der digitalpolitische Sprecher ihrer Fraktion für ein Moratorium ist.

Entscheidet bald der Bundestag über Gesichtserkennung im öffentlichen Raum?
Entscheidet bald der Bundestag über Gesichtserkennung im öffentlichen Raum? (Fotomontage) Gemeinfrei-ähnlich freigegeben durch unsplash.com Viktor Kallenbach & Alex Knight_blue

Die Europäische Kommission hat offenbar wieder Abstand genommen von der Idee, automatisierte Gesichtserkennung in öffentlichen Räumen zu untersagen. In einem Entwurf für das Weißbuch zur KI-Strategie aus dem Dezember war vorgeschlagen worden, den Einsatz einer solchen Technologie vorerst zu verbieten.

In einem neueren Entwurf des KI-Papiers vom 21. Januar fehlen die entsprechenden Formulierungen jedoch. Über das Papier, das netzpolitik.org vorliegt, hatte zuerst Politico berichtet.

Die automatisierte Gesichtserkennung in öffentlichen Räumen könnte demnach wohl höchstens strenger reguliert werden, indem die EU-Kommission sie als „Hoch-Risiko-KI-System“ einstuft. In dem früheren Entwurf hatte sie bereits gewarnt, ein Verbot könne die technologische Entwicklung gefährden.

Axel Voss will kein Verbot

Eine ähnliche Sichtweise zur Gesichtserkennung vertritt auch der Europa-Politiker Axel Voss. Es sei ein „falsches Signal, die Anwendung moderner Technologie“ zu stoppen, sagte der CDU-Abgeordnete zuletzt im Rechtsausschuss des EU-Parlaments.

Dem inzwischen veralteten Entwurf zur KI-Strategie zufolge hätten während eines drei- bis fünfjährigen Verbots Auswirkungen und Risiken näher erforscht werden sollen. „Ich kann nicht erkennen, was für einen Vorteil es bringt, wenn man einfach mal sagt, wir stoppen mal die Anwendung von Gesichtserkennung in Europa. Woanders geht es überall weiter“, sagte Voss in Brüssel.

netzpolitik.org hat den rechtspolitischen Sprecher der EVP-Fraktion schriftlich gefragt, weshalb Europa beim Einsatz dieser Technologie nicht andere Standards vertreten könne als etwa China. Axel Voss hat nicht geantwortet.

CDU-Bundestagsabgeordneter kann sich für Deutschland Moratorium vorstellen

Sein Parteikollege Tankred Schipanski, digitalpolitischer Sprecher der Unionsfraktion im Deutschen Bundestag, spricht sich dennoch für eine europäische Lösung aus. Er begrüßt die Idee eines Moratoriums für den Einsatz automatisierter Gesichtserkennung in öffentlichen Räumen – „weil es den Gesetzgebern Zeit verschaffen würde, mögliche Risiken der Technologie abzuschätzen, bevor sie großflächig zum Einsatz kommt“. Das teilt er netzpolitik.org schriftlich mit.

„Es geht um eine sinnvolle Balance zwischen Sicherheit und Freiheit des Einzelnen“, schreibt Schipanski. Wichtig sei ihm lediglich, dass eine solche Regelung Ausnahmen für Forschung und Entwicklung vorsehe.

Die EU-Kommission hat angekündigt, ihr Weißbuch zur KI-Strategie am 19. Februar vorzustellen. „Wenn, und das bleibt abzuwarten, auf europäischer Ebene keine Regulierung erfolgt, dann befürworte ich eine nationale Lösung, bei der wir aus den eben genannten Gründen auch über ein mögliches Moratorium diskutieren sollten“, so Schipanski.

Echte Einsicht oder taktisches Manöver?

Im Januar wurde bekannt, dass Bundesinnenminister Horst Seehofer (CSU) den Einsatz automatisierter Gesichtserkennung in öffentlichen Räumen mit dem neuen Bundespolizeigesetz einführen wollte, um Kriminelle aufzuspüren. Wie das Nachrichtenmagazin SPIEGEL berichtete, sollte entsprechende Technik an 135 deutschen Bahnhöfen und 14 Flughäfen installiert werden. Nach Gegenwehr zog er den Vorschlag jedoch zurück.

Offenbar plant Seehofer noch immer mit der Technologie und will versuchen, sie auf dem parlamentarischen Weg beschließen zu lassen. Der Innenminister selbst hat entsprechende Andeutungen gemacht. Bei einer Bundestagsdebatte am vergangenen Donnerstag unterstellte ihm der Grünen-Abgeordnete Konstantin von Notz ein taktisches Manöver.

Unionspolitiker werben indes weiter für die automatisierte Gesichtserkennung in öffentlichen Räumen, der CDU-Innenpolitiker Armin Schuster pries sie in einem Video an, das er auf Twitter veröffentlichte. „Für alle anderen Fraktionen ist es Totalüberwachung, für uns ist es eine intelligente Unterstützung polizeilicher Arbeit“, sagte er. Feldversuche hätten eine Fehlerrate von 0,018 Prozent ergeben.

Die Sache mit der Fehlerrate

Die Opposition skandalisiere diese Zahl, schimpfte Schuster. Woher sie kommt, ist jedoch unklar. Man kann nur erahnen, worauf er sich bezieht. Mutmaßlich meint Schuster den Pilotversuch am Berliner Bahnhof Südkreuz, wo unter anderem Bundespolizei und Bundesinnenministerium Gesichtserkennungssysteme unterschiedlicher Hersteller getestet hatten. Die Ergebnisse wurden in einem 40-seitigen Abschlussbericht festgehalten. Doch die Zahl, mit der Schuster argumentiert, taucht darin gar nicht auf.

Der Abgeordnete, der vor seiner Karriere in der Politik selbst eine Bundespolizeidirektion an der Schweizer Grenze leitete, will sich hierzu nicht äußern. Einer Bitte um ein Telefonat könne er „aus zeitlichen Gründen“ nicht entsprechen, richtet sein Büro aus. Fragen per E-Mail bleiben unbeantwortet.

Im Bericht zum Südkreuz-Projekt heißt es, die durchschnittliche Falschtrefferrate könne auf 0,00018 Prozent verringert werden – allerdings nur, wenn der Bund zwei unterschiedliche Softwaresysteme kauft und diese miteinander kombiniert.

Das Problem: Dem Bericht nach würde die durchschnittliche Trefferrate mit dieser Methode so weit gesenkt, dass rund jede dritte Person unerkannt bliebe. Der Chaos Computer Club hatte die Ergebnisse zudem ausgewertet und den Verantwortlichen Schönfärberei und eine unwissenschaftliche Herangehensweise vorgeworfen.

Bei den Zehntausenden Menschen, die jeden Tag an Bahnhöfen und Flughäfen gescannt würden, könne selbst eine geringe Falschtrefferrate etliche Fehlalarme zur Folge haben, befürchten Kritiker:innen. Unverdächtige Personen würden dann überwacht, durchsucht und womöglich festgehalten.

Vergleich mit totalitären Regimen

Grüne und FDP fordern, die automatisierte Gesichtserkennung in öffentlichen Räumen per Gesetz zu verbieten. Konstantin Kuhle von der FDP zufolge passe der Einsatz der Technologie eher in totalitäre Regime, Konstantin von Notz warnte vor einem tiefen Eingriff in die Grundrechte Unbescholtener.

Auch beim Koalitionspartner SPD würde ein solches System mehrheitlich sehr kritisch gesehen, sagt der Bundestagsabgeordnete Uli Grötsch im Gespräch mit netzpolitik.org. „Diese Technologie hat das Potenzial, den gesamten öffentlichen Raum in Deutschland automatisiert zu überwachen.“ Auch wenn eine solche Gefahr im Moment nicht bestehe, schaffe die Gesichtserkennung Grundlagen für etwas, das in Zukunft geschehen könnte.

Grötsch zitiert auch eine Parteikollegin, die ihm von ihren Erlebnissen im Dritten Reich berichtet habe. „Sie hat mir gesagt: Wenn die Nazis die technischen Möglichkeiten gehabt hätten, die wir heute haben, wären wir alle nicht hier.“

Er hofft weiterhin darauf, dass die automatisierte Gesichtserkennung in öffentlichen Räumen auf Europa-Ebene reguliert wird. Das, sagt Grötsch, wäre der Königsweg. Nur spricht nach den Streichungen im Entwurf für das Weißbuch zur KI-Strategie wenig dafür, dass die EU-Kommission diesen Weg wählen und die Technologie verbieten wird.

Du möchtest mehr kritische Berichterstattung?

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten.

Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

Unterstütze auch Du unsere Arbeit jetzt mit deiner Spende.

 

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten.

Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

Dann unterstütze uns hier mit einer Spende.

6 Ergänzungen
  1. Von der demokratischen Öffentlichkeit weitgehend unbeachtet, hat die Landesregierung Rheinland-Pfalz (SPD/FDP/Grüne) in den Mainzer Landtag eine Gesetzesnovelle zum Landesverfassungsschutzgesetz eingebracht, die dem Landesamt für „Verfassungs“schutz eine Fülle weiterer Befugnisse einräumt. Am 29.01.2020 hat der Landtag mit der Mehrheit der Regierungsparteien und unter Zustimmung der CDU-Opposition der Gesetzesnovelle zugestimmt.

    § 21 (Zugriff auf Videoüberwachungen des öffentlich zugänglichen Raums)
    „(1) Die Verfassungsschutzbehörde darf zur Erfüllung ihrer Aufgaben nach § 5 unentgeltlich auf verfügbare Einrichtungen zur Videobeobachtung des öffentlich zugänglichen Raums zugreifen. Die Betreiber oder die verfügungsberechtigten Personen haben den Bediensteten der Verfassungsschutzbehörde auf Verlangen unverzüglich Zutritt zu den Räumlichkeiten, in der sich die Einrichtung befindet, zu gewähren und die Mitbenutzung der Einrichtung zu dulden.

    https://ddrm.de/rheinland-pfalz-steht-hinter-jeder-videoueberwachungskamera-im-oeffentlichen-raum-kuenftig-ein-schlapphut-vom-verfassungsschutz/

  2. Und der entscheidende Satz: „Von der demokratischen Öffentlichkeit weitgehend unbeachtet“..! Soviel zum Thema „Transparenz“, „freies (?) Land/Europa“…hoffen wir, dass die Novelle nicht Wirklichkeit wird und/oder Schule macht…Ach was rede ich…hat sie im allgemeinen Sinn doch schon…vor paar Jahren bei der Änderung des Telekommunikationsgesetzes, die – clamheimlich abgesegnet – die Herausgabe von Passwörtern und Co. bzw. Bestandsdaten mal eben nach Gutdünken erlaubt…selbst bei Ordnungswidrigkeiten…!!

    1. Die Gesetzgebungsprozesse sind transparent. Wenn man aber lieber Netflix oder RTL II guckt statt SWR 2 zu hören, bekommt man halt nix mit. Selbst schuld.

  3. Ihr schreibt: „Die Europäische Kommission hat offenbar wieder Abstand genommen von der Idee, automatisierte Gesichtserkennung in öffentlichen Räumen zu untersagen. In einem Entwurf für das Weißbuch zur KI-Strategie aus dem Dezember war vorgeschlagen worden, den Einsatz einer solchen Technologie vorerst zu verbieten.“

    Als ich seinerzeit das Papier las, hatte ich nicht den Eindruck, dass die EU die Gesichtserkennung verbieten will. Dort stand zwar, dass man über ein vorübergehendes Verbot diskutieren könne. Die EU-Kommission riet allerdings ausdrücklich davon ab, sie tatsächlich zu verbieten. Ich habe damals nicht verstanden, weshalb alle Welt schrieb, die EU wolle Gesichtserkennung verbieten.

    1. Aus meiner Sicht war es schon bemerkenswert, dass die Kommission das in dem Papier überhaupt als explizite Möglichkeit eingeräumt hat, immerhin gibt es Druck von zahlreichen Firmen, die Technologie breitflächig zu nutzen. Der Titel meiner Geschichte war dann: „EU-Kommission ERWÄGT Verbot der Gesichtserkennung“. Das halte ich als Aussage für inhaltlich gedeckt.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.