Automatisierte Gesichtserkennung: Gefährliches Potenzial

Die Europäische Kommission hat offenbar wieder Abstand genommen von der Idee, automatisierte Gesichtserkennung in öffentlichen Räumen zu untersagen. In einem Entwurf für das Weißbuch zur KI-Strategie aus dem Dezember war vorgeschlagen worden, den Einsatz einer solchen Technologie vorerst zu verbieten.

In einem neueren Entwurf des KI-Papiers vom 21. Januar fehlen die entsprechenden Formulierungen jedoch. Über das Papier, das netzpolitik.org vorliegt, hatte zuerst Politico berichtet.

Die automatisierte Gesichtserkennung in öffentlichen Räumen könnte demnach wohl höchstens strenger reguliert werden, indem die EU-Kommission sie als „Hoch-Risiko-KI-System“ einstuft. In dem früheren Entwurf hatte sie bereits gewarnt, ein Verbot könne die technologische Entwicklung gefährden.

Axel Voss will kein Verbot

Eine ähnliche Sichtweise zur Gesichtserkennung vertritt auch der Europa-Politiker Axel Voss. Es sei ein „falsches Signal, die Anwendung moderner Technologie“ zu stoppen, sagte der CDU-Abgeordnete zuletzt im Rechtsausschuss des EU-Parlaments.

Dem inzwischen veralteten Entwurf zur KI-Strategie zufolge hätten während eines drei- bis fünfjährigen Verbots Auswirkungen und Risiken näher erforscht werden sollen. „Ich kann nicht erkennen, was für einen Vorteil es bringt, wenn man einfach mal sagt, wir stoppen mal die Anwendung von Gesichtserkennung in Europa. Woanders geht es überall weiter“, sagte Voss in Brüssel.

netzpolitik.org hat den rechtspolitischen Sprecher der EVP-Fraktion schriftlich gefragt, weshalb Europa beim Einsatz dieser Technologie nicht andere Standards vertreten könne als etwa China. Axel Voss hat nicht geantwortet.

CDU-Bundestagsabgeordneter kann sich für Deutschland Moratorium vorstellen

Sein Parteikollege Tankred Schipanski, digitalpolitischer Sprecher der Unionsfraktion im Deutschen Bundestag, spricht sich dennoch für eine europäische Lösung aus. Er begrüßt die Idee eines Moratoriums für den Einsatz automatisierter Gesichtserkennung in öffentlichen Räumen – „weil es den Gesetzgebern Zeit verschaffen würde, mögliche Risiken der Technologie abzuschätzen, bevor sie großflächig zum Einsatz kommt“. Das teilt er netzpolitik.org schriftlich mit.

„Es geht um eine sinnvolle Balance zwischen Sicherheit und Freiheit des Einzelnen“, schreibt Schipanski. Wichtig sei ihm lediglich, dass eine solche Regelung Ausnahmen für Forschung und Entwicklung vorsehe.

Die EU-Kommission hat angekündigt, ihr Weißbuch zur KI-Strategie am 19. Februar vorzustellen. „Wenn, und das bleibt abzuwarten, auf europäischer Ebene keine Regulierung erfolgt, dann befürworte ich eine nationale Lösung, bei der wir aus den eben genannten Gründen auch über ein mögliches Moratorium diskutieren sollten“, so Schipanski.

Echte Einsicht oder taktisches Manöver?

Im Januar wurde bekannt, dass Bundesinnenminister Horst Seehofer (CSU) den Einsatz automatisierter Gesichtserkennung in öffentlichen Räumen mit dem neuen Bundespolizeigesetz einführen wollte, um Kriminelle aufzuspüren. Wie das Nachrichtenmagazin SPIEGEL berichtete, sollte entsprechende Technik an 135 deutschen Bahnhöfen und 14 Flughäfen installiert werden. Nach Gegenwehr zog er den Vorschlag jedoch zurück.

Offenbar plant Seehofer noch immer mit der Technologie und will versuchen, sie auf dem parlamentarischen Weg beschließen zu lassen. Der Innenminister selbst hat entsprechende Andeutungen gemacht. Bei einer Bundestagsdebatte am vergangenen Donnerstag unterstellte ihm der Grünen-Abgeordnete Konstantin von Notz ein taktisches Manöver.

Unionspolitiker werben indes weiter für die automatisierte Gesichtserkennung in öffentlichen Räumen, der CDU-Innenpolitiker Armin Schuster pries sie in einem Video an, das er auf Twitter veröffentlichte. „Für alle anderen Fraktionen ist es Totalüberwachung, für uns ist es eine intelligente Unterstützung polizeilicher Arbeit“, sagte er. Feldversuche hätten eine Fehlerrate von 0,018 Prozent ergeben.

Die Sache mit der Fehlerrate

Die Opposition skandalisiere diese Zahl, schimpfte Schuster. Woher sie kommt, ist jedoch unklar. Man kann nur erahnen, worauf er sich bezieht. Mutmaßlich meint Schuster den Pilotversuch am Berliner Bahnhof Südkreuz, wo unter anderem Bundespolizei und Bundesinnenministerium Gesichtserkennungssysteme unterschiedlicher Hersteller getestet hatten. Die Ergebnisse wurden in einem 40-seitigen Abschlussbericht festgehalten. Doch die Zahl, mit der Schuster argumentiert, taucht darin gar nicht auf.

Der Abgeordnete, der vor seiner Karriere in der Politik selbst eine Bundespolizeidirektion an der Schweizer Grenze leitete, will sich hierzu nicht äußern. Einer Bitte um ein Telefonat könne er „aus zeitlichen Gründen“ nicht entsprechen, richtet sein Büro aus. Fragen per E-Mail bleiben unbeantwortet.

Im Bericht zum Südkreuz-Projekt heißt es, die durchschnittliche Falschtrefferrate könne auf 0,00018 Prozent verringert werden – allerdings nur, wenn der Bund zwei unterschiedliche Softwaresysteme kauft und diese miteinander kombiniert.

Das Problem: Dem Bericht nach würde die durchschnittliche Trefferrate mit dieser Methode so weit gesenkt, dass rund jede dritte Person unerkannt bliebe. Der Chaos Computer Club hatte die Ergebnisse zudem ausgewertet und den Verantwortlichen Schönfärberei und eine unwissenschaftliche Herangehensweise vorgeworfen.

Bei den Zehntausenden Menschen, die jeden Tag an Bahnhöfen und Flughäfen gescannt würden, könne selbst eine geringe Falschtrefferrate etliche Fehlalarme zur Folge haben, befürchten Kritiker:innen. Unverdächtige Personen würden dann überwacht, durchsucht und womöglich festgehalten.

Vergleich mit totalitären Regimen

Grüne und FDP fordern, die automatisierte Gesichtserkennung in öffentlichen Räumen per Gesetz zu verbieten. Konstantin Kuhle von der FDP zufolge passe der Einsatz der Technologie eher in totalitäre Regime, Konstantin von Notz warnte vor einem tiefen Eingriff in die Grundrechte Unbescholtener.

Auch beim Koalitionspartner SPD würde ein solches System mehrheitlich sehr kritisch gesehen, sagt der Bundestagsabgeordnete Uli Grötsch im Gespräch mit netzpolitik.org. „Diese Technologie hat das Potenzial, den gesamten öffentlichen Raum in Deutschland automatisiert zu überwachen.“ Auch wenn eine solche Gefahr im Moment nicht bestehe, schaffe die Gesichtserkennung Grundlagen für etwas, das in Zukunft geschehen könnte.

Grötsch zitiert auch eine Parteikollegin, die ihm von ihren Erlebnissen im Dritten Reich berichtet habe. „Sie hat mir gesagt: Wenn die Nazis die technischen Möglichkeiten gehabt hätten, die wir heute haben, wären wir alle nicht hier.“

Er hofft weiterhin darauf, dass die automatisierte Gesichtserkennung in öffentlichen Räumen auf Europa-Ebene reguliert wird. Das, sagt Grötsch, wäre der Königsweg. Nur spricht nach den Streichungen im Entwurf für das Weißbuch zur KI-Strategie wenig dafür, dass die EU-Kommission diesen Weg wählen und die Technologie verbieten wird.