Künstliche Intelligenz

EU erwägt Verbot von Gesichtserkennung

Die neue EU-Kommission von Ursula von der Leyen arbeitet an einem Masterplan zum Umgang mit Künstlicher Intelligenz. Laut einem geleakten Arbeitspapier könnte sie damit Pläne von Horst Seehofer durchkreuzen, der automatisierte Videoüberwachung mit Gesichtserkennung ausrollen möchte.

Biometrische Gesichtserkennung
Biometrische Erfassung von Gesichtern macht Videokameras zu machtvollen Überwachungssystemen CC-BY-SA 2.0 Cory Doctorow

Die neue Europäische Kommission überlegt offenbar, den Einsatz automatisierter Gesichtserkennung im öffentlichen Raum für die nächsten Jahre zu verbieten. Die neue Kommission von Ursula von der Leyen könnte damit Pläne von Bundesinnenminister Horst Seehofer (CSU) durchkreuzen, 135 Bahnhöfen und 14 Flughäfen mit Echtzeit-Gesichtserkennung zu überwachen.

Das temporäre Verbot für Gesichtserkennung im öffentlichen Raum wird im Entwurf eines Arbeitspapiers der Kommission zum Umgang mit Künstlicher Intelligenz vorgeschlagen, über das Freitagmorgen Bloomberg, Euractiv und Reuters berichteten. Politico veröffentlichte das Dokument im Volltext. Die Kommission leakt häufig geplante Schritte an Medien in Brüssel, um die öffentliche Reaktion darauf zu testen. Zunächst blieb allerdings unklar, wie aktuell die Erwägungen in dem auf den 12. Dezember datierten Dokument sind.

Das Verbot soll zunächst drei bis fünf Jahre andauern und für private wie öffentliche Akteure gelten. Währenddessen müssten eine „solide Methodologie für die Einschätzung der Auswirkungen der Technologie und mögliche Risikomanagementmaßnahmen“ entwickelt werden. Laut dem Reuters-Bericht soll es Ausnahmen für „Sicherheitsprojekte“ und Forschung und Entwicklung geben.

Der Schritt dürfte direkte Auswirkungen auf die Pläne aus dem Hause Seehofers haben. Dieser möchte der Bundespolizei erlauben, Überwachungssysteme mit Gesichtserkennung zu installieren. Dagegen regt sich allerdings Widerspruch beim Koalitionspartner SPD. Die neue Ko-Vorsitzende Saskia Esken stellte sich zuletzt entschieden gegen die Pläne.

Kommission will Masterplan vorlegen

Die EU-Kommission beschäftigt sich seit längerem mit möglicher Gesetzgebung zu sogenannter Künstlicher Intelligenz. Im Vorjahr legte eine Expert:innengruppe der Kommission ethische Leitlinien für den Umgang mit KI fest, die allerdings auf Wunsch der Industrie deutlich abgeschwächt wurden. Die neue Kommission hat angekündigt, in diesem Frühjahr einen Fahrplan für den Umgang der Gesetzgeber mit dem Thema vorzulegen.

Das nun geleakte Arbeitspapier beschreibt fünf mögliche Handlungsoptionen für die Kommission. Zu diesen gehört die freiwillige Kennzeichnung des Einsatzes von KI, spezielle Auflagen für die öffentliche Verwaltung und für Gesichtserkennung, verpflichtende Auflagen für Hochrisiko-Anwendungen, Haftungsregeln und klar Aufsichtsstrukturen.

Im Dezember hatte eine weitere Expert:innengruppe der Kommission einen Bericht zu möglichen Haftungsregeln für KI-Anwendungen vorgelegt. Der Bericht schlägt vor, dass die Anwender von besonders risikoreicher Technologie, strenge Haftung für mögliche Schäden tragen.

Das neue Arbeitspapier beantwortet nicht direkt die Frage, wer konkret für durch KI-Anwendungen verursachte Schäden haften soll. Allerdings wird darin festgehalten, dass es für Gerichte und Strafverfolgungsbehörden vielfach schwer nachvollziehbar sei, ob Schäden aus Programmierungsmängeln der KI oder Fehlern der Anwender resultierten. Es brauche in der Frage einen neuen Ansatz.

Die Kommission wollte zu dem Arbeitspapier nicht Stellung nehmen. Allerdings betonte ein Sprecher auf Anfrage von netzpolitik.org, dass der offizielle Plan von der Leyens für den Umgang mit Künstlicher Intelligenz in Kürze folgen werde.

Du möchtest mehr kritische Berichterstattung?

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten.

Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

Unterstütze auch Du unsere Arbeit jetzt mit deiner Spende.

 

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten.

Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

Dann unterstütze uns hier mit einer Spende.

9 Ergänzungen
  1. Wenn ehemalige NSA Angestellte mit weniger Skrupel als Edward Snowden mit AI und face recognition ein Startup gründen und von Peter Thiel finanziert werden, dann kann das passieren:

    https://www.nytimes.com/2020/01/18/technology/clearview-privacy-facial-recognition.html

    Mann bekommt ganz schnell einen Wipikedia Eintrag:
    https://en.wikipedia.org/wiki/Clearview_AI

    Was noch fehlt sind die Bilder von den Entwicklern auf Instagram. Warum fehlen die eigentlich?

    1. Oppenheimer und die Moral
      https://www.nytimes.com/2020/01/18/technology/clearview-privacy-facial-recognition.html

      Es gibt das mittlerweile auch in deutsch bei spiegel.de.
      Ich weiss, die Seite ist nicht das Maß aller Dinge, aber manchmal für Recherche nicht falsch.

      @Alexander:
      Ich frage aber mal kritisch, wie ich den letzten Absatz dort einsortieren soll, da hier irgendwie nichts dazu zu finden ist:

      „Aber weil eine so „weitreichende Maßnahme“ die Entwicklung und den Einsatz der Technik verhindern könnte, spricht sich die Kommission dem Papier zufolge gegen ein Verbot aus. Stattdessen soll einfach die EU-Datenschutz-Grundverordnung vollumfänglich umgesetzt werden.“

      Irgendwie ist die Schlußfolgerung eine andere, als ich hier (heraus)gelesen habe.
      Gibt es dazu bitte ein Update?

      Danke!

  2. dann muessen jetzt „nur noch“ die biometrischen Abbildungen von Gesichtern aus Ausweisdokumenten verschwinden und durch die „alten, freundlichen“ wieder ersetzt werden.

  3. Ein Verbot wäre super. Wir sind noch lange nicht so weit eine solche Technik sicher zu betreiben.

    Die Netze sind nicht sicher, das Personal nicht wirklich befähigt und vertrauenswürdig, die Bevölkerung nicht souverän und False-Positives sind ungeschützt und leiden unter Beweislastumkehrmechanismen. Schon jetzt passiert es, dass Leute monatelang unschuldig ins Gefängnis wandern, dort u.U. sogar sterben, und selbst wenn nicht, ihr Leben ge- oder gar zerstört bekommen. Und hinterher gibt es dann 25 Euro pro Tag Entschädigung (§ 7 Abs. 3 StrEG).

    Und wenn wir soweit sind, um ein solches System sicher zu betreiben, brauchen wir es vermutlich nicht mehr, weil bis dahin hoffentlich die Welt richtig zusammengewachsen, emanzipiert, friedlich und allgemein fürsorglich ist.

  4. Hallo, ich bin auf dieses Bild in dem Artikel gestoßen und immer noch ein wenig verwirrt.
    Das Mädel auf dem Bild sieht aus wie ich (mit ca. 16 Jahren) . WOW :-)
    Wer ist das ?

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.