Die neue Europäische Kommission überlegt offenbar, den Einsatz automatisierter Gesichtserkennung im öffentlichen Raum für die nächsten Jahre zu verbieten. Die neue Kommission von Ursula von der Leyen könnte damit Pläne von Bundesinnenminister Horst Seehofer (CSU) durchkreuzen, 135 Bahnhöfen und 14 Flughäfen mit Echtzeit-Gesichtserkennung zu überwachen.
Das temporäre Verbot für Gesichtserkennung im öffentlichen Raum wird im Entwurf eines Arbeitspapiers der Kommission zum Umgang mit Künstlicher Intelligenz vorgeschlagen, über das Freitagmorgen Bloomberg, Euractiv und Reuters berichteten. Politico veröffentlichte das Dokument im Volltext. Die Kommission leakt häufig geplante Schritte an Medien in Brüssel, um die öffentliche Reaktion darauf zu testen. Zunächst blieb allerdings unklar, wie aktuell die Erwägungen in dem auf den 12. Dezember datierten Dokument sind.
Das Verbot soll zunächst drei bis fünf Jahre andauern und für private wie öffentliche Akteure gelten. Währenddessen müssten eine „solide Methodologie für die Einschätzung der Auswirkungen der Technologie und mögliche Risikomanagementmaßnahmen“ entwickelt werden. Laut dem Reuters-Bericht soll es Ausnahmen für „Sicherheitsprojekte“ und Forschung und Entwicklung geben.
Der Schritt dürfte direkte Auswirkungen auf die Pläne aus dem Hause Seehofers haben. Dieser möchte der Bundespolizei erlauben, Überwachungssysteme mit Gesichtserkennung zu installieren. Dagegen regt sich allerdings Widerspruch beim Koalitionspartner SPD. Die neue Ko-Vorsitzende Saskia Esken stellte sich zuletzt entschieden gegen die Pläne.
Kommission will Masterplan vorlegen
Die EU-Kommission beschäftigt sich seit längerem mit möglicher Gesetzgebung zu sogenannter Künstlicher Intelligenz. Im Vorjahr legte eine Expert:innengruppe der Kommission ethische Leitlinien für den Umgang mit KI fest, die allerdings auf Wunsch der Industrie deutlich abgeschwächt wurden. Die neue Kommission hat angekündigt, in diesem Frühjahr einen Fahrplan für den Umgang der Gesetzgeber mit dem Thema vorzulegen.
Das nun geleakte Arbeitspapier beschreibt fünf mögliche Handlungsoptionen für die Kommission. Zu diesen gehört die freiwillige Kennzeichnung des Einsatzes von KI, spezielle Auflagen für die öffentliche Verwaltung und für Gesichtserkennung, verpflichtende Auflagen für Hochrisiko-Anwendungen, Haftungsregeln und klar Aufsichtsstrukturen.
Im Dezember hatte eine weitere Expert:innengruppe der Kommission einen Bericht zu möglichen Haftungsregeln für KI-Anwendungen vorgelegt. Der Bericht schlägt vor, dass die Anwender von besonders risikoreicher Technologie, strenge Haftung für mögliche Schäden tragen.
Das neue Arbeitspapier beantwortet nicht direkt die Frage, wer konkret für durch KI-Anwendungen verursachte Schäden haften soll. Allerdings wird darin festgehalten, dass es für Gerichte und Strafverfolgungsbehörden vielfach schwer nachvollziehbar sei, ob Schäden aus Programmierungsmängeln der KI oder Fehlern der Anwender resultierten. Es brauche in der Frage einen neuen Ansatz.
Die Kommission wollte zu dem Arbeitspapier nicht Stellung nehmen. Allerdings betonte ein Sprecher auf Anfrage von netzpolitik.org, dass der offizielle Plan von der Leyens für den Umgang mit Künstlicher Intelligenz in Kürze folgen werde.
Wenn ehemalige NSA Angestellte mit weniger Skrupel als Edward Snowden mit AI und face recognition ein Startup gründen und von Peter Thiel finanziert werden, dann kann das passieren:
https://www.nytimes.com/2020/01/18/technology/clearview-privacy-facial-recognition.html
Mann bekommt ganz schnell einen Wipikedia Eintrag:
https://en.wikipedia.org/wiki/Clearview_AI
Was noch fehlt sind die Bilder von den Entwicklern auf Instagram. Warum fehlen die eigentlich?
Oppenheimer und die Moral
https://www.nytimes.com/2020/01/18/technology/clearview-privacy-facial-recognition.html
Es gibt das mittlerweile auch in deutsch bei spiegel.de.
Ich weiss, die Seite ist nicht das Maß aller Dinge, aber manchmal für Recherche nicht falsch.
@Alexander:
Ich frage aber mal kritisch, wie ich den letzten Absatz dort einsortieren soll, da hier irgendwie nichts dazu zu finden ist:
„Aber weil eine so „weitreichende Maßnahme“ die Entwicklung und den Einsatz der Technik verhindern könnte, spricht sich die Kommission dem Papier zufolge gegen ein Verbot aus. Stattdessen soll einfach die EU-Datenschutz-Grundverordnung vollumfänglich umgesetzt werden.“
Irgendwie ist die Schlußfolgerung eine andere, als ich hier (heraus)gelesen habe.
Gibt es dazu bitte ein Update?
Danke!
Da ist er, der Gründer…
https://static01.nyt.com/images/2020/01/19/business/18clearview-01/merlin_166989150_339af8f6-72dc-4344-8bea-138e3b8ba466-superJumbo.jpg?quality=90&auto=webp
dann muessen jetzt „nur noch“ die biometrischen Abbildungen von Gesichtern aus Ausweisdokumenten verschwinden und durch die „alten, freundlichen“ wieder ersetzt werden.
Ein Verbot wäre super. Wir sind noch lange nicht so weit eine solche Technik sicher zu betreiben.
Die Netze sind nicht sicher, das Personal nicht wirklich befähigt und vertrauenswürdig, die Bevölkerung nicht souverän und False-Positives sind ungeschützt und leiden unter Beweislastumkehrmechanismen. Schon jetzt passiert es, dass Leute monatelang unschuldig ins Gefängnis wandern, dort u.U. sogar sterben, und selbst wenn nicht, ihr Leben ge- oder gar zerstört bekommen. Und hinterher gibt es dann 25 Euro pro Tag Entschädigung (§ 7 Abs. 3 StrEG).
Und wenn wir soweit sind, um ein solches System sicher zu betreiben, brauchen wir es vermutlich nicht mehr, weil bis dahin hoffentlich die Welt richtig zusammengewachsen, emanzipiert, friedlich und allgemein fürsorglich ist.
Hallo, ich bin auf dieses Bild in dem Artikel gestoßen und immer noch ein wenig verwirrt.
Das Mädel auf dem Bild sieht aus wie ich (mit ca. 16 Jahren) . WOW :-)
Wer ist das ?
Hallo Diana,
das Bild stammt aus der Ausstellung „Sites Unseen“ des US-Künstler Trevor Paglen: https://americanart.si.edu/exhibitions/paglen
Das Beitragsfoto scheint mir ein Zoom auf das Foto der Frau zu sein, die hier als zweite oben links zu sehen ist: https://www.dcmilitary.com/pentagram/news/local/explore-d-c-trevor-paglen-s-sites-unseen-at-smithsonian/article_39dc725a-c802-50a1-9e89-3dd6ce53bbde.html
Bist du das? :D
Kann den Link mit html leider nicht öffnen. Schade. Bin doch sehr neugierig :-)
Lustiger Löschantrag zu erwarten…
https://www.heise.de/newsticker/meldung/Machine-Unlearning-Algorithmen-koennen-nichts-vergessen-4646747.html
Unter der Haube…
– Ein Gesetz definiert „Löschung“.
– Zu einem Zeitpunkt nicht erkannt gilt als gelöscht?
– Eine Datenbank mit Features der/des zu Löschenden wird mitgeführt, um die Ergebnisse auszuschließen?
(…)