Im Podcast geht es diesmal um die Regulierung Künstlicher Intelligenz. Eine Resolution des Europaparlaments hat vor kurzen einen ersten wichtigen Vorstoß in diese Richtung gemacht. Mit dabei: Gesichtserkennung, Predictive Policing und intransparente Algorithmen.
Die Bewegung gegen automatisierte Gesichtserkennung und biometrische Überwachung bekommt Rückenwind aus dem Europaparlament. Die Abgeordneten votierten gegen die Position von EU-Kommission und Ratspräsidentschaft. Bürgerrechtsorganisationen wollen nach diesem Signal noch mehr Druck machen.
Nach der Blockade eines Kohlebaggers sind mehrere Klimaaktivist*innen seit Tagen in Polizeigewahrsam. In den meisten Bundesländern wäre das nicht möglich. Doch die Laschet-Regierung in NRW verschärfte 2018 das Polizeigesetz – es enthält eine Regelung, die sich vor allem gegen Klimaproteste richtet.
Alle Reisenden müssen an den EU-Außengrenzen bald Fingerabdrücke und Gesichtsbilder abgeben. Hierfür winken in jedem Mitgliedstaat hohe Summen für Firmen, die solche Technologien anbieten. In einem „Paket zur Interoperabilität“ gibt die Europäische Union weitere Gelder für die Systeme aus.
Seit diesem Monat gibt es in Deutschland keine neuen Ausweisdokumente mehr ohne Fingerabdruck. Datenschützer:innen kritisieren die Maßnahme als nicht erforderlich und unangemessen. Gleichzeitig wird der Datenaustausch bei biometrischen Passbildern vereinfacht.
Ein Netzwerk von Bürgerrechtsorganisationen hat biometrische Überwachungssysteme in Deutschland, den Niederlanden und in Polen untersucht. Die Studie kommt zum Schluss, dass die Systeme vielfach unrechtmäßig genutzt werden.
Forschende arbeiten an Technologien, die menschliche Emotionen erkennen sollen. Die Anwendungsgebiete reichen von Autismustherapie über Optimierung von Werbung bis hin zur Sicherheitspolitik. Dabei bewegt sich die Forschung auf umstrittenen Grundlagen und könnte gefährliche Folgen haben.
Der Ausbau automatisierter Überwachungssysteme geht dem Innenausschuss des EU-Parlamentes zu weit. Er will ein Moratorium für Gesichtserkennung im öffentlichen Raum – ein Komplettverbot der Überwachungstechnologie fordert er allerdings nicht.
Automatisierte Entscheidungssysteme, die mit menschlichen Merkmalen arbeiten, können diskriminieren und Grundrechte einschränken. Deshalb fordern zwei EU-Datenschutzinstitutionen nun ein Verbot bestimmter Anwendungen. Die Pläne der EU-Kommission zur Regulierung von Künstlicher Intelligenz gehen ihnen nicht weit genug.
Während die EU-Kommission KI-Anwendungen für Polizei und Justiz regulieren will, spricht sich die amtierende Ratspräsidentschaft für möglichst wenig Einschränkungen aus. Die Verarbeitung von Gesichtsbildern aus dem öffentlichen Raum wird zum Zankapfel.
Das Who-is-Who digitaler Menschenrechtsorganisationen fordert ein umfassendes und weltweites Verbot von biometrischen Überwachungstechnologien im öffentlichen Raum. Die Risiken für Menschenrechte stünden in keinem Verhältnis zum Nutzen der Anwendungen.
In einer großangelegten Crowd-Recherche mit tausenden Freiwilligen hat Amnesty International Kameraüberwachung in einigen Stadtteilen von New York systematisch kartografiert.
Ein elektronischer Identitätsnachweis, der auf dem ganzen Kontinent gilt – das möchte die EU-Kommission durch eine neue Verordnung schaffen. Technische Details lässt sie vorerst offen.
Balkanstaaten vor den Toren der EU werden immer mehr zu Auffang- und Abschiebezentren. Die EU lagert ihre Grenzen aus, immer stärker auch dank digitaler Technologien. Migrant*innen werden biometrisch erfasst, die Vorbereitungen für gemeinsame Datenbanken laufen.
PimEyes und Clearview AI sind Unternehmen, die ungefragt Millionen von Gesichtsbilder aus dem Internet speichern, auswerten und katalogisieren, um daraus Überwachungssysteme zu bauen. Datenschützer gehen nun gegen die Firmen vor.
Bei der re:publica sprach die Vizechefin der EU-Kommission, Margrethe Vestager, über ihre Pläne zur Regulierung von Künstlicher Intelligenz. Dabei verteidigte sie Ausnahmen, die es bei einem Verbot biometrischer Überwachung geben soll.
Bundesländer sollen künftig die Möglichkeit haben, zentralisierte Datenbestände biometrischer Daten aufzubauen. Ermittlungsbehörden könnten dann automatisiert Passbilder und Unterschriften abrufen. Hintergrund ist das geplante eID-Gesetz, das eigentlich den Personalausweis auf Smartphones bringen soll.
Die EU-Kommission hat erstmals ein Gesetz zur Regulierung von automatisierten Entscheidungssystemen vorgelegt. „Massenüberwachung“ durch KI soll damit verboten werden, biometrische Echtzeit-Überwachung soll in einigen Fällen aber erlaubt bleiben.
Clearview AI funktioniert wie eine Suchmaschine für Gesichter: Strafverfolgungsbehörden aus mehreren Ländern nutzten die Software, um Personen zu identifizieren. Wir haben mit Matthias Marx gesprochen, der sich in der Gesichter-Datenbank wiederfand und die Datenschutzaufsicht eingeschaltet hat.
