Was vom Tage übrig blieb

Kinder-Überwachung und Hatespeech-Erkennung

Gesichtserkennung wurde auch mit Kinderbildern von Flickr trainert und die automatisierte Hatespeech-Erkennung markiert Inhalte rassistisch. Die besten Reste des Tages.

Die Dark Cloud muss dringend reguliert werden.

How Photos of Your Kids Are Powering Surveillance Technology (New York Times)
Die Datenbank MegaFace dient dazu um Software zur Gesichtserkennung zu trainieren. Später werden damit etwa Demonstrierende, vermeintliche Terroristen oder auch einfach die gesamte Bevölkerung überwacht. Die New York Times hat jetzt recherchiert, dass ein Großteil der Bilder im Datenset ohne die Zustimmung der Betroffenen von Flickr gesaugt wurde, viele zeigen Kinder. In der Regel ist das legal, aber einige der Gesichtsbesitzer*innen aus Illinois könnten nun Google, Amazon, SenseTime und andere Unternehmen verklagen, die die Datenbank nutzten – auf Basis eines Gesetzes, das nur für ihren Bundesstaat gilt. Eine absurde Geschichte, die anhand einer Ausnahme zeigt, welche Wild-West-Situation in Hinblick auf biometrische Daten und Algorithmen derzeit die Norm bildet.

Oh dear… AI models used to flag hate speech online are, er, racist against black people (The Register)
Automatische Hatespeech-Erkennung ist rassistisch: Ein Paper von Informatiker:innen der University of Washington, der Carnegie Mellon University und des Allen Institute für Künstliche Intelligenz ergab, dass die Software eher Tweets von Schwarzen als von Weißen als beleidigend markierte, auch wenn diese gar nicht beleidigend waren. Das alles hängt mit subtilen Unterschieden in der Sprache zusammen.

Jeden Tag bleiben im Chat der Redaktion zahlreiche Links und Themen liegen. Doch die sind viel zu spannend, um sie nicht zu teilen. Deswegen gibt es jetzt die Rubrik „Was vom Tage übrig blieb“, in der die Redakteurinnen und Redakteure gemeinschaftlich solche Links kuratieren und sie unter der Woche um 18 Uhr samt einem aktuellen Ausblick aus unserem Büro veröffentlichen. Wir freuen uns über weitere spannende Links und kurze Beschreibungen der verlinkten Inhalte, die ihr unter dieser Sammlung ergänzen könnt.

Eine Ergänzung

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.