Was vom Tage übrig blieb: Kinder-Überwachung und Hatespeech-Erkennung

How Photos of Your Kids Are Powering Surveillance Technology (New York Times)
Die Datenbank MegaFace dient dazu um Software zur Gesichtserkennung zu trainieren. Später werden damit etwa Demonstrierende, vermeintliche Terroristen oder auch einfach die gesamte Bevölkerung überwacht. Die New York Times hat jetzt recherchiert, dass ein Großteil der Bilder im Datenset ohne die Zustimmung der Betroffenen von Flickr gesaugt wurde, viele zeigen Kinder. In der Regel ist das legal, aber einige der Gesichtsbesitzer*innen aus Illinois könnten nun Google, Amazon, SenseTime und andere Unternehmen verklagen, die die Datenbank nutzten – auf Basis eines Gesetzes, das nur für ihren Bundesstaat gilt. Eine absurde Geschichte, die anhand einer Ausnahme zeigt, welche Wild-West-Situation in Hinblick auf biometrische Daten und Algorithmen derzeit die Norm bildet.

Oh dear… AI models used to flag hate speech online are, er, racist against black people (The Register)
Automatische Hatespeech-Erkennung ist rassistisch: Ein Paper von Informatiker:innen der University of Washington, der Carnegie Mellon University und des Allen Institute für Künstliche Intelligenz ergab, dass die Software eher Tweets von Schwarzen als von Weißen als beleidigend markierte, auch wenn diese gar nicht beleidigend waren. Das alles hängt mit subtilen Unterschieden in der Sprache zusammen.

Jeden Tag bleiben im Chat der Redaktion zahlreiche Links und Themen liegen. Doch die sind viel zu spannend, um sie nicht zu teilen. Deswegen gibt es jetzt die Rubrik „Was vom Tage übrig blieb“, in der die Redakteurinnen und Redakteure gemeinschaftlich solche Links kuratieren und sie unter der Woche um 18 Uhr samt einem aktuellen Ausblick aus unserem Büro veröffentlichen. Wir freuen uns über weitere spannende Links und kurze Beschreibungen der verlinkten Inhalte, die ihr unter dieser Sammlung ergänzen könnt.