Schlagwort: Bias

Großes Augen auf einer Illustration schaut auf einen mann mit einem Rucksack zwischen Häusern.

Allein in Los Angeles hat die Nachbarschafts-App von Amazon Ring in zwei Jahren mehr als 13.000 Meldungen an die Polizei weitergeleitet. Eine Recherche zeigt: Viele dieser Meldungen haben gar nichts mit Kriminalität zu tun, sondern spiegeln die Paranoia und die rassistischen Vorurteile der Ring-Nutzer.

Symboldbild - Verschiedene alte Computer

Künstliche Intelligenz wird gerade fast wie Magie gehandelt. Ein paar Daten reingestopft, und alle Weltprobleme lösen sich in Wohlgefallen auf. Bisschen übertriebene Erwartung, findet unsere Kolumnistin. Und fragt sich, was Technologie eigentlich alles lösen soll.

Was haben wir letztes Jahr am liebsten gelesen? Welche Geschichten sind uns im Gedächtnis geblieben? In unserem persönlichen Jahresrückblick wollen wir euch Beiträge ans Herz legen, die auch Wochen und Monate später noch lesenswert sind.

Die automatische Bilder-Vorschau von Twitter scheint die Gesichter weißer Menschen zu bevorzugen und Schwarze Menschen systematisch auszublenden. Das Unternehmen beteuert, die Technologie sei auf solche Verzerrungen getestet worden und will das Modell nun erneut überprüfen.

Datenbasierte Technologien bringen nicht nur mehr Effizienz. Sie werden auch zur Gefahr für jene, die ohnehin schon strukturell am Rand stehen. In ihrem Gastbeitrag erklärt Sarah Chander, was Datenrassismus ist, wie er sich auf Betroffene auswirkt und was wir dagegen tun können.

Die MIT-Forscherin Joy Buolamwini hat untersucht, wie ihre Kritik an diskriminierender Gesichtserkennung zur Lösung des Problems beiträgt. Ein halbes Jahr nach ihrer Studie zeigt sich: unabhängige Beobachtung wirkt. IBM, Microsoft und andere Hersteller erkennen nun Gesichter von Schwarzen und Frauen besser.

Datenforscherin Maya Ganesh erklärt im Video, was Big Data mit Diskriminierung zu tun hat und welche persönlichen Konsequenzen ein vermeintlich harmloses Thema wie Machine Learning haben kann.

Facebook wird immer mehr zur primären Informationsquelle für seine fast 1,7 Milliarden Nutzer. Sei es Sport, Klatsch und Tratsch oder Politik – viele Nutzer erfahren Neues vorwiegend über den Facebook Newsfeed. Ein Tool des Wall Street Journals zeigt, wie unterschiedlich liberale und konservative Filterbubbles in den USA aussehen.

Bias

Amazon Ring: Nachbarschaftsmeldungen landen in den USA direkt bei der Polizei

Degitalisierung: Was war nochmal das Problem?

Jahresrückblick: Die besten Reste des Jahres

Automatisierte Diskriminierung: Twitter prüft Rassismus in der Bildervorschau

Datenrassismus: Eine neue Ära

Gesichtserkennung: Kritik macht Algorithmen genauer, nicht nur für weiße Männer

Interview mit Maya Ganesh: Wie sehen uns Maschinen?

Neues Tool zeigt konservative und liberale Filterbubbles bei Facebook