Schlagwort: Diskriminierung

Lange Zeit konnten US-Werbetreibende gezielt Menschen von Anzeigen ausschließen, denen Facebook die Merkmale „African American“ oder „Hispanic“ zuschrieb. Nach Protesten, Gerichtsverfahren und etlichen Besserungsversprechen hat der Konzern die Funktion jetzt endlich eingestampft.

Ein automatisiertes System sollte in Österreich über Ausbildungschancen von Arbeitssuchenden urteilen. Doch die Datenschutzbehörde stoppte das Projekt und fordert eine gesetzliche Grundlage.

Airbnb besitzt ein Patent, mit dem sich vermeintlich die Vertrauenswürdigkeit von Nutzer:innen berechnen lässt. Immer wieder sperrt das Unternehmen Accounts von Sexarbeiter:innen, selbst wenn diese nur privat verreisen wollen. Wie die Entscheidungen zustande kommen, bleibt intransparent.

TikTok hat Moderator:innen angewiesen, Videos von dicken, unattraktiven oder armen Menschen auf der Plattform zu verstecken, damit sie keine neue Nutzer:innen abschrecken. Die geleakten Dokumente zeichnen das Bild einer Firma, der ein Blick für Verhältnismäßigkeit fehlt.

Die polizeiliche Stigmatisierung von Sinti und Roma hat hierzulande eine lange Tradition. Sie begann im Kaiserreich und setzt sich bis heute in Polizeidatenbanken fort. Auf dem 36c3 haben Lea Beckmann und Anja Reuss die Geschichte dieser Diskriminierung präsentiert und die heutige Situation beleuchtet.

Neue Einblicke in die Moderationsregeln zeigen, wie TikTok versuchte Mobbing zu bekämpfen: Videos von Menschen mit Behinderungen wurden einfach versteckt. Auch queeren und dicken Nutzer:innen drehte man so das Publikum ab. Das Erstaunen und der Ärger darüber sind groß.

In Österreich bestimmt bald ein Algorithmus mit über die Chancen von Arbeitslosen. Der Staat verwendet dann ein System, das offen gegen Mütter, Zuwanderer*innen und Menschen mit Behinderung diskriminiert. Dabei könnte man die Prognosen auch positiv nutzen. Wie, das erklärt in dieser Folge die Mathematikerin Paola Lopez.

In einem Rundumschlag warnt die Menschenrechtsorganisation vor den Folgen des Überwachungskapitalismus. Die beteiligten Unternehmen müssten ihr Geschäftsmodell ändern, der Staat wiederum müsse die Unternehmen in einem ersten Schritt besser regulieren, um die Menschenrechtsverletzungen zu unterbinden.

In Bayern nutzen Ermittler heute schon DNA-Analysen, um die mutmaßliche Haut- oder Augenfarbe von Verdächtigen zu bestimmen. Das Justizministerium will diese erweiterten DNA-Analysen auch auf Bundesebene ermöglichen. Das bringt Probleme mit sich. Ein Interview mit Prof. Dr. Veronika Lipphardt.

Es gibt ein hohes Risiko, dass die Digitalisierung des Wohlfahrtstaates die Ärmsten noch stärker benachteiligt als bisher. Davor warnt ein neuer UN-Bericht über den Einsatz digitaler Technologien in den Sozialsystemen. Der Bericht mahnt fundamentales Umdenken an.

In Österreich hält der politische Streit um den Einsatz eines algorithmischen Systems zur Sortierung von Arbeitslosen weiter an. Jetzt haben Forscher*innen das System aus wissenschaftlicher Sicht scharf kritisiert. Der Fall könnte zum Beispiel dafür werden, wie die öffentliche Hand mit der Technologie nicht umgehen sollte.

In den USA fordern Unternehmen, Bürgerrechtsorganisationen und politische Akteur*innen gesetzliche Einschränkungen für die Anwendung automatisierter Gesichtserkennung. Doch die Hintergründe und das Ausmaß der Forderungen unterscheiden sich.

Kinder hinterlassen heutzutage die wohl größten digitalen Fußabdrücke der Geschichte – ihre Daten werden sowohl von privaten Unternehmen als auch von Regierungen gesammelt und ausgewertet. Das hat Folgen: Es geht um ihre Freiheit, aus Fehlern zu lernen, ihre Chancen und Möglichkeiten und diskriminierende Algorithmen.

Seit letztem Jahr läuft bei Facebook eine Untersuchung zu Bürgerrechten. Diese fordert nun in einem Bericht, jedes Lob zu rassistischen Ideologien zu löschen. Außerdem soll Werbung zu Wohnungen, Jobs oder Krediten nicht mehr nach potentiell diskriminierenden Kriterien geschaltet werden.

Silhoutte von Tübingen mit Outlook-Symbolen

Tübingens Oberbürgermeister Boris Palmer würde problematische Geflüchtete gern an einem Ort sammeln. Er ließ eine „Liste der Auffälligen“ einrichten, Menschen darauf wurden in spezielle Unterkünfte verlegt. Nach welchen Kriterien sie auf der Liste landen, ist unklar. Bekannt ist dagegen das Format: ein gemeinsam genutztes Outlook-Postfach.

In vielen gesellschaftlichen Bereichen werden Entscheidungen bereits von Algorithmen getroffen. Doch das ist mit Risiken für den Menschen verbunden. Mit dem „Atlas der Automatisierung“ möchte AlgorithmWatch zu mehr Transparenz in der automatisierten Entscheidungsfindung beitragen.

Die MIT-Forscherin Joy Buolamwini hat untersucht, wie ihre Kritik an diskriminierender Gesichtserkennung zur Lösung des Problems beiträgt. Ein halbes Jahr nach ihrer Studie zeigt sich: unabhängige Beobachtung wirkt. IBM, Microsoft und andere Hersteller erkennen nun Gesichter von Schwarzen und Frauen besser.

Eine Frau hält sich die Hände vor das Gesicht, schwarzer Hintergrund

Journalistinnen, Politikerinnen, Aktivistinnen: Für viele Frauen ist Twitter ein Spießrutenlauf. Eine Studie von Amnesty International bestätiget das ohnehin marode Bild – und benennt diese Situation als Menschenrechtsverletzung.

Frauen sind in der Wikipedia stark unterrepräsentiert und viele Männer wollen, dass das so bleibt. Das merken die Editorinnen nicht nur am harschen Umgangston.

In der Forschung zu Künstlicher Intelligenz fehlen die Beiträge von Frauen und nicht-weißen Menschen. Die Veranstalter*innen der weltgrößten Konferenz NeurIPS wollen das ändern – und scheiterten an den Einreisebedingungen nach Kanada.

Diskriminierung

Targeted Advertising: Facebook und Instagram streichen die Racial-Profiling-Option für zielgerichtete Werbung

Österreich: Datenschutzbehörde stoppt Jobcenter-Algorithmus

Diskriminierende Moderationspraktiken: Zu hässlich für TikTok

Polizeidatenbanken: Minderheit im Visier

Podcast NPP 190: Mal sehen, was der Computer sagt

Bericht von Amnesty International: Geschäftsmodelle von Google und Facebook bedrohen Menschenrechte

Erweiterte DNA-Analyse: DNA ist kein Augenzeuge, der eine Aussage machen möchte

Algorithmen: UN-Bericht kritisiert Einsatz neuer Technologien in Sozialsystemen

Österreich: Streit um den AMS-Algorithmus geht in die nächste Runde

Regulieren oder verbieten? : Wie Unternehmen und Politik in den USA um Regeln für Gesichtserkennung ringen

Privatsphäre von Kindern: Wer will an die Daten?

Facebook: Bericht fordert, Lob auf Rassismus zu verbieten

So führt Tübingen eine Liste mit „auffälligen“ Geflüchteten

Hohes Diskriminierungspotential bei automatisierten Entscheidungen

Gesichtserkennung: Kritik macht Algorithmen genauer, nicht nur für weiße Männer

Amnesty International: Alle 30 Sekunden ein verachtender Tweet gegen Frauen

It’s a man’s world: Wie weibliche Editorinnen von der Wikipedia verdrängt werden

Kanada lässt afrikanische KI-Forscher*innen nicht zu Konferenz einreisen