Frau sitzt neben einem AMS-Berater
Technologie

Streit um den AMS-Algorithmus geht in die nächste Runde

In Österreich hält der politische Streit um den Einsatz eines algorithmischen Systems zur Sortierung von Arbeitslosen weiter an. Jetzt haben Forscher*innen das System aus wissenschaftlicher Sicht scharf kritisiert. Der Fall könnte zum Beispiel dafür werden, wie die öffentliche Hand mit der Technologie nicht umgehen sollte.

Lesen Sie diesen Artikel: Streit um den AMS-Algorithmus geht in die nächste Runde
Kleine Polizeifigur vor Modelhaus
Überwachung

Regulieren oder verbieten? Wie Unternehmen und Politik in den USA um Regeln für Gesichtserkennung ringen

In den USA fordern Unternehmen, Bürgerrechtsorganisationen und politische Akteur*innen gesetzliche Einschränkungen für die Anwendung automatisierter Gesichtserkennung. Doch die Hintergründe und das Ausmaß der Forderungen unterscheiden sich.

Lesen Sie diesen Artikel: Regulieren oder verbieten? Wie Unternehmen und Politik in den USA um Regeln für Gesichtserkennung ringen
Datenschutz

Privatsphäre von Kindern: Wer will an die Daten?

Kinder hinterlassen heutzutage die wohl größten digitalen Fußabdrücke der Geschichte – ihre Daten werden sowohl von privaten Unternehmen als auch von Regierungen gesammelt und ausgewertet. Das hat Folgen: Es geht um ihre Freiheit, aus Fehlern zu lernen, ihre Chancen und Möglichkeiten und diskriminierende Algorithmen.

Lesen Sie diesen Artikel: Privatsphäre von Kindern: Wer will an die Daten?
Demokratie

Facebook: Bericht fordert, Lob auf Rassismus zu verbieten

Seit letztem Jahr läuft bei Facebook eine Untersuchung zu Bürgerrechten. Diese fordert nun in einem Bericht, jedes Lob zu rassistischen Ideologien zu löschen. Außerdem soll Werbung zu Wohnungen, Jobs oder Krediten nicht mehr nach potentiell diskriminierenden Kriterien geschaltet werden.

Lesen Sie diesen Artikel: Facebook: Bericht fordert, Lob auf Rassismus zu verbieten
Silhoutte von Tübingen mit Outlook-Symbolen
Datenschutz

So führt Tübingen eine Liste mit „auffälligen“ Geflüchteten

Tübingens Oberbürgermeister Boris Palmer würde problematische Geflüchtete gern an einem Ort sammeln. Er ließ eine „Liste der Auffälligen“ einrichten, Menschen darauf wurden in spezielle Unterkünfte verlegt. Nach welchen Kriterien sie auf der Liste landen, ist unklar. Bekannt ist dagegen das Format: ein gemeinsam genutztes Outlook-Postfach.

Lesen Sie diesen Artikel: So führt Tübingen eine Liste mit „auffälligen“ Geflüchteten
Öffentlichkeit

Hohes Diskriminierungspotential bei automatisierten Entscheidungen

In vielen gesellschaftlichen Bereichen werden Entscheidungen bereits von Algorithmen getroffen. Doch das ist mit Risiken für den Menschen verbunden. Mit dem „Atlas der Automatisierung“ möchte AlgorithmWatch zu mehr Transparenz in der automatisierten Entscheidungsfindung beitragen.

Lesen Sie diesen Artikel: Hohes Diskriminierungspotential bei automatisierten Entscheidungen
Demokratie

Gesichtserkennung: Kritik macht Algorithmen genauer, nicht nur für weiße Männer

Die MIT-Forscherin Joy Buolamwini hat untersucht, wie ihre Kritik an diskriminierender Gesichtserkennung zur Lösung des Problems beiträgt. Ein halbes Jahr nach ihrer Studie zeigt sich: unabhängige Beobachtung wirkt. IBM, Microsoft und andere Hersteller erkennen nun Gesichter von Schwarzen und Frauen besser.

Lesen Sie diesen Artikel: Gesichtserkennung: Kritik macht Algorithmen genauer, nicht nur für weiße Männer
Eine Frau hält sich die Hände vor das Gesicht, schwarzer Hintergrund
Öffentlichkeit

Amnesty International: Alle 30 Sekunden ein verachtender Tweet gegen Frauen

Journalistinnen, Politikerinnen, Aktivistinnen: Für viele Frauen ist Twitter ein Spießrutenlauf. Eine Studie von Amnesty International bestätiget das ohnehin marode Bild – und benennt diese Situation als Menschenrechtsverletzung.

Lesen Sie diesen Artikel: Amnesty International: Alle 30 Sekunden ein verachtender Tweet gegen Frauen
Graffiti an der Wand "Fuck Money"
Demokratie

#Thotaudit: Die neueste Taktik, um Sexarbeiterinnen im Netz zu jagen

Wer darf im Netz Geld verdienen? Sexarbeiterinnen auf jeden Fall nicht, wenn es nach den Frauenhassern hinter #thotaudit geht. Die organsierte Hetzkampagne gegen Frauen, die online sexuelle Dienstleistungen anbieten zeigt, wie einfach es ist jene zu jagen, die rechtlich nicht geschützt sind.

Lesen Sie diesen Artikel: #Thotaudit: Die neueste Taktik, um Sexarbeiterinnen im Netz zu jagen
Gesenkter Blick eines Gesichts mit fluoreszierenden Farbspritzern.
Überwachung

Diskriminierende Gesichtserkennung: Ich sehe was, was du nicht bist

Menschen erkennen Gesichter sogar in Toastbrot, doch die automatische Erkennungssoftware tut sich damit noch schwer. Grund sind rassistische Vorurteile, die in die Systeme integriert werden und mangelnde Vielfalt in den Trainingsdaten. In ihrem Buch sensibilisieren Frederike Kaltheuner und Nele Obermüller die LeserInnen für Daten-Ungerechtigkeiten.

Lesen Sie diesen Artikel: Diskriminierende Gesichtserkennung: Ich sehe was, was du nicht bist
Menschen in der Hängematte in der Sonne
Technologie

Interview mit KI-Forscher Toby Walsh: „Wir müssen jetzt die richtigen Entscheidungen treffen“

Keine Panik, Künstliche Intelligenz wird uns nicht umbringen, sondern unser Leben besser machen. Das sagt Toby Walsh, einer der führenden Experten aus der KI-Forschung. Allerdings müssen wir uns dazu klar werden, was ein gutes Leben ausmacht. Ein Gespräch darüber, was wir an Maschinen delegieren sollten, welche Jobs für uns übrig bleiben und warum alte Werte auch für neue Technologien gelten.

Lesen Sie diesen Artikel: Interview mit KI-Forscher Toby Walsh: „Wir müssen jetzt die richtigen Entscheidungen treffen“
Öffentlichkeit

Goliathwatch-Studie: Google macht weiter rassistische Suchvorschläge

Laut einer Studie des Vereins Goliathwatch macht Google trotz jahrelanger Kritik weiter diskriminierende Vorschläge für seine Suche. Die Autor*innen fordern, dass Google die Autovervollständigung abschalten oder ein Redaktionsteam dafür einstellen soll.

Lesen Sie diesen Artikel: Goliathwatch-Studie: Google macht weiter rassistische Suchvorschläge
Öffentlichkeit

Facebook betreibt Augenwischerei im Kampf gegen diskriminierende Werbung

Bei Facebook lassen sich bisher in Werbeanzeigen allzu leicht Frauen, Alte oder ethnische Minderheiten diskriminieren. Der Konzern will nun stärker gegen die missbräuchliche Verwendung von maßgeschneiderter Werbung vorgehen und löscht 5,000 Werbekategorien. Doch diese Änderungen kratzen nur an der Oberfläche: Diskriminierung gehört de facto zum Geschäftsmodell von Facebook.

Lesen Sie diesen Artikel: Facebook betreibt Augenwischerei im Kampf gegen diskriminierende Werbung
Demokratie

Erweiterte DNA-Analyse: Populistischer Stimmenfang statt wirksames Ermittlungsinstrument

Die aktuelle politische Diskussion über die Zulassung von DNA-Phänotypisierung im deutschen Sicherheitsrecht erfolgt derzeit nicht nur auf einer unwissenschaftlichen Grundlage, sondern berücksichtigt auch nicht den verfassungsrechtlichen Rahmen unserer Grundrechte und der Diskriminierungsverbote.

Lesen Sie diesen Artikel: Erweiterte DNA-Analyse: Populistischer Stimmenfang statt wirksames Ermittlungsinstrument
Öffentlichkeit

Internet-Shutdown: Regierung von Kamerun vor Gericht

Die NGOs Access Now und Internet Sans Frontières gehen rechtlich gegen Internetsperren in dem westafrikanischen Land vor. Wegen eines dreimonatigen Shutdowns im vergangenen Jahr laufen bereits zwei Verfahren gegen die Regierung, nun sind erneut Webseiten und Apps von sozialen Medien in Teilen des Landes blockiert.

Lesen Sie diesen Artikel: Internet-Shutdown: Regierung von Kamerun vor Gericht
Linkschleuder

ProPublica-Recherche: „Multikulturelles“ Aussortieren bei US-Facebook immer noch möglich

Die US-Recherchejournalistin Julia Angwin hat in Sachen Werbediskriminierung auf Facebook nachgelegt. Vor einem Jahr hatte sie aufgedeckt, dass man auf der Social-Media-Plattform in den USA sehr leicht Anzeigen schalten kann, die auf verbotene Weise diskriminieren (wir berichteten). Facebooks Baukasten für Targeted Advertising ermöglicht es dem neuen Bericht zufolge weiterhin, auch bei Anzeigen für Wohnungen und […]

Lesen Sie diesen Artikel: ProPublica-Recherche: „Multikulturelles“ Aussortieren bei US-Facebook immer noch möglich