Technische Entscheidungen können soziale Auswirkungen haben und dürfen nicht dem Zufall überlassen werden. Der neue Praxisleitfaden soll helfen, möglichst früh die richtigen Fragen zu beantworten.
Technologie Algo.Rules

Mit 145 Fragen zu besseren Entscheidungssystemen

Mit ihren „Algo.Rules“ legt die Bertelsmann Stiftung einen Werkzeugkoffer für Entwickler:innen, Programmierer:innen und Designer:innen von automatisierten Entscheidungsregeln vor. Neben neun grundsätzlichen Regeln setzt der Leitfaden vor allem auf Orientierungsfragen für die Praxis.

Lesen Sie diesen Artikel: Mit 145 Fragen zu besseren Entscheidungssystemen
Weggabelung
Technologie Algorithmische Entscheidungen

Warum das Scoring polnischer Arbeitssuchender gescheitert ist

Polen wollte Arbeitssuchende mit einem Algorithmus bewerten, musste den umstrittenen Versuch jedoch zurückziehen. Aus dem gescheiterten Anlauf lassen sich jedoch einige Lehren ziehen – um besser gegen ähnliche Maßnahmen in anderen EU-Ländern gewappnet zu sein. Die österreichische Digital-NGO epicenter.works sucht nun Betroffene, die womöglich algorithmisch diskriminiert wurden.

Lesen Sie diesen Artikel: Warum das Scoring polnischer Arbeitssuchender gescheitert ist
Geschenk mit goldener Schleife
Demokratie Facebook und die TU München

Ein Geschenk auf Raten

Wie unabhängig sind Forscher:innen am Facebook-finanzierten Ethik-Institut der TU München? Das fragten sich viele, als Konzern und Universität Anfang des Jahres ihre Zusammenarbeit verkündeten. Wir veröffentlichen die geheime Vereinbarung, die der Darstellung der Universität in wesentlichen Punkten widerspricht.

Lesen Sie diesen Artikel: Ein Geschenk auf Raten
Die Straßen von New York
Technologie Maschinenwächter für automatisierte Entscheidungen

New York schafft Algorithmen-Beauftragten

Bürgermeister Bill de Blasio möchte die New Yorker:innen vor Diskriminierung schützen und schafft ein neues Amt, das den Einsatz von automatisierten Entscheidungssystemen in der Stadtverwaltung kontrollieren soll. Damit ist New York Pionier auf diesem Gebiet. Auf dem Weg wurden aber auch viele Fehler gemacht.

Lesen Sie diesen Artikel: New York schafft Algorithmen-Beauftragten
Jugendliche sitzen vor AMS-Beraterin
Netzpolitik Podcast Podcast NPP 190

Mal sehen, was der Computer sagt

In Österreich bestimmt bald ein Algorithmus mit über die Chancen von Arbeitslosen. Der Staat verwendet dann ein System, das offen gegen Mütter, Zuwanderer*innen und Menschen mit Behinderung diskriminiert. Dabei könnte man die Prognosen auch positiv nutzen. Wie, das erklärt in dieser Folge die Mathematikerin Paola Lopez.

Lesen Sie diesen Artikel: Mal sehen, was der Computer sagt
Überwachung Bericht von Amnesty International

Geschäftsmodelle von Google und Facebook bedrohen Menschenrechte

In einem Rundumschlag warnt die Menschenrechtsorganisation vor den Folgen des Überwachungskapitalismus. Die beteiligten Unternehmen müssten ihr Geschäftsmodell ändern, der Staat wiederum müsse die Unternehmen in einem ersten Schritt besser regulieren, um die Menschenrechtsverletzungen zu unterbinden.

Lesen Sie diesen Artikel: Geschäftsmodelle von Google und Facebook bedrohen Menschenrechte
Technologie Datenethikkommission

Regierungsberater*innen fordern strengere Regeln für Daten und Algorithmen

Eine Ethikkommission der Regierung sollte Antworten auf einige der kniffeligsten Fragen zum Umgang mit Daten und Algorithmen liefern. Trotz vieler Themen und kurzer Zeit fällt die Leistung der Kommission beachtlich aus. Ihr Bericht fordert neue Aufsichtsbehörden, eine Algorithmenverordnung auf EU-Ebene und eine „Pluralismuspflicht“ für Social-Media-Torwächter.

Lesen Sie diesen Artikel: Regierungsberater*innen fordern strengere Regeln für Daten und Algorithmen
Philip Alston
Technologie Algorithmen

UN-Bericht kritisiert Einsatz neuer Technologien in Sozialsystemen

Es gibt ein hohes Risiko, dass die Digitalisierung des Wohlfahrtstaates die Ärmsten noch stärker benachteiligt als bisher. Davor warnt ein neuer UN-Bericht über den Einsatz digitaler Technologien in den Sozialsystemen. Der Bericht mahnt fundamentales Umdenken an.

Lesen Sie diesen Artikel: UN-Bericht kritisiert Einsatz neuer Technologien in Sozialsystemen
Frau sitzt neben einem AMS-Berater
Technologie Österreich

Streit um den AMS-Algorithmus geht in die nächste Runde

In Österreich hält der politische Streit um den Einsatz eines algorithmischen Systems zur Sortierung von Arbeitslosen weiter an. Jetzt haben Forscher*innen das System aus wissenschaftlicher Sicht scharf kritisiert. Der Fall könnte zum Beispiel dafür werden, wie die öffentliche Hand mit der Technologie nicht umgehen sollte.

Lesen Sie diesen Artikel: Streit um den AMS-Algorithmus geht in die nächste Runde
Predictive Policing - bald überall Realität?
Überwachung

Predictive Policing: Dem Verbrechen der Zukunft auf der Spur

Verbrechen verhindern, bevor sie geschehen, Täter fassen, bevor sie eine Tat begangen haben: Das ist die Vision von Predictive Policing, vorausschauender Polizeiarbeit. Algorithmen berechnen Gefahrenzonen und die Wahrscheinlichkeit von Verbrechen — doch ihre Zuverlässigkeit ist umstritten.

Lesen Sie diesen Artikel: Predictive Policing: Dem Verbrechen der Zukunft auf der Spur
Öffentlichkeit

Radikalisierung durch YouTube? Großzahlige Studie zur Empfehlung rechtsextremer Inhalte

Befördert YouTube die Verbreitung politisch extremer Positionen? Eine neue großzahlige Studie legt nahe, dass sich YouTube-Nutzer:innen tatsächlich im Zeitverlauf radikalisieren. Und dass YouTubes Empfehlungsalgorithmen einen Beitrag dazu leisten.

Lesen Sie diesen Artikel: Radikalisierung durch YouTube? Großzahlige Studie zur Empfehlung rechtsextremer Inhalte
Foodora-Fahrer auf Rad von hinten
Netzpolitik Podcast

NPP 181 zu Lieferdiensten: Wenn die App der Boss ist

Chris Köver und Markus Reuter sprechen mit Joanna Bronowicka, Soziologin an der Europäischen Universität Viadrina. Sie hat zahlreiche Interviews mit Fahrerinnen und Fahrern in Berlin geführt – und erzählt im dieses Mal englischsprachigen Podcast, warum Menschen bei den Firmen anheuern, wie sie versuchen, den Algorithmus auszutricksen und den Arbeitskampf gegen die Konzerne organisieren.

Lesen Sie diesen Artikel: NPP 181 zu Lieferdiensten: Wenn die App der Boss ist
Fersehturm - Blick aus Redaktionsfenster
Was vom Tage übrig blieb

Was vom Tage übrig blieb: Skype hört zu, TikTok verwirrt, Juul erkennt Gesichter

Microsofts Skype reiht sich in die Reihe von Produkten ein, die manuell überwacht werden. TikTok-Schaffende sind vom Algorithmus der Plattform verwirrt. Ein Interview zur Geschichte von 4chan. Juul Vapes wollen Gesichter von Rauchern überprüfen, bevor sie paffen dürfen. Die besten Reste des Tages.

Lesen Sie diesen Artikel: Was vom Tage übrig blieb: Skype hört zu, TikTok verwirrt, Juul erkennt Gesichter
Spielfiguren auf einem Feld, eine abseits
Netzpolitik Podcast

NPP 178: Wenn Algorithmen unabsichtlich diskriminieren

Kein Kredit, weil du nicht oft genug bei Mama anrufst? Keine Versicherung, weil du in der falschen Facebook-Gruppe hängst? Gegen Diskriminierung aufgrund von Geschlecht, Herkunft, Alter oder Religion gibt es Gesetze. Aber was passiert, wenn Algorithmen in ihren Vorhersagen unabsichtlich diskriminieren? Wir sprachen mit Daniel Schwarcz über Gleichbehandlung im Zeitalter von Künstlicher Intelligenz.

Lesen Sie diesen Artikel: NPP 178: Wenn Algorithmen unabsichtlich diskriminieren