Schlagwort: Algorithmische Entscheidungen

In einer kürzlich veröffentlichten wissenschaftlichen Forschung kritisiert Jura-Professor Douwe Korff den Einsatz von KI-Modellen zur Terrorismusabwehr im Rahmen der EU-Richtlinie zur Verarbeitung von Fluggastdaten. Mindestens 500.000 Personen würden demnach jedes Jahr zu Unrecht verdächtigt.

Wenn Banken alleine aufgrund von Algorithmen über ihre Kund:innen entscheiden, dann müssen sie zumindest die Kriterien und Gründe bei einer Ablehnung transparent machen. Sonst kann es ein Bußgeld geben.

Eine Montage aus mehreren Bildern. Links Gesichter mit farblich hervorgehobenen biometrischen Merkmalen. In der Mitte oben ein Grenzzaun mit Wachturm. In der Mitte unten die Röntgen-Aufnahme eines Knies. Rechts die Darstellung eines Lebenslaufs. Die Collage stellt somit verschiedene Bereiche dar, die vom AI Act betroffen sind.

Seit dem Hype um ChatGPT richten sich viele Blicke auf den geplanten AI Act. Die EU-Verordnung zu „Künstlicher Intelligenz“ ist seit Jahren in der Mache und soll morgen im Parlament eine nächste Hürde überwinden. An mindestens sechs Stellen lauern Probleme.

Ein Handy mit der Uber-App klemmt in einer Halterung neben dem Lenkrad.

Gewerkschaften sind essenziell, um in einer automatisierten Arbeitswelt die Rechte aller Beschäftigten zu schützen. Bisher mangelt es aber an praktischen Ratschlägen für Arbeitende und ihre Vertreter:innen, bilanziert ein neuer Bericht von AlgorithmWatch.

Ein Lieferando Rider in knallendem Orange vor schwarz-weißem Hintergrund.

Die EU will bessere Arbeitsbedingungen für Kurierfahrer*innen, Reinigungskräfte und andere in der Gig Economy. Doch was würde die geplante Plattformrichtlinie für Unternehmen in Deutschland bedeuten? Wir haben nachgefragt.

A scandal involving racial discrimination in the verification of childcare benefit claims continues to rock the Netherlands. Now the government accepts a fine in the millions. It is probably the first case in which a government has had to pay for data-based discrimination against citizens.

Ein Skandal um rassistische Diskriminierung bei der Überprüfung von Kindergeldansprüchen erschüttert die Niederlande bis heute. Nun akzeptiert die Regierung ein Bußgeld in Millionenhöhe. Es ist der wohl erste Fall, bei dem eine Regierung für die automatisierte datenbasierte Diskriminierung von Bürger:innen zahlen muss.

Plattformen wie Uber sollten europaweit rund 5,5 Millionen Arbeitskräfte anstellen, fordert die EU-Behörde. Sie legt eine Richtlinie vor, die gegen die Ausbeutung von Gig-Arbeiter:innen helfen soll.

Mehr als 800.000 Menschen hat der türkische Staat laut einem Bericht von Statewatch mittels eines Algorithmus gerastert, um mutmaßliche Anhänger:innen des Putschversuchs von 2016 zu finden und aus dem Militär zu entfernen.

Der Computer soll entscheiden, welche Bewerberin einen Job bekommt. Dass solche Systeme noch nicht funktionieren, zeigt eine Recherche des Bayerischen Rundfunks.

Die EU-Kommission will die Macht der Online-Konzerne bändigen und nimmt dabei auch deren Empfehlungsalgorithmen in den Blick. Wer Facebook und Twitter nutzt, soll künftig besser steuern können, was im eigenen Feed erscheint. Auch die Forschung soll mehr Einblick bekommen.

Ein automatisiertes System sollte in Österreich über Ausbildungschancen von Arbeitssuchenden urteilen. Doch die Datenschutzbehörde stoppte das Projekt und fordert eine gesetzliche Grundlage.

In Großbritannien fürchten die Schulabsolvent:innen des ganzen Jahrgangs 2020 um ihre universitäre und berufliche Zukunft. Erst gab es keine Schule und Prüfungen – und jetzt hat auch noch ein eingesetzter Algorithmus die Noten vieler herabgestuft. Nach wachsenden Protesten wurde die Benotung jetzt zurückgenommen.

Technische Entscheidungen können soziale Auswirkungen haben und dürfen nicht dem Zufall überlassen werden. Der neue Praxisleitfaden soll helfen, möglichst früh die richtigen Fragen zu beantworten.

Mit ihren „Algo.Rules“ legt die Bertelsmann Stiftung einen Werkzeugkoffer für Entwickler:innen, Programmierer:innen und Designer:innen von automatisierten Entscheidungsregeln vor. Neben neun grundsätzlichen Regeln setzt der Leitfaden vor allem auf Orientierungsfragen für die Praxis.

Datenbasierte Technologien bringen nicht nur mehr Effizienz. Sie werden auch zur Gefahr für jene, die ohnehin schon strukturell am Rand stehen. In ihrem Gastbeitrag erklärt Sarah Chander, was Datenrassismus ist, wie er sich auf Betroffene auswirkt und was wir dagegen tun können.

Polen wollte Arbeitssuchende mit einem Algorithmus bewerten, musste den umstrittenen Versuch jedoch zurückziehen. Aus dem gescheiterten Anlauf lassen sich jedoch einige Lehren ziehen – um besser gegen ähnliche Maßnahmen in anderen EU-Ländern gewappnet zu sein. Die österreichische Digital-NGO epicenter.works sucht nun Betroffene, die womöglich algorithmisch diskriminiert wurden.

Algorithmische Entscheidungen

Kritik an Fluggastdatenrasterung: KI-Modelle zur Terrorismusabwehr ungeeignet

Datenschutzgrundverordnung: 300.000 Euro Bußgeld gegen Bank wegen automatisierter Entscheidung

"Künstliche Intelligenz": Die sechs größten Probleme im AI Act

NGO-Bericht: Wie Gewerkschaften weltweit gegen unfaire Algorithmen kämpfen

Plattformarbeit: Was die geplante Richtlinie der EU bedeutet

Childcare benefits scandal: Dutch government to pay million Euro fine over racist data discrimination

Kindergeldaffäre: Niederlande zahlen Millionenstrafe wegen Datendiskriminierung

Gig Work: EU-Kommission will Scheinselbstständigkeit stoppen

Algorithmen für Bewerbungen: Das Bücherregal im Hintergrund hat Einfluss darauf, ob Du den Job bekommst

Digital Services Act: Neues Grundgesetz für Onlinedienste nimmt Algorithmen ins Visier

Österreich: Datenschutzbehörde stoppt Jobcenter-Algorithmus

Fuck the Algorithm: Jugendproteste in Großbritannien gegen maschinelle Notenvergabe erfolgreich

Algo.Rules: Mit 145 Fragen zu besseren Entscheidungssystemen

Datenrassismus: Eine neue Ära

Algorithmische Entscheidungen: Warum das Scoring polnischer Arbeitssuchender gescheitert ist